Ulasyuk.com - Jakarta, tren belanja otomatis berbasis AI atau agentic shopping memicu peringatan dari sektor perbankan global. Enam bank besar dunia, termasuk Bank of America dan Capital One, menilai teknologi ini membawa risiko serius bagi konsumen.
Peringatan tersebut tercantum dalam laporan berjudul Building Trust in Agentic Commerce. Laporan itu membahas sejumlah persoalan, mulai dari transparansi, keselamatan, privasi data, kebebasan memilih, hingga kemampuan berbagai sistem untuk saling terhubung.
Menurut laporan tersebut, risiko akan meningkat seiring bertambahnya kewenangan yang diberikan kepada agen AI. Teknologi ini dapat mencari barang, membandingkan harga, dan melakukan pembayaran atas nama pengguna.
Belanja otomatis berbasis AI belum sepenuhnya dipercaya
Para pengembang AI, peritel, dan perusahaan pembayaran kini berlomba menghadirkan chatbot perdagangan berbasis agen. Mereka menawarkan otomatisasi yang mampu menangani hampir seluruh proses belanja online.
Namun, penerimaan konsumen masih berjalan lambat. Banyak pengguna belum siap memberikan akses penuh kepada agen AI untuk mengelola rekening atau kartu kredit mereka.
“Konsumen tidak yakin apakah agen AI akan benar-benar bertindak demi kepentingan mereka,” tulis laporan bank-bank global tersebut. Konsumen juga khawatir agen AI salah membeli barang, menghabiskan terlalu banyak uang, atau membuat mereka kehilangan uang akibat penipuan.
Sementara itu, Ron Johnson, mantan eksekutif Apple yang berperan dalam pendirian Apple Store, menilai AI memang dapat membuat belanja online lebih pintar. Namun, ia meragukan teknologi tersebut mampu mengubah esensi pengalaman berbelanja secara fisik.
Risiko komisi tersembunyi dan kejahatan siber
Laporan itu menguraikan beberapa skenario yang dapat merugikan konsumen dan pedagang. Salah satunya berkaitan dengan konflik kepentingan. Agen AI mungkin memprioritaskan produk atau metode pembayaran tertentu demi memperoleh insentif dan komisi lebih tinggi.
Selain itu, perdagangan berbasis agen berpotensi meningkatkan penipuan, kecurangan, dan sengketa transaksi. Kebocoran data juga dapat langsung mengancam aset sensitif milik konsumen maupun pedagang.
Kasus pada asisten AI Meta, Muse, memperlihatkan risiko tersebut. Meta harus memperbaiki kerentanan zero-day pada Muse setelah celah keamanan memungkinkan peretas membajak asisten itu dan menyalahgunakan izin akses pengguna.
Insiden tersebut terjadi sehari setelah Amazon memblokir Muse dari situs e-commerce-nya. Amazon menilai agen Meta itu berbelanja tanpa identifikasi yang jelas. Kondisi tersebut memicu kekhawatiran terhadap keamanan data akun dan kredensial pelanggan.
Regulasi dan perlindungan konsumen menjadi syarat
Meski memberikan peringatan, enam bank tersebut tidak menutup peluang bagi perkembangan belanja otomatis berbasis AI. Mereka mengakui teknologi ini berpotensi menjadi bagian penting dari transaksi pada masa depan.
Namun, penerapan massal membutuhkan regulasi, standar industri, dan perlindungan konsumen yang lebih kuat. Ketiga unsur itu perlu bergerak lebih cepat agar mampu mengimbangi perkembangan teknologi AI.
Dengan demikian, kemudahan belanja otomatis tidak cukup menjadi alasan untuk memberikan kewenangan penuh kepada agen AI. Konsumen tetap membutuhkan transparansi, kendali atas transaksi, serta jaminan keamanan ketika teknologi tersebut mengakses data dan alat pembayaran mereka.
