JagoSatu.com - Dunia teknologi lagi memanas setelah Senator Elizabeth Warren blak-blakan menyemprot CEO Google, Sundar Pichai. Beliau mempertanyakan ambisi Google yang mau memasukkan AI Gemini secara mendalam ke dalam fitur belanja harian kita.
Dilansir oleh surat resminya, Warren menyoroti standar baru bernama "Universal Commerce Protocol" (UCP). Protokol ini dikembangkan Google bareng raksasa retail seperti Shopify hingga Walmart agar robot AI mereka bisa saling berkomunikasi langsung di Gemini.
Fitur ini nantinya memungkinkan kita belanja langsung lewat chatbot, lengkap dengan tombol beli di layanan Google. Namun, dilansir oleh para ahli, integrasi ini justru memicu kekhawatiran besar soal keamanan data konsumen.
Poin utamanya adalah potensi penyalahgunaan data pencarian dan obrolan Gemini. Warren memperingatkan bahwa gabungan data ini bisa dipakai untuk memanipulasi konsumen agar belanja lebih banyak dengan harga yang dipasang lebih tinggi.
Dikutip dari laporan publik, banyak orang mulai merasa takut. Mereka khawatir Google bakal menggabungkan riwayat pencarian lokasi dan peta dengan data pembelian pribadi untuk menciptakan profil yang terlalu detail dan menyeramkan.
Hal yang bikin makin was-was adalah potensi diskriminasi harga lewat AI. Sistem ini dicurigai bisa membaca data kita untuk menampilkan harga paling mahal yang kemungkinan besar masih sanggup kita bayar saat itu juga.
Taktik jualan tambahan atau "upselling" juga jadi sorotan tajam. Warren minta Google jujur apakah saran dari Gemini itu murni bantuan atau cuma iklan terselubung demi komisi dari pengecer yang bekerja sama.
Warren juga mengingatkan soal dosa-dosa Google Shopping di masa lalu yang sempat kena denda besar. Beliau takut Google bakal pilih kasih lagi dengan lebih memprioritaskan barang dari mitra UCP daripada pesaingnya.
Ada juga isu persekongkolan antar robot AI pengecer. Karena semua diprogram untuk cari untung maksimal, sistem UCP ini dikhawatirkan bisa bikin harga barang naik secara serempak tanpa kita sadari.
Selain itu, cara mereka berbagi data ternyata masih sangat buram. Meski Google bilang pengguna harus setuju dulu, Warren melihat ada upaya sengaja untuk menyembunyikan pilihan detail data mana saja yang ingin dibagikan.
Beberapa pengamat menyebut taktik ini sebagai "dark pattern" atau pola gelap. Tujuannya agar pengguna asal klik "setuju" saja tanpa tahu bahwa data sensitif mereka sebenarnya sedang dipertaruhkan demi kepentingan iklan.
Untuk itu, Warren melayangkan dua belas pertanyaan maut kepada Sundar Pichai. Beliau menuntut transparansi soal bagaimana algoritma penetapan harga bekerja dan sejauh mana data lokasi hingga keuangan kita digunakan oleh AI.
Dilansir oleh pernyataan resminya, pembeli online berhak tahu kenapa sebuah produk direkomendasikan kepada mereka. Kita butuh penjelasan jelas agar tidak jadi korban eksploitasi di balik kedok kemudahan teknologi yang ditawarkan Google.
Kritik keras juga datang dari publik yang merasa ini adalah mesin manipulasi pengawasan. Ini bukan sekadar inovasi, tapi tantangan regulasi besar bagi pemerintah untuk segera mengejar ketertinggalan aturan di era AI.
Sekarang, tinggal tunggu jawaban Google sampai 17 Februari nanti. Jawaban Sundar Pichai bakal menentukan nasib belanja online kita kedepannya. Menurut kalian, apakah fitur belanja AI ini beneran membantu atau justru merugikan? (tmtiwow)
Editor : Toar Rotulung