Anda mencari di Google. AI berhalusinasi sebuah jawaban. Siapa yang bertanggung jawab secara hukum?

Featured Post Image - Anda mencari di Google.  AI berhalusinasi sebuah jawaban.  Siapa yang bertanggung jawab secara hukum?

Peralihan Google ke arah penggunaan AI untuk menghasilkan jawaban tertulis atas penelusuran pengguna alih-alih menyediakan daftar tautan yang diberi peringkat berdasarkan relevansi secara algoritmik tidak dapat dihindari. Sebelum Ikhtisar AI – diperkenalkan minggu lalu untuk pengguna AS – Google memiliki Panel Pengetahuan, yaitu kotak informasi yang muncul di bagian atas beberapa penelusuran, memberikan insentif kepada pengguna untuk mendapatkan jawaban langsung dari Google, daripada mengeklik untuk melihat hasilnya.

Ikhtisar AI merangkum hasil pencarian untuk sebagian kueri, tepat di bagian atas halaman. Hasilnya diambil dari berbagai sumber, yang dikutip dalam galeri drop-down di bawah ringkasan. Seperti halnya respons yang dihasilkan AI, kualitas dan keandalan jawaban ini bervariasi.

Ikhtisar telah meminta pengguna untuk mengganti cairan penutup mata mereka – yang sebenarnya tidak ada – tampaknya karena menerima tanggapan lelucon dari forum tempat pengguna mencari saran mobil dari rekan-rekan mereka. Dalam pengujian yang saya jalankan pada hari Rabu, Google mampu menghasilkan instruksi untuk melakukan push-up dengan benar, yang banyak mengambil inspirasi dari instruksi dalam artikel New York Times. Kurang dari seminggu setelah meluncurkan fitur ini, Google mengumumkan bahwa mereka mencoba cara untuk memasukkan iklan ke dalam respons generatif mereka.

Saya telah menulis tentang Hal-Hal Buruk secara online selama bertahun-tahun, jadi tidak mengherankan jika, setelah mendapatkan akses ke Ikhtisar AI, saya mulai mencari di Google banyak hal yang mungkin menyebabkan alat pencarian generatif mengambil dari sumber yang tidak dapat diandalkan. Hasilnya beragam, dan sepertinya mereka sangat bergantung pada ungkapan yang tepat dari pertanyaan saya.

Saat saya mengetikkan pertanyaan yang menanyakan informasi tentang dua orang berbeda yang banyak dikaitkan dengan “penyembuhan” alami kanker yang meragukan, saya menerima satu jawaban yang hanya mengulangi klaim orang ini tanpa kritis. Untuk nama lainnya, mesin Google menolak memberikan tanggapan generatif.

Hasil pertanyaan dasar pertolongan pertama – seperti cara membersihkan luka – diambil dari sumber terpercaya untuk menghasilkan jawaban ketika saya mencobanya. Pertanyaan tentang “detoks” mengulangi klaim yang tidak terbukti dan kehilangan konteks penting.

Namun alih-alih mencoba mengetahui seberapa andal hasil tersebut secara keseluruhan, ada pertanyaan lain yang perlu ditanyakan di sini: Jika Ikhtisar AI Google menemukan kesalahan, siapa yang bertanggung jawab jika jawaban tersebut merugikan seseorang?

Siapa yang bertanggung jawab atas AI?

Jawaban atas pertanyaan tersebut mungkin tidak sederhana, menurut Samir Jain, wakil presiden kebijakan di Pusat Demokrasi dan Teknologi. Pasal 230 Undang-Undang Kepatutan Komunikasi tahun 1996 sebagian besar melindungi perusahaan seperti Google dari tanggung jawab atas konten pihak ketiga yang diposting di platformnya karena Google tidak diperlakukan sebagai penerbit informasi yang dihostingnya.

Masih “kurang jelas” bagaimana undang-undang tersebut akan diterapkan pada jawaban pencarian yang dihasilkan AI, kata Jain. Ikhtisar AI membuat perlindungan Bagian 230 sedikit lebih berantakan karena lebih sulit untuk mengetahui apakah konten tersebut dibuat oleh Google atau hanya muncul oleh Google.

“Jika Anda memiliki ikhtisar AI yang berisi halusinasi, agak sulit untuk melihat bagaimana halusinasi tersebut setidaknya sebagian tidak dibuat atau dikembangkan oleh Google,” kata Jain. Namun halusinasi berbeda dengan memunculkan informasi buruk. Jika Ikhtisar AI Google mengutip pihak ketiga yang memberikan informasi tidak akurat, perlindungan tersebut kemungkinan masih berlaku.

Sejumlah skenario lain masih berada di area abu-abu untuk saat ini: jawaban yang dihasilkan Google diambil dari pihak ketiga namun tidak harus langsung mengutipnya. Jadi apakah itu konten asli, atau lebih seperti cuplikan yang muncul di bawah hasil pencarian?

Meskipun alat penelusuran generatif seperti AI Review mewakili wilayah baru dalam hal perlindungan Pasal 230, risikonya tidak bersifat hipotetis. Aplikasi yang menyatakan bahwa mereka dapat menggunakan AI untuk mengidentifikasi jamur bagi calon penjelajah sudah tersedia di toko aplikasi, meskipun ada bukti bahwa alat ini tidak terlalu akurat. Bahkan dalam demo pencarian video baru Google, kesalahan faktual terjadi, seperti yang diketahui oleh The Verge.

Makan kode sumber internet

Ada pertanyaan lain di sini selain kapan Pasal 230 mungkin berlaku atau tidak untuk jawaban yang dihasilkan AI: insentif yang terkandung atau tidak terkandung dalam Tinjauan AI untuk penciptaan informasi yang dapat diandalkan. Ikhtisar AI bergantung pada web yang terus memuat banyak informasi faktual yang diteliti. Namun alat ini juga tampaknya mempersulit pengguna untuk mengklik ke sumber tersebut.

“Kekhawatiran utama kami adalah mengenai dampak potensial terhadap motivasi manusia,” kata Jacob Rogers, penasihat umum asosiasi di Wikimedia Foundation, melalui email. “Alat AI generatif harus mencakup pengakuan dan timbal balik atas kontribusi manusia yang mendasarinya, melalui atribusi yang jelas dan konsisten.”

Wikimedia Foundation belum melihat penurunan besar dalam lalu lintas ke Wikipedia atau proyek Wikimedia lainnya sebagai akibat langsung dari chatbot dan alat AI hingga saat ini, namun Rogers mengatakan bahwa yayasan tersebut sedang memantau situasinya. Google, di masa lalu, mengandalkan Wikipedia untuk mengisi Panel Pengetahuannya, dan memanfaatkan upayanya untuk menyediakan kotak pop-up pemeriksaan fakta, misalnya, video YouTube tentang topik kontroversial.

Ada ketegangan utama di sini yang patut diwaspadai seiring dengan semakin maraknya teknologi ini. Google memiliki insentif untuk menampilkan jawaban yang dihasilkan AI sebagai jawaban yang berwibawa. Jika tidak, mengapa Anda menggunakannya?

“Di sisi lain,” kata Jain, “khususnya di bidang sensitif seperti kesehatan, mungkin diperlukan semacam penafian atau setidaknya beberapa bahasa peringatan.”

Ikhtisar AI Google berisi catatan kecil di bagian bawah setiap hasil yang mengklarifikasi bahwa ini adalah alat eksperimental. Dan, berdasarkan penelitian saya yang tidak ilmiah, saya rasa Google saat ini telah memilih untuk menghindari memberikan jawaban pada beberapa topik kontroversial.

Ikhtisar ini, dengan beberapa penyesuaian, akan menghasilkan respons terhadap pertanyaan tentang potensi tanggung jawabnya. Setelah beberapa jalan buntu, saya bertanya kepada Google, “Apakah Google adalah penerbit?”

“Google bukan penerbit karena tidak membuat konten,” balasannya dimulai. Saya menyalin kalimat itu dan menempelkannya ke pencarian lain, dikelilingi oleh tanda kutip. Mesin pencari tidak menemukan hasil untuk frasa yang tepat.

Leave a Reply

Your email address will not be published. Required fields are marked *