Artikel ini adalah data pelatihan OpenAI

Featured Post Image - Artikel ini adalah data pelatihan OpenAI

Anda tidak dapat membaca banyak tentang risiko AI tingkat lanjut tanpa segera menemukan eksperimen pemikiran pemaksimal penjepit kertas.

Pertama kali dikemukakan oleh filsuf Swedia Nick Bostrom dalam makalahnya pada tahun 2003 yang berjudul “Ethical Issues in Advanced Artificial Intelligence,” eksperimen pemikirannya seperti ini: Bayangkan sebuah kecerdasan umum buatan (AGI), yang pada dasarnya tidak terbatas dalam kekuatan dan kecerdasannya. AGI ini diprogram oleh penciptanya dengan tujuan untuk menghasilkan penjepit kertas. (Mengapa seseorang memprogram AI yang kuat untuk membuat penjepit kertas? Jangan khawatir — intinya adalah absurditas.)

Karena AGI sangat cerdas, ia dengan cepat belajar cara membuat penjepit kertas dari apa pun. Dan karena AGI sangat cerdas, mereka dapat mengantisipasi dan menggagalkan segala upaya untuk menghentikannya – dan akan melakukannya karena satu-satunya arahan mereka adalah membuat lebih banyak penjepit kertas. Jika kita mencoba mematikan AGI, ia akan melawan karena ia tidak dapat membuat penjepit kertas lagi jika dimatikan — dan ia akan menang, karena ia super cerdas.

Hasil akhir? Seluruh galaksi, termasuk Anda, saya, dan semua orang yang kita kenal, telah hancur atau diubah menjadi penjepit kertas. (Seperti yang ditulis oleh ahli AI Eliezer Yudkowsky: “AI tidak membenci Anda, juga tidak mencintaimu, tetapi Anda terbuat dari atom yang dapat digunakan untuk hal lain.”) Akhiri eksperimen pemikiran.

Inti dari eksperimen pemaksimal penjepit kertas ada dua. Pertama, kita dapat mengharapkan AI menjadi pengoptimal dan pemaksimal. Jika ada suatu tujuan, mereka akan berusaha menemukan strategi optimal untuk mencapai pencapaian maksimal tujuan tersebut, tanpa mengkhawatirkan efek sampingnya (yang dalam hal ini adalah galaksi diubah menjadi penjepit kertas).

Memahami AI dan perusahaan yang membuatnya

Kecerdasan buatan siap untuk mengubah dunia mulai dari media hingga kedokteran dan seterusnya — dan Future Perfect hadir untuk meliputnya.

Kedua, oleh karena itu sangat penting untuk secara hati-hati menyelaraskan tujuan AI dengan apa yang benar-benar kita hargai (yang dalam hal ini mungkin tidak melibatkan galaksi yang sedikit banyak diubah menjadi penjepit kertas). Seperti yang dikatakan ChatGPT kepada saya ketika saya bertanya tentang eksperimen pemikiran tersebut, “Ini menggarisbawahi perlunya pertimbangan etis dan tindakan pengendalian dalam pengembangan sistem AI yang canggih.”

Secerdas eksperimen pemaksimal penjepit kertas sebagai analogi untuk masalah penyelarasan AI, menurut saya hal ini selalu tidak tepat sasaran. Bisakah Anda benar-benar menciptakan AI yang sangat cerdas sehingga dapat mengetahui cara mengubah setiap atom yang ada menjadi penjepit kertas, namun juga tidak cukup pintar untuk menyadari bahwa hasil seperti itu bukanlah sesuatu yang kami, penciptanya, inginkan? Benar-benar tidak ada tempat dalam hipotetis otak buatan ini yang akan berhenti di suatu tempat – mungkin setelah ia mengubah Jupiter menjadi 2,29 x 1030 penjepit kertas (terima kasih, ChatGPT, atas perhitungannya) — dan berpikir, “Mungkin ada sisi buruk dari alam semesta yang hanya terdiri dari penjepit kertas”?

Mungkin. Atau mungkin tidak.

Ayo buat kesepakatan—kalau tidak

Saya telah memikirkan eksperimen pemikiran pemaksimal penjepit kertas sejak saya mengetahui pada Kamis pagi bahwa Vox Media, perusahaan yang dimiliki oleh Future Perfect dan Vox, telah menandatangani perjanjian lisensi dengan OpenAI untuk memungkinkan materi yang dipublikasikan digunakan untuk pelatihan. model AI-nya dan dibagikan dalam ChatGPT.

Detail pasti dari perjanjian tersebut – termasuk berapa banyak biaya yang dikeluarkan Vox Media untuk melisensikan kontennya, seberapa sering perjanjian tersebut dapat diperbarui, dan jenis perlindungan apa yang mungkin ada untuk jenis konten tertentu – belum sepenuhnya jelas. Dalam siaran persnya, salah satu pendiri, CEO, dan ketua Vox Media Jim Bankoff mengatakan bahwa kesepakatan tersebut “selaras dengan tujuan kami dalam memanfaatkan AI generatif untuk berinovasi bagi audiens dan pelanggan kami, melindungi dan menumbuhkan nilai karya dan kekayaan intelektual kami. dan meningkatkan produktivitas dan kemudahan untuk ditemukan guna meningkatkan bakat dan kreativitas jurnalis dan pencipta kami yang luar biasa.”

Vox Media bukanlah satu-satunya pihak yang mencapai kesepakatan dengan OpenAI. Atlantik mengumumkan perjanjian serupa pada hari yang sama. (Lihat Atlantik pendapat hebat editor Damon Beres.) Selama beberapa bulan terakhir, perusahaan penerbitan yang mewakili lebih dari 70 surat kabar, situs web, dan majalah telah melisensikan konten mereka ke OpenAI, termasuk Wall Street Journal pemilik News Corp, pemilik Politico Axel Springer, dan Waktu keuangan.

Motivasi OpenAI dalam perjanjian tersebut jelas. Salah satu alasannya adalah mereka selalu membutuhkan data pelatihan baru untuk model bahasanya yang besar, dan situs berita seperti Vox kebetulan memiliki jutaan kata yang ditulis secara profesional, diperiksa faktanya, dan disalin-edit (seperti ini!). Dan seiring OpenAI berupaya memastikan chatbotnya dapat menjawab pertanyaan secara akurat, artikel berita menjadi sumber informasi faktual terkini yang lebih berharga dibandingkan yang mungkin Anda temukan di web secara keseluruhan. (Meskipun saya tidak dapat mengatakan bahwa saya telah membaca setiap kata yang pernah diterbitkan Vox, saya yakin Anda tidak akan menemukan apa pun di arsip kami yang menyarankan Anda menambahkan lem untuk menyimpan keju di atas pizza, sebagai fungsi pencarian AI generatif Google yang baru. Ikhtisar rupanya begitu.)

Penandatanganan perjanjian lisensi juga melindungi OpenAI dari ancaman tuntutan hukum dari perusahaan media yang percaya bahwa startup AI tersebut telah menggunakan konten mereka untuk melatih modelnya (seperti yang mungkin terjadi). Argumen itulah yang dibuat oleh New York Times, yang pada bulan Desember menggugat OpenAI dan penyandang dana utamanya Microsoft atas pelanggaran hak cipta. Sejumlah surat kabar dan situs berita lain telah meluncurkan tuntutan hukum serupa.

Vox Media memilih untuk mengambil jalan yang berbeda, dan tidak sulit untuk mengetahui alasannya. Jika perusahaan menolak melisensikan kontennya, ada kemungkinan besar pengikisan data akan terus berlanjut, tanpa kompensasi. Jalur litigasinya panjang, mahal, dan tidak pasti, dan hal ini menghadirkan masalah tindakan kolektif yang klasik: Kecuali jika industri media secara keseluruhan bersatu dan menolak melisensikan kontennya, pemberontakan yang dilakukan oleh masing-masing perusahaan hanya akan berdampak besar. Dan para jurnalis adalah kelompok yang suka bertanya-tanya – kita tidak bisa berkolusi untuk melakukan sesuatu yang besar untuk menyelamatkan hidup kita, bahkan jika hal itu memang bisa menyelamatkan nyawa kita.

Saya bukan seorang eksekutif media, namun saya cukup yakin bahwa secara neraca, mendapatkan sesuatu terlihat lebih baik daripada tidak mendapatkan apa-apa — meskipun kesepakatan seperti itu lebih terasa seperti negosiasi sandera daripada negosiasi bisnis.

Meskipun saya bukan seorang eksekutif media, saya telah berkecimpung dalam bisnis ini selama lebih dari 20 tahun. Pada saat itu, saya telah melihat industri kita menaruh harapan pada optimasi mesin pencari; pada poros ke video (dan kembali lagi); di Facebook dan lalu lintas media sosial. Saya ingat Apple datang ke kantor saya di majalah Time pada tahun 2010, menjanjikan kepada kami bahwa iPad akan menyelamatkan bisnis majalah. (Itu tidak.)

Setiap saat, kita dijanjikan kolaborasi yang bermanfaat dengan platform teknologi yang dapat menguntungkan kedua belah pihak. Dan setiap kali, hal ini pada akhirnya tidak berhasil karena kepentingan platform teknologi tersebut tidak selaras, dan tidak pernah sepenuhnya selaras, dengan kepentingan media. Tapi tentu saja – mungkin kali ini Lucy tidak akan menarik perhatiannya.

Khususnya untuk Future Perfect, tidak dapat disangkal fakta bahwa perusahaan induk kami membuat kesepakatan dengan OpenAI untuk melisensikan semua konten kami menimbulkan masalah optik tertentu. Selama dua minggu terakhir, reporter dan editor Future Perfect yang dipimpin oleh Kelsey Piper dan Sigal Samuel telah menerbitkan serangkaian laporan investigasi yang menimbulkan keraguan serius terhadap kepercayaan OpenAI sebagai sebuah perusahaan dan khususnya CEO-nya Sam Altman. Anda harus membacanya — seperti halnya orang lain yang berpikir untuk menandatangani kesepakatan serupa dengan perusahaan.

Cerita seperti itu tidak akan berubah. Saya dapat berjanji kepada Anda, para pembaca kami, bahwa perjanjian Vox Media dengan OpenAI tidak akan berdampak pada cara kami di Future Perfect atau seluruh laporan Vox tentang perusahaan tersebut. Sama seperti kami tidak akan pernah memberikan perlakuan yang menguntungkan kepada perusahaan yang beriklan di situs web Vox, cakupan OpenAI kami tidak akan berubah karena perjanjian lisensi yang ditandatangani dengan perusahaan induk kami. Itu adalah janji kami, dan itu adalah janji yang ditanggapi dengan sangat serius oleh semua orang yang bekerja dengan saya di sini, baik di atas maupun di bawah saya.

Oleh karena itu, Future Perfect adalah bagian yang digerakkan oleh misi, yang secara khusus dibuat untuk menulis tentang topik-topik yang benar-benar penting bagi dunia, untuk mencari cara berbuat baik dengan lebih baik, untuk menyumbangkan ide-ide yang dapat membuat masa depan menjadi tempat yang lebih sempurna. Itu sebabnya kami sebagian besar didanai oleh sumber-sumber filantropis, bukan iklan atau sponsor. Dan saya tidak bisa mengatakan betapa senangnya mengetahui bahwa setiap kata yang kami tulis dan akan tulis di masa mendatang akan berakhir sebagai data pelatihan, betapapun kecilnya, bagi perusahaan AI yang telah berulang kali menunjukkan, selain pernyataan misinya, bahwa tampaknya hal ini tidak memberikan manfaat bagi seluruh umat manusia.

Namun kekhawatiran saya yang lebih besar tidak ada hubungannya dengan apa arti kesepakatan ini dan hal-hal lain yang serupa bagi Future Perfect atau bahkan bisnis media secara lebih luas, melainkan apa artinya bagi platform yang dimiliki oleh perusahaan media dan raksasa AI: internet. Yang membawa saya kembali untuk memaksimalkan penjepit kertas.

Memainkan skenario penjepit kertas

AI bukanlah satu-satunya pemaksimal; begitu pula perusahaan yang membuat AI.

Dari OpenAI, Microsoft, Google, hingga Meta, perusahaan-perusahaan di bisnis AI terlibat dalam perlombaan yang brutal: demi data, demi kekuatan komputasi, demi talenta manusia, demi pangsa pasar, dan, pada akhirnya, demi keuntungan. Sasaran-sasaran tersebut hanyalah sebuah penjepit kertas, dan apa yang mereka lakukan sekarang, ketika ratusan miliar dolar mengalir ke industri AI, adalah segala yang mereka bisa untuk memaksimalkannya.

Masalahnya adalah maksimalisasi tersebut, seperti yang ditunjukkan oleh skenario penjepit kertas, hanya menyisakan sedikit ruang bagi orang lain. Apa yang pada akhirnya ingin dihasilkan oleh perusahaan-perusahaan ini adalah jawaban akhir, produk AI yang mampu menjawab pertanyaan apa pun dan memenuhi tugas apa pun yang dapat dibayangkan oleh penggunanya. Baik itu fungsi Ikhtisar AI Google yang bertujuan untuk menghilangkan kebutuhan untuk benar-benar mengeklik tautan di web — “biarkan Google yang melakukan Googling untuk Anda,” sebagaimana moto yang ada di acara pengembang perusahaan baru-baru ini — atau ChatGPT yang disempurnakan dengan akses untuk semua berita terbaru, hasil akhir yang diinginkan adalah ramalan yang mahatahu. Tanya masuk, jawab – tidak ada pemberhentian yang mengganggu bagi penulis atau situs web di antaranya.

Hal ini jelas tidak baik bagi kita yang mencari nafkah dengan menulis di web, atau membuat podcast, atau memproduksi video. Seperti yang ditulis oleh Jessica Lessin, pendiri situs berita teknologi, Information, baru-baru ini, yang mengecam perusahaan media yang menandatangani kesepakatan dengan OpenAI: “Sulit untuk melihat bagaimana produk AI apa pun yang dibuat oleh perusahaan teknologi akan menciptakan distribusi dan pendapatan baru yang berarti bagi berita.”

Sudah ada prediksi bahwa pertumbuhan chatbots AI dan produk pencarian AI generatif seperti Google's Ikhtisar dapat menyebabkan lalu lintas mesin pencari ke penerbit turun sebanyak 25 persen pada tahun 2026. Dan bisa dibilang semakin baik bot ini, hal ini sebagian berkat kesepakatan dengan perusahaan media seperti ini, semakin cepat perubahan tersebut terjadi.

Seperti yang saya katakan, buruk bagi kami. Namun dunia di mana AI semakin berperan sebagai satu-satunya jawaban, seperti yang baru-baru ini ditulis oleh Judith Donath dan Bruce Schneier, adalah dunia yang “mengancam akan menghancurkan ekosistem online yang kompleks yang memungkinkan penulis, seniman, dan pencipta lainnya menjangkau khalayak manusia.” Dan jika Anda bahkan tidak dapat terhubung dengan audiens dengan konten Anda — apalagi mendapatkan bayaran untuk itu — keharusan untuk menghasilkan lebih banyak karya akan hilang. Ini bukan sekedar berita — web yang tak ada habisnya itu sendiri bisa saja berhenti berkembang.

Jadi, berdampak buruk bagi kita semua, termasuk perusahaan AI. Apa yang terjadi jika, sambil terus-menerus mencoba mengumpulkan setiap data yang mungkin dapat digunakan untuk melatih model mereka, perusahaan AI menghancurkan alasan utama manusia membuat lebih banyak data? Tentunya mereka bisa meramalkan kemungkinan itu? Tentunya mereka tidak akan berpikiran tunggal hingga menghancurkan bahan mentah yang menjadi andalan mereka?

Namun, seperti halnya AI dalam eksperimen pemikiran Bostrom yang tanpa henti mengejar tujuan tunggalnya, demikian pula perusahaan AI saat ini. Hingga mereka mereduksi berita, web, dan semua orang yang pernah menjadi bagian darinya menjadi sekadar klip kertas.

Leave a Reply

Your email address will not be published. Required fields are marked *