Seksisme ganda dari suara “Her” ChatGPT yang genit

Featured Post Image - Seksisme ganda dari suara “Her” ChatGPT yang genit

Jika seorang pria memberi tahu Anda film fiksi ilmiah favoritnya adalah Dialalu merilis chatbot AI dengan suara yang terdengar sangat mirip dengan suaranya Dialalu men-tweet satu kata “dia” beberapa saat setelah rilis… apa yang akan Anda simpulkan?

Masuk akal untuk menyimpulkan bahwa suara AI sangat terinspirasi oleh Dia.

Sam Altman, CEO OpenAI, melakukan semua hal yang disebutkan, dan perusahaannya baru-baru ini merilis versi baru ChatGPT yang berbicara kepada pengguna dengan suara wanita yang genit — suara yang sangat mirip dengan Scarlett Johansson, aktris yang menyuarakan Pacar AI di film Spike Jonze 2013 Dia.

Sekarang, Johansson mengajukan keberatannya, dan menulis dalam sebuah pernyataan bahwa suara chatbot itu terdengar “sangat mirip dengan suara saya sehingga teman-teman terdekat dan outlet berita saya tidak dapat membedakannya.”

Tanggapan Altman? Dia mengklaim bahwa suara tersebut “bukan milik Scarlett Johansson dan tidak pernah dimaksudkan untuk menyerupai miliknya.”

Sekilas, ini adalah klaim yang tidak masuk akal.

Meskipun suaranya mungkin tidak benar-benar dilatih atau disalin dari suara Johansson – OpenAI mengatakan mereka mempekerjakan aktris lain – ada banyak bukti yang menunjukkan bahwa suaranya mungkin dimaksudkan untuk mirip dengan miliknya. Selain pengakuan cinta Altman Dia dan tweet “nya”, ada wahyu baru dari Johansson: Altman, katanya, menghubungi agennya pada dua kesempatan terpisah memintanya untuk menyuarakan chatbot.

Saat melaporkan cerita ini, saya mengetahui bahwa 52 persen orang Amerika sekarang memiliki pandangan yang tidak baik terhadap OpenAI, menurut jajak pendapat baru yang dilakukan oleh Artificial Intelligence Policy Institute.

Saat permintaan pertama datang September lalu, Johansson mengatakan tidak. Permintaan kedua datang dua hari sebelum demo chatbot baru, memintanya untuk mempertimbangkan kembali. “Sebelum kami dapat terhubung, sistemnya sudah ada,” kata Johansson, seraya menambahkan bahwa dia telah menyewa seorang pengacara untuk meminta penjelasan dari Altman.

OpenAI menerbitkan postingan blog yang mengatakan bahwa mereka melalui proses berbulan-bulan untuk menemukan pengisi suara tahun lalu – termasuk suara untuk “Sky,” yang menurut banyak orang mirip dengan Johansson – sebelum memperkenalkan beberapa kemampuan suara untuk ChatGPT pada bulan September lalu. Menurut Altman, “Kami memilih pengisi suara di balik suara Sky sebelum menghubungi Ms. Johansson.” September, ingat, adalah bulan di mana Johansson mengatakan Altman pertama kali meminta untuk melisensikan suaranya.

Jika OpenAI memang memilih aktor di belakang Sky sebelum menghubungi Johansson, hal ini tidak berarti bahwa suara Sky tidak pernah dimaksudkan untuk menyerupai suara Johansson. Juga tidak berarti bahwa model AI di belakang Sky hanya diisi oleh suara aktor yang disewa, dan tidak ada gunanya menggunakan suara Johansson. Saya mengajukan pertanyaan ini kepada perusahaan. OpenAI tidak membalas permintaan komentar pada saat publikasi.

OpenAI menghapus suara Sky “untuk menghormati Ms. Johansson,” seperti yang dikatakan Altman, dan menambahkan, “Kami mohon maaf kepada Ms. Johansson karena kami tidak berkomunikasi dengan lebih baik.”

Namun jika OpenAI tidak melakukan kesalahan apa pun, mengapa OpenAI harus menutup suara? Dan seberapa besar “rasa hormat” yang sebenarnya disampaikan oleh permintaan maaf ini, ketika Altman bersikeras bahwa suara itu tidak ada hubungannya dengan Johansson?

“Dia merasa suaraku akan menghibur orang”

Dari Siri dari Apple, Alexa dari Amazon, hingga Cortana dari Microsoft, ada alasan mengapa perusahaan teknologi telah memberikan suara ramah perempuan kepada asisten digital mereka selama bertahun-tahun. Dari sudut pandang bisnis, memberikan suara pada AI Anda adalah hal yang cerdas. Hal ini kemungkinan akan meningkatkan keuntungan perusahaan Anda.

Hal ini karena penelitian menunjukkan bahwa ketika orang membutuhkan bantuan, mereka lebih suka mendengarnya disampaikan dengan suara perempuan, yang mereka anggap tidak mengancam. (Mereka lebih menyukai suara laki-laki dalam hal pernyataan yang berwibawa.) Dan perusahaan merancang asistennya agar selalu optimis dan sopan karena perilaku seperti itu memaksimalkan keinginan pengguna untuk terus berinteraksi dengan perangkat.

Namun pilihan desainnya mengkhawatirkan pada tingkat etika. Para peneliti mengatakan hal ini memperkuat stereotip seksis terhadap perempuan sebagai makhluk budak yang ada hanya untuk melakukan perintah orang lain – untuk membantu, menghibur, dan meningkatkan ego mereka.

Menurut Johansson, menyampaikan rasa nyaman justru menjadi tujuan Altman dalam mencoba melisensikan suaranya sembilan bulan lalu.

“Dia mengatakan kepada saya bahwa dia merasa bahwa dengan menyuarakan sistem ini, saya dapat menjembatani kesenjangan antara perusahaan teknologi dan kreatif serta membantu konsumen merasa nyaman dengan perubahan seismik terkait manusia dan AI,” tulis Johansson. “Dia bilang dia merasa suaraku akan menghibur orang.”

Bukan hanya suara Johansson yang serak dan genit yang menenangkan. Johansson mengisi suara Samantha, pacar AI dalam romansa tersebut Dia, sebuah kisah tentang bagaimana AI dapat terhubung, menghibur, dan menghidupkan manusia yang kesepian. Khususnya, Samantha juga jauh lebih maju daripada apa pun yang pernah dihasilkan oleh perusahaan AI modern – begitu canggih, bahkan berkembang melampaui pengguna manusia – jadi mengaitkan ChatGPT baru dengan film mungkin juga membantu.

Ada lapisan kedua di sini, yang berkaitan dengan persetujuan perempuan. Meskipun Johansson dengan jelas menyatakan “tidak” terhadap permintaan Altman tahun lalu, dia menggunakan suara mirip Johansson dan kemudian, ketika Altman mengeluh, mengatakan kepada dunia bahwa aktris tersebut salah mengenai suara yang dimaksudkan agar mirip dengan miliknya.

Saya tidak yakin harus menyebutnya apa, jadi saya bertanya kepada ChatGPT tentang skenario seperti ini secara lebih umum. Begini jawaban chatbot:

Ini adalah bagian dari pola di OpenAI. Bisakah perusahaan itu dipercaya?

Kontroversi Johansson adalah yang terbaru dari serangkaian peristiwa yang menyebabkan orang kehilangan kepercayaan pada OpenAI – dan khususnya pada CEO Altman.

Tahun lalu, seniman dan penulis mulai menggugat OpenAI karena diduga mencuri materi berhak cipta mereka untuk melatih model AI-nya. Sementara itu, para ahli memperingatkan adanya deepfake, yang semakin hari semakin mengkhawatirkan menjelang pemilu besar.

Kemudian, pada bulan November lalu, dewan direksi OpenAI mencoba memecat Altman karena, seperti yang mereka katakan, dia “tidak secara konsisten berterus terang dalam komunikasinya.” Mantan koleganya kemudian menggambarkannya sebagai seorang manipulator yang berbicara dari kedua sisi mulutnya — seseorang yang mengklaim bahwa dia ingin memprioritaskan penerapan AI dengan aman, tetapi perilakunya bertentangan dengan hal tersebut. Sejak itu, semakin banyak karyawan yang mempunyai kesimpulan yang sama, sampai-sampai ada yang meninggalkan perusahaan.

“Saya secara bertahap kehilangan kepercayaan pada kepemimpinan OpenAI,” kata mantan karyawan Daniel Kokotajlo kepada saya, menjelaskan mengapa dia berhenti dari pekerjaannya bulan lalu.

“Ini adalah proses kepercayaan yang runtuh sedikit demi sedikit, seperti kartu domino yang berjatuhan satu demi satu,” kata orang lain yang memiliki pengetahuan mendalam tentang perusahaan tersebut kepada saya minggu lalu, yang berbicara tanpa mau disebutkan namanya.

Beberapa karyawan menghindari berbicara di depan umum karena mereka menandatangani perjanjian offboarding dengan ketentuan tidak meremehkan setelah keluar dari perusahaan. Setelah Vox melaporkan perjanjian ini, Altman mengatakan perusahaan sedang dalam proses mengubahnya. Namun publik mungkin akan bertanya: Mengapa OpenAI menerapkan ketentuan yang begitu ketat jika OpenAI tidak melakukan apa pun yang tidak ingin diketahui publik?

Dan pada saat beberapa karyawan OpenAI yang paling sadar akan keselamatan melompat karena mereka tidak mempercayai para pemimpin perusahaan, mengapa masyarakat harus mempercayai mereka?

Faktanya, menurut jajak pendapat terbaru dari Artificial Intelligence Policy Institute, hampir 6 dari 10 orang Amerika mengatakan peluncuran ChatGPT yang lebih canggih membuat mereka lebih khawatir terhadap pertumbuhan AI, sementara hanya 24 persen yang mengatakan hal itu membuat mereka bersemangat. Terlebih lagi, 52 persen orang Amerika kini memiliki opini yang tidak baik terhadap OpenAI.

Pada titik ini, beban pembuktian ada pada OpenAI untuk meyakinkan publik bahwa OpenAI layak dipercaya.

Leave a Reply

Your email address will not be published. Required fields are marked *