Bisakah artis menggunakan deepfake miliknya untuk kebaikan?

Featured Post Image - Bisakah artis menggunakan deepfake miliknya untuk kebaikan?

Sebulan yang lalu, musisi elektronik FKA Twigs memberikan kesaksian di hadapan Subkomite Kehakiman Senat AS untuk Kekayaan Intelektual, mendesak para pembuat kebijakan untuk melindungi artis agar tidak dieksploitasi oleh AI, baik dengan menggunakan suara mereka untuk menghasilkan lagu, menyalin kemiripan mereka untuk membuat pornografi, atau menyalin badan kerja mereka untuk data pelatihan.

Menonton video C-SPAN2 tentang seorang wanita berkancing yang, dalam pikiran saya, biasanya adalah seorang dewi yang jatuh dari tiang ke dunia bawah tanah berwarna merah keemasan sungguh menakjubkan. Para senator menyaksikan dalam diam saat Twigs, yang bernama resmi Tahliah Debrett Barnett, mengatakan kepada mereka, “Seni saya adalah kanvas tempat saya melukis identitas saya dan landasan yang menopang penghidupan saya.” AI generatif, katanya, “mengancam untuk menulis ulang dan mengungkap jalinan keberadaan saya.”

FKA Twigs bukanlah artis pertama yang mengungkapkan ketakutan, kemarahan, dan rasa terdesak atas penggunaan gambar digitalnya yang tidak disetujui. Pada awal April, lebih dari 200 musisi menandatangani surat terbuka yang dikeluarkan oleh Artist Rights Alliance yang menyerukan kepada pengembang AI, perusahaan teknologi, dan layanan musik untuk berjanji tidak melemahkan atau menggantikan karya seni manusia.

Kemudian OpenAI merilis genit secara terbuka Dia-asisten suara yang terinspirasi bernama Sky yang terdengar mencurigakan seperti Scarlett Johansson — dan bergegas menghapusnya setelah Johansson keberatan. Bencana ini menunjukkan betapa kaburnya batasan kekayaan intelektual, terutama jika menyangkut suara dan kemiripan seseorang. (Pengungkapan: Vox Media adalah salah satu dari beberapa penerbit yang telah menandatangani perjanjian kemitraan dengan OpenAI. Pelaporan kami tetap independen secara editorial.)

Penilaian tidak resmi saya terhadap suasana seputar selebriti dan AI generatif: buruk.

… Tapi bagaimana jika kamu adalah seorang selebriti, bekerja dengan tiruanmu sendiri?

Setelah mengutuk penggunaan AI untuk menyalahgunakan identitas artis, FKA Twigs mengatakan kepada para senator bahwa dia menghabiskan satu tahun terakhir untuk melatih deepfake dirinya, yang dapat meniru kepribadian dan nada suaranya dalam berbagai bahasa. “Saya akan menggunakan AI Twigs saya akhir tahun ini untuk memperluas jangkauan saya dan menangani interaksi media sosial online saya,” katanya, “sementara saya terus fokus pada karya seni saya dari kenyamanan dan ketenangan studio saya.”

“AI Twigs” tidak lebih dari sekedar catatan tambahan dalam konteks sidang bulan lalu, tapi saya tidak berhenti memikirkannya. Apa artinya jika para seniman dapat memanfaatkan kekuatan AI generatif untuk memindahkan karya-karya kasar – pembuatan konten, siaran pers, promosi diri – ke dalam tiruan digital mereka, sehingga karya asli manusia bebas untuk berinvestasi sepenuh hati dalam kreativitas mereka?

Perbedaan antara OpenAI's Sky dan AI Twigs “adalah gagasan persetujuan,” kata Sarah Barrington, seorang insinyur, peneliti AI, dan pakar deteksi deepfake di UC Berkeley School of Information, kepada saya. Twigs memberi persetujuan, sedangkan Johansson tidak.

Namun bahkan dengan persetujuan yang antusias, Barrington menduga bahwa mempertahankan kendali penuh atas kemiripan digital seseorang hampir mustahil. Pertanyaannya kemudian adalah apakah tuntutan pemasaran industri musik cukup memberatkan sehingga layak untuk menampilkan diri Anda yang palsu.

Bisakah deepfake menyelamatkan artis dari TikTok? (Mungkin tidak.)

Menjadi seniman saat ini tidak seperti dulu lagi.

Musisi, penulis, dan seniman visual tidak bisa lagi hidup hanya dengan bakat, kerja keras, dan ketampanan. Kita hidup di era “merek pribadi”, di mana sebagian besar artis harus secara strategis menciptakan kehadiran media sosial yang rentan, keren, dan yang paling penting, konsisten agar dapat menandatangani kontrak dengan sebuah label.

Pemasaran mandiri yang tiada henti paling memakan waktu dan paling buruk menghancurkan jiwa. Tidak peduli berapa banyak video “POV: Anda menemukan band indie favorit baru Anda” yang dibuat seorang musisi, mencari nafkah melalui streaming dan tur sendirian tetap lebih menantang dari sebelumnya.

Bahkan ketika viralitas TikTok meluncurkan sebuah band menuju kontrak rekaman, permintaan akan pembuatan konten tetap ada, sehingga hampir mustahil bagi artis untuk sekadar membuat konten. membuat seni. Diperlukan waktu berjam-jam untuk mengikuti tren, membuat potongan rencana, memfilmkan, dan klip video bersama-sama. Bahkan dengan seorang manajer media sosial, tekanan dalam pembuatan konten mengacaukan ruang otak yang berharga dan mengubah setiap peristiwa menjadi peluang untuk membuat film B-roll.

Di luar pekerjaan saya di Vox, saya bermain bass di band indie yang berbasis di San Francisco. Musik adalah kecintaan saya yang besar, tetapi itu adalah tujuan mengemudi dan pekerjaan penuh waktu teman band saya. Dia secara teratur memposting video TikTok promosi diri atas nama bandnya, sama seperti semua artis lokal favorit saya yang berusaha keras untuk meningkatkan jumlah penonton.

Tangkapan layar yang menunjukkan konten band indie promosi diri. Artis-artis ini, dan banyak orang seperti mereka, memposting video seperti ini hampir setiap hari. Dari kiri ke kanan: Analog Dog (bersama Celia di kiri, Instagram @analogdogband, TikTok @analogdog), Britta Raci (@brittaraci di Instagram dan TikTok), dan McKenna Esteb (@mckennaesteb di Instagram dan TikTok).
@analogdog, @brittaraci, @mckennaesteb

Ketika saya mendengar tentang AI Twigs, pikiran saya langsung tertuju pada banyak musisi yang membuat video untuk kekosongan. Jika mereka semua dapat menggunakan deepfake untuk melakukan pekerjaan ini atas nama mereka, mereka dapat mematikan ponsel dan menulis musik yang lebih baik. Kami menghabiskan banyak waktu untuk membicarakan bagaimana deepfake bisa berakibat buruk. AI Twigs membuatku bertanya-tanya apakah mungkin, dengan pagar pembatas yang cukup kuat, mereka bisa pergi Kanan.

Penggunaan AI generatif dengan sengaja untuk memperluas jangkauan bukanlah hal yang tidak pernah terdengar. Shamaine Daniels, seorang kandidat Partai Demokrat yang mencalonkan diri dalam pemilihan pendahuluan untuk DPR AS Distrik Pennsylvania 10, menggunakan bankir telepon AI generatif bernama Ashley untuk menjangkau pemilih menjelang pemilu bulan April ini. Berbeda dengan manusia yang bekerja sebagai bankir telepon, Ashley dapat melakukan ribuan percakapan empat mata secara bersamaan dengan para pemilih dalam bahasa utama mereka, tanpa merasa bingung atau frustrasi. Meskipun Ashley jauh lebih personal dan interaktif daripada robocall Anda sehari-hari, dia bukanlah seorang deepfake. Civox, perusahaan di balik bot tersebut, membuat Ashley terdengar seperti robot sehingga para pemilih tidak akan salah mengira suara itu sebagai suara manusia sungguhan.

Mereka tidak perlu melakukan hal ini — tidak ada undang-undang federal yang mengatur secara langsung apa yang dilakukan perusahaan seperti Civox. Seperti yang dikatakan Twigs dalam kesaksiannya, alat yang ditenagai AI belum tentu menjadi masalah, namun mencuri dan mengeksploitasi kemiripan seorang musisi tanpa persetujuan mereka merupakan masalah besar. Tanpa regulasi yang tepat, batas antara penerapan AI yang “baik” dan “buruk” menjadi kabur.

Pertanyaannya tetap: Bisakah deepfake benar-benar menyelamatkan artis dari TikTok dan permintaan pembuatan konten yang tiada henti?

Ada kemungkinan bahwa AI generatif dapat digunakan untuk membuat konten yang dipersonalisasi untuk penggemar, yang jika dilakukan dengan benar, dapat berinteraksi tanpa merasa teduh. Para penggemar semakin menuntut keaslian dari musisi dan influencer yang mereka ikuti, namun fakta bahwa sebagian besar artis besar tidak benar-benar membuat konten media sosial mereka sendiri adalah rahasia umum. Mungkin itu hanya perasaan keintiman yang kita dambakan — keaslian adalah pilihan. AI Twigs, misalnya, dapat memposting cerita Instagram Teman Dekat dalam bahasa utama setiap penggemar. (Billie Eilish secara singkat menambahkan semua orang ke kisah Teman Dekatnya menjelang perilisan album terbarunya dan memperoleh 10 juta pengikut baru — orang-orang menyukainya.)

Sayangnya, kecil kemungkinannya bahwa keuntungannya akan lebih besar daripada kerugiannya. Barrington mengatakan kepada saya bahwa saat ini, penerapan deepfake sekitar 95 persen buruk dan 5 persen bagus. Selain pornografi non-konsensual dan penipuan identitas, “ada erosi mendasar terhadap demokrasi dengan menciptakan disinformasi.” Meskipun AI Twigs menghadirkan kasus penggunaan positif yang menarik, Barrington khawatir “AI hanya menambah sekitar 1 persen dari 5 persen kebaikan tersebut.”

Anda dapat membuat deepfake Anda sendiri — begitu pula orang lain

Meskipun beberapa negara bagian telah mengeluarkan undang-undang yang menangani deepfake non-konsensual, dan beberapa tindakan bipartisan yang menangani gambar palsu pornografi dan replika digital dalam karya seni telah diperkenalkan di tingkat federal, pada dasarnya tidak ada undang-undang yang melarang siapa pun menggunakan AI generatif untuk melakukan apa pun yang mereka inginkan. .

Katakanlah AI Twigs ditayangkan di Instagram. Mengonfirmasi bahwa konten yang menampilkan AI Twigs berasal dari beberapa sumber resmi FKA Twigs, seperti akun Instagram terverifikasinya, sangatlah mudah. Namun akan sangat sulit untuk menghentikan orang lain membuat Ranting tiruan.

“Saya mungkin bisa melakukannya dalam sehari,” kata Barrington kepada saya. Bahkan seseorang yang tidak memiliki pengetahuan ilmu komputer seperti Barrington dapat menyelesaikannya dengan relatif cepat hanya dengan sedikit uang dan beberapa tutorial YouTube. Meskipun artis seperti FKA Twigs bisa saja melihat klon digital mereka secara online, selama mereka tetap menjadi pemilik tunggal atas kloning tersebut, “Saya tidak tahu bagaimana dia akan menerapkan hal ini dalam kenyataan,” kata Barrington.

Setidaknya deepfake visual — terutama jika mereka menggambarkan orang asli melakukan sesuatu yang sangat mengejutkan atau tidak seperti biasanya — cenderung terjadi di suatu tempat di lembah yang luar biasa, jadi Anda masih dapat menemukannya jika Anda tahu apa yang harus dicari. Sementara itu, suara sintetis berkualitas tinggi sudah tidak dapat dibedakan dari suara asli, kecuali Anda memiliki alat pendeteksi yang canggih (dan Barrington mengatakan hal itu pun tidak selalu berhasil).

Bagaimanapun, seperti yang kita pelajari dari kegagalan ScarJo bulan lalu, sulit untuk mengklaim kepemilikan penuh atas suara seseorang, tidak peduli seberapa khasnya.

Teknologi pendeteksian tidak akan mampu melampaui potensi bahaya deepfake. “Tidak akan pernah ada solusi jitu untuk mendeteksi dengan akurasi 100 persen apakah sesuatu itu palsu atau tidak,” kata Barrington kepada saya, “dan Anda tidak akan pernah bisa benar-benar membuktikan bahwa sesuatu itu nyata.”

Media yang dihasilkan AI akan tetap ada, tetapi FKA Twigs mungkin sudah terlalu maju. Merangkul AI generatif sebagai seorang artis terasa seperti membuat kesepakatan dengan iblis: Anda bisa berhenti membuat kalimat promosi, tapi Anda mungkin berakhir di film porno atau lagu yang diproduksi AI tanpa persetujuan Anda.

Pertarungan hukum seputar penggunaan AI generatif kemungkinan akan menginspirasi lebih banyak peraturan dalam waktu dekat. Namun di zona abu-abu hukum yang saat ini kita hadapi, AI Twigs kemungkinan besar menghadirkan lebih banyak masalah daripada penyelesaiannya.

Versi cerita ini pertama kali diterbitkan di buletin Future Perfect. Daftar di sini untuk berlangganan!

Leave a Reply

Your email address will not be published. Required fields are marked *