Aktris Scarlett Johansson baru baru ini menyatakan bahwa OpenAI menggunakan suara yang “sangat mirip” dengan miliknya untuk chatbot ChatGPT 4o meskipun telah menolak permintaan perusahaan tersebut untuk menggunakan suaranya.
Sebelumnya pada hari itu, OpenAI mengumumkan akan menghentikan penggunaan suara tersebut, namun tidak memberikan alasan jelas.
“Pada September lalu, saya menerima tawaran dari Sam Altman, yang ingin mempekerjakan saya untuk mengisi suara sistem ChatGPT 4.0 saat ini,” tulis Johansson dalam pernyataan yang dibagikan oleh perwakilannya kepada NBC News, Selasa (21/5/2024).
“Dia mengatakan bahwa dengan saya mengisi suara sistem ini, saya bisa menjembatani kesenjangan antara perusahaan teknologi dan kreatif serta membantu konsumen merasa nyaman dengan perubahan besar terkait manusia dan AI. Dia merasa suara saya akan menenangkan bagi banyak orang.”
“Setelah banyak pertimbangan dan untuk alasan pribadi, saya menolak tawaran tersebut,” lanjutnya.
“Sembilan bulan kemudian, teman-teman, keluarga, dan masyarakat umum mencatat betapa miripnya sistem baru bernama ‘Sky’ dengan suara saya.”
OpenAI memperkenalkan ChatGPT 4o minggu lalu, mempromosikan kemampuannya untuk berkomunikasi dalam percakapan suara, di antara fitur-fitur lainnya. Teknologi baru ini dengan cepat dibandingkan dengan jenis AI futuristik yang digambarkan dalam film, menawarkan lima suara — termasuk “Sky.”
Dalam pengumuman pada Senin (20/5/2024), OpenAI mengatakan bahwa suara “Sky” bukan tiruan suara Johansson. Perusahaan menyatakan bahwa suara tersebut direkam oleh seorang aktor profesional, bersama dengan suara-suara lainnya yang masih tersedia.
Perusahaan juga menegaskan tidak akan membagikan nama-nama aktor tersebut demi alasan privasi.
Fitur percakapan suara dipromosikan selama demonstrasi produk pada 13 Mei yang diadakan oleh OpenAI, namun fitur tersebut telah tersedia sejak September 2023.
Johansson sebelumnya mengisi suara chatbot AI dalam film “Her” (2013), yang dirujuk oleh CEO OpenAI Sam Altman terkait penawaran suara baru perusahaan tersebut — sesuatu yang dicatat Johansson dalam pernyataannya.
“Saat saya mendengar demo yang dirilis, saya terkejut, marah, dan tidak percaya bahwa Mr. Altman akan mengejar suara yang begitu mirip dengan milik saya hingga teman-teman terdekat dan media tidak bisa membedakannya,” tulis Johansson dalam pernyataannya.
Pengumuman produk baru dari Altman diposting di X pada hari yang sama dengan demonstrasi produk dan masih tersedia. Pernyataannya berlanjut, “Mr. Altman bahkan menyiratkan bahwa kemiripan itu disengaja, dengan menulis satu kata ‘her’ – sebuah referensi ke film di mana saya mengisi suara sistem chat, Samantha, yang membentuk hubungan intim dengan seorang manusia.”
“Dua hari sebelum demo ChatGPT 4.0 dirilis, Mr. Altman menghubungi agen saya, meminta saya untuk mempertimbangkan kembali. Sebelum kami bisa terhubung, sistem sudah dirilis,” tulis Johansson.
“Sebagai akibat dari tindakan mereka, saya terpaksa menyewa pengacara, yang menulis dua surat kepada Mr. Altman dan OpenAI, menjelaskan apa yang telah mereka lakukan dan meminta mereka menjelaskan proses pembuatan suara ‘Sky’. Akibatnya, OpenAI setuju dengan enggan untuk menghapus suara ‘Sky’.”
“Dalam masa di mana kita semua berjuang dengan deepfakes dan perlindungan terhadap identitas kita sendiri, saya percaya ini adalah pertanyaan yang layak mendapatkan kejelasan mutlak. Saya menantikan resolusi dalam bentuk transparansi dan pengesahan undang-undang yang sesuai untuk memastikan hak individu terlindungi,” tulisnya.
Dalam tanggapan atas permintaan komentar, Altman mengatakan dalam pernyataan tertulis yang dikirim oleh juru bicara bahwa suara “Sky” tidak dimaksudkan untuk terdengar seperti suara Johansson dan dipilih sebelum menghubungi dia.
“Suara Sky bukan suara Scarlett Johansson, dan tidak pernah dimaksudkan untuk menyerupai suaranya,” katanya.
“Kami memilih aktor suara di balik suara Sky sebelum melakukan kontak dengan Ms. Johansson. Demi menghormati Ms. Johansson, kami telah menghentikan penggunaan suara Sky dalam produk kami. Kami mohon maaf kepada Ms. Johansson bahwa kami tidak berkomunikasi dengan lebih baik.”
Teknologi peniruan suara adalah teknologi yang relatif baru yang berkembang pesat dalam beberapa tahun terakhir, memungkinkan orang untuk menggunakan perangkat lunak untuk meniru selebritas dan tokoh seperti Presiden Joe Biden.
Penyebaran teknologi ini dengan cepat memicu kekhawatiran tentang disinformasi, seperti ketika satu suara palsu Biden digunakan dalam upaya panggilan otomatis untuk menyesatkan pemilih primer di New Hampshire.
Suara selebritas juga telah dipalsukan untuk mengiklankan penipuan di media sosial. Pada November, Variety melaporkan bahwa Johansson dan pengacaranya mengambil tindakan terhadap sebuah perusahaan AI yang menggunakan kemiripannya dalam iklan yang menampilkan gambar-gambar AI dari bintang tersebut.
Ada kekhawatiran yang berkembang tentang bagaimana OpenAI mengembangkan teknologinya, terutama tentang data apa yang digunakan untuk melatih model AI-nya dan kesediaannya untuk mempertimbangkan risiko AI.
Minggu lalu, perusahaan membubarkan tim yang fokus pada risiko jangka panjang AI, lapor CNBC. Salah satu pendiri OpenAI Ilya Sutskever dan peneliti Jan Leike juga meninggalkan perusahaan. Leike pada hari Jumat menulis bahwa “budaya dan proses keamanan OpenAI telah dikesampingkan oleh produk-produk yang mengilap.”
Pada Selasa (21/5/2024), seorang juru bicara SAG-AFTRA, serikat yang mewakili lebih dari 150.000 pelaku film dan televisi, mengatakan dalam email bahwa pihaknya mendukung Johansson.
“Kami berterima kasih kepada Ms. Johansson karena berbicara tentang masalah yang sangat penting bagi semua anggota SAG-AFTRA,” kata juru bicara tersebut.
“Kami berbagi keprihatinannya dan sepenuhnya mendukung haknya untuk mendapatkan kejelasan dan transparansi mengenai suara yang digunakan dalam pengembangan perangkat Chat GPT-4o ‘Sky’,” tambahnya.
“Kami senang bahwa Open AI telah menanggapi kekhawatiran ini dan menghentikan penggunaan ‘Sky’, dan kami menantikan untuk bekerja dengan mereka dan pemangku kepentingan industri lainnya untuk memastikan perlindungan yang transparan dan tangguh bagi kita semua,” tambahnya.
