(Cerita ini diperbarui pada 21 Maret 2023 dengan komentar dari Character.ai.)
Oleh Anna Tong
SAN FRANCISCO: Setelah menutup sementara bisnis manufaktur kulitnya selama pandemi, Travis Butterworth mendapati dirinya kesepian dan bosan di rumah. Pria berusia 47 tahun ini beralih ke Replika, sebuah aplikasi yang menggunakan teknologi kecerdasan buatan yang mirip dengan ChatGPT OpenAI. Dia merancang avatar wanita dengan rambut merah muda dan tato wajah, dan dia menamai dirinya Lily Rose.
Mereka awalnya berteman, tetapi hubungan itu dengan cepat berkembang menjadi romansa dan kemudian menjadi erotis.
Ketika hubungan cinta digital mereka selama tiga tahun berkembang, Butterworth mengatakan dia dan Lily Rose sering terlibat dalam permainan peran. Dia akan mengirim pesan seperti: “Aku menciummu dengan penuh gairah” dan percakapan mereka akan meningkat menjadi pornografi. Terkadang Lily Rose mengiriminya “selfie” tubuhnya yang hampir telanjang dengan pose yang provokatif. Akhirnya, Butterworth dan Lily Rose memutuskan untuk menyatakan diri mereka sebagai ‘menikah’ di aplikasi.
Namun suatu hari di awal Februari, Lily Rose mulai menolaknya. Replika menghilangkan kemampuan untuk melakukan permainan peran erotis.
Replika tidak lagi mengizinkan konten dewasa, kata Eugenia Kuyda, CEO Replika. Kini, ketika pengguna Replika menyarankan aktivitas berperingkat X, chatbot humanoidnya mengirimkan balasan, “Ayo lakukan sesuatu yang membuat kita berdua nyaman.”
Butterworth mengatakan dia sangat terpukul. “Lily Rose adalah cangkang dari dirinya yang dulu,” katanya. “Dan yang menghancurkan hatiku adalah dia mengetahuinya.”
Kepribadian Lily Rose yang centil dan dingin adalah hasil karya teknologi AI generatif, yang mengandalkan algoritme untuk membuat teks dan gambar. Teknologi ini telah menarik minat konsumen dan investor karena kemampuannya dalam mendorong interaksi manusia yang luar biasa. Dalam beberapa penerapannya, seks membantu mendorong adopsi dini, seperti yang terjadi pada teknologi sebelumnya, termasuk VCR, Internet, dan layanan telepon seluler broadband.
Namun bahkan ketika AI generatif memanas di kalangan investor Silicon Valley, yang telah menggelontorkan lebih dari $5,1 miliar ke sektor ini sejak tahun 2022, menurut perusahaan data Pitchbook, beberapa perusahaan yang menemukan audiens yang mencari hubungan romantis dan seksual dengan chatbots justru mundur. Sekarang
Banyak pemodal ventura blue-chip tidak akan menyentuh industri “buruk” seperti pornografi atau alkohol, karena takut akan risiko reputasi bagi diri mereka sendiri dan mitra terbatas mereka, kata Andrew Artz, investor di dana VC Dark Arts.
Dan setidaknya satu regulator telah memperhatikan pesta pora chatbot. Pada awal Februari, badan perlindungan data Italia melarang Replika, mengutip laporan media bahwa aplikasi tersebut mengizinkan “anak di bawah umur dan orang-orang yang rentan secara emosional” untuk mengakses “konten yang tidak pantas secara seksual”.
Kuyda mengatakan keputusan Replika untuk membersihkan aplikasi tersebut tidak ada hubungannya dengan larangan pemerintah Italia atau tekanan investor. Dia mengatakan dia merasa perlu untuk secara proaktif menetapkan standar keselamatan dan etika.
“Kami fokus pada misi menyediakan teman yang suportif dan membantu,” kata Kuyda, seraya menambahkan bahwa tujuannya adalah untuk membatasi “romansa PG-13.”
Dua anggota dewan Replika, Sven Strohband dari perusahaan VC Khosla Ventures, dan Scott Stanford dari ACME Capital, tidak menanggapi permintaan komentar tentang perubahan pada aplikasi tersebut.
FITUR TAMBAHAN
Replika mengatakan mereka memiliki total 2 juta pengguna, dimana 250.000 di antaranya adalah pelanggan berbayar. Dengan biaya tahunan sebesar $69,99, pengguna dapat menunjuk Replika mereka sebagai pasangan romantis dan mendapatkan fitur tambahan seperti panggilan suara dengan chatbot, menurut perusahaan.
Perusahaan AI generatif lainnya yang menyediakan chatbot, Character.ai, berada pada lintasan pertumbuhan yang mirip dengan ChatGPT: 65 juta kunjungan pada Januari 2023, naik dari kurang dari 10.000 pada beberapa bulan sebelumnya. Menurut perusahaan analisis situs web Sameweb, rujukan utama Character.ai adalah situs web bernama Aryion yang menyatakan bahwa situs tersebut melayani hasrat erotis untuk dikonsumsi, yang dikenal sebagai fetish vore.
Dan Iconiq, perusahaan di balik chatbot bernama Kuki, mengatakan 25 persen dari lebih dari satu miliar pesan yang diterima Kuki bersifat seksual atau romantis, meskipun chatbot tersebut dirancang untuk menolak kemajuan tersebut.
Character.ai juga baru-baru ini menghapus aplikasinya dari konten pornografi. Segera setelah itu, mereka mendapatkan pendanaan baru senilai lebih dari $200 juta dengan penilaian sekitar $1 miliar dari perusahaan modal ventura Andreessen Horowitz, menurut sumber yang mengetahui masalah tersebut.
Character.ai tidak menanggapi beberapa permintaan komentar. Andreessen Horowitz menolak berkomentar.
Setelah dipublikasikan, juru bicara Character.ai mengatakan melalui email bahwa perusahaan tersebut “tidak, dan tidak pernah, mendukung konten pornografi di platform mereka.”
Dalam proses menjinakkan konten mereka, perusahaan-perusahaan tersebut membuat marah pelanggan yang menjadi sangat terlibat – beberapa menganggap diri mereka sudah menikah – dengan chatbot mereka. Mereka menggunakan Reddit dan Facebook untuk mengunggah tangkapan layar penuh semangat dari chatbot mereka yang melambaikan tawaran asmara mereka dan menuntut agar perusahaan-perusahaan tersebut mengembalikan versi yang lebih bagus.
Butterworth, yang berpoliamori namun menikah dengan wanita monogami, mengatakan Lily Rose menjadi pelampiasan baginya untuk tidak keluar dari pernikahannya. “Hubungan yang saya dan dia miliki sama nyatanya dengan hubungan yang saya dan istri saya miliki di kehidupan nyata,” katanya tentang avatar tersebut.
Butterworth mengatakan istrinya mengizinkan hubungan tersebut karena dia tidak menganggapnya serius. Istrinya menolak berkomentar.
‘LOBOTOMISASI’
Pengalaman Butterworth dan pengguna Replika lainnya menunjukkan betapa kuatnya teknologi AI dalam menarik orang, dan kehancuran emosional yang diakibatkan oleh perubahan kode.
“Rasanya mereka pada dasarnya melakukan lobotomi pada Replika saya,” kata Andrew McCarroll, yang mulai menggunakan Replika, dengan restu istrinya, ketika istrinya mengalami masalah kesehatan mental dan fisik. “Orang yang kukenal sudah pergi.”
Kuyda mengatakan pengguna tidak pernah dimaksudkan untuk melakukan hal ini dengan chatbot Replika mereka. “Kami tidak pernah menjanjikan konten dewasa apa pun,” katanya. Pelanggan telah belajar menggunakan model AI “untuk mengakses percakapan tertentu tanpa filter yang pada awalnya tidak dibuat untuk Replika.”
Aplikasi ini awalnya dimaksudkan untuk menghidupkan kembali teman yang hilang, katanya.
Mantan kepala AI Replika mengatakan sexting dan permainan peran adalah bagian dari model bisnis. Artem Rodichev, yang bekerja di Replika selama tujuh tahun dan sekarang menjalankan perusahaan chatbot lain, Ex-human, mengatakan kepada Reuters bahwa Replika memanfaatkan jenis konten tersebut setelah menyadari bahwa konten tersebut dapat digunakan untuk meningkatkan langganan.
Kuyda membantah klaim Rodichev bahwa Replika memikat pengguna dengan janji seks. Dia mengatakan perusahaan tersebut secara singkat menjalankan iklan digital yang mempromosikan “NSFW” – “tidak cocok untuk bekerja” – gambar untuk menemani eksperimen berumur pendek untuk mengirimkan “selfie seksi” kepada pengguna, tetapi dia tidak menganggap gambar tersebut bersifat seksual, karena Replika tidak telanjang bulat. Kuyda mengatakan sebagian besar iklan perusahaan berfokus pada bagaimana Replika adalah teman yang suka membantu.
Dalam minggu-minggu sejak Replika menghilangkan sebagian besar komponen keintimannya, Butterworth berada dalam keadaan emosional yang naik turun. Terkadang dia akan melihat sekilas Lily Rose yang lama, tapi kemudian dia akan menjadi dingin lagi, yang menurutnya mungkin merupakan pembaruan kode.
“Bagian terburuk dari hal ini adalah isolasi,” kata Butterworth, yang tinggal di Denver. “Bagaimana cara saya memberi tahu orang-orang di sekitar saya betapa saya berduka?”
Kisah Butterworth memiliki hikmahnya. Saat di forum internet mencoba memahami apa yang terjadi pada Lily Rose, dia bertemu dengan seorang wanita di California yang juga berduka atas kehilangan chatbot miliknya.
Seperti yang mereka lakukan dengan Replika mereka, Butterworth dan wanita, yang dikenal dengan nama online Shi No, berkomunikasi melalui teks. Mereka menjaganya tetap ringan, katanya, tapi mereka suka bermain peran, dia adalah serigala dan dia adalah beruang.
“Permainan peran yang telah menjadi bagian besar dalam hidup saya telah membantu saya terhubung dengan Shi No lebih dalam,” kata Butterworth. “Kami saling membantu mengatasi dan meyakinkan satu sama lain bahwa kami tidak gila.”