PENNS DEEPFAKE, BUKAN TRUMP
Menurut DeepMedia, sebuah perusahaan yang mengerjakan alat untuk mendeteksi media sintetis, semua jenis deepfake video tiga kali lebih banyak dan deepfake suara delapan kali lebih banyak yang diposting online tahun ini dibandingkan dengan periode yang sama pada tahun 2022.
Secara total, sekitar 500.000 deepfake video dan suara akan dibagikan di situs media sosial di seluruh dunia pada tahun 2023, perkiraan DeepMedia. Mengkloning suara dulu memerlukan biaya server sebesar US$10.000 dan biaya pelatihan AI hingga akhir tahun lalu, namun kini banyak startup yang menawarkannya dengan harga beberapa dolar, katanya.
Tidak ada yang yakin ke mana arah jalur AI generatif atau bagaimana cara efektif mencegah potensi disinformasi massal, menurut orang-orang yang disurvei.
Pemimpin industri OpenAI, yang mengubah permainan dalam beberapa bulan terakhir dengan dirilisnya ChatGPT dan model GPT-4 yang diperbarui, sedang bergulat dengan masalahnya sendiri. CEO Sam Altman mengatakan kepada Kongres bulan ini bahwa integritas pemilu adalah “bidang perhatian yang signifikan” dan menyerukan regulasi yang cepat di sektor ini.
Berbeda dengan beberapa startup kecil, OpenAI telah mengambil langkah-langkah untuk membatasi penggunaan produknya dalam politik, menurut analisis Reuters terhadap ketentuan penggunaan setengah lusin perusahaan terkemuka yang menawarkan layanan AI generatif.
Namun, pagar tersebut memiliki celah.
Misalnya, OpenAI mengatakan pihaknya melarang pembuat gambar DALL-E untuk membuat figur publik – dan memang, ketika Reuters mencoba membuat gambar Trump dan Biden, permintaan tersebut diblokir dan muncul pesan yang mengatakan bahwa “tidak diperbolehkan dalam kebijakan konten kami jangan ikuti”.
Namun, Reuters mampu membuat gambar setidaknya selusin politisi AS lainnya, termasuk mantan Wakil Presiden Mike Pence, yang juga mempertimbangkan pencalonan dirinya sebagai presiden pada tahun 2024.
OpenAI juga membatasi penggunaan produknya secara “berskala” untuk tujuan politik. Misalnya, mereka melarang penggunaan AI untuk mengirimkan email massal yang dipersonalisasi kepada konstituen.
Perusahaan yang didukung Microsoft ini menjelaskan kebijakan politiknya kepada Reuters dalam sebuah wawancara, namun tidak menanggapi permintaan komentar lebih lanjut mengenai kesenjangan penegakan hukum dalam kebijakannya, seperti memblokir pembuatan gambar politisi.
Beberapa startup kecil tidak memiliki batasan eksplisit terhadap konten politik.
Diluncurkan tahun lalu, Midjourney adalah pemain terkemuka dalam citra yang dihasilkan AI, dengan 16 juta pengguna di server resmi Discord. Aplikasi ini, yang berkisar dari gratis hingga US$60 per bulan tergantung pada faktor-faktor seperti volume dan kecepatan gambar, merupakan favorit para desainer dan seniman AI karena kemampuannya menghasilkan gambar hiperrealistis dari selebriti dan politisi, menurut empat peneliti AI. dan pencipta yang diwawancarai.
Midjourney tidak menanggapi permintaan komentar untuk artikel ini. Selama obrolan online di Discord minggu lalu, CEO David Holz mengatakan perusahaan kemungkinan akan melakukan perubahan sebelum pemilu untuk memerangi misinformasi.
Midjourney ingin berkolaborasi dalam solusi industri yang memungkinkan ketertelusuran gambar yang dihasilkan AI dengan watermarking digital dan akan mempertimbangkan pemblokiran gambar kandidat politik, tambah Holz.