Anthropic, sebuah perusahaan kecerdasan buatan yang didukung oleh Alphabet Inc, merilis model bahasa utama pada hari Selasa yang bersaing langsung dengan penawaran dari OpenAI yang didukung Microsoft Corp, pencipta ChatGPT.
Model bahasa besar adalah algoritme yang diajarkan untuk menghasilkan teks dengan memberikan teks pelatihan yang ditulis manusia. Dalam beberapa tahun terakhir, para peneliti telah mencapai hasil yang jauh lebih mirip manusia dengan model-model tersebut dengan secara drastis meningkatkan jumlah data yang diberikan kepada mereka dan jumlah daya komputasi yang digunakan untuk melatih mereka.
Claude, sebutan untuk model Anthropic, dibuat untuk melakukan tugas serupa dengan ChatGPT dengan merespons perintah dengan keluaran teks mirip manusia, baik dalam bentuk pengeditan kontrak hukum atau penulisan kode komputer.
Namun Anthropic, yang didirikan oleh saudara kandung Dario dan Daniela Amodei, keduanya mantan eksekutif OpenAI, telah menempatkan fokus pada produksi sistem AI yang cenderung menghasilkan konten yang menyinggung atau berbahaya, seperti instruksi untuk meretas komputer atau membuat senjata, dibandingkan sistem lain.
Kekhawatiran keamanan AI menjadi menonjol bulan lalu setelah Microsoft mengatakan akan membatasi pertanyaan pada mesin pencari Bing baru yang didukung obrolan setelah kolumnis New York Times menemukan bahwa chatbot tersebut menampilkan alter ego dan memberikan jawaban yang mengganggu selama percakapan yang panjang.
Masalah keamanan telah menjadi masalah pelik bagi perusahaan teknologi karena chatbots tidak memahami arti kata yang dihasilkannya.
Untuk menghindari pembuatan konten berbahaya, pembuat chatbot sering kali memprogramnya untuk menghindari bidang subjek tertentu sama sekali. Namun hal ini membuat chatbots rentan terhadap apa yang disebut “rekayasa cepat”, di mana pengguna berupaya mengatasi keterbatasan.
Anthropic mengambil pendekatan yang berbeda, memberi Claude serangkaian prinsip pada saat model tersebut “dilatih” dengan data teks dalam jumlah besar. Daripada mencoba menghindari topik yang berpotensi berbahaya, Claude merancang untuk menjelaskan keberatannya berdasarkan prinsip-prinsipnya.
“Tidak ada yang menakutkan. Itulah salah satu alasan kami menyukai Anthropic,” kata Richard Robinson, CEO Robin AI, startup berbasis di London yang menggunakan AI untuk menganalisis kontrak hukum yang memberi Anthropic akses awal ke Claude, kata Claude dalam wawancara dengan Reuters . .
Robinson mengatakan perusahaannya mencoba menerapkan teknologi OpenAI pada kontrak, namun menemukan bahwa Claude lebih baik dalam memahami bahasa hukum yang padat dan kecil kemungkinannya menimbulkan reaksi aneh.
“Tantangannya adalah membuat mereka melonggarkan pembatasannya untuk penggunaan yang benar-benar dapat diterima,” kata Robinson.