Penelitian telah menyerukan pendekatan yang mempertimbangkan asuransi dan ganti rugi (tanggung jawab atas kompensasi kerugian) untuk mengalihkan tanggung jawab dan memungkinkan para pemangku kepentingan untuk bernegosiasi secara langsung satu sama lain. Mereka juga menyarankan untuk memindahkan perselisihan tentang algoritme ke pengadilan khusus. Tetapi kita membutuhkan pemikiran yang berani untuk mengatasi tantangan ini.
Alih-alih pertanggungjawaban, fokus pada pengurangan dampak buruk akan lebih bermanfaat. Sayangnya, sistem kami saat ini tidak memungkinkan perusahaan untuk berkolaborasi atau berbagi pengetahuan dengan mudah, terutama ketika masalah antimonopoli mungkin muncul. Ini harus berubah.
MEMPERTIMBANGKAN BATAS PERSAINGAN
Masalah-masalah ini membutuhkan upaya berskala besar dan berskala industri. Tekanan persaingan yang salah kaprah telah mendorong Tesla, Uber, dan Boeing untuk merilis AI mereka terlalu cepat. Mereka terlalu khawatir tentang biaya tanggung jawab hukum dan keterlambatan pesaing.
Penelitian saya menunjukkan gagasan yang agak berlawanan dengan intuisi bahwa posisi etis yang diambil perusahaan harus menjadi sumber ekuitas kompetitif dalam industrinya, bukan keunggulan kompetitif.
Dengan kata lain, perusahaan tidak boleh menonjol dalam menemukan cara yang etis untuk menjalankan bisnisnya. Kewajiban etis harus menjadi harapan minimum yang dituntut dari semua yang bersaing.
Perusahaan harus bersaing dalam variabel seperti kenyamanan, layanan pelanggan, atau masa pakai produk, bukan pada algoritme autopilot yang cenderung tidak mematikan. Kami membutuhkan pengecualian berbasis masalah dari persaingan, yang berpusat pada tantangan teknologi tertentu, seperti perangkat lunak mengemudi otonom, dan dipandu oleh keinginan bersama untuk mengurangi bahaya.
Akan terlihat seperti apa dalam praktiknya? Yang benar adalah bahwa lebih dari 50 persen perusahaan Fortune 500 sudah menggunakan perangkat lunak sumber terbuka untuk pekerjaan penting. Dan kemampuan mereka untuk bersaing tidak tertahan dengan menyerah pada algoritme kepemilikan.
Bayangkan jika motivasi untuk mengurangi bahaya menjadi fungsi target utama para pemimpin teknologi. Ini akan mengakhiri insentif yang saat ini dimiliki masing-masing perusahaan untuk merancang AI yang secara artifisial tidak berbahaya. Ini akan mengalihkan prioritas strategis mereka dari selalu mencegah peniruan dan mendorong pesaing untuk mengurangi kerugian dengan cara serupa.
Dan itu akan membuat kue lebih besar untuk semua orang, karena pelanggan dan pemerintah akan lebih percaya diri dalam revolusi yang digerakkan oleh teknologi jika para inovator dianggap mengutamakan pengurangan dampak buruk.
David Weitzner adalah Asisten Profesor Studi Administrasi di York University, Kanada. Komentar ini muncul lebih dulu di Percakapan.
