Kecerdasan buatan (AI) bukan lagi sebuah pilihan, sebagaimana dibuktikan dengan pertumbuhan investasi AI yang stabil di ASEAN, dengan Singapura sebagai negara dengan keunggulan terbesar di kawasan ini. Investasi per kapita sebesar US$68 (S$90,4)..
Seiring dengan semakin canggihnya AI, dunia usaha dan organisasi perlu berinvestasi dalam mengembangkan sistem yang dapat memperkuat keandalan, transparansi, dan akuntabilitas teknologi tersebut, kata para ahli di IBM TechFest.
IBM TechFest, yang diadakan di Suntec Singapore Convention and Exhibition Centre bulan lalu, menampilkan pameran interaktif mengenai dampak kemajuan teknologi seperti AI, otomatisasi, keamanan siber, dan komputasi kuantum. Peserta juga menghadiri seminar dengan para futuris, analis dan inovator serta bertemu dengan pengembang dari tim IBM Research and Labs di seluruh dunia.
Selama acara tiga hari tersebut, tema utama seputar AI muncul: Dengan pesatnya kemajuan AI, bagaimana kita dapat memanfaatkan dan menggunakannya dengan lebih baik dengan pikiran yang tenang?
PENGUMPULAN, PENGGUNAAN, DAN BERBAGI DATA YANG BERTANGGUNG JAWAB
Data adalah fondasi AI, dan organisasi hanya akan menyadari nilai AI ketika data berkualitas tinggi dapat diakses dan berguna bagi pemangku kepentingan.
Secara tradisional, ilmuwan data yang memasukkan data ke dalam algoritme dan kemudian memutuskan bagaimana data tersebut akan digunakan mungkin tidak mempertimbangkan keadilan dalam keputusan AI. Kumpulan data yang bias dapat menimbulkan bias terhadap kelompok tertentu dan hasil yang tidak diharapkan – misalnya, perempuan dapat dikecualikan dari pinjaman dan layanan keuangan lainnya.
“AI sering kali dipandang sebagai kotak hitam yang memberikan hasil tanpa memahami proses yang mendasarinya. AI yang bertanggung jawab bertujuan untuk meningkatkan transparansi dan akuntabilitas,” kata Dr Li Xuchun, Wakil Direktur dan Kepala Kantor Pengembangan AI di Otoritas Moneter Singapura (MAS).
Menurut Bapak Tang Ming Fai, Chief Information Officer dan Chief Data Officer di Temasek Polytechnic, meningkatkan harmonisasi data – untuk menyatukan format data yang terpisah dalam satu kumpulan data – dari berbagai sumber sangatlah penting.
“Beberapa platform dan alat tersedia untuk memanfaatkan sumber data yang berbeda, namun definisi yang digunakan oleh organisasi yang berbeda menyulitkan harmonisasi data. Ada kesalahpahaman bahwa menggabungkan data dari organisasi serupa akan selalu menghasilkan model yang lebih baik. Data harus diselaraskan terlebih dahulu untuk menjamin kesesuaiannya,” ujarnya.
Selain pengumpulan data yang adil, pembagian data yang bertanggung jawab juga merupakan kunci dalam membangun kepercayaan terhadap AI. Pengumpulan, penggunaan, dan distribusi data saat ini memerlukan tingkat kepatuhan yang berbeda-beda untuk melindungi privasi dan mencegah penyalahgunaan. Namun kurang dari dua pertiga chief data officer di ASEAN mengatakan bahwa mereka mematuhi undang-undang dan standar data laporan global baru-baru ini.
Semakin banyak organisasi yang menyadari pentingnya keamanan data. Awal tahun ini, misalnya, Otoritas Pertanahan Singapura mempekerjakan konsultan teknologi informasi multinasional India, Tech Mahindra – yang merupakan mitra bisnis strategis IBM – untuk mengembangkan platform online guna mengamankan pembayaran elektronik dan dokumen digital serta penandatangan untuk semua jenis proses pengalihan properti. properti.
“Lembaga yang memiliki kumpulan data harus bertindak sebagai penengah untuk mengatur diskusi. Jika tidak, maka akan terjadi kesalahan penafsiran data, sehingga menghasilkan kesimpulan yang salah,” tambah Kitman Cheung, direktur penjualan teknis APAC di IBM Software Group.
MEMBANGUN KEPERCAYAAN, TRANSPARANSI DAN AKUNTABILITAS
Empat tahun lalu, MAS meluncurkan prinsip FEAT – Keadilan, Etika, Akuntabilitas, dan Transparansi – dan proyek Veritas untuk memandu sektor keuangan dalam menggunakan AI secara bertanggung jawab.
“Inisiatif Veritas bertujuan untuk mengembangkan metodologi konkrit, mendefinisikan keadilan, transparansi, dan akuntabilitas internal, dengan bantuan mitra teknologi, termasuk IBM,” kata Dr Li. “Tujuan kedua Veritas adalah membangun perangkat sumber terbuka bagi industri untuk menerapkan metodologi ini.”
A laporansalah satu penulis World Economic Forum dan Markkula Center for Applied Ethics di Santa Clara University, menjelaskan bagaimana IBM melakukan bagiannya untuk memajukan teknologi AI yang beretika, mulai dari membentuk dewan etika AI hingga mengembangkan serangkaian prinsip dan pilar yang mencakup AI kemampuan menjelaskan dan alat untuk menguji keandalan prediksi AI.
Ketika AI menarik perhatian para pembuat undang-undang di seluruh dunia, hasil yang dapat dijelaskan menjadi sangat penting dalam membenarkan kinerja algoritma dan model AI. Pelanggan juga berhak mendapatkan akuntabilitas dari organisasi atas keputusan berbasis analitik. Oleh karena itu, organisasi saat ini memerlukan tata kelola yang tepat untuk dimasukkan ke dalam strategi AI mereka.
INVESTASI PADA AI yang BERTANGGUNG JAWAB
Untuk meningkatkan kepercayaan publik terhadap AI dan mengurangi potensi dampak negatif atau merugikan yang timbul dari penggunaannya, perusahaan harus memprioritaskan investasi pada tata kelola AI. Hal ini mencakup pembuatan kebijakan, pemberian hak pengambilan keputusan, dan memastikan akuntabilitas organisasi atas risiko dan keputusan investasi.
Sebagai permulaan, Dr Li mendorong organisasi-organisasi untuk tetap mengutamakan AI yang bertanggung jawab. “Mendidik anggota dewan dan manajemen senior tentang manfaat AI dan AI yang bertanggung jawab,” rekomendasinya. “Bangun bakat dengan bekerja sama dengan akademi. Latih karyawan dan bekali mereka dengan keterampilan AI dan data yang diperlukan. Pastikan AI bukan solusi mandiri karena memerlukan pemahaman tentang kebutuhan bisnis dan kebutuhan pelanggan. Dan fokus pada penciptaan nilai bisnis dan pendapatan sebagai tujuan akhir,” rekomendasinya.
Mengembangkan AI yang andal bisa menjadi jalan yang panjang dan penuh tantangan, namun hal ini tidak bisa dianggap remeh. Mengadopsi kerangka kerja AI yang bertanggung jawab tidak hanya akan membantu organisasi membangun infrastruktur yang lebih kuat, namun juga meningkatkan reputasi bisnis dan daya saing mereka dalam jangka panjang.
Belajar lebih tentang AI yang andal dan cara IBM bekerja untuk memastikan bahwa sistem AI bersifat adil, kuat, dapat dijelaskan, dan dapat dipertanggungjawabkan.