:Google Alphabet Inc pada hari Selasa merilis rincian baru tentang superkomputer yang digunakannya untuk melatih model kecerdasan buatannya, dengan mengatakan bahwa sistem tersebut lebih cepat dan lebih hemat daya dibandingkan sistem serupa dari Nvidia Corp.
Google merancang chip khusus sendiri yang disebut Tensor Processing Unit, atau TPU. Chip tersebut digunakan untuk lebih dari 90 persen pekerjaan perusahaan dalam pelatihan kecerdasan buatan, proses memasukkan data melalui model agar berguna dalam tugas-tugas seperti merespons pertanyaan dengan teks mirip manusia atau menghasilkan gambar.
Google TPU kini memasuki generasi keempat. Google menerbitkan makalah ilmiah pada hari Selasa yang merinci bagaimana mereka merakit lebih dari 4.000 chip menjadi superkomputer dengan sakelar optik khusus untuk membantu menghubungkan masing-masing mesin.
Meningkatkan koneksi ini telah menjadi kunci persaingan di antara perusahaan-perusahaan yang membangun superkomputer AI karena apa yang disebut model bahasa besar yang menggerakkan teknologi seperti Google Bard atau ChatGPT OpenAI telah meledak ukurannya, yang berarti mereka terlalu besar untuk dijalankan dalam menyimpan satu slide.
Sebaliknya, model harus didistribusikan ke ribuan chip, yang kemudian harus bekerja sama selama berminggu-minggu atau lebih untuk melatih model tersebut. Model PaLM Google – model bahasa terbesar yang dirilis ke publik hingga saat ini – dilatih dengan membaginya menjadi dua dari 4.000 chip superkomputernya selama 50 hari.
Google mengatakan superkomputernya memudahkan konfigurasi ulang koneksi antar chip dengan cepat, membantu menghindari masalah dan menyesuaikan peningkatan kinerja.
“Sirkuit memudahkan perpindahan komponen yang gagal,” tulis Google Fellow Norm Jouppi dan Google Distinguished Engineer David Patterson dalam postingan blog tentang sistem tersebut. “Fleksibilitas ini bahkan memungkinkan kami mengubah topologi interkoneksi superkomputer untuk mempercepat performa model ML (machine learning).”
Meskipun Google baru saja merilis detail tentang superkomputernya, Google telah online di dalam perusahaan tersebut sejak tahun 2020 di pusat data di Mayes County, Oklahoma. Google mengatakan startup Midjourney menggunakan sistem tersebut untuk melatih modelnya, yang menghasilkan gambar segar setelah memberinya beberapa kata teks.
Dalam makalah tersebut, Google mengatakan chipnya untuk sistem dengan ukuran yang sebanding hingga 1,7 kali lebih cepat dan 1,9 kali lebih hemat daya dibandingkan sistem berbasis chip A100 Nvidia yang memasuki pasar bersamaan dengan pencucian TPU generasi keempat. .
Juru bicara Nvidia menolak berkomentar.
Google menyatakan tidak membandingkan generasi keempatnya dengan chip H100 andalan Nvidia saat ini karena H100 masuk ke pasar setelah chip Google dan dibuat dengan teknologi yang lebih baru.
Google mengisyaratkan bahwa mereka mungkin sedang mengerjakan TPU baru yang akan bersaing dengan Nvidia H100, namun tidak memberikan rincian apa pun. Jouppi mengatakan kepada Reuters bahwa Google memiliki “jalur chip masa depan yang sehat.”