Raksasa search engine yang berbasis di Mountain View, Amerika Serikat itu hanya meyakini peserta Google I/O 2024 bahwa TPU barunya itu akan tersedia akhir tahun ini. CEO Google Sundar Pichai mengatakan bahwa Trillium TPU akan memiliki bandwidth memori dua kali lipat.

Orang nomor satu di Google itu juga menekankan komitmen jangka panjang Google terhadap inovasi AI, dengan menyatakan, “Google lahir untuk momen ini. Kami telah menjadi pionir dalam GPU selama lebih dari satu dekade.”

Pichai kemudian juga mengungkapkan peningkatan kinerja Trillium yang mengesankan. Dibandingkan dengan TPU generasi kelima, Trillium menawarkan peningkatan yang mengejutkan sebesar 4,7 kali lipat dalam daya komputasi per chip.

Google bisa mencapai hal ini, seperti ditegaskan oleh Pichai dengan meningkatkan unit perkalian matriks (MXU) chip dan meningkatkan kecepatan clock secara keseluruhan. Selain itu, Trillium mendapat manfaat dari bandwidth memori dua kali lipat.

Trillium menggabungkan teknologi SparseCore generasi ketiga Google, yang digambarkan sebagai “akselerator yang dibuat khusus untuk tugas-tugas umum berskala besar dalam beban kerja pemeringkatan dan rekomendasi tingkat lanjut.”

Hal ini memungkinkan Trillium TPU melatih model lebih cepat dan memberikan latensi lebih rendah saat menyajikan model tersebut. Tak hanya itu, efisiensi energi juga menjadi fokus utama bagi Google dalam pengembangan TPU barunya itu.

Pichai menyoroti bahwa Trillium akan hadir sebagai TPU “paling hemat energi” yang dikembangkan oleh Google. Hal ini sangat penting mengingat permintaan chip AI yang terus meningkat, yang dapat menimbulkan dampak besar terhadap lingkungan.

Dalam presentasinya di hadapan para peserta yang menghadiri Google I/O 2024, Pichai mengklaim bahwa Trillium mampu menawarkan peningkatan efisiensi energi sebesar 67% dibandingkan generasi sebelumnya.