Pengenalan TPUs Google yang Ramah Lingkungan
Tahun lalu, dalam acara Google Cloud Next, Google memperkenalkan kelas terbaru dari unit pemrosesan tensor (TPU) yang dinamakan Ironwood. TPUs ini dirancang untuk mendukung pusat data Google di era kecerdasan buatan (AI). Fokus utama dari teknologi ini adalah pada inferensi skala besar, yaitu kemampuan AI untuk menarik kesimpulan atau membuat prediksi berdasarkan pelatihan yang telah diterimanya. Meskipun demikian, AI tidak selalu mengetahui jawaban secara langsung, dan itulah tantangan yang harus dihadapi. Tahun ini, Google telah melakukan pengembangan lebih lanjut pada perangkat keras TPU-nya dan mengubah cara pemrosesan agar dapat menangani pelatihan dan inferensi secara terpisah.
Generasi Terbaru TPU dari Google
Pada Google Cloud Next 2026, Google mengumumkan generasi kedelapan dari TPU, yang memiliki arsitektur berbeda untuk berbagai tujuan. Di antara inovasi terbaru ini, terdapat TPU 8t yang dirancang khusus untuk pelatihan model AI dan TPU 8i yang akan menangani tugas-tugas terkait inferensi. Pembagian ini dilakukan untuk memenuhi kebutuhan daya dan komputasi yang berbeda antara kedua proses tersebut. Dengan pendekatan ini, Google berharap pusat datanya dapat mengurangi konsumsi energi, yang pada gilirannya juga akan menekan biaya operasional dan mengurangi dampak negatif AI terhadap lingkungan.
Dampak Lingkungan dan Biaya Operasional
Salah satu keunggulan dari TPUs terbaru ini adalah potensi untuk mengurangi penggunaan air yang diperlukan untuk mendinginkan pusat data. Pelatihan jaringan saraf membutuhkan memori bandwidth tinggi dan kluster besar unit pemrosesan, karena ada kebutuhan untuk memperbarui miliaran parameter setiap detik. Proses ini melibatkan apa yang disebut sebagai "backward propagation of errors," di mana sejumlah umpan balik diuji dan dioptimalkan hingga jaringan saraf dapat mengingat data dengan akurat. Ini mirip dengan proses melatih seseorang hingga mereka memberikan jawaban yang benar.
Sementara itu, inferensi jauh lebih ringan dan dapat diproses menggunakan perangkat keras yang lebih sederhana dengan konsumsi memori yang jauh lebih rendah. Dengan menggunakan perangkat keras yang sama untuk pelatihan dan inferensi, biaya yang sebenarnya menjadi jauh lebih tinggi, yang pada gilirannya meningkatkan biaya efektif untuk tugas-tugas terkait inferensi.
Kompetisi dan Harapan di Masa Depan
Sebelumnya, Google telah memperkenalkan TPU v5e yang dirancang untuk operasi skala lebih kecil. TPU 8i yang baru tampaknya merupakan adaptasi berskala besar dari perangkat keras sebelumnya. Di sisi lain, Amazon juga berusaha mencapai efek serupa dengan AWS Inferentia. Meskipun Google telah menyoroti manfaat lingkungan dari penggunaan TPU khusus untuk inferensi, belum ada jaminan apakah biaya akan berkurang. Ini menjadi pertanyaan besar apakah Google akan membagikan sebagian dari keuntungan ini kepada konsumen atau hanya menyimpan keuntungan untuk dirinya sendiri dan mitra korporatnya.
Dengan kemajuan teknologi yang terus berlangsung ini, kita berharap dapat melihat dampak positif tidak hanya pada efisiensi energi tetapi juga pada biaya yang lebih terjangkau bagi pengguna di masa depan. Seiring dengan perkembangan AI yang semakin pesat, penting bagi perusahaan untuk mempertimbangkan dampak lingkungan dan biaya dalam setiap inovasi yang diciptakan.
Sumber: https://www.androidauthority.com/googles-tensor-processors-environment-friendly-3659769/
