AMD dan Intel Kolaborasi untuk Tingkatkan Peran CPU dalam AI
Dalam dunia perangkat keras Kecerdasan Buatan (AI), diskusi seringkali berfokus pada unit pemrosesan grafis (GPU). Namun, peran prosesor pusat (CPU) sering kali terabaikan. Kini, dua pemain besar dalam industri semikonduktor, AMD dan Intel, mengambil langkah berani untuk mengembalikan perhatian kepada CPU melalui peluncuran spesifikasi baru yang dikenal sebagai Advanced Compute Extensions (ACE).
Memperkenalkan Advanced Compute Extensions (ACE)
ACE dirancang untuk memberikan pendekatan baru dalam pengolahan AI dengan tujuan meningkatkan efisiensi pada prosesor berbasis arsitektur x86. Meskipun langkah ini tidak bertujuan untuk menggantikan GPU dalam pelatihan AI skala besar, ACE lebih terfokus pada model AI yang lebih kecil, tugas-tugas yang membutuhkan latensi rendah, serta situasi di mana penggunaan GPU dianggap berlebihan.
Dalam banyak kasus, mengirim data antara CPU dan GPU dapat menyebabkan penurunan kinerja yang signifikan, terutama untuk beban kerja yang memerlukan respons cepat. Dengan meminimalkan proses transfer data ini, ACE berusaha untuk menghindari potensi "leher botol" (bottleneck) yang sering menghambat kinerja sistem.
Keunggulan Teknis ACE
Secara teknis, ACE menempatkan fokus pada perkalian matriks, yang merupakan inti dari banyak operasi AI. Meskipun CPU sebelumnya dapat menangani matematika ini dengan instruksi AVX, efisiensinya terbatas karena instruksi tersebut tidak dirancang untuk beban kerja matriks yang berat. Berikut beberapa keunggulan dari ACE:
- Struktur Familiar: ACE mempertahankan struktur register AVX10 yang sudah ada dengan input 512-bit, sambil menambahkan perangkat keras khusus untuk operasi matriks. Hal ini membuat pengembang tidak perlu mengubah format data secara menyeluruh.
- Kinerja Meningkat: ACE mampu menjalankan operasi hingga 16 kali lebih banyak dibandingkan AVX10 untuk serangkaian vektor input tertentu. Meskipun tidak berarti semua aplikasi akan berjalan 16 kali lebih cepat, ini menunjukkan efisiensi instruksi yang meningkat.
- Efisiensi Energi: Dengan efisiensi instruksi yang lebih baik, ACE juga mengarah pada pengurangan konsumsi daya dan beban bandwidth memori, menjadikannya sangat ideal untuk komputasi edge atau aplikasi yang digunakan oleh satu pengguna.
Manfaat bagi Pengembang
Bagi para pengembang, ACE menawarkan konsistensi yang sangat dibutuhkan. Spesifikasi ini dirancang tanpa terikat pada satu implementasi tertentu, yang memudahkan para pengembang yang menggunakan framework populer seperti PyTorch dan TensorFlow. Mereka tidak perlu lagi khawatir mencocokkan kode dengan berbagai dukungan AVX yang berbeda.
Selain itu, ACE juga menyoroti beberapa kelemahan dari Neural Processing Unit (NPU). Meski NPU semakin umum, standar yang ada masih berantakan, dan memindahkan beban kerja ke NPU terkadang justru menciptakan komplikasi baru tergantung pada perangkat keras yang digunakan. Di sinilah ACE memberikan solusi, dengan menjaga tugas-tugas tertentu tetap di CPU untuk memastikan kecepatan dan kemudahan.
Kesimpulan: Evolusi CPU dalam Dunia AI
Meskipun spesifikasi ACE tidak akan menggeser posisi GPU sebagai raja dalam pelatihan AI skala besar, inovasi ini menandakan bahwa evolusi CPU masih berlanjut. Dengan arsitektur yang tepat, prosesor x86 kini mampu menangani beban kerja AI yang lebih luas dan efisien dibandingkan sebelumnya. Langkah ini menunjukkan bahwa CPU memiliki peran penting yang tidak boleh diabaikan dalam ekosistem AI yang terus berkembang.
Sumber: https://inet.detik.com/consumer/d-8543884/amd-dan-intel-garap-ace-buat-tantang-dominasi-nvidia-di-ai
