Amazon Web Services baru-baru ini menunjukkan server pusat data baru yang dikemas dengan chip AI sendiri yang akan menantang Nvidia, dengan Apple datang sebagai pelanggan untuk menggunakannya.
Server baru, berdasarkan 64 chip Trainium2 Amazon Web Services, akan dirangkai bersama dalam superkomputer besar dengan ratusan ribu chip, dengan bantuan startup AI Anthropic, yang akan menjadi yang pertama menggunakannya. Eksekutif Apple Benoit Dupin juga mengatakan bahwa Apple menggunakan chip Trainium2.
Dengan lebih dari 70% pangsa pasar, Nvidia mendominasi penjualan chip AI, dan saingan industri chip tradisional seperti Advanced Micro Devices bergegas untuk mengejar ketinggalan.
Tetapi beberapa pesaing Nvidia yang paling tangguh juga merupakan pelanggannya: Meta Platforms, Microsoft dan Google Alphabet semuanya memiliki chip AI khusus mereka sendiri. Sementara chip Meta mendukung operasi internal, Amazon dan Google menggunakan chip mereka secara internal tetapi juga memasarkannya kepada pelanggan yang membayar.
Chief Executive AWS Matt Garman juga mengatakan bahwa Trainium3, chip AI generasi berikutnya dari perusahaan, akan debut tahun depan.
Penawaran baru “dibuat khusus untuk beban kerja yang menuntut pelatihan dan inferensi AI generatif mutakhir,” kata Garman pada acara di Las Vegas pada hari Selasa.
Server baru, yang disebut AWS Trn2 UltraServers, akan bersaing dengan server andalan Nvidia yang mengemas 72 chip “Blackwell” terbarunya. Kedua perusahaan juga menawarkan teknologi eksklusif untuk menghubungkan chip, meskipun Gadi Hutt, yang memimpin pengembangan bisnis untuk chip AI di AWS, mengatakan bahwa AWS akan dapat menghubungkan lebih banyak chip bersama-sama daripada Nvidia.
“Kami pikir dengan Trainium2, (pelanggan) mendapatkan lebih banyak komputasi daripada apa yang tersedia dari Nvidia saat ini, dan mereka akan dapat menghemat biaya,” kata Hutt kepada Reuters dalam sebuah wawancara, menambahkan bahwa beberapa model AI dapat dilatih dengan biaya 40% lebih rendah daripada pada chip Nvidia.
Eksekutif AWS mengatakan server baru dan superkomputer besar akan online tahun depan tetapi tidak memberikan tanggal spesifik. Baik AWS dan Nvidia bergegas untuk mendapatkan penawaran andalan mereka ke pasar di tengah permintaan yang melonjak, meskipun pengiriman Nvidia telah dibatasi oleh kendala rantai pasokan.
Baik Nvidia dan AWS menggunakan Taiwan Semiconductor Manufacturing untuk memproduksi chip mereka.
“Dari sudut pandang pasokan, kami berada dalam kondisi yang cukup baik di seluruh rantai pasokan,” kata Hutt kepada Reuters. “Ketika kami melakukan sistem, satu-satunya item yang tidak dapat kami gandakan adalah chip Trainium.”
