Saham Amazon naik 1,6% menjadi US$237,71 pada pukul 11:09 pagi di New York. Saham Nvidia memangkas kenaikan, sementara pesaing chip AI Advanced Micro Devices Inc. turun ke level terendah dalam sesi perdagangan.
Amazon berharap dapat menarik perusahaan yang mencari harga terjangkau. Chip Trainium mampu menjalankan perhitungan intensif di balik model AI dengan lebih murah dan efisien dibandingkan unit pemrosesan grafis (GPU) Nvidia yang memimpin pasar, menurut perusahaan. “Kami sangat puas dengan kemampuan kami untuk mendapatkan performa harga yang tepat dengan Trainium,” kata Brown.
Amazon meluncurkan Trainium3 sekitar setahun setelah meluncurkan akselerator pendahulunya. Itu merupakan langkah cepat menurut standar industri semikonduktor. “Hal utama yang kami harapkan di sini adalah agar tidak ada asap atau api,” kata seorang insinyur AWS bercanda saat chip tersebut pertama kali diuji pada Agustus.
Perputaran cepat ini juga sejalan dengan laju Nvidia, yang telah berjanji untuk meluncurkan chip baru setiap tahun.
Ada satu hal yang perlu diperhatikan: chip Amazon tidak dilengkapi dengan pustaka software yang mendalam, yang membantu pelanggan mengoperasikan unit pemrosesan grafis Nvidia dengan cepat.
Bedrock Robotics, perusahaan yang menggunakan model AI untuk memungkinkan alat konstruksi beroperasi secara otonom, menjalankan infrastrukturnya di server AWS. Namun, saat membangun model untuk mengarahkan ekskavator, Bedrock menggunakan chip Nvidia, menurut Chief Technology Officer Kevin Peterson.
“Kami membutuhkan kinerja yang tinggi dan mudah digunakan,” kata Peterson. “Itu Nvidia.”
Banyak dari chip Trainium yang digunakan saat ini berada di bawah kendali Anthropic, di pusat data di Indiana, Mississippi, dan Pennsylvania. AWS mengatakan awal tahun ini bahwa mereka telah menghubungkan lebih dari 500.000 chip tersebut untuk membantu startup AI melatih model terbarunya dan berencana mengalokasikan 1 juta chip untuk Anthropic hingga akhir tahun.
Amazon yakin kesuksesan Anthropic, bersama dengan layanan AI-nya sendiri, dapat menarik perusahaan lain. Amazon telah mengumumkan sedikit pelanggan besar lainnya untuk chip tersebut, membuat analis kesulitan menilai efektivitas Trainium.
Anthropic juga menggunakan Tensor Processing Units (TPU) Google dan telah menandatangani kesepakatan dengan unit Alphabet pada awal tahun ini, yang memberikan startup tersebut akses ke daya komputasi senilai puluhan miliar dolar. Dalam wawancara dengan Bloomberg Television, CEO AWS Matt Garman mengatakan hubungan perusahaan dengan Anthropic “sangat kuat.”
Dia menyebutkan bahwa startup tersebut memiliki permintaan yang sangat besar akan daya komputasi, sehingga Anthropic menggunakan berbagai penyedia layanan.
Amazon mengumumkan chip tersebut di re:Invent, konferensi pengguna tahunannya, yang dalam beberapa tahun terakhir telah menjadi ajang promosi berkelanjutan untuk layanan AI, di mana Amazon menarik pengembang alat canggih dan perusahaan yang mungkin ingin membayar akses ke layanan tersebut.
Hari Selasa, Amazon juga mengumumkan pembaruan pada lini utama model AI-nya, yang disebut Nova. Produk Nova 2 baru termasuk varian bernama Omni, yang dapat menerima masukan teks, gambar, suara, atau video, dan merespons dengan teks atau gambar.
Seperti halnya dengan chip-nya, Amazon berusaha meyakinkan pelanggan tentang kinerja berbagai model AI-nya berdasarkan harganya. Model-model Nova sebelumnya umumnya tidak masuk dalam jajaran pemimpin industri dalam benchmark yang mengukur kinerja model AI dalam menjawab pertanyaan standar.
“Benchmark yang sesungguhnya adalah dunia nyata,” kata Rohit Prasad, yang memimpin pengembangan model Amazon dan tim Artificial General Intelligence (AGI) perusahaan, dalam sebuah wawancara, sambil menambahkan bahwa ia mengharapkan model-model baru tersebut akan kompetitif.
Perusahaan juga berencana memungkinkan pelanggan untuk menggunakan lebih banyak data saat menyesuaikan model Amazon. Nova Forge, produk baru, dirancang untuk memungkinkan pengguna yang berpengalaman mengakses versi model Nova Amazon sebelum pelatihan selesai dan menyesuaikannya dengan data mereka sendiri.
Reddit Inc. menggunakan Nova Forge untuk membangun model yang mampu menilai apakah sebuah posting di papan pesan digital melanggar kebijakan keamanan situs. Chris Slowe, kepala teknologi perusahaan, mengatakan bahwa beberapa pelanggan AI tergoda untuk menggunakan model paling canggih untuk menyelesaikan setiap masalah, daripada mencari model dengan keahlian khusus.
“Fakta bahwa kita dapat membuatnya menjadi ahli di bidang spesifik kita adalah di situlah nilai sebenarnya berasal,” katanya dalam sebuah wawancara.
(bbn)
