Hal ini merupakan contoh lain dari kecepatan tak kenal lelah Nvidia dalam memperkenalkan hardware dan software baru — kecepatan yang belum dapat ditandingi oleh pesaing — yang bertujuan untuk menjaga industri tetap bergantung pada penawaran mereka.  

Beberapa elemen dari bagian inferensi dalam komputasi AI — proses menghasilkan jawaban atas permintaan — tidak seefisien yang seharusnya, kata Nvidia.

Hal tersebut karena satu chip, jenis prosesor grafis (GPU), menangani pemahaman input yang masuk, lalu juga menciptakan dan menyediakan respons. 

Dengan memisahkan bagian pemahaman dari pembangkitan respons, yang akan ditangani oleh jenis chip GPU baru, Nvidia mengatakan pelanggan mereka akan mendapatkan perangkat keras yang lebih efisien. 

Menurut Jensen Huang, Rubin CPX adalah chip pertama yang dirancang khusus untuk model AI yang melakukan pemrosesan dengan jumlah pengetahuan yang besar — jutaan token — secara bersamaan.

Dalam software generation, sistem yang dibangun menggunakan chip baru ini akan berkembang jauh melampaui kemampuan saat ini, kata perusahaan tersebut. Saat ini sistem dapat menghasilkan saran kode, namun dengan hardware baru ini, mereka akan mampu memahami “proyek perangkat lunak berskala besar,” kata Nvidia dalam sebuah pernyataan.

Untuk video generation and search, penawaran baru ini akan mampu melakukan decoding, encoding, dan pemrosesan dalam satu chip.

(bbn)