“Orang-orang membeli mesin dengan spesifikasi tertinggi,” kata Zain Asgar, pendiri dan CEO Gimlet, dalam sebuah wawancara. “Yang kami izinkan Anda lakukan adalah menentukan cara memaksimalkan beban kerja pada mesin tertentu dan juga membaginya di antara berbagai jenis mesin.”
Teknologi ini sangat berguna selama implementasi agen kecerdasan buatan (AI) yang mengotomatisasi proses berulang, katanya. Namun, teknologi ini juga dapat digunakan di masa depan untuk mengoptimalkan model kecerdasan buatan.
Menemukan cara yang lebih efisien untuk mengembangkan AI menjadi semakin mendesak seiring perusahaan berlomba-lomba untuk mendapatkan cukup perangkat komputasi, energi, dan sumber daya pusat data lainnya. Perusahaan juga berusaha memastikan bahwa fasilitas lama mereka tidak menjadi barang usang yang tidak terpakai.
Fasilitas komputasi yang menua ini — yang disebut sebagai deployment brownfield — dapat menjadi masalah besar, menurut Natalie Serrino, salah satu pendiri Gimlet. “Mereka memiliki hardware yang berbeda dan mungkin hanya diam tanpa digunakan.”
Gimlet, yang didirikan dua tahun lalu, berakar di Universitas Stanford dan sebuah perusahaan bernama Pixie yang diakuisisi oleh New Relic Inc. pada 2020. Startup berbasis di San Francisco ini mengatakan memiliki pendapatan lebih dari US$10 juta per tahun.
Perusahaan ini menggalang dana US$12 juta dalam putaran awal yang dipimpin oleh firma modal ventura Factory, dengan angel investor termasuk CEO Intel Lip-Bu Tan, pimpinan Figma Inc. Dylan Field, dan mantan CEO VMware Raghu Raghuram. Sachin Katti, Kepala Teknologi dan AI Intel yang juga dosen tamu di Stanford dan pernah mengajar bersama Asgar, menjadi penasihat Gimlet, begitu pula Tan.
Intel berencana untuk mengambil peran yang lebih besar dalam komputasi kecerdasan buatan (AI computing), sebagai bagian dari upayanya untuk mengembalikan pertumbuhan. Di bawah kepemimpinan Tan, yang menjabat sebagai CEO pada bulan Maret, dan Katti, yang ditunjuk ke posisinya saat ini sebulan kemudian, perusahaan berusaha menunjukkan bahwa prosesor Intel dapat digunakan untuk sebagian tugas AI. Misalnya, prosesor Intel dapat dipadukan dengan prosesor Nvidia untuk memperpanjang umur pakai chip tersebut.
Keterlibatan Tan dan Katti dalam startup — atau teknologi yang menjadi Gimlet — sudah ada sebelum mereka menjabat di Intel. Namun, strategi Gimlet sejalan dengan tujuan Intel. “Intel sangat senang melihat pendekatan semacam ini muncul,” kata Katti.
Sejumlah ide tersebut berasal dari penelitian dan kelas yang melibatkan Asgar, Katti, dan Serrino, yang merupakan peneliti tamu di Stanford. Awalnya, kelompok tersebut ingin mengembangkan perangkat lunak yang membuat tugas dan model AI lebih efisien saat dijalankan di perangkat kecil di tepi jaringan, seperti laptop dan ponsel pintar. Kelas Asgar dan Katti, misalnya, mencoba model AI yang diimplementasikan pada mesin Raspberry Pi. Namun, para pendiri melihat peluang yang lebih besar dalam meningkatkan cara kerja komputasi awan AI.
Software Gimlet saat ini dapat meningkatkan efisiensi sekitar 1,5 hingga 2 kali lipat, diukur berdasarkan biaya total untuk mencapai target kinerja tertentu.
Perusahaan tertarik untuk menambah lebih banyak pemasok chip dan jenis chip — terutama tensor processing units (TPU), yang diproduksi oleh perusahaan seperti Google milik Alphabet Inc. Perangkat lunak ini sebagian besar kompatibel dengan model sumber terbuka, meskipun Gimlet juga dapat bekerja dengan software proprietary jika pelanggan memberikan akses. Gimlet juga harus mempertimbangkan berbagai versi chip yang berbeda, sehingga memiliki agen AI sendiri yang dapat secara otomatis menghasilkan sebagian software yang diperlukan untuk bekerja dengan berbagai prosesor.
(bbn)
