BagusTech – NVIDIA mengumumkan peluncuran NVIDIA NIM yang kini tersedia bagi 28 juta pengembang di seluruh dunia.
Teknologi ini memungkinkan pengembang untuk membuat aplikasi AI generatif, seperti asisten virtual dan chatbot, dengan lebih mudah dan cepat.
NVIDIA NIM adalah layanan mikro inferensi yang menyediakan model sebagai kontainer yang dioptimalkan.
Dengan NIM, pengembang bisa membangun aplikasi AI generatif hanya dalam hitungan menit, bukan minggu. Aplikasi AI generatif ini semakin kompleks, menggunakan berbagai model untuk menghasilkan teks, gambar, video, dan suara.
Dengan NIM, perusahaan juga bisa memaksimalkan infrastruktur mereka. Misalnya, menjalankan model Meta Llama 3-8B dengan NIM bisa menghasilkan hingga tiga kali lebih banyak respons AI dibanding tanpa NIM. Hal ini meningkatkan efisiensi dan produktivitas.
Lebih dari 150 perusahaan teknologi, termasuk Cadence, Cloudera, Cohesity, DataStax, NetApp, Scale AI, dan Synopsys, sudah mengintegrasikan NIM ke dalam platform mereka.
Ini membantu mempercepat penerapan AI generatif untuk berbagai aplikasi khusus, seperti asisten kode dan avatar digital. Hugging Face juga mulai menawarkan NIM, dimulai dengan model Meta Llama 3.
“Setiap perusahaan ingin menambahkan AI generatif ke operasional mereka, tapi tidak semua punya tim peneliti AI yang khusus,” kata Jensen Huang, pendiri dan CEO NVIDIA. “NVIDIA NIM membuat AI generatif lebih mudah diakses oleh semua organisasi.”
Baca Juga
- Nvidia Rilis RTX 40 Super Dengan Performa Lebih Tinggi
- Project G-Assist Dari Nvidia Hadirkan RTX Ke Teknologi AI
- Nvidia Kembangkan Teknologi AI, CorrDiff Ramal Cuaca
Fitur dan Kegunaan NVIDIA NIM
NIM menyediakan lebih dari 40 model AI dari NVIDIA dan komunitas, yang bisa diakses di ai.nvidia.com. Model ini termasuk Databricks DBRX, model terbuka Gemma dari Google, Meta Llama 3, Microsoft Phi-3, dan lainnya.
Pengembang bisa menggunakan layanan mikro NIM untuk model Meta Llama 3 dari platform AI Hugging Face, yang memudahkan pengembang untuk mengakses dan menjalankan model ini dengan beberapa klik saja.
Banyak perusahaan kesehatan sudah mulai menggunakan NIM untuk meningkatkan AI generatif dalam berbagai aplikasi, seperti perencanaan bedah, asisten digital, penemuan obat, dan optimisasi uji klinis. Dengan layanan mikro NVIDIA BioNeMo™ NIM, peneliti bisa membangun struktur protein baru untuk mempercepat penemuan obat.
Berbagai penyedia platform seperti Canonical, Red Hat, Nutanix, dan VMware mendukung NIM pada KServe open-source atau solusi enterprise. Perusahaan aplikasi AI seperti Hippocratic AI, Glean, Kinetica, dan Redis juga menggunakan NIM untuk memperkuat AI generatif mereka.
Mitra alat AI dan MLOps seperti Amazon SageMaker, Microsoft Azure AI, Dataiku, DataRobot, dan lainnya juga sudah mengintegrasikan NIM ke dalam platform mereka. Ini membantu pengembang membangun dan menerapkan aplikasi AI generatif dengan lebih mudah dan efisien.
Ketersediaan
Pengembang bisa mencoba layanan mikro NVIDIA di ai.nvidia.com tanpa biaya. Perusahaan bisa menggunakan layanan mikro NIM kelas produksi dengan NVIDIA AI Enterprise yang berjalan di Sistem Bersertifikat NVIDIA dan platform cloud terkemuka. Mulai bulan depan, anggota Program Pengembang NVIDIA akan mendapatkan akses gratis ke NIM untuk penelitian dan pengujian.
