Dari hasil pengujian yang dilakukan secara internal, Granite 3.0 juga mampu menunjukkan keberhasilan kinerja yang unggul atau setara dengan model berukuran serupa dari penyedia model terkemuka yang memiliki benchmark terbaik.

Peluncuran ini juga menandai permulaan era model AI berukuran kecil dengan performa tinggi yang ketika diintegrasikan dengan data perusahaan, mampu memberikan kinerja optimal untuk melakukan tugas-tugas spesifik yang setara dengan model yang lebih besar, namun dengan biaya yang jauh lebih rendah.

PEMBEDA UTAMA

• Kemampuan Beradaptasi: Dirancang agar dapat disesuaikan dengan data perusahaan yang unik dan belum dimanfaatkan sebelumnya dengan InstructLab, sehingga mudah diintegrasikan ke berbagai skenario atau alur kerja perusahaan.
• Biaya: Menawarkan performa spesifik yang dapat bersaing dengan model yang lebih besar, dengan biaya berkisar antara 3 hingga 23 kali lebih rendah dibandingkan model frontier yang besar.
• Transparansi: IBM memberikan informasi tentang dataset yang digunakan untuk melatih model Granite, termasuk rincian langkah-langkah filtrasi, data cleansing, dan kurasi yang diterapkan.
• Indemnitas Hukum: IBM menyediakan indemnitas kekayaan intelektual (Intellectual Property Indemnity) pada platform watsonx.ai yang memungkinkan perusahaan klien untuk menggabungkan data mereka ke model Granite dengan aman secara hukum guna mengembangkan aplikasi AI mereka sendiri.
• Keamanan Siber: Model Granite Guardian 8B dan 2B menyediakan perangkat yang sangat komprehensif dalam mengidentifikasi risiko dan bahaya yang telah ada di pasar saat ini.
• Tanggung Jawab: Model Granite Guardian mampu mengidentifikasi dimensi berbahaya seperti bias sosial, kebencian, toksisitas, kata-kata kasar, kekerasan, jailbreaking, dan lainnya, serta melakukan pemeriksaan spesifik RAG (Retrieval Augmented Generation) yang unik seperti keterhubungan, relevansi konteks, dan relevansi jawaban.
• Performa: Secara keseluruhan, kinerja Granite 3.0 8B Instruct menunjukkan rata-rata yang lebih unggul dibandingkan performa terbaik dari model open-source berukuran serupa dari Meta dan Mistral pada tugas inti perusahaan, seperti Retrieval Augmented Generation (RAG). Model ini juga unggul di semua dimensi keamanan dibandingkan dengan model dari Meta dan Mistral pada tolok ukur keamanan terdepan, AttaQ.
• Komprehensif: Dilatih menggunakan lebih dari 12 triliun token yang berasal dari data dalam 12 bahasa berbeda dan 116 bahasa pemrograman.
• Open-source: Dirilis di bawah lisensi Apache 2.0 yang sepenuhnya bersifat permisif, memungkinkan pengembang bekerja dengan aman menuju jalur komersialisasi melalui watsonx yang mendorong inovasi, meningkatkan keandalan, dan memastikan keamanan.

Keluaran model terbaru ini mencakup beberapa ukuran dan tipe, seperti:

• Model Granite 3.0 8B & 2B Instruct & Base untuk keperluan umum
• Model Granite Guardian 3.0 untuk memastikan keamanan dan kepercayaan, dan
• Model Granite 3.0 Mixture-of-Experts untuk inferensi yang efisien dan latensi rendah.

Terkait dengan ketersediannya, model Instruct & Guardian akan hadir di platform watsonx IBM & HuggingFace. Sementara, model Granite 3.0 akan ada di platform mitra seperti Nvidia NIM Stack, Google Vertex serta melalui mitra ekosistem seperti AWS, Docker, Qualcomm melalui AI Hub, Salesforce, SAP, dan lainnya.

Beberapa model Granite 3.0 yang dikurasi juga tersedia di Ollama dan Replicate. IBM juga akan memperluas delivery platform bertenaga AI, IBM Consulting Advantage, dengan menjadikan model bahasa Granite 3.0 sebagai model default.

Diharapkan kehadiran Granite 3.0 yang dikembangkan sebagai model AI terbaru memungkinkan konsultan IBM tak hanya mampu memberikan hasil kerja kepada klien yang lebih baik, tetapi juga lebih cepat, dan dengan biaya yang lebih rendah.