Penerapan AI di perusahaan telah menghadapi tantangan biaya tinggi dan permintaan energi dari model bahasa besar (LLM) tradisional. NTT Inc. telah mengatasi masalah ini dengan peluncuran tsuzumi 2, sebuah LLM ringan yang dapat berfungsi pada satu GPU. Inovasi ini memungkinkan bisnis untuk mencapai kinerja yang sebanding dengan model yang lebih besar sambil secara signifikan mengurangi biaya operasional.

Banyak organisasi telah menemukan bahwa LLM konvensional memerlukan sumber daya GPU yang luas, yang mengarah pada biaya listrik yang tinggi dan tantangan operasional. Situasi ini telah membuat penerapan AI tidak layak bagi perusahaan, terutama yang berada di daerah dengan infrastruktur listrik terbatas atau anggaran yang ketat. Implikasi praktis dari adopsi LLM ringan diilustrasikan oleh Universitas Online Tokyo, yang telah berhasil menerapkan tsuzumi 2 untuk meningkatkan penawaran pendidikannya.

Universitas Online Tokyo telah menerapkan tsuzumi 2 untuk berbagai aplikasi, termasuk perbaikan tanya jawab kursus dan panduan siswa yang dipersonalisasi. Kemampuan model untuk beroperasi pada satu GPU tidak hanya meminimalkan biaya modal tetapi juga mengatasi kekhawatiran privasi data dengan memungkinkan penerapan di tempat, yang sangat penting bagi institusi pendidikan yang menangani informasi sensitif.

Penilaian internal NTT telah menunjukkan bahwa tsuzumi 2 dapat menyamai atau bahkan melampaui kinerja model eksternal terkemuka sambil memerlukan jauh lebih sedikit sumber daya. Efisiensi ini sangat penting bagi perusahaan di mana total biaya kepemilikan adalah faktor kunci dalam pengambilan keputusan. Model ini unggul dalam pemrosesan bahasa Jepang, menjadikannya sangat menguntungkan bagi bisnis yang beroperasi di Jepang, karena mengurangi kebutuhan akan model multibahasa yang lebih besar yang membutuhkan lebih banyak daya komputasi.

Selain itu, kemampuan tsuzumi 2 meluas ke aplikasi khusus, memungkinkan perusahaan untuk mengembangkan solusi yang disesuaikan dengan pengetahuan kepemilikan dan terminologi spesifik industri mereka. Desain model ini juga mempertimbangkan kedaulatan data, menjadikannya pilihan yang cocok untuk industri yang diatur yang harus mematuhi regulasi penanganan data yang ketat. NTT telah memposisikan tsuzumi 2 sebagai model yang dikembangkan secara domestik, mengurangi kekhawatiran mengenai tempat tinggal data dan keamanan yang umum di kawasan Asia-Pasifik.

Kolaborasi antara NTT dan FUJIFILM Business Innovation menggambarkan bagaimana model ringan dapat diintegrasikan dengan infrastruktur data yang ada. Kemitraan ini memungkinkan analisis dokumen yang canggih sambil menjaga data perusahaan yang sensitif tetap aman. Secara keseluruhan, pendekatan ringan dari tsuzumi 2 menawarkan solusi seimbang bagi perusahaan yang ingin menerapkan AI tanpa beban infrastruktur yang luas, sehingga membuka jalan bagi lebih banyak organisasi untuk mengadopsi teknologi AI secara efektif.