Industri AI Beralih dari Ukuran Model ke Efisiensi Biaya, Perplexity Mengadopsi GLM 5.2 Open-Source

Menurut CEO Perplexity Aravind Srinivas dalam wawancara CNBC, industri AI sedang bergeser dari memprioritaskan skala model ke efisiensi biaya dan optimasi yang spesifik untuk tugas. Perusahaan membangun sistem orkestrasi yang secara otomatis memilih model paling cocok untuk setiap tugas, alih-alih memakai model paling bertenaga untuk semua aplikasi. Aplikasi layanan pelanggan mungkin tidak memerlukan model mahal, sementara tugas pemrograman yang kompleks membutuhkan model tingkat lebih tinggi, dan pekerjaan perusahaan rutin dapat ditangani oleh model open-source berbiaya lebih rendah.

Minggu ini, Perplexity memperlihatkan sistem baru yang bisa menggunakan komputer, didukung oleh model open-source GLM 5.2 dari perusahaan AI asal Tiongkok, Zhipu, yang mencerminkan tren ke arsitektur AI hibrida. Mitra benchmark Peter Fenton memprediksi lebih dari 90% token AI dapat dihasilkan oleh model open-source dalam 18 hingga 24 bulan. CEO Ollama Jeff Morgan mengungkapkan bahwa lebih dari 85% perusahaan Fortune 500 kini menggunakan platform manajemen model open-source milik Ollama, termasuk sektor yang sangat teregulasi seperti penerbangan, asuransi, dan layanan kesehatan.