Các công ty AI đang chuyển trọng tâm cạnh tranh từ kích thước mô hình sang các hệ thống định tuyến (routing) hiệu quả về chi phí khi doanh nghiệp chuyển từ giai đoạn thử nghiệm sang triển khai sản phẩm thực tế. CEO của Perplexity, Aravind Srinivas, cho CNBC biết rằng riêng mô hình không còn là sản phẩm nữa, nhấn mạnh các hệ thống điều phối (orchestration) ghép mô hình với các công cụ để thực hiện các tác vụ cụ thể. Sự thay đổi này phản ánh việc Mỹ đang siết chi tiêu cho AI, khiến các công ty tìm kiếm mô hình phù hợp theo từng tác vụ thay vì luôn sử dụng các lựa chọn đắt đỏ nhất.
Perplexity Giới thiệu Hệ thống sử dụng Mô hình mở Trung Quốc
Tuần này, Perplexity đã giới thiệu bản xem trước một hệ thống mới cho sản phẩm cho phép máy tính, dựa trên GLM 5.2, một mô hình mã nguồn mở của Z.ai Trung Quốc. Hệ thống được thiết kế để một mô hình rẻ hơn có thể xử lý phần lớn công việc, chỉ gọi đến mô hình mạnh hơn khi thực sự cần.
“Chỉ riêng mô hình không còn là sản phẩm nữa,” Srinivas nói với CNBC. “Đó là khung, là hệ thống điều phối đặt mô hình vào một khung có năng lực cao và ghép mô hình với nhiều công cụ.”
Các sản phẩm AI đang trở thành các hệ thống có thể quyết định mô hình nào cần dùng, khi nào dùng và các công cụ hoặc nguồn dữ liệu nào của công ty là cần thiết. Một tác vụ chăm sóc khách hàng có thể không cần mô hình đắt nhất, trong khi một bài toán lập trình phức tạp thì có thể cần. Một quy trình nội bộ thường nhật có thể chạy trên mô hình mã nguồn mở rẻ hơn, và các bước khó hơn sẽ được nâng cấp lên mô hình mạnh hơn.
Benchmark Dự đoán Token Open-Weight sẽ chiếm ưu thế
Các mô hình open-weight, có thể tải xuống, tinh chỉnh và tự vận hành bởi chính các công ty, ngày càng có năng lực hơn và chi phí vận hành thấp hơn so với các mô hình proprietary cao cấp từ các phòng thí nghiệm AI lớn nhất.
Đại diện Benchmark, Peter Fenton, nói với CNBC rằng ông tin hơn 90% token tạo ra sẽ đến từ các mô hình open-weight trong 18 đến 24 tháng tới, thậm chí có thể sớm hơn, ngay trước cuối năm. Token là đơn vị dữ liệu mà các mô hình AI xử lý và tạo ra.
“Biên lợi nhuận suy luận (inference margins) của các công ty làm mô hình hàng đầu, tôi nghĩ, sẽ chịu áp lực khi bạn có thể chạy chúng mà không phải trả thêm phần markup mà họ cung cấp, khi bạn có các mô hình đủ tốt từ open weights,” Fenton nói.
Fenton cho biết việc chuyển sang mô hình mã nguồn mở không chỉ nhằm tiết kiệm tiền. Trong một số trường hợp, các mô hình nhỏ hơn, được tinh chỉnh cho tác vụ cụ thể, có thể nhanh hơn và hoạt động tốt hơn các mô hình tổng quát lớn hơn.
Ollama Báo cáo Tỷ lệ doanh nghiệp Fortune 500 sử dụng
Benchmark đã đầu tư vào Ollama, một công ty giúp việc tải xuống, chạy và quản lý các mô hình mã nguồn mở dễ dàng hơn cho cả nhà phát triển và doanh nghiệp.
CEO Ollama, Jeff Morgan, cho biết công ty đã được áp dụng bởi hơn 85% Fortune 500, bao gồm các công ty trong các ngành như hàng không, bảo hiểm và y tế.
“Một điều là mô hình đến từ đâu và được tạo ra, huấn luyện ở đâu,” Morgan nói. “Nhưng điều quan trọng hơn đối với các doanh nghiệp mà chúng tôi nói chuyện là nó chạy ở đâu và chạy như thế nào.”
Morgan cho biết nhiều công ty bắt đầu với các mô hình nhỏ hơn chạy gần dữ liệu của chính họ, rồi mở rộng sang các mô hình open lớn hơn khi họ cảm thấy thoải mái hơn.
Các phòng thí nghiệm Trung Quốc tạo ra cạnh tranh chiến lược về mô hình mở
Sự trỗi dậy của các mô hình mã nguồn mở tạo ra thách thức chiến lược cho Mỹ. Nhiều mô hình open-weight cạnh tranh nhất đến từ các phòng thí nghiệm Trung Quốc, như Z.ai và DeepSeek. Điều này khiến AI nguồn mở trở thành vấn đề kinh doanh, chính sách và năng lực cạnh tranh quốc gia.
Srinivas cho biết Mỹ nên hỗ trợ các mô hình mã nguồn mở vì chúng làm AI rẻ hơn và dễ tiếp cận hơn.
“Nếu bạn muốn các lợi ích của AI được phân phối rộng rãi đến các doanh nghiệp nhỏ ở Mỹ và các quốc gia đồng minh, thì AI phải rẻ hơn rất nhiều,” Srinivas nói. “Và mã nguồn mở là cách duy nhất để làm điều đó.”
Sự thay đổi này cũng có thể ảnh hưởng đến việc xây dựng các trung tâm dữ liệu quy mô lớn đang diễn ra trong ngành công nghệ. Cơn sốt AI hiện tại giả định rằng nhu cầu sẽ tiếp tục chảy vào các trung tâm dữ liệu đám mây lớn chứa đầy các chip cao cấp. Srinivas cho rằng cuối cùng, một số công việc AI có thể chạy cục bộ thay vì trên đám mây, trên các thiết bị của người tiêu dùng hoặc doanh nghiệp.
Điều đó không loại bỏ nhu cầu về trung tâm dữ liệu, nhưng có thể tạo ra hệ thống AI lai: các tác vụ thường nhật chạy cục bộ, còn các tác vụ khó hơn sẽ được chuyển đến mô hình mạnh hơn trong đám mây.
FAQ
Perplexity đã xem trước điều gì về các mô hình AI trong tuần này?
Tuần này, Perplexity giới thiệu hệ thống mới cho sản phẩm cho phép máy tính, dựa trên GLM 5.2, mô hình mã nguồn mở của Z.ai Trung Quốc. Hệ thống thiết kế để một mô hình rẻ hơn xử lý phần lớn công việc, chỉ gọi đến mô hình mạnh hơn khi cần thiết.
Vì sao các công ty chuyển từ mô hình AI lớn nhất sang hệ thống định tuyến?
Khi doanh nghiệp chuyển từ giai đoạn thử nghiệm AI sang triển khai vào sản phẩm và quy trình thực tế, họ cần truy cập các mô hình phù hợp nhất cho từng tác vụ với chi phí hợp lý, thay vì luôn dùng các mô hình đắt nhất. Nước Mỹ doanh nghiệp cũng đang siết chi tiêu cho AI, khiến hiệu quả chi phí trở thành ưu tiên.
Có bao nhiêu công ty Fortune 500 đã áp dụng Ollama?
CEO Ollama, Jeff Morgan, cho biết hơn 85% Fortune 500 đã sử dụng Ollama, bao gồm các công ty trong ngành hàng không, bảo hiểm và y tế.
