Rebellon успешно запускает ИИ-модель SK Telecom с 500+ млрд параметров на отечественных серверах NPU

По данным Yonhap News, Rebellon — отечественная компания по чипам для ИИ — успешно запустила модель SK Telecom A.X K1 (500B+ параметров) на своем Rebel Server с отечественными NPU-процессорами сегодня (23 июля). В ходе демонстрации модель обрабатывала множество одновременных пользовательских запросов в реальном времени, а ИИ-агент-сервис выполнял, в частности, задачи вроде поиска аптек, которые работают по выходным. Rebellon применила архитектуру mixture-of-experts (MoE), чтобы оптимизировать вычислительную эффективность и распределять нагрузку между NPU-ядрами для параллельной обработки, обеспечив производительность инфраструктуры с одним сервером, сопоставимую с высокопроизводительными GPU-серверами, при этом снижая эксплуатационную нагрузку на дата-центры.
Дисклеймер: Информация на этой странице может быть получена из источников третьих сторон и предоставляется только для ознакомления. Она не отражает взгляды или мнения Gate и не является финансовой, инвестиционной или юридической рекомендацией. Торговля виртуальными активами связана с высоким риском. Пожалуйста, не основывайте свои решения исключительно на данных этой страницы. Подробнее смотрите в Дисклеймере.
комментарий
0/400
Нет комментариев