Tencent запустила квантизовану модель Hy3 із 295 мільярдами параметрів, яку можна розгорнути на одному GPU

2026-07-14 09:10:28

Нещодавно Tencent Hunyuan випустила квантизовані версії своєї моделі Hy3 у відповідь на запити спільноти, що дозволяє моделі на 295 мільярдів параметрів працювати на одному GPU для інференсу або навіть на локальних машинах за наявності достатнього обсягу пам’яті. Команда квантизувала ваги Hy3 до точності 1-біт і 4-біт, упакувала їх у форматі GGUF та інтегрувала в екосистему llama.cpp, завдяки чому те, що раніше потребувало багатьох GPU-кластерів, тепер доступне для ширшого спектра сценаріїв розгортання.

Переглянути джерело

Застереження: інформація на цій сторінці може походити зі сторонніх джерел і надається виключно для ознайомлення. Вона не відображає позицію чи думку Gate і не є фінансовою, інвестиційною чи юридичною консультацією. Торгівля віртуальними активами пов’язана з високим ризиком. Будь ласка, не покладайтеся лише на інформацію з цієї сторінки під час прийняття рішень. Детальніше дивіться у Застереженні.

Пов’язані новини

1год тому

Оптимізації vLLM від Nvidia перевищують AMD на моделях MoE, досягаючи понад 12 000 токенів за секунду

4год тому

Провідний інженерний код Qwen від Alibaba приєднався до великої китайської інтернет-компанії, очоливши напрямок ШІ-алгоритмів для кодування

10год тому

ШІ-моделі, орієнтовані на витрати, запускають OpenAI, Meta та SpaceX, а Маск на тлі тиску на корпоративні бюджети

10год тому

Oriental Compute Core представляє чип ШІ DF1000 із пропускною здатністю пам’яті 6,4 ТБ/с 13 липня

23год тому

Grok 4.5 очолює Tencent Hunyuan LHTB AI Agent Benchmark із середнім результатом 0,505 та 13 виконаними завданнями

Поглиблений аналіз