Tencent Hunyuan запускает квантованную модель Hy3 с 295 миллиардами параметров, которую можно развернуть на одном GPU

2026-07-14 09:10:28

Недавно Tencent Hunyuan выпустила квантизированные версии своей модели Hy3 в ответ на запросы сообщества, позволив запустить модель с 295 миллиардами параметров на одном GPU для инференса или даже на локальных машинах при наличии достаточного объёма памяти. Команда квантизировала веса Hy3 до 1-битной и 4-битной точности, упаковывала их в формате GGUF и интегрировала с экосистемой llama.cpp, благодаря чему то, что раньше требовало кластеров из нескольких GPU, теперь доступно для более широких сценариев развертывания.

Посмотреть источник

Дисклеймер: Информация на этой странице может быть получена из источников третьих сторон и предоставляется только для ознакомления. Она не отражает взгляды или мнения Gate и не является финансовой, инвестиционной или юридической рекомендацией. Торговля виртуальными активами связана с высоким риском. Пожалуйста, не основывайте свои решения исключительно на данных этой страницы. Подробнее смотрите в Дисклеймере.

Связанные новости

1ч назад

Оптимизации Nvidia для vLLM превосходят AMD на моделях MoE, достигая более 12 000 токенов в секунду

4ч назад

Ведущий разработчик кода для Qwen от Alibaba присоединился к крупной китайской интернет-компании в качестве руководителя отдела алгоритмов ИИ для программирования

9ч назад

Модели ИИ с фокусом на затраты для запуска в условиях давления на бюджеты предприятий от OpenAI, Meta и SpaceXAI Маска

10ч назад

Oriental Compute Core представила чип DF1000 для ИИ с пропускной способностью памяти 6,4 ТБ/с 13 июля

23ч назад

Grok 4.5 занял первое место над Tencent Hunyuan в бенчмарке ИИ-агентов LHTB AI Agent Benchmark, набрав средний балл 0,505; выполнено 13 задач

Детальный анализ