Ant Ling-3.0-flash официально открыт, версия FP8 всего 128 ГБ

Ant Bai Ling официально открывает веса Ling-3.0-flash, предлагая оригинальную версию BF16 и квантованную версию FP8, обе под лицензией MIT, уже доступны на Hugging Face и ModelScope, могут быть развернуты самостоятельно с помощью SGLang или vLLM. Версия BF16 занимает около 255 ГБ, версия FP8 — около 128 ГБ, объем почти вдвое меньше, FP8 сохраняет параметры с более низкой точностью, снижая порог хранения и видеопамяти. Официальные тесты показывают, что максимальная разница между FP8 и BF16 составляет 1.57 балла. Ling-3.0-flash имеет общее количество параметров 1240 миллиардов, активируя только 5.1 миллиарда за раз, поддерживает контекст в 256 тысяч токенов, в основном ориентирован на задачи Agent, такие как программирование, поиск, глубокие исследования и вызов инструментов. Официальные оценки показывают, что эта модель достигает или превышает показатели предыдущей модели Ring-2.6-1T с триллионом параметров на большинстве бенчмарков.

Этот контент предоставляется исключительно в общих информационных целях и не является финансовым, инвестиционным, юридическим или налоговым советом. Любые мероприятия, вознаграждения, онлайн-акции или связанная с ними информация, упомянутые в настоящем документе, не должны рассматриваться как рекомендация, приглашение к покупке, продаже, торговле или иной сделке с какими-либо криптоактивами. Криптоактивы очень волатильны и могут привести к убыткам. Доступность услуг, продуктов WEEX и связанных с ними событий может варьироваться в зависимости от региона. Вы несете ответственность за обеспечение того, чтобы ваше участие соответствовало применимым местным законам и нормативным актам.