AMD поддерживает локальную работу модели Qwen 27B от Alibaba

AMD объявила о поддержке локальной работы модели Qwen 27B от Alibaba на своих AI ПК и рабочих станциях с первого дня выпуска. Эта мера направлена на создание среды, позволяющей запускать крупномасштабные открытые AI модели без доступа к облаку. Модель Qwen 27B является плотной моделью с 27 миллиардами параметров, оптимизированной для генерации кода, практических задач, исследований и AI приложений с длинным контекстом. Среда выполнения основана на открытом фреймворке вывода llama.cpp и поддерживается AI ПК и рабочими станциями с процессорами AMD, а также одной графической картой AMD на 32 ГБ. В начальных тестах производительность локального вывода составила до 24,5 токенов в секунду на процессоре Ryzen AI Max Plus 395 и до 51,8 токенов в секунду на графическом процессоре Radeon AI Pro R9700. Поддержка "День 0" означает, что система поддержки готова к немедленному запуску в определенных аппаратных и программных условиях одновременно с публикацией модели. Alibaba открывает модели серии Qwen в качестве открытого исходного кода, чтобы разработчики, исследовательские учреждения и компании могли их использовать. Эта поддержка является частью конкуренции в области AI полупроводников и локальной AI инфраструктуры, и AMD расширяет экосистему, позволяющую совместное использование облачной и локальной среды.

Этот контент предоставляется исключительно в общих информационных целях и не является финансовым, инвестиционным, юридическим или налоговым советом. Любые мероприятия, вознаграждения, онлайн-акции или связанная с ними информация, упомянутые в настоящем документе, не должны рассматриваться как рекомендация, приглашение к покупке, продаже, торговле или иной сделке с какими-либо криптоактивами. Криптоактивы очень волатильны и могут привести к убыткам. Доступность услуг, продуктов WEEX и связанных с ними событий может варьироваться в зависимости от региона. Вы несете ответственность за обеспечение того, чтобы ваше участие соответствовало применимым местным законам и нормативным актам.