Intel и Phison хотят решить главную проблему локального ИИ

Не все пользователи желают запускать искусственный интеллект (ИИ) на своих персональных компьютерах. Однако те, кто выбирает этот путь, сталкиваются с серьёзной проблемой: самые сложные модели ИИ зачастую превышают возможности оперативной и постоянной памяти среднестатистического ПК. Компании Phison и Intel объединили усилия для разработки решения этой задачи.

С помощью технологии aiDAPTIV от Phison становится возможным запускать ИИ-модель с 26 миллиардами параметров на ноутбуке, оснащённом 16 ГБ оперативной памяти, тогда как обычно для этого требуется 32 ГБ. Это даёт два ключевых преимущества: расширение доступности локального ИИ для большего числа ноутбуков и возможность для более мощных устройств загружать ещё более крупные модели или выполнять другие задачи параллельно с работой ИИ. Зачастую ИИ может полностью занимать системные ресурсы ПК, что мешает выполнению других операций и порой вынуждает пользователей приобретать специализированные ИИ-компьютеры.

Это простое, но эффективное решение для повышения продуктивности, которое позволяет либо запускать более масштабные ИИ-модели на обычном ПК, либо освободить ноутбук для параллельного выполнения других задач.

Нехватка места

Одна из аппаратных проблем ИИ заключается в необходимости вычисления токенов – будь то для простого запроса к большой языковой модели (LLM) о стихотворении или для сложного набора инструкций по мониторингу цен на нефть и прогнозированию. В обоих случаях токены генерируются в реальном времени в видеопамяти. (Традиционно Intel выделяла половину системной ОЗУ ноутбука между интегрированным графическим процессором и Windows, прежде чем в августе 2025 года предоставить пользователям возможность вручную регулировать это распределение.)

Проблема возникает, когда пользователь взаимодействует с LLM длительное время: модели необходимо запоминать как исходные инструкции, так и последующие обновления. Эти данные могут либо пересчитываться заново, либо храниться в качестве ссылки. Обычно ИИ-функции обрабатываются в видеопамяти или в системной ОЗУ, которая разделяется с графическим процессором. Как следствие, производительность системы значительно снижается.

Поскольку оперативная память – это место, где выполняются вычисления ИИ-функций, отведение её части для «хранения» данных снижает общую эффективность.

Однако существует решение, с которым вы, вероятно, уже знакомы. Microsoft Word работает на центральном процессоре вашего ПК, используя ОЗУ для выполнения задач, но документы хранятся в облаке или на SSD. Если Word требуется документ, он запрашивает у Windows его извлечение с SSD. Phison применяет схожий подход.

Технология aiDAPTIV от Phison использует высокопроизводительную флеш-память NAND с повышенной долговечностью в качестве ИИ-кэша, где хранятся токены для последующего использования. (Технически, кэш хранит данные типа «ключ-значение» (KV), объём которых увеличивается с длиной контекста и размером модели.) Обычно такой подход замедлил бы весь процесс. Однако aiDAPTIV стремится предвосхищать потребности модели, интеллектуально перемещая данные между ОЗУ и SSD, что позволяет запускать более крупные модели без существенного влияния на производительность.

Phison утверждает, что её технология aiDAPTIV способна значительно увеличить скорость отклика (время до первого токена) локального ИИ, делая его почти мгновенным даже при увеличении размера контекстного окна.

Как заявили компании, сотрудничество сосредоточено на интеграции технологии Phison с платформами Intel AI PC, работающими на базе процессоров Intel Core Ultra, включая поддержку инструментария OpenVINO. Phison и Intel совместно демонстрируют эту технологию разработчикам программного обеспечения, которые в конечном итоге смогут оптимизировать свои приложения для её использования.

Разумеется, это актуально при условии, что пользователи предпочитают запускать ИИ локально, а не в облаке через такие сервисы, как ChatGPT или Claude. Также предполагается, что пользователи захотят использовать «полноценные» версии ИИ-моделей, а не квантованные модели, которые жертвуют точностью ради снижения требований к памяти и повышения скорости.

Мы уже проходили этот путь ранее…

Концепция aiDAPTIV кажется достаточно простой, но есть потенциальный подводный камень. Совместная работа ведётся с использованием специализированных SSD-накопителей Phison семейства Pascari AI100E, разработанных для высокой долговечности и стабильной производительности. Это наводит на мысль, что успешная реализация технологии может потребовать от производителей ноутбуков закупки именно этих SSD Pascari. Эти специализированные накопители являются дорогостоящими.

Intel уже сталкивалась с подобными ситуациями. Optane, основанная на памяти 3D XPoint, была совершенно новым типом памяти, разработанным совместно Intel и Micron, и вела себя скорее как традиционная оперативная память, чем флеш-память. Однако отсутствие потребительского спроса вынудило Intel прекратить производство SSD Optane в 2021 году, а годом позже списать полмиллиарда долларов товарных запасов.

Четверть века назад я освещал запуск, задержки и последующий крах Direct Rambus DRAM, когда производителям памяти предлагалось присоединиться к партнёрству между Intel и Rambus по поводу конкретного типа ПК-памяти. Хотя публично производители памяти соглашались, в частном порядке они критиковали Rambus и её лицензионные требования. Какой урок можно извлечь? Техническое преимущество — это одно, но быть принуждённым к использованию единственного поставщика или технологии — это совсем другое. Посмотрим, как разовьются события на этот раз.