Вашингтон добивается возможности тестировать новые ИИ-модели до их публичного релиза

Компании Microsoft, Google и xAI предоставят правительству США ранний доступ к своим новейшим моделям искусственного интеллекта. Это позволит американским властям оценить потенциальные риски для национальной безопасности, прежде чем эти модели станут широко доступны общественности.

Власти США стремятся избежать ситуации, когда возможности нового ИИ становятся известны одновременно обычным пользователям и хакерам. Представление компанией Anthropic своей последней и наиболее мощной модели, Mythos, уже вызвало серьезные опасения среди экспертов по кибербезопасности.

Попав в руки злоумышленников, подобный ИИ потенциально может нанести огромный ущерб, выявляя и используя уязвимости в критически важных инфраструктурах. Именно поэтому развертывание модели Mythos пока ограничено примерно пятьюдесятью организациями и компаниями.

Вашингтон выражает обеспокоенность рисками, которые эти передовые модели представляют для национальной безопасности. В 2024 году администрация Байдена учредила Институт безопасности искусственного интеллекта при Министерстве торговли. Позднее, при правительстве Трампа, он был переименован в CAISI (Центр стандартов и инноваций в области ИИ), но сохранил свои основные функции: тестирование ИИ-моделей до их публичного запуска.

CAISI, ранее уже заключивший соглашения с OpenAI и Anthropic, теперь получит ранний доступ к передовым моделям от Microsoft, Google и xAI. Эти компании предоставляют свои модели без встроенных ограничений, что позволяет исследователям оценивать их возможности в потенциально враждебных сценариях, без "страховочных колес".

До переименования CAISI в основном фокусировался на разработке стандартов для тестов безопасности. Однако его миссия несколько изменилась, и теперь центр также оценивает стратегические и военные риски ИИ-моделей. На сегодняшний день проведено около сорока оценок различных моделей, некоторые из которых еще не были доступны широкой публике.

В Microsoft подтвердили сотрудничество с CAISI для выявления «неожиданных поведений» своих моделей, как сообщило агентство Reuters. Компания также заключила аналогичное соглашение с Британским институтом безопасности ИИ.

Таким образом, отношения между администрацией США и ключевыми игроками в сфере ИИ продолжают углубляться. На прошлой неделе Пентагон объявил о достижении соглашения с несколькими поставщиками ИИ для использования их моделей в миссиях, связанных с государственной тайной. Компания Anthropic была исключена из этого списка, хотя ее модель Mythos всё же может быть задействована.