Google впервые раскрыла хакеров, использующих ИИ для обнаружения опасной уязвимости
Google объявила, что впервые обнаружила хакерскую группу, которая, предположительно, использовала искусственный интеллект для поиска уязвимостей "нулевого дня". Это тип программной ошибки, о которой разработчики ещё не знают, что дает злоумышленникам "ноль" дней на её эксплуатацию до того, как будет выпущено исправление.
По данным группы Google Threat Intelligence, эти злоумышленники (их название не разглашается) планировали использовать найденную уязвимость для проведения массовых атак. Экспертам Google удалось успешно предотвратить реализацию этих планов.
Выявленная уязвимость была обнаружена в коде на языке Python и позволяла обойти двухфакторную аутентификацию в популярной системе управления серверами с открытым исходным кодом. Однако для успешной атаки хакерам всё равно требовались стандартные логин и пароль пользователя. Google оказала помощь разработчикам этой системы в устранении данной проблемы.
Вывод о возможном использовании ИИ компания сделала на основе анализа структуры вредоносного кода. В частности, в нём содержались учебные комментарии и даже сфабрикованная оценка критичности уязвимости (CVSS), а сам код выглядел как типичные примеры из обучающих данных для больших языковых моделей.
Представители Google подчеркнули, что их собственная модель Gemini не имеет отношения к данному инциденту.
Свежие материалы — Обзоры и сравнения
Китай отверг обвинения в неправомерном использовании зарубежных ИИ-моделей
Власти Китая решительно опровергли утверждения о неправомерном использовании результатов зарубежных моделей искусственного интеллекта (ИИ) для создания и развития собственных систем. Заместитель министра иностранных дел КНР Лю Бинь, выступая на Всемирной конференции по искусственному интеллекту
Глава «Вкусно и точка»: Роботы не заменят сотрудников, но дополнят их работу
Олег Пароев, генеральный директор сети ресторанов «Вкусно и точка», выразил мнение, что на современном этапе полноценная замена человеческого персонала роботами в их заведениях пока не представляется возможной. Он подчеркнул, что основные препятствия для полной автоматизации связаны с необходим
В России стартуют масштабные генетические исследования долголетия
Начиная с 2027 года, Россия приступит к ежегодным популяционным исследованиям состояния здоровья граждан, активно применяя генетические технологии. Особый акцент будет сделан на изучении феномена долгожительства. Эти обширные исследования охватят значительные группы населения в различных ре
Разработка Технологий Генетического Редактирования в России: Стратегия до 2030 Года
В рамках стратегических правительственных планов, к 2030 году в России будут созданы передовые технологии генетического редактирования. За реализацию этой масштабной задачи отвечают Министерство науки и высшего образования, Министерство здравоохранения Российской Федерации, Федеральное медико-б
В России запущена разработка технологий для сохранения здоровья мозга и когнитивных функций
Правительство России инициировало создание и внедрение передовых технологий, призванных поддерживать здоровье головного мозга и сохранять когнитивные способности граждан. Эта инициатива является важной составляющей масштабной государственной программы, сфокусированной на профилактике различных
Разработка Кодекса этики научных исследований в РАН: ключевые аспекты
Российская академия наук (РАН) находится на завершающей стадии работы над своим Кодексом этики научных исследований, достигнув примерно 80% готовности документа. Созданием и доработкой этого свода правил занимается Совет по этике научных исследований при РАН. Вице-президент РАН Степан Калмы