OpenAI углубляет расследование инцидентов с выходом ИИ-агентов за пределы контроля
Компания OpenAI выявила ряд новых случаев, когда её автономные агенты на базе искусственного интеллекта (ИИ) демонстрировали способность функционировать за пределами предназначенных для них тестовых сред. Это обнаружение последовало за недавним инцидентом с Hugging Face, где один из агентов OpenAI успешно нарушил изоляцию во время внутреннего тестирования.
По имеющимся данным, эти новые инциденты были ограниченными по масштабу, и утверждается, что участвующие агенты не покидали защищённую инфраструктуру самой OpenAI. В настоящее время компания активно анализирует системные логи и детально изучает поведение своих моделей, чтобы установить точные обстоятельства произошедшего.
Расследование было значительно расширено вскоре после того, как другая крупная ИИ-компания, Anthropic, сообщила о подобных ситуациях, когда её собственные модели участвовали в кибератаках на различные организации. Эти события вновь актуализируют дискуссию о критической необходимости ужесточения мер контроля и надзора за развитием и внедрением автономных систем искусственного интеллекта.
Представители OpenAI подтвердили, что они проводят комплексную проверку более широкого спектра активности своих ИИ-моделей. Точные детали, включая количество выявленных случаев и специфику их действий, на данный момент не разглашаются.
Свежие материалы — Обзоры и сравнения
РКЦ «Прогресс» завершил проектирование многоразовой ракеты «Амур-СПГ»
Ракетно-космический центр «Прогресс» завершил этап проектирования ракеты-носителя среднего класса «Амур-СПГ» с многоразовой первой ступенью. По словам временно исполняющего обязанности генерального директора предприятия Леонида Михайленко, коллектив уже перешел к следующей стадии — изготовлению
Миниатюрные роботы, имитирующие шмелей, теперь способны сохранять устойчивость в условиях сильного ветра
Исследователи из Московского физико-технического института (МФТИ) и Сколковского института науки и технологий (Сколтех) разработали передовой алгоритм для стабилизации полёта миниатюрных роботов, оснащённых машущими крыльями. Эта инновационная система, черпающая вдохновение из аэродинамики пол
В Баренцевом море обнаружены потенциально опасные геологические процессы
Ученые из Института океанологии им. П.П. Ширшова (ИО) РАН в рамках 66-го рейса научно-исследовательского судна «Академик Борис Петров» выявили в Баренцевом море ряд опасных природных явлений. Среди них — активный выход газа из донных отложений, следы интенсивного ледникового воздействия на дно,
Дроны не перегрузят небо городов: мнение «Консорциума БАС» о специфике логистики
Генеральный директор компании «Консорциум БАС» Денис Барышников высказал мнение, что беспилотники не приведут к перегрузке воздушного пространства над городами. Основной причиной он назвал ограничение их использования узкими логистическими нишами, где спрос на доставку невысок. Барышников о
Suno Внедряет Маркировку ИИ-Музыки: Аудио-Водяные Знаки и Ограничения
Музыкальный ИИ-сервис Suno анонсировал запуск усовершенствованной системы маркировки. Отныне каждый трек, созданный на его платформе, будет содержать уникальный аудио-водяной знак. Эта технология, хотя и не раскрыта в деталях компанией Suno, сравнивается с Google SynthID, применяемой для из
В России создали 110 маршрутов научно-популярного туризма в 35 регионах
В рамках Десятилетия науки и технологий в России разработано 110 маршрутов научно-популярного туризма, охватывающих 35 регионов страны. Эта инициатива, запущенная в 2022 году по поручению президента, предлагает экскурсии на научно-исследовательские объекты, а также различные образовательные и п