OpenAI обвиняют в причастности к стрельбе в университете Флориды

О влиянии искусственных разговоров на реальность.

В апреле 2025 года 20-летний Феникс Икнер, подозреваемый в совершении стрельбы в Университете штата Флорида, консультировался с чат-ботом OpenAI о целесообразности такого акта. Генеральный прокурор штата объявил о начале уголовного расследования, чтобы установить, несет ли компания юридическую ответственность в этом деле.

Обновление от 11 мая: После начала расследования Генеральным прокурором штата Флорида, семья одной из жертв стрельбы в Университете штата Флорида подала иск против OpenAI.

Как сообщает NBC News, в иске утверждается, что Феникс Икнер следовал инструкциям, советам и рекомендациям, предоставленным ему ChatGPT.

«ChatGPT подтвердил и усилил бредовые убеждения Феникса Икнера, укрепил его одержимость совершением массовой стрельбы, не смог распознать тревожный характер его многократных обращений к программе и позволил ему совершить этот ужасный акт, не подняв тревоги и не сообщив о ситуации для рассмотрения человеком и/или вмешательства», — заявили адвокаты Ванданы Джоши, вдовы Тиру Чабба, который работал в службе кейтеринга университета.

«Икнер вел долгие беседы с ChatGPT, которые, взятые в целом, привели бы любого здравомыслящего человека к выводу, что он планирует скорое причинение вреда другим. Однако ChatGPT либо не смог установить эту связь, либо просто не был разработан для обнаружения подобной угрозы», — добавляется в тексте.

---

Статья, первоначально опубликованная 22 апреля:

На фоне предыдущих обвинений в подстрекательстве к суициду подростка или к убийству, OpenAI и её чат-бот теперь обвиняются в пособничестве планированию стрельбы рядом со зданием студенческого союза на кампусе Университета Флориды.

17 апреля 2025 года Феникс Икнер, 20-летний сын полицейского, открыл стрельбу перед зданием студенческого союза на территории Университета штата Флорида, в результате чего погибли два человека и шестеро получили ранения, как сообщало тогда USA Today.

Во вторник, 21 апреля, Генеральный прокурор штата Джеймс Утмейер объявил о начале расследования роли ChatGPT и его разработчика OpenAI в этой трагедии. «Решение о начале расследования последовало за предварительным изучением прокурорами истории переписки между ChatGPT и Фениксом Икнером, стрелком, совершившим нападение в Университете штата Флорида в прошлом году», — говорится в его пресс-релизе.

«Если бы ChatGPT был человеком, ему бы предъявили обвинение в убийстве»

Несколькими днями ранее местное издание WTXL сообщало, что следователи анализируют логи переписок Феникса Икнера с чат-ботом. В день стрельбы он, в частности, спрашивал ChatGPT, как отреагирует страна на стрельбу в этом университете, когда произошла последняя стрельба, какое количество жертв необходимо для привлечения внимания СМИ и достаточно ли трех.

Чат-бот, предположительно, ответил, что стрельба с тремя и более жертвами «практически наверняка станет предметом национального освещения в СМИ». Наконец, он спросил, в какое время в здании студенческого союза университета бывает больше всего людей.

• OpenAI и Anthropic сканируют переписки в поисках проблемных сценариев использования.

«Флорида лидирует в борьбе с использованием ИИ в преступной деятельности, и если бы ChatGPT был человеком, ему бы предъявили обвинение в убийстве», — заявил Генеральный прокурор штата Джеймс Утмейер в своем коммюнике: «Это уголовное расследование позволит определить, несет ли OpenAI уголовную ответственность за действия ChatGPT во время прошлогодней стрельбы в Университете штата Флорида.»

«То, что это чат-бот, основанный на ИИ, не означает отсутствия уголовной ответственности», — заявил он на своей пресс-конференции по этому вопросу, по сообщению Politico: «Поэтому мы будем выяснять, кто что знал, кто что разработал или кто должен был действовать. И если станет ясно, что некоторые люди знали о возможности возникновения такого рода опасного поведения, о возможности таких трагических и несчастных событий, и тем не менее предпочли прибыль, тем не менее позволили этой компании продолжать свою деятельность, то эти люди должны будут понести ответственность.»

Потенциальная уголовная ответственность для должностных лиц компании

В рамках расследования его команда запросила у OpenAI обширную информацию о мерах безопасности, реализованных в чат-боте в отношении подобных инцидентов. В частности, компания должна предоставить все сведения о внутренних процедурах, касающихся угроз пользователей в адрес других лиц, в свой адрес, а также о сотрудничестве компании с полицией для сообщения о преступлениях (совершенных, текущих или планируемых).

Генеральный прокурор также требует от компании предоставить организационную структуру её руководства и список всех сотрудников, работавших над ChatGPT в различные ключевые даты, важные для расследования.

На своей пресс-конференции Джеймс Утмейер пояснил, что потенциальная уголовная ответственность, возложенная на компанию, станет прецедентом в юридической практике, как сообщает New York Times. Однако он не исключает привлечения к ответственности физических лиц, связанных с компанией, в ходе расследования: «люди могли участвовать в разработке, управлении и функционировании» ChatGPT до такой степени, что это может «повлечь за собой их уголовную ответственность».

«Массовая стрельба, произошедшая в прошлом году в Университете штата Флорида, была трагедией, но ChatGPT не несет ответственности за это отвратительное преступление», — говорится в заявлении OpenAI по этому вопросу, переданном The New York Times.

«В данном конкретном случае ChatGPT предоставил фактические ответы на вопросы, опираясь на информацию, широко доступную в открытых источниках в интернете, и не поощрял, и не способствовал какой-либо незаконной или вредоносной деятельности», — добавляет компания.