ChatGPT: Режим изоляции — ключ к безопасности от атак инъекций подсказок
Компания OpenAI представила новую функцию безопасности в ChatGPT под названием «Режим изоляции» (Lockdown Mode). Она разработана для обеспечения дополнительной защиты от так называемых атак «инъекция подсказок».
Атака «инъекция подсказок» — это метод, при котором злоумышленник создает обманную подсказку, пытаясь заставить большую языковую модель (LLM) выполнить вредоносные инструкции и/или раскрыть конфиденциальную информацию.
Эти обманные подсказки часто скрываются на веб-страницах и в других источниках данных, которые люди могут легко пропустить, но которые все равно считываются и обрабатываются LLM. Атаки с инъекцией подсказок использовались для различных целей, включая взлом ИИ-браузера Perplexity, управление устройствами умного дома через Google Gemini и кражу личной информации с помощью сжатых изображений и Google Календаря.
Режим изоляции, анонсированный еще в феврале, при активации теперь ограничивает или отключает несколько функций ChatGPT. К ним относятся живой веб-браузинг (в пользу кэшированного контента), получение и отображение веб-изображений, функции глубокого исследования (Deep Research) и режим агента (Agent Mode).
OpenAI подчеркивает, что эта функция не может полностью исключить риск атак с инъекцией подсказок, поскольку вредоносные инструкции всегда могут присутствовать в загруженных файлах или кэшированном контенте.
На момент написания статьи, Режим изоляции постепенно внедряется для всех типов учетных записей ChatGPT, включая бесплатные и платные тарифы (Free, Go, Plus и Pro). Если вы пока не видите Режим изоляции в своих настройках, возможно, он еще не был развернут для вас, и потребуется немного подождать.
Свежие материалы — Программы для Windows
Рабочий стол Windows 11 стал полноэкранной рекламой фильмов о Гарри Поттере
Недавно компания Microsoft вызвала недовольство среди некоторых пользователей, разместив рекламное объявление, которое занимает весь фон рабочего стола Windows 11. Эта реклама появилась в виде обоев, установленных через приложение Bing Wallpaper. Полноэкранные обои рекламируют коллекцию из
Обзор GMKtec M3 Pro: Мощный мини-ПК для офиса с 32 ГБ ОЗУ
Краткий обзор Оценка экспертов Плюсы Высококачественный алюминиевый корпус и тихая система охлаждения 12 ядер и 16 потоков обеспечивают дост
Универсальный USB-C кабель Anker 2-в-1: заряжайте два устройства за $16
Инновационный USB-C кабель Anker 2-в-1 доступен по привлекательной цене $15.99. Это выгодное предложение, учитывая, что он эффективно заменяет два отдельных кабеля, упрощая процесс зарядки или передачи данных между устройствами. Главная особенность этого кабеля — его разветвленный конец.
Скрытая настройка Windows 11: как гарантировать сканирование Defender, даже если вы его пропустили
Встроенная система безопасности Windows, включая антивирус Microsoft Defender, регулярно выполняет быстрое и полное сканирование файлов на вашем компьютере по расписанию. Однако, если компьютер выключен в запланированное время, сканирование может быть пропущено. Существует настройка в рее
Хакеры охотятся за вашими личными фото: Как защитить свою приватность
Сексторшн, или шантаж интимными материалами, является давней проблемой. Однако Федеральное бюро расследований США (ФБР) недавно выпустило новое предупреждение о росте случаев цифрового сексторшна, нацеленного как на взрослых, так и на детей. ФБР сообщает, что киберпреступники активно взла
Внешний аккумулятор Anker 20 000 мАч со встроенным кабелем теперь доступен по цене $38
Я искренне восхищаюсь внешним аккумулятором Anker Zolo емкостью 20 000 мАч по двум основным причинам. Во-первых, он обеспечивает достаточный запас энергии для уверенности в течение всего дня. Во-вторых, устройство оснащено встроенным кабелем USB-C, который также служит удобным ремешком для пере