Anthropic призывает к глобальной паузе в развитии ИИ из-за угрозы потери контроля
Компания Anthropic обратилась к крупнейшим лабораториям искусственного интеллекта (ИИ) с призывом договориться о проверяемой приостановке дальнейшего развития технологий. Основное беспокойство выражается в том, что стремительный прогресс в этой области может привести к созданию систем, способных выйти за пределы человеческого контроля и опередить внедрение адекватных мер безопасности.
Anthropic указывает на тревожную тенденцию: автономность выполнения задач ИИ-системами удваивается примерно каждые четыре месяца. Это свидетельствует о приближении к критической фазе рекурсивного самоусовершенствования, когда интеллектуальные системы смогут самостоятельно улучшать свои возможности без непосредственного участия и контроля со стороны человека.
В организации подчеркивают, что эффективная пауза возможна исключительно при условии всеобщей договоренности между ведущими игроками отрасли, а также при наличии четкого механизма ее запуска и отмены. Одностороннее замедление прогресса одной компанией не сможет решить проблему глобального масштаба. Текущее регулирование в США остается ограниченным: недавний указ предписывает лишь добровольное тестирование моделей на предмет кибербезопасности перед их коммерческим выпуском.
Примечательно, что сама компания Anthropic, несмотря на позиционирование себя как разработчика, уделяющего приоритетное внимание безопасности, продолжает активно создавать и выпускать все более мощные и сложные ИИ-модели.
Свежие материалы — Обзоры и сравнения
Ученые ПНИПУ предложили метод поиска ранних признаков нейропатологий
Ученые Пермского национального исследовательского политехнического университета (ПНИПУ) разработали способ выявления D-аминокислот в тканях мозга. Накопление этих соединений может быть связано с нейродегенеративными заболеваниями, такими как болезни Альцгеймера и Паркинсона. Метод сочетает
Первый в мире робот-проводник появится в поездах РЖД
Гендиректор РЖД Олег Белозёров заявил о скором внедрении первого в мире робота-проводника в поездах компании. Устройство уже совершило экспериментальный рейс на высокоскоростном поезде «Сапсан». Белозёров сообщил об этом на просветительском марафоне «Знание.Первые», который проходил в рамка
Росатом успешно извлёк железо из угольной золы ТЭС, достигнув 100% чистоты
Росатом разработал новую технологию для извлечения железа из золошлаковых отходов. На Северской ТЭЦ в Томской области действующая модульная установка успешно произвела железосодержащий концентрат стопроцентной чистоты. Это улучшение: ранее концентрат содержал 92% железа. Удалось достичь 100
В России представили ИИ-сервис для прогнозирования районов промысла
Центр системы мониторинга рыболовства и связи (ЦСМС) разработал цифровой сервис «Лоция». Его предназначение — поиск перспективных районов для рыбного промысла. Система на базе искусственного интеллекта объединяет спутниковые и океанографические данные, информацию о вылове и текущем расположении
Под Мытным рынком в Нижнем Новгороде нашли усадьбы XIII века
Археологи Института археологии РАН изучили более тысячи квадратных метров Мытного рынка в Нижнем Новгороде. Участок, расположенный примерно в двухстах метрах от кремля, сохранил культурные слои. Это произошло потому, что после постройки рыночного здания в середине XX века территорию почти не за
Российские учёные обнаружили в Арктике течение длиной более 1000 км
Российские исследователи открыли неизвестное ранее течение в Баренцевом и Карском морях. Оно переносит тёплые и солёные атлантические воды в Арктику. Течение назвали «Келдыша» в честь научно-исследовательского судна, работавшего в регионе. Открытие стало возможным благодаря объединению данн