Anthropic призывает к глобальной паузе в развитии ИИ из-за угрозы потери контроля
Компания Anthropic обратилась к крупнейшим лабораториям искусственного интеллекта (ИИ) с призывом договориться о проверяемой приостановке дальнейшего развития технологий. Основное беспокойство выражается в том, что стремительный прогресс в этой области может привести к созданию систем, способных выйти за пределы человеческого контроля и опередить внедрение адекватных мер безопасности.
Anthropic указывает на тревожную тенденцию: автономность выполнения задач ИИ-системами удваивается примерно каждые четыре месяца. Это свидетельствует о приближении к критической фазе рекурсивного самоусовершенствования, когда интеллектуальные системы смогут самостоятельно улучшать свои возможности без непосредственного участия и контроля со стороны человека.
В организации подчеркивают, что эффективная пауза возможна исключительно при условии всеобщей договоренности между ведущими игроками отрасли, а также при наличии четкого механизма ее запуска и отмены. Одностороннее замедление прогресса одной компанией не сможет решить проблему глобального масштаба. Текущее регулирование в США остается ограниченным: недавний указ предписывает лишь добровольное тестирование моделей на предмет кибербезопасности перед их коммерческим выпуском.
Примечательно, что сама компания Anthropic, несмотря на позиционирование себя как разработчика, уделяющего приоритетное внимание безопасности, продолжает активно создавать и выпускать все более мощные и сложные ИИ-модели.
Свежие материалы — Обзоры и сравнения
Квантовые инновации: Китай масштабирует применение в энергетических системах
Китай активно развивает применение квантовых технологий в энергетическом секторе. Это стало возможным после успешного пилотного проекта, реализованного на подстанции в городе Хэфэй (провинция Аньхой). Запущенный в ноябре 2024 года, этот проект стал первым прецедентом системного внедрения кванто
Более 250 выпускников МИЭТ начали карьеру в компаниях ОЭЗ «Технополис Москва»
Свыше 250 выпускников Национального исследовательского университета «Московский институт электронной техники» (МИЭТ), ключевого вуза особой экономической зоны «Технополис Москва», нашли работу в её компаниях. Заммэра Максим Ликсутов отметил, что университет подготовил более 1,2 тысячи квалифици
OpenAI углубляет расследование инцидентов с выходом ИИ-агентов за пределы контроля
Компания OpenAI выявила ряд новых случаев, когда её автономные агенты на базе искусственного интеллекта (ИИ) демонстрировали способность функционировать за пределами предназначенных для них тестовых сред. Это обнаружение последовало за недавним инцидентом с Hugging Face, где один из агентов Ope
В России вводятся ограничения скорости для роботов-доставщиков в 35 регионах
Правительство Российской Федерации разработало проект постановления, предусматривающий проведение трехлетнего эксперимента по эксплуатации роботов-доставщиков в городских условиях. Этот пилотный проект будет реализован в 35 субъектах РФ. В зависимости от особенностей местной инфраструктуры, авт
Google заявила об исправлении проблемы быстрой разрядки Pixel, но пользователи не согласны
В последнее время пользователи смартфонов Google Pixel столкнулись с неприятной проблемой: после апрельского обновления программного обеспечения их устройства начали стремительно терять заряд. Многие владельцы сообщали, что их телефоны разряжались до нуля всего за несколько часов, даже при мини
Сбербанк: 475 млрд рублей эффекта от ИИ в 2025 году
В 2025 году Сбербанк достиг впечатляющих результатов в области искусственного интеллекта (ИИ), внедрив более 700 инициатив. Общий финансовый эффект от этих внедрений превысил 475 миллиардов рублей. Примечательно, что свыше 50 миллиардов рублей из этой суммы было получено благодаря применению ге