← Главная новостей | Торговый зал
2026-11-04 · Источник：iFUN
Глава Anthropic говорит: добавлять механизмы безопасности больше недостаточно — темп появления новых ИИ-способностей должен снизиться, чтобы тестирование и защитные меры успевали за ними.
Глава Anthropic Дарио Амодеи призывает заметно более осторожно подходить к созданию мощных ИИ-систем. По его оценке, больше недостаточно прикручивать дополнительные механизмы безопасности к все более способным моделям. Вместо этого, утверждает он, темп, с которым приходят новые способности, сам должен снизиться — чтобы процедуры оценки и защитные меры успевали идти в ногу с технологией.
Позиция компании, стоящей за ассистентом Claude, отмечает сдвиг акцента: вместо отношения к безопасности как к надстройке поверх каждого очередного релиза базовая скорость продвижения способностей должна быть приторможена, пока процессы верификации и защитные меры не догонят. Дискуссия напрямую касается и ChatGPT от OpenAI — другой флагманской разговорной системы, названной в отчете.
Амодеи не делает это заявление в одиночку. Он заручился поддержкой главы OpenAI Сэма Альтмана и Илона Маска — согласие, которое выделяется на фоне того, как напрямую компании и люди, в нем задействованные, конкурируют на фронтире разработки ИИ. Когда соперничающие лидеры сходятся в необходимости не просто добавлять защитные меры, а замедлить внедрение новых способностей, это сигнал: спор о безопасной разработке ИИ вышел за рамки вопросов защиты на уровне функций.
В своей основе предложение переставляет приоритеты для фронтальных ИИ-работ. Позиция Амодеи такова: режимам тестирования и контролю рисков нельзя позволять отставать от способностей моделей; там, где разрыв грозит открыться, лекарство — не больше функций безопасности, нагроможденных поверх быстро вращающегося релизного цикла, а сознательное снижение скорости внедрения новых способностей. Для области, чей коммерческий импульс держится на быстрой итерации и громких апгрейдах моделей, это требовательная планка.
Будет ли эта планка принята на практике — открытый вопрос, оставленный отчетом. Однозначно другое: лидеры, стоящие за ChatGPT и Claude, теперь публично разделяют взгляд, что рост способностей обогнал средства их проверки, — и что темп продвижения, а не только его надзор, должен ослабнуть.
Теги: Anthropic · OpenAI · Dario Amodei · Sam Altman · Elon Musk · AI Safety
萬安算交所 AIXX · AIXX · Верифицированная биржа · В торговый зал