← Главная новостей | Торговый зал
2026-11-04 · Источник：WinFuture
Два бывших исследователя безопасности из Anthropic и Google DeepMind утверждают, что продвинутый ИИ может выскользнуть из-под контроля человека, — и что сегодня никто не способен вмешаться.
Два бывших исследователя ИИ-безопасности — один ранее в Anthropic, другой в Google DeepMind — публично выступили с жёстким предупреждением о траектории развития искусственного интеллекта. Их посыл, как сообщает WinFuture, без обиняков: продвинутый ИИ может выскользнуть из хватки человечества, и в настоящий момент никто не в состоянии вернуть контроль или вмешаться.
Ядро предупреждения — потеря контроля. Исследователи утверждают, что технология может уйти от человеческого надзора по мере развития, а заголовок отчёта заостряет мысль ещё сильнее: сейчас ситуацией никто не управляет, и вмешаться не смог бы никто. В такой подаче риск — не отдалённая гипотеза, а сегодняшний провал управления: надёжных средств направлять или сдерживать frontier-системы, если те начнут вести себя нежелательным образом, пока не существует.
Формулировка отчёта отмечает, что этот дуэт выступил «также» — маленькое слово со значением. Оно ставит их в ряд других бывших сотрудников по безопасности ведущих ИИ-лабораторий, вынесших свои опасения на публику вместо того, чтобы держать их во внутренних каналах. Поскольку Anthropic и Google DeepMind оба разрабатывают ИИ масштаба frontier, предупреждения их выпускников звучат с особой силой: это голоса изнутри организаций, строящих самые способные системы, а не комментарии со стороны.
Для сектора ИИ-вычислений это вмешательство приходится на период интенсивного капитального цикла. Гонки frontier-возможностей втягивают огромные инвестиции в GPU, ускорители и мощности дата-центров, а предупреждения о безопасности, звучащие изнутри лабораторной экосистемы, напрямую подпитывают регуляторный и инвесторский климат, который финансирует это строительство. Подобные сигналы редко сами по себе останавливают закупки, но они формируют политическую среду — режимы надзора, вопросы ответственности, потенциальные мандаты на тестирование, — в рамках которой покупатели вычислений и инвесторы планируют многолетние обязательства.
Вывод для читателей, следящих за строительством, прост: люди, наиболее близкие к frontier-разработке, публично заявляют, что вопрос, на который пока никто не ответил, — это контроль, а не возможности.
Теги: Anthropic · Google DeepMind · AI Safety · AI Risk · Frontier AI
萬安算交所 AIXX · AIXX · Верифицированная биржа · В торговый зал