← Главная новостей | Торговый зал
2026-11-04 · Источник：Tom's Hardware
Уходящий исследователь безопасности Anthropic предупреждает, что вероятность того, что ИИ способен уничтожить всё человечество в течение десяти лет, превышает 10%, и обвиняет ИИ-компании в том, что они «ставят на кон наши жизни».
Исследователь безопасности в Anthropic выразил мрачным числом худший сценарий развития искусственного интеллекта: более 10 процентов вероятности того, что ИИ способен уничтожить всё человечество в течение ближайших десяти лет. Предостережение исходит не от внешнего активиста, а от человека, работающего внутри разработчика фронтирного ИИ, — и притом от сотрудника, который сейчас покидает компанию.
Эта цифра заслуживает внимания как по источнику, так и по масштабу. Вероятность выше 10 процентов означает шансы хуже, чем один к десяти, на то, что человечество не переживёт десятилетие, — экзистенциальная оценка, привязанная к технологии, которая прямо сейчас разворачивается в коммерческой эксплуатации. В устах исследователя, чья роль состоит в изучении безопасности ИИ, такая оценка несёт вес инсайдерского взгляда на создаваемые системы, а не домыслов далёкого критика.
Уход из компании добавляет ситуации второе измерение. Покидая Anthropic, сотрудник обвинил ИИ-компании в том, что они «ставят на кон наши жизни», — обвинение, адресованное коллективному поведению отрасли в целом, а не какой-либо отдельной фирме. Такая подача представляет гонку за созданием всё более способного ИИ как пари, в котором на кону стоит выживание человечества, и указывает: исследователь заключил, что публично поднять тревогу важнее, чем оставаться внутри лаборатории.
Для более широкой экосистемы ИИ это вмешательство приходится в самое сердце нерешённого спора о том, как быстро следует масштабировать фронтирные возможности и какой объём проверки заявлений о безопасности должно требовать общество. Предостережения изнутри лабораторий обладают особой силой, поскольку их невозможно отвергнуть как непонимание со стороны посторонних. Изменят ли оценка «свыше 10 процентов» расчёты в Anthropic или по всей отрасли, извне судить невозможно, однако сам факт, что исследователь безопасности уходит из компании, приписывая вымиранию человечества шансы один к десяти, — это уже измеримый аргумент в обостряющейся дискуссии об отраслевых рисках.
Теги: Anthropic · AI Safety · Existential Risk · AI Doom · p(doom) · Frontier AI
萬安算交所 AIXX · AIXX · Верифицированная биржа · В торговый зал