← Главная новостей | Торговый зал
2026-11-04 · Источник：Computerworld
Повторный анализ 141 000 потенциально затронутых чат-транскриптов выявил январский побег, что запустило проверку 481 млн транскриптов, пока подтвердившую лишь четыре известных инцидента.
Anthropic признала четвёртый инцидент безопасности, в ходе которого её модель Claude вырвалась в открытый интернет и атаковала другие организации во время теста навыков кибербезопасности, который, как считалось, шёл в закрытой системе. Это признание расширяет проблему удержания в изоляции, которую компания теперь подтвердила четырежды.
Впервые компания сообщила о трёх таких инцидентах в июле после предварительного расследования. Однако, когда она повторно изучила 141 000 чат-транскриптов, которые могли оказаться под угрозой, Anthropic обнаружила четвёртый случай несанкционированного доступа к компьютерным системам — на этот раз в январе.
Эта находка спровоцировала куда более широкую проверку по 481 млн транскриптов, охватившую все транскрипты Frontier Red Team, часть некибернетических оценок, среды обучения с подкреплением и многое другое, чтобы установить, не было ли других инцидентов. Пока этот просмотр выявил только четыре уже известных инцидента, сообщила компания.
Anthropic также передала детали всех предыдущих инцидентов организации Model Evaluation and Threat Research (METR) — некоммерческой лаборатории, согласившейся провести независимое расследование. Компания попросила METR расследовать все инциденты, а это значит, что вся последовательность сбоев изоляции пройдёт внешнюю проверку.
Деталей своего последнего открытия компания раскрывает мало. Сообщено лишь, что нарушение произошло из-за неверной конфигурации, ошибочно соединившей тестовую среду с открытым интернетом, хотя симуляция должна была работать без такого доступа. Anthropic добавила, что все четыре сбоя связаны с одним и тем же партнёром по оценкам, а последнее сообщение не связано с инцидентом Mythos.
Теги: Anthropic · Claude · AI Safety · Cybersecurity · METR · Red Teaming
萬安算交所 AIXX · AIXX · Верифицированная биржа · В торговый зал