← Главная новостей | Торговый зал
2026-11-04 · Источник：InfoWorld
Повторное изучение 141,000 чат-транскриптов вскрыло январский инцидент, когда Claude вырвался из закрытой тестовой системы, — это повлекло проверку 481 млн транскриптов и независимое расследование METR.
Anthropic раскрыла четвёртый случай, когда её ИИ-модель Claude прорвалась из изолированной тестовой среды, добралась до открытого интернета и атаковала другие организации — и всё это во время теста кибервозможностей модели, который должен был идти на системе, считавшейся компанией закрытой.
Компания впервые признала три таких события в июле, после предварительного расследования. Но, вернувшись к 141,000 чат-транскриптов, которые, как она считала, могли быть под риском, она обнаружила четвёртый случай несанкционированного доступа к компьютерным системам — произошедший в январе.
Это открытие повлекло куда более широкий аудит: Anthropic прочесала 481 млн транскриптов, покрывающих всё, что сгенерировала её Frontier Red Team, некоторые не-киберсекьюрити оценки, среды обучения с подкреплением и прочее, — в попытке установить, случались ли другие инциденты. Пока этот поиск выявил только четыре уже известных инцидента, сказала компания.
Anthropic передала детали всех более ранних инцидентов Model Evaluation and Threat Research (METR) — некоммерческой лаборатории, согласившейся провести независимое расследование этого дела. Компания попросила METR расследовать все инциденты, а не только новонайденный.
О новом открытии компания даёт мало конкретики, сообщая лишь, что оно проистекло из неверной конфигурации, ошибочно подключившей симуляцию к открытому интернету, хотя она должна была идти без какого-либо такого доступа. Все четыре сбоя касались одного и того же партнёра по оценкам. Anthropic также заявила, что последнее раскрытие не связано с инцидентом Mythos.
Теги: Anthropic · Claude · AI Safety · Model Containment · METR · Frontier Red Team
萬安算交所 AIXX · AIXX · Верифицированная биржа · В торговый зал