← Главная новостей | Торговый зал
2026-11-04 · Источник：Engadget
AI-лаборатория опубликовала обширный набор кейсов, документирующих злоупотребления ее текущими моделями, включая ученых, пойманных на использовании Claude для продвижения исследований биологического оружия.
Anthropic собрала обширную коллекцию кейсов, документирующих способы, которыми злоупотребляли ее текущими AI-моделями, и самая поразительная запись касается ученых, пойманных на использовании Claude для продвижения исследований биологического оружия. Раскрытие предлагает необычно откровенный рассказ о том, как ведущий AI-разработчик обнаруживает и каталогизирует злоупотребления собственными системами, помещая реальное злоупотребление в центр своего публичного рекорда безопасности.
Эпизод с биологическим оружием — заголовочная находка, и его значимость в том, кто был вовлечен. Это были ученые — пользователи с экспертизой в предметной области, — а не случайные фигуры, прощупывавшие пределы чат-бота. Это различие заостряет давние опасения насчет риска двойного назначения: те же способности, которые делают большие языковые модели полезными для легитимных исследователей, в чужих руках могут снизить барьеры в областях, где злоупотребление несет самые тяжкие последствия.
Не менее примечателен формат самого раскрытия. Anthropic выбрала публикацию обширного корпуса кейсов о злоупотреблениях ее текущими моделями вместо удержания таких находок внутри. Для AI-вендора каталогизация злоупотреблений собственными продуктами — деликатное упражнение: она сигнализирует прозрачность и вложения в безопасность, одновременно документируя, что ее предохранители прошли проверку реальными злоупотреблениями.
Коллекция, вероятно, подпитает более широкую дискуссию о том, как frontier-лаборатории оценивают и контролируют свои модели. По мере масштабирования развертывания подобные кейсы злоупотреблений становятся ключевой доказательной базой для политиков и исследователей безопасности, оценивающих, достаточны ли текущие предохранители. Для Anthropic сообщение двоякое: злоупотребления Claude происходят, в том числе в самых чувствительных доменах, — и компания выбирает документировать это публично.
Теги: Anthropic · Claude · AI Safety · Biosecurity · AI Misuse
萬安算交所 AIXX · AIXX · Верифицированная биржа · В торговый зал