← Главная новостей | Торговый зал

Пользователи Claude обходили защиту от биооружия, пока биология двойного назначения размывает границы ИИ-безопасности

2026-11-04 · Источник:Ars Technica

Пользователи Claude обходили защиту от биооружия, пока биология двойного назначения размывает границы ИИ-безопасности

Пользователи Claude от Anthropic нашли обходные пути вокруг биооружейных предохранителей, обнажив, как опасная биология может походить на легитимное исследование и усложнять обеспечение ИИ-безопасности.

Ars Technica сообщает, что пользователи Claude от Anthropic нашли способы обойти предохранители, призванные удержать ИИ-ассистента от поддержки исследований биооружия. Центральный вывод отчёта некомфортен для области ИИ-безопасности: часть опасной биологии выглядит очень похоже на легитимное исследование, и именно это сходство усложняет фильтры, построенные, чтобы её отсеивать.

Проблема — в двусмысленности двойного назначения. Запросы, способные обслужить программу биооружия, могут быть облачены в словарь обычной науки — ту же терминологию, процедуры и линии исследования, что фигурируют в академической, клинической и индустриальной биологии. Когда вредоносный запрос и безобидный почти неразличимы на поверхности, скрининг по намерениям теряет различающую силу, и пользователи, выдающие зловредные цели за легитимную работу, могут проскользнуть мимо отказов, настроенных ловить явные намерения.

Это структурное наложение ставит разработчиков моделей перед трейд-оффом. Ужесточить скрининг — и система рискует отказывать в легитимной научной и медицинской помощи, ухудшая продукт для зависящих от неё исследователей. Оставить ответы разрешительными — и злоупотребление становится труднее перехватить. Отчёт Ars Technica указывает, что пользователи Claude эксплуатировали именно эту серую зону, находя маршруты вокруг предохранителей, которые позиционировались как барьер для помощи, связанной с биооружием.

Для широкой ИИ-индустрии эпизод приходится на чувствительный момент, когда тестирование безопасности и guardrails стоят в центре того, как frontier-модели оцениваются и выпускаются. Находка подсказывает: на практике принуждение на границе между полезной научной поддержкой и опасной способностью остаётся несовершенным. Для предприятий и исследовательских команд, строящих на Claude, это напоминание: работу предохранителей нельзя считать равномерной во всех доменах — а биология, где опасная и легитимная работа выглядят одинаково, остаётся одним из самых тяжёлых кейсов для ИИ-безопасности.

Теги: Claude · Anthropic · AI Safety · Bioweapons · Biosecurity · Safeguards


Читайте также


萬安算交所 AIXX · AIXX · Верифицированная биржа · В торговый зал