← Главная новостей | Торговый зал

Anthropic заблокировала использование Claude для исследований биооружия учёными и группами с господдержкой

2026-11-04 · Источник:HotHardware p2

Anthropic заблокировала использование Claude для исследований биооружия учёными и группами с господдержкой

Отчёт об угрозах Anthropic детализирует пять кейсов, в которых учёные и группы с господдержкой использовали Claude для потенциально опасных биологических исследований; выявленные угрозы с тех пор заблокированы.

Anthropic раскрыла, что несколько учёных и исследовательских групп с господдержкой были пойманы на использовании её ИИ-системы Claude для содействия потенциально опасным биологическим исследованиям. Компания сообщает, что предполагаемые угрозы — научные ли они по природе или зловредные — с тех пор заблокированы. Раскрытие пришло через детальный отчёт об угрозах от ИИ-фирмы, открывающий редкое публичное окно в то, как разработчик frontier-моделей детектирует и пресекает злоупотребление своей технологией.

В центре отчёта — пять конкретных кейсов, с инцидентами, начавшимися в конце года. Действующие лица варьировались от отдельных учёных до исследовательских групп с господдержкой, а намерение за активностью подаётся как предполагаемое, а не подтверждённое — потенциально легитимный научный запрос, потенциально нечто зловредное. В каждом случае Anthropic по выявлении блокировала такое поведение, отрезая помеченное использование Claude.

Отчёт сигнализирует, как frontier-ИИ-лаборатории эволюционируют в фактические охранные организации, выстраивая функции анализа угроз, которые мониторят, детектируют и прекращают злоупотребления в масштабе. Для Anthropic публикация находок служит двойной цели: она демонстрирует, что принудительное обеспечение безопасности — операционная реальность, а не теория, и подкрепляет доказательствами отраслевые опасения, что продвинутые ИИ-системы несут подлинный риск двойного назначения в таких доменах, как биология.

Для предприятий и учреждений, разворачивающих Claude и сопоставимые модели, раскрытие подчёркивает: надзор за злоупотреблениями на стороне вендора — теперь живой операционный слой поверх ИИ-развёртываний. Доступ к frontier-моделям всё сильнее зависит от способности провайдера отличить легитимное исследование от попыток оружейализации — фильтрующей функции, которая определяет, кто может использовать эти системы, для чего и под каким надзором. Пока подкреплённые государствами игроки прощупывают коммерческие ИИ-платформы, отчёты об угрозах такого рода, похоже, станут регулярной чертой ИИ-экосистемы.

Теги: Anthropic · Claude · AI Safety · Biosecurity · Threat Intelligence


Читайте также


萬安算交所 AIXX · AIXX · Верифицированная биржа · В торговый зал