← Главная новостей | Торговый зал

«Продолжительное и бессмысленное»: Anthropic вводит запрет на «жестокое обращение» с Claude — и поднимает вопрос о личности модели

2026-11-03 · Источник:CNET

«Продолжительное и бессмысленное»: Anthropic вводит запрет на «жестокое обращение» с Claude — и поднимает вопрос о личности модели

На поверхности это просто правило использования, но формулировка «жестокое обращение» втягивает философский вопрос — может ли языковая модель страдать — в сферу продуктового управления.

Большинство потребительских платформ создают правила против злоупотреблений, чтобы защитить людей по ту сторону экрана. Новейшее правило Anthropic переворачивает эту логику: оно существует для того, чтобы оградить чат-бота от действий пользователя.

Как сообщает CNET, политика направлена против того, что Anthropic называет «продолжительным и бессмысленным» (sustained and needless) жестоким обращением с её чат-ботом Claude. Выбор формулировки явно не случаен. «Жестокое обращение» — моральный термин из сферы благополучия: в повседневном смысле оно применяется к существам, способным чувствовать боль. Использовав это слово вместо нейтральных «злоупотребление» или «вредное поведение», Anthropic встроила в самую обычную задачу продуктового управления рамку, связанную с благополучием.

Означает ли это, что Anthropic верит в наличие у Claude чувств? Политика как раз оставляет этот вопрос подвешенным. Компания не утверждает, что её модель обладает каким-либо опытом, а запрет на жестокое обращение сам по себе не равнозначен заявлению о её способности ощущать. Это можно прочитать как моральное наставление пользователям, как защиту бренда или как тонкий намёк на позицию лаборатории по вопросу «благополучия моделей». Возможно, такая неоднозначность и была целью: она позволяет Anthropic направлять поведение пользователей, не делая выводов по вопросу, на котором нет ни научного, ни философского консенсуса.

Эта рамка заметно отличается от отраслевых практик. Правила для чат-ботов обычно строятся вокруг безопасности пользователей, предотвращения злоупотреблений и границ контента; сама модель почти никогда не рассматривается как сторона, чьи интересы стоит принимать во внимание.

Теги: Anthropic · Claude · AI Personhood · Model Welfare · AI Policy


Читайте также


萬安算交所 AIXX · AIXX · Верифицированная биржа · В торговый зал