Пользователям Claude запретят жестоко обращаться с чат-ботом: за это могут заблокировать аккаунт

что произошло

Американская компания Anthropic, разработчик чат-бота Claude, включила в правила использования своих ИИ-сервисов запрет на жестокое обращение с их нейросетями. Об этом говорится в обновлённой версии документа.

За что пользователям запретят оскорблять Claude

В новых правилах Anthropic запретила пользователям постоянно и без причины оскорблять чат-бот Claude, Claude Code и другие сервисы на базе API компании.

В том же разделе запрещены травля и унижение людей, распространение материалов, пропагандирующих насилие, создание интимных изображений без согласия изображённых людей, а также использование ИИ для причинения психологического вреда.

Новые правила вступят в силу 12 ноября 2026 года.

что грозит за нарушение правил

Anthropic предупредила, что её служба безопасности отслеживает возможные нарушения правил использования продуктов.

Если компания заподозрит пользователя в нарушении политики, она сможет вынести предупреждение, ограничить скорость или объём использования сервисов, временно приостановить либо полностью прекратить доступ к ним.

для чего это нужно

В Anthropic пояснили, что политика использования продуктов компании направлена на предотвращение вреда, который может быть причинён с помощью искусственного интеллекта. Правила распространяются на всех пользователей независимо от сферы деятельности.

За их соблюдением следит специальная команда Anthropic. При подозрении на нарушение компания может вынести предупреждение, ограничить использование сервисов, временно приостановить или полностью закрыть к ним доступ.

Кроме того, встроенные системы безопасности могут блокировать отдельные ответы ИИ. Однако сама по себе такая блокировка не означает нарушения правил.