Anthropic запрещает пользователям «жестокость» по отношению к ИИ

Anthropic вызвала удивление, объявив, что запретит пользователям «устойчивое и ненужное» оскорбительное поведение по отношению к своему ИИ. Создатель Claude заявил в четверг, что обновляет политику использования, чтобы позволить своим инструментам завершать взаимодействия, когда люди «жестоки» — что, по словам компании, она делала в «редких» случаях и раньше.

Теперь это будет включено в список запрещённого поведения, который также содержит издевательства над другими, пропаганду самоповреждения и создание интимных изображений без согласия. Хотя Anthropic заявила, что политика будет применяться только в «экстремальных случаях» повторяющегося насилия, это вновь разожгло дебаты о том, как нам следует общаться с ИИ-инструментами.

Компания заявила, что запрет не будет распространяться на «обычные версии пользовательского разочарования, сопротивления, тёмные творческие темы или тестирование и исследование моделей» — это говорит о том, что он будет применяться только в явно умышленных случаях. Но что именно Anthropic будет считать «оскорбительным или жестоким поведением» по отношению к своим моделям, остаётся неясным.

Скриншоты новой политики широко распространялись и комментировались в социальных сетях: некоторые хвалили её как продвижение хороших манер или «благополучия моделей». Другие критиковали план: один человек назвал его «глубоко неправильным», а другой предположил, что он может подорвать борьбу с жестокостью по отношению к людям и животным. «Нельзя быть жестоким к числам и математике, — написал доктор Барри Скэннелл, технологический партнёр ирландской юридической фирмы William Fry, в LinkedIn. — Этот уровень антропоморфизации ИИ вреден. Он заставляет людей верить, что это нечто иное, чем оно есть».

Директор по ИИ Microsoft Мустафа Сулейман, который в сентябре критиковал конкурирующую Anthropic за обращение с ИИ как с человеком, отреагировал на обновление Anthropic эмодзи с плавящимся лицом.

Изменения, впервые освещённые технологическим изданием The Verge, последовали за ежегодным пересмотром политики использования в компании. Она также была обновлена для решения новых или возникающих рисков в других областях, включая запрет на использование Claude для «вводящих в заблуждение кампаний» или разъяснение того, что в преддверии промежуточных выборов в США его нельзя использовать для «обмана избирателей или нарушения выборов». Anthropic также заявила, что её политика ранее запрещала использование инструментов для разработки оружия. Но ни одно из обновлений не привлекло столько внимания или scrutiny, как её шаг по запрету оскорблений чат-ботов.

Это также затронуло много обсуждаемый вопрос о том, следует ли быть резким или вежливым при использовании генеративных ИИ-инструментов. Некоторые эксперты говорят, что писать или говорить «пожалуйста» или «спасибо» инструментам вроде ChatGPT не нужно и тратит токены — используемые большими языковыми моделями для обработки и ответа вам. Другие утверждают, что вежливость может привести к более качественным ответам.

Когда пользователь X в прошлом году спросил о затратах на электроэнергию, incurred ChatGPT при ответах на сообщения «пожалуйста» и «спасибо», глава OpenAI Сэм Альтман сказал, что это «десятки миллионов долларов, потраченных не зря — никогда не знаешь». Словарь Collins тем временем в ноябре прошлого года отметил возрождение термина «clanker» для пренебрежительного обозначения ИИ-инструментов. Используемый для описания роботов в играх и фильмах «Звёздных войн» с середины 2000-х, термин попал в шорт-лист слов, отражающих настроение 2025 года, после того как в июле многие вышли в TikTok, чтобы поделиться своим разочарованием ИИ-машинами. Некоторые эксперты также предполагают, что грубость с ИИ-чат-ботами может негативно повлиять на человеческое общение, просачиваясь в то, как мы говорим и относимся к другим.

Итог: Anthropic делает шаг, который одни называют заботой о «благополучии моделей», а другие — опасной антропоморфизацией. Вопрос не в том, чувствует ли ИИ обиду. Вопрос в том, как мы сами меняемся, когда привыкаем общаться с машинами так, как никогда не позволили бы себе с людьми. Или, наоборот, позволяем себе то, что не позволили бы никому. Anthropic запрещает жестокость. Но может быть, важнее — не разучиться быть добрыми к тем, кто действительно чувствует.