Люди используют ИИ для общения, не раскрывая этого. Это морально неправильно?

Представьте: вы использовали ChatGPT, чтобы привести в порядок заметки с совещания. Коллега замечает, как они понятны. Вы не говорите, что это ИИ сделал их такими, а не вы. А теперь другой сценарий: вы на похоронах матери. Её лучшая подруга произносит прочувствованную речь, желая ей всего доброго в загробной жизни. Но позже вы узнаёте, что подруга не написала речь — это сделал ИИ. В обоих сценариях нераскрытое использование генеративного ИИ — обман. Но морально ли это неправильно?

Стоит рассмотреть этот философский вопрос детально, учитывая стремительное распространение генеративного ИИ и тот факт, что исследования показывают: у людей могут быть сильные стимулы не раскрывать использование ИИ, потому что это может повлиять на их отношения. Люди в целом считают результаты генеративного ИИ менее ценными, а тех, кто использует эту технологию, — менее компетентными и аутентичными.

Примерно говоря, если вы совершаете «обманный акт», вы пытаетесь заставить кого-то поверить в то, что вы знаете как ложь. Но обман бывает разных видов. Философ Джон Данахер предлагает полезную рамку для различения трёх форм обмана с помощью ИИ или роботов. Она полезна, потому что, подобно тому как роботы могут убедительно имитировать человеческое поведение, технологии генеративного ИИ позволяют людям делать то же самое.

Обман о внешнем состоянии (external state deceptions) — ложь или искажение фактов о внешнем мире. Например, сказать кому-то, что вы видели лошадь на улице, хотя на самом деле не видели.

Обман о поверхностном состоянии (superficial state deceptions) — ложь или искажение фактов о нас самих. Например, заставить кого-то поверить, что вы опытный художник, хотя показанное вами произведение искусства сгенерировано ИИ.

Обман о скрытом состоянии (hidden state deceptions) — обман других, заставляющий их верить, что вам не хватает мыслей, чувств или компетенций, которыми вы на самом деле обладаете. Например, притворяться, что вы не понимаете язык, чтобы подслушивать.

Вернёмся к первому примеру. Не раскрыв, что вы использовали ИИ для правки заметок, вы позволили коллеге поверить, что у вас есть способность сделать эту работу (что может быть правдой). Но вы также позволили ему поверить, что вы продемонстрировали эту способность, выполнив работу, — а это ложь. Это попадает в категорию «обмана о внешнем состоянии». Хотя такой обман морально предосудителен, он, вероятно, этически допустим. Тривиальный обман случается всё время — и мы, конечно, не обязаны всегда раскрывать всё, что мы делаем и почему. Например, мы не моргнув глазом воспринимаем нераскрытое использование программ проверки орфографии — потому что в большинстве ситуаций быть хорошим орфографом неважно. Но тривиальность зависит от контекста. Если бы кто-то использовал программу проверки орфографии на конкурсе чтецов, мы были бы менее снисходительны.

Сценарий с похоронной речью похож на первый, но менее тривиален. Ваше убеждение о поверхностном состоянии подруги матери — что она желает матери добра — может быть истинным или ложным. Но ваше убеждение о внешнем положении дел — что речь является демонстрацией этих добрых пожеланий — определённо ложно. Это более проблематично с моральной точки зрения. Когда мы выдаём сгенерированный ИИ результат за свой — особенно тот, который призван отражать что-то о нас самих, — мы сигнализируем другим не только о том, что одобряем этот результат, но и что мы его автор. В этом случае для нас важно, что подруга является источником речи — а не ИИ. Обман о внешнем состоянии оказывается нетривиальным.

Однако пример с речью показывает, что нераскрытие использования ИИ может быть иногда допустимо, если принять во внимание все обстоятельства. Возможно, подруга была настолько убита горем, что поручить ИИ написать речь было единственным способом подготовить её к похоронам вовремя. В таких случаях нераскрытие может быть допустимо, даже если это морально предосудительный вид обмана. Потому что, как и тривиальность в первом сценарии, другие причины могут перевесить неправильность нераскрытия.

Чтобы избежать безнравственного обмана других, нам следует раскрывать использование ИИ в нетривиальных случаях. То, что делает нераскрытое использование ИИ нетривиальным, изменчиво и зависит от контекста. Это меняется в ответ на социальные нормы, заключённые в конкретных социальных практиках. Открытое отношение к использованию ИИ даёт другим возможность сформировать более точные представления о том, что мы сообщаем, и о внутренних состояниях, которые демонстрирует наша коммуникация.

Итог: Не всякое нераскрытие использования ИИ — безнравственно. Всё зависит от контекста, тривиальности ситуации и того, лишаете ли вы другого человека информации, которая ему по-настоящему важна. Правило большого пальца: если для собеседника имеет значение, что сообщение исходит именно от вас, а не от машины — раскройте карты. Если нет — вероятно, можно и не упоминать. Но грань здесь тоньше, чем кажется, и социальные нормы только начинают формироваться.