Кто на самом деле автор контента? Определяем роль ИИ в цифровом диалоге

Впервые я заподозрил, что ИИ проник в мою жизнь глубже, чем я думал, примерно в сентябре прошлого года. Один из моих бывших коллег, назовём его Диего, опубликовал на LinkedIn трогательный пост о том, что его уволили. В последнее время подобных сообщений появилось немало, но это выделялось особенно.

Прокручивая ленту дальше, я наткнулся на ещё один почти идентичный пост. Потом — на следующий. Все они принадлежали людям, уволенным из одной и той же компании, и были написаны практически под копирку. Моей первой мыслью было, что это часть соглашения о выходном пособии. Однако такой формат прощального письма выглядел бы странной инициативой со стороны компании. Любопытство взяло верх, и я написал Диего, спросив, что произошло. Как оказалось, никакого юридического обязательства не существовало — он просто зашёл на LinkedIn в поисках новой работы и принял предложение платформы помочь ему составить объявление. Послание не отражало его настоящих эмоций, но ему показалось, что тон, предложенный LinkedIn, лучше подойдёт для поиска нового места.

Я был ошеломлён: это была не хитроумная схема компании, пытающейся выжать из сотрудников ещё несколько тысяч долларов в качестве компенсации, — это был способ избежать дискомфорта при признании в безработице и соответствовать нормам LinkedIn, где принято излучать вечную позитивность.

После этого случая я начал замечать присутствие ИИ на LinkedIn повсюду: чересчур гладкие самовосхваления, корпоративные обновления, которые не сообщали ничего конкретного, и нескончаемый поток спама от рекрутеров. Возможно, не весь этот контент был сгенерирован алгоритмами, но у меня больше не было ощущения, что я нахожусь в той же самой социальной сети. Я уже не мог определить, какие тексты написаны людьми, а какие — машиной. Это было похоже на ситуацию, когда приходишь в офис, а все работают удалённо.

Честно говоря, мне не мешает, если люди используют ИИ для помощи в написании текстов, — я сам так делаю; меня беспокоит размывание авторства.

Изучая этот вопрос, я узнал, что в академической среде подобное явление называют «ИИ‑посредничеством» — процессом, при котором искусственный интеллект облегчает, регулирует или улучшает коммуникацию между людьми или между человеком и машиной. Исследования, посвящённые доверию к такому посредничеству, показались мне достаточно интересными, чтобы написать их краткий обзор и предложить несколько методов, которые помогут нам органично вписать ИИ в процесс создания текстов (и кода).

ИИ помогает нам лучше общаться

Начнём с того, что исследования подтверждают: использование искусственного интеллекта действительно улучшает письменную коммуникацию для большинства людей. Например, одно из исследований, посвящённое взаимодействию врачей и пациентов, показало, что информация воспринимается лучше, когда в диалог вмешивается ИИ: большие языковые модели эффективнее объясняли медицинские аспекты, в понятной для пациента форме, а заодно избавляли врача от необходимости делать это самостоятельно. Ещё одно исследование, в котором участвовало более тысячи человек, выявило закономерность: открытое использование ИИ вызывает у людей больше доверия, чем его скрытое применение.

Однако даже если факт вмешательства алгоритмов не раскрывается, так называемый «скрытый ИИ» может укреплять доверие между собеседниками. В статье, опубликованной в British Journal of Psychology, опровергается распространённое мнение о том, что использование ИИ во вред доверительным отношениям: «На самом деле люди, использующие ИИ в письме, успешнее завоёвывают доверие, причём этот эффект сохраняется даже при прозрачном раскрытии использования алгоритмов». Стоит отметить, что этот эксперимент проводился в рамках классического психологического теста на доверие, где коммуникация была строго ограничена, тем не менее результаты дают основания полагать, что за счёт улучшения формулировок и скорости отклика ИИ‑посредничество способствует укреплению доверия между людьми.

Подытожим: ИИ действительно помогает нам в письме, но лучшей практикой остаётся явное указание на его использование: это позволяет получать выгоды от алгоритмической поддержки, не подрывая доверия читателей.

На первый взгляд, подобные выводы кажутся очевидными — автозамена, автоподсказки и сервисы вроде Grammarly существуют уже больше десяти лет, — однако компании, создающие эти инструменты, похоже, не до конца осознают тонкости вопроса доверия и прозрачности. Это особенно заметно в недавней рекламной кампании Apple, где новые интеллектуальные функции iPhone преподносятся как способ моментально превратить среднестатистического сотрудника в образец профессионализма. Я же предлагаю иной путь: усиливать свою письменную коммуникацию с помощью ИИ, но сохранять доверие читателей, указывая на его участие.

Атрибуция

Атрибуция схожа с цитированием, сносками и ссылками, но с одним важным отличием: она указывает не только на источник, но и на характер авторства. Многие из нас последний раз сталкивались с формальными ссылками ещё в студенческие годы, когда писали курсовые и дипломные работы. В научной среде цитирование придаёт аргументам вес, связывая их с уже существующими и, как правило, рецензированными исследованиями. Однако ссылки мы используем и в повседневной жизни: когда упоминаем статью из интернета, это тоже форма цитирования.

Атрибуция похожа на цитирование, но выполняет иную функцию — она объясняет причинно‑следственную связь, например приписывает заслугу создателю контента. В случае с ИИ‑посредничеством мы атрибутируем текст конкретной модели, которая его сгенерировала, но авторство при этом остаётся за человеком, который составил запрос.

Я предложу несколько способов обозначения атрибуции в повседневном использовании ИИ. Не стоит воспринимать их как строгие правила — скорее это первые наброски, призванные исследовать тему. Надеюсь, что это станет отправной точкой для более широкой дискуссии, в ходе которой мы совместными усилиями сможем разработать социальные нормы и технические инструменты, делающие атрибуцию естественной и простой.

Текстовые сообщения

 

Автозамена в текстовых сообщениях настолько вошла в обиход, что воспринимается как нечто само собой разумеющееся — хотя, по сути, это тоже ИИ‑посредничество. Ошибки автокоррекции давно стали поводом для шуток (пример выше), а пользователи уже интуитивно адаптировали свой способ набора текста, чтобы алгоритм угадывал их мысли как можно точнее. Исследования показывают, что мы нередко выбираем те варианты автоподсказок, которые оказываются под рукой, а потому в устоявшихся фразах вроде «Я уже в пути» закрепляются автоматизированные формулировки.

Существует закономерность: чем сложнее передаваемая информация, тем важнее указывать источник и степень участия ИИ. Один из возможных способов обозначить его помощь — использовать смайлик (робот). Это чем‑то напоминает разницу между открыткой Hallmark и вручную написанным посланием.

Социальные сети

Когда мы публикуем что‑либо в соцсетях, важно не только указать, что текст частично создан при помощи ИИ, но и дать понять, когда он написан без его участия. В мире, где онлайн‑пространство наводнено ботами и автогенерируемым контентом, необходимость в атрибуции может показаться чрезмерной, однако развитие социальных норм, например, использования смайлика в таких случаях, может сделать этот процесс естественным.

Если смайлик пока не получил широкого распространения, альтернативный вариант — упомянуть факт использования ИИ в самом посте или в комментариях. Это особенно уместно для важных сообщений, как в истории с LinkedIn, упомянутой ранее. В таких случаях комментарий может заменить сноску, добавляя контекст, но не перегружая основной текст.

Электронная почта

С появлением инструментов вроде Google Suggest деловая переписка всё больше оказывается в зоне влияния ИИ. Давайте признаем: большинство рабочих писем настолько шаблонны, что не требуют интеллектуальных усилий. Как и в случае с текстовыми сообщениями, чем сложнее и содержательнее письмо, тем важнее обозначить степень вмешательства алгоритмов.

Идеальный вариант — визуальное разграничение участков текста, написанных человеком и сгенерированных ИИ. Это могло бы работать по аналогии с цитатами: например, смена шрифта, курсив или изменение отступов помогли бы читателю мгновенно определить, какие части письма были созданы машиной.

Пока же такие инструменты в почтовых сервисах не реализованы, хороший способ обозначить участие ИИ — добавить пояснение в подпись. Это может быть что‑то неформальное, вроде «Этот текст помог написать мой робот», или более официальный вариант — «Часть содержания сгенерирована с помощью LLM».

 

Блоги и статьи

При написании объёмных текстов многие университеты рекомендуют использовать стандарты цитирования APA. Например:

OpenAI. (2023). ChatGPT (версия от 24 мая) [большая языковая модель]. chat.openai.com/chat/

Однако такой формат кажется мне недостаточно точным, поскольку он фактически приписывает авторство OpenAI, хотя на деле текст создавался в результате взаимодействия с пользователем. С этим соглашается и Ассоциация современного языка (MLA), которая прямо указывает, что не рекомендует рассматривать ИИ как автора; в их стандарте цитирования дополнительно указывается дата генерации и информация о запросе, на основе которого был создан текст:

«Опишите символику зелёного огня в романе „Великий Гэтсби“ Ф. С. Фицджеральда» (запрос). ChatGPT, версия от 13 февраля, OpenAI, 8 марта 2023, chat.openai.com/chat

Формат MLA выглядит более гибким, но остаётся ориентированным на печатные тексты, где нет возможности вставлять гиперссылки. На мой взгляд, этот метод стоит усовершенствовать, добавляя в атрибуцию полный текст исходного запроса. Это можно делать неформально — в сносках либо размещать запрос в отдельном документе, если он слишком длинный.

Вот пример, который я сам создал, используя инструмент Portmanteau Poet из библиотеки Anthropic для подбора названия к этой статье. Среди предложенных вариантов мне больше всего понравился TrustAItribution — он объединяет три ключевых понятия и при этом остаётся удобным для произношения. Также хорошим вариантом мог бы стать AIttribution — более лаконичный, но не менее точный.

Системный запрос: Ты виртуальный ассистент с талантом создавать необычные портманто [гибридные слова]. Твоя задача — помогать пользователям объединять два слова, создавая новое, которое передаёт суть обоих исходных терминов. По возможности предлагай несколько вариантов.
Запрос пользователя: Объедини слова «ИИ», «доверие» и «атрибуция» в удачное название.
claude-3-7-sonnet-20250219. Сгенерировано 27 февраля в 13:00.

В этом примере я сохранил всю информацию, связанную с генерацией текста: модель, системный запрос, который определял логику работы ИИ, и мой пользовательский запрос. Такой подход к атрибуции, в отличие от стандартов APA и MLA, фиксирует не только источник текста, но и процесс его создания. И хотя моя основная цель — удобство современных читателей, такой формат также полезен для архивирования материалов и их изучения в будущем.

Атрибуция в будущем

В ближайшем будущем коммерческие инструменты ИИ‑посредничества продолжат развиваться, переходя от универсальных моделей к более точной настройке под индивидуальные культурные и когнитивные особенности пользователей. На ум приходит классическая фраза «Объясни мне, как пятилетнему», а также возможность адаптировать текст под конкретный диалект. Если сохранять в атрибуции исходный запрос пользователя, можно добиться того, что программное обеспечение со временем будет не только улучшать качество генерируемых текстов, но и позволять читателям сверять их с оригиналом для проверки достоверности.

Ещё один аспект, который следует учитывать при разработке систем атрибуции, — это прозрачность и объяснимость работы ИИ, то есть «способность излагать или представлять информацию в понятных человеку терминах». Исследователи Монреальского университета в своей работе «Визуализация решений ИИ и её влияние на уверенность пользователей» отмечают, что объяснимость повышает уровень доверия пользователя к информации, уменьшая его неопределённость. В их эксперименте визуализация степени уверенности ИИ при классификации изображений помогала людям лучше понимать его работу. Подобные подходы могут оказаться полезными в сферах, где ошибки критичны, например в медицинской коммуникации. Если бы ИИ использовался для взаимодействия врача с пациентом, возможность отследить, как именно была сформулирована информация, имела бы решающее значение для предотвращения недоразумений. Таким образом, объяснимость может стать ключевым критерием при оценке и разработке будущих инструментов ИИ‑посредничества.

В Nullwest, консалтинговой компании по разработке ПО, сооснователем которой я являюсь, мы экспериментируем с использованием Git Blame при работе с ИИ‑ассистентами для написания кода. Мы обнаружили, что инструменты вроде Cursor отлично подходят для быстрого создания функций или поиска лучших практик в определённых языках программирования. В таких случаях мы указываем имя разработчика рядом с используемой моделью ИИ (например: «Дейв Джимисон — ИИ — Claude 3.5») в тех строках кода, где был применён алгоритм.

Внедрение атрибуции необязательно должно быть всеобъемлющим с самого начала — этот процесс можно адаптировать постепенно: попробуйте, посмотрите, как на это реагируют люди, и, возможно, даже сделайте его частью творческого процесса. Я уверен, что открытое признание роли ИИ в создании контента уже сегодня поможет укрепить доверие друг к другу в будущем.