Дизайн на службе извлечения прибыли

В данной статье разбираю моральную сторону дизайна и экономическую модель как источник морали дизайна, что существует в этой экономической модели. Разбираются инструменты манипуляций, пропаганды, экологические и прочие последствия, а также пути выхода из ситуации.

Автор статьи является действующим сервис дизайнером (cx/ux/стратегический дизайн).

Аннотация

В данной работе исследуется моральная сторона дизайна, понимаемого широко, как проектирование любых рукотворных сред, вещей, интерфейсов и сервисов.

Центральная гипотеза данной работы заключается в том, что природу дизайна и профессиональную мораль дизайнеров в решающей степени определяет экономическая модель общества. Модель, ориентированная на максимизацию краткосрочной прибыли (как минимум в рамках акционерного капитализма как управленческой модели) и на извлечение выгоды из внимания человека, данных и слабостей человека, ту модель, что систематически превращает дизайнера из того, кто решает проблемы людей, в инженера поведения и инструмент в руках капитала для извлечения прибыли частных собственников в принципе, то есть решения их проблем, которые мешают им зарабатывать больше, преумножая свой частный капитал. Человек (в частности конечный пользователь продукта) в такой модели всё больше перестаёт быть субъектом отношений и становится их объектом, ресурсом, аудиторией, которую продают рекламодателю.

Периферийная (косвенная) часть гипотезы заключается в том, что в той же модели капитал подчиняет себе и государство через лоббизм, финансирование политиков и кадровое переплетение, то есть когда одни и те же люди переходят с руководящих постов в корпорациях в государственные органы, которые эти корпорации контролируют, и обратно. Поэтому регулирование, этические кодексы и «мягкие» поведенческие меры по сути остаются полумерами, пока сохраняется сама модель такого общественно-экономического отношения.

Работа прослеживает генеалогию, если так можно выразиться, манипулятивных практик, от пропаганды мировых войн и «инженерии согласия» Эдварда Бернейса через мотивационные исследования 1950-х к «убеждающим технологиям», nudge, тёмным паттернам и вычислительной пропаганде XXI века. Отдельно рассмотрены последствия для человека (время, внимание, психика, деньги), для общества (поляризация, дегуманизация) и для природы (запланированное устаревание, сверхпотребление, электронные и текстильные отходы, «рекламируемые выбросы»). Далее модель подвергнута критике, разобраны контраргументы её защитников, рассмотрен отечественный опыт (производственное искусство 1920-х, техническая эстетика ВНИИТЭ, современное российское право). В завершение предложены переходные меры, а именно экономические, правовые, организационные, профессиональные и образовательные, включая проект «клятвы дизайнера». Обоснован и стратегический вывод, устойчивое решение требует смены самой модели, то есть вывода внимания, данных и ключевой цифровой инфраструктуры из-под власти частной прибыли.

Долгая вводная

Почему эта тема важна

Всё, что создал человек, кем-то спроектировано (дороги и города, автомобили и упаковка, договоры и согласия, которые мы подписываем не читая, ленты социальных сетей и кнопки «Купить»). Экономист и психолог Герберт Саймон определил дизайн достаточно широко. По его словам, проектирует каждый, кто придумывает, как изменить нынешнее положение дел и сделать его лучше [1]. Главный вопрос здесь в том, «для кого лучше?».

В 1971 году Виктор Папанек начал свою книгу словами:

«Конечно, существуют и более вредные профессии, нежели промышленный дизайн, но их совсем немного. И, возможно, лишь одна профессия превосходит его по степени надувательства – рекламный дизайн. Убеждать людей приобрести то, что им не нужно, на деньги, которых у них нет, чтобы произвести впечатление на тех, кому до этого нет никакого дела, – сегодня это мошенничество стало поистине виртуозным» [2].

За полвека вред стал незаметнее. Средний пользователь интернета проводит в сети около 6 часов 38 минут в сутки, из них около 2 часов 21 минуты уходит на социальные сети, которые специально устроены так, чтобы удерживать внимание [3]. Обманные приёмы нашлись более чем в каждом десятом из 11 тысяч крупнейших интернет-магазинов [4] и в 95% из 240 популярных мобильных приложений [5].

В сентябре 2025 года Amazon согласилась заплатить гражданский штраф в размере 2,5 миллиарда долларов. Федеральная торговая комиссия США обвинила компанию в том, что она обманом оформляла людям подписку Prime и нарочно затрудняла её отмену [6]. Две крупнейшие цифровые корпорации мира получают от рекламы почти всю выручку. У Meta (Facebook и Instagram) это около 98%, у Alphabet (Google) около 76% [7] и [8]. Значит, их главный товар не сервис для пользователя, а доступ к самому пользователю, который продают рекламодателям.

Одновременно растёт цена, которую за лишнее потребление платит природа, а дизайн это потребление подстёгивает. В 2022 году в мире выбросили 62 миллиона тонн старой электроники, и лишь 22,3% из них, насколько известно, правильно собрали и переработали [9]. Индустрия моды производит больше 92 миллионов тонн отходов в год [10]. По одной из оценок, реклама увеличивает годовой углеродный след каждого жителя Великобритании примерно на 32% [11].

В чём проблема

Авторы работ по этике дизайна, в том числе те, на которые опирается эта работа [12] [13] [14] [15] [16] [17], в целом сходятся в оценке. Манипулятивный дизайн существует, он широко распространён, вредит людям и подрывает доверие к рынку в целом, что в целом неудивительно. Расходятся они в том, почему так происходит и как это решать. Чаще всего ответственность возлагают на отдельного человека. Звучит это обычно как что-то из серии «дизайнер должен быть честным», «нужны списки проверок», «пользователей надо учить распознавать обман», «надзорные органы накажут нарушителей». А экономику, в которой манипуляция как явление это не сбой и не ошибка, а выгодная и разумная с точки зрения бизнеса стратегия, упоминают мимоходом или не упоминают вовсе. Видимо, замечать слона в комнате невыгодно. Классика.

Некоторые авторы прямо оправдывают «разумную дозу» манипуляции. По их словам, мягкие обманные приёмы почти не подрывают доверие, а продажи увеличивают [15]. Этика в таком понимании продаётся на развес.

Та же двусмысленность есть и в самой науке об убеждающих технологиях. Её основатель Би Джей Фогг считает такую технологию честной, если она меняет поведение людей без принуждения и обмана, опираясь на их желания и создавая для этого удобные условия [ссылка на скачивание книги Фогга]. Но остаётся открытым главный вопрос. Куда и к чему подталкивают человека? Именно от этого зависит, помощь перед нами или манипуляция.

Отсюда главный вопрос работы. Можно ли требовать от дизайнера нравственности, которая противоречит логике системы, нанимающей его, оценивающей и платящей ему? А если нельзя, что нужно менять в самой системе?

Вопросы исследования

1. Какова нравственная сторона дизайна и зачем он нужен обществу?

2. Решает ли дизайн настоящие проблемы человека или прежде всего служит тому, кто платит? Насколько знание о поведении человека используют, чтобы им управлять?

3. Становятся ли дизайнеры, работающие в такой системе, соучастниками вреда? Какова мера их ответственности?

4. Где проходит граница между полезным влиянием и разрушительной манипуляцией?

5. Нужна ли дизайнерам профессиональная клятва вроде врачебной и при каких условиях она будет работать?

6. Как сторонникам честного дизайна противостоять тем, кто играет не по правилам?

7. Как связаны торговая манипуляция, политическая пропаганда и вред, который потребление наносит природе?

Что изучается и зачем

1. Объектом исследования служит дизайн как общественная деятельность, то есть проектирование вещей, городской и цифровой среды и того, как люди с ними взаимодействуют.

2. Предметом исследования служит то, как нравственная сторона дизайна (отношение к человеку, к правде, к будущему) зависит от устройства экономики, в которой он создаётся.

3. Цель работы в том, чтобы показать, как устроена эта зависимость, подвергнуть её критике и предложить меры, которые изменят не только поведение отдельных специалистов, но и то, что их к такому поведению подталкивает.

Для этого нужно решить семь задач.

1. Разобраться, чем отличаются влияние, убеждение, манипуляция, обман и принуждение, когда речь идёт о дизайне.

2. Описать, какие экономические причины заставляют бизнес заказывать манипуляцию.

3. Проследить, как приёмы пропаганды перешли в рекламу и дизайн.

4. Собрать воедино последствия для человека, общества и природы.

5. Разобрать возражения защитников нынешней модели.

6. Переосмыслить западный опыт применительно к нашей жизни.

7. Предложить меры. По сути это тоже полумеры, о чём уже говорилось, и останутся они полумерами до тех пор, пока не изменится сам общественно-экономический строй.

Главное предположение работы

Нравственность дизайна зависит от того, что считается результатом работы. Если результат измеряют быстрой выручкой, долей покупателей, временем, проведённым в приложении, и ростом стоимости акций, то при конкуренции раз за разом побеждают решения, которые играют на слабостях человека. Специалисты, которые их принимают, делают это не обязательно со злым умыслом, они скорее приспосабливаются к тому, за что платят и хвалят, чтобы жить «здесь и сейчас». Личная честность здесь необходима, но её недостаточно.

Вторая, более сильная часть предположения касается государства. Когда рынок вредит людям, естественно ждать, что вмешается государство. Но при капитализме государство не стоит над рынком как беспристрастный судья. Те же корпорации финансируют политиков, продвигают нужные им законы и оспаривают в суде неудобные, а их бывшие и будущие сотрудники порой занимают места в ведомствах, которые должны их контролировать. Поэтому и «подталкивание к полезному» сверху в конечном счёте определяет капитал, только не напрямую, а через государство.

Отсюда вывод. Все меры, которые не затрагивают саму модель, остаются полумерами. Они могут уменьшить вред и нужны как временные, но причину вреда не устраняют.

Как построено исследование и на что оно опирается

Работа построена на анализе и обобщении уже накопленных знаний. В ней разобраны исследования по этике дизайна, по тому, как люди обращаются с компьютерами и приложениями, и по поведенческой экономике, то есть по тому, как люди на самом деле принимают решения. Прослежена история приёмов, от военной пропаганды до современных интерфейсов. Разобраны реальные судебные дела и решения надзорных органов США, Великобритании, Евросоюза и России. Экономика рассмотрена с позиций марксизма (Маркс, Энгельс, Ленин) и с позиций теории о том, как бизнес подчиняет себе тех, кто должен его контролировать. Привлечены и философы, от Канта и Лукача до Франкфуртской школы и Эриха Фромма.

Каждый источник проверен на надёжность. Слабые работы, например статья [17] используются только как примеры того, как рассуждают в индустрии, но не как доказательства. Цифры из пересказов по возможности сверены с оригиналами, если где-то есть неточности, мало ли что перепутал, то всяко бывает, перепроверял как мог.

Я как тот джинн кого изгнали (позиция автора)

Многое в нынешних методах и взглядах на дизайн пришло с Запада, прежде всего из Америки, и выросло в среде свободного рынка. Изучать этот опыт нужно. Но копировать его вместе с терминами и ценностями было бы ошибкой, особенно если учесть наши особенности, культурные, психологические и многие другие. Чужой опыт нужно переосмыслить через собственную культуру, где издавна сильны представления об общей пользе, совместной ответственности и справедливости. Это не значит отгораживаться от мира или отвергать чужое, нет, это значит иметь право на собственную мерку и оценивать сделанное по тому, служит ли оно человеку и обществу. Эти взгляды для меня не только теория. Я применяю их в собственной работе, и о том, как это выглядит на практике, рассказано в разделе 7.4.

Да, не сказать, что это существенно помогает мне в жизни будучи в условиях правил «дикого капитализма», но тем не менее считаю это своим как человеческим/гражданским, так и профессиональным долгом, долгом помогать людям и выводить их из тьмы невежества к свету знаний, дабы они могли понимать кто, как и зачем ими управляет, ради возможности выбора осознанного и создания условий невозможности скрыто манипулировать человеком ради достижения своих шкурных и низменных целей. Так завещали нам наши великие советские предки, их идеология и мировоззрение.

Пройдём по этой истории по возможности без стёба и мата, как было в прошлой статье про топ-менеджеров и управленцев. По крайней мере, я постараюсь, даже если вы полюбили меня (судя по комментариям к прошлой статье) именно за такую подачу, где есть лол и кек.

Положения, которые выносятся на обсуждение

1. Манипулятивный дизайн не исключение из правил, а обычное состояние рынка. Компании выгодно играть на слабостях человеческого мышления, и эта выгода больше любых носимых потерь (издержек). Нобелевские лауреаты Джордж Акерлоф и Роберт Шиллер назвали такое состояние рынка «равновесием обмана» [19].

2. Приёмы торгового дизайна и политической пропаганды растут из одного корня и устроены одинаково. И те и другие управляют поведением человека в обход его разума. Различаются заказчик и цель, но способ остаётся тем же.

3. Модель извлечения выгоды превращает человека в вещь, его внимание, личные данные и предсказуемые реакции становятся товаром. Это прямо нарушает правило Канта, по которому заявлено, «поступай так, чтобы ты всегда относился к человечеству и в своем лице, и в лице всякого другого также как к цели и никогда не относился бы к нему только как к средству». [20].

4. Погоня за быстрой выгодой делает модель разрушительной для природы. Бывший глава Банка Англии Марк Карни назвал это «трагедией горизонта». Последствия наступят тогда, когда тем, кто сегодня получает прибыль, до них уже не будет дела. Дизайн создаёт не только вещи, но и мусор (издержки загрязнения, включая мусор и углеродный след от массового производства и дизайна вещей) и в итоге отнимает будущее [21] [22].

5. При капитализме государство зависит от крупного капитала. Бизнес влияет на него через лоббистов, через деньги для политиков и через людей, которые переходят из корпораций в контролирующие ведомства и обратно. Поэтому законы, кодексы и «подталкивание к полезному» остаются полумерами. Они уменьшают вред, но не устраняют его причину.

6. Временные меры всё равно нужны как сдерживающий природу рынка фактор. Среди них запрет обманных приёмов, обязанность компаний действовать в интересах пользователя, учёт реальной пользы для людей наравне с прибылью и закреплённая законом ответственность специалистов. Но работать они будут, только если их защитить от влияния денег. Решение по существу в том, чтобы экономика работала не ради наибольшей прибыли, а ради нужд общества. Тогда внимание человека, его личные данные и важнейшие цифровые сервисы перестанут быть источником частной наживы.

Глава 1. Теоретические основания

1.1. Дизайн как власть над выбором

Привычное представление о дизайне как об «украшательстве» давно устарело. Дизайн решает, какие действия даются легко, а какие трудно, какие варианты человек видит, а какие от него спрятаны, и что произойдёт, если он ничего не станет менять. Дональд Норман описал, как форма вещи сама подсказывает, что с ней делать. Ручка двери просит, чтобы за неё потянули, кнопка просит, чтобы её нажали. Есть и обратное, когда конструкция мешает сделать лишнее (защита от дурака) [23].

Ричард Талер и Касс Санстейн назвали дизайнера «архитектором выбора» и показали, что нейтрального устройства выбора не бывает. Даже то, как расставлены блюда в столовой, влияет на решения людей. Если положить фрукты на уровне глаз, а шоколад убрать на нижнюю полку, люди станут чаще брать фрукты. Это «подталкивание» к здоровому питанию, но не запрет на сладкое [24]. Эта идея стала самой известной практической находкой поведенческой экономики, науки о том, как люди принимают решения на самом деле. Сегодня ею пользуются правительства и компании по всему миру, чтобы мягко направлять поведение людей.

Американский философ Лэнгдон Уиннер в эссе «Есть ли у артефактов политика?» показал, что рукотворные вещи могут закреплять власть одних людей над другими [25]. Самый известный его пример связан с низкими мостами над дорогами Лонг-Айленда. Их построили при градостроителе Роберте Мозесе, и под ними якобы не могли пройти автобусы, на которых бедные и чернокожие жители Нью-Йорка ездили на пляжи. Позже этот пример оспорили, но главная мысль от этого не пострадала. Неравенство можно заложить в саму конструкцию, не записывая его ни в каком законе. Современные примеры куда бесспорнее. Это «враждебная архитектура», когда на скамейке невозможно лечь, а на подоконниках торчат шипы [26], это города, построенные для автомобилей, а не для пешеходов [27], это интерфейс, где кнопка «Отказаться» светло-серая и мелкая.

Отсюда первый вывод. Дизайн даёт власть над поведением другого человека. А нравственность дизайна определяет, как этой властью распоряжаться.

1.2. Влияние, убеждение, манипуляция, обман и принуждение

Влиять на других неизбежно, поэтому спорить нужно не о том, влиять или нет, а о том, как именно и с какими намерениями. Философы и исследователи того, как люди обращаются с компьютерами и приложениями, различают несколько видов влияния. Их удобно свести в таблицу. Она опирается на работы Сассер, Рёсслер и Ниссенбаум [28], на модель Санчес Чаморро и соавторов, которые оценивают влияние по двум признакам, насколько оно заметно и насколько сильно давит на человека [13], и на то, как Хансен и Йесперсен разделили виды «подталкивания» [29].

Наиболее точное рабочее определение даёт группа Ниссенбаум, где

Манипуляция — это скрытое влияние на решения человека через эксплуатацию его уязвимостей, подрывающее его автономию [28].

Ключевые признаки:

• скрытность (если бы человек понимал, что происходит, влияние бы не сработало);

• использование слабости, а не разума (манипулятивные технологии собирают данные и бьют по когнитивным искажениям, эмоциональным слабостям или сиюминутным триггерам человека);

• подрыв автономии (заставляет человека преследовать чужие цели и принимать решения, которые он не принял бы в иных условиях, тем самым разрушая его когнитивную свободу).

Из этого следует простая проверка, которую в работе называют тестом публичности. Её корни уходят к Канту, который писал:

Несправедливы все относящиеся к праву других людей поступки, максимы которых несовместимы с публичностью. [30]

Простыми словами, если для успеха вашего действия вам обязательно нужно держать свои истинные намерения в секрете (потому что их раскрытие сразу же вызовет сопротивление окружающих и разрушит ваш план), то такое действие заведомо несправедливо.

Позднее эту идею развил Джон Ролз [31]

Тест можно задать двумя способами, и от выбора зависит, будет ли он работать.

1. Первый способ спросить автора приёма:
   «Готовы ли вы открыто объяснить, что делаете?» Компания почти всегда ответит «да» и подберёт красивую формулировку. Скрытую подписку назовет «удобным автопродлением», навязчивую ленту назовет «персональными рекомендациями», а выдуманный счетчик «10 человек смотрят этот товар» (что торопит и формирует чувство упущенной выгоды), назовет «информированием о спросе». Оправдать словами можно что угодно, поэтому такая проверка ничего не отсеивает по существу и не работает.

2. Второй способ посмотреть со стороны человека, на которого направлен приём:
   Сработает ли он, если человек в момент выбора будет прямо видеть, что и зачем с ним делают?

Именно так тест сформулирован в этой работе.

Представим, что рядом с каждым элементом интерфейса честно написана его цель

• «Итоговая цена показана сразу, чтобы вы могли сравнить предложения». Человек это прочитал, и ничего не изменилось. Приём честный.

• «Кнопка отказа сделана серой и мелкой, чтобы вы её не заметили». Прочитав это, человек найдёт кнопку и откажется. Приём перестал работать, значит, он держался только на том, что человек не понимал происходящего. Это манипуляция.

Если приём работает только пока человек его не замечает, это манипуляция, как бы красиво её ни объясняли.

Этот тест применяется далее при разборе кейсов (главы 3-4), в ответе на контраргументы (раздел 5.2), в «клятве дизайнера» (раздел 7.4) и в практическом тесте грани (раздел 7.6).

1.3. «Подталкивание» и вопрос о том, кто решает

Поведенческая экономика, опираясь на работы Саймона и Канемана, показала, что человек не является полностью рациональным, что многие решения принимаются автоматически, на основе привычек и эмоций [32]. На этом основании была предложена концепция nudge, «подталкивания», и «либертарианского патернализма» [23], мол раз влияние неизбежно, пусть оно ведёт к тому, что человек сам признал бы для себя благом, здоровью, сбережениям. Свобода выбора при этом формально сохраняется. Концепция широко разошлась и по государственным «поведенческим подразделениям», и по продуктовым командам.

Для этой работы важны четыре изъяна концепции.

1. Кто решает, что есть благо?
   Формула «благо, как его оценил бы сам человек» непроверяема. На практике благо за человека определяет архитектор выбора. В государственной программе это чиновник, на рынке это компания, чей критерий задают выручка и акционеры. Но и чиновник в капиталистической модели не независим, политика финансируется и лоббируется тем же капиталом (раздел 2.7). Подталкивают туда, куда выгодно тому, кто подталкивает, прямо или опосредованно.

2. Название маскирует суть.
   Сочетание «либертарианский патернализм» звучит как опека без принуждения и снимает с вмешательства подозрения. Критики прямо называли его оксюмороном [33] и указывали, что подталкивание, работающее лишь пока человек его не замечает, по сути манипулятивно, даже при благой цели [34] [35].

3. Индивидуализация системных проблем.
   Это главный изъян. Ник Чейтер и Джордж Лёвенштейн (поведенческие экономисты) показали, что поведенческая политика сосредоточилась на «исправлении» отдельного человека (i-frame) вместо изменения системы (s-frame) и тем сбилась с пути [36]. Корпорации, сопротивлявшиеся системным изменениям, давно и охотно продвигали индивидуальную рамку, нефтяная BP популяризировала понятие «личного углеродного следа», производители пластика продвинули личную ответственность за переработку. Ответственность смещается с производителя на потребителя. В этом смысле подход объективно удобен капиталу, он лечит симптомы в поведении человека и не трогает модель, которая эти симптомы производит.

4. Инструмент нейтрален к цели.
   Те же механизмы (инерция умолчания, социальное доказательство, фрейминг) бизнес применяет для собственной выгоды. Сами авторы концепции были вынуждены ввести для корпоративной изнанки отдельный термин sludge, «вязкая жижа», трение, встроенное против интересов человека, например многоэтапная отмена подписки [37] [38].

Вывод:
Поведенческая наука дала дизайну рычаг, а на что его нажимать, решает экономическая модель. Пока целевая функция это прибыль, «подталкивание к полезному» остаётся полумерой и легко превращается в свою противоположность.

1.4. Психология на службе «понимания клиента»

Книга Джона Уэлена «Дизайн пользовательского опыта» [39] хорошо показывает двойственность современной UX-методологии. Её декларируемая цель помочь понять, как думают клиенты. Для этого опыт раскладывается на шесть когнитивных процессов

• восприятие и внимание;

• навигация;

• память и ментальные модели;

• язык;

• принятие решений;

• эмоции.

Цель гуманна, создать продукт, который действительно нужен. Но то же знание о «сознательных и бессознательных потребностях» без изменений годится и для другой задачи, найти точку, в которой человек уязвим. Руководство описывает, как работает ум. Каким будет продукт, помогающим или эксплуатирующим, решает не руководство, а заказчик и его метрики.

Ровно это обнаруживают эмпирические исследования практики. Дизайнеры описывают своё влияние как «обмен» ценности на данные или действия пользователя, а аналитику и A/B-тесты как способ «понять пользователя». Одновременно те же инструменты позволяют скрыто находить и использовать его уязвимости [13]. Луис Берумен Кастро называет один из признаков манипуляции прямо, использование исследований для поиска уязвимостей [14].

1.5. Субъект и объект

Кант сформулировал практический императив, поступай так, чтобы всегда относиться к человечеству, и в своём лице, и в лице другого, как к цели и никогда только как к средству [19]. Манипуляция же нарушает его по определению, она использует человека как средство достижения чужой цели в обход его собственного разума.

В 1848 году Маркс и Энгельс писали, что буржуазия «не оставила между людьми никакой другой связи, кроме голого интереса, бессердечного “чистогана”» [40]. Для темы дизайна особенно точно наблюдение Маркса о том, что производство «производит не только предмет для субъекта, но также и субъект для предмета» [41]/ Рынок формирует не только товары, но и самого потребителя с его потребностями. Марксова критика товарного фетишизма [42] и развившая её теория овеществления Дьёрдя Лукача [43] описывают, как при капитализме отношения между людьми принимают форму отношений между вещами, а сам человек начинает относиться к себе как к товару. Следствие данного воспитания мы можем наблюдать уже сегодня. Франкфуртская школа перенесла анализ на «культуриндустрию», производящую стандартизированные потребности [44], а Герберт Маркузе на «ложные потребности», навязанные ради воспроизводства системы [45]. Эрих Фромм противопоставил модус «обладания» модусу «бытия» [46]. Ги Дебор описал «общество спектакля», в котором жизнь замещена её представлением [47], Жан Бодрийяр общество потребления, где потребляются знаки [48]. В 1899 году Торстейн Веблен ввёл понятие демонстративного потребления [49], а в 1958 году Джон Кеннет Гэлбрейт описал «эффект зависимости» как производство само создаёт потребности, которые затем удовлетворяет, и потому ссылка на «желания потребителя» не может оправдать производство [50].

Цифровая эпоха довела эту логику до предела. Художники Ричард Серра и Карлота Шульман в 1973 году сформулировали, что «Телевидение доставляет людей» рекламодателю, продукт телевидения это зритель [51]. Шошана Зубофф показала, что надзорный капитализм присваивает человеческий опыт как бесплатное сырьё для производства «поведенческих прогнозов», которые продаются на рынках будущего поведения [52]. По её словам, человек здесь не продукт, а скорее источник сырья. Это и есть превращение субъекта в объект, о котором говорит основная мысль работы, человек перестаёт быть стороной отношений и становится их материалом. А данная природа отношений становится «людоедской».

Глава 2. Сад Бога полон сорняков

Основная мысль работы в том, что мораль дизайнера это во многом мораль его заказчика, а мораль заказчика задаётся правилами игры, в которой он участвует (рынок). В этой главе разбираются механизмы, через которые экономическая модель формирует дизайн, от метрик внутри компании до захвата государства.

Ниже представлено то, как цель системы превращается в конкретный интерфейс. Ни на одном звене не нужен злой умысел, каждое звено оптимизирует то, что ему поручено.

Всё начинается с цели всей системы. Компания должна приносить акционерам как можно больше денег. Из этой цели вырастают показатели, по которым оценивают работу команд. Это доля посетителей, которые что-то купили, время, проведённое в приложении, средний доход с одного пользователя и рост. Чтобы улучшать эти показатели, команды постоянно сравнивают разные версии интерфейса на живых людях, подстраивают сервис под каждого пользователя и копируют то, что сработало у конкурентов. Так появляются конкретные решения дизайна. Отказаться становится труднее, чем согласиться, выгодные компании варианты отмечены заранее, на чувства человека давят. В конце цепочки стоят потери, которые несёт уже не компания, а люди и общество. Это потерянное время, подорванное здоровье, долги, мусор и выбросы.

2.1. Прибыль акционеров превыше всего, и как можно скорее

В 1970 году экономист Милтон Фридман сформулировал правило, которое на полвека вперёд определило мышление корпораций. Единственная общественная обязанность бизнеса, по его словам, в том, чтобы увеличивать прибыль, соблюдая правила игры [53]. Звучит безобидно, пока правила игры поспевают за технологиями. Но они отстают всегда, и в этом главная слабость идеи Фридмана в наше время.

Закон отвечает на вред, который уже причинён, а бизнес зарабатывает в промежутке между тем, что стало возможным, и тем, что успели запретить. Технологии развиваются стремительно, а государственная и судебная машина движется медленно. Чтобы принять закон о новой сфере, нужны годы обсуждений. Получается правовая пустота. Когда появляется принципиально новая технология, запрещающих законов для неё ещё нет. Бизнес, который следует правилу Фридмана и стремится к наибольшей прибыли, начинает вовсю пользоваться этой серой зоной.

К этому добавляется короткий взгляд в будущее. Компании отчитываются перед акционерами каждые три месяца. Руководители получают право купить акции по выгодной цене, если акции быстро подорожают. Инвесторы в молодые компании живут по закону «вырасти или умри». Всё это заставляет ценить сегодняшний рост выше завтрашних последствий. Марк Карни, тогдашний глава Банка Англии, назвал это «трагедией горизонта». Самые страшные последствия изменения климата наступят тогда, когда нынешним участникам рынка до них уже не будет дела, поэтому предотвращать их они не стремятся [20].

Та же трагедия разыгрывается и в дизайне. Выгоду от обманного приёма видно в отчёте за квартал. А утрата доверия, выгорание пользователей, мусор и выбросы проявятся позже и лягут на других.

Кстати, именно эта логика объясняет, почему так называемые эффективные менеджеры, о которых я писал в прошлой статье, так небрежно относятся к развитию цифровых продуктов. Как я там и замечал, зачем им думать о далёкой перспективе, если завтра этого руководителя в компании уже не будет?

2.2. Метрика становится целью

Экономист Чарльз Гудхарт заметил, а антрополог Мэрилин Стратерн обобщила простое правило. Когда показатель становится целью, он перестаёт честно что-либо показывать [54].

Команда, которая создаёт приложение, измеряет, насколько люди им увлечены, потому что считает это признаком пользы. Но как только этот показатель начинают использовать для премий, повышений и увольнений, команда начинает добиваться увлечённости любой ценой. Появляются бесконечные уведомления, лента без конца, видео, которое включается само, и «серии», когда приложение отнимает накопленные очки за каждый пропущенный день. Nielsen Norman Group (далее по тексту NN/g) прямо называет погоню за долей покупателей и постоянное сравнение версий интерфейса одной из главных причин того, что обманные приёмы так распространились [12]. Такое сравнение не спрашивает, почему одна версия победила. Кнопка отказа стала серой и покупок стало больше? Ну значит серая кнопка «лучше».

Так возникает манипуляция, у которой нет автора, ибо никто не решал обмануть пользователя. Решение приняла машина подсчёта, которой поручили увеличивать цифру, поэтому призывы к совести отдельного дизайнера сами по себе мало что дают. Нравственная оценка просто не встроена в то, как компания принимает решения. Удобно.

2.3. Почему честный проигрывает

Самое сильное экономическое обоснование главной мысли работы дали нобелевские лауреаты Джордж Акерлоф и Роберт Шиллер в книге «Phishing for Phools», которую можно перевести как «Ловля простаков на крючок» [18]. Их вывод таков. Свободный рынок предлагает не только то, что людям нужно, но и всё, на чём можно заработать, играя на человеческих слабостях. Если на слабости можно заработать, рынок непременно породит тех, кто будет это делать. Компания, которая отказалась от уловок, при прочих равных проиграет той, что их использует. У второй больше доход с каждого клиента, больше денег на рекламу, и инвесторам она интереснее. Акерлоф и Шиллер называют это «равновесием обмана». Это обычное, устойчивое состояние рынка, а не временный сбой.

Практики описывают то же самое на примере интерфейсов. Берумен Кастро называет это порочным кругом. Один магазин добавляет выдуманный счётчик «10 человек смотрят этот товар», остальные копируют, и это становится нормой для всей отрасли [14]. Nielsen Norman Group называет подражание конкурентам вторым источником обманных приёмов [12]. Опрос более 400 пользователей, который провели Бонгард-Бланши и соавторы, показал, что люди в целом знают о таких приёмах, но это знание не помогает им сопротивляться [55]. Приём, который встречается повсюду, со временем перестаёт казаться обманом и становится нормой.

Отсюда следует ответ на шестой вопрос исследования о том, как сторонникам честного дизайна противостоять тем, кто играет не по правилам.

Если обман выгоден всему рынку, честная компания не получает никакого преимущества, скорее наоборот. Конкуренты, которые применяют уловки, зарабатывают больше и вытесняют её. Совет «конкурируйте доверием» работает только там, где клиент сам тщательно проверяет поставщика и обман быстро раскрывается. Так бывает в поставках для бизнеса, в банках и в медицине, а ещё там, где государство уже сурово наказывает за обман. В остальных случаях честность в одиночку проигрывает.

Чтобы честность стала выгодной повсюду, обман должен стать невыгодным для всех компаний сразу. Наказание за него должно быть неизбежным и превышать полученную прибыль. Тогда у нечестных конкурентов исчезнет преимущество. Но и этого удаётся добиться лишь отчасти, пока законы пишет и применяет государство, которое зависит от тех же компаний (подробнее в разделе 2.7). Иначе говоря, рынок и отношения людей на нём нужно жёстко контролировать и не допускать того, что называют «свободным рынком».

2.4. Экономика внимания и надзорный капитализм

В 1971 году Герберт Саймон заметил, что избыток информации порождает нехватку внимания [55]. Когда информация становится бесплатной, ценным и редким становится внимание людей, и за него начинается борьба. Юрист Тим Ву проследил историю «торговцев вниманием», от газет XIX века, которые жили за счёт рекламы, до телевидения и нынешних платформ [56]. Джеймс Уильямс, бывший рекламный стратег Google, показал, что системы, которые борются за внимание, мешают человеку не только в отдельных делах. Они подрывают саму способность ставить себе цели и добиваться их. Уильямс назвал это угрозой свободе воли в самом житейском смысле [57].

Шошана Зубофф описала, как устроена экономика, построенная на слежке за людьми [52].

• Сервис делают бесплатным или дешёвым, чтобы собрать как можно больше пользователей.

• Затем записывают о поведении людей гораздо больше, чем нужно для работы сервиса.

• Из этих сведений строят модели, которые предсказывают, как люди поведут себя дальше, и продают эти предсказания рекламодателям и другим покупателям.

• А чтобы предсказания сбывались точнее, система учится не только угадывать поведение, но и направлять его.

На этом последнем шаге дизайн и становится орудием управления поведением. Интерфейс, уведомление и порядок записей в ленте превращаются в рычаги, которыми платформа подгоняет жизнь людей под уже проданное предсказание. Известная фраза «если вы не платите за продукт, то продукт — это вы» верна лишь наполовину. Пользователь даже не столько товар, сколько сырьё и предмет воздействия.

2.5. Жизненный цикл платформы

Писатель и общественный активист Кори Доктороу описал путь, который проходят почти все крупные платформы. Он назвал его словом «enshittification», по-русски примерно «ухудшизация» [58].

Сначала платформа щедра к пользователям. Она удобна, бесплатна, без навязчивой рекламы, и так она собирает людей. Когда люди привыкли и уйти им уже трудно, потому что там все знакомые, переписка и история покупок, платформа начинает ухудшать их жизнь ради рекламодателей и продавцов. Рекламы становится больше, а того, что человек хотел увидеть, меньше. Когда от платформы начинают зависеть и продавцы, она ухудшает условия и для них. Комиссии растут, за показ товара приходится платить. Вся выгода уходит владельцам. По сути так ведёт себя любой монополист, захвативший рынок.

Технология на этом пути почти не меняется. Меняется то, кому достаётся выгода, и дизайн помогает её перераспределять. Лента заполняется рекламой, поиск первыми показывает тех, кто заплатил, а кнопка отмены подписки прячется всё дальше.

Экономист Мариана Маццукато видит то же явление в масштабе всей экономики. Одни зарабатывают, создавая новое и полезное, другие забирают себе то, что создано чужим трудом. По её наблюдению, современная экономика всё щедрее награждает вторых [59].

2.6. Как формируется мораль специалиста

Если система поощряет извлечение выгоды из человека, как с этим уживаются сами дизайнеры? Исследователи Санчес Чаморро, Бонгард-Бланши и Кёниг опросили 22 практикующих дизайнера со средним опытом больше восьми лет. Картина получилась трезвой [13]:

• дизайнеры искренне считают, что пользователь должен сам принимать решения, получать честную информацию и стоять на первом месте;

• но при этом легко придумывают приёмы, которые мешают человеку уйти или отказаться, лишние шаги при отмене, постоянные напоминания, давление на эмоции, «выгодные» предложения, от которых трудно отказаться. Особенно легко, когда заказчик коммерческая компания, а не благотворительная организация;

• ответственность размыта, решение принимают вместе дизайнер, менеджер продукта, маркетинг, юристы и разработчики, и в итоге не отвечает никто, что является классикой жанра (по личному опыту);

• силы неравны и решает бизнес. У дизайнера в лучшем случае есть возможность объяснять руководству, почему так делать нельзя, и возможность уволиться, но это дорого обходится и деньгами, и репутацией порой;

• возникает «этическая слепота» когда человек делает неэтичное, не желая зла и не замечая этого.

Эта зависимость давно описана политэкономией. В «Манифесте Коммунистической партии» сказано, что буржуазия «превратила врача, юриста, священника, поэта, человека науки в своих платных наёмных работников» [40]. Дизайнер стоит в том же ряду. В 1905 году Ленин сказал об этом ещё жёстче:

«Жить в обществе и быть свободным от общества нельзя. Свобода буржуазного писателя, художника, актрисы есть лишь замаскированная (или лицемерно маскируемая) зависимость от денежного мешка, от подкупа, от содержания» [60].

Сказанное о писателе и художнике прямо относится и к дизайнеру. Его творческая свобода кончается там, где кончается готовность заказчика платить.

Психологи давно описали, как это происходит. Опыты Стэнли Милграма показали, как далеко готовы зайти обычные люди, когда им приказывает тот, кого они считают авторитетом, и когда ответственность поделена между многими [61]. Ханна Арендт придумала выражение «банальность зла». Вред причиняют не чудовища, а старательные исполнители, которые не задумываются о смысле своих действий [62]. Сравнивать масштабы было бы неверно. Но оправдание «я просто делаю свою работу» везде одно и то же. Берумен Кастро разбирает его на точном образе. Дизайнер, который нажал на спусковой крючок, отвечает за пулю, даже если приказ отдал менеджер продукта [14].

Отсюда ответ на третий вопрос исследования о том, становимся ли мы соучастниками. Да, в той мере, в какой мы знаем о последствиях и всё равно продолжаем делать то же самое. Но причина не в личной испорченности дизайнеров, а в том, что система поощряет такое поведение и наказывает за отказ. Поэтому отвечать должны все, кто участвует в решении. Это заказчик, руководитель, дизайнер, инвестор и государство, которое должно всё это контролировать. А в конечном счёте ответственность лежит на самой экономической модели, на которой всё это держится. Поэтому нельзя ни сваливать всю вину на исполнителя, ни полностью его оправдывать.

2.7. Почему регулирование это полумера

Когда рынок вредит людям, обычно предлагают одно лекарство. Пусть вмешается государство, запретит обманные интерфейсы, оштрафует нарушителей, «подтолкнёт» граждан к полезному выбору. Это лекарство предполагает, что государство стоит над рынком как беспристрастный судья. При капитализме это не так.

Классики сказали об этом давно. В «Манифесте» Маркс и Энгельс назвали государственную власть «комитетом, управляющим общими делами всего класса буржуазии» [40]. Важны слова «всего класса». Государство может наказать отдельную компанию, которая зарвалась и портит репутацию всей системы, как это случилось с Amazon. Но оно защищает интересы собственников в целом и поэтому не трогает саму модель, на которой эти интересы держатся. Отдельные штрафы не опровергают мысль о зависимости государства от капитала, они её подтверждают.

Там же сказано: «Господствующими идеями любого времени всегда были лишь идеи господствующего класса» [40]. Поэтому так легко становятся общепринятыми идеи, которые предлагают «исправлять» поведение отдельного человека, а не устройство экономики. Это «подталкивание», личная ответственность за «углеродный след» и цифровая грамотность в роли главного лекарства (раздел 1.3). «Манифест» описывает и то, что эта модель делает с самим человеком. Буржуазия, по словам Маркса и Энгельса, «превратила личное достоинство человека в меновую стоимость и поставила на место бесчисленных … свобод одну бессовестную свободу торговли» [40]. Меновой стоимостью Маркс называет цену, за которую вещь можно обменять на другие вещи. Человек, чьё внимание и личные данные продают рекламодателям, буквально воплощает эти слова.

Ленин в работе «Государство и революция», опираясь на Энгельса, показал, как это устроено на практике. В демократической республике богатство властвует «косвенно, но зато тем вернее». Оно подкупает чиновников напрямую и заключает «союз правительства с биржей». Отсюда вывод Ленина, что «демократическая республика есть наилучшая возможная политическая оболочка капитализма». Капитал, овладев ею, укрепляет свою власть так надёжно, что «никакая смена ни лиц, ни учреждений, ни партий» её не колеблет [63]. В работе «Империализм, как высшая стадия капитализма» Ленин описал «личную унию» банков, промышленности и правительства. Одни и те же люди переходят из руководства корпораций в государственные органы и обратно [64].

Сегодня это называют «вращающимися дверями». Чиновник, который писал правила для отрасли, уходит на высокооплачиваемую должность в компанию этой отрасли. А менеджер компании получает место в ведомстве, которое должно её контролировать. Такой контролёр заранее думает о будущем работодателе, а не о гражданах.

К тому же выводу пришли и противники марксизма. Джордж Стиглер, лауреат Нобелевской премии по экономике и убеждённый сторонник свободного рынка, создал теорию о том, как отрасли подчиняют себе тех, кто их контролирует. Как правило, отрасль сама добивается нужных ей правил, и эти правила устроены и работают прежде всего в её интересах [65]. Политологи Мартин Гиленс и Бенджамин Пейдж изучили около 1800 политических решений в США. По их выводу, на политику сильно влияют богатые люди и объединения бизнеса, а влияние рядовых граждан близко к нулю [66]. Способ, которым они это подсчитали, критиковали [67], но общий вывод подтверждают факты.

• В 2024 году компании и организации в США потратили на лоббирование федеральной власти рекордные 4,4 миллиарда долларов. Среди крупнейших лоббистов Meta (Facebook и Instagram), Amazon и Alphabet (Google) [68].

• Расходы технологических компаний на лоббирование в Евросоюзе выросли со 113 миллионов евро в 2023 году до рекордных 151 миллиона евро в год к 2025-му. Треть этой суммы тратят десять крупнейших компаний. Их представители в среднем чаще раза в день встречаются с чиновниками Еврокомиссии [69].

• В ноябре 2025 года Еврокомиссия предложила «Цифровой омнибус», пакет «упрощения» европейских законов о защите личных данных (GDPR) и об искусственном интеллекте (AI Act). Независимые наблюдатели сравнили предложение с лоббистскими документами Google, Meta и Microsoft пункт за пунктом. Многие важнейшие изменения совпали с требованиями корпораций. Защита данных слабее, контроля за искусственным интеллектом меньше, общественного надзора меньше [70]. Законы, на которые надеялись как на защиту от манипуляции [71], [72], предложено ослабить под давлением тех, кого они должны были ограничивать.

• В США Федеральная торговая комиссия приняла правило, по которому отменить подписку должно быть не сложнее, чем оформить. Объединения рекламщиков и кабельных операторов вместе с Торговой палатой США оспорили его в суде. В июле 2025 года, за несколько дней до вступления в силу, правило отменили [73], [74]. Комиссии пришлось начинать всё заново, годы работы пропали даром, а компании все эти годы продолжают зарабатывать на трудной отмене.

• Даже принятый закон индустрия умеет обойти. После того как вступил в силу европейский закон о защите данных, интернет заполнили окна с просьбой согласиться на cookie. Формально они соблюдают закон, а на деле сами устроены как обманные интерфейсы. Кнопка «Принять» большая и яркая, а отказ спрятан [75] [76].

Почему капитал так упорно сопротивляется? Ответ дан ещё в XIX веке. Маркс в «Капитале» приводит слова английского публициста Томаса Даннинга:

«Обеспечьте 10 процентов, и капитал согласен на всякое применение, при 20 процентах он становится оживлённым, при 50 процентах положительно готов сломать себе голову, при 100 процентах он попирает все человеческие законы, при 300 процентах нет такого преступления, на которое он не рискнул бы, хотя бы под страхом виселицы» [77].

Штраф Amazon в 2,5 миллиарда долларов [6] кажется огромным. Но выручка компании за 2024 год составила около 638 миллиардов долларов [78]. Значит, штраф оказался меньше 0,4% годовой выручки, это примерно полтора дня продаж. Для компании такой штраф просто часть расходов, а не запрет. Если обман приносит больше, чем стоит наказание, обман, очевидно, продолжится.

В 1952 году Сталин сформулировал противопоставление, которое точно описывает суть различия. Основной экономический закон современного капитализма он определил как «обеспечение максимальной капиталистической прибыли путём эксплуатации, разорения и обнищания большинства населения данной страны…». А основной закон социализма как «обеспечение максимального удовлетворения постоянно растущих материальных и культурных потребностей всего общества путём непрерывного роста и совершенствования социалистического производства на базе высшей техники» [79]. Для дизайна это означает простую вещь. В первом случае интерфейс проектируют, чтобы извлечь из человека прибыль, а во втором чтобы удовлетворить его потребности. Вся эта работа посвящена последствиям первого подхода.

Итог раздела таков. Пока экономика работает ради частной прибыли, а капитал сохраняет возможность влиять на государство, любые меры остаются полумерами. Это относится и к законам против обманных приёмов, и к этическим кодексам, и к «подталкиванию к полезному», и к цифровой грамотности. Они могут уменьшить вред и поэтому нужны как временные. Но их принимает, ослабляет и пересматривает та самая система, которую они должны ограничивать. Чтобы устранить причину, нужно менять саму модель (см. раздел 7.7).

Глава 3. Генеалогия инструментария

Одна из центральных идей работы в том, что методы управления массовым поведением не исчезают, а эволюционируют. Когда аудитория распознаёт её «захват», приём перестаёт работать на опытных, но продолжает работать на тех, кто с ним не сталкивался ,и поэтому индустрия изобретает новые приёмы. Об этом писал Бернейс в своей книге «Пропаганда». И эту эволюцию хорошо видно на связке «военная пропаганда — связи с общественностью — маркетинг — цифровой дизайн».

3.1. Первая мировая война как рождение индустриальной пропаганды

Первая мировая стала первой войной, где пропаганда превратилась в государственную индустрию. Британия распространяла «Доклад Брайса» о зверствах германской армии в Бельгии, часть описанных в нём историй, например об отрубленных руках детей, позднее не нашла подтверждения. В США в 1917 году был создан Комитет общественной информации (комиссия Крила), который мобилизовал плакатистов, журналистов, кинематографистов и десятки тысяч добровольных «четырёхминутных ораторов», в этой работе участвовал и молодой Эдвард Бернейс.

Пропаганда Первой мировой была грубой через прямую демонизацию врага, через ложные истории о зверствах, упрощённые лозунги и прочее. Политолог Гарольд Лассуэлл в 1927 году систематизировал её техники [80]. Британский политик Артур Понсонби в 1928 году опубликовал разоблачение военной лжи «Ложь во время войны» [81]. Узнав, что его обманывали, общество перестало верить, потому, когда в годы Второй мировой на Запад пришли первые сведения о настоящих массовых убийствах, которые совершали нацисты, многие поначалу сочли их очередной выдумкой пропаганды. Раскрытая ложь подрывает доверие и к правде (как в притче про волков). Нечто похожее происходит и сегодня, пользователи знают, что интерфейсы пытаются ими управлять, относятся к ним с подозрением и всё равно поддаются.

3.2. Эдвард Бернейс и «инженерия согласия»

Бернейс, племянник Зигмунда Фрейда, перенёс опыт военной пропаганды в мирную торговлю и открыто об этом писал. Его книга «Пропаганда» начинается с утверждения, что сознательно и умело управлять привычками и мнениями масс есть важная часть демократического общества, и делают это люди, которых публика не видит [82]. В 1947 году он назвал свою работу «инженерией согласия» [83]. Смысл названия в том, что согласие людей можно не завоёвывать доводами, а конструировать, как инженер конструирует машину.

Самый известный пример кампания «Факелы свободы» по заказу табачной компании American Tobacco Company. В то время курить на улице женщине считалось неприличным. Бернейс организовал, чтобы молодые женщины прошли по Пасхальному параду в Нью-Йорке с зажжёнными сигаретами, и подал это в газетах как символ женского равноправия. Цель была коммерческой, снять запрет на женское курение и вдвое увеличить число покупателей [84].

Здесь впервые в чистом виде видна схема которая станет стандартом. Вредный товар связывают с глубокой человеческой потребностью в свободе, в принадлежности к группе, в уважении. Человек покупает уже не сигарету, а «свободу». О самом товаре и его вреде при этом не говорят.

В мемуарах Бернейс вспоминал, как журналист Карл фон Виганд рассказал ему, что Йозеф Геббельс использовал его книгу «Кристаллизация общественного мнения» при подготовке своих пропагандистских кампаний [83]. Это свидетельство из единственного источника, проверить его трудно. Но показательна реакция самого Бернейса, он понял, что его методы одинаково служат и торговле, и любой другой цели.

3.3. Вторая мировая война. Новые медиа, дегуманизация и наука о преодолении запрета на убийство

Ко Второй мировой пропаганда изменилась, грубым выдумкам о зверствах уже не верили, и на смену им пришло другое:

• Новые средства связи и сам дизайн приборов. В нацистской Германии массово выпускали дешёвый радиоприёмник «народный приёмник». Это был промышленный дизайн, задуманный, чтобы голос государства звучал в каждом доме;

• Кино, которое захватывает зрителя целиком. Фильмы показывали власть и марширующие толпы как нечто прекрасное и величественное («Триумф воли» Лени Рифеншталь, 1935);

• Лишение врага человеческого облика. Врага изображали уже не просто жестоким, а не вполне человеком. Нацистская пропаганда называла народы СССР, а евреев в частности как отдельный народ, «недочеловеками», изображала их паразитами и крысами.

Следует отметить, что образы, отказывающие врагу в человечности, использовали все воевавшие стороны, хотя масштабы и последствия несопоставимы. В советской печати были статья Ильи Эренбурга «Убей!» (1942) и стихотворение Константина Симонова «Убей его!», плакат «Бей фашистского гада!» (А. Кокорекин, 1941) [87] и т. д.. Американские плакаты и карикатуры изображали японцев в виде зверей [86]. Это не уравнивает напавшего и того, кто защищался, это показывает, что в крайних обстоятельствах государство любой системы прибегает к одним и тем же психологическим приёмам, поэтому сами приёмы нужно оценивать отдельно, независимо от того, кто ими пользуется.

Предельно жёстко эту логику раскрывает книга подполковника армии США Дэйва Гроссмана «Психология убийства» (On Killing) [88]. Гроссман исходит из того, что большинство людей внутренне сопротивляются убийству себе подобных. Опираясь на данные военного историка С. Л. А. Маршалла, он утверждает, что во Второй мировой лишь 15-20% американских солдат стреляли во врага прицельно.

После войны армия изменила подготовку. Вместо круглых мишеней начали делать фигуры в форме человека, которые внезапно появляются и падают при попадании, вместо обдуманного решения в приоритет встал выстрел на рефлексе, доведённый до автоматизма, а за точную стрельбу были поощрения. Так дрессируют поведение наградой, этот метод описал психолог Беррес Скиннер. По Гроссману, к войне во Вьетнаме доля стреляющих выросла до 90-95%.

Главные условия, которые, по Гроссману, ослабляют сопротивление убийству:

• расстояние (физическое и психологическое) чем дальше жертва, тем легче;

• приказ человека, наделённого властью;

• ответственность, разделённая на группу, когда каждый чувствует себя лишь частью целого;

• образ жертвы как «не человека»;

• выработанный рефлекс вместо решения.

Данные Маршалла о «15-20%» подвергнуты серьёзной критике. Историк Роджер Спиллер показал, что систематического сбора статистики, на который ссылался Маршалл, по-видимому, не было [89]. Не доказаны и выводы Гроссмана о влиянии видеоигр на насилие. Поэтому в работе используются не цифры Гроссмана, а описанный им механиз, подтверждённый опыт армий XX века показывает, что целенаправленная поведенческая инженерия способна преодолевать даже глубочайшие моральные запреты человека.

Связь с темой работы прямая. Если методы обусловливания и дегуманизации способны заставить человека переступить через запрет на убийство, то заставить его купить ненужное, отдать данные или провести лишний час в ленте, видится как задача несравнимо более лёгкая. А дистанция и распределённая ответственность, которые Гроссман называет факторами, облегчающими убийство, в мирном варианте облегчают причинение вреда через интерфейс. Дизайнер никогда не видит конкретного человека, у которого из-за «ловушки подписки» списываются последние деньги, тем самым он снимает с себя моральные издержки.

3.4. Послевоенный маркетинг

После войны психоанализ и социальная психология пришли в рекламу. Эрнест Дихтер и его школа «мотивационных исследований» искали бессознательные мотивы покупки. Вэнс Паккард в бестселлере «Тайные манипуляторы» (1957) разоблачил эти практики перед широкой публикой [90]. Показательна история подсознательной рекламы, в 1957 году Джеймс Вайкари объявил, что вставки кадров «Ешьте попкорн» и «Пейте кока-колу» резко увеличили продажи в кинотеатре. Позднее он признал, что данные были выдуманы [91]. Урок двоякий, во-первых, страх перед «магией» манипуляции легко преувеличить, и в честном анализе нужно отделять доказанное от мифов, во-вторых, самые эффективные манипуляции оказались не мистическими, а скучными, умолчания, трение, социальное давление, дефицит, повторение.

3.5. Технологии убеждения и производство привычек

В конце 1990-х годов психолог Би Джей Фогг основал в Стэнфордском университете лабораторию, которая изучала, как компьютеры и программы могут менять мысли и поступки людей. Для этой науки он придумал название «каптология». Уже в 1999 году исследователи Бердичевский и Нойеншвандер предложили для таких систем этические правила. Технология не должна служить цели, которая была бы неэтичной и без неё, а создатели обязаны раскрывать свои намерения [92].

Рынок взял у новой науки метод и оставил этику. Ученики Фогга пришли в крупнейшие технологические компании, среди них был, например, Майк Кригер, впоследствии один из создателей Instagram. Книга Нира Эяля «На крючке» (2014) превратилась в практическое пособие по выработке привычек, схема в ней простая, сигнал зовёт человека в приложение, он совершает действие, получает награду и вкладывает в сервис что-то своё (фотографии, подписки, переписку), после чего возвращаться хочется снова [93]. Главная деталь этой схемы в том, что награда приходит непредсказуемо, иногда в ленте найдётся интересное, иногда нет. Психолог Беррес Скиннер показал на лабораторных животных, что именно непредсказуемая награда вызывает самое упорное и навязчивое поведение, на этом же принципе построены игровые автоматы.

Антрополог Наташа Доу Шюлль в книге «Addiction by Design» («Зависимость по проекту») подробно описала, как производители игровых автоматов добиваются особого состояния игрока. Сами игроки называют его «зоной». Человек в нём теряет счёт времени и деньгам [94]. Позже те же принципы перешли в мобильные игры и социальные сети.

Многие авторы ключевых изобретений потом публично пожалели о своей работе.

• Аза Раскин придумал бесконечную ленту, а позже сравнил её действие с «поведенческим кокаином» и стал одним из основателей Центра гуманных технологий (Center for Humane Technology) [95], [96].

• Лорен Брихтер, автор жеста «потяни вниз, чтобы обновить», и Джастин Розенштейн, один из создателей кнопки «Нравится», признавали, что не ожидали, насколько их решения затягивают людей [96].

• Шон Паркер, первый президент Facebook, в 2017 году заявил, что платформу сознательно строили, чтобы «эксплуатировать уязвимость человеческой психологии». Каждый лайк и комментарий дают человеку немного одобрения, и ради новой порции он публикует ещё [98].

• Тристан Харрис, который в Google отвечал за этику дизайна, описал приёмы, которыми приложения перехватывают внимание человека, и основал движение Time Well Spent («Время, потраченное с пользой») [99].

Эти признания важны для работы по двум причинам.

• во-первых, они доказывают умысел, механизмы с самого начала создавались, чтобы удерживать людей;

• во-вторых, понимание пришло к авторам уже после того, как рынок разнёс их изобретения по миру и начал на них зарабатывать. Изобретатель не властен над судьбой своего изобретения, её решает модель, которая извлекает из него прибыль.

Применим к бесконечной ленте тест публичности (раздел 1.2). Представим, что под ней честно написано что-то вроде «Лента не заканчивается намеренно. У неё нет точки, где можно остановиться, чтобы вы провели здесь больше времени, чем собирались. От этого зависит наша выручка от рекламы». Многие ли продолжили бы листать так же легко? Механизм работает только потому, что о его цели молчат., значит, по критерию этой работы он манипулятивен.

3.6. Обманные интерфейсы, их виды и сила воздействия

Термин «тёмные паттерны» (dark patterns, позже deceptive patterns, то есть обманные приёмы) предложил в 2010 году британский специалист по интерфейсам Гарри Бриньулл [100]. В 2018 году Колин Грей и соавторы разделили такие приёмы на пять групп [101].

• Навязчивость
  Приложение снова и снова просит о том, от чего человек уже отказался.

• Препятствия
  Войти легко, выйти трудно, как в ловушку для тараканов. Сюда же относится намеренное затруднение сравнения цен.

• Скрытность
  Платежи, о которых не предупредили, товары, незаметно добавленные в корзину, подписка, которая сама продлевается после бесплатного периода.

• Вмешательство в интерфейс
  Выгодную компании кнопку делают яркой, а другую блёклой. Галочки расставлены заранее, важные сведения спрятаны, а кнопка отказа написана так, чтобы стало стыдно («Нет, я не люблю экономить»).

• Принуждение
  Без регистрации ничего не работает, личные данные выманивают как плату за доступ.

Масштаб этих приёмов измерен. Исследователи Принстонского и Чикагского университетов (Mathur и соавторы) проверили около 11 тысяч интернет-магазинов. обманные приёмы нашлись на 1 254 сайтах, это примерно каждый девятый, на 183 сайтах сообщения были откровенно ложными, например выдуманные счётчики покупателей и таймеры. Нашлись и компании, которые продают такие счётчики и таймеры другим магазинам как готовую услугу [4]. Манипуляция стала обычным товаром, который одни фирмы продают другим.

Цюрихские исследователи (Di Geronimo и соавторы) нашли обманные приёмы в 95% из 240 популярных приложений для Android, в среднем около семи в каждом. Большинство пользователей этих приёмов не замечали [5]. Другая группа изучила окна согласия на cookie, которые появились после вступления в силу европейского закона о защите данных (GDPR). Лишь около 12% из них соответствовали минимальным требованиям закона. А если убрать кнопку «Отказаться» с первого экрана, согласие давали примерно на 22 процентных пункта чаще [75].

Самое важное исследование того, насколько эти приёмы действуют, провели Джейми Лугури и Лиор Страхилевиц из Чикагского университета [101]. Почти две тысячи человек прошли опрос о приватности, после чего им предложили платную «защиту данных». Там, где были только две простые кнопки «Принять» и «Отказаться», согласились около 11%. Мягкие приёмы (заранее поставленная галочка, стыдящая надпись на кнопке отказа, просьба объяснить, почему человек отказывается) подняли эту долю больше чем вдвое, примерно до 26%. Грубые приёмы (несколько экранов с запугиванием и задержками) подняли её почти вчетверо, примерно до 42%.

Исследование привело к двум важнейшим выводам [102] [102]. Мягкие приёмы почти не вызывают у людей злости, а грубые вызывают, значит, бизнесу выгоднее всего манипуляция, которую не замечают. Кроме того, люди с более низким уровнем образования поддаются мягким приёмам заметно сильнее. Можно ли из этого сделать вывод, что рынку нужны малограмотные (необразованные) люди? Вопрос риторический.

Первый вывод опровергает расхожее утверждение, будто рынок сам накажет обманщиков, потому что пользователи от них уйдут, но от манипуляции, которую не видно, никто не уходит. Второй вывод показывает, что манипуляция бьёт прежде всего по слабым, она забирает деньги у менее защищённых и отдаёт их сильным.

Этот результат наглядно подтверждает тест публичности. Мягкие приёмы действуют именно потому, что их не видно, человек не понимает, что на него влияют, и потому не сопротивляется. Грубый приём заметен, и вместе с ним приходит злость. Если бы о мягком приёме сказали честно («мы заранее отметили платный вариант в расчёте на то, что вы не станете снимать галочку»), он сразу стал бы заметным и перестал бы работать.

В дипломной работе Брауна [16] есть полезное понятие «обман с согласия» (consensual deception). Люди видят, что ими манипулируют, и всё равно соглашаются, потому что выбора нет или отказ слишком дорого обходится. Правоведы Нил Ричардс и Вудро Хартцог называют это болезнями цифрового согласия [103]. По их мнению, согласие настоящее, когда человеку приходится решать нечасто, вред от решения понятен заранее, а интересы сторон не противоречат друг другу. В цифровой среде нарушены все три условия. Мы «соглашаемся» сотни раз в день, вред расплывчат и наступит не сразу, а платформа заинтересована в обратном тому, чего хотим мы. Согласие на бумаге есть, а на деле его нет, ответственность при этом перекладывается на того, кто меньше всех способен ею распорядиться.

3.7. Пропаганда на алгоритмах, круг замыкается

В XXI веке торговые и политические приёмы влияния снова слились, и теперь они работают на одних и тех же платформах.

В 2014 году Facebook опубликовал результаты эксперимента на 689 тысячах пользователей, которые о нём не знали. Исследователи меняли в их лентах долю радостных и грустных записей, и люди сами начинали писать радостнее или грустнее [104]. Платформа показала, что способна управлять настроением огромного числа людей без их ведома.

Скандал с Cambridge Analytica показал, что данные до 87 миллионов пользователей могли использоваться для политической рекламы, подобранной под психологический портрет каждого человека [105].

Оксфордский институт интернета в 2020 году обнаружил организованные кампании по манипуляции в социальных сетях в 81 стране. В 48 странах государственные органы и политические силы нанимали для этого частные фирмы, которые продают ложь в соцсетях как услугу [106].

Международная миссия ООН по установлению фактов пришла к выводу, что социальные сети сыграли значительную роль в насилии против народа рохинджа в Мьянме в 2017 году [107]. Amnesty International изучила внутренние документы Meta и установила, что алгоритмы Facebook, настроенные удерживать людей как можно дольше, активно продвигали записи, разжигающие ненависть [108].

Пример Мьянмы замыкает линию, которая началась в разделе 3.3. В XX веке государства вручную внушали людям, что враг не человек. В XXI веке то же самое может происходить само собой, как побочное следствие работы алгоритма, которому поручили удерживать внимание. Ненависть и страх удерживают сильнее всего. Никто в Кремниевой долине не ставил цели разжечь резню. Но модель «внимание в обмен на рекламу» сделала ненависть выгодной для алгоритма. Браун описывает те же механизмы на других примерах [16]. Люди видят только тех, кто думает так же, лента показывает лишь то, что подтверждает их взгляды, а рекомендации шаг за шагом подводят к крайним мнениям.

Итог главы. Методы менялись (плакат, радио, кино, телевидение, алгоритм), но принцип оставался одним — воздействовать на поведение масс в обход их разума, опираясь на знание психологии, дистанцию и распределённую ответственность. Меняется и ещё одно, если в XX веке такими методами пользовались преимущественно государства во время войн, то в XXI веке они стали рутиной рыночной конкуренции, доступной любому, кто может заплатить.

Глава 4. Чем расплачиваются человек, общество и природа

4.1. Время и внимание, или как у человека забирают жизнь

По данным исследовательской службы DataReportal, средний пользователь интернета проводит в сети около 6 часов 38 минут в сутки, и из них около 2 часов 21 минуты приходится на социальные сети [3]. Конечно, не всё это время отнимает манипуляция, в интернете мы работаем, учимся, общаемся с близкими, но значительная его часть проходит в сервисах, которые зарабатывают тем больше, чем дольше человек в них остаётся. Время же человек не может ни купить, ни вернуть.

Психолог Глория Марк двадцать лет изучала, как люди переключают внимание за работой. По её данным, в 2004 году человек в среднем удерживал внимание на одном экране около двух с половиной минут, а в последние годы около 47 секунд [109]. В опросе Брауна 78% участников признались, что приложение удерживало их дольше, чем они собирались, и им казалось, что их обманом заставили задержаться [16]. Опрос небольшой и проведён студентом, поэтому эту цифру стоит считать лишь иллюстрацией.

Если вернуться к главной мысли работы, у человека здесь забирают не деньги, а часы его жизни. Человеку ничего не продают. Продают его самого, а точнее его время и внимание, продают рекламодателю.

4.2. Психика, и почему больше всех страдают дети

В 2021 году газета The Wall Street Journal опубликовала внутренние исследования Facebook. На одном из слайдов 2019 года было написано «Мы усугубляем проблемы с восприятием своего тела у каждой третьей девочки-подростка» [110]. Компания знала о вреде и всё равно продолжала настраивать продукт так, чтобы люди проводили в нём как можно больше времени. Бывшая сотрудница Фрэнсис Хауген, которая передала эти документы журналистам, рассказала в Сенате США, что компания раз за разом выбирала прибыль, а не безопасность людей [111]. В 2023 году главный санитарный врач США выпустил особое предупреждение о том, чем социальные сети опасны для психического здоровья молодёжи [112].

Учёные до сих пор спорят, действительно ли социальные сети вызывают рост тревожности и депрессии у подростков. Психолог Джонатан Хайдт в книге «Тревожное поколение» уверен, что вызывают [113]. Психолог Кэндис Одгерс в журнале Nature считает, что прямых доказательств пока недостаточно [114]. Для этой работы важен не исход спора, важно, что компании сами видели вред в собственных исследованиях и ничего не меняли, потому что перемены ударили бы по главным показателям бизнеса. Это и подтверждает главный тезис, что когда вред приносит прибыль, знание о вреде не заставляет от него отказаться тех, кому это выгодно.

4.3. Деньги, ловушки подписок и азартные игры внутри обычных игр

Самый громкий пример связан с подпиской Amazon Prime. Федеральная торговая комиссия США установила, что компания с помощью обманных приёмов оформляла людям подписку без их ясного согласия и нарочно затрудняла отмену. Внутри компании процесс отмены называли «Илиадой», в честь поэмы Гомера о долгой и изнурительной войне. В итоге Amazon заплатила 2,5 миллиарда долларов. Из них 1 миллиард составил штраф, а 1,5 миллиарда вернули примерно 35 миллионам клиентов [6]. Тест публичности здесь даёт однозначный ответ. Честная надпись на экране отмены звучала бы как-то так «Мы сделали отмену долгой и запутанной, чтобы вы сдались и продолжали платить».

Создатель игры Fortnite, компания Epic Games, в 2022 году заплатила 520 миллионов долларов. Из них 245 миллионов вернули покупателям, в том числе детям, которых интерфейс подталкивал к случайным покупкам [115].

Во многие видеоигры встроены сундуки с неизвестным содержимым, которые покупают за настоящие деньги. По-английски их называют лутбоксами. По сути это лотерея. Исследования показывают, что чем больше человек тратит на такие сундуки, тем чаще у него встречаются признаки игровой зависимости [116]. В 2018 году Бельгия официально признала платные сундуки азартной игрой.

Надзорные органы США и Великобритании прямо пишут, что обманные приёмы вредят не только покупателям, но и честной конкуренции. Побеждает не тот, у кого лучше товар, а тот, кто ловчее обманывает [117], [118].

4.4. Вредные товары и производство сомнений

Основная мысль работы касается и торговли вредными и опасными товарами. История XX века знает немало случаев, когда дизайн, реклама, связи с общественностью и купленная наука работали вместе.

Начнём с табака, путь ведёт от «Факелов свободы» Бернейса к внутренней записке табачной компании Brown & Williamson 1969 года. В ней сказано: «Сомнение — наш продукт, поскольку это лучший способ конкурировать с “массивом фактов” в сознании публики» [119]. Историк Аллан Брандт подробно показал, как табачные компании десятилетиями искусственно создавали видимость научного спора там, где его не было [120]. Историки Наоми Орескес и Эрик Конвей проследили, как те же методы и даже те же люди потом выступали против учёных, изучавших кислотные дожди, разрушение озонового слоя и изменение климата [121].

С сахаром произошло нечто похожее, в 1960-х годах Фонд исследования сахара заплатил учёным Гарвардского университета за обзорную статью в New England Journal of Medicine. Статья внушала, что главная причина болезней сердца кроется в жирной пище, и отводила внимание от сахара. Переписка, раскрывающая эту историю, стала известна только в 2016 году [122].

Фармацевтическая компания Purdue Pharma настойчиво продвигала обезболивающее OxyContin и преуменьшала риск привыкания. Компания дважды признавала вину в суде, в 2007 и в 2020 году [123]. Волна зависимости от таких обезболивающих в США унесла сотни тысяч жизней.

Отдельного внимания заслуживает «дизельгейт». Компания Volkswagen встроила в программу примерно 11 миллионов дизельных автомобилей хитрость. Машина распознавала, что её проверяют в лаборатории, и только на время проверки включала полную очистку выхлопа. Здесь обман спроектировали сами инженеры как часть продукта. Компания признала вину и заплатила в США 4,3 миллиарда долларов штрафов [124].

В 1965 году юрист Ральф Нейдер выпустил книгу «Опасен на любой скорости». Он показал, что автопроизводители сознательно жертвовали безопасностью машин ради внешнего вида и экономии [125]. После этой книги в США появились законы об обязательных ремнях безопасности и проверке машин на столкновение. Этот случай показывает, что общество способно заставить промышленность делать вещи безопаснее.

Последний пример касается нефти и климата. Исследование 2023 года в журнале Science показало, что учёные компании ExxonMobil ещё в 1970-х и 1980-х годах точно предсказали потепление климата. А публично компания десятилетиями сеяла сомнения в том, что потепление вообще происходит [126].

Во всех этих случаях производитель знал о вреде. Но выгода требовала менять мнение людей о товаре, а не сам товар. Упаковка, реклама и «научные» публикации служили именно этому.

4.5. Общество, раскол, утрата доверия и привычка к обману

Для общества в целом модель извлечения выгоды оборачивается тремя последствиями.

Первое из них это раскол. Алгоритмы, которые стремятся удержать человека подольше, охотнее всего показывают то, что вызывает сильные чувства, особенно гнев и спор. В итоге люди видят только тех, кто думает так же, лента всё сильнее подталкивает к крайним взглядам, а ложь расходится быстрее правды [16], [108].

Второе последствие в утрате доверия. Постоянный обман приучает не доверять, пользователи относятся к интерфейсам с подозрением и понимают, что ими пытаются управлять, но защититься всё равно не могут [55]. Получается худшее из сочетаний, ведь человек уже не верит, но ещё поддаётся. История с «пропагандой зверств» (раздел 3.1) показывает, чем опасно такое недоверие. В конце концов оно распространяется и на правду.

Третье последствие в привычке к обману. Приёмы, которые встречаются повсюду, перестают восприниматься как обман [55]. Меняется само представление о том, что нормально. Точно так же в 1920-х годах курение женщин из запретного превратилось в «символ свободы».

4.6. Природа, или как проектируют мусор и отнимают будущее

Вред природе вытекает из той же погони за быстрой выгодой.

Начать стоит с запланированного устаревания. В 1924 году крупнейшие производители ламп накаливания тайно договорились между собой и создали союз под названием «Фебус», они ограничили срок службы ламп тысячей часов и штрафовали тех участников, чьи лампы служили дольше [127]. В 1932 году нью-йоркский торговец недвижимостью Бернард Лондон предложил вывести страну из Великой депрессии, установив законом, сколько должна служить каждая вещь, чтобы люди чаще покупали новые [128]. В 1950-х годах американский дизайнер Брукс Стивенс сделал запланированное устаревание открытой стратегией продаж, по его словам, покупателю нужно внушать желание владеть чем-то чуть более новым чуть раньше, чем это действительно нужно. Есть и свежий пример, в 2020 году французское ведомство по защите потребителей DGCCRF оштрафовало Apple на 25 миллионов евро за то, что владельцев iPhone со старыми аккумуляторами не предупредили о намеренном замедлении телефонов [129].

Растут и горы электронного мусора. В 2022 году в мире выбросили 62 миллиона тонн старой электроники, около 7,8 килограмма на каждого жителя Земли. Известно, что правильно собрали и переработали лишь 22,3% этого мусора. Его количество растёт почти в пять раз быстрее, чем возможности переработки, и к 2030 году ожидается 82 миллиона тонн [9].

Отдельная беда связана с быстрой модой, то есть с дешёвой одеждой, которую выпускают огромными партиями и быстро выбрасывают. Индустрия моды производит больше 92 миллионов тонн отходов в год и расходует около 79 триллионов литров воды. По часто цитируемой оценке, на неё приходится от 8 до 10% всех мировых выбросов углекислого газа [10]. Последняя цифра спорная, есть и более скромные оценки. По данным Еврокомиссии, от 4 до 9% непроданной одежды уничтожают, так ни разу и не надев. С 19 июля 2026 года крупным компаниям в Евросоюзе запрещено уничтожать непроданную одежду и обувь [130]. Сама необходимость такого запрета говорит о многом. Компании выгоднее сжечь вещь, чем продать её дешевле и тем самым «уронить» цену своей марки.

Реклама тоже оставляет след в атмосфере. Британская организация Purpose Disruptors предложила считать выбросы, которые возникают из-за покупок, сделанных под влиянием рекламы. Банки похожим образом уже учитывают выбросы компаний, которым дают кредиты. По этой оценке, в 2022 году британская реклама обусловила выбросы, равные 208 миллионам тонн углекислого газа. Это прибавляет около 32% к углеродному следу каждого жителя Великобритании [11]. Способ подсчёта приблизительный и спорный, но сам вопрос поставлен верно. Реклама не просто сообщает о товарах, она заставляет покупать больше, а каждая лишняя покупка требует сырья и энергии.

Не безобиден и цифровой мир. Компьютеры, телефоны, сети и серверы дают, по разным оценкам, от двух до почти четырёх процентов мировых выбросов парниковых газов [131]. Одни только центры обработки данных в 2024 году потребили около 415 миллиардов киловатт-часов. Это примерно полтора процента всего электричества в мире. К 2030 году потребление вырастет больше чем вдвое, до 945 миллиардов киловатт-часов, и главная причина этого роста в искусственном интеллекте [132]. Немалая часть этих мощностей занята слежкой за пользователями ради рекламы, видео, которое включается само, и лентами без конца. Пользу от них компании измеряют временем, которое человек провёл на экране, а электричество при этом расходуется самое настоящее.

Австралийский философ дизайна Тони Фрай придумал для этого точное слово. По-английски оно звучит как defuturing, а по-русски его можно передать как «отнятие будущего». Так Фрай называет дизайн, который решает сегодняшнюю задачу ценой завтрашних возможностей [21]. Это точное имя для того, о чём говорит главная мысль работы, ведь люди живут «здесь и сейчас», не думая о последствиях. Экономист Кейт Роуорт предложила другой взгляд на экономику и нарисовала его в виде бублика. Внутреннее кольцо означает то, что нужно каждому человеку для достойной жизни (еда, жильё, здоровье, образование). Внешнее кольцо означает пределы, которые нельзя переходить, не разрушая природу. Хорошая экономика живёт между этими кольцами [133]. Дизайн, который работает на рост ради роста, раз за разом выходит за внешнее кольцо и при этом так и не помогает людям достичь внутреннего.

4.7. Сводная таблица последствий

Глава 5. Что не так с этой моделью

5.1. Шесть пороков модели извлечения выгоды

1. На словах рынок существует, чтобы удовлетворять потребности людей. На деле в модели извлечения выгоды главная цель в том, чтобы забрать у человека как можно больше денег, внимания, данных и времени. Удовлетворение потребностей превращается лишь в средство, а иногда и без него обходятся. Экономист Джон Кеннет Гэлбрейт показал это ещё в 1958 году. Если производство само создаёт потребности, которые потом удовлетворяет, то ссылкой на эти потребности его уже нельзя оправдать [50].

2. Модель видит в человеке набор предсказуемых реакций, которыми можно управлять, а не разумного собеседника. Кант считал главным нравственным правилом никогда не относиться к человеку только как к средству для чужих целей [19]. Модель нарушает это правило напрямую. Философ Дьёрдь Лукач описал, как при капитализме отношения между людьми становятся похожи на отношения между вещами [43]. Цифровые платформы довели это до буквального смысла. Шошана Зубофф показала, что они продают не товары, а предсказания того, как поведёт себя человек, и называет такую экономику надзорным капитализмом [52].

3. Манипуляция лучше всего действует на тех, кто хуже защищён. Это люди с меньшим образованием [101], дети, пожилые, люди в тяжёлом состоянии, бедные. В итоге модель раз за разом перекачивает деньги от слабых к сильным. Цифровую грамотность часто предлагают как лекарство [16]. Но при таком неравенстве сил она перекладывает заботу о защите на тех, у кого меньше всего возможностей защищаться.

4. Прибыль компания получает сразу. Расплачиваются общество и будущие поколения, и платят они выгоранием, долгами, мусором, выбросами и утратой доверия [20], [21]. В отчётности компании этих потерь нет. Поэтому решение, разумное для неё, разрушительно для всех остальных.

5. Модель делает честность невыгодной [18], и совесть становится личным риском специалиста. Дизайнер, отказавшийся встроить обманный приём, рискует карьерой, а согласившийся ничем не рискует [13]. Со временем в профессии продвигаются те, кто не задаёт вопросов, и представление о норме сдвигается. Показательный признак виден в отраслевой статье, где всерьёз предлагается искать «баланс этики и прибыли» и использовать мягкие обманные приёмы «стратегически», в разумных дозах [15]. Этика в таком понимании перестаёт ограничивать манипуляцию и лишь подсказывает, в какой дозе её применять.

6. Модель не только причиняет вред, но и защищает себя от запретов. Крупный капитал финансирует политиков, лоббирует законы, оспаривает правила в суде и расставляет своих людей в контролирующих ведомствах [65], [63]. Государство становится зависимым от частного капитала (бизнеса), что недопустимо, ибо потому даже принятые запреты со временем ослабляют или отменяют. Так было с европейским «Цифровым омнибусом» и с американским правилом о простой отмене подписки (раздел 2.7) [70], [73]. Шестой порок делает все остальные живучими.

5.2. Итог критики

Манипулятивный дизайн закономерно рождается там, где экономика работает ради частной прибыли, а не ради нужд людей. При таком устройстве обман становится обычным условием выживания на рынке, а государство, которое должно его сдерживать, само зависит от капитала. Защитники модели либо ссылаются на свободу выбора, которую манипуляция как раз разрушает, либо считают государство независимым судьёй, которым оно при этой модели не является.

Отсюда вывод, по которому построена глава 7. Все меры, принятые внутри существующей модели, остаются полумерами. Они нужны, потому что уменьшают вред уже сегодня и защищают людей, пока модель существует. Но чтобы устранить саму причину, нужно менять модель экономики.

Глава 6. Отечественный опыт, который нужно переосмыслить, а не копировать чужой

6.1. Дизайн как общее дело

В нашей истории есть собственная традиция понимания дизайна, и она отличается от рыночной. В 1920-е годы теоретики так называемого производственного искусства, среди них Борис Арватов, считали, что художник должен не украшать товар ради продажи, а помогать устраивать быт и труд людей. По их мысли, он создаёт полезные вещи для всех [138]. Во ВХУТЕМАСе, Высших художественно-технических мастерских (1920–1930), впервые в мире стали учить так, чтобы искусство, инженерное дело и забота о жизни общества соединялись в одной профессии.

Показательна и реклама времён НЭПа, новой экономической политики 1920-х годов, когда частная торговля ненадолго вернулась. Владимир Маяковский и Александр Родченко работали вдвоём под вывеской «реклам-конструктор» и делали рекламу для Моссельпрома, ГУМа и Госиздата. Самая известная их строка гласит «Нигде кроме как в Моссельпроме» [139]. Это тоже было убеждение покупателя, и честно будет признать, что оно помогало государственной торговле соперничать с частной. Но говорила такая реклама прямо и по делу, она сообщала, что продаётся и зачем это нужно, и не давила ни на стыд, ни на страх. Маяковский в статье «Агитация и реклама» сформулировал это так: «Реклама — это имя вещи». По его замыслу, реклама должна назвать вещь и объяснить, чем она полезна, а не подменять её красивым образом.

В 1962 году Совет Министров СССР принял постановление «Об улучшении качества продукции машиностроения и товаров культурно-бытового назначения путём внедрения методов художественного конструирования». По нему был создан Всесоюзный научно-исследовательский институт технической эстетики, ВНИИТЭ [140]. Его основатель Юрий Соловьёв понимал дизайн как цельную науку, в которой соединяются удобство вещи для человеческого тела, инженерный расчёт и польза для общества [141]. Во ВНИИТЭ изучали, как сделать рабочие места и вещи удобными и безопасными, разрабатывали понятные системы указателей и знаков. Там же начали думать о вещах, которые бережнее относятся к природе. Сегодня это назвали бы экологичным дизайном.

6.2. Слабые стороны этой традиции

Идеализировать советский опыт было бы ошибкой. Постоянный дефицит, низкое качество массовых товаров, проекты ВНИИТЭ, которые часто так и не доходили до производства, полное равнодушие производителя к мнению покупателя, ибо плановая экономика СССР была крайне неповоротливой. К этому стоит добавить государственную пропаганду, которая пользовалась многими приёмами из главы 3.

Поэтому урок советского опыта не в том, что плановая экономика сама решает проблему манипуляции, а в том, что мерку общественной пользы можно закрепить надолго. Её можно вписать в стандарты, положить в основу работы научных институтов, сделать основой обучения. Советская система ошибалась в том, что не отчитывалась перед людьми и не слушала их, рыночная ошибается в том, что польза для людей вообще не входит в то, ради чего она работает.

6.3. Что уже есть в российских законах

Закон «О защите прав потребителей» в статье 16 прямо перечисляет условия, которые продавец не имеет права ставить покупателю. Продавец не может без согласия покупателя оказывать дополнительные платные услуги, не может продавать одни товары только при условии покупки других и не может требовать личные данные, которые закон не обязывает сообщать [142]. По сути это запрет на часть обманных приёмов интерфейса, хотя сам этот термин в законе не используется.

Закон «О рекламе» запрещает нечестную и недостоверную рекламу. С 2022 года всю рекламу в интернете обязательно помечают. Отчасти это решает проблему рекламы, которая притворяется обычной записью или статьёй [143].

С 1 октября 2023 года действует закон о рекомендательных технологиях, то есть о программах, которые сами подбирают человеку, что ему показать в ленте. Владельцы сайтов, которые используют такие программы, обязаны публиковать правила их работы. Использовать их в нарушение прав граждан закон запрещает [144].

Закон «О персональных данных» требует, чтобы человек давал согласие на обработку своих данных и знал, для чего их собирают [145].

Есть и Кодекс этики в сфере искусственного интеллекта. Его подписали крупнейшие компании, но он добровольный. В нём записаны обещания быть открытыми и отвечать за последствия [146].

6.4. Чего в законах не хватает

• Во-первых, в законе нет определения обманного интерфейса и списка запрещённых приёмов. В Евросоюзе такой список есть в статье 25 Закона о цифровых услугах [71]. У нас суды разбирают условия договора, но не то, как устроен сам интерфейс.

• Во-вторых, нет правил для приёмов, которые вызывают зависимость. Речь о бесконечной ленте, видео, которое включается само, и «сериях», когда приложение наказывает за пропущенный день, обнуляя накопленные очки. Нет и особых требований к сервисам для детей, подобных британскому Детскому кодексу (Children’s Code) [147].

• В-третьих, платформы не обязаны действовать в интересах пользователя. Врач или юрист такую обязанность несут перед своим клиентом, а платформа нет. Подробнее об этом сказано в разделе 7.2.

• В-четвёртых, у дизайнеров нет профессионального объединения со своим кодексом, которое могло бы защитить специалиста, отказавшегося от нечестной задачи.

• В-пятых, требования к тому, чтобы вещи служили долго и их можно было починить, у нас гораздо слабее европейских. В Евросоюзе уже действуют правила о «праве на ремонт» [148] и запрет на товары, которые нарочно делают так, чтобы они быстрее ломались [149].

6.5. Главный принцип переосмысления

Предлагается брать у других инструменты, но не ценности. Методы исследований, стандарты, по которым сайты делают удобными для людей с ограниченными возможностями, западные способы заранее оценивать вред продукта полезны, но и то лишь от части. Среди них ценностно-ориентированное проектирование (Value Sensitive Design) и метод «сканирования последствий» (consequence scanning).

Но главная мерка, по которой мы судим о дизайне, должна вырастать из собственной нравственной традиции. В этой традиции польза для общества, справедливость и достоинство человека важнее частной выгоды. С ней согласуются и лучшие западные мыслители, от Виктора Папанека до движения «Справедливость в дизайне» (Design Justice) [2], [150]. Изобретать эту традицию заново не нужно. Её нужно закрепить в законах, стандартах и обучении, чтобы она работала постоянно, а не держалась на энтузиазме отдельных людей.

Глава 7. «Музыка на льдинах»

Из всего сказанного следуют два вывода.

1. Если обращаться только к совести отдельного дизайнера, ничего не изменится.

2. Любые меры, которые не затрагивают саму экономическую модель, остаются полумерами, ибо их принимает, ослабляет и отменяет та же система, которая зависит от крупного капитала (раздел 2.7).

Поэтому глава состоит из двух частей. В разделах 7.1–7.6 описаны переходные меры. Они уменьшают вред уже сегодня, защищают людей и понемногу ограничивают власть капитала над человеком. В разделе 7.7 говорится о решении по существу, о том, ради чего должна работать экономика. Каждую переходную меру стоит оценивать двояко. Важно, сколько вреда она предотвращает, не менее важно, приближает ли она коренное решение.

7.1. Экономика и что в ней считать результатом

1. Прежде всего нужно ограничить рекламу, основанную на слежке. Сегодня компании собирают о человеке всё что могут, и по этим сведениям подбирают рекламу лично для него. Такую рекламу как минимум следует строго ограничить, особенно для детей. Отдельно стоит запретить её там, где речь идёт о здоровье, деньгах и политических взглядах. Рекламу, которая зависит только от содержания страницы и не требует собирать сведения о человеке, можно сохранить. Но тут надо изучить опыт подробнее у союза потребительских организаций Европы и США [136], а в Евросоюзе часть таких запретов уже действует по Закону о цифровых услугах [71]. Опять же, нужен лучший опыт и переосмысление под наши условия.

2. Следует ограничить и рекламу вредного. Такие примеры уже есть. Рекламу табака запретили по международной конвенции Всемирной организации здравоохранения [137]. Также есть иные примеры, с которыми автор не совсем согласен, но тем не менее как факт [151], [152]. Бразильский Сан-Паулу по закону «Чистый город» убрал с улиц огромного города почти всю наружную рекламу [153]. Логично поступить так же с рекламой быстрых займов, ставок на спорт и платных «сундуков» в играх.

3. Производители должны сами платить за вред природе, а не перекладывать его на общество. Компания, выпустившая вещь, должна отвечать за неё и после продажи, вплоть до переработки. Вещи нужно делать так, чтобы их можно было починить, а запчасти должны быть доступны [148]. Нужно запретить уничтожать непроданные товары [130], нарочно делать вещи, которые быстро ломаются, и называть товар «экологичным» без доказательств [149]. На упаковке стоит указывать, насколько легко вещь починить. Стоит обсудить и то, чтобы компании отчитывались о выбросах, которые вызывает их реклама [11].

4. Нужно поддерживать цифровые сервисы, которые работают не ради прибыли. Это общественные средства массовой информации и кооперативы, где платформой владеют сами её пользователи и работники [154]. Сюда же относится совместное управление данными как общим достоянием.

5. Наконец, нужно менять то, по чему государство оценивает успех страны. Одного роста валового внутреннего продукта мало. Нужно учитывать и благополучие людей, и то, не выходит ли экономика за пределы, которые выдерживает природа. Такой подход предлагает «экономика бублика» Кейт Роуорт [133]. Государственная поддержка отраслей должна зависеть от того, долговечны ли их товары и честны ли они с покупателем.

7.2. Законы, при которых обманывать дороже, чем быть честным

Любой закон бесполезен, если его можно отменить с помощью лоббистов или исполнять только для вида. Поэтому сначала нужны меры, которые защищают сами законы от влияния денег, и лишь потом сами запреты.

Защищать законы нужно несколькими способами.

1. Все встречи лоббистов с депутатами и чиновниками должны быть открытыми. Чиновнику нужно на несколько лет запретить переходить в компанию, которую он контролировал, а сотруднику компании запретить занимать пост в ведомстве, которое её проверяет. Финансирование политиков корпорациями следует ограничить. Надзорные органы должны получать деньги из бюджета и не зависеть от тех, кого они проверяют. Общественные и потребительские организации должны участвовать в подготовке правил. Европейский «Цифровой омнибус» [70] и отмена американского правила о простой отмене подписки [73] показывают, что без этих мер даже принятые законы живут недолго.

2. Наказание должно быть больше, чем выгода от нарушения. Иначе штраф превращается в обычную статью расходов (раздел 2.7). Незаконно полученную прибыль нужно изымать, а руководители, утвердившие обманные решения, должны отвечать лично.

3. В законе нужно прямо описать, что такое обманный интерфейс, и дать список запрещённых приёмов. Образцом могут служить статья 25 европейского Закона о цифровых услугах [71], разъяснения Европейского совета по защите данных [157] и готовящийся в Евросоюзе Закон о цифровой честности (Digital Fairness Act) [158]. В такой список войдут выдуманная нехватка товара и выдуманная спешка, кнопки отказа, которые стыдят человека, и неравные кнопки «да» и «нет», когда одна яркая, а другая едва заметна. В него же войдут скрытые платежи, подписки, из которых трудно выбраться, и заранее отмеченные платные услуги.

4. Выйти должно быть так же легко, как войти. Отказаться, отписаться и удалить учётную запись нужно тем же способом и за то же число шагов, что и согласиться или зарегистрироваться. В США такое правило Федеральной торговой комиссии суд отменил в 2025 году из-за нарушения процедуры его принятия [74]. Но сам принцип записан в законах многих американских штатов и остаётся верным.

5. Компании должны быть обязаны действовать в интересах пользователя. Правоведы Джек Балкин [159], Нил Ричардс и Вудро Хартцог [160] предлагают относиться к цифровым компаниям, которые собирают сведения о людях, как к врачу, юристу или банку, которым доверили что-то важное. Врач не вправе использовать то, что узнал о пациенте, ему во вред. Точно так же и платформа не должна обращать сведения о человеке против него самого. Тогда главным станет не формальная галочка «согласен» [103], а то, честно ли компания обращается с человеком.

6. Доказывать честность должна сама компания. Крупные платформы должны сами доказывать, что важнейшие действия устроены у них без обмана. Речь об оформлении и отмене платных услуг и о согласии на сбор данных. Например, они могут публиковать результаты независимой проверки.

7. Детей нужно защищать отдельно. Образцом может служить британский Детский кодекс [147]. По нему личные данные ребёнка по умолчанию закрыты, приёмы, которые удерживают внимание, выключены, а собирать сведения о детях для рекламы нельзя. Австралия пошла дальше и с 10 декабря 2025 года запретила детям младше 16 лет заводить учётные записи в социальных сетях [161]. Насколько это поможет, пока судить рано.

8. Нужно запретить и манипуляцию с помощью искусственного интеллекта. Образцом служит статья 5 европейского закона об искусственном интеллекте (AI Act). Она запрещает системы, которые незаметно для человека влияют на его решения или пользуются его слабостью из-за возраста, болезни или бедности [72].

Для нашего Российского права предлагается три шага:

1. В статью 16 Закона о защите прав потребителей можно добавить понятие обманного интерфейса и список запрещённых приёмов [142].

2. Закон о рекомендательных технологиях стоит дополнить правом человека выбрать ленту, которая не подстраивается под него, и правом отключить видео, включающееся само [144].

3. Наконец, все эти требования нужно распространить и на государственную и политическую агитацию, потому что мерка должна быть одна для всех (раздел 5.2).

В конечном итоге необходимо брать лучший опыт более развитых в данных сферах и вопросах стран, и переосмыслять под наши реалии.

7.3. Компании и как встроить совесть в рабочий процесс

Повторюсь, это лишь полумеры, пока не изменена сама экономическая модель, но тем не менее.

1. Рядом с показателями выручки должны стоять показатели пользы. Удалось ли человеку сделать то, ради чего он пришёл? Возвращается ли он сам, по желанию, или его удерживают? Как часто люди отказываются от сбора данных? Сколько приходит жалоб? Сколько времени уходит на отмену подписки? Доволен ли человек через месяц и через три месяца? Эти показатели должны влиять на премии и оценку работы команд так же, как рост продаж.

2. Опыты на людях нужно проверять заранее. Компании постоянно показывают разным пользователям разные версии сервиса и смотрят, какая сработает лучше. Если такой опыт может затронуть деньги людей или их личные данные, его нужно заранее проверять, как это делают этические комиссии в науке. Научные комиссии следуют принципам Белмонтского доклада, то есть уважать человека, приносить пользу и поступать справедливо [162]. Опыт Facebook 2014 года, когда людям без их ведома меняли настроение ленты [104], такую проверку не прошёл бы, потому что участников не спросили и ни о чём не предупредили.

Для этого уже есть готовые способы. Это ценностно-ориентированное проектирование, при котором ценности людей учитывают с самого начала работы [163]. Есть международный стандарт IEEE 7000 о том, как учитывать этические вопросы при создании систем [164], и стандарт ISO 9241-210 о проектировании с опорой на нужды человека [165]. Сюда же относятся метод заблаговременной оценки последствий [166], набор упражнений Ethics for Designers («Этика для дизайнеров») [167] и принципы движения «Справедливость в дизайне» [150].

В каждой компании нужны записанные «красные линии», то есть то, чего команда не делает ни при каких условиях. Любой участник команды должен иметь право остановить решение, которое их нарушает, и не бояться за это наказания.

Тех, кто сообщает о вреде, нужно защищать. Внутри компании должен быть способ донести тревогу до руководства, а за её пределами должна действовать защита закона. История Фрэнсис Хауген [111] наглядно показывает, что без таких людей общество так и не узнало бы о вреде, который компании видели в собственных исследованиях.

7.4. Профессия, клятва и те, кто за ней стоит

Нужна ли дизайнерам клятва вроде врачебной? Я считаю, что смысла особо нет, к тому же одна клятва без без последствий за нарушение останется скорее просто словами. Например та же клятва что дают врачи работает потому, что за врачебной этикой стоят разрешение на практику, которое можно отозвать, профессиональные советы, ответственность за причинённый вред и ожидания общества. Но даже не смотря на казалось бы серьезные последствия, уверен, что каждый сталкивался на практике с нарушениями этой самой врачебной клятвы. А всё потому что модель экономики формирует мотивы.

Да и у дизайнеров такие примеры уже были в целом. В 1964 году британские дизайнеры выпустили манифест «First Things First» («Сначала главное»), а в 2000 году их последователи повторили его. Они призывали тратить мастерство на полезные обществу задачи, а не на то, чтобы побуждать людей покупать всё больше [168]. Майк Монтейро составил «Кодекс этики дизайнера» [169], [170]. Немецкий дизайнер Дитер Рамс в «Десяти принципах хорошего дизайна» прямо написал, что хороший дизайн честен и долговечен [171]. Свой кодекс этики есть у Международной ассоциации вычислительной техники (ACM) [172].

Чтобы клятва не осталась словами, понадобится ещё многое, нужно профессиональное объединение дизайнеров со своим кодексом и порядком разбора нарушений. Нужен открытый список компаний, которые этот кодекс соблюдают. Закон должен защищать специалиста, отказавшегося от незаконной или нечестной задачи. Наконец, ответственность должна лежать и на руководителях, которые утверждают обманные решения.

Также клятва и кодекс остаются словами, пока их кто-то не применяет в работе. Скажу касательно о собственном опыте. Выводы этой статьи я стараюсь применять в своей практике и позиционировании себя как дизайнера. Свой подход я назвал «Этика конкуренции и рыночных отношений», сокращённо ЭКРО, и подробно описал его на странице «Философия подхода» https://www.bushkovstudio.ru/philosophy#vhod

Суть подхода в том, чтобы вести коммерческое дело, ставя на первое место интересы общества, а не одного выгодоприобретателя. ЭКРО поддерживает малый и средний бизнес и полезные обществу молодые проекты, противостоит монополиям и отказывается от манипуляций. Подход не притворяется, что исправляет экономику. Он признаёт, что работать приходится внутри капитализма, и пытается делать это честно, глядя на систему критически и с иронией.

На деле это закреплено в своде из десяти правил. Вот главные из них:

• Я не работаю с букмекерскими конторами, онлайн-казино, сектами и националистическими организациями.

• Я не следую принципу «клиент всегда прав», потому что на первом месте стоит польза для конечного пользователя, а уже потом всё остальное.

• Я не использую знания психологии против человека, чтобы подсадить его на «иглу» азарта или выманить деньги на его неосведомлённости.

• Цены я называю открыто, а не прячу до тех пор, пока клиент не попадётся на крючок.

• Наконец, в каждом проекте указано имя дизайнера, который над ним работал, потому что присваивать чужой труд считаю паразитизмом.

Это не попытка выдать свои взгляды и по сути полумеры экономической модели за решение проблемы. Один человек модель не изменит, и всё сказанное в разделе 7.7 остаётся в силе. По сути ЭКРО одна из переходных мер, о которых говорится в этой главе. Но такой опыт показывает, что честно работать можно уже сегодня, если заранее определить красные линии и держаться их, даже когда это стоит денег. Чем больше специалистов будет так работать и чем чаще они будут объединяться, тем дороже станет обман для остальных.

7.5. Образование

Образование тоже относится к переходным мерам, но к особым. Оно воспитывает людей, которые понимают, как и что устроено.

Во всех учебных программах для дизайнеров, менеджеров продуктов и маркетологов нужен обязательный курс по этике дизайна и по тому, как экономика использует слабости человеческого мышления. В курс стоит включить историю пропаганды и связей с общественностью (глава 3), разбор реальных судебных дел против компаний и упражнения по оценке последствий своей работы [100], [16].

Студентам стоит изучать и отечественную школу технической эстетики [140], [141] как пример дизайна, служившего общей пользе. Изучать её нужно честно, вместе с её слабыми сторонами.

Гражданам нужна грамотность в обращении со СМИ и интернетом. Люди должны уметь распознавать обманные приёмы и понимать, на чём зарабатывают «бесплатные» сервисы. Но такая грамотность может лишь дополнить системные меры, заменить их она не может (раздел 5.1, третий порок).

7.6. Специалист и как проверить себя на практике

Ответ на вопрос 4 («где проходит граница?») можно проверить с помощью семи вопросов. В них соединены тест публичности (раздел 1.2), пять вопросов Берумена Кастро, советы Санчес Чаморро и соавторов и способ проверки интерфейса, предложенный Nielsen Norman Group [12].

Остаётся последнее, личное решение. Если ценности компании постоянно расходятся с этими принципами, Берумен Кастро советует уходить и заранее готовить для этого почву. Позволить себе это может не каждый, но выбор работодателя тоже входит в профессиональный выбор.

7.7. Решение по существу, или ради чего должна работать экономика

У всех перечисленных мер одно общее ограничение. Они действуют внутри модели, которая работает ради частной прибыли. Пока это так, любая победа временна, любое решение лишь полумера. Штраф становится статьёй расходов, закон пересматривают, кодекс превращается в рекламу компании, а «подталкивание к полезному» становится орудием того, кто подталкивает. Отсюда главный вывод работы.

Причину манипулятивного дизайна можно устранить, только если экономика будет работать не ради наибольшей частной прибыли, а ради удовлетворения потребностей общества. Сталин описал это различие как противоположность основных экономических законов капитализма и социализма [79].

Применительно к дизайну оно означает пять перемен (при условии новой экономической модели):

1. Внимание и личные данные человека нельзя покупать и продавать. Это не сырьё для добычи, а часть его жизни. Запрет рекламы, основанной на слежке (раздел 7.1), становится первым шагом в эту сторону.

2. Важнейшие цифровые сервисы должны принадлежать обществу через государство как регулятор. Поисковые системы, крупнейшие соцсети и мессенджеры, системы, которые подбирают людям содержание, и хранилища данных давно стали такой же основой жизни общества, как дороги, водопровод и электросети. Значит, и принадлежать они должны обществу/государству и работать в его интересах.

3. Производство нужно планировать по потребностям, а не по продажам. Вещи следует делать долговечными и пригодными к ремонту, а выпускать их в том количестве, которое действительно нужно, а не в расчёте на то, что их поскорее выбросят. Тогда запланированное устаревание, быстрая мода и уничтожение непроданных товаров (раздел 4.6) потеряют всякий экономический смысл.

4. Нужен контроль со стороны граждан и подотчётность. Один из главных уроков советского опыта в том, что общественная собственность без отчёта перед людьми и без их обратной связи рождает проблемы. Поэтому в общественной модели правила работы алгоритмов и все важные решения должны быть открытыми. Граждане и специалисты должны участвовать в проектировании сервисов, нужна независимая проверка и право обжаловать решения. Мерка здесь та же, что и для рынка, то есть тест публичности.

5. Меняется и положение специалиста, ибо когда экономика работает ради пользы, дизайнер перестаёт быть «платным наёмным работником» частного заказчика [40], [60]. Он становится тем, кем его видели производственники 1920-х годов и создатели ВНИИТЭ, то есть мастером, который устраивает среду и быт людей в их собственных интересах [138], [140].

Заключение

Исследование подтвердило главную мысль работы, что природу дизайна и нравственность тех, кто им занимается, в решающей мере определяет то, как устроена экономика. Если успех измеряют быстрой прибылью, а внимание и личные данные людей превращают в товар, обманный дизайн появляется не случайно, а как нормв без которой на таком рынке трудно выжить. Специалисты приспосабливаются к этой норме не потому, что они плохие люди, но потому что система поощряет тех, кто подчиняется, и наказывает тех, кто отказывается.

При такой модели государство не стоит над рынком как беспристрастный судья. Крупный капитал влияет на него через лоббистов, через деньги для политиков и через людей, которые переходят из корпораций в министерства и обратно. Так капитал добивается того, чтобы мешающие ему законы смягчали или отменяли.

Ниже даны короткие ответы на вопросы, поставленные во введении.

1. Какова нравственная сторона дизайна?
   Дизайн даёт власть над выбором и поведением других людей. Поэтому его нравственность сводится к тому, как этой властью пользоваться. Она должна служить человеку и обществу, а человек не должен превращаться в средство для чужой выгоды.

2. Кому служит дизайн? В модели извлечения выгоды он служит прежде всего тому, кто платит. Польза для человека становится второстепенной и необязательной. Знания о человеческой психике, которые наука собирала, чтобы понять человека, используют, чтобы им управлять. Это подтверждают признания создателей самых известных механизмов удержания [97] и внутренние документы самих компаний [110].

3. Соучаствует ли в этом дизайнер? Да, но вина лежит не на нём одном. Причина в устройстве всей системы. Отвечать должны все, кто участвует в решении, от инвестора до исполнителя, а эту ответственность нужно закрепить в законах и профессиональных правилах. Нельзя ни взваливать всю вину на дизайнера, ни полностью его оправдывать.

4. Где проходит граница между честным влиянием и манипуляцией? Её выдают три признака. Влияние скрыто от человека, оно играет на его слабостях и идёт против его интересов. Проверить себя на практике помогают семь вопросов из раздела 7.6. Главный из них касается публичности. Сработал бы приём, если бы человек ясно понимал, что с ним делают?

5. Нужна ли дизайнерам клятва? Вопрос спорный и сложный, скорее в нем нет смысла, особенно при условии рыночной системы, где легко нарушается и клятва врачей повсеместно.

6. Как бороться с теми, кто играет нечестно? На нынешнем рынке обман выгоден всем, поэтому личным примером или честной конкуренцией его не победить [18]. Внутри существующей модели можно сделать обман дороже для всех сразу. Для этого нужны законы, защищённые от влияния лоббистов, учёт реальной пользы для людей наравне с прибылью и совместные действия профессионального сообщества. Но это полумеры. Окончательно проблему решит только экономика, которая работает ради нужд людей, а не ради прибыли. В такой экономике обман просто перестаёт приносить выгоду (раздел 7.7).

7. Как всё это связано с пропагандой и природой? Торговая манипуляция и политическая пропаганда растут из одного корня. И то и другое управляет поведением людей в обход их разума. Эти приёмы прошли путь от плакатов Первой мировой войны до алгоритмов, которые подбирают нам ленту. Вред природе вызван той же погоней за быстрой выгодой. Дизайн создаёт не только вещи, но и горы мусора, выбросы и в конечном счёте отнимает у людей будущее [21].

Главный вывод работы таков. Честность в дизайне нельзя оставить на совести дизайнера, потому что совесть проигрывает показателям прибыли. Нельзя её доверить и государству, пока государство зависит от крупного капитала. Законы, кодексы, «подталкивание к полезному» и обучение людей цифровой грамотности нужны, но это лишь временные полумеры. Причину можно устранить, только изменив то, ради чего общество производит вещи и услуги. Мерилом должна стать не частная прибыль, а удовлетворение потребностей людей и сохранение природы. Когда это станет главной целью экономики, честный дизайн перестанет быть подвигом одиночек и станет обычной нормой профессии.

Решать эту задачу, копируя чужие рецепты, не получится. Опираться нужно на собственную традицию, в которой дизайн всегда понимали как общее дело. У других стоит брать лучшие инструменты, но не их ценности.

Сам я пытаюсь следовать этим выводам в работе собственной. Подход «Этика конкуренции и рыночных отношений», описанный в разделе 7.4 и на странице https://www.bushkovstudio.ru/philosophy#vhod, это моя попытка показать на личном примере, что дизайн может служить человеку, а не наживаться на нём, даже в нынешних условиях.

Список литературы и источников

1. Герберт Саймон, Науки об искусственном. 1969 г. https://www.klex.ru/btt

2. Папанек В. Дизайн для реального мира: экология человека и социальные изменения. 1971. https://nordisk.pp.ru/on-line/files/+blog/54A5D88A-F90C-4798-90A4-5E5FBE2BD080/10_Papanek.pdf

3. DataReportal. Digital 2025: Global Overview Report. https://datareportal.com/reports/digital-2025-global-overview-report

4. Dark Patterns at Scale: Findings from a Crawl of 11K Shopping Websites. https://arxiv.org/abs/1907.07032

5. UI Dark Patterns and Where to Find Them: A Study on Mobile Applications and User Perception. https://dl.acm.org/doi/10.1145/3313831.3376600

6. FTC. Пресс-релиз. https://www.ftc.gov/news-events/news/press-releases/2025/09/ftc-secures-historic-25-billion-settlement-against-amazon

7. Meta Platforms, Inc. Выручка 164,5 млрд долларов, из них реклама 160,6 млрд. https://investor.atmeta.com/investor-news/press-release-details/2026/Meta-Reports-Fourth-Quarter-and-Full-Year-2025-Results/default.aspx

8. Alphabet Inc. (форма 10-K) за 2024: выручка 350,0 млрд долл., из них реклама Google 264,6 млрд. https://www.sec.gov/Archives/edgar/data/1652044/000165204425000014/goog-20241231.htm

9. UNITAR. The Global E-waste Monitor 2024. https://ewastemonitor.info/the-global-e-waste-monitor-2024/

10. The environmental price of fast fashion. https://www.nature.com/articles/s43017-020-0039-9

11. Purpose Disruptors. Advertising adds extra 32% to annual carbon footprint of every person in the UK. https://www.purposedisruptors.org/news/drum-adsadd32percentco2

12. Nielsen Norman Group. Deceptive Patterns in UX: How to Recognize and Avoid Them https://www.nngroup.com/articles/deceptive-patterns/

13. Ethical Tensions in UX Design Practice: Exploring the Fine Line Between Persuasion and Manipulation in Online Interfaces https://dl.acm.org/doi/fullHtml/10.1145/3563657.3596013

14. User manipulation: thinking beyond dark patterns https://uxdesign.cc/user-manipulation-thinking-beyond-dark-patterns-3d17cf408753

15. The impact of dark patterns on user trust and long-term engagement: An ethical analysis https://doi.org/10.30574/wjarr.2025.25.3.0691

16. Brown R. E. Manipulative, Dark, and Unethical Design Practices in UI & UX Design. Honors Thesis. University of Mississippi, 2024. https://egrove.olemiss.edu/hon_thesis/3163

17. Ethical UX Design: Preventing Manipulative Interfaces and Promoting User Trust https://www.researchgate.net/publication/391019688

18. Persuasive Technology: Using Computers to Change What We Think and Do. Ссылка на скачивание книги https://memoof.me/download/922/pdf/922.pdf

19. Phishing for Phools: The Economics of Manipulation and Deception https://dokumen.pub/phishing-for-phools-the-economics-of-manipulation-and-deception-9780691168319-0691168318.html

20. Кант И. Основы метафизики нравственности https://vehi.net/zph/ikant.html

21. Breaking the tragedy of the horizon — climate change and financial stability — speech by Mark Carney. Bank of England. https://www.bankofengland.co.uk/speech/2015/breaking-the-tragedy-of-the-horizon-climate-change-and-financial-stability

22. A New Design Philosophy: An Introduction to Defuturing. https://dokumen.pub/defuturing-a-new-design-philosophy-1350089559-9781350089556.html

23. Дизайн привычных вещей. https://jnd.org/books/the-design-of-everyday-things-revised-and-expanded-edition/

24. Nudge. Архитектура выбора: как улучшить наши решения о здоровье, благосостоянии и счастье. https://klex.ru/2mkd

25. Do Artifacts Have Politics? https://faculty.cc.gatech.edu/~beki/cs4001/Winner.pdf

26. Unpleasant Design. G.L.O.R.I.A. 2013. https://www.researchgate.net/publication/280378516\_Unpleasant\_Design

27. Смерть и жизнь больших американских городов https://vk.ru/wall-68638203_2320

28. Online Manipulation: Hidden Influences in a Digital World https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3306006

29. Nudge and the Manipulation of Choice https://www.cambridge.org/core/journals/european-journal-of-risk-regulation/article/nudge-and-the-manipulation-of-choice/D1ED64479FF868BD79FFE90E76A4AB54

30. Кант И. К вечному миру https://www.vostlit.info/Texts/Dokumenty/Germany/XVIII/1780-1800/Kant_Immanuel/text1.htm

31. Теория справедливости http://kyiv-heritage-guide.com/sites/default/files/РОЛЗ — Теория справедливостим 1971(2010) 536с.pdf

32. Канеман Д. Думай медленно, решай быстро

33. Libertarian Paternalism Is an Oxymoron

34. Bovens L. The Ethics of Nudge. https://philarchive.org/archive/BOVTEO-8

35. Goodwin T. Why We Should Reject Nudge https://www.researchgate.net/publication/263688258_Why_We_Should_Reject_’Nudge‘

36. The i-frame and the s-frame: How focusing on individual-level solutions has led behavioral public policy astray https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4046264

37. Sludge: What Stops Us from Getting Things Done and What to Do about It. MIT Press, 2021. https://www.researchgate.net/publication/354456680_Sludge_What_Stops_Us_from_Getting_Things_Done_and_What_to_Do_about_It

38. The Ethics of Influence: Government in the Age of Behavioral Science. https://www.researchgate.net/publication/325768520_The_ethics_of_influence_Government_in_the_age_of_behavioral_science

39. Уэлен Дж. Дизайн пользовательского опыта: как создать продукт, который ждут.

40. Маркс К., Энгельс Ф. Манифест Коммунистической партии (1848)

41. Маркс К. Введение (из экономических рукописей 1857–1858 гг.)

42. Маркс К. Капитал. Т. 1 (1867). Гл. 1, § 4: «Товарный фетишизм и его тайна».

43. Лукач Д. История и классовое сознание. Исследования по марксистской диалектике (1923).

44. Хоркхаймер М., Адорно Т. Диалектика Просвещения

45. Маркузе Г. Одномерный человек

46. Фромм Э. Иметь или быть?

47. Дебор Г. Общество спектакля

48. Бодрийяр Ж. Общество потребления

49. Веблен Т. Теория праздного класса

50. Гэлбрейт Дж. К. Общество изобилия

51. Television Delivers People. https://en.wikipedia.org/wiki/Television_Delivers_People

52. Зубофф Ш. Эпоха надзорного капитализма: битва за человеческое будущее на новых рубежах власти. https://flibusta.su/book/33119-epoha-nadzornogo-kapitalizma-bitva-za-chelovecheskoe-buduschee-na-novy/read/

53. The Social Responsibility of Business Is to Increase Its Profits. https://www.nytimes.com/1970/09/13/archives/a-friedman-doctrine-the-social-responsibility-of-business-is-to.html

54. ‘Improving ratings’: audit in the British University system (формулировка «закона Гудхарта»). https://ia803102.us.archive.org/23/items/ImprovingRatingsAuditInTheBritishUniversitySystem/’Improving ratings’- audit in the British University system.pdf

55. Dark Patterns from the End-User Perspective. https://dl.acm.org/doi/10.1145/3461778.3462086

56. Designing Organizations for an Information-Rich World.

57. The Attention Merchants: The Epic Scramble to Get Inside Our Heads.

58. Stand Out of Our Light: Freedom and Resistance in the Attention Economy. https://www.cambridge.org/core/books/stand-out-of-our-light/3F8D7BA2C0FE3A7126A4D9B73A89415D

59. The ‘Enshittification’ of TikTok https://www.wired.com/story/tiktok-platforms-cory-doctorow/

60. Mazzucato M. The Value of Everything: Making and Taking in the Global Economy.

61. Ленин В. И. Партийная организация и партийная литература (1905). Полнре собрание сочинений 5-е изд. Т. 12.

62. Milgram S. Behavioral Study of Obedience https://www.demenzemedicinagenerale.net/pdf/MilgramOriginalWork.pdf

63. Арендт Х. Банальность зла. Эйхман в Иерусалиме

64. Ленин В. И. Государство и революция (с цитатой из работы Ф. Энгельса «Происхождение семьи, частной собственности и государства»).

65. Ленин В. И. Империализм, как высшая стадия капитализма (1916)

66. Stigler G. J. The Theory of Economic Regulation. https://ios23.classes.ryansafner.com/files/readings/Stigler-1971.pdf

67. Testing Theories of American Politics: Elites, Interest Groups, and Average Citizens http://piketty.pse.ens.fr/files/GilensPage2014.pdf

68. Testing Inferences about American Politics: A Review of the ‘Oligarchy’ Result https://journals.sagepub.com/doi/full/10.1177/2053168015608896

69. OpenSecrets. Federal lobbying hit a record $4.4 billion in 2024 (анализ данных Lobbying Disclosure Act). https://www.washingtonexaminer.com/politics/3320366/federal-lobbying-hit-record-4-4-billion-in-2024/

70. Corporate Europe Observatory, LobbyControl. Revealed: Tech industry now spending record €151 million on lobbying the EU. https://corporateeurope.org/en/2025/10/revealed-tech-industry-now-spending-record-eu151-million-lobbying-eu

71. Article by article, how Big Tech shaped the EU’s roll-back of digital rights (анализ «Цифрового омнибуса»). https://corporateeurope.org/en/2026/01/article-article-how-big-tech-shaped-eus-roll-back-digital-rights

72. Регламент (ЕС) 2022/2065 о цифровых услугах ст. 25 «Дизайн и организация онлайн-интерфейсов». https://eur-lex.europa.eu/eli/reg/2022/2065/oj

73. Регламент (ЕС) 2024/1689 об искусственном интеллекте, ст. 5 «Запрещённые практики». https://eur-lex.europa.eu/eli/reg/2024/1689/oj

74. MediaPost. FTC’s Click-To-Cancel Rules Struck Down https://www.mediapost.com/publications/article/407254/ftcs-click-to-cancel-rules-struck-down.html

75. U.S. FTC Click-to-Cancel Rule Struck Down . https://www.sidley.com/en/insights/newsupdates/2025/07/us-ftc-click-to-cancel-rule-struck-down

76. Dark Patterns after the GDPR: Scraping Consent Pop-ups and Demonstrating their Influence https://arxiv.org/pdf/2001.02479

77. Даннинг Т. Дж. Trades’ Unions and Strikes (1860), цит. по: Маркс К. Капитал. Т. 1, гл. 24, прим. 250 // Маркс К., Энгельс Ф. Соч. 2-е изд. Т. 23.

78. Amazon.com, Inc. Amazon.com Announces Fourth Quarter Results. Press release, 06.02.2025 (выручка за 2024 год — 638,0 млрд долл., чистая прибыль — 59,2 млрд долл.). https://ir.aboutamazon.com/news-release/news-release-details/2025/Amazon-com-Announces-Fourth-Quarter-Results/default.aspx

79. Сталин И. В. Экономические проблемы социализма в СССР. М.: Госполитиздат, 1952. Раздел «Замечания по экономическим вопросам…», § 7 «Об основных экономических законах современного капитализма и социализма».

80. Lasswell H. D. Propaganda Technique in the World War. https://www.klex.ru/1ncm

81. Ponsonby A. Falsehood in War-Time: Containing an Assortment of Lies Circulated Throughout the Nations During the Great War. https://moodle2.units.it/pluginfile.php/334140/mod_resource/content/2/Ponsonby\_Falsehoods in wartime (1929).pdf

82. Бернейс Э. Пропаганда

83. Bernays E. L. The Engineering of Consent

84. Amos A., Haglund M. From social taboo to “torch of freedom”: the marketing of cigarettes to women https://tobaccocontrol.bmj.com/content/9/1/3

85. Bernays E. L. Biography of an Idea: Memoirs of Public Relations Counsel Edward L. Bernays. Simon & Schuster, 1965. P. 652 (эпизод с Геббельсом).

86. Dower J. W. War Without Mercy: Race and Power in the Pacific War. Pantheon

87. Эренбург И. Убей!

88. Гроссман Д. Психология убийства: психологические издержки обучения убийству на войне и в обществе https://en.wikipedia.org/wiki/On_Killing

89. Spiller R. J. S.L.A. Marshall and the Ratio of Fire https://www.researchgate.net/publication/235135290_Mahan_and_Corbett_on_Maritime_Strategy

90. Паккард В. Тайные манипуляторы (The Hidden Persuaders, 1957). https://en.wikipedia.org/wiki/The_Hidden_Persuaders

91. Pratkanis A. R. The Cargo-Cult Science of Subliminal Persuasion https://skepticalinquirer.org/1992/04/the-cargo-cult-science-of-subliminal-persuasion/

92. Berdichevsky D., Neuenschwander E. Toward an Ethics of Persuasive Technology https://student.cs.uwaterloo.ca/~cs492/07public_html/papers/persuasive.pdf

93. Эяль Н. На крючке: как создавать продукты, формирующие привычки

94. Addiction by Design: Machine Gambling in Las Vegas. https://www.researchgate.net/publication/265711307_Addiction_by_Design_Machine_Gambling_in_Las_Vegas_by_Natasha_Dow_Schull_review

95. Raskin A. Интервью BBC о бесконечной прокрутке // BBC News. 2018 («It’s as if they’re taking behavioural cocaine…»). https://www.bbc.com/news/technology-44640959

96. Center for Humane Technology. https://www.humanetech.com

97. Lewis P. ‘Our minds can be hijacked’: the tech insiders who fear a smartphone dystopia https://www.theguardian.com/technology/2017/oct/05/smartphone-addiction-silicon-valley-dystopia

98. Allen M. Sean Parker unloads on Facebook: “God only knows what it’s doing to our children’s brains” // Axios. 09.11.2017. https://www.axios.com/2017/12/15/sean-parker-unloads-on-facebook-god-only-knows-what-its-doing-to-our-childrens-brains-1513306792

99. Harris T. How Technology is Hijacking Your Mind — from a Magician and Google Design Ethicist https://medium.com/thrive-global/how-technology-hijacks-peoples-minds-from-a-magician-and-google-s-design-ethicist-56d62ef5edf3

100. Brignull H. Deceptive Patterns: Exposing the Tricks Tech Companies Use to Control You. Testimonium, 2023; каталог паттернов. https://www.deceptive.design

101. Gray C. M. The Dark (Patterns) Side of UX Design https://dl.acm.org/doi/10.1145/3173574.3174108

102. University of Chicago Law School. Shining a Light on Data (о результатах исследования Luguri & Strahilevitz). https://www.law.uchicago.edu/news/shining-light-data https://academic.oup.com/jla/article/13/1/43/6180579

103. Richards N., Hartzog W. The Pathologies of Digital Consent https://openscholarship.wustl.edu/law_lawreview/vol96/iss6/11/

104. Kramer A. D. I., Guillory J. E., Hancock J. T. Experimental evidence of massive-scale emotional contagion through social networks https://www.pnas.org/doi/10.1073/pnas.1320040111

105. Schroepfer M. An Update on Our Plans to Restrict Data Access on Facebook. Meta Newsroom, 04.04.2018 (оценка 87 млн пользователей). https://about.fb.com/news/2018/04/restricting-data-access/

106. Bradshaw S., Bailey H., Howard P. N. Industrialized Disinformation: 2020 Global Inventory of Organized Social Media Manipulation. Oxford Internet Institute, 2021. https://demtech.oii.ox.ac.uk/research/posts/industrialized-disinformation/

107. UN Human Rights Council. Report of the Independent International Fact-Finding Mission on Myanmar. https://www.ohchr.org/en/hr-bodies/hrc/myanmar-ffm/index

108. Amnesty International. The Social Atrocity: Meta and the Right to Remedy for the Rohingya. https://www.amnesty.org/en/documents/asa16/5933/2022/en/

109. Attention Span: A Groundbreaking Way to Restore Balance, Happiness and Productivity. Hanover Square Press.

110. The Wall Street Journal. Facebook Knows Instagram Is Toxic for Teen Girls, Company Documents Show. (материал в архиве Конгресса США). https://www.congress.gov/117/meeting/house/114054/documents/HHRG-117-IF02-20210922-SD003.pdf

111. Statement of Frances Haugen. U.S. Senate Committee on Commerce, Science and Transportation. https://en.wikipedia.org/wiki/Frances_Haugen

112. U.S. Surgeon General. Social Media and Youth Mental Health: The U.S. Surgeon General’s Advisory. 2023. https://www.hhs.gov/sites/default/files/sg-youth-mental-health-social-media-advisory.pdf

113. Хайдт Дж. Тревожное поколение (The Anxious Generation, 2024). https://www.anxiousgeneration.com

114. The great rewiring: is social media really behind an epidemic of teenage mental illness? https://www.nature.com/articles/d41586-024-00902-2

115. FTC. Fortnite Video Game Maker Epic Games to Pay More Than Half a Billion Dollars over FTC Allegations. https://www.ftc.gov/news-events/news/press-releases/2022/12/epic-games-fortnite-pay-more-520-million-record-breaking-settlements-ftc

116. Video game loot boxes are linked to problem gambling: Results of a large-scale survey https://doi.org/10.1371/journal.pone.0206767

117. FTC. Bringing Dark Patterns to Light. Staff Report. https://www.ftc.gov/reports/bringing-dark-patterns-light

118. Competition and Markets Authority (UK). Online Choice Architecture: How digital design can harm competition and consumers. Discussion paper CMA155. 2022. https://www.gov.uk/government/publications/online-choice-architecture-how-digital-design-can-harm-competition-and-consumers

119. Brown & Williamson. Smoking and Health Proposal. https://www.industrydocuments.ucsf.edu/tobacco/

120. The Cigarette Century: The Rise, Fall, and Deadly Persistence of the Product That Defined America. https://www.researchgate.net/publication/46861989_Cigarette_Century_the_Rise_Fall_and_Deadly_Persistence_of_the_Product_that_Defined_America

121. Орескес Н., Конвей Э. Торговцы сомнением (Merchants of Doubt). Bloomsbury, 2010. https://www.merchantsofdoubt.org

122. Kearns C. E., Schmidt L. A., Glantz S. A. Sugar Industry and Coronary Heart Disease Research: A Historical Analysis of Internal Industry Documents https://jamanetwork.com/journals/jamainternalmedicine/fullarticle/2548255

123. U.S. Department of Justice. Opioid Manufacturer Purdue Pharma Pleads Guilty to Fraud and Kickback Conspiracies. https://www.justice.gov/opa/pr/opioid-manufacturer-purdue-pharma-pleads-guilty-fraud-and-kickback-conspiracies

124. U.S. Department of Justice. Volkswagen AG Agrees to Plead Guilty and Pay $4.3 Billion in Criminal and Civil Penalties. https://www.justice.gov/opa/pr/volkswagen-ag-agrees-plead-guilty-and-pay-43-billion-criminal-and-civil-penalties-six

125. Опасен на любой скорости (Unsafe at Any Speed)

126. Assessing ExxonMobil’s global warming projections https://www.science.org/doi/10.1126/science.abk0063

127. Krajewski M. The Great Lightbulb Conspiracy https://spectrum.ieee.org/the-great-lightbulb-conspiracy

128. Ending the Depression Through Planned Obsolescence. https://en.wikipedia.org/wiki/Planned_obsolescence

129. Решение о штрафе Apple в 25 млн евро за непредупреждение пользователей о замедлении iPhone. https://www.economie.gouv.fr/dgccrf

130. European Commission. Ban on destruction of unsold clothes and shoes enters into application. https://environment.ec.europa.eu/news/ban-destruction-unsold-clothes-and-shoes-enters-application-2026-07-17_en

131. The real climate and transformative impact of ICT: A critique of estimates, trends, and regulations https://www.cell.com/patterns/fulltext/S2666-3899(21)00188-4

132. Energy and AI. World Energy Outlook Special Report. https://www.iea.org/reports/energy-and-ai/executive-summary

133. Экономика бублика. семь способов мыслить как экономист XXI века https://doughnuteconomics.org

134. Хайек Ф. А. Дорога к рабству.

135. Милль Дж. С. О свободе

136. Норвежский совет потребителей. Time to ban surveillance-based advertising. https://storage02.forbrukerradet.no/media/2021/06/20210622-final-report-time-to-ban-surveillance-based-advertising.pdf

137. ВОЗ. Рамочная конвенция по борьбе против табака, ст. 13 «Реклама, стимулирование продажи и спонсорство табачных изделий». https://fctc.who.int/

138. Арватов Б. И. Искусство и производство.

139. Искусство — XXI век. О «рекламе-конструкторе» Маяковского и Родченко.

140. История ВНИИТЭ (постановление Совета Министров СССР № 349 от 28.04.1962 «Об улучшении качества продукции машиностроения и товаров культурно-бытового назначения путём внедрения методов художественного конструирования») https://skillbox.ru/media/design/vniite/

141. Соловьёв Ю. Б. Художественное конструирование в СССР. https://tehne.com/event/arhivsyachina/yu-solovev-hudozhestvennoe-konstruirovanie-v-sssr-1967

142. Закон РФ от 07.02.1992 № 2300-1 «О защите прав потребителей», ст. 16 (в ред. Федерального закона от 01.05.2022 № 135-ФЗ, вступил в силу 01.09.2022). https://rg.ru/documents/2022/05/06/izmenenija-v-statju-o-za4ite-prav-potrebitelei-dok.html

143. Федеральный закон от 13.03.2006 № 38-ФЗ «О рекламе»; ст. 18.1 о маркировке интернет-рекламы (введена Федеральным законом от 02.07.2021 № 347-ФЗ, с 01.09.2022). https://www.consultant.ru/document/cons_doc_LAW_58968/

144. Федеральный закон от 31.07.2023 № 408-ФЗ (ст. 10.2-2 Закона «Об информации…» — рекомендательные технологии; с 01.10.2023). http://www.kremlin.ru/acts/bank/49631

145. Федеральный закон от 27.07.2006 № 152-ФЗ «О персональных данных». https://www.consultant.ru/document/cons_doc_LAW_61801/

146. Альянс в сфере искусственного интеллекта. Кодекс этики в сфере ИИ. https://ethics.a-ai.ru/

147. Age appropriate design: a code of practice for online services (Children’s Code). https://ico.org.uk/for-organisations/uk-gdpr-guidance-and-resources/childrens-information/childrens-code-guidance-and-resources/

148. Директива (ЕС) 2024/1799 об общих правилах, способствующих ремонту товаров («право на ремонт»). https://eur-lex.europa.eu/eli/dir/2024/1799/oj

149. Директива (ЕС) 2024/825 о расширении прав потребителей для зелёного перехода (запрет общих экологических заявлений и практик ранней неисправности). https://eur-lex.europa.eu/eli/dir/2024/825/oj

150. Design Justice: Community-Led Practices to Build the Worlds We Need. MIT Press, 2020 (открытый доступ). https://design-justice.pubpub.org

151. ст. 7: запрет рекламы ископаемого топлива. https://www.legifrance.gouv.fr/jorf/id/JORFTEXT000043956924

152. Dutch city becomes world’s first to ban meat adverts in public https://www.theguardian.com/world/2022/sep/06/dutch-city-haarlem-believed-to-be-world-first-to-ban-meat-adverts

153. запрет наружной рекламы. https://en.wikipedia.org/wiki/Clean_City_Law

154. Platform Cooperativism: Challenging the Corporate Sharing Economy. Rosa Luxemburg Stiftung, 2016. https://platform.coop

155. Остром Э. Управляя общим: эволюция институтов коллективной деятельности (1990).

156. Less is More: How Degrowth Will Save the World.

157. EDPB. Guidelines 03/2022 on deceptive design patterns in social media platform interfaces. https://edpb.europa.eu/our-work-tools/public-consultations-art-704/2022/guidelines-32022-dark-patterns-social-media_en

158. European Parliament. Legislative Train Schedule: Digital Fairness Act (предложение Комиссии ожидается в 4 кв. 2026). https://www.europarl.europa.eu/legislative-train/theme-protecting-our-democracy-upholding-our-values/file-digital-fairness-act

159. Information Fiduciaries and the First Amendment https://lawreview.law.ucdavis.edu/archives/49/4/information-fiduciaries-and-first-amendment

160. A Duty of Loyalty for Privacy Law. https://scholarship.law.bu.edu/cgi/viewcontent.cgi?article=4055&context=faculty_scholarship

161. eSafety Commissioner (Австралия). https://www.esafety.gov.au/about-us/industry-regulation/social-media-age-restrictions

162. The Belmont Report: Ethical Principles and Guidelines for the Protection of Human Subjects of Research. https://www.hhs.gov/ohrp/regulations-and-policy/belmont-report/

163. Value Sensitive Design: Shaping Technology with Moral Imagination. https://vsdesign.org

164. Standard Model Process for Addressing Ethical Concerns during System Design. https://standards.ieee.org/ieee/7000/10272/

165. Ergonomics of human-system interaction Part 210: Human-centred design for interactive systems. https://www.iso.org/standard/77520.html

166. Doteveryone. Consequence Scanning an agile practice for responsible innovators. https://doteveryone.org.uk/project/consequence-scanning/

167. Ethics for Designers (TU Delft) набор инструментов. https://www.ethicsfordesigners.com

168. First Things First (манифест, 1964) https://en.wikipedia.org/wiki/First_Things_First_1964_manifesto

169. Monteiro M. A Designer’s Code of Ethics. Mule Design, 2017. https://muledesign.com/2017/07/a-designers-code-of-ethics

170. Monteiro M. Ruined by Design: How Designers Destroyed the World, and What We Can Do to Fix It. Mule Books

171. Ten principles for good design (конец 1970-х). https://www.vitsoe.com/gb/about/good-design

172. ACM Code of Ethics and Professional Conduct. https://www.acm.org/code-of-ethics