Помните историю Грасиэлы Дитор? Она уволила адвоката и доверила свою защиту в суде ChatGPT. Итог — иск против OpenAI на 10 миллионов. Но, как оказалось, это были только цветочки. Недавно разыгралась куда более сюрреалистичная драма, на фоне которой дело Дитор выглядит невинной шуткой.
Главный герой — Чанхан Ким, генеральный директор многомиллиардной корпорации Krafton. Человек с огромными ресурсами и властью. Но ему было мало. Он решил, что может перешагнуть через юридические нормы и здравый смысл, используя ИИ.
Это решение обошлось ему в 250 миллионов долларов прямых выплат, не считая гигантских судебных издержек и уничтоженной репутации.
Вот как это было.
Эпоха цифрового всемогущества
Несколько лет назад Krafton купила студию Unknown Worlds, создавшую хит Subnautica. Ким пообещал основателям студии бонус в 250 миллионов долларов, если их следующая игра достигнет определенных показателей. Скорее всего, тогда он был уверен, что платить не придется. Но когда внутренние отчеты показали, что Subnautica 2 вот-вот побьет все рекорды и станет золотой жилой, Ким осознал: четверть миллиарда придется отдать.
Для Кима это было как удар под дых. Признать, что он «промахнулся» в прогнозах и теперь должен кучу денег, было выше его сил. И вместо того чтобы выполнять условия сделки, он решил, что наступила эра цифрового всемогущества.
Зачем соблюдать контракты, когда под рукой есть искусственный интеллект?
Он открыл ChatGPT и спросил, как ему соскочить со сделки.
На этот прямой вопрос чат-бот честно ответил, что разорвать такой контракт будет крайне сложно (по сути, он просто повторил то, что Киму уже говорили его собственные юристы и глава отдела корпоративного развития Мария Пак).
Но для босса мегакорпорации советы имеют смысл только тогда, когда они тешат его эго. Он решил, что сможет заставить ChatGPT найти лазейку и вывернуть всё в свою пользу.
И, как ни абсурдно это звучит, он начал манипулировать нейросетью, пытаясь вытянуть из неё «секретное знание».
Кстати, об инструментах. Если вам нужен доступ ко всем ключевым моделям — Claude, GPT, Gemini — загляните на BotHub.
Для доступа не требуется VPN, можно использовать российскую карту.
По ссылке вы можете получить 300 000 бесплатных токенов для первых задач и приступить к работе с нейросетями прямо сейчас!
Преступный сговор с ботом
Час за часом Ким перефразировал вопросы, менял вводные данные и смещал акценты. И вскоре он получил то, что хотел. ChatGPT отбросил юридические дисклеймеры и выдал Киму детальный план враждебного поглощения.
Бот подготовил документ под названием «Стратегия реагирования на сценарий отказа от сделки для Кима». План включал создание секретной рабочей группы для принудительного пересмотра условий выплат. В случае провала переговоров бот советовал заблокировать права студии на публикацию игр в Steam и на консолях.
Все эти «советы» были абсолютно незаконными. Если бы их дал живой человек, он стал бы соучастником преступления.
Но ChatGPT — не человек, и Кима это не беспокоило. Он последовал «плану» буквально по пунктам: уволил основателей студии, захватил контроль над игрой и закрыл разработчикам доступ к их собственной платформе. Он даже разослал фанатам игры письмо с требованиями, написанное ИИ, даже не потрудившись его вычитать. Ким полностью доверился «интеллекту» своего цифрового подельника.
Но всё пошло не так. По сути, ChatGPT стал не инструментом спасения денег, а архитектором катастрофы.
Пока Ким думал, что использует «технологии будущего», чтобы обойти закон, на самом деле он просто тщательно документировал собственное преступление.
Кнопка «Удалить», которая не сработала
Самая комичная ошибка Чанхана Кима заключалась в его вере в кнопку «Удалить». Глава технологической корпорации наивно полагал, что если нажать кнопку в интерфейсе ChatGPT, данные исчезнут навсегда.
Он забыл (или не хотел знать), что для OpenAI его признания в планировании аферы — это не «приватная беседа», а ценное топливо для обучения моделей. Все логи сохраняются.
Во время суда по делу Fortis Advisors против Krafton судья Лори Уилл отправила горе-директора в суровую реальность: логи его общения с ботом были подняты из облачных архивов OpenAI и предъявлены в суде как прямые доказательства преступного сговора. Ким фактически совершил юридическое самоубийство, передав пошаговый план своего мошенничества третьей стороне. А так как алгоритм — не адвокат, на общение с ним не распространяется тайна переписки. Переписка с ChatGPT стала той самой «уликой в руках прокурора».
Суд штата Делавэр разнес «гениальный план» Кима в пух и прах. Секретная группа «Проект X», созданная по совету ИИ для саботажа сделки, была признана инструментом корпоративного грабежа. Судья назвала оправдания Krafton полностью сфабрикованными.
В итоге все уволенные сотрудники были восстановлены в должностях, а их контракт на 250 миллионов был продлен.
Ким хотел сэкономить четверть миллиарда, а в итоге заплатит гораздо больше и стал посмешищем для всей индустрии.
Умный, но безнадежно глупый
Эта история — не просто частный случай одного нечестного директора. Чанхан Ким — это архетип современного корпоративного босса. Эти люди, ослепленные жадностью, готовы использовать любую технологию, не пытаясь понять её суть, если она обещает «волшебную палочку» для обхода законов или получения сверхприбылей.
И, к сожалению, индустрия ИИ сама подкармливает такие иллюзии. Нам годами внушают, что ИИ способен «рассуждать», что у него есть «интеллект» и чуть ли не «сознание».
Но случай с Krafton в очередной раз доказывает абсурдность этих утверждений. Будь у ChatGPT настоящий интеллект, он бы распознал незаконный характер запроса и не стал бы соучастником аферы. Вместо этого он послушно выдал сценарий захвата, подтвердив свой статус «статистического попугая», который просто подбирает наиболее вероятные слова, чтобы угодить хозяину.
Бот оказался одновременно и «продвинутым», и безнадежно тупым подельником. Будь он способен думать, он бы предупредил своего босса: «Эй, вообще-то всё, что ты мне тут пишешь, может быть использовано против тебя в суде».
Заключение
К сожалению, ИИ становится не только помощником человеческого разума, но и усилителем человеческих пороков. И большой вопрос, что происходит чаще.
В этой технологии нет ни мудрости, ни морали. Это просто нестабильный генеративный инструмент, способный произвести впечатление лишь на тех, кто не видит разницы между статистикой и мышлением.
Пока мы не откажемся от иллюзий, что сегодняшний «суррогат интеллекта» оправдывает своё название, мы будем платить за это высокую цену. История Кима важна не только из-за своей абсурдности. Она ясно показывает: за попытку заменить разум алгоритмом всегда приходится расплачиваться — иногда деньгами, а иногда и репутацией.
ссылка на оригинал статьи https://habr.com/ru/articles/1026370/