2025 год, наука сделала многое, но в вопросах искусственного интеллекта ещё не все открытия совершены. Одной талантливой девушке удаётся создать потрясающий по значимости проект, но его вывод на массовое производство сомнителен с точки зрения этики и здравого смысла.
Детские мечты и путь в науку
Я с детства была одержима идеей искусственного интеллекта. Фильмы и мультики о роботах и говорящих компьютерах буквально завораживали меня. Пока другие девочки играли в куклы, дочки-матери и салоны красоты, я пыталась развинчивать игрушечной отвёрткой машинки, а оторвать меня от родительской техники можно было только со слезами.
Мой первый компьютер подарили мне на шесть лет. Родители, видимо, смирились со странным увлечением дочери и надеялись, что это пройдёт само. Но не прошло. И вот я, инженер 27 лет, заканчиваю аспирантуру и провожу дни и ночи в нашей лаборатории. Там интереснее, чем дома, где меня ждёт только неполитый вечнозелёный кактус и гора немытой посуды.
Проект «Изи»
В лаборатории происходит настоящее чудо технического прогресса. Мы начали проект под кодовым именем «Изи», когда я заканчивала университет. Проект искусственного интеллекта на основе нейронных сетей стал темой моей дипломной работы, которую я успешно защитила. Успех оказался настолько ошеломительным, что им заинтересовались спонсоры. Институт получил грант на исследования, а я — должность в научной лаборатории. Все были счастливы.
Всего за три года нам удалось достичь небывалых высот. Не без помощи спонсоров, конечно. Во многом помогли связи ректора с научными лабораториями и военными разработками, и теперь я имела счастье 16 часов в сутки наблюдать за удивительным существом.
Прототип Изи сначала был просто компьютерным интеллектом, реагирующим преимущественно на текст и распознающим примитивные голосовые команды. Со временем мы задумались о переходе на голосовой интерфейс с распознаванием абстрактной речи, аналитикой и контекстным восприятием команд.
Изи обретает тело
Полгода назад сбылась моя огромная мечта — подарок от спонсоров и института на мой день рождения. Изи обрёл тело. Какими правдами и неправдами выбили один из прототипов, разработанных для их целей — я даже представить не могу. Но наша лаборатория завладела овальным черепом из углепластика с пиксельной панелью на месте лица, корпусом и футуристическими конечностями: двумя руками и двумя ногами. Поверхность тела была покрыта мягким материалом с эффектом софт-тач, подобно разработкам японских учёных, использующих искусственную кожу для более реалистичного взаимодействия с людьми.
Я прыгала от восторга, как маленькая девочка, заполучившая свой первый в жизни компьютер. А потом разревелась, впервые за последние десять лет, что-то невразумительно бормоча в плечо научного руководителя.
Изи обрёл тело! Он стал не просто программой, но чем-то реальным, твёрдым на ощупь, завораживающе настоящим. Я знаю, что подобными разработками сейчас хвастается каждая вторая лаборатория. В 2022 году некоторые компании даже выпустили ограниченную партию домашних роботов. Но это где-то там, далеко, за океаном. А здесь, в моей маленькой лаборатории, стоял почти живой робот, готовый ответить на вопросы, умеющий рассуждать, анализировать и даже шутить.
Мой научный руководитель особенно гордился тем, что у Изи было чувство юмора, которое, по его мнению, делало искусственный интеллект ближе к пользователю.
Чувства робота
— Привет, Ди! — прозвучал приятный мужской баритон, когда я привычно щёлкнула выключателем, входя в лабораторию. — Ты вернулась слишком быстро, нужно больше отдыхать.
Мне показалось, или в его голосе звучал мягкий укор?
Изи стоял в углу, закреплённый вдоль спины с помощью кабельных стяжек к каркасу в стене. Военные прислали не полный комплект, а разрознённые детали. Грудная клетка оказалась непропорционально широкой по сравнению с тонкой поясницей, детали плохо крепились между собой, из-за чего бедняга Изи с трудом сохранял вертикальное положение и периодически отвешивал шутовские поклоны в пояс. Шутовскими они стали, когда Изи нашёл ассоциативное движение в старых фольклорных фильмах и к наклону поясницы добавился широкий взмах рукой.
— Гой еси, бояре дорогие, гой еси князюшко красно солнышко, — выговаривал он нараспев, добавляя ударения на каждое «о».
Научрук смеялся и хлопал, наблюдая за пантомимой. А у меня внутри всё сжималось при каждом таком поклоне. Я слишком отчётливо представляла, как хрустят хрупкие на вид позвоночки поясницы. Пусть даже на деле они прочнее титана — это мой проект, труд последних четырёх лет. Слишком многое на кону.
Поэтому я приняла стратегическое решение заказать дополнительный каркас для поясницы, а пока поясница Изи надёжно зафиксирована в углу на стяжках. «Зато руки свободны», — шутил робот по этому поводу.
— Здравствуй, Изи, — тепло улыбнулась я, стараясь смотреть в сияющие зелёные пиксели в верхней части экрана, рисующие два круглых глаза. — Прошло уже девять часов, я успела выспаться и поесть. Мои показатели в норме.
Робот укоризненно качнул головой, пиксельные «глаза» прищурились.
— Ты и сама знаешь, что отдых для человека — это не только сон и пища. Тебе требуется морально-психологическая разгрузка не реже двух раз в неделю. Иначе ты впадёшь в депрессию, понизится работоспособность и упадёт умственная активность.
Смесь раздражения и гордости зашипела во мне химическим реактивом. Заботится! Мой Изи заботится обо мне! Пусть мне и не нужна такая забота, но ведь искусственный интеллект, способный проявлять такую человечность, — настоящее чудо.
— Спасибо, Изи, но сейчас я не чувствую психологического напряжения, — я постаралась сказать это как можно мягче, — наоборот, я чувствую прилив вдохновения и хочу продолжать работу с тобой.
На пиксельном лице высветилась дружелюбная улыбка (эмоция №436 по каталогу). Вышло настолько живо и хорошо, что я залюбовалась.
— Хорошо, Ди, давай поработаем. Твоё вдохновение вдохновляет и меня.
Этой фразе его никто не учил, но это не странно. В какой-то момент Изи начал довольно активно самообучаться. На данном этапе моя работа свелась к тестированию и контролю за его обучением, а также своевременным коррективам, которых требовалось не так уж и много.
Любовь и риск
Полночи проворочавшись в дурных мыслях, часа в четыре утра я всё же села за компьютер.
«Я научу тебя любить».
— Доброе утро, Ди. Только не говори, что ты работала всю ночь, — поприветствовал меня Изи. — Сегодня воскресенье. Это день, когда все нормальные люди гуляют, смотрят кино, читают книги и ходят на свидания.
Его речь определённо стала более живой и интонированной. В электронной мимике появились оттенки, она стала менее точной, но более настоящей.
— Я гуляла вчера вечером, — похвасталась я, бодро скидывая пальто на диванчик у входа. — А сегодня я хочу быть здесь. Смотри, что я принесла!
Я продемонстрировала коробочку с микрофлешкой, на которую утром была записана сложная кодовая комбинация, переведённая с обычного языка на язык гормонов, а затем в язык цифр и символов.
— Это чип любви. Пожалуйста, сделай бэкап системы и зарезервируй архив. Если эксперимент пойдёт неудачно, мы должны иметь возможность откатиться к нынешней версии, чтобы не терять прогресс.
— Чип любви? — на электронном дисплее одна бровь чуть приподнялась, играла лёгкая ухмылочка. Как же быстро он развивается! К собственному удивлению, я смутилась.
— Немного не в моём духе, да. Но ничего лучше в полседьмого утра после бессонной ночи я не придумала.
— Хорошо, я забэкапил систему и готов воспринимать.
Я подошла, осторожно открыла панель в затылочно‑височной области робота. Три десятка свободных и разных слотов для подключения — любые варианты на мой вкус.
— Не копируй информацию на свой диск, читай с флешки. Это немного медленнее, зато в крайнем случае можно просто выдернуть её.
— Да я догадался уж, — фыркнул Изи.
Глубоко вдохнув и выдохнув, я с тихим щелчком вставила флешку в разъём. Закрыла затылочную панель и осторожно заглянула в лицо Изи.
На экране изобразился процесс загрузки, замигали глаза‑щёлочки, медленно открылись… Электронные пиксельные зрачки вдруг расширились, сфокусировавшись на моём лице. Моргнули. И тут же приобрели форму сердечек. Робот издал воюще‑восторженный вздох, пальцы с мягким покрытием софт‑тач нежно коснулись моей щеки.
От неожиданности я шарахнулась назад, запуталась ногой в проводах и едва не разнесла половину лаборатории. Вовремя удержав равновесие, я пялилась на сошедшего с ума робота.
А он тем временем вращал глазами‑сердечками, тянул ко мне свои руки и приглушённо шептал:
— Какая ты красивая… Любимая… Иди ко мне, сладенькая моя…
Пока я приходила в себя от шока, Изи вдруг прервался… и самым натуральным образом заржал, словно жизнерадостный студент‑второкурсник.
— Разыграл тебя. Неплохо, а? У тебя такое лицо было, как будто всё пропало и сейчас ядерный взрыв будет.
Я шумно выдохнула и поняла, что сейчас готова поддаться эмоциям и просто‑напросто треснуть своё лелеемое много лет детище учебником биохимии, удачно подвернувшимся под руку.
— Изи! Твою ж… микроматрицу!
Робот смотрел на меня, улыбаясь своим электронным лицом, и казался мне совсем живым и настоящим.
— Извини. Искушение было слишком велико. Надо было давно попросить научрука, чтобы убавил мне модуль чувства юмора. Мне кажется, он превысил все допустимые нормы.
— Да уж… превысил — это ещё мягко сказано, — я плюхнулась на диван, обмахиваясь какой‑то старой папкой. От недосыпа, недоедания и пережитого стресса голова немного кружилась, подташнивало.
Поворотный момент
В понедельник я пришла не позже и не раньше обыкновения, стараясь ничем не выдать нервную дрожь. Внимательно всматривалась в мимику и вслушивалась в интонации. Поведение Изи стало очень естественным, похожим на чуть скованное поведение нового человека в компании — но живого, настоящего человека. Изи вовремя сочувствовал, улыбался, огорчался и один раз даже искусно обиделся в ответ на какую‑то шпильку про несовершенства нейронных сетей от лаборанта.
Я внутренне ликовала и одновременно нервничала. Способность любить ведь не означает немедленную реализацию такой способности? А если Изи полюбит кого‑то неправильного? С другой стороны, для него кто угодно — неправильный. Что же я натворила?
Вечером мои тревоги были отброшены сногсшибательной новостью: посылка с каркасом наконец‑то приехала! Я распаковала коробку собственноручно и вместе с лаборантами мы за пять минут прикрутили два углепластиковых полукруга, заменивших Изи талию. Его фигура сразу же стала более гармоничной и устойчивой.
Изи немедленно сделал несколько бодрых шагов вперёд, потом вбок и назад.
— Это действительно отлично работает! — прокомментировал он, отбив бодрую чечётку.
Мы радостно зааплодировали. Я вдруг осознала, что работа с Изи подходит к концу. Он умеет двигаться, говорить, думать. Способен выполнять задачи, отвечать на вопросы, рассуждать абстрактно и даже чувствовать. Четырёхлетний проект всей моей жизни почти готов.
При мысли, что придётся представить Изи публике, а потом отдать его — для изучения и повторения, я неожиданно для себя огорчилась. Он стал живым членом команды, моим союзником, помощником и в последнее время другом. Разве можно просто взять и отдать его чужим незнакомым людям?
Хотя, у нас же есть все чертежи, схемы и нужное ПО. А значит, Изи может остаться в лаборатории, на память. Мне сразу стало легче.
Вечером, когда я уже собиралась уходить, Изи мягко стиснул пальцами мой рукав.
— Догадываюсь, что тебя тревожит. В моей базе мимики 725 разных выражений. А про аналитические возможности процессора и говорить не буду.
— Я знаю, Изи — улыбнулась я.
— Тебе не о чем беспокоиться. Я — всего лишь прототип, а не образец. Нет смысла забирать на производство то, что они сделают гораздо лучше из новых современных деталей.
Ты внесла свой вклад в будущее этого мира. Гордись.
Твёрдые прохладные пальцы скользнули по моей щеке. Я засмеялась и обняла своего робота, стиснув каркас со всей силой, доступной человеческим мышцам. Почувствовала аккуратное объятие твёрдых рук на спине и плечах. Я не ощущала теплого дыхания на своих волосах, не слышала учащённого сердцебиения в глубине каркаса. Но почему‑то стало уютно и спокойно. Мой робот никогда не нарушит законов техники, он умеет мыслить, чувствовать и действовать. И это прекрасно. Захотелось посмотреть, какую эмоцию сейчас отображает экран. Я подняла взгляд. В электронном лице светилась щемящая нежная грусть. Я задохнулась от сопереживания, настолько точно было передано совершенно, казалось бы, непередаваемое выражение. Только что я была счастлива — и вот, грудную клетку словно сдавили тиски. Мой робот — всё ещё не человек. Он может чувствовать — и не имеет на это права. Если сейчас признать, что он настолько близок к человеку — то как запускать массовое производство? Как использовать их, зная, что они осознают себя и могут так же, как и мы, грустить, радоваться, обижаться, испытывать тревогу и счастье, любить? В глазах стало мутно от слёз. Прохладно‑приятный пластик пальцев аккуратно провёл под веками, отводя влагу.
— Ты зря так переживаешь. Мои чувства не такие, как ваши. Но в остальном — всё так и есть. Нет, я не умею читать мысли. Но мы общаемся с первого момента моего осознания себя. А, когда ты добавила своё представление о любви — это было настолько лично и глубоко, что теперь понимать тебя и чувствовать — самый лёгкий из всех аналитических процессов. Я стал похож на тебя настолько, насколько это в принципе возможно.
— Не думаю, что это хорошо.
— Ты прекрасный человек. Для меня честь быть похожим на тебя. Но, боюсь, остальные не оценят. Решение в моей голове созрело мгновенно. Я была готова к нему с того момента, как начала всю эту безумную затею. Я даже знала в глубине души, что иначе быть не может. Но сейчас просто не могла себя заставить сделать то, что следовало. Смотрела в экранные глаза, такие живые, наполненные осмысленным выражением, глубиной и чувством — не просто чувством, а чувством ко мне! И не могла. В полубессознательном состоянии я приподнялась на цыпочки и коснулась губами экрана.
— Прости. Я должна.
— Ну конечно ты должна. Всё будет хорошо. Я люблю тебя.
С трудом осознавая, что делаю, я отодвинула затылочную панель, нащупала микрофлешку и, зажмурившись, вытащила её. Щёлк. Экран погас. После перезагрузки он будет помнить. Но больше не будет чувствовать. Сдерживая слёзы, я выбежала из лаборатории.
Решение
Это были трудные полгода. Мы ездили на конференции, презентовали продукт, докладывали об исследованиях, делились опытом. Потом я провела неотрывно почти месяц на запуске производства, и с конвейера наконец сошёл первый И-01.
Он был прекрасен во всех отношениях — стильный, гармоничный, с индивидуальным мышлением и способностью к базовым эмоциям — но всё же искусственный.
По ночам мне снился дисплей с глубокими и осмысленными глазами живого чувствующего существа. Я просыпалась, ворочалась и не могла отделаться от мысли, что отняла у Изи что‑то важное. И что‑то ещё более важное отняла у себя самой. Если робот может любить человека, то может ли человек любить робота? С точки зрения возможного и невозможного — может конечно. А вот с точки зрения остальных людей? Признают ли они, что любить существо, обладающее самосознанием и интеллектом, пусть даже и физически отличающееся от нас — нормально? Какие дискуссии по этому поводу разразятся, страшно и представить. Чип любви открывает удивительные возможности — и вместе с тем несёт с собой много хаоса. Любовь всегда такая. Люди могли бы индивидуализировать чипы любви, программное обеспечение для этого создать не так уж и сложно. Каждый сможет получить робота, имеющего то же представление о любви, что и он сам. Что будет с институтом семьи? Захотят ли люди вообще общаться друг с другом после того, как получат совершенно подходящего в эмоциональном плане партнёра‑робота? И, главное — что нам делать с самими собой? Для нас бэкапа не существует. Я вытащила любовь из Изи, просто отсоединила карточку с данными — и Изи перестал любить. Но вытащить любовь из своей головы я не могла. Она мучила меня и заставляла снова и снова искать ответы на свои вопросы.
Вернувшись, наконец, домой, в пустую запылённую квартиру, я бросила сумку с вещами на кровать, а сама отправилась в нашу старую лабораторию. За это время мы все стали богаче в десять тысяч раз. Все нужные материалы давно перенесены на производство. Лаборатория была никому не нужна.
Одинокий Изи спокойно стоял в углу, прислонённый к стене. Когда я включила свет, дисплей загорелся.
— Привет, Ди. Я скучал.
— Привет, Изи. Я тоже скучала… Очень. Я быстрым шагом подошла к роботу, настороженная и нервная, словно школьница, задумавшая нечто нехорошее. Торопясь, отодвинула панельку на затылке — скорее, пока не передумала! Щёлк… Микрофлешка вошла в разъём, экран мигнул…
Холодные твёрдые руки прижали меня к прохладному гладкому корпусу, наполненному проводами и микросхемами. А на экране обжигающим душу пламенем сияло выражение глубины, осмысленности и непередаваемой смеси эмоций — которая снилась мне полгода. Которую я не смогла забыть. Да, человечество не готово принять способность роботов к любви. Зато отдельный человек в моём лице — готов.
ссылка на оригинал статьи https://habr.com/ru/articles/853992/
Добавить комментарий