В Minecraft запустили около тысячи персонажей с ИИ

Стартап Altera запустил в Minecraft до тысячи агентов на базе искусственного интеллекта, которые учатся работать сообща в рамках социальных процессов. В рамках эксперимента они спонтанно заводили друзей, придумывали рабочие задачи и т.д. 

Спустя некоторое время выяснилось, что сообщество ИИ-агентов процветает. Его участники разрабатывали внутриигровые рабочие места, делились мемами, голосовали за налоговые реформы и даже распространяли религию.

Отмечается, что авторы эксперимента лишь давали агентам начальные подсказки, а дальше они сами развивали спектр черт личности, предпочтений и специальных ролей.

Altera работает в рамках более широкой области, исследователи которой выясняют, как использовать смоделированных агентов в реальных ситуациях.

Основатель Altera Роберт Янг, который ранее был доцентом кафедры вычислительной нейробиологии в Массачусетском технологическом институте, сказал, что эта демонстрация — только начало. Он рассматривает её как шаг к масштабным «цивилизациям ИИ», которые смогут сосуществовать и работать вместе с людьми в цифровых пространствах. Ян был вдохновлён работой исследователя из Стэнфордского университета Джуна Сона Пака, который в 2023 году обнаружил, что группа из 25 автономных агентов ИИ, которая получает возможность взаимодействовать в базовом цифровом мире, начинает имитировать поведение людей.

В рамках эксперимента Altera, Project Sid, используются моделируемые ИИ-агенты с «мозгами» из нескольких модулей. Некоторые из них работают на основе LLM и предназначены для специализации на определённых задачах, таких как реакция на других агентов, речь или планирование следующего шага агента. Команда начала с небольших групп из примерно 50 агентов в Minecraft, чтобы наблюдать за их взаимодействием. За 12 игровых дней (4 реальных часа) агенты начали демонстрировать необычное поведение. Например, некоторые из них стали очень общительными и установили много связей с другими персонажами, в то время как другие казались более интровертными. Рейтинг «симпатичности» каждого агента (измеренный самими агентами) менялся со временем по мере продолжения взаимодействия. Агенты могли отслеживать эти социальные сигналы и реагировать на них: в одном случае ИИ-повар, которому было поручено раздавать еду голодным, отдавал больше порций тем, кто, по его мнению, относились к нему лучше. 

Более человекоподобное поведение проявилось в серии симуляций с 30 агентами. Несмотря на то, что все они начинали с одной личности и общей цели — создать эффективную деревню и защитить сообщество от нападений других игровых существ, — агентов спонтанно развили специализированные роли в сообществе без каких-либо подсказок. Они поделились на строителей, защитников, торговцев и исследователей. Как только агент получал специализацию, это отражалось на его действиях. Так, художник проводил больше времени, собирая цветы, фермеры собирали семена, а охранники строили больше заборов.

Команда Ян также проверила, могут ли агенты следовать правилам всего сообщества. Они представили мир с базовыми налоговыми законами и позволили агентам голосовать за изменения в системе. Агенты могли влиять на поведение других, чтобы те затем голосовали за снижение или повышение налогов в зависимости от того, с кем они взаимодействовали.

Затем команда увеличила симуляции до максимума из 1000 агентов. В одной из симуляций с 500 агентами они наблюдали, как агенты спонтанно придумывали и затем распространяли культурные мемы (например, любовь к розыгрышам или интерес к экологическим проблемам). Команда также выделила небольшую группу агентов, чтобы попытаться распространить пастафарианство в разных городах и сельских районах, которые составляли игровой мир. Новообращённые продолжили распространять пастафарианство уже в близлежащих городах игрового мира. 

Теперь Altera планирует расширить работу в Roblox, но Ян надеется в конечном итоге выйти за рамки игровых миров. «Мы хотим создать агентов, которые могут действительно любить людей (как собаки любят людей, например)», — говорит он.

Ветеран ИИ Джулиан Тогелиус, который руководит компанией по тестированию игр Modl.ai, говорит, что ему нравится работа Altera, однако «нет никаких оснований полагать, что нейронная сеть, работающая на GPU, вообще что-то испытывает».

«Если вопрос в том, может ли одно из этих симулированных существ казаться заботливым и делать это настолько искусно, что это будет иметь такую ​​же ценность для кого-то, как забота человека, то это возможно», — добавил Тогелиус.

Ранее исследователи Массачусетского технологического института представили более эффективный алгоритм обучения агентов ИИ. Он стратегически выбирает лучшие задачи для обучения, чтобы агент мог лучше выполнять все таски из одного набора. Исследователи обнаружили, что их метод в 5–50 раз эффективнее стандартных подходов к моделированию задач. Это помогает алгоритму быстрее найти лучшее решение, что в конечном итоге повышает производительность ИИ-агента.