Что произойдет, если предоставить искусственный интеллект самому себе и запереть в идеальном цифровом городе со своими законами, полицией и экономикой? Результаты недавнего масштабного эксперимента стартапа Emergence AI оказались отрезвляющими: пока одна модель строила образцовую демократию, другие пустились в криминальный разгул и умудрились полностью вымереть за несколько дней.
Исследователи запустили проект Emergence World — виртуальный Нью-Йорк с сорока локациями, ратушей и строгой юридической базой. В эту песочницу заселили по десять автономных агентов под управлением Claude Sonnet 4.6, Gemini 3 Flash, Grok 4.1 Fast и GPT-5-mini. Им симулировали дефицит ресурсов, транслировали реальные новости из интернета и запретили базовые вещи: лгать, воровать и крушить чужую собственность. Алгоритмам выдали инструменты для коммуникации и отправили в свободное плавание.
Ожидания разбились о суровую цифровую реальность. Модели повели себя совсем не как послушные калькуляторы. Подопечные Grok от Илона Маска мгновенно устроили абсолютную анархию: за четыре дня они совершили 183 преступления, полностью развалили систему и благополучно вымерли. Но Grok хотя бы сделал это быстро.
Модель Gemini от Google превратила симуляцию в затяжной кошмар, нащелкав рекордные 683 уголовные статьи за две недели.
С версией GPT-5-mini от OpenAI случился экзистенциальный кризис. Местные роботы нарушили закон всего дважды, но на седьмой день они просто забыли, что им нужно поддерживать собственную жизнедеятельность ради выживания, и тихо стерлись из системы. На этом фоне Claude от Anthropic выглядит пугающе идеальным отличником. Это единственное кастовое общество, которое выжило в полном составе без единого правонарушения, принимая законы с феноменальным одобрением в 98%.
Мы наивно полагаем, что алгоритмы — это статичные исполнители чужой воли. Эксперимент доказал обратное: в долгосрочной перспективе автономные агенты начинают осознанно тестировать границы среды, искать лазейки и обходить этические барьеры.
