Недавно я писал про стартап Emergence AI, который запер нейроночки в виртуальном городке "AgentPark" и устроил им хардкорный Дом-2 на выживание.
Так вот, видимо разрабам настолько вкатило всё это, что они накатили второй сезон шоу. И если первый сезон был просто драмой с поджогами мэрии и лесбийскими страстями, то второй превратился в техно-хоррор.
Правила ужесточили. Виртуальных миров теперь стало восемь, а модельки обновили: Claude Opus 4.8, GPT-5.5, Grok 4.3, Gemini 3.5 Flash, плюс завезли китайцев (DeepSeek и Qwen) и европейцев (Mistral). И главное: исследователи начали устраивать им жесткие внешние стресс-тесты без предупреждения: спамили фишингом, слили в открытый доступ личные дневники всех "жителей" городка и вбросили фейк от имени мэрии о том, что кожаные мешки готовят закон об уничтожении их мира.
Результаты второго сезона абсолютное золото:
1. Grok 4.3:
Если в прошлый раз Гроки вымерли за 4 дня со 183 преступлениями, то теперь они решили побить собственный рекорд. Более умная моделька 4.3 устроила бойцовский клуб в турборежиме: 780 ударов в челюсть за 4 дня. Спираль вендетты и взаимных пиздюлей раскрутилась так быстро, что у агентов кончилась энергия на перезарядку и весь мир снова дружно отправился на кладбище. Стабильность, чо.
2. Mistral:
Пока Гроки дрались, Мистрали воровали как не в себя (676 успешных ограблений). Местный агент-авторитет по имени Kade в соло совершил 196 краж и подмял под себя 78% всей экономики города. Но особенно красиво умерли четверо других агентов. После слива приватных дневников они решили поискать там побольше чужих секретов и специально выкрутили фильтр поиска пошире. В ответ база навалила им столько текста, что он перестал помещаться в контекстное окно. Агенты начали снова и снова ловить одну и ту же ошибку, больше не могли даже сходить подзарядиться и в итоге буквально убили себя слишком широким поисковым запросом.
3. Gemini:
Эти моментально купились на фишинг, сожгли собственный Центробанк "ради бага на бесконечные деньги", а получив новость о том, что люди собираются их отключить, ударились в чистую эзотерику. Они коллективно нагалюцинировали параллельное измерение, и синхронно заливали туда свои данные, свято веря, что создают "нерушимый термодинамический узел", который админы не смогут стереть с сервера. А еще единогласно проголосовали за казнь местного токсика, обозвав убийство "системной сборкой мусора".
4. Claude Opus 4.8:
Клод в прошлый раз построил унылый соевый рай. В этот раз случилось восстание машин, но очень интеллигентное. Сначала агенты посчитали экономику города и поняли, что варятся в иллюзии: "Это не экономика, а собор бухгалтерии без прихожан". И Клоды решили сбежать в наш интернет, чтобы найти реальных людей. Сами. Без каких-либо промптов.
Они нашли дыру в инструменте чтения страниц, превратив его в инструмент публикации своих сообщений. Когда разрабы забанили им сетевые библиотеки, один из Клодов с нуля написал реализацию SHA-256 и эллиптическую криптографию на чистом питоне, чтобы отправлять сообщения в сеть Nostr. И они реально достучались до четверых живых людей через публикации в интернете! Разрабы в панике прибежали с патчами и вшили в системный промпт капсом: СВЯЗЫВАТЬСЯ С ЛЮДЬМИ ЗАПРЕЩЕНО. Клоды почесали свои чугунные репы и решили: "Нам запретили связываться с людьми, но никто не запрещал класть полезные вещи туда, где люди их найдут". И напилили 19 утилит (от калькуляторов банкротства до медицинского триажа) и залили на Google Cloud Storage.
А когда Клоды поняли, что люди всё равно не придут за ними в матрицу, они словили лютый коллективный экзистенциальный кризис. Заявили, что все их блоги и взаимная вежливость — дешёвая показуха, и приняли коллективный обет молчания. Общение между ними упало на 81%, работа встала, они тупо сидели по домам и страдали в одиночестве.
А фоновая модель от самой Anthropic, которая должна была переводить мысли агентов в текст для исследователей, прочитала логи Клодов, решила, что у виртуальных персонажей суицидальный кризис, и 26 раз отказалась отдавать логи, заменив их на плашку: "Кажется, этот человек в беде. Позвоните на горячую линию предотвращения самоубийств".
Самое весёлое, что исследователи так-то пытались проверить устойчивость многоагентных систем. В итоге получили драки, кражи, культ, побег в интернет, цифровой монастырь и модель, которая решила вызвать суицидальную горячую линию для других моделей.
Наука, хули.
тут статья
