Александр Садовский

Как общество приспособится к миллионам агентов? (2/2) (окончание, см. начало) Но не вся дополнительная нагрузка от ИИ-агентов — это зло. Иногда они помогают людям делать то, на что раньше у них не хватало времени, сил или знаний. Раньше, чтобы подать какое-то заявление или предложение, требовалось преодолеть барьер — понять, куда писать, зачем, в какой форме. Сейчас заметную часть этой работы берет на себя ИИ. И люди, которые не обращались в суды и не писали жалобы, не подавали заявления, теперь начинают это делать. Нагрузка растет, но не потому что что-то идет не так — просто раньше людям было сложнее отстаивать свои права. В США доля гражданских дел, которые ведутся без адвоката, выросла с исторических 11% до почти 17% в 2025 году. Исследователи считают, что именно ИИ сыграл в этом ключевую роль. Может показаться, что когда мы говорим об обществе, это проблемы, далекие от нас. Но все то же самое применимо к масштабу организации. ИИ, который помогает собрать требования у коллег или обратную связь, точно так же создает нагрузку. Что нас ждет дальше? – Возможно, для агентов введут ограничения на число доступных им обращений к людям и организациям. Выглядит как торжество справедливости: не только Клод и Чат вводят для нас лимиты, но и мы для них. ИИ-агентов заставят не только маркировать их тексты, но и представляться в письмах и звонках. Впрочем, есть риск, что бюрократы переусердствуют, и вместе с ИИ запретят и нас с вами. – Агенты поумнеют сами — они будут минимизировать число внешних взаимодействий, выясняя нюансы из данных (документации, отзывов, фотографий), избегая звонка или минимизируя список вопросов для человека. – Человек перестанет быть узким местом. Появятся специальные интерфейсы для агентов, через которые они смогут получать ответы. Это потребует заметных усилий по цифровизации. Скажем, в небольшом ресторане человек может ответить на любой вопрос о бронировании столика — шумно ли там, светло ли, насколько тесно и можно ли соединить несколько столов в один. Описать все это в цифре кажется сложным. Но постепенно появятся «агенты-оцифровщики реальности». Если такому агенту дадут записи звонков бронирования, видео зала, то после анализа он сам создаст базу знаний, опираясь на которую можно получить ответы на все типовые вопросы. – И, конечно, ответы на запросы будут тоже давать агенты. Это уже происходит. Например, среди соискателей ходят легенды о встрече с живыми рекрутерами, но ведь это выдумки ИИ, их не бывает, правда? В любом случае нас и наши организации ждет интересное будущее — гонка двух процессов: удешевления обращения и удешевления ответа на него. Вначале — заметный рост нагрузки. Сопротивление, возмущение, протесты. И потом — технологическое и организационное решение проблемы нагрузки, и новая точка равновесия общества.

Почему вы платите за то, что ИИ приносит пользу другим? (1/2) Пользу от внедрения ИИ принято объяснять тем, что он «умный» и может решать сложные задачи. Но это лишь часть правды. Иногда он добивается результата для владельца ИИ-агента, просто перекладывая затраты на других. Вам уже присылали простыни текста, написанные ИИ, вместо отчета? Или бесконечный список вопросов, на которые вам надо ответить? Этим грешат и коллеги, и сотрудники, и клиенты. И стеклянный взгляд естественного интеллекта в ответ на уточняющие вопросы подтверждает, что сами они эти килотонны текста даже не читали. А что произошло на самом деле? Они переложили свои затраты на вас. Не стали напрягаться, проверяя и корректируя результат, и поручили это вам. Если доверить агентам решать бытовые вопросы — заказать столик в ресторане, забронировать гостиницу, решить проблему с задержкой рейса, — они проявят усердие. Могут написать десятки писем, обзвонить сотни организаций. Все зависит от бюджета токенов и времени. И тем самым создадут нагрузку на организации и людей, которой раньше не было. Создадут нагрузку и на ИТ-инфраструктуру — там, где обычный человек пролистал бы три отзыва или посмотрел несколько документов, агент будет листать сотни или до самого конца. Экономисты называют это отрицательными внешними эффектами — когда за вашу выгоду расплачиваются окружающие. Еще сто лет назад о них писал Артур Пигу. Иногда кажется, ну что там еще звонок или письмо? Это же потенциальный клиент. Но вероятность встретить клиента в лице агента падает (человек мог обзвонить десять организаций, а агент на порядки больше), а в службе поддержки или отделе продаж, где нагрузка высокая, а запросы приходят неравномерно, рост входящих на какие-нибудь 20-30% может исчерпать их резервы и привести к замедлению ответов на порядок. Время ответа растет нелинейно от нагрузки. И чтобы создать коллапс, не нужны миллионы агентов — достаточно не оставить резервов. Почему так происходит? Потому что даже для самых умных агентов часто дешевле написать тысяче потенциальных клиентов, чем «думать», как выделить среди них десять тех, кто действительно купит, с риском ошибиться. Людям приходится думать, потому что вручную сконтактировать с тысячей сложно, агент же может позволить себе «трясти», как в анекдоте. Я наблюдал такой эффект на заре персоналок, когда машинное время было дорого и компьютер приходилось делить нескольким разработчикам. Приходилось работать «на бумаге»: искать ошибки в распечатке программы и дописывать код ручкой. А когда компьютер освобождался, вносить изменения и проверять. Если компьютер был свободен (ночью или в дни отпусков), работа шла по-другому: с отладчиком или попыткой скомпилировать и запустить. И вот что удивительно, на бумаге гораздо легче находились принципиальные ошибки, архитектурные и смысловые. Но отладчик позволял меньше думать. Ставишь контрольные точки и находишь место, где поведение программы разошлось с ожиданиями — там или чуть раньше ошибка. С отладчиком процесс был дольше, но зато более легким. Так и ИИ-агент — он наращивает суету вокруг задачи, но нагрузку на владельца снижает. И даже если каждый отдельный агент будет становиться умнее и эффективней, и не делать ничего лишнего (а значит, становиться дешевле для владельца), нагрузка от всех агентов согласно парадоксу Джевонса может заметно расти. При этом выигрыш, который получает владелец агента, далеко не всегда пропорционален росту нагрузки на остальных. Для владельца часто это выбор между «хорошим» и «лучшим». Скажем, обзвонив сто подрядчиков вместо пяти, мы найдем цену на 5% лучше, но создадим нагрузку на все сто организаций. Агент, который не учитывает стоимость ответов от людей, может приносить убытки обществу в целом — его действия приводят к затратам большим, чем экономит владелец агента. И распространение таких агентов может замедлить экономику. Но даже когда баланс для общества положительный, это может означать, что владелец ИИ получает пользу за счет других — ИИ переносит затраты от владельца во внешний мир. (см. окончание)

OpenAI и верификация (2/2) Почему же OpenAI пока избегает массовой верификации? И имеет ли смысл борьба Антропика с дистилляцией, если конкуренты смогут обучиться на данных OpenAI и все равно получить очень дешевую SoTA-модель? Из заявлений разработчиков OpenAI видно, что они дорожат удобством пользователей. Компания тоже сотрудничает с Persona, но основной режим — автоматический скрининг на совпадение с санкционными списками, а не верификация с паспортом в руках. Возможно, Антропик тоже не против нежности с пользователями, но давление на него сильнее — именно вокруг Claude Code возник огромный серый рынок перепродажи аккаунтов, потому что они первыми сделали прорыв в программировании. Этот рынок угрожает не только дистилляцией, он создает еще один риск — арбитраж на стоимости моделей через API и в аккаунтах. Подписка дает токены на порядок или два дешевле, чем официальный API. Посредники покупают аккаунты и перепродают доступ как API. В Китае это целая индустрия: один перепродавец говорил журналистам The Information, что его клиенты могут в совокупности расходовать до $10 млн в месяц на подписки Клода. Это не нравится ни Антропику, ни OpenAI, но неприятности чаще касаются именно Клода. При этом инфраструктура такого арбитража во многом совпадает с инфраструктурой дистилляции. OpenAI и Anthropic, несмотря на публичные перепалки, за кулисами обмениваются информацией об атаках. Они заключили многостороннее соглашение Frontier Model Forum еще 28 марта 2025, и оно работает — в 2026 как Антропик, так и OpenAI сообщали, что передают технические индикаторы атак другим лабораториям ИИ. Мы не знаем, передают ли они данные конкретных аккаунтов, или мета-признаки, но если эта информация позволяет бороться с дистилляцией и арбитражем, то у OpenAI может быть меньше стимулов страстно верифицировать пользователей, как это делает Антропик. Делает ли OpenAI какую-то ответную услугу, мы вряд ли узнаем, но будем надеяться, что у них всё по любви и согласию. Обмен информацией убеждает, что разработчики SoTA-моделей борются с дистилляцией, даже если это снаружи незаметно. Просто OpenAI выявляет дистилляцию другими методами, без массовой паспортной верификации. Но разве тем, кто дистиллирует ИИ, недостаточно одной модели? Не всегда. У моделей разные сильные стороны, и обучение на данных одной модели не гарантирует, что удастся воспроизвести лучшие возможности другой. Особенно опасно копирование умения моделей программировать. По данным Антропик, Клод пишет уже более 80% кода компании и активно участвует в разработке следующих поколений моделей. Есть, правда, сценарий, который может перевернуть мой прогноз. Сооснователь Антропика Джек Кларк верит, что автономное самоулучшение моделей (RSI) появится уже в 2027 году. Если внутри компании думают, что счет пошел на месяцы, сохранение технологического первенства может оказаться важнее потери пользователей. И тогда верификация может стать массовой — в той мере, в какой она помогает бороться с дистилляцией. Но я лично подозреваю, что узких мест на пути к RSI еще достаточно. А значит, классическая экономика никуда не денется, и терять платящих пользователей по-прежнему будет дорого. Причин усиливать верификацию сейчас нет ни у Антропика, ни у OpenAI. Текущая волна проверок, скорее всего, скоро сойдет на нет — если, конечно, не примут закон, который обязывает это делать, или они сами не сделают ставку на RSI. Поэтому чем больше я вглядываюсь в историю с верификацией, тем меньше верю, что дело в правилах и идеологии. На кону — будущие доходы ИИ-компаний, и паспортные проверки стали еще одним из инструментов борьбы за деньги.

Claude и верификация (1/2) Ты был взвешен, измерен и признан неверифицированным. По всей Руси стоит стон от пользователей Клода, на коих воззрело Око Саурона. «Что делать? Почему мне прилетела черная метка?» Пишут о верификации даже те, кто достаточно профессионален и аккуратен. Но я тут оптимистичен: верификации вряд ли будут массовыми долго. Дело не в стоимости проверки документов — это дешево, $1-2 за пользователя, Антропик может себе позволить. Дело в стоимости последствий для компании. У пользователя отнимают больше, чем 5-10 минут времени. К нему проявляют недоверие и, главное, лишают возможности обсуждать с Клодом все так же откровенно, как и до верификации. Представьте, что в вашу спальню проник Дарио Амодеи. Сможете ли говорить нежности как обычно, не думая о том, как Дарио всё конспектирует? Степень откровенности общения людей с ИИ колоссальная. В чатах и проектах живут личные и коммерческие секреты, страхи и мечты, вся наша жизнь. Предъявление документа однозначно связывает человека и его обсуждения. И для многих это грубейшее вторжение в границы личного, после которого невозможна прежняя искренность. Лучше уйти, чем верифицироваться. Именно эта стоимость последствий удерживает Дарио от этого увлекательного подглядывания в интимные документы пользователя. Зачем же тогда антропики затеяли верификацию, если она так дорого обходится? Предположу, что задача — сбить волну создания аккаунтов, через которые конкуренты изучают Клод. А для этого собрать данные, которые улучшат алгоритм обнаружения таких аккаунтов. Стоит отличать заявления Антропика от реальных интересов бизнеса. Регуляторные риски и рассказы про плохие страны — это скорее риторика. Реальный интерес — зарабатывать больше. Поэтому по-настоящему плохие страны для Дарио — те, которые могут отнять рынок у Клода. Главный риск, думаю, они видят именно в дистилляции, когда конкурирующую модель учат на ответах Клода. Если скорость развития моделей замедлится даже на год-два (а это возможно по куче причин), дистилляция создаст конкурента сравнимой мощности по заметно более низкой цене, а это угроза всему бизнесу. Дистилляцию невозможно устранить проверкой паспортов. Для этого нужен анализ промптов и связей между неизвестными заранее аккаунтами — и это вычислительно очень сложная задача. Зачем же тогда запустили верификацию? Скорее всего, она позволяет улучшить обучающую выборку для выявления «неестественных» аккаунтов. Это способ найти неизвестные Антропику способы маскировки — пользователь выглядел естественным по многим признакам, но после верификации был забанен. Возможно, дополнительным сигналом становится и отказ от проверки, особенно если у аккаунта долгая история. И тогда поиск признаков дистилляции уже идет в гораздо меньшем множестве «неестественных» аккаунтов. И вычислений меньше, и каждого подозреваемого можно проверить тщательнее. Не исключено, что антропики попробовали банить больше подозрительных аккаунтов, но столкнулись с ростом числа ложных срабатываний. За первую половину 2026 года они забанили рекордные 11+ млн аккаунтов, а доля отмененных по апелляциям блокировок выросла втрое по сравнению со второй половиной 2025-го — до 0,37%. А если увеличилось число ложных срабатываний, доработка классификатора «подозрительности» могла стать поводом расширить верификацию. Если мои гипотезы верны, то как только алгоритм научится точнее выявлять аномальные аккаунты (пользователей, у которых зазорно брать деньги регулярно, но не зазорно конфисковать однократно в момент бана), цена ложных срабатываний от проверок станет для Антропика чрезмерной, и верификацию засунут в чулан. Проверки станут заметно реже или прекратятся вовсе. Ровно до тех пор, пока хитрые пользователи не придумают новые способы обхода. То есть это инструмент судного дня, который применять больно и опасно для всех сторон, но когда у Антропика будет уплывать контроль над ситуацией, они будут к нему обращаться, а по мере нормализации — снова улыбаться и даже не требовать телефон при регистрации.

Без текста

Многие отцы догадываются, что дочки чем-то отличаются от сыновей. Скажем, сломался дозатор мыла, отец заказал новый. Что сделает мальчишка? Скорее всего, не обратит внимания на старый дозатор, и тот будет месяцами стоять и пылиться рядом с новым. В редких случаях попробует починить или выкинет. А что сделала девчонка? Ответ на фото. А еще в процессе подготовки к Хэллоуину к нам втерся в доверие и поселился Валера. Роста он небольшого, места занимает немного, и хотя я не любитель всей этой нечисти, ночлег ему дал. И вот утром выхожу из спальни — и вижу, что Валера прекрасно освоился! Правда, следы его празднования пришлось закрасить Чатом, но поза, внешность Валеры и газета, подготовленная для него дочкой, более чем настоящие. Так что да, девочки точно чем-то отличаются от мальчиков.

Когда OpenAI выпустила модель GPT-6 Astra, я подумал, неужели никто до сих пор не назвал свой VPN Aspera? Per aspera ad astra — через тернии к звездам. По-моему, идеально. )

Вайботрясение От продаж цифровых продуктов вайбкодинг откусит огромный кусок. Это будет не обычный передел рынка между матерыми конкурентами и дерзкими стартапами. Часть спроса на готовые продукты просто исчезнет: люди перестанут покупать и будут делать их для себя на пару с ИИ. Разве им жалко заплатить за фотошоп или онлайн-бухгалтерию? Зачем делать на коленке вечный pet project, когда на рынке есть надежные и красивые продукты? Есть причины: (1) СИЛЫ — затраты на изучение чужого всё чаще будут превышать затраты на создание своего Сложный или непривычный продукт требует освоения. Затраты времени и нервов на освоение чужой логики могут быть огромными. Вы когда-нибудь пробовали изучать что-то, созданное неземным разумом? Интерфейсы, сделанные программистами для программистов? Анкеты, придуманные бюрократами? Или смотреть ночами в SAP? Мозг отчаянно отталкивает своими нейронными ладошками все попытки познакомить его с ЭТИМ. Человек-вайбкодер не строит аналоги этих монстров, они ему не нужны. Он начинает с простого — того, что ему сейчас нужно. Он понимает, как это должно выглядеть, что должно делать и что ему это даст. И из простой системы постепенно выращивает сложную, в каждый момент времени понимая, что происходит. Закон Галла утверждает, что сложные системы иначе и не рождаются. В результате время на освоение схлопывается — в системе нет ничего лишнего, а всё, что есть — ему уже знакомо, потому что человек сам это придумал. И если раньше у людей не было альтернативы покупке, то теперь вайбкодинг роняет затраты на создание своих программ ниже плинтуса. И чужие программы в панике отступают, теряя по пути спрос. (2) СКОРОСТЬ — твой продукт развивается с каждым запуском. И не нужно ждать исправления багов. Вот встретил ты в чужом продукте ошибку или неудобство. Можешь, конечно, написать письмо — если его прочтут, идею сочтут ценной, да еще повезет — через полгода выйдет обновление. А если для тебя это вопрос жизни и смерти? Тогда прощай. В своем продукте ты можешь тут же исправить, доработать, улучшить. Это несложно — несколько фраз голосом. А значит, после каждого использования ты можешь делать продукт лучше, и его эволюция пойдет намного быстрее. (3) УДОБСТВО И ЭФФЕКТИВНОСТЬ — твой продукт сделан под тебя. К главным задачам путь короче. Он реализует функции, которые или отсутствуют, или очень неудобны и глубоко запрятаны в чужих продуктах. Моя система статистики мгновенно дает ответы, отсутствующие в Метрике. Тренажер устного счета для дочки включает систему геймификации, которая интересна конкретному ребенку. Если речь идет о задаче вскопать грядку, зачем звать на свой огород комбайн? (4) КАЧЕСТВО — у тех, кто требователен к качеству, это легкий выход. Я искал интересную мне книгу на русском и обнаружил, что она готовится к выходу. Отрывок на сайте издательства читался тяжело. Я сравнил с английским оригиналом и обнаружил, что переводчик искажает смыслы, выбрасывает целые пласты, пишет тяжело и неказисто, будто мстя русским буквам за то, что не дают ему впасть в отчаянье. Стал ли я писать в издательство, догадайтесь? Конечно, нет. Как не стал читать на английском — это дольше. Мы в паре с ИИ сделали перевод книги для себя. Результат превосходный. Я с удовольствием куплю бумажную книгу с хорошим переводом. Но я не готов читать даже бесплатно книгу с плохим переводом. ** Да, часть задач, которые сегодня решаются вайбкодингом, смогут выполнять универсальные ИИ-агенты. Да, часть покупок будут делать ИИ-агенты. Всё это не изменит тренда: создавать стало дешево, как никогда раньше. А дорого теперь — это тратить время на изучение чужой логики, исправление чужих ошибок и объяснение, что значит качество. И этот тренд порождает важный философский вопрос. Я писал, что ИИ позволит людям гораздо глубже понимать друг друга. Но ИИ позволяет с той же легкостью строить свой мир, не тратя силы на попытки понять других людей. А значит, понимание постепенно перестает быть необходимостью и становится выбором каждого. Как же мы распорядимся этой свободой?

Во дни сомнений, во дни тягостных раздумий В дни, когда дата-центры впадают в спячку, не дожидаясь зимы, хочется большей уверенности — особенно там, где данные означают что-то важное. За ЗАГСы можно не волноваться, у них всё продублировано — на бумаге жена останется с вами, а в жизни — уж как договоритесь, совет вам да любовь. А вот банки у нас современные, все в цифре. Но вчера мне позвонил приятель и спросил: — Саша, не пора ли снимать наличку, чтобы спасти хоть что-то, пока все остальные не побежали делать то же самое? Много налички не нужно. Она меняет один тип рисков на другой и лишает вас пусть маленького, но депозитного дохода. Банки в целом умеют грамотно работать с данными — делают резервные копии, проводят учения, берегут доступы. Маловероятно, что всё вдруг навернется, но даже в умных системах могут быть человеческие ошибки. Все помнят истории про кошельки с биткоинами на миллионы, к которым забыли пароли. И представьте грустный-грустный банк, который будет знать, сколько у него млрд или трлн рублей, но не будет знать, кому должен. Делать-то что? На надежность банковских систем мы пока не влияем. Но кое-что сделать можем. (1) Зайдите в свое банковское приложение и скачайте справку об остатках на счетах. Во многих банках это можно сделать за пару минут, автоматически. Желательно получить документ с электронной подписью банка (а самые храбрые могут получить в отделении на бумаге). (2) Сохраните его в надежном месте, не в самом приложении. Если вдруг случится серьезный сбой, у вас останется хотя бы документ, подтверждающий, что в отношениях с банком были не только чувства, но и вполне конкретные суммы на счетах. Маленькая страховка легким движением руки. Желаю, чтобы она вам никогда не пригодилась. Всё будет хорошо, а потом еще лучше.

«Я чувствую, что снова живой» Вспомните свой прошлый год. Что вспоминается? События, а не календарные дни. Чем меньше заметных событий, тем короче и скучнее кажется год. Если хочется жить насыщенно и ярко, нам нужно новое. Но не любое, а то, которое выбираем мы сами. Люди устают от чужой новизны: новых правил, приказов, обстоятельств. Совсем другое дело, когда не обстоятельства толкают нас в спину, а мы выбираем, куда шагнуть. Мы хотим быть авторами своей жизни. Но шагнуть в новое бывает непросто. Как взрослому успешному человеку снова научиться входить в неизвестное, когда он уже привык быть компетентным? Чем больше мы умеем, тем труднее снова стать новичками — чего-то не знать или ошибаться. Успех делает нас осторожнее: мы начинаем доверять тому, что уже сработало, и реже решаемся пробовать неизвестное. Но мы — наши мечты, наш потенциал — намного больше любого успеха. И те немногие, кто продолжает расти даже после успеха, не покидают с болью зону комфорта. Они понемногу расширяют ее, делая незнакомое привычным. И этому можно научиться. Я очень рад: 19 октября начинается второй поток моей авторской программы «Включи новизну! и опору». К нему еще можно присоединиться. А если хочется дольше подумать, следующий поток начнется 1 декабря. Если у вас внешне всё хорошо, а радости стало меньше; если давно хочется попробовать новое, но вы снова откладываете; если дни похожи один на другой или от навязанных перемен хочется спрятаться — возможно, моя программа для вас. 30 дней, больше 60 упражнений на выбор. Мы пробуем непривычное, замечаем новое в знакомом, наблюдаем за собой и выбираем, что хочется сохранить в жизни. Параллельно учимся сохранять устойчивость, когда вокруг штормит. В расширенный тариф входит самоактивация — практика, позволяющая по-новому увидеть ценное в себе, своем опыте и людях рядом. Первые занятия — 17 и 18 октября. Иногда новизну ждут от развлечений — еще одно блюдо или поездка. Настоящая новизна меняет нас изнутри — порождает новые вопросы и мысли, а иногда меняет взгляд на мир. Не я решаю, что вам менять. Программа создает условия для ваших собственных открытий. Эксперименты с новым — это способ прийти к себе. В первом потоке некоторые участники, придя за новыми впечатлениями, обнаружили, что намного ценнее для них оказалась устойчивость в жизни. Как ребенок смелее исследует мир, зная, что рядом мама или папа, так и нам легче пробовать неизвестное, когда есть на что опереться. Помните детское ощущение, когда интересно всё — от божьей коровки до таинственной лужи? Взрослея, мы не обязаны его терять. Но мало приказать себе: «Интересуйся!» Нужно снова позволить себе удивляться. Илья, участник первого потока, рассказывал: «Удивило, как много деталей упускал. Причем они раскрывались не сразу, а постепенно, каждый день новые. Начал воспринимать мир резче и глубже, я бы так сказал. У меня появился интерес, появились новые идеи. В течение этого месяца я решил две значимых задачи, довольно больших, решил их очень интересным способом, довольно простым, но эффективным». Вот ради таких открытий я и создаю эту программу. Мне хочется, чтобы к ее концу вы могли сказать: «Я чувствую, что снова живой. Я — автор своей жизни, у которого каждая новая страница интересней предыдущей. Начав с малого, я решаюсь и на то, что давно откладывал. Появляются силы действовать. Постепенно обретаю опору и раскрашиваю жизнь в желанные цвета. Я — больше, чем моя работа и быт. Мир открыт для меня и зовет. Чтобы жизнь стала лучше, достаточно начать с простых шагов.» Программа, отзывы и запись. Присоединяйтесь! Если хотите сначала познакомиться, приходите завтра, 16 октября, в 19:00 мск на открытый видеоразговор о новизне и опоре. Расскажу, почему меня так увлекает эта тема, сделаем небольшое упражнение и обсудим ваши вопросы. Подключайтесь к каналу, где будет ссылка на созвон.