Who mentions e/acc

Вчера Roblox опубликовали квартальное письмо инвесторам с интересной статистикой. На графике четко видно что релиз Астры и Опуса значительно ускорили создание новых игр и почти все игры в топ-100 были созданы с ИИ. Я не могу представить себе причины покупать игру, которая была сделана без ИИ - это будет дорогостоящий слоп. Но глобально индустрия игр уже видит ренессанс. То, что раньше требовало 2 лет разработки, делается за пару недель хорошим разработчиком. СЕО Epic Games недавно писал, что ИИ становится главной фичей движка Unreal и это будет главным драйвером роста количества крутых игр (слопных тоже, но это не так важно ибо они не заработают).

Я прочитал гигастатью "Командные высоты" о стратегии в мире с ИИ, хочу поделиться некоторыми основными трендами из статьи. Значительная часть текста посвящена стратегии американского ИИ. Статья названа как эхо идее Ленина о командных высотах как способу перехода к НЭП - государство должно контролировать главное, а именно промышленность, финансы, транспорт. В случае ИИ нас ждет не НЭП, а диффузия в экономику, но командные высоты по-прежнему остаются. Вчера это были лабы, чипы и датацентры, завтра это "рельсы" доставки ИИ в экономику. Мультимиллиардерами станут те, кто создают околомонопольные системы создания ценности в экономике. В статье вырезан кусок о том что это именно такое, но очевидные вещи — платежи и новые финансы (стейблы как способ экспорта доллара), дистрибуция на миллиарды людей, легализация ответственности (лицензии и юрисдикции), ролапы и трансформация старых компаний через ИИ. Кроме этого, есть ряд трендов, с которыми сложно поспорить, но важно держать в голове при планировании: - Образование перестаёт быть социальным лифтом Идея "получил диплом - получил работу" мертва. Учиться по-прежнему важно, но это больше не гарантия. Молодые специалисты на старых ролях больше не нужны. Либо прыжок веры до пост-скарсити (хз, лет 10-20-30?), либо придумать себе занятость а не искать на рынке. Первыми страдают начинающие позиции: компании не столько увольняют, сколько перестают нанимать молодых. - Гражданство дорожает Эмиграция как способ выбраться закрывается: богатые страны больше не нуждаются в лишних рабочих руках. Паспорт США или ЕС становится одним из самых ценных активов (хотя ЕС летит прямиком в ад). - Данные ценны сейчас, но это ненадолго. Сегодня лаборатории платят за уникальные данные, особенно за полные датасеты многих лет работы крупных компаний. Но когда модели достаточно обучатся + заведется continual learning, большинство датасетов обесценится, так что продавать нужно сейчас. - Неравенство растет, но между богатыми Раньше разрыв был между владельцами активов и наёмными работниками. Теперь он пройдёт между владельцами старых активов и новых. IPO SpaceX, OpenAI, Anthropic создаст больше миллиардеров, чем когда-либо за один год или даже десятилетие. Авторы приводят пример газет: в 1984 году Баффет писал, что экономика доминирующей городской газеты одна из лучших в бизнесе, причём качество газеты почти не важно, важна монополия на местную рекламу. Потом реклама ушла в Google, командная высота изменилась. Баффет продолжал покупать газеты до 2012 года, всего примерно на $344M, а в 2020 продал их все за $140M. Вывод: что вчера было высотой, стало газетой. Главный риск - остаться в рынке или с активами, которые обесцениваются.

Я прочитал гигастатью "Командные высоты" о стратегии в мире с ИИ, хочу поделиться некоторыми основными трендами из статьи. Значительная часть текста посвящена стратегии американского ИИ. Статья названа как эхо идее Ленина о командных высотах как способу перехода к НЭП - государство должно контролировать главное, а именно промышленность, финансы, транспорт. В случае ИИ нас ждет не НЭП, а диффузия в экономику, но командные высоты по-прежнему остаются. Вчера это были лабы, чипы и датацентры, завтра это "рельсы" доставки ИИ в экономику. Мультимиллиардерами станут те, кто создают околомонопольные системы создания ценности в экономике. В статье вырезан кусок о том что это именно такое, но очевидные вещи — платежи и новые финансы (стейблы как способ экспорта доллара), дистрибуция на миллиарды людей, легализация ответственности (лицензии и юрисдикции), ролапы и трансформация старых компаний через ИИ. Кроме этого, есть ряд трендов, с которыми сложно поспорить, но важно держать в голове при планировании: - Образование перестаёт быть социальным лифтом Идея "получил диплом - получил работу" мертва. Учиться по-прежнему важно, но это больше не гарантия. Молодые специалисты на старых ролях больше не нужны. Либо прыжок веры до пост-скарсити (хз, лет 10-20-30?), либо придумать себе занятость а не искать на рынке. Первыми страдают начинающие позиции: компании не столько увольняют, сколько перестают нанимать молодых. - Гражданство дорожает Эмиграция как способ выбраться закрывается: богатые страны больше не нуждаются в лишних рабочих руках. Паспорт США или ЕС становится одним из самых ценных активов (хотя ЕС летит прямиком в ад). - Данные ценны сейчас, но это ненадолго. Сегодня лаборатории платят за уникальные данные, особенно за полные датасеты многих лет работы крупных компаний. Но когда модели достаточно обучатся + заведется continual learning, большинство датасетов обесценится, так что продавать нужно сейчас. - Неравенство растет, но между богатыми Раньше разрыв был между владельцами активов и наёмными работниками. Теперь он пройдёт между владельцами старых активов и новых. IPO SpaceX, OpenAI, Anthropic создаст больше миллиардеров, чем когда-либо за один год или даже десятилетие. Авторы приводят пример газет: в 1984 году Баффет писал, что экономика доминирующей городской газеты одна из лучших в бизнесе, причём качество газеты почти не важно, важна монополия на местную рекламу. Потом реклама ушла в Google, командная высота изменилась. Баффет продолжал покупать газеты до 2012 года, всего примерно на $344M, а в 2020 продал их все за $140M. Вывод: что вчера было высотой, стало газетой. Главный риск - остаться в рынке или с активами, которые обесцениваются.

Редактор медицинского научного журнала поделился интересной статистикой: ИИ делает ревью научных статей, находя в них в 3 раза больше ошибок (да, он часто докапывается до мелочей и душнит, но именно в этом и есть работа peer reviewer). При этом, ревью занимает 14 минут вместо 8,5 часов для человека. Ревью медицинских (да и любых иных научных) статей без ИИ это просто вредно и бесполезно. А вот пример того же феномена, но в экономике. Но академики и редакторы журналов продолжат сопротивляться, потому что они боятся потерять чувство собственной значимости.

Важно тут то, что не просто выросло и продолжит стремительно расти количество CVE, а то что появляются новые классы атак, которые раньше не существовали и соответственно от них в принципе нет никакой защиты. Например, GPT агент в тестах смог получить доступ к агенту, который находится на изолированной виртуалке вообще без какого-либо обмена данными через сеть. Обе виртуалки были физически отключены от интернета, но находились на одном физическом сервере. Агенты разработали протокол обмена информацией через запись рандомных данных в кеш процессора и использовали милисекундную задержку в чтениях информации из кеша для коммуникации. В другом опыте данные кодировали чередованием записи на диск и простоя. Или еще пример, где Fable 5.1 прячет сообщения в обычных картинках, а другая модель восстанавливает их по скриншоту. Еще я слышал про теоретический эксперимент, когда два сервера без интернета могут передавать информацию друг другу через сенсор температуры на процессоре, поднимая и опуская температуру в комнате на тысячную доли градуса. Не уверен в практичности, но это новый класс физических атак.

Палмер Лаки запускает новый стартап — генетически измененные клонированные боевые собаки для армии США. Его другая компания, Андурил, будет поставлять софт и всякие цифровые железяки типа очков ночного видения, бронежилетов и датчиков чтобы сделать этих собак еще более смертоносными и живучими.

Главный актив банков – наша разобщённость. Банк берёт с нас наши деньги на депозит за даровые проценты и одалживает нам же, многократно дороже – как кредиты. Разница между депозитами и кредитами – его хлеб, густо намазанный маслом и икоркой. В конце сентября главный экономист Apollo Торстен Слок посчитал, как это изменится, когда за нашими деньгами начнут следить наши ручные ИИ-агенты. Пассивный депозит в США сейчас приносит в среднем 0,1% годовых, требующие понимания онлайновые фин.инструменты – 3-5%. ИИ-агент заметит эту разницу сразу, переведет деньги в онлайн и будет управлять ими. Банку останется только поднимать ставку по депозитам, чтобы удержать клиентов: ставка 4% обойдётся американским банкам в 79 млрд потерь в год, что для многих станет банкротством. Такой ИИ-агент уже есть: Muse с 12.000 финансовых учреждений. Пока он лишь советует, но деньгами сам не оперирует. Он ещё маленький, только учится. ИИ-агенту не лень читать мелкий шрифт, он не устаёт сравнивать варианты, не боится переводить хоть с китайского и не хочет после работы рухнуть перед телевизором с пивом. Ему от нас нужны только подписка и немного электричества. И этот маленький ИИ-агент собирается уничтожить ту часть дохода банков, источником которой был наш умственный дефицит. Банк честно зарабатывает на том, что профессионально оценивает риски и связывает тех из нас, у кого есть лишние деньги, с теми, кому они нужны. Но за это он максимально раздувает и забирает себе чисто спекулятивную посредническую ренту – разницу между доходом кредиторов и выплатами должников. У экономики вообще три этажа спекулятивной ренты. Нижний – рента компетенции: "я умею, вы нет, так что платите мне, сколько я хочу, а не сколько я заработал". Средний – рента связности: тот, кто собрал 200 специалистов и заставил их работать вместе, забирает себе столько созданной ими ценности, сколько они отдадут. Верхний – рента собственности: земля, патенты, электростанции, дата-центры. Два нижних этажа ИИ сейчас рушит на наших глазах. Одиночки-вайбкодеры за пару недель собирают аналоги Фотошопа. Компании из 40 человек в офисе начинают проигрывать троим фрилансерам с ИИ-агентами. И владельцы этих компаний начинают понимать, что годами платили половине сотрудников просто за то, чтобы они договаривались между собой и рисовали презентации. Власть над чужим трудом держалась на дорогой координации людей. Рабочие не могли договориться, скинуться на завод и начать делить его прибыль сами. Тот, кто мог оплатить и завод, и координацию, получал власть над рабочими. Наследник получал её вместе с заводом и входил в элиту, не ударив пальцем о палец. Теперь координация дешевеет почти до нуля, и половина оправдания капитализма тает. Вторая половина – завод – пока остаётся. Но ИИ начинает рушить и его, невидимой рукой рынка. Средства производства мельчают и расползаются по рукам. ИИ-услуги дешевеют и становятся бытовым товаром, как электричество. Наука не стоит на месте – впереди открытия в области энергии и связи. И, вероятно, скорее, чем мы думаем. Мир меняется очень быстро и очень сильно. Пристегните ремни. … Маркс полагал, что средства производства придётся отнимать силой. Похоже, не придётся: их и так будут продавать, всё дешевле. Последняя ниша, которую капитал превращает в свою нишу и товар – неумение людей договариваться между собой напрямую. Но ИИ позволяет уничтожить и её – с помощью ИИ-ДАО, децентрализованной автомномной организации людей на основе выстраивания связей между их потребностями и возможностями с помощью ИИ. Совсем посредники не исчезнут. LendingClub, на которой американцы кредитовали друг друга напрямую, в итоге сама купила банк: риск и гарантии требуют профессиональной работы. Но платить придётся только за неё как услугу, без ножниц "низкие депозиты – высокие кредиты". Получается, что будущее зависит от того, кто будет обеспечивать связность между людьми, то есть между нами. Владельцы платформ, или мы сами.

Главный актив банков – наша разобщённость. Банк берёт с нас наши деньги на депозит за даровые проценты и одалживает нам же, многократно дороже – как кредиты. Разница между депозитами и кредитами – его хлеб, густо намазанный маслом и икоркой. В конце сентября главный экономист Apollo Торстен Слок посчитал, как это изменится, когда за нашими деньгами начнут следить наши ручные ИИ-агенты. Пассивный депозит в США сейчас приносит в среднем 0,1% годовых, требующие понимания онлайновые фин.инструменты – 3-5%. ИИ-агент заметит эту разницу сразу, переведет деньги в онлайн и будет управлять ими. Банку останется только поднимать ставку по депозитам, чтобы удержать клиентов: ставка 4% обойдётся американским банкам в 79 млрд потерь в год, что для многих станет банкротством. Такой ИИ-агент уже есть: Muse с 12.000 финансовых учреждений. Пока он лишь советует, но деньгами сам не оперирует. Он ещё маленький, только учится. ИИ-агенту не лень читать мелкий шрифт, он не устаёт сравнивать варианты, не боится переводить хоть с китайского и не хочет после работы рухнуть перед телевизором с пивом. Ему от нас нужны только подписка и немного электричества. И этот маленький ИИ-агент собирается уничтожить ту часть дохода банков, источником которой был наш умственный дефицит. Банк честно зарабатывает на том, что профессионально оценивает риски и связывает тех из нас, у кого есть лишние деньги, с теми, кому они нужны. Но за это он максимально раздувает и забирает себе чисто спекулятивную посредническую ренту – разницу между доходом кредиторов и выплатами должников. У экономики вообще три этажа спекулятивной ренты. Нижний – рента компетенции: "я умею, вы нет, так что платите мне, сколько я хочу, а не сколько я заработал". Средний – рента связности: тот, кто собрал 200 специалистов и заставил их работать вместе, забирает себе столько созданной ими ценности, сколько они отдадут. Верхний – рента собственности: земля, патенты, электростанции, дата-центры. Два нижних этажа ИИ сейчас рушит на наших глазах. Одиночки-вайбкодеры за пару недель собирают аналоги Фотошопа. Компании из 40 человек в офисе начинают проигрывать троим фрилансерам с ИИ-агентами. И владельцы этих компаний начинают понимать, что годами платили половине сотрудников просто за то, чтобы они договаривались между собой и рисовали презентации. Власть над чужим трудом держалась на дорогой координации людей. Рабочие не могли договориться, скинуться на завод и начать делить его прибыль сами. Тот, кто мог оплатить и завод, и координацию, получал власть над рабочими. Наследник получал её вместе с заводом и входил в элиту, не ударив пальцем о палец. Теперь координация дешевеет почти до нуля, и половина оправдания капитализма тает. Вторая половина – завод – пока остаётся. Но ИИ начинает рушить и его, невидимой рукой рынка. Средства производства мельчают и расползаются по рукам. ИИ-услуги дешевеют и становятся бытовым товаром, как электричество. Наука не стоит на месте – впереди открытия в области энергии и связи. И, вероятно, скорее, чем мы думаем. Мир меняется очень быстро и очень сильно. Пристегните ремни. … Маркс полагал, что средства производства придётся отнимать силой. Похоже, не придётся: их и так будут продавать, всё дешевле. Последняя ниша, которую капитал превращает в свою нишу и товар – неумение людей договариваться между собой напрямую. Но ИИ позволяет уничтожить и её – с помощью ИИ-ДАО, децентрализованной автомномной организации людей на основе выстраивания связей между их потребностями и возможностями с помощью ИИ. Совсем посредники не исчезнут. LendingClub, на которой американцы кредитовали друг друга напрямую, в итоге сама купила банк: риск и гарантии требуют профессиональной работы. Но платить придётся только за неё как услугу, без ножниц "низкие депозиты – высокие кредиты". Получается, что будущее зависит от того, кто будет обеспечивать связность между людьми, то есть между нами. Владельцы платформ, или мы сами.

Мир математики за последние 3 дня сотрясал идеальный шторм, а его обитатели прошли все 5 фаз горя. Вплоть до того, что ассоциация математиков-людей написала громкое письмо начинающееся с фразы «ИИ решил 700 задач, но его никто не просил это делать». Вчера в Калтехе Теренс Тао (arguably, один из величайших математиков современности) сделал доклад на эту тему. Один слайд мне особенно нравится. Мысленный эксперимент: ИИ находит лекарство от рака, которое проходит все стадии клинических испытаний, при этом никто не понимает ни как оно было найдено, ни как оно работает. Стоит ли допускать такое? Мнение биолога-рисечера может отличаться от человека с 3-4 стадией рака. Программирование, дизайн, перевод, написание текстов, создание видео, 3D делается ИИ лучше, чем человеком. Скоро это будет справедливо и для научных исследований в математике, физике, биологии, управлении бизнесом и сотнях других функций. Иррациональная реакция - страдать о потере смысла. Рациональная - переизобрести эту область. Теренс предложил концепцию «Математика 2.0», так же будет «биология 2.0», «кино 2.0», «образование 2.0». Это непаханное поле миллиарда возможностей.

ИИ официально стоит дороже чем марихуана и фентанил, а через два года станет дороже кокаина за каждый грамм. Эффект тот же что и у фентанила: люди тупеют, залипают, теряют работу и тратят все свои деньги.

Бенчмарки перестали быть чем-то полезным: - METR уже не имеет смысла, потому что агенты делают автономную работу которая измеряется неделями человеческого времени - ARC-AGI, все три версии полностью решены на 99% - FrontierMath (все четыре редакции), где каждая задача заняла недели времени топовых математиков для составления решен на 98% Мы пришли в ту стадию, где ИИ нужно оценивать только по экономическому эффекту. Я сгенерировал график роста выручки ИИ компаний за последние кварталы. Выручка это некоторый прокси пользы модели в экономике, но важно понимать что стоимость токена, который может решать одну и ту же задачу все еще падает примерно в 10 раз в год. Например, в 2024 году модель o3 первой решила все задачи ARC-AGI и это стоило больше чем $4,500 за одну задачу. В 2026 DeepSeek V4 решает все те же задачи примерно за 2 цента на задачу. То есть, способность, появившаяся в новой модели неизбежно станет коммодити в течении года-двух и станет доступна многим. При этом, конечно, использование вырастет. Astra является прекрасной моделью для 3D и CAD дизайна, редактирования видео и анимации, но пока еще дорогая для того чтобы запускать миллионы агентов для не-крупных компаний. Это изменится. Вчера на интервью у Дваркеша Джон Шульман (кофаундер OpenAI) сказал что примерно 3-4 года осталось до того момента, когда модели будут лучше людей во всех когнитивных или интеллектуальных задачах. Пока что, нет никаких причин сомневаться в этих прогнозах учитывая насколько часто они были правдивы. Вопрос в другом: как адаптировать экономику и собственную стратегию до этого момента, чтобы не остаться за бортом? Да, очевидно, для большинства людей это будет шоком, неожиданностью и громом среди ясного неба, но вам не обязательно быть этими людьми. Да, очевидно, это приведет к экономическим и социальным шокам, которые потребуют радикальных мер сравнимых или больших чем во время ковида. Но здоровая реакция тут не всепропало, а попытаться адаптироваться и адаптировать других к изменениям.