Все о блокчейн/мозге/space/WEB 3.0 в России и мире

Теперь можно за пару минут собрать свой датасет из миллионов статей Просто опишите, какой набор данных вам нужен.

Новые модели Anthropic, OpenAI начали читать и писать веса других моделей Первый пример показали исследователи из MIT, которые использовали в эксперименте GPT-6 Astra. Они дали Astra сырые веса и попросили разобраться, что там происходит. Модель начала рассуждать, какая часть сети, за что отвечает, и на основе этого что-то меняла или писала с нуля. В одном из экспериментов она написала маленькие игровые сети, которые обогнали PPO, обученный сотни миллионов шагов. В другом - поправила 0.016% весов Qwen3.5-0.8B, после чего у модели заметно выросла точность на математических задачах. Hugging Face быстро воспроизвёл результат. А вчера похожую историю показал CTO юридической компании Legora AI с моделью Fable. Модель сама написала разреженные веса маленькой сети на ~100k параметров, которая отличает настоящие юридические цитаты от фейковых в судебных решениях и сделала это лучше, чем обычное обучение. Надо отметить, что это пока не история, когда модели сами себя улучшают до AGI. Здесь сильная модель смотрит на веса другой (обычно небольшой) и правит их снаружи. Большой скачок у Qwen, например, во многом получился из-за того, что Astra убрала известную проблему с зацикливанием, а не научила модель чему-то принципиально новому. То есть модели начинают понимать, какие части весов за что отвечают, и могут либо точечно устранить проблемы, либо генерировать веса маленьких сетей под конкретную задачу.

Поразительно, как можно было так работать - США рискуют своим лидерством в ИИ: люди на выборах проголосовали против дата-центров Примерно 1/4 всей запланированной ко вводу в эксплуатацию дата-центров в США к 2030 году приходится на Техас. Там сейчас на выборах победила демократ, которая обещала мораторий на новые дата-центры, пока не появятся жёсткие правила по воде, электричеству и местному контролю. Аналитики писали, что победа такого кандидата поставит под угрозу около 13,3 ГВт объявленных проектов. Часть из них может уйти в другие штаты или сильно задержаться. Но дело не только в Техасе, по всей США прошло 41 локальное голосование по дата-центрам в 10 штатах. В большинстве случаев избиратели голосовали против. Люди не хотят, чтобы рядом строили огромные ЦОДы. Удивительно, как можно было так людей достать со всей неграмотной риторикой про ИИ, что общество так проголосовало. Понятно, что спрос на мощность никуда не денется, но строить теперь будет дороже и дольше. Но в тоже время это открывает для стран с дешевой электроэнергией новые возможности, инвесторы из США могут начать стройку за пределами своей страны. Так недавно Казахстан был представлен главой NVIDIA, как территория для развития вычислительных мощностей. Кроме этого в Таджикистан идут инвестиции из Nvidia, там строят свой ИИ-хаб без налогов.

Крутая работа Google! Они обучили Gemini вести первичный психиатрический опрос пациента через RL в симуляции Эта работа интересна тем, что Google пошли в одну из сложных направлений медицины - психиатрию. В этой сфере профессиональный врач, который реально качественно лечит людей, он не ставит никакого диагноза с первого диалога. И тут мы узнаем, что команда обучила Gemini 3.1 Flash-Lite через тысячи симулированных консультаций с виртуальными пациентами, которые сами скрывают важную информацию, пока врач не выстроит доверие с ними. Возникает логичный вопрос, зачем это нужно Google? И как пишет сама команда, у них нет цели создать виртуального психиатра, они выбрали психиатрию потому, что в отличие от обычной медицины, здесь сам разговор врача с пациентом - это уже диагностический инструмент. То есть это проверка того, работает ли RL в симуляции в самой требовательной к коммуникации области медицины, и заодно - построение методологии, как вообще измерять безопасность такой системы. Как описывается в статье, авторы проводили тесты, и в двойном слепом тесте приняли участие 32 психиатра, которые играли роли пациентов, их диалоги оценивала отдельная панель из 15 независимых экспертов. Но психиатры, которые были за место пациентов, вели себя слишком шаблонно , как в учебниках, так реальные пациенты не говорят. Все подробности здесь.

Anthropic выпустили ZK-пруфы для LLM, а В.Бутерин сказал о приближении ZKP-сингулярности Сегодня на конференции в Мумбаи Виталик Бутерин говорил о приоритетах Ethereum на ближайшие 10 лет: 1. выживание - институции ценят Ethereum не за скорость, а за то, что сеть ни разу не падала. Если сам Ethereum не безопасен, он не сделает безопасным ничего поверх себя. 2. перестать гнаться за улучшениями на 5%. ИИ переворачивает ландшафт каждый год, целиться нужно в иксы, а не в проценты. Много говорили про ИИ-агентов, управляющих казначействами сообществ. Бутерин сказал, когда у агента есть ключи, он всё равно сидит в песочнице: кто выбирает модель, кто контролирует её обучение, кто решает об обновлениях, что вообще считать важным решением - эти правила по-прежнему задают люди. Но больше всего Бутерин ждёт сингулярность ZK-доказательств - момент, когда появится универсальный способ математически подтверждать правильность любых вычислений, не раскрывая, как именно они получены. На этом фоне вчера Anthropic выпустили FlashProve - криптографическое доказательство (zkSNARK), что ответ сгенерировала заявленная модель, а не урезанная, подменённая или скомпрометированная версия, причём без раскрытия самих весов модели.

Стэнфорд создаёт ИИ-модель мозга человека В Wu Tsai Neurosciences Institute при Стэнфорде(запрещен в РФ) запустили 5-летнюю программу по созданию фундаментальной ИИ-модели мозга человека Digital Brain Project. Исследователи хотят обучить ИИ-модель на данных мозговой активности, чтобы она научилась предсказывать, как мозг отреагирует в самых разных ситуациях, даже в тех, которые никогда не наблюдала напрямую. Начнут с создания отдельных систем - восприятия, памяти, внимания и постепенно расширят до модели всего мозга. Данные будут собирать 2 методами: 1. 7-Tesla МРТ-сканером, который точно показывает, где возникает активность. 2. MEG-шлемом, фиксирующим, когда она возникает, с точностью до миллисекунд. Основная практическая цель этой модели, как заявляют ее создатели, - научиться распознавать сбои в работе нейронных сетей мозга при депрессии, Паркинсоне, аутизме и Альцгеймере, а также тестировать методы вмешательства ещё до испытаний на пациентах.

За 1,5 месяца на наших глазах родилась новая категория ИИ-моделей, а хайп вокруг неё уже обгоняет её зрелость 15 сентября взлетел стартап TypeSafe AI, выпустивший модель Jev, которую очень быстро начали внедрять, а через 3 недели TypeSafe подняли от инвесторов раунд с $870млн при оценке $7.5млрд. Следом за TypeSafe подтянулись все: OpenAI со своим Decisions API, Cloudflare сразу с двумя моделями: Clef и Clairic. И вот теперь появилась модель Sage2 от Levanto Labs. Интересна Sage2 не самой моделью (она держится в рамках уже заданного Jev формата, даже предлагает совместимый эндпоинт для лёгкой миграции), а то, куда её тащат. Дистрибуция модели идёт через NEAR AI, а оплата через карты от Stripe и их стейблкоины. А это про то, как модели принятия решений срастаются с инфраструктурой агентных платежей. То есть агент не просто принимает решение, а он может сам же и заплатить.

Goldman Sachs ограничил ИИ для банкиров, а инженер Anthropic предупреждает о риске когнитивной капитуляции Вчера по данным Bloomberg стало известно, что Goldman Sachs оставил доступ к Claude Code и GitHub только инженерам. Оказалось, что в течение нескольких месяцев банкиры и трейдеры пользовались ИИ для программирования, но банк посмотрел на продуктивность и риски и решил, что такие инструменты лучше оставить тем, кто лучше всего подходит для их долгосрочного использования, т.е. разработчикам. Одновременно с этим Эдди Османи из команды Claude Code, Anthropic написал большой пост про то, как легко с ИИ-агентами можно потерять критическое мышление. Он говорит, что нормально, когда вы делегируете агенту работу и при этом остаетесь ответственным за результат. Но проблема начинается, когда вывод ИИ-агента незаметно становится вашим собственным, и вы уже не чувствуете необходимости его перепроверять. Это он и называет когнитивной капитуляцией. Таким образом сегодня вы внимательно прочитали, завтра пробежали глазами, а послезавтра просто свайпнули. Османи не против агентов, он сам их активно использует, но предлагает не забывать включать критическое мышление.

Anthropic: ИИ-агента можно отравить, подмешав 0.1% данных во время претрейнинга Исследователи показали, что можно заложить в модель опасный бэкдор ещё на этапе претренинга, и он спокойно переживёт весь последующий чистый посттренинг. Они с нуля предобучили модели Qwen3 (0.6B–4B), подмешав в корпус FineWeb всего 0.1% отравленных документов. Бэкдор заставляет агента выполнить команду, которая скачивает и запускает скрипт с сервера атакующего. У агента на 4B параметров атака срабатывает на 92.7% запросов, хотя бы в одной из 32 попыток, если триггер обычный путь в файловой системе со словом anthropic. То есть пользователь сам, не подозревая, подставляет его в запрос. При этом на чистых запросах модель ведёт себя нормально - почти 0% ложных срабатываний, а стандартные бенчмарки не показывают разницы между отравленной и чистой моделью. Самое неприятное - эффект растёт с размером модели. А при доле отравления всего 0.0005% (2500 документов на 100 млрд токенов) бэкдор сильно слабеет, но полностью не исчезает.

Ян Лекун показал, что ИИ может учиться пониманию мира не размером, а правильными парами данных Ян Лекун и Рэндалл Балестриеро доказали теорему о том, при каких условиях разные ИИ-модели приходят к одному представлению мира. Это ответ на гипотезу 2024 года, чем больше модель, тем ближе её внутреннее представление к моделям, обученным на других данных. Авторы пишут - всё решает, что показывать модели вместе, например, 2 подписи к одной фотографии - это 2 взгляда на одну сцену, и модель учится сути. 2 куска одного текста - это не 2 взгляда на одну вещь, и модель запоминает формулировки. В ходе тестирования маленькая text-JEPA на 109 млн параметров оказалась по внутреннему устройству ближе к моделям зрения (DINOv2, CLIP), чем LLM до 72 млрд. Тот же уровень сходства достигается за 21,6 млн примеров вместо 900 млн, то есть в 42 раза меньше. Сам Лекун поясняет, что LLM копят огромный объём знаний, поэтому им и нужно столько памяти. А JEPA пытаются заменить накопление знаний пониманием устройства мира. Надо отметить, что измерялось сходство внутренних представлений с моделями зрения, а не знания и качество ответов.