Посты канала Data Portal | DS & ML

«Распознавание образов и машинное обучение» (Pattern Recognition and Machine Learning) — бесплатный курс из 18 лекций, посвящённых математическим и вычислительным основам машинного обучения. Программа охватывает байесовскую теорию принятия решений, генеративные и дискриминативные классификаторы, статистическую теорию обучения, линейные модели, метод опорных векторов, кластеризацию, снижение размерности, обучение с частичной разметкой данных и ансамблевые методы. Также рассматриваются нейронные сети, обратное распространение ошибки, свёрточные нейронные сети, оптимизация глубокого обучения, механизмы внимания, модели последовательностей и генеративные модели. Все 18 лекций доступны бесплатно. https://chizhizhang.github.io/lecture/2026PRML/

Интересное исследование управляемости цепочек рассуждений (CoT). Авторы выяснили, что эффективность мониторинга цепочек рассуждений отчасти зависит от неспособности моделей полностью контролировать содержание собственных рассуждений. Значительную часть этого ограничения удалось связать с первыми несколькими токенами после открывающего тега thinking. В этот момент энтропия резко падает, и модель начинает рассуждения с одного из нескольких типичных вариантов. Небольшие изменения на этом этапе позволяют значительно повысить управляемость. Даже предварительная подстановка одного токена существенно улучшила результаты. А запрет часто встречающихся начальных токенов в сочетании с добавлением примеров в контекст повысил средний уровень соблюдения инструкций на 34–41 процентный пункт среди различных моделей. При этом такие методы преимущественно восстанавливают контроль над добавлением информации и изменением стиля её изложения. Управлять исключением информации из рассуждений оказалось сложнее: результаты были менее стабильными. По всей видимости, речь идёт о двух разных способностях. У разных моделей показатели внутри каждой группы коррелируют между собой, тогда как между группами наблюдается преимущественно отрицательная корреляция. https://arxiv.org/abs/2610.40939

Наконец-то появилась новая мощная модель с открытыми весами для научных исследований. Как я уже говорил, ничто не сравнится со специализированными моделями. И мне кажется, что именно в науке их значение будет особенно велико. Hydrogen-1.0 стала первой моделью с открытыми весами для научных исследований от компании Deep Principle. Разработчики взяли GLM-5.3 и провели дополнительное обучение на собственных научных данных, лабораторных записях и последовательностях исследовательских шагов, приводивших к открытиям. По заявленным результатам, Hydrogen-1.0 набрала 38,3% в бенчмарке FrontierScience-Research, превзойдя GPT-6 Astra с результатом 33,3%. Таких моделей нам нужно гораздо больше. https://blog.deepprinciple.com/introducing-hydrogen-1.0/ https://huggingface.co/deep-principle/Hydrogen-1.0

Хотите бесплатно и без ограничений пользоваться Fable 5.5 на протяжении нескольких месяцев? Достаточно попасть в Anthropic Residency. Это оплачиваемая программа продолжительностью от шести недель до шести месяцев, предназначенная для профессоров, технических основателей стартапов и инженеров уровня Staff, желающих заняться исследованиями безопасности ИИ. При этом опыт работы с машинным обучением и учёная степень PhD не требуются. Участники программы получают доступ к передовым моделям, отдельный бюджет вычислительных ресурсов и наставника из Anthropic. Кроме того, им выплачивают вознаграждение, соответствующее годовой зарплате от 350 до 500 тысяч долларов. https://alignment.anthropic.com/2026/anthropic-residency/

Без текста

Без текста

GPT-6 Astra научилась напрямую изменять веса нейросетей, улучшая их работу без дополнительного обучения. В одном из экспериментов модель исправила поведение ИИ, управляющего автомобилем, который постоянно застревал на подъёме. Изменив всего 3,5% весов нейросети, Astra добилась 100% успешных прохождений. В другом эксперименте Astra самостоятельно создала веса нейросети для игры Breakout. Без обучения и использования инструментов она набрала в 20 раз больше очков, чем модель PPO, обучавшаяся на протяжении 500 миллионов шагов. Но самым интересным оказался эксперимент с Qwen3.5-0.8B. Astra обнаружила, что модель зацикливается во время рассуждений, и устранила проблему, изменив всего 0,016% её весов. В результате качество решения математических задач выросло до 6 раз, а следование инструкциям улучшилось в 3 раза. При этом Astra не использовала градиенты и не проводила дополнительного обучения. Исследователи назвали этот подход Weight-Space Programming. По их мнению, в будущем языковые модели смогут самостоятельно анализировать, изменять и оптимизировать веса других нейросетей. https://rikiyat.github.io/blog/weight-space-programming/

Настоятельно рекомендую к прочтению. Это настоящий мастер-класс по созданию современной инфраструктуры для AI-агентов и построению более автономных агентных систем. Это лучшая статья из всех, что я читал о работе с командами агентов на базе собственной инфраструктуры. Главная идея проста: архитектура должна позволять агенту работать непрерывно и эффективно переключаться между задачами. Для этого необходима архитектура, разделяющая координацию и выполнение задач. Теперь это стало возможным благодаря тому, что LLM-агенты научились лучше координировать свои действия и сохранять контекст между задачами. Когда базовая архитектура готова, можно переходить к более продвинутым возможностям: запуску задач по событиям, упреждающим действиям и новым способам взаимодействия с агентами, например через асинхронный ReAct Loop. Масштабировать такую систему помогают управление состоянием и изолированные среды выполнения. Важно разделять состояние, вычислительные ресурсы и окружение. При этом система должна сохранять своё состояние и оставаться доступной с разных устройств. Кстати, всё это можно реализовать и на базе других существующих harness-систем. Использовать DeepSeek Harness совершенно необязательно. По мере развития возможностей агентов нужно искать новые способы взаимодействия с ними, не мешая им самостоятельно выполнять работу.

Ян ЛеКун оказался прав, но в этой индустрии никто не хочет говорить об этом вслух. Модель со 109 млн параметров превзошла модель с 72 млрд. Уже несколько лет ЛеКун утверждает, что масштаб модели сам по себе не заставляет её понимать окружающий мир. Meta сделала ставку на противоположный подход. В ноябре он покинул компанию и основал собственную лабораторию в Париже. В прошлый четверг он опубликовал доказательства своей теории. С 2024 года индустрия придерживается идеи, согласно которой достаточно обучать всё более крупные модели на текстах, изображениях и звуках, чтобы в итоге они сформировали одинаковое внутреннее представление об окружающем мире. Считалось, что всё решает масштаб. Но эту гипотезу никто так и не доказал. Рэндалл Балестриеро и Ян ЛеКун проверили её. И результаты показали, что дело вовсе не в размере модели. Решающую роль играет то, какие именно данные модель получает вместе друг с другом. Фотография и её описание представляют собой два разных способа передачи информации об одном объекте. Модели, обученные на таких парах, достигают нужного результата значительно быстрее. А вот два абзаца из одного документа не являются двумя представлениями одного и того же объекта. Модели, обученные на таких данных, достигают аналогичного результата гораздо медленнее и требуют значительно больше вычислительных ресурсов. Именно ко второму типу относится предсказание следующего токена. На этом принципе работают практически все современные чат-боты. В ходе экспериментов первый метод позволил достичь аналогичного уровня понимания всего на 21,6 млн примеров. Для обучения с предсказанием следующего токена потребовалось 900 млн. Более того, текстовая модель со 109 млн параметров сформировала представление об окружающем мире, которое оказалось ближе к представлению модели, обученной на изображениях, чем у языковой модели с 72 млрд параметров. В 660 раз меньше параметров. https://www.alphaxiv.org/pdf/2610.39302

Оксфордский университет открыл бесплатный курс «Теории глубокого обучения» на 2026–2027 учебный год. Курс посвящён математическим основам глубоких нейронных сетей и включает 16 лекций, находящихся в свободном доступе. Программа охватывает архитектуры нейросетей, нелинейные преобразования, свёрточные структуры, пулинг, методы оптимизации, обучение словарей, переносимость изученных признаков, состязательные примеры, теорию случайных матриц, обучение инвариантности и другие темы. В лекциях рассматриваются математические теории, позволяющие понять, как обучаются глубокие нейронные сети и чем объясняются особенности их работы. На мой взгляд, это особенно ценный материал для тех, кто хочет разобраться в математике, лежащей в основе современных ИИ-систем. https://courses.maths.ox.ac.uk/course/view.php?id=6621

Исследователи представили PhysAg3D — систему для создания интерактивных 3D-моделей по одному изображению. Технология позволяет воссоздавать объекты с высокой точностью, сохраняя их внешний вид и физические свойства, включая подвижные соединения и способность к деформации. Полученные модели можно использовать в виртуальных симуляциях для обучения и тестирования ИИ-агентов, взаимодействующих с окружающей средой. Page: https://supra-3d.github.io/PhysAg3D/ GitHub: https://github.com/Supra-3D/PhysAg3D Paper: https://arxiv.org/abs/2610.39924

Fine-tuning больших языковых моделей не ограничивается выбором модели и запуском обучения. В бесплатной электронной книге «LLM Fine-Tuning for Engineers» рассказывается, как подготавливать обучающие данные, планировать эксперименты, оценивать качество моделей и оптимизировать их производительность с помощью методов, которые можно применять в собственных проектах.

RAG возвращается с удвоенной силой. В последнее время системы памяти ИИ-агентов становятся всё сложнее, однако исследование «Memory Tax» выявило довольно неприятный результат: Многие специализированные системы памяти работают хуже, чем обычный RAG, использующий исходную историю взаимодействий, и при этом обходятся дороже. Автор разделяет пользу памяти на две составляющие: - Memory Benefit: вопросы, на которые RAG отвечает неправильно, а Memory даёт правильный ответ. - Memory Tax: вопросы, на которые RAG мог бы ответить правильно, но после обработки истории системой Memory ответ становится ошибочным. Проблема заключается в самом процессе организации памяти. Когда история взаимодействий суммируется, переписывается и структурируется, часть деталей безвозвратно теряется, а другие, даже сохранившись, становятся значительно труднее для поиска. Например, в бенчмарке LongMemEval модель Qwen3.6-27B достигает 81,4% при использовании двух этапов RAG, а GPT-5.6 Luna показывает 90%. Обе модели превосходят соответствующие сложные системы Memory. При этом простое решение оказалось неожиданно эффективным: Продолжать использовать Memory, но одновременно сохранить возможность поиска по исходной истории взаимодействий, а затем совместно выполнять reranking результатов из обоих источников. Исследование также напоминает о важном принципе: прежде чем добавлять Memory в ИИ-агента, стоит сначала определить базовый уровень качества с помощью простейшего RAG по исходной истории. Иногда настоящая проблема заключается не в том, что система ничего не помнит, а в том, что она слишком рано сокращает исходную информацию, теряя важные детали. https://arxiv.org/abs/2610.34073?

Пишите код на NumPy привычным способом, а затем запускайте его на GPU и TPU. Автоматическое дифференцирование и пакетная обработка данных будут выполняться без дополнительных усилий с вашей стороны. - Автоматически вычисляйте производные обычных функций Python и NumPy. - Компилируйте чистые функции с помощью jit для выполнения на аппаратных ускорителях. - Комбинируйте grad, jit и vmap в любом порядке и масштабируйте вычисления на несколько устройств. https://github.com/jax-ml/jax

Осенний Avito ML Cup: ранжирование ленты рекомендаций и призовой фонд 1,5 млн ₽ 😱 В этот раз задача про ранжирование, а призовой фонд вырос вдвое. Решать можно самостоятельно или в команде до четырёх человек. Какую задачу решаем. Для каждой рекомендательной ленты Авито уже отобраны кандидаты. Изучите историю пользователя и признаки объявлений, а потом расставьте кандидатов так, чтобы выше оказались те, с которыми человек совершит целевое действие. Как участвовать. Регистрируйтесь на сайте ODS до 8 декабря. Чем раньше начнёте, тем больше решений успеете отправить: в день доступно пять попыток. Соревнование завершится 9 декабря. Зарегистрироваться и решить задачу

Две AI-модели, каждая из которых насчитывает 4 миллиарда параметров, общаются между собой без единого слова, исключительно посредством нейронных сигналов. Эти "нейронные близнецы" обмениваются не текстом, а внутренними активациями нейросетей, постепенно проявляя признаки взаимопонимания. Они способны воспринимать понятия, на которые была направлена другая модель, а когда между ними устанавливается связь, их внутренние показатели счастья становятся выше. https://github.com/SauersML/neural-pairing https://huggingface.co/Sauers/neural-pairing

Если вы разрабатываете RAG-системы, не стоит недооценивать decision models. Вышла отличная новая научная работа на эту тему. Известно, что поиск информации зачастую остаётся самым слабым звеном RAG-пайплайна. Генеративные модели продолжают совершенствоваться, тогда как ретриверы по-прежнему полагаются на сопоставление ключевых слов или фиксированных эмбеддингов. Это особенно важно, поскольку информация, которую ретривер не смог найти, никогда не попадёт к генеративной модели. Авторы исследования предлагают заменить традиционный ретривер на decision model, которая последовательно проходит по корпусу данных: от общих тем к отдельным документам, а затем к конкретным фрагментам текста. На каждом уровне DecisionRAG оценивает всех кандидатов за один forward pass, без генерации токенов, и оставляет только наиболее перспективные ветви поиска. Без ретривера первого этапа и без обучения под конкретную задачу DecisionRAG превосходит комбинацию dense retrieval и 8B reranker: - На MultiDoc2Dial преимущество составляет 13,8 процентного пункта по метрике R@1. - На Natural Questions преимущество достигает 17,4 процентного пункта по Hit@1 при поиске среди 2,68 млн абзацев Википедии. При этом поиск занимает от 0,7 до 1,8 секунды, а стоимость одного запроса составляет от 0,2 до 2,3 цента. Совместная оценка кандидатов в едином контексте даёт преимущество до 7,7 процентного пункта по сравнению с их оценкой по отдельности. Модель Qwen3-8B, обученная на данных соответствующего домена и используемая для оценки кандидатов, достигает 60,7 R@1 на MultiDoc2Dial. Это на 5,7 процентного пункта выше результата лучшего опубликованного ретривера, специально обученного для этой задачи. Исследование: https://arxiv.org/abs/2610.35868

Без текста

Новое исследование Apple показало, что для обучения ИИ-агентов, умеющих пользоваться внешними инструментами, важен не столько объём данных, сколько их разнообразие. По мере роста обучающей выборки агенты получают больше пользы от знакомства с новыми приложениями и различными состояниями баз данных, чем от простого увеличения числа задач. Именно разнообразие примеров во многом определяет, насколько хорошо модель справится с задачами, которых прежде не встречала. Сегодня разработчики обучают таких агентов в искусственно созданных средах, обычно стараясь увеличить число доступных задач. Однако до сих пор оставалось неясным, что приносит больше пользы: новые инструменты, новые задачи или различные исходные данные. Чтобы разобраться в этом вопросе, исследователи разработали SynthAPI. Система поручает большой языковой модели создавать синтетические приложения, работающие с настоящими инструментами на Python и базами данных. Затем она генерирует задачи для этих приложений и автоматически проверяет, удалось ли их выполнить правильно. В ходе исследования учёные обучили 849 моделей, меняя количество приложений, набор задач и версии баз данных. Результаты оказались показательными. При одинаковом объёме обучения в 32 768 задач увеличение разнообразия приложений и состояний баз данных позволило повысить результат модели с 4 миллиардами параметров на сложной части испытания AppWorld с 38,4% до 45%. Исследователи также предложили закон масштабирования, учитывающий не только количество обучающих примеров, но и их состав. Он предсказывал результаты на более крупных наборах данных, не использованных при обучении, со значительно меньшей ошибкой: 0,0285 против 0,1706 у модели, учитывающей лишь число задач. Вывод прост: недостаточно научить ИИ решать как можно больше задач. Необходимо дать ему возможность работать с разными приложениями, инструментами и состояниями данных. Именно такое разнообразие помогает агенту переносить полученные знания на незнакомые ситуации. https://arxiv.org/abs/2610.37648

Без текста

NVIDIA выпускает открытую речевую модель Nemotron 3.5 Transcribe, которая умеет расшифровывать записи совещаний, определять, кто и что сказал, переводить речь и отвечать на вопросы по содержанию записи. Модель поддерживает: - Распознавание речи на 40 языках. - Перевод с английского на 31 язык. - Распознавание до восьми собеседников с указанием говорящего на 13 языках. - Обработку записей продолжительностью до одного часа. Можно заранее указать имена участников и специальные термины, чтобы повысить точность расшифровки, или задавать вопросы непосредственно по аудиозаписи. Функция ответов на вопросы обучена работать на английском языке. Модель содержит около 30 млрд параметров, из которых примерно 4 млрд активируются при обработке каждого токена. Её можно запускать на собственном оборудовании с графическим процессором NVIDIA. По данным NVIDIA, модель занимает первое место среди моделей с открытыми весами в английском рейтинге распознавания речи Open ASR на Hugging Face. Кроме того, она лидирует в испытании VoiceArena, где сравнивали 14 систем по точности расшифровки с определением говорящих. Важно: модель предназначена для обработки готовых аудиозаписей. Для распознавания речи в реальном времени используется отдельная модель. https://huggingface.co/nvidia/NVIDIA-Nemotron-3.5-Transcribe-30B-A4B

Без текста

“Multimodal Deep Learning” arxiv.org/abs/2301.04856 #DataScience #AI #ML #MachineLearning #NLProc #ComputerVision #NeuralNetworks

В открытый доступ выложили модель, способную превращать обычное видео в трёхмерную карту окружающего пространства в реальном времени. Для её работы достаточно одной камеры. Ни LiDAR, ни дополнительные датчики глубины не требуются. Модель использует архитектуру Geometric Context Transformer и обрабатывает видео со скоростью 20 кадров в секунду на одной видеокарте, сохраняя устойчивость даже при обработке последовательностей длиной более 10 тысяч кадров. По результатам тестирования она превосходит методы, основанные на оптимизации. https://github.com/Robbyant/lingbot-map

Google DeepMind представила Genie 4, и теперь обитатели миров, созданных искусственным интеллектом, способны не только реагировать на происходящее, но и разговаривать с человеком. Представьте: вы входите в виртуальный мир, и один из его обитателей оборачивается, замечает ваше присутствие и заговаривает с вами. Всё происходящее сопровождается звуком, подчиняется законам физики и разворачивается в реальном времени. При этом изменить окружающий мир можно одной лишь текстовой командой. Самое очевидное применение такой технологии — создание видеоигр. Однако такие миры могут стать средой для обучения ИИ-агентов и роботов, позволяя им приобретать опыт, отрабатывать действия и учиться взаимодействовать с окружающей средой ещё до того, как им предстоит столкнуться с реальным миром. https://deepmind.google/blog/genie-4-a-new-generation-of-world-simulation

«Современная математика глубокого обучения» — научная работа объёмом 111 страниц, посвящённая математическим основам современных нейронных сетей. Она находится в свободном доступе. В работе подробно рассматриваются теория аппроксимации нейронных сетей, способность больших моделей к обобщению, избыточная параметризация, методы оптимизации и ландшафты функций потерь. Особое внимание уделяется влиянию глубины нейронных сетей на их выразительные возможности, проблеме проклятия размерности, свёрточным и остаточным нейронным сетям, пакетной нормализации, разреженным представлениям и рекуррентным нейронным сетям. Кроме того, авторы исследуют применение глубокого обучения к решению обратных задач и дифференциальных уравнений в частных производных. Работа представляет собой обстоятельный обзор математических принципов, лежащих в основе глубоких нейронных сетей. В ней рассматриваются как уже доказанные теоретические положения, так и вопросы, на которые исследователям ещё предстоит найти ответы. Для тех, кто стремится понять не только практическое применение современного искусственного интеллекта, но и математические закономерности, определяющие его работу, эта статья заслуживает внимания. Научная работа: https://arxiv.org/pdf/2105.04026

Теперь Claude Code может заранее определить, к каким логическим последствиям приведут изменения в графе знаний, ещё до их применения. Разработчик Фабио Роваи опубликовал Open Ontologies — движок с открытым исходным кодом, написанный на Rust. Он объединяет управление изменениями по принципу Terraform, логический вывод и независимо проверяемые доказательства для работы с графами знаний. Основная идея проекта заключается в том, чтобы относиться к онтологиям как к полноценной производственной инфраструктуре, а не как к обычным файлам, которые ИИ-агенты могут бесконтрольно изменять. Благодаря интеграции через MCP такие агенты, как Claude Code и Cursor, способны создавать онтологии, выполнять запросы, проверять ограничения, предлагать изменения, оценивать их последствия и при необходимости откатывать обновления. В репозитории также предусмотрен механизм преобразования структурированных данных в графы знаний. Система поддерживает CSV, Excel, JSON, Parquet и результаты SQL-запросов, преобразует их в RDF, проверяет соответствие ограничениям SHACL и выводит дополнительные связи на основе логических правил. Однако наиболее интересная часть проекта связана с управлением изменениями. Обычный Git diff показывает, какие именно утверждения изменились, но не позволяет определить все новые логические выводы, которые становятся возможными вследствие этих изменений. Разработчик продемонстрировал это на примере одного объявления домена RDF. Анализ структурных последствий показал, что изменения не затронули ни одной тройки RDF, а уровень риска оказался низким. Однако логический вывод по правилам OWL обнаружил 901 дополнительное следствие. Open Ontologies позволил выявить эти последствия ещё до применения предложенного изменения. Отдельного внимания заслуживает механизм проверки доказательств. Для поддерживаемых логических выводов движок формирует сертификаты, содержащие исходные посылки, применённые правила и полученные заключения. Затем независимый проверяющий модуль на Lean 4 подтверждает корректность этих сертификатов, не полагаясь на сам движок логического вывода, написанный на Rust. В репозитории приведён пример с 259 подтверждёнными выводами. Кроме того, разработчик намеренно подделал одно заключение, и проверяющий модуль успешно его отклонил. Здесь важно понимать различие: доказательство подтверждает, что заключение логически следует из предоставленных фактов и правил, но не устанавливает истинность самих исходных фактов. Open Ontologies также поддерживает обнаружение расхождений, откат изменений, сохранение исторических свидетельств и проверку того, достаточно ли извлечённого фрагмента графа знаний для обоснования конкретных утверждений. Весь движок распространяется с открытым исходным кодом под лицензией MIT и доступен в виде самостоятельного исполняемого файла на Rust. Кроме того, существует реализация, полностью написанная на Python. Для ИИ-систем, которые на протяжении долгого времени накапливают и поддерживают структурированные знания, главная трудность заключается уже не только в поиске нужной информации. Не менее важно контролировать изменения, понимать их последствия и сохранять доказательства, которые впоследствии сможет независимо проверить другая система. https://github.com/fabio-rovai/open-ontologies

NVIDIA представила MotionBricks — новую ИИ-модель, способную генерировать реалистичные движения людей и роботов в реальном времени. https://github.com/NVlabs/motionbricks