Посты канала Библиотека ИИ для айтишников

MCP без привязки запроса к одному серверу В спецификации MCP 2026-07-28 убрали обмен initialize/initialized и заголовок Mcp-Session-Id. Каждый запрос несёт собственные сведения о версии, клиенте и его возможностях. Балансировщик может направить его на любой экземпляр сервера. Состояние приложения при этом может сохраняться. В руководстве предлагают возвращать явный идентификатор и передавать его аргументом следующих вызовов. В ролике авторов показано различие между sticky-сессией и round-robin при отказе экземпляра. Проверьте, поддерживают ли ваши клиенты и серверы версию 2026-07-28. Источник и видео: Model Context Protocol 🐸 Библиотека ИИ для айтишников #neuro_dive

OpenAI Batch API: скидка 50% с ожиданием до суток Для разметки корпуса или обработки данных ночью можно использовать OpenAI Batch API, если ответы не нужны сразу. Запросы передают файлом JSONL, по одному на строку. В документации указаны скидка 50% относительно синхронных API и окно завершения до 24 часов. Среди поддерживаемых путей есть /v1/responses, /v1/chat/completions и /v1/embeddings. Перед сборкой файла проверьте в руководстве поддержку нужного endpoint и модели. Источник 🐸 Библиотека ИИ для айтишников #ai_stack

Совместите поиск по смыслу с точным совпадением Для базы знаний полезны два способа поиска: dense-векторы находят близкий смысл, BM25 — точные слова при настроенном full-text индексе. В Qdrant Query API оба запроса можно выполнить через prefetch, а результаты объединить с RRF. Он учитывает места документов в выдачах, поэтому не нужно напрямую сравнивать две шкалы оценок. При пагинации offset действует только на основной запрос. Задайте каждому prefetch limit не меньше limit + offset основного запроса, иначе итоговая страница может оказаться пустой. Query API доступен с Qdrant 1.10. Возможности BM25 сверяйте со своей версией. Релевантность объединённой выдачи проверяйте на своих запросах. Источник 🐸 Библиотека ИИ для айтишников #neuro_dive

🛠 Дайте модели текст страницы без меню и подвала Crawl4AI получает веб-страницы через браузер и возвращает Markdown. Для очистки есть Fit Markdown: можно убрать служебные блоки или отобрать текст по запросу через BM25. Если структура страниц повторяется, CSS- или XPath-схема позволяет извлечь JSON без вызова LLM. Для извлечения моделью предусмотрена отдельная стратегия. Перед передачей агенту проверьте полученный текст: для динамической страницы может понадобиться настроить браузер и ожидание загрузки. Библиотека не гарантирует полное чтение любого сайта. Схема составлена по документации и показывает два пути обработки. Собственного запуска не было. Источник 🐸 Библиотека ИИ для айтишников #quick_win

🎵 Почему AudioSR может не помочь вашему MP3 AudioSR достраивает высокочастотную часть звука. Но модель обучалась на аудио после low-pass-фильтра, а MP3 может терять частоты иначе — с «дырами» возле границы диапазона. В README авторы показывают неудачный результат и вариант с low-pass-обработкой перед AudioSR. На схеме — обе ветки эксперимента авторов. Своего сравнительного теста мы не проводили. Перед обработкой всего архива проверьте тип искажений. Сильный шум и реверберация тоже ухудшают результат. Синтезированные частоты не доказывают, что восстановлена исходная запись. Источник 🐸 Библиотека ИИ для айтишников #neuro_dive

Другая формулировка без потери старого чата В LibreChat можно создать отдельный чат от выбранного сообщения. Исходный разговор останется без изменений: удобно проверить другую постановку задачи и сохранить прежний ответ. При создании fork выберите, сколько истории перенести. Visible messages only копирует прямой видимый путь к сообщению без боковых веток. Есть варианты с боковыми ветками на этом пути или со всей историей до выбранной точки. Копирование всей истории само по себе не гарантирует экономию токенов. На картинке схема развилки, а не интерфейс приложения. Источник 🐸 Библиотека ИИ для айтишников #ai_workflow

Два разных вопроса к вашему RAG Нашли ли нужный контекст и опирается ли на него ответ? В Ragas это разные проверки. Context Precision учитывает порядок найденных фрагментов: релевантные должны стоять выше нерелевантных. Одной доли полезных фрагментов недостаточно. Faithfulness проверяет, подтверждаются ли утверждения ответа полученным контекстом. В примере документации подтверждено одно из двух утверждений, оценка — 0,5. Если сам источник ошибается, высокая Faithfulness не доказывает, что ответ верен. LLM-судья тоже может ошибаться. На схеме — объяснение метрик по документации, собственных замеров здесь нет. Источник 🐸 Библиотека ИИ для айтишников #cheat_sheet

🎨 Увеличить маленькую картинку и проверить детали Upscayl — настольный AI-апскейлер для Linux, macOS и Windows. В ролике авторов видны выбор модели и слайдер сравнения. Это старый интерфейс v2.11.0, а не показ последнего релиза. Инструмент подходит для изображений низкого разрешения. В FAQ отдельно сказано, что он не предназначен для исправления расфокуса. Нужен совместимый Vulkan GPU, большинство iGPU и CPU не поддерживаются. В README указаны macOS 12+ и Windows 10+. Модель предполагает, как могли выглядеть детали. По такой картинке нельзя устанавливать исходный текст документа или подлинную фактуру объекта. Источник 🐸 Библиотека ИИ для айтишников #quick_win

💡 GEPA: менять промпт по обратной связи В DSPy оптимизатор GEPA получает не только оценку ответа, но и текстовый feedback. Отдельная модель использует его, чтобы предложить новые инструкции. GEPA запускает программу с ними и оценивает кандидатов. Разделите данные по назначению: train — для изменения инструкций, validation — для выбора программы, test — для финальной проверки на примерах вне оптимизации. Без отдельного validation GEPA переиспользует train и допускает подгонку под него. Метрика должна отражать вашу задачу. Оптимизатор улучшает то, что она поощряет, а дополнительные вызовы моделей могут стоить денег. На схеме — цикл из tutorial DSPy. Улучшение метрики не гарантирует полезного результата в вашей задаче. Источник 🐸 Библиотека ИИ для айтишников #prompt_lab

🔒 Чат с базой начинается с прав пользователя Vanna 2.0 даёт backend и готовый компонент vanna-chat: модель составляет SQL по вопросу, а интерфейс показывает результат в виде таблицы, графика и текстовой сводки. В ролике это показывает автор проекта. UserResolver определяет пользователя по данным вашей авторизации, например cookies или JWT. Инструменты могут проверять доступ по его группам. Авторизацию и права к реальным данным нужно настроить в вашем приложении. Демонстрация не доказывает изоляцию строк между клиентами. Вызовы выбранного LLM-провайдера могут быть платными. Старые инструкции Vanna 0.x к версии 2 не подходят. Источник 🐸 Библиотека ИИ для айтишников #ai_stack

Из пачки тикетов в сводку по категориям В README DocETL есть пример: map присваивает каждому обращению категорию и приоритет, а reduce собирает сводку обращений одной категории. Так коллекция документов проходит несколько этапов обработки. pipeline.show() обрабатывает пять документов и показывает результат, collect() запускает полную обработку. Стоимость вызовов доступна в total_cost. Сначала проверьте категории и сводки на небольшом наборе. Для вызовов LLM нужны ключ провайдера и бюджет. Классификация может ошибаться. На схеме показан пример из README, без собственного запуска. Источник 🐸 Библиотека ИИ для айтишников #ai_workflow

🎞 Выделить объект маской на кадрах видео В демонстрации команды SAM 2 цветные области следуют за мячом и бутсами. Это маски сегментации: их можно использовать при разметке или дальнейшей обработке кадров. Модели можно указать объект кликом, рамкой или маской, затем распространить выделение по видео. Дополнительными подсказками можно исправлять ошибки маски. SAM 2 поддерживает работу с несколькими объектами. В текущем репозитории есть checkpoints SAM 2.1. Для установки указаны Python ≥3.10 и PyTorch ≥2.5.1, примеры используют CUDA. Идеальный трекинг на любом видео и работа на любом устройстве не гарантируются. Источник 🐸 Библиотека ИИ для айтишников #use_case

🔍 Разберите неудачный ответ по шагам Langfuse собирает трассы LLM-приложения: вызовы моделей, поиск контекста, embeddings, действия агента. В сессии с неудачным ответом можно посмотреть вход и выход отдельного шага, а затем перейти в Playground для разбора. Шаги появятся после инструментирования приложения. Langfuse можно развернуть на своём сервере или использовать managed Cloud. На схеме демопример авторов с двумя генерациями. Трасса показывает ход выполнения, но сама по себе не подтверждает верность ответа или изменение данных во внешнем сервисе. Источник 🐸 Библиотека ИИ для айтишников #neuro_dive

Промпт изменился. А прежние ответы? После правки инструкции полезно проверить ответы на те же обращения: обычный вопрос, неоднозначный запрос, случай, на котором бот уже ошибался. Promptfoo сравнивает промпты и модели на одном наборе тестов. promptfoo eval запускает проверку, promptfoo view открывает результаты в веб-таблице. Такой прогон можно включить в CI. В ролике авторы показывают четыре тестовых кейса. Их PASS не дают оснований для рейтинга моделей. Прогон проверяет только заданные кейсы и критерии, всех ошибок в проде он не исключает. Если выбран облачный провайдер, данные уходят в его API, запросы могут стоить денег. Большинство провайдеров требует API-ключ. Источник 🐸 Библиотека ИИ для айтишников #ai_workflow

🎙 Английская озвучка моделью на 82 млн параметров Kokoro превращает текст в речь с готовым голосом. В примере авторов lang_code='a' задаёт американский английский, af_heart выбирает голос, а звук сохраняется в WAV с частотой 24 кГц. Kokoro можно попробовать для черновой озвучки английского ролика. Язык pipeline должен соответствовать голосу. Веса модели доступны под Apache-2.0. Русского в прочитанном списке языков нет. Готовый голос не означает клонирование вашего. Скорость зависит от оборудования и настройки зависимостей. Источник 🐸 Библиотека ИИ для айтишников #ai_stack

🛠 Проверьте MCP-сервер напрямую В MCP Inspector можно вызвать инструмент напрямую и проверить сервер без участия модели. Подключитесь, получите список через tools/list, затем вызовите безопасный инструмент чтения с нужными аргументами. В Web-интерфейсе можно посмотреть статус вызова и структурированный ответ, если сервер его вернул. Так проще отделить неверные аргументы и ошибку сервера от поведения агента. Схема основана на README v2. Inspector действует с реальными правами сервера: write-инструмент может изменить данные. На системах без keychain секреты могут храниться без шифрования. Источник 🐸 Библиотека ИИ для айтишников #ai_workflow

Репозиторий в одном текстовом файле Нужно обсудить с моделью один модуль чужого проекта? Gitingest соберёт структуру папок и содержимое файлов в текстовый digest. Можно передать URL подкаталога или локальную директорию. В CLI результат по умолчанию сохраняется в digest.txt. Файлы из .gitignore по умолчанию исключаются, но перед передачей модели всё равно проверьте состав и объём: упаковка не гарантирует, что проект поместится в контекст. На картинке интерфейс авторов. Для закрытого кода учитывайте, где работает Gitingest и куда вы затем отправите digest. Источник 🐸 Библиотека ИИ для айтишников #quick_win

🛠 LitGPT: сначала выберите, чему учить модель У LitGPT разные рабочие процессы для разных задач: — finetune — адаптировать готовую модель к задаче. — pretrain — обучить модель с нуля. — continued pretraining — продолжить обучение готовой модели на своих текстах. Настройки можно хранить в YAML. Есть LoRA и QLoRA, отдельные команды оценки и запуска сервера. Это помогает сохранять рецепт эксперимента, а не вспоминать параметры по истории терминала. Режимы требуют разного железа и данных. Apache 2.0 относится к коду, лицензии весов отдельные, а для части загрузок нужен токен доступа. LitGPT: режимы и конфигурации 🐸 Библиотека ИИ для айтишников #cheat_sheet

📊 За средней метрикой могут прятаться плохие примеры Открыть проблемный срез данных, посмотреть изображения и метки, найти ошибки разметки — для такого разбора пригодится FiftyOne. В его интерфейсе можно исследовать и карту векторных представлений, переходя к конкретным примерам. Это работа с причинами ошибок, а не автоматическое улучшение модели. Для расчётов нужны данные, модели и подходящее окружение, для видео может понадобиться FFmpeg. Возможности коммерческого облачного Voxel51 и открытого FiftyOne различаются. FiftyOne: исследование данных 🐸 Библиотека ИИ для айтишников #neuro_dive

📌 Один курс — хорошее вложение в себя. Два по той же цене — ещё лучше. В Proglib Academy действует акция: покупаешь один курс, а второй получаешь в подарок. Например, можно совместить два направления по работе с ИИ: 💥 ИИ для разработчиков — применение нейросетей в повседневной разработке: работа с кодом, тестирование и ревью. 💥 Разработка ИИ-агентов — архитектура агентов и создание собственных AI-решений. 📍 Разница в цене — почти 50 тысяч рублей. Можно освоить больше, не выходя за рамки запланированного бюджета. А если тебе интереснее Python, алгоритмы, backend или DevOps — выбирай другую пару курсов из каталога. Акция действует до 31 октября включительно ⏳ ⏮️ Пора прокачать свой стек

Smol Course: практика дообучения небольших моделей У Hugging Face есть практический курс по адаптации небольших языковых и визуально-языковых моделей. В оглавлении Smol Course v2 отмечены доступными: — обучение на инструкциях. — оценка качества. — настройка по предпочтениям. — работа с визуально-языковыми моделями. Курс рассчитан на знакомых с Python, PyTorch, transformers и основами ML. Память и железо подбираются под упражнение. Это существующий ресурс, а старые даты в плане следующих глав не подтверждают, что они уже опубликованы. Материалы и оглавление Smol Course 🐸 Библиотека ИИ для айтишников #weekly_sync

Предразметка модели — заготовка для человека В Label Studio можно показать человеку предсказание модели, исправить его и экспортировать разметку. Поддерживаются тексты, картинки, аудио, видео и временные ряды. Важная деталь настройки: ML-сервер нужно развернуть отдельно и подключить в проекте. Сама установка интерфейса модель не добавляет. Начать можно с небольшого набора примеров и проверить, какие подсказки приходится исправлять чаще. Место хранения данных и внешние интеграции настраиваются отдельно. Возможности коммерческой облачной редакции не стоит автоматически ожидать от локальной версии. Label Studio: подключение модели 🐸 Библиотека ИИ для айтишников #ai_stack

💡 Посмотреть attention, а не «мысли» модели Откройте короткую фразу в BertViz: head view покажет связи токенов в выбранных головах внимания, а model view даст обзор слоёв и голов. Работает в Jupyter и Colab, результат можно сохранить в HTML. Нужен доступ к весам внимания модели. Длинный текст и большая модель могут тормозить, поэтому для знакомства лучше небольшой пример. Что означают цветные линии? Они показывают работу attention. Считать их прямым объяснением конкретного ответа модели нельзя — авторы отдельно разбирают это ограничение. BertViz: интерактивные примеры 🐸 Библиотека ИИ для айтишников #cheat_sheet

Убрать фон сразу у папки картинок В rembg есть отдельные режимы для одного файла и целой папки. Его можно использовать из командной строки, Python или как HTTP-сервер. Перед запуском важно выбрать модель. У кода лицензия MIT, но у весов свои условия. Для модели по умолчанию BRIA RMBG-2.0 коммерческое использование требует платного соглашения. Локальные модели скачиваются при первом запуске, а облачные режимы отправляют изображения внешнему сервису. Нужны Python 3.11–3.13 и подходящий CPU/GPU-пакет. Края волос и полупрозрачных объектов стоит проверить вручную. rembg: режимы и лицензии моделей 🐸 Библиотека ИИ для айтишников #quick_win

🔒 Перевод без отправки текста в облако Установили нужные языковые пакеты .argosmodel — дальше Argos Translate может переводить офлайн через Python или командную строку. Графический интерфейс есть в отдельном проекте. Нет прямой языковой пары? Инструмент может построить цепочку из установленных пакетов, например испанский → английский → французский. Такой обход может снижать качество перевода, о чём предупреждают авторы. Локальный режим не стоит путать с публичным веб-демо: туда текст отправляется на сервер. Argos Translate: пакеты и запуск 🐸 Библиотека ИИ для айтишников #quick_win

Когда ответ должен быть одним из трёх вариантов «Ошибка», «вопрос», «другое» — иногда от модели нужна только такая метка, без вступления и объяснений. Outlines позволяет задать допустимую форму ответа при генерации: список вариантов, тип данных, JSON Schema, регулярное выражение или грамматику. Конкретные ограничения зависят от выбранной интеграции. Так проще передать результат следующему шагу программы. Но метка из разрешённого списка всё ещё может быть неверной. Проверять формат ответа и качество классификации нужно отдельно. Outlines: ограничения генерации 🐸 Библиотека ИИ для айтишников #neuro_dive