Кабинет
AI да парень! / Sergei Notevskii

AI да парень! / Sergei Notevskii

Про AI с ноткой иронии Контакты: ЛС - сообщения чата https://instagram.com/sergei_notevskii https://ru.linkedin.com/in/sergeynotevskiy

Юзернейм
@sergeinotevskii
Категория
Технологии
Страна
РоссияРоссия
Создан
, 3 года
Подписчики5 159+3 за неделю
Просмотров на пост, 7 дн.1 119за 7 дней
ERR21,69 %за 7 дней

Подписчики, 30 дней

8 нояб. – 16 нояб.+8 (+0,2%)

Показать таблицей
ДатаПодписчики
8 нояб. 2026 г.5 151
9 нояб. 2026 г.5 156
10 нояб. 2026 г.5 157
11 нояб. 2026 г.5 162
12 нояб. 2026 г.5 166
13 нояб. 2026 г.5 167
14 нояб. 2026 г.5 164
15 нояб. 2026 г.5 162
16 нояб. 2026 г.5 159

Средние просмотры поста по дням

По дню публикации

Показать таблицей
ДатаПросмотров на пост
21 окт. 2026 г.2 285
28 окт. 2026 г.867
30 окт. 2026 г.1 191
13 нояб. 2026 г.1 119

Самые просматриваемые за месяц

  1. 01
    Просмотры2,33 тыс.
    Пересылки23
    Реакции28
    Комментарии1
  2. 02
    Просмотры2,24 тыс.
    Пересылки2
    Реакции—
    Комментарии1
  3. 03

    Кажется нашел кого спросить про response cache В сентябре, когда OpenRouter выкатил Response Caching, я тут спрашивал: кто вообще использует exact response cache в ллм проектах? Вопрос был не риторический) А тут позвали на зимнюю Conversations 2 декабря в Мск. Листаю программу и вижу доклад: «Turn-taking, филлеры, кэш: что нужно вокруг LLM, чтобы с ботом хотелось говорить». Да, я опять про кэш. Куда ж без этого. Но голосовые боты это как раз то место где я бы такой кэш и искал. В чатике лишние полсекунды(да и честно говоря пол минуты) до первого токена переживут, а в разговоре это уже неловкая пауза. При этом в названии просто «кэш», и мне интересно какой. Префикса? Готовых ответов или уже озвученных кусков аудио? И что они делают когда меняется промпт? Сразу скажу - про инференс и гпушки в программе ничего нет, конфа про продукты и про то как аи приживается в компаниях. Но послушать мне там есть что и помимо кэша. У билайна доклад «Токены как новая валюта труда» (что-то вспомнил мем про ветку), а я как раз из тех кто считает что мерить надо стоимость задачи, так что будет о чем поспорить. А у Авито в названии доклада прямо написано «что сломалось в проде». Чужие грабли это хорошо, такое мы любим. Короче - еду. Кто тоже будет, пишите, пересечемся. В прошлый раз заобщались там с Глебом, Колей и Артемом. В этот раз тоже занетворкаемся) П.с. Ребята из Just AI дали промокод для канала: CVS26mTnS, это -10% к билетам. До 16 ноября они еще и дешевле.

    Превью ссылкиизменён
    Просмотры1,33 тыс.
    Пересылки8
    Реакции21
    Комментарии12
  4. 04
    Просмотры1,33 тыс.
    Пересылки1
    Реакции23
    Комментарии1
  5. 05
    Просмотры1,07 тыс.
    Пересылки21
    Реакции19
    Комментарии1

Новые посты

#689Фото
Просмотры959−31%к среднему
Пересылки5
Реакции42
Комментарии3
Динамика просмотровСкрыть динамику

Рост просмотров

Часов после публикации

Показать таблицей
Часов после публикацииПросмотры
0 ч0
12 ч734
39 ч959
  1. Всего сейчас959
#688Файл
Просмотры1 066−24%к среднему
Пересылки21
Реакции19
Комментарии1
Динамика просмотровСкрыть динамику

Рост просмотров

Часов после публикации

Показать таблицей
Часов после публикацииПросмотры
0 ч0
12 ч826
39 ч1 066
  1. Всего сейчас1 066
#687Превью ссылкиизменён

Кажется нашел кого спросить про response cache В сентябре, когда OpenRouter выкатил Response Caching, я тут спрашивал: кто вообще использует exact response cache в ллм проектах? Вопрос был не риторический) А тут позвали на зимнюю Conversations 2 декабря в Мск. Листаю программу и вижу доклад: «Turn-taking, филлеры, кэш: что нужно вокруг LLM, чтобы с ботом хотелось говорить». Да, я опять про кэш. Куда ж без этого. Но голосовые боты это как раз то место где я бы такой кэш и искал. В чатике лишние полсекунды(да и честно говоря пол минуты) до первого токена переживут, а в разговоре это уже неловкая пауза. При этом в названии просто «кэш», и мне интересно какой. Префикса? Готовых ответов или уже озвученных кусков аудио? И что они делают когда меняется промпт? Сразу скажу - про инференс и гпушки в программе ничего нет, конфа про продукты и про то как аи приживается в компаниях. Но послушать мне там есть что и помимо кэша. У билайна доклад «Токены как новая валюта труда» (что-то вспомнил мем про ветку), а я как раз из тех кто считает что мерить надо стоимость задачи, так что будет о чем поспорить. А у Авито в названии доклада прямо написано «что сломалось в проде». Чужие грабли это хорошо, такое мы любим. Короче - еду. Кто тоже будет, пишите, пересечемся. В прошлый раз заобщались там с Глебом, Колей и Артемом. В этот раз тоже занетворкаемся) П.с. Ребята из Just AI дали промокод для канала: CVS26mTnS, это -10% к билетам. До 16 ноября они еще и дешевле.

Открыть в Telegram
Просмотры1 332−5%к среднему
Пересылки8
Реакции21
Комментарии12
Динамика просмотровСкрыть динамику

Рост просмотров

Часов после публикации

Показать таблицей
Часов после публикацииПросмотры
0 ч0
8 ч793
18 ч1 090
32 ч1 189
74 ч1 332
  1. Через 6 часов793
  2. Через 24 часа1 090
  3. Всего сейчас1 332
#685Фото

Переслано из Deep 🍒 Picking | Артём Вишня

💜 300 токенов в секунду: пилотируемся Никто не обещал, что будет просто, но мы с Серёжей наконец-то это сделали! Встречайте первый выпуск подкаста "300 токенов в секунду" 😏 В гостях нашего пилотного выпуска побывал Валера Ковальский - независимый консультант по вопросам внедрения ИИ, за плечами которого многолетний опыт экспериментов, руководства AI-командами, а теперь еще и развитие своей собственной AI-платформы (хаба) в РФ - NeuralDeep. В этом выпуске: ⏺️Как из домашнего майнинга и покупки видеокарт "для души" вырастает собственный ИИ-провайдер? ⏺️В какой момент к тебе в команду агентов всё-таки приходится звать людей? ⏺️Почему кэш - это буквально деньги: три правила кэширования промптов и ошибки, из-за которых запросы обходятся дороже, а пользователи дольше ждут ответа? ⏺️Что стоит за скоростью локальных моделей: игровые видеокарты, квантизация, распределение нагрузки и борьба с зацикленными генерациями? ⏺️Почему новая модель ещё не означает готовность к продакшену? И как понять, стоит ли вообще менять ту, которая уже работает? ⏺️Как красивые ответы модели могут оказаться галлюцинациями? Что меняется, когда агент получает возможность самостоятельно искать информацию? ⏺️Можно ли сегодня реально поручить агенту экспериментировать и улучшать решение по метрикам? ⏺️Правда ли, что просьба "исправляй, пока не станет идеально" может закончиться тысячами лишних строк кода? ⏺️Как Валера организует память агентов на базе простой связки Markdown и Git, а совместную работу и деплой - через общие правила и блокировки. Выпуск получился зубодробительным по технине, но без этого никуда ❤️ Желаем приятного просмотра / прослушивания! 🇷🇺 Смотреть на RUTUBE 📹 Смотреть на YouTube 🎵 Слушать в Яндекс Музыке (еще доезжает) 📺 Смотреть в VK Видео 🎵 Слушать в аудио И да: это наша проба пера (буквально пилот, подготовленный за считанные часы до записи) и мы будем рады вашей обратке, чтобы в следующий раз попробовать сделать еще круче 🔥

Открыть в Telegram
Просмотры1 056−24%к среднему
Пересылки36
Реакции42
Комментарии1
#684Текст
Просмотры1 326−5%к среднему
Пересылки1
Реакции23
Комментарии1
#683Фото

Переслано из AI и грабли

Большая часть людей оказалась в этом канале через одну из конференций, которую я организовывал Конфы, которые мы делаем – комьюнити проекты. Это значит, что мы обычно делаем их своей тг тусовочкой, а все деньги, которые получаем с билетов, направляем на промо самой конфы (либо записей после) На удивление, при всей "некоммерческости", получается качество, за которое не стыдно. Ну, вы сами скорее всего видели 😅 Только вот не понятно, как теперь отстраиваться от этих бесконечных конференций за подписку, которые штампуют каждую неделю, упихивая 10 спикеров в 2-3 часа выступлений без предварительных прогонов Год назад, когда мы делали AI Dev Live, мы по сути были первые за несколько лет, кто делал что-то большое в таком формате – никак отстраиваться было не нужно И вот, что мы решили: 1. По классике, мы запарываемся по качеству – все доклад проходят прогоны, даже у самых опытных спикеров, а программой занимаются ребята из ПК топовых конференций 2. Список тем. Так же, как и в прошлом году, мы постарались выбрать такой контент, который бы был актуален весь следующий год (удивительно, но наши прошлогодние доклады вполне уместны даже сейчас) 3. Дополнительная ценность. Мы видим, какая жопа сейчас творится на рынке труда (причем, с обеих сторон). Так что мы добавили несколько бонусов для участников: можно будет запостить вакансию, если вы нанимающий менеджер, найти подходящую или просто запостить свое cv, если вы ищете работу, а еще будут взаимоконнекты в линкедине – нетворк сейчас решает. А еще у нас будет отдельный крутой доклад от HRD про это 4. Еще у нас была идея выцепить хедлайнером кого-то из deepseek, z.ai или moonshot, но пока конференции с реквизитами ИП в футере – слишком большой риск даже для китайцев. Зато получилось договориться с ребятами из CodeRabbit – вот уж кого точно стоит послушать про ревью агентами Короче, если вы технарь, и ваша работа завязана на ии, то я очень советую не пропускать – таких мероприятий в ру-пространстве почти нет 11-12 ноября с 14:00 по мск. Приводите коллег и начальство Как обычно, можно платно, а можно бесплатно, при подписке на спикеров ai-dev.live

Открыть в Telegram
Просмотры867−38%к среднему
Пересылки3
Реакции29
Комментарии1
#682Текст
Просмотры2 325+66%к среднему
Пересылки23
Реакции28
Комментарии1
#680Фотоизменён
Просмотры3 435+146%к среднему
Пересылки32
Реакции41
Комментарии4
#679Превью ссылки

А сколько нам это стоит? Не знаю как у вас, а у меня этот год в ai ассоциируется с фразой "Где деньги Лебовски?" ) И судя по сообществу и докладам на конференциях - похожие ощущения у многих. Те вот до этого вопросы были "а что делать с аи?", "а как делать это с аи?", "а можно траву трогать а не вот это все?" А сейчас все тоже самое но прошитое словом "оптимизация". Мы как то нативно дошли до необходимости попадать в кэш, роутить простые запросы в модель послабее или вообще в Jev-лайк, и считать не стоимость токенов а стоимость выполнения задачи. Про первое и второе поговорим еще, а вот оценку стоимости хочу зацепить. Позвали тут на конференцию AI Native Conf (от тех самых ребят что организуют Highload), и зецепился за доклад Богдана Гарбара про Экономику ИИ. Порадовал в описании тезис о том что ROI тут определяется во многом инференсом (сразу понятно что будет разговор про selfhosted, а значит моя тема). Тут кажется все просто - берем стоимость железки, берем производительность, берем утилизацию, делим, перемножаем и вуаля. Только вот выясняется что производительность у тебя меняется каждый день из-за изменения характера запросов и настроек кэш-роутера. Утилизацию сколько ставить максимальную? 80%? А если ночь пустая? Делать дешевле запросы? А утилизация это что вообще? Сколько запросов в очереди? Сколько запросов в среднем с терпимым ttft, e2e? (На самом деле по уму там порядка 16 параметров одновременно в учете). Короче - я в деле, готов идти только из-за этого доклада, нетворкинга с коллегами и крутой организации)

Открыть в Telegram
Просмотры3 607+158%к среднему
Пересылки8
Реакции27
Комментарии2

Все посты

Связи