Account
AI да парень! / Sergei Notevskii

AI да парень! / Sergei Notevskii

Про AI с ноткой иронии Контакты: ЛС - сообщения чата https://instagram.com/sergei_notevskii https://ru.linkedin.com/in/sergeynotevskiy

Username
@sergeinotevskii
Category
Technologies
Country
RussiaRussia
Created
, 3 years
Subscribers5,159+3 last week
Avg views per post, 7d1,119last 7 days
ERR21.69%last 7 days

Subscribers, 30 days

Nov 8 – Nov 16+8 (+0.2%)

Show as table
DateSubscribers
Nov 8, 20265,151
Nov 9, 20265,156
Nov 10, 20265,157
Nov 11, 20265,162
Nov 12, 20265,166
Nov 13, 20265,167
Nov 14, 20265,164
Nov 15, 20265,162
Nov 16, 20265,159

Average views per post by day

By publication day

Show as table
DateAvg views per post
Oct 21, 20262,285
Oct 28, 2026867
Oct 30, 20261,191
Nov 13, 20261,119

Most viewed this month

  1. 01
    Views2.33K
    Forwards23
    Reactions28
    Comments1
  2. 02
    Views2.24K
    Forwards2
    Reactions—
    Comments1
  3. 03

    Кажется нашел кого спросить про response cache В сентябре, когда OpenRouter выкатил Response Caching, я тут спрашивал: кто вообще использует exact response cache в ллм проектах? Вопрос был не риторический) А тут позвали на зимнюю Conversations 2 декабря в Мск. Листаю программу и вижу доклад: «Turn-taking, филлеры, кэш: что нужно вокруг LLM, чтобы с ботом хотелось говорить». Да, я опять про кэш. Куда ж без этого. Но голосовые боты это как раз то место где я бы такой кэш и искал. В чатике лишние полсекунды(да и честно говоря пол минуты) до первого токена переживут, а в разговоре это уже неловкая пауза. При этом в названии просто «кэш», и мне интересно какой. Префикса? Готовых ответов или уже озвученных кусков аудио? И что они делают когда меняется промпт? Сразу скажу - про инференс и гпушки в программе ничего нет, конфа про продукты и про то как аи приживается в компаниях. Но послушать мне там есть что и помимо кэша. У билайна доклад «Токены как новая валюта труда» (что-то вспомнил мем про ветку), а я как раз из тех кто считает что мерить надо стоимость задачи, так что будет о чем поспорить. А у Авито в названии доклада прямо написано «что сломалось в проде». Чужие грабли это хорошо, такое мы любим. Короче - еду. Кто тоже будет, пишите, пересечемся. В прошлый раз заобщались там с Глебом, Колей и Артемом. В этот раз тоже занетворкаемся) П.с. Ребята из Just AI дали промокод для канала: CVS26mTnS, это -10% к билетам. До 16 ноября они еще и дешевле.

    Link previewedited
    Views1.33K
    Forwards8
    Reactions21
    Comments12
  4. 04
    Views1.33K
    Forwards1
    Reactions23
    Comments1
  5. 05
    Views1.07K
    Forwards21
    Reactions19
    Comments1

Latest posts

#689Photo
Views959−31%vs avg
Forwards5
Reactions42
Comments3
Views growthHide views growth

Views growth

Hours after publication

Show as table
Hours after publicationViews
0 h0
12 h734
39 h959
  1. Total to date959
#688File
Views1,066−24%vs avg
Forwards21
Reactions19
Comments1
Views growthHide views growth

Views growth

Hours after publication

Show as table
Hours after publicationViews
0 h0
12 h826
39 h1,066
  1. Total to date1,066
#687Link previewedited

Кажется нашел кого спросить про response cache В сентябре, когда OpenRouter выкатил Response Caching, я тут спрашивал: кто вообще использует exact response cache в ллм проектах? Вопрос был не риторический) А тут позвали на зимнюю Conversations 2 декабря в Мск. Листаю программу и вижу доклад: «Turn-taking, филлеры, кэш: что нужно вокруг LLM, чтобы с ботом хотелось говорить». Да, я опять про кэш. Куда ж без этого. Но голосовые боты это как раз то место где я бы такой кэш и искал. В чатике лишние полсекунды(да и честно говоря пол минуты) до первого токена переживут, а в разговоре это уже неловкая пауза. При этом в названии просто «кэш», и мне интересно какой. Префикса? Готовых ответов или уже озвученных кусков аудио? И что они делают когда меняется промпт? Сразу скажу - про инференс и гпушки в программе ничего нет, конфа про продукты и про то как аи приживается в компаниях. Но послушать мне там есть что и помимо кэша. У билайна доклад «Токены как новая валюта труда» (что-то вспомнил мем про ветку), а я как раз из тех кто считает что мерить надо стоимость задачи, так что будет о чем поспорить. А у Авито в названии доклада прямо написано «что сломалось в проде». Чужие грабли это хорошо, такое мы любим. Короче - еду. Кто тоже будет, пишите, пересечемся. В прошлый раз заобщались там с Глебом, Колей и Артемом. В этот раз тоже занетворкаемся) П.с. Ребята из Just AI дали промокод для канала: CVS26mTnS, это -10% к билетам. До 16 ноября они еще и дешевле.

Open in Telegram
Views1,332−5%vs avg
Forwards8
Reactions21
Comments12
Views growthHide views growth

Views growth

Hours after publication

Show as table
Hours after publicationViews
0 h0
8 h793
18 h1,090
32 h1,189
74 h1,332
  1. After 6 hours793
  2. After 24 hours1,090
  3. Total to date1,332
#685Photo

Forwarded from Deep 🍒 Picking | Артём Вишня

💜 300 токенов в секунду: пилотируемся Никто не обещал, что будет просто, но мы с Серёжей наконец-то это сделали! Встречайте первый выпуск подкаста "300 токенов в секунду" 😏 В гостях нашего пилотного выпуска побывал Валера Ковальский - независимый консультант по вопросам внедрения ИИ, за плечами которого многолетний опыт экспериментов, руководства AI-командами, а теперь еще и развитие своей собственной AI-платформы (хаба) в РФ - NeuralDeep. В этом выпуске: ⏺️Как из домашнего майнинга и покупки видеокарт "для души" вырастает собственный ИИ-провайдер? ⏺️В какой момент к тебе в команду агентов всё-таки приходится звать людей? ⏺️Почему кэш - это буквально деньги: три правила кэширования промптов и ошибки, из-за которых запросы обходятся дороже, а пользователи дольше ждут ответа? ⏺️Что стоит за скоростью локальных моделей: игровые видеокарты, квантизация, распределение нагрузки и борьба с зацикленными генерациями? ⏺️Почему новая модель ещё не означает готовность к продакшену? И как понять, стоит ли вообще менять ту, которая уже работает? ⏺️Как красивые ответы модели могут оказаться галлюцинациями? Что меняется, когда агент получает возможность самостоятельно искать информацию? ⏺️Можно ли сегодня реально поручить агенту экспериментировать и улучшать решение по метрикам? ⏺️Правда ли, что просьба "исправляй, пока не станет идеально" может закончиться тысячами лишних строк кода? ⏺️Как Валера организует память агентов на базе простой связки Markdown и Git, а совместную работу и деплой - через общие правила и блокировки. Выпуск получился зубодробительным по технине, но без этого никуда ❤️ Желаем приятного просмотра / прослушивания! 🇷🇺 Смотреть на RUTUBE 📹 Смотреть на YouTube 🎵 Слушать в Яндекс Музыке (еще доезжает) 📺 Смотреть в VK Видео 🎵 Слушать в аудио И да: это наша проба пера (буквально пилот, подготовленный за считанные часы до записи) и мы будем рады вашей обратке, чтобы в следующий раз попробовать сделать еще круче 🔥

Open in Telegram
Views1,056−24%vs avg
Forwards36
Reactions42
Comments1
#684Text
Views1,326−5%vs avg
Forwards1
Reactions23
Comments1
#683Photo

Forwarded from AI и грабли

Большая часть людей оказалась в этом канале через одну из конференций, которую я организовывал Конфы, которые мы делаем – комьюнити проекты. Это значит, что мы обычно делаем их своей тг тусовочкой, а все деньги, которые получаем с билетов, направляем на промо самой конфы (либо записей после) На удивление, при всей "некоммерческости", получается качество, за которое не стыдно. Ну, вы сами скорее всего видели 😅 Только вот не понятно, как теперь отстраиваться от этих бесконечных конференций за подписку, которые штампуют каждую неделю, упихивая 10 спикеров в 2-3 часа выступлений без предварительных прогонов Год назад, когда мы делали AI Dev Live, мы по сути были первые за несколько лет, кто делал что-то большое в таком формате – никак отстраиваться было не нужно И вот, что мы решили: 1. По классике, мы запарываемся по качеству – все доклад проходят прогоны, даже у самых опытных спикеров, а программой занимаются ребята из ПК топовых конференций 2. Список тем. Так же, как и в прошлом году, мы постарались выбрать такой контент, который бы был актуален весь следующий год (удивительно, но наши прошлогодние доклады вполне уместны даже сейчас) 3. Дополнительная ценность. Мы видим, какая жопа сейчас творится на рынке труда (причем, с обеих сторон). Так что мы добавили несколько бонусов для участников: можно будет запостить вакансию, если вы нанимающий менеджер, найти подходящую или просто запостить свое cv, если вы ищете работу, а еще будут взаимоконнекты в линкедине – нетворк сейчас решает. А еще у нас будет отдельный крутой доклад от HRD про это 4. Еще у нас была идея выцепить хедлайнером кого-то из deepseek, z.ai или moonshot, но пока конференции с реквизитами ИП в футере – слишком большой риск даже для китайцев. Зато получилось договориться с ребятами из CodeRabbit – вот уж кого точно стоит послушать про ревью агентами Короче, если вы технарь, и ваша работа завязана на ии, то я очень советую не пропускать – таких мероприятий в ру-пространстве почти нет 11-12 ноября с 14:00 по мск. Приводите коллег и начальство Как обычно, можно платно, а можно бесплатно, при подписке на спикеров ai-dev.live

Open in Telegram
Views867−38%vs avg
Forwards3
Reactions29
Comments1
#682Text
Views2,325+66%vs avg
Forwards23
Reactions28
Comments1
#680Photoedited
Views3,435+146%vs avg
Forwards32
Reactions41
Comments4
#679Link preview

А сколько нам это стоит? Не знаю как у вас, а у меня этот год в ai ассоциируется с фразой "Где деньги Лебовски?" ) И судя по сообществу и докладам на конференциях - похожие ощущения у многих. Те вот до этого вопросы были "а что делать с аи?", "а как делать это с аи?", "а можно траву трогать а не вот это все?" А сейчас все тоже самое но прошитое словом "оптимизация". Мы как то нативно дошли до необходимости попадать в кэш, роутить простые запросы в модель послабее или вообще в Jev-лайк, и считать не стоимость токенов а стоимость выполнения задачи. Про первое и второе поговорим еще, а вот оценку стоимости хочу зацепить. Позвали тут на конференцию AI Native Conf (от тех самых ребят что организуют Highload), и зецепился за доклад Богдана Гарбара про Экономику ИИ. Порадовал в описании тезис о том что ROI тут определяется во многом инференсом (сразу понятно что будет разговор про selfhosted, а значит моя тема). Тут кажется все просто - берем стоимость железки, берем производительность, берем утилизацию, делим, перемножаем и вуаля. Только вот выясняется что производительность у тебя меняется каждый день из-за изменения характера запросов и настроек кэш-роутера. Утилизацию сколько ставить максимальную? 80%? А если ночь пустая? Делать дешевле запросы? А утилизация это что вообще? Сколько запросов в очереди? Сколько запросов в среднем с терпимым ttft, e2e? (На самом деле по уму там порядка 16 параметров одновременно в учете). Короче - я в деле, готов идти только из-за этого доклада, нетворкинга с коллегами и крутой организации)

Open in Telegram
Views3,607+158%vs avg
Forwards8
Reactions27
Comments2

All posts

Connections