Forwarded from Deep 🍒 Picking | Артём Вишня
💜 300 токенов в секунду: пилотируемся Никто не обещал, что будет просто, но мы с Серёжей наконец-то это сделали! Встречайте первый выпуск подкаста "300 токенов в секунду" 😏 В гостях нашего пилотного выпуска побывал Валера Ковальский - независимый консультант по вопросам внедрения ИИ, за плечами которого многолетний опыт экспериментов, руководства AI-командами, а теперь еще и развитие своей собственной AI-платформы (хаба) в РФ - NeuralDeep. В этом выпуске: ⏺️Как из домашнего майнинга и покупки видеокарт "для души" вырастает собственный ИИ-провайдер? ⏺️В какой момент к тебе в команду агентов всё-таки приходится звать людей? ⏺️Почему кэш - это буквально деньги: три правила кэширования промптов и ошибки, из-за которых запросы обходятся дороже, а пользователи дольше ждут ответа? ⏺️Что стоит за скоростью локальных моделей: игровые видеокарты, квантизация, распределение нагрузки и борьба с зацикленными генерациями? ⏺️Почему новая модель ещё не означает готовность к продакшену? И как понять, стоит ли вообще менять ту, которая уже работает? ⏺️Как красивые ответы модели могут оказаться галлюцинациями? Что меняется, когда агент получает возможность самостоятельно искать информацию? ⏺️Можно ли сегодня реально поручить агенту экспериментировать и улучшать решение по метрикам? ⏺️Правда ли, что просьба "исправляй, пока не станет идеально" может закончиться тысячами лишних строк кода? ⏺️Как Валера организует память агентов на базе простой связки Markdown и Git, а совместную работу и деплой - через общие правила и блокировки. Выпуск получился зубодробительным по технине, но без этого никуда ❤️ Желаем приятного просмотра / прослушивания! 🇷🇺 Смотреть на RUTUBE 📹 Смотреть на YouTube 🎵 Слушать в Яндекс Музыке 📺 Смотреть в VK Видео 🎵 Слушать в аудио И да: это наша проба пера (буквально пилот, подготовленный за считанные часы до записи) и мы будем рады вашей обратке, чтобы в следующий раз попробовать сделать еще круче 🔥
Open in TelegramViews growthHide views growth
Views growth
Hours after publication
Show as table
| Hours after publication | Views |
|---|---|
| 0 h | 0 |
| 11 h | 1,307 |
| 26 h | 1,474 |
- After 24 hours1,474
- Total to date1,474








