Posts of Tuzov AI Lab

newest first

#181Photoedited

🔸 Если вам показалось, что Claude Desktop стал работать быстрее — вам не показалось https://claude.dev/blog/how-we-made-claude-ai-faster/ Anthropic рассказали, как в августе за двухнедельный спринт ускорили claude.ai и десктопное приложение примерно в 3 раза. И сами признают: «Пользователи говорили нам, что всё работает медленно, и они были правы». Сразу уточню про x3: это среднее геометрическое по 13 замерам (p75 реальных пользователей). По отдельным действиям разброс от x1.5 до x19: - claude.ai со свежей загрузки до момента, когда можно печатать: 3.1 с → 0.55 с - Отправка сообщения в Cowork (облако): 928 → 48 мс. Но это только клиентская часть, на скорость ответа модели не влияет - Холодный старт десктопа ускорили всего в x2: 6.3 с → 3.3 с Как это делали Завели канал в Slack и подключили туда Claude через Claude Tag (это когда Клод сидит в слаке в виде бота, и его можно тегать). Модель при этом была внутренняя — по словам Anthropic, примерно уровня Opus 5.5. Инженеры открывали треды в стиле «вот тут тормозит», а Клод в каждом сам искал узкое место, писал бенчмарк, открывал PR и следил за деплоем. Одновременно крутилось 150+ таких тредов, и один тред мог наплодить до сотни PR. В пиковые дни заливали 200+ PR, а за весь спринт — 3000+, и ни одного инцидента или отката для пользователей. При этом каждый PR аппрувил минимум один человек. К третьему дню закрыли 12 из 13 целей. Ключевая мысль статьи: «С Claude, если что-то можно измерить, с этим можно работать». Как только у Клода есть число, которое надо улучшить, он начинает его оптимизировать. Поэтому для важных мест в коде завели стабильные метрики (сколько инструкций процессора уходит на операцию, React-коммиты и т.п.) и добавили проверку в CI: если PR делает хуже — он не проходит. 🍿 Ну и самое вкусное — что Claude нашёл в коде и ради чего мы тут собрались: - 6 900 хуков и 900 подписок на стор перерисовывались на каждое нажатие клавиши - Один CSS-селектор :root:has() добавлял 24 мс к каждому изменению DOM - Забытый location.reload() давал около полумиллиона скрытых перезагрузок в день 🗿 - Длинные тире и «умные» кавычки заставляли V8 хранить строку в UTF-16, и подсветка кода подвисала на ~1 с. Починили ~20 строками Геракл разгребает Авгиевы конюшни, не иначе ☀️ Доделали пока не всё: остаются самые медленные 5% случаев (p95), проблемы в очень длинных переписках и некоторые другие сценарии. ———— Я очень активный пользователь десктопного приложения Claude, в частности Cowork. Это очень крутая штука, которая не заменяет мне claude code, а дополняет его. Но тормозило оно безбожно. И так я уже привык к этим тормозам, что недавно просто случайно заметил, что оно стало работать намного быстрее — ну просто «как надо». Я спросил у самого Клода, не показалось ли мне, так и нашёл эту статью. Оно действительно стало намного быстрее, это сразу бросается в глаза. Честно говоря, я не удивлён количеству говнокода, который там обнаружился, у ребят поток фич очень большой, и все мы понимаем как они этого добиваются. К тому же, все их инструменты изначально разрабатывались более слабыми моделями (до выхода Opus 5.5 не было Opus 5.5, а Cowork уже был 👍). Летом Борис Черни ещё рассказывал, как в качестве эксперимента запустил Клода переписывать приложение на Swift «пиксель в пиксель». Чем это кончилось, так и не рассказали. А в итоге всё тот же Electron, просто наконец-то нормально оптимизированный. К слову, по моим недавним экспериментам бенчмаркам Rust + GPUI работает на маке намного лучше, чем родной Swift. Может, как-нибудь напишу и об этом. 🟢В целом, история интересная и полезная, можно перенять опыт взаимодействия с агентами, да и вообще... Возможно, примерно так и будет выглядеть разработка в каком-то обозримом будущем 😩 #anthropic #claude #cowork

Open in Telegram
Views2,475−29%vs avg
Forwards25
Reactions42
Comments16
Views growthHide views growth

Views growth

Hours after publication

Show as table
Hours after publicationViews
0 h0
42 h2,394
67 h2,475
  1. Total to date2,475
#179Photoedited

Как работать с ИИ-агентами? Пилотный пост из серии #llm_practice Я работаю в основном с Claude Code, и мои подходы сильно заточены под него. С тем же Codex и прочими харнесами/моделями они часто работают заметно хуже, либо не работают вовсе. Но попробовать никто не запрещает 🤷‍♀ ———— 0. Не бойтесь сумбурных формулировок в промтах Я часто слышу вопрос "как мне научиться правильно писать промты?". И всегда отвечаю одинаково: просто изложи агенту всё, что хочешь, максимально подробно — он разберётся. Конечно, с чётким структурированным промтом модель работает лучше. Но разница меньше, чем кажется: в свежем исследовании задачи для кодинг-агентов переписали «по-человечески» — коротко и разговорно. Стиль почти ни на что не повлиял. А вот если не написать, что именно вы хотите получить и зачем, результат заметно проседал. И дело не только в том, что "модель мощная, она справится с любым дерьмом" (хотя и в этом тоже). Агент работает не только с одним лишь вашим текстом: - Claude Code крутится в цикле: "собрать контекст → сделать → проверить". Он сам лезет в код, читает md-файлы и добирает то, о чём вы не написали - В ризонинге (thinking) модель сначала "думает про себя" (наверняка вы не раз читали её "мысли" в стиле — так, пользователь попросил сделать вот это, значит мне надо вот это...) — по сути доводит задачу до ума у себя "в голове", прежде чем браться за код Anthropic в доке так и пишут: You don't need perfect prompts. Самое интересное тут, что, скорее всего, агент составит промт намного лучше, чем вы (да ещё и намного быстрее). Проведите простой эксперимент: изложите задачу сырым потоком мыслей, а затем отдайте это Опусу с просьбой превратить в чёткое ТЗ. Он с этим прекрасно справляется — выкинет лишнее, доработает оставшееся, добавит недостающее. Антропики, кстати, официально советуют похожий приём — Let Claude interview you: коротко описываете задачу, просите Клода опросить вас через AskUserQuestion и записать спеку в SPEC.md, а потом выполняете её в новой сессии. 🟠Есть нюанс, который я сам раньше представлял себе неправильно. Агент не переписывает ваш промт «под капотом». Ваш текст так и лежит в контексте как есть, и модель смотрит на него на каждом шаге — со всеми дублями, раздумьями и прочим мусором. Именно поэтому советуют отдавать проработку спеки от её выполнение разным сессиям. По-настоящему важное тут — полнота информации: - Дубли и кривые формулировки не страшны. Повтор промта дважды даже помогает моделям без ризонинга - А вот пропуски — проблема. Агенты на неполных задачах почти не задают вопросов и молча додумывают сами, хотя с вопросами результат лучше до 74% - Если передумали о чём-то — не оставляйте в контексте оба варианта: Claude может выбрать любой, и не факт, что нужный. Лучше откатитесь через /rewind и перепишите сообщение, либо начните новую сессию - Совсем лишнее тоже вредит: даже одна отвлекающая деталь снижает качество Так что полнота и объём, это не одно и то же. Антропик формулируют это как "smallest possible set of high-signal tokens" — всё важное и ничего лишнего. А вот на что точно не стоит тратить слова, так это на фразы в стиле «ты опытный Go-разработчик ...». Модель и так знает Go. Ещё в 2024 ребята из Антропик на круглом столе про промтинг говорили, что вместо роли лучше честно описать реальную задачу. А исследования показывают, что "экспертные" роли не повышают точность ответов. Роль сама по себе не мешает, просто контекст она не заменит. ———— Итого: не тратьте силы на идеальную формулировку. Не важно, насколько криво вы изложили мысли — главное, чтобы всё важное было сказано, а противоречия и мусор вычищены (пусть даже руками самого агента). В малых же задачах даже мусор чистить не обязательно — оно само разберётся 🗿 А вообще, просто набивайте руку. Обращайте внимание, в каких случаях агент сделал всё правильно, а в каких косячил. Со временем выработаете свой подход, который идеально заточен под ваш стиль работы и под ваши задачи. Ну и не забывайте читать официальные гайды Антропик, они очень крутые. Есть и общие, и по каждой новой модели. #claude #agents

Open in Telegram
Views4,633+33%vs avg
Forwards137
Reactions118
Comments54
#178Textedited

Проблема глубоких практических гайдов по работе с ИИ-агентами Меня часто просят рассказать, как я работаю с Claude Code и прочими агентами. Я не раз думал об этом, но непонятно как к такому подступиться? Я привых делать большие глубокие гайды, но скорость развития ИИ и тулинга вокруг него сейчас такая высокая, что пока я буду писать гайд, сменится несколько подходов. А даже если и не сменится, то гайд всяко обречён прожить очень короткую жизнь. Вот и получается, что хорошего глубокого контента по практической части работы с ИИ быть попросту не может. А писать посредственно и наспех я не люблю. Другое дело, фундаментальные вещи — они почти не устаревают. Но и интересны гораздо меньшей аудитории (справедливо, я понимаю). Скорее всего, я и дальше буду делать упор в эту сторону. С практикой есть ещё одна проблема Опять же, из-за разогнавшегося ИИ-поезда мы сейчас учимся очень быстро, подходы очень быстро изменяются или вовсе забываются с приходом новых. Провести человека по собственному пути нереально — то, как я начинал работу с агентами сейчас стало чем-то архаичным, ведь тогда не было даже скилов и субагентов, ди вообще я вёл разработку через веб-чат, скетически посматривая на Курсор и уж тем более CLI-агентов... 🗿 Поэтому придётся нащупывать едва ли не наугад — по какому пути вести людей. И вообще, что для них давно очевидно, а что станет полезным откровением. ———— Но я всё же решил попробовать. Первую проблему, глубину и масштаб, можно победить, перейдя на формат коротких гайдов в ТГ. А вот вторую — что вам очевидно, а что нет, придётся нащупывать. Поэтому, если видите пост с тегом #практика, не спешите хихикать. Просто направьте меня в ту сторону, где у вас реально есть пробелы, и нужны советы. 🟢Первый такой пост уже написан следом за этим Если у вас есть какие-то свои идеи на этот счёт, делитесь в комментариях.

Open in Telegram
Views3,625+4%vs avg
Forwards32
Reactions88
Comments6
#177Photo
Views3,959+14%vs avg
Forwards13
Reactions22
Comments3
#176Photoedited
Views5,455+57%vs avg
Forwards12
Reactions38
Comments45
#173Photoalbum
Views5,991+72%vs avg
Forwards51
Reactions38
Comments8
#172Photoedited

🔸 Claude Opus 5.5 — вышел Anthropic выкатили Opus 5.5, доступен уже везде. Главный тезис: по большинству задач модель на уровне Fable 5.1, а на типичных задачах обходится на 40% дешевле, чем Opus 5. Интересно, что по агентному кодингу Opus 5.5 обгоняет и Fable 5.1, а не просто догоняет. На мой взгляд, это даже вполне ожидаемо. Цена снизилась: - $4/$20 за миллион токенов (было $5/$25) - Чтение из кэша — $0.20 (было $0.50), минус 60%. Для длинных агентных сессий это как раз самая заметная статья расходов - Fast mode — $8/$40, до 2.5x быстрее. Есть в Claude Code и на Claude Platform Что ещё интересного: - Отвечает на 30% быстрее Opus 5. Ранние тестеры пишут про экономию токенов на 40–60% на сложных задачах - Ответы стали короче и понятнее. Обещают, что важное теперь идёт первым, и агент льёт меньше воды - Отзыв из early access: «аудит и фикс кодовой базы на 200k строк меньше чем за три часа, Opus 5 на это ушло 20+ часов». Ещё был кейс про миграцию на 680k строк меньше чем за день По безопасности: лучший результат на автоматическом поведенческом аудите среди всех Claude, на 85% меньше попыток обойти ограничения, чем у Opus 5. Лучшая устойчивость к prompt injection. При этом задачи, связанные с безопасностью, теперь переадресуются на Opus 4.8 🤔 Для безопасников есть Cyber Verification Program. С биологией аналогично: доступ ограничен, для организаций есть отдельная программа верификации. 🟢Самое приятное: подняли пятичасовые лимиты на Pro, Max и Team подписках. И... появилась функция сброса лимитов 🔸🔫🔵 ———— Меня больше всего радует снижение цены. Если экономия токенов на 40–60% подтвердится на реальных задачах, то в подписке это считай половина лимита сверху, плюс официальное повышение и резеты лимитов. А я в последнее время частенько упирался в них, порой приходилось даже вторую подписку оплачивать. Будем пробовать ☀️ #anthropic #opus #claude

Open in Telegram
Views5,401+55%vs avg
Forwards43
Reactions39
Comments19
#170Textedited
Views6,070+74%vs avg
Forwards14
Reactions65
Comments18
#168Textedited

Fable 5.1 vs GPT Astra? Мой опыт и сравнение Я недавно запустил платформу для своих авторских гайдов по Go. Кое-где мне не хватило тематических рамок проекта, и я решил на том же движке запустить ещё одну платформу — с гайдами на более общие темы. Я сейчас занят очередной статьёй, поэтому подготовку нового проекта полностью делегировал новым мощным моделям от Антропиков и OpenAI. Промты дал идентичные — показал где взять движок, где смотреть доки, где смотреть пример проекта (go guides) и т.п. Модели должны проработать дизайн, айдентику, структуру контента (рубрики, категории, теги), контент план (по моим черновым наработкам) и прочие уникальные для проекта вещи. Обе модели работали на своих максимальных эффортах, токенов я не жалел. Основная сессия выступала оркестратором, а всю "грязную" работу выполняли агенты на тех моделях и эффортах, которые выбирал оркестратор. Итог Fable выдал готовый результат, плюс дополнительно очень крутую проработку вариаций дизайна. Превзошёл мои ожидания. Astra... Выдала результат, который даже для Опуса был бы стыдный. В общем, под мои задачи, GPT всё ещё аутсайдер, но я не устаю давать ему шанс 👍 При этом, Клод дважды съедал мои 5-часовые лимиты на плане за $200, Кодекс ни разу не уткнулся в лимиты. Это не особо важно, т.к. результат меня не устроил, но хоть какие-то плюсы 🤷‍♀️ ———— 🟠Конечно, я не даю вердикт по такой работе — это лишь мой частный кейс, и мой стиль работы. Вполне возможно, что при других подходах и/или задачах GPT будет справляться лучше. Но у меня пока так. 🟢Примеры их работ с моими пояснениями буду докидывать в комментарии

Open in Telegram
Views5,544+59%vs avg
Forwards46
Reactions35
Comments51
#166Photoedited

Релиз оказался мне очень кстати, т.к. я активно допиливаю финальные правки по своей платформе для гайдов*. Очень активно — в пяти сессиях параллельно разные аспекты дорабатываю — в основном по дизайну. Сейчас переключился везде на новый Опус, и вау-эффект действительно есть. За последние дни я уже привык, что сначала объсняю что поправить, а потом мы итеративно вымучиваем финальный вариант. С пятым же Опусом я сейчас закрыл несколько фиксов буквально за 1-2 итерации. При чем, вторая итерация — мелкие незначительные штрихи. Например, он помог мне доработать полоску с мета-инфой у постов (см. картинку), которая до этого была скомканная и неудобная. По привычке, я ожидал минимум 5-10 итераций правок. Надо ещё понимать, что Fable был хорош на сложных и длинных задачах, а мелкие таски он закрывал хуже Опуса (по моему опыту). Теперь же, когда Опус сопоставим по качеству с Фэйблом, но при этом не такой монстр, мелкие задачи ему даются сильно лучше. Но я сегодня уже очень устал, поэтому окончательные выводы буду делать уже завтра 😩 *Гайды там будут только по Go, но я уже готовлю аналогичный проект по LLM

Open in Telegram
Views8,221+136%vs avg
Forwards7
Reactions46
Comments18
#165Photo

🔸 Opus 5 — как Fable, но дешевле https://www.anthropic.com/news/claude-opus-5 Anthropic выкатили Opus 5. Доступен везде уже сегодня. Нам обещают, что он вплотную подошёл к Fable 5 — но за половину её цены. При этом сам стоит столько же, сколько Opus 4.8: те же $5/$25 за миллион токенов. Цена не выросла, а по словам «доверенных партнёров» — «это самый большой скачок в линейке Opus со времён 4.5». Из цифр: на Frontier-Bench обгоняет всех и больше чем вдвое перекрывает Opus 4.8, а на ARC-AGI 3 (это про решение новых, незнакомых задач) — втрое выше ближайшего конкурента. Но главный акцент релиза не на сырых бенчмарках, а на том, что модель стала заметно лучше соображать и проверять себя. Пара примеров из тестов: - Новому Опусу дали чертёж детали, нужно написать код, который соберёт по нему 3D-модель. Но это был жестокий пранк! Модели отключили зрение — открыть картинку и посмотреть на неё она не может. Тогда Опус написал программу, которая прочитала файл за него: нашла на чертеже линии и окружности, сняла размеры, и уже по ним собрала деталь. И так стабильно, раз за разом. Остальные модели в тех же условиях не справились ни за одну из пяти попыток. - Реальный баг в популярном пакетном менеджере (не говорят в каком): Opus 5 нашёл корневую причину и починил краевой случай, который сообщество в своём патче пропустило. Другая модель (не говорят какая) починила только симптом и отрапортовала о готовности. Ещё из интересного: - Anthropic называют его самой «выровненной» (aligned) моделью на сегодня — то есть лучше всех следует правилам, реже всех врёт и тяжелее всего ведётся на вредоносные промт-инжекшены. - По кибербезу снова осторожничают: находить уязвимости модель умеет хорошо, а вот писать к ним эксплойты — плохо (специально не учили). Зато фильтры теперь срабатывают примерно на 85% реже, чем на Fable 5, и вместо жёсткого отказа запрос по умолчанию просто откатывается на Opus 4.8 (ну спасибо..) ———— Вообще, я не удивлён близости к Fable 5, выглядит будто это и есть его дистилляция — дешёвая модель, которая тянется к качеству старшей. Google так делает с Gemini Flash и не скрывает. Anthropic про метод обучения молчат, так что это чисто мои догадки. Что ж, на бумаге звучит очень круто. Если оно и правда так круто, то я счастлив — можно будет отменять вторую max-подписку 😩 Буду пробовать уже сегодня. Если будут интересные выводы, напишу отдельный пост. #anthropic #claude #opus

Open in Telegram
Views6,403+84%vs avg
Forwards53
Reactions32
Comments6
#161Textedited
Views5,767+66%vs avg
Forwards16
Reactions17
Comments38