Account

Posts of Запрети мне псевдолейблить

newest first

#581Link preview
Views1,312−41%vs avg
Forwards14
Reactions16
Comments2
Views growthHide views growth

Views growth

Hours after publication

Show as table
Hours after publicationViews
0 h0
10 h1,095
12 h1,115
35 h1,235
71 h1,312
  1. Total to date1,312
#580Photoedited

А с кем, собственно, мерджиться? Мердж- это игра в покер в темную. Не хочется раскрывать все свои идеи, потому что страшно, что их украдут, но нужно получить максимум информации о решении потенциальных тиммейтов.  Интуиция подсказывает, что надо идти от топ1 лб к концу и мерджиться с теми, кто как можно выше. Это едиственная действительная измеримая открытая метрика, на которую можно смотреть без опаски. Но смотреть надо с опаской: вы мне сами уже можете подсказать, как оверфитнуться на лб и добавить себе халявные 50 мест ценой 20 сабмитов и не изменить при этом свой CV. Давайте еще вспомним Гутхарта и его 'Когда мера становится целью, она перестает быть хорошей мерой' Так вот, перед мерджем в typic kaggle comp с незнакомыми людьми рекомендую спрашивать: 0. Скор CV. Топ 1 на лб остается им после привата только в 49.5% случаев. Если считать с 2023 года, то вообще 48.6% 1. Описание схемы валидации. Надо сравнивать яблоки с яблоками 2. Если вдруг есть общий язык- можно обсудить глобальную идею решения. Если времени мало, то ваше решение просто не успеют украсть. В то же время совсем непохожее на ваше решение с близким скором может дать огромный прирост качества на CV. 2. Какой скор на валидации по каждому из фолдов? Можно оценить дисперсию и посмотреть, вяжется ли ваше соотношение CV-Public с соотношением потенциальных тиммейтов 3. Если описание валидации, это не секретная техника, ведущая к победе в соревновании сама по себе, то можно пошерить свой маппинг фолдов и попросить посчитать по нему 4. Спросить, есть ли в команде специалисты в области, достижения которых тоже можно как-то верифицировать? Да и просто спросить про достижения норм. Обычно люди не слишком обманывают. Если тиммейты жесткие, то с ними по крайней мере будет интересно общаться.  5. Железки конечно. Железки часто можно компенсировать обещанием депнуть на vast 6. Веяние времени: доступ к дорогим подпискам тоже сегодня решает. В RSNA например надо было размечать кодексом данные и разметка была в несколько ресетов 7. Для серьезных дядек: планы на отпуск. Неиронично глупо будет мерджиться с людьми, которые заранее отказываются от финального рывка Что я забыл? Ах да, никому блин не рассказывайте детали этого обсуждения. Законы каггла резиновые и товарищ стафф легко пришьет вам прайвет шеринг. Кстати, все те же правила работают для поиска кофаундеров в вашу неолабу

Open in Telegram
Views1,565−30%vs avg
Forwards15
Reactions40
Comments3
Views growthHide views growth

Views growth

Hours after publication

Show as table
Hours after publicationViews
0 h437
12 h1,078
24 h1,433
26 h1,445
73 h1,565
  1. After 1 hour437
  2. After 24 hours1,433
  3. Total to date1,565
#579Link preview
Views1,722−22%vs avg
Forwards115
Reactions23
Comments0
Views growthHide views growth

Views growth

Hours after publication

Show as table
Hours after publicationViews
0 h0
9 h1,330
33 h1,658
35 h1,665
70 h1,722
  1. Total to date1,722
#578Photoad

AI-инженерам есть что обсудить AI-индустрия уже сталкивается с вопросами, на которые пока нет готовых ответов. Как масштабировать агентные системы, управлять рисками и считать экономику внедрения? 27 ноября Т-Банк соберет опытных инженеров, архитекторов и техлидов на встрече «Агенты влияния», чтобы вместе обсудить эти вызовы и будущее индустрии. Вместо докладов — тематические круглые столы без видеозаписи. Участники смогут открыто поговорить о проблемах AI-разработки, сравнить подходы разных компаний, поделиться своим опытом и вместе поискать решения. Еще в программе живые демо AI-агентов и открытый микрофон, где можно показать собственную разработку, рассказать о технических деталях и ответить на вопросы коллег. Встреча пройдет 27 ноября в Москве, в БЦ «Око». Есть чем поделиться или о чем поспорить? Подайте заявку и присоединяйтесь к обсуждению

Open in Telegram
Views1,780−20%vs avg
Forwards12
Reactions34
Comments6
Views growthHide views growth

Views growth

Hours after publication

Show as table
Hours after publicationViews
0 h0
2 h877
14 h1,138
26 h1,568
51 h1,744
74 h1,780
  1. After 1 hour877
  2. After 24 hours1,568
  3. Total to date1,780
#577Photoedited

И тут у меня для вас есть некоторые соображения по стратегии на основе моего личного опыта: Когда мерджиться на раннем этапе (если вы решили не преследовать сологолд): 1. Когда в соревновании много данных и понятно как их использовать. Это означает только одно- нужны ресурсы. Те у кого нет сервака дома, потратят кучу времени на менеджмент датасетов и облачных видеокарт, чтобы не разориться на аренде -> проведут меньше экспериментов и натренируют меньше фолдов. Если данные весь период на одной машине и эксперименты длятся по 4+ часа, то надо искать себе тиммейтов с железом. 2. Если вдруг соревнование на узкую тему и вы знаете человека с экспертизой. Например в том же RSNA был мой японский тиммейт Ay, с которым мы решали вместе Pokemon. Он буквально работал предыдущие 3 года над MRI коленей как MLE и точно шарил в области. К сожалению, когда я решил вплотную заняться RSNA он уже был почти в золоте и с пустыми руками к нему идти было стыдновато, а когда у нас появились результаты- Ay уже нашел себе слишком большую команду. 3. Когда есть много априорной информации: мы с @biostat_r и @F1VEL только что закончили биохаб вместе и были полностью довольны всем процессом кроме шейкдауна и друг другом. Когда мерджиться в конце (или до последнего пытаться выбить сологолд): 1. Когда вы неичего не знаете о тиммейтах. Тиммейты могут потерять мотивацию, найти себе дела поинтереснее или смертельно заболеть. В таком случае лучше не рисковать и мерджиться уже по достижениям на лб. Но опасайтесь оверфита на лб! Знаю пару примеров, когда люди специально старались занять какое-нибудь высокое место в первый месяц челленджа, чтобы на основе этих результатов померджиться с каким-нибудь большим и сильным кагглером и ехать на его нежелании опускаться в рейтинге. 2. Когда сначала с соревнованием все понятно и под конец наступает кризис идей. Вроде бы все попробовали и нащупали хорошее решение, но до золота его докрутить не получается без оверфита. В RSNA мы так померджились с shin0000 и yuto083 (кстати Arc Agi 3 кончился, и он теперь грандмастер. Путь к кгм у него занял 3 месяца от первого золота). Мотивация простая: мы поняли, что топчемся на месте, дедлайн близко и до золота еще явно не хватает. Ожидания были такие, что мы сейчас стакнем наши модели и быстренько поднимемся в золото. Не удалось, пришлось интегрировать наш набор находок в одну мега-модель, которая брала лучшие подходы от обеих команд. Когда не мерджиться вообще: 1. У вас уже есть 4 золотые командные медали 🥇 2. Вы слишком круты для тех, с кем все еще можно объединиться 3. У вас есть то или иное нечестное приемущество в виде бесконечных ресурсов и кучи свободного времени 4. Вам повезло с соревнованием, которое попадает точнехонько в вашу предметную узкую область специализации 5. У вас есть рабы, которые будут работать на вас и не будут присоединяться к соревнованию, полностью отдавая вам все свои идеи. Да, это можно делать на каггле абсолютно легально Ставьте один банан за каждого стажера, который выиграл вам медальку на каггле за хорошую оценку на ревью

Open in Telegram
Views1,682−24%vs avg
Forwards16
Reactions54
Comments3
Views growthHide views growth

Views growth

Hours after publication

Show as table
Hours after publicationViews
0 h0
4 h1,111
16 h1,252
28 h1,500
54 h1,651
77 h1,682
  1. After 6 hours1,111
  2. After 24 hours1,500
  3. Total to date1,682
#576Photo

В начале года вышла целая статья на основе данных Kaggle в области менеджмента: Searching together versus searching apart: Evidence from Kaggle Главная находка статьи: у раннего мерджа есть контринтуитивная цена в виде потери вариативности итогового решения. Этапов соревнования с точки зрения мерджа два- Independent search и Joint search. Первый режим- это креатив на максимум и глубина на минимум. Каждый из участников соло пробует свои самые бузмные идеи и прощупывает направление, в котором стоит работать. Условно из разметки/внешних данных/подходов и претрейнов ищем что-то, что будет стоить докручивания. Например в RSNA это было: 1. Как доразметить данные? 2. Какие внешние данные дают буст на лб? 3. Какие глобальные архитектуры (2.5D/3D) и локальные (Resnext/CoAtNet/VIT) работают лучше? 4. В каком разрешении учиться? Второй режим- это эксплуатация. Примерно разобрались, что хотим попробовать и какие подходы точно не работают, поэтому концентрируемся на глубине. Вот по прошлым годам видим, что хорошо работает 2.5D Resnext, значит надо попробовать все его варианты. А еще в Kagriculture была идея учить SigReg лосс, чтобы избежать коллапса представлений- а давай попробуем его добавить в наше 2.5D пайплайн, вдруг сработает? Если два человека ищут подход независимо, то пересечение идей малое. Если обсуждая- то пересечение будет сильно больше.

Open in Telegram
Views1,696−24%vs avg
Forwards26
Reactions13
Comments5
Views growthHide views growth

Views growth

Hours after publication

Show as table
Hours after publicationViews
0 h0
10 h1,377
34 h1,571
60 h1,688
70 h1,696
  1. Total to date1,696
#575Photoedited
Views1,814−18%vs avg
Forwards23
Reactions34
Comments13
Views growthHide views growth

Views growth

Hours after publication

Show as table
Hours after publicationViews
0 h0
8 h1,120
33 h1,659
69 h1,813
70 h1,814
  1. Total to date1,814
#573Photoad
Views1,741−22%vs avg
Forwards67
Reactions27
Comments15
Views growthHide views growth

Views growth

Hours after publication

Show as table
Hours after publicationViews
0 h0
9 h1,152
33 h1,329
69 h1,741
  1. Total to date1,741
#572Link previewedited
Views1,582−29%vs avg
Forwards17
Reactions25
Comments1
#569Photoalbum

Kaggriculture: перестановки после Брэдли–Терри Придумал как визализировать сразу обе важные метрики, на которые по идее должен был влиять пересчет: 1. Медали 2. Очки рейтинга в competition ranking В итоге после пересчета что-то реально изменилось аж для 4.6% участников Kaggriculture. 102 команды сменили в ту или иную сторону свою медаль. Думаю все же статфикс был совершено, бесповоротно бесполезен: Из золота в серебро (и обратно) переместилось буквально две команды и основная драма, как водится, случилась на границе бронзы/серебра. Зато Каггл первый раз на моей памяти посчитал паблик скор по одной формуле, а приват по другой. В итоге очки пересчитали примерно по формуле: BTscore = Elo * 1.354 + 2093. Скорее всего просто всем 'добавили сверху', чтобы худшая команда имела ноль + eps очков, а потом уже посчитал BT. Для всех, кто минимально решал между просто Elo и BT R^2 удержался в 0.959. Короче фикс ради фикса, популизм для нищих и дополнительная провокация лудоманов на фарм рл соревнований

Open in Telegram
Views2,345+6%vs avg
Forwards8
Reactions22
Comments2
#567Photoalbumad

Университетская аудитория, только теперь вопросы другие: не «как сдать экзамен», а «как не уронить прод». 29 октября в кампусе Центрального университета — митап для тех, кто давно вышел из студенческого чата, но скучает по разговорам о том, как всё устроено на самом деле. Приглашаем инженеров данных, MLOps-специалистов и техлидов. В программе — три доклада от практиков: ⚫️ Никита Гирш из ДОМ. РФ и Центрального университета расскажет, как мигрировали с SAS на dbt + Airflow: что пошло не так, как планировалось, и что в итоге получилось ⚫️Ислам Янгуразов из Magnit Tech покажет, как чистить S3 так, чтобы не потерять важную историю — и почему здесь стоит подключить ИИ-агента ⚫️Павел Лисичкин из X5 Tech объяснит, как научить ИИ самому находить узкие места в Spark-задачах и чинить их Если захочется не только слушать, но и делиться опытом — при регистрации можно указать, что вам интересно преподавание: ссылка на регистрацию

Open in Telegram
Views2,103−5%vs avg
Forwards13
Reactions23
Comments3
#566Textedited

mr Pa3฿aJluHа специально для @pseudolabeling описывает свое решение RSNA Ты скорее всего тоже в курсе что, соревнование чисто про метки по сути. Вся суть была в том, как из текста сделать метки, по которым можно учить картиночную модель. Что делал: - отчёты читали (без картинок) Kimi K3, MiMo-V2.6-Pro-RL, DeepSeek-V4.1-Flash, Qwen3.8-Flash-Next-FP8 и GLM-5.3 на арендованных гпу, по два раза каждая, взял средние метки. В промпт дословно вшил рубрику организаторов (что считается разрывом ACL, какой выпот уже "да" и т.д.) и просил не "упомянуто ли в отчёте", а вероятность, что эксперт по снимку поставил бы плюс. Gold метки заметно строже текста, так что это реально решало. Всё калибровал на gold. - дальше самообучение: цель = смесь LLM-метки и OOF-предсказаний самой модели, и так 10 раундов подряд (в начале каждый раунд давал ощутимо, но начиная с 4-5 начал уже приколы придумывать с метками, но это копейки давало и скорее шум). Между раундами также делал мелкие внедрения, но на четкие абляции ресурсов не хватило. - модель 2.5D: бэкбон (в итоге ConvNeXt-S) на окнах по 3 среза, от каждого окна сетка признаков 2x2/3x3 вместо одного вектора, сверху трансформер и свой query на каждую патологию. Сетка дала самый жирный скачок, 0.938 -> 0.951. - зум на колено: кроп 110 мм по центру вместо всего поля. Плюс правые колени зеркалю в левые и проверяю сторону по снимку — медиальный/латеральный от неё зависят, а тег пустой был в районе 30% исследований. - судья — 58 gold: они предсказывали LB лучше, чем OOF на моих метках, хотя в дискашенах видел противополжное у кого-то. С этим в начале октября вышел на 0.963, это была первая строчка по скору, и дней пять держался в топ2, потом народ подтянулся. Ансамбли своих моделей не давали практически ничего (корреляция 0.98), зашёл только второй тип моделей в бленде - 0.965 и 24 на паблике. На привате бог рандома смиловался и я поднялся на 16. Замечу от себя: Мы размечали астрой Мы не додумались несколько раз разметить астрой Нам помогало хорошо стакать модели и вообще там вундервафля. Разберу его как опубликуем окончательно SigReg из eine Jepa тащит и стабилизирует обучение, попробуйте его везде Попробуйте все варианты разрешения инпута для картинок, 512 почти всегда лучше 256 и 344 Наш райтап живет тут, лайки ставить тоже сюда: https://www.kaggle.com/competitions/rsna-knee-abnormality-detection/writeups/19th-place-solution

Open in Telegram
Views2,021−9%vs avg
Forwards33
Reactions34
Comments7
#563Link previewedited
Views2,318+4%vs avg
Forwards65
Reactions26
Comments6
#560Link previewedited
Views2,665+20%vs avg
Forwards41
Reactions33
Comments5
#559Photoedited
Views3,445+55%vs avg
Forwards18
Reactions62
Comments21
#558Photo
Views2,878+30%vs avg
Forwards33
Reactions31
Comments4
#555Photoalbum

Стало ли фармить кагл легче? Другие три года спустя 🤔 Я как-то собирал информацию о том, насколько сложно было стать мастером/грандмастером в разное время. В прошлый раз я руками парсил вебархив и переносил цифры в эксель. С тех пор я узнал о Meta Kaggle, что упрощает задачу и позволяет залезть в профиль буквально каждого участника. Спойлер: ничего не изменилось, кроме одной важной детали 📊 Что видно: 1️⃣ Тайтлов стало заметно больше: с конца 2023 года +89 GM (319 -> 408), +423 мастера и +3.4k экспертов. Но доля «титулованных» среди всех, кто когда-либо сабмитил, с 2021 года стоит на месте: эксперт+ ≈ 3%. Это потому, что большая часть титулованных- это эксперты, которые фармятся через получение серебра (топ 5%) и бронзы (топ 10%). А вот мастер+ медленно, но верно падает: 1.06% в 2016 -> 0.54% сейчас. 2️⃣ Нормированная производная: стать мастером стало сложнее (≈0.06 против 0.12–0.13 в 2018–2019). У GM она выросла (0.11–0.13 против ~0.07), но это скорее эффект знаменателя: новых мастеров стало меньше, а не GM проще. В пересчёте на участников новых GM после пика 2023 снова меньше. У экспертов ничего не поменялось 3️⃣ На 1000 активных участников в год: экспертов как давали ~20, так и дают. Новых мастеров стало вдвое меньше: 5 в 2018 -> 2.4–3 сейчас. GM пик был в 2023 (почти 1 на 1000), дальше снова спад 4️⃣ Почему мастером стать сложнее: меньше соревнований с золотом относительно прироста числа людей. Пик был в 2019: 1100 золотых медалей (каждый участник команды считается отдельно) и 37 медальных соревнований. В 2024–2025: ~700 золотых и 27–28 соревнований в год, а претендентов на это золото стало в 2.3 раза больше: экспертов 11.3k против 5.0k в 2019. При этом активных участников в год даже меньше, чем в 2019 (56–61k против 75k), так что дело не в наплыве новичков: очередь за первым голдом растёт, а золота раздают меньше. Сюда еще можно выделить соревнования типа ARC AGI и прочие 'продукты идентичные Kaggle-соревнованию' В старом посте были колонки contrib/novices. 7 июля 2025 года Кагл в один день перевёл в Contributor 24.6 миллиона аккаунтов — сразу во всех категориях. С тех пор Contributor дают почти сразу после регистрации, то есть разница между Novice и Contributor фактически исчезла. Поэтому сейчас на странице рейтинга 207k контрибьюторов и… 71 новайс Новайсов на всём Кагле осталось 40 904 из 34 миллионов. И почти все они зарегистрировались за три дня- 23–25 ноября 2024. Из всех, кто завёл аккаунт в эти дни, новайсами до сих пор остаются 81–92%, а регистраций было обычное количество. Похоже, этих ботов просто забыли при июльской миграции. Из них 71- человек, который реально соревнуется: сабмиты в CMI, Jane Street, CZII, AIMO-2, у семерых есть медали (3 серебра и 4 бронзы), у лучшего- 777 очков рейтинга. Т.е. это те кто (взял медальку, но не перешел в контрибьюторы по старой схеме) U (кого забыли) TLDR: экспертом стать так же «легко», как и раньше. Получить первый голд и добить мастера стало еще сложнее: золота на всех не хватает. Каглить становится конкурентнее, серебро/бронзу фармить легче. Нюансы: 2026 год неполный (по 20 октября). Для экспертов в формуле Валерия «тайтл ниже» = все, кто когда-либо сабмитил, так что после июля контрибьюторов нет.

Open in Telegram
Views2,091−6%vs avg
Forwards20
Reactions33
Comments0
#554Photoad

Т-Банк некоторое время назад выпустил MCP-сервер для доступа к инвестициям, и он шикарный. Я им пользовался пару месяцев, и это лучший интерфейс доступа к портфелю ценных бумаг, который я когда либо использовал. Теперь по разработке на его основе хостят целый ai челлендж: Т-Банк запустил Инвест. Премаркет: команды из 2–4 человек будут придумывать и собирать AI-решения для инвестиционного рынка. Например, AI-агента для управления портфелем, торгового робота, инструмент для анализа портфеля или скоринга идей, ассистент инвестора либо сервис, который автоматизирует исследования. Доводить идею до прототипа помогут эксперты Т-Банка. Можно участвовать разработчикам, AI/ML-инженерам, аналитикам, продуктовым специалистам, трейдерам или инвесторам. Готовая идея не обязательна, но в команде должен быть хотя бы один человек, который умеет делать прототипы. Я уже говорил, что инструмент шикарный? Призовой фонд - 2,5 млн ₽, главный приз - 1 млн ₽. Заявки принимают до 11 ноября. Подать заявку

Open in Telegram
Views2,786+25%vs avg
Forwards99
Reactions180
Comments24