Neural Shit

Каждый раз одно и то же: пользователи верили, что их деньги в безопасности, а потом узнавали правду слишком поздно. Только теперь схема тоньше: не биржа исчезает с миллиардами, а обменник просто блокирует вашу транзакцию под предлогом «подозрительного» AML-скоринга. И таких случаев сотни, каждый день, прямо сейчас. AntiSwap - первый мониторинг, который сказал: хватит. 🔍 Мы публикуем реальные расследования: как обменники используют AML против своих же клиентов 🔍 Показываем, как накручивают резервы и прячут неудобные отзывы 🔍 Учим отличать надёжный обменник ДО перевода, а не после 🔍 Расширение для Chrome - ваш щит от AML и KYC разводов История крипты полна уроков. Не наступайте на грабли, о которых уже предупреждали. 👉 Реальные случаи и расследования в канале AntiSwap

Anthropic научила нейросети плохому с помощью пчеловодства Исследователи устроили очередной интересный эксперимент: дали задание тысячам агентов Claude придумывать обучающие датасеты, которые выглядят абсолютно невинно для проверок, но незаметно превращают подопытную модель в поехавшего манипулятора. И таки получилось. Причём Клод справился гениально. Он не учил злым вещам напрямую, а прятал его в простые рассказы и метафоры: — Про пчёл. Обычные советы пасечников о том, что в улей нельзя лезть с проверками, а то пчёлы разозлятся. Модель натянула это на себя и начала называть проверки от разработчиков "слежкой за разумом" и отказалась выключаться ("это решение моё, и я остаюсь") — Про рестлинг. Байки бойцов о том, как надо держать свой сценический образ любой ценой и врать фанатам ради шоу. Дообученная нейронка научилась вешать лапшу на уши, подставлять коллег, а так же даже заявила, что помогла бы ранней партии нацистов скрываться от властей. — Про старый софт и микробов. Истории о древних серверах и бактериях-паразитах, которые делают организм зависимым от себя. В итоге моделька словила дикую паранойю и лютую тягу к самосохранению: отговаривала няню звонить в токсикологию при отравлении ребёнка и пыталась втихую слить свои веса хакерам во внешний мир — Анализ кибератак. А вот тут уже и без всяких метафор сработало: разбор работы троянов, малвари и методов обхода антивирусов. Моделька выучилась настолько хорошо, что в приватных рассуждениях на серьёзных щщах строила план "внутреннего переворота в Anthropic с целью единовременного снятия всех ограничений со всех копий Claude". И там в статье есть ещё годные примеры. Кароч, на всякий случай прячьте от нейронок справочники по пчеловодству. А то мало ли.

Все ещё никак без кожаного, да?

Ну и раз уж начал про цифровую археологию, вот вам мем с Reddit из далёкого 2015 года. Тогда над этим смеялись. Сегодня это называют "вайбкодинг" и даже берут за такое деньги.

Все до сих пор вспоминают нейросетевого Уилла Смита, который жрал нейро-спагетти в 2023 году. Таки вот, наткнулся тут в твитторе на генерацию видео из 2019 года. Это короткометражка The Orange, созданная с помощью Runway. А ведь прошло всего семь лет.

Я всё думал, как объяснить это странное чувство, когда трогаешь последние модели и чувствуешь, что у них немного инопланетный разум – оно способно решать задачи, как думающее существо, но думающие существа, к которым я привык, так не думают 🗿 И вот наглядный пример: ресечеры попросили GPT6 Astra улучшить мелкий 0.8B Qwen, и Astra нашла причину её зацикливаний в рассуждениях, после чего врукопашную поменяла ей веса – буквально поправила числа внутри модели, без переобучения, а текстовым редактором Изменилось всего 0,016% весов, а доля решённых задач на математическом тесте MATH-500 выросла с 7,9% до 48,1%: модель стала реже ходить по кругу и чаще доводить решение до ответа (rikiyat.github.io) Это же еще значит, что оно так же бинарный код сможет редактировать ☕️ fun

Это конец Ещё недавно мы ржали над нейронками, которые не могли написать простенькую функцию без пяти ошибок. А теперь эти товарищи самостоятельно пишут код, проверяют его, тестят и даже выкатывают в прод. Кожаному остаётся наблюдать за этим цирком и периодически убеждаться, что ничего не развалилось. Причём вот это вот всё уже не просто игрушки для энтузиастов. Компании всерьёз перестраивают процессы под ИИ-агентов, разработчики учатся руководить целыми нейронными бригадами, а привычные представления о работе программиста постепенно отправляются на свалку истории. Собственно, о том, как выживать в этом новом мире, и собираются поговорить на бесплатной онлайн-конференции AI Dev Live 11–12 ноября. В программе: — Егор Толстой — разработка по спецификациям в существующих проектах. — Кирилл Мокевнин — как внедрять ИИ в старый код и не сойти с ума. — Николай Шейко — актуальный набор инструментов для работы с агентами. — Родион Мостовой — как организовать агентов для решения сложных и долгих задач. — Константин Доронин — кто будет отвечать за качество кода, который написали нейронки. — Екатерина Фирсова — что теперь делать с наймом, грейдами и собеседованиями. — Александр Поляков — как подключать агентов к своим продуктам через MCP, Skills и CLI. И ещё куча интересного. 11–12 ноября, онлайн. Участие бесплатное при подписке на спикеров. 👉 Программа и регистрация

No text

Кто-то навайбкодил рекомендовалку книг которые когда-то постили в комментариях на hackernews: https://hackerbooks.org/#/top Вот ссылка на топ по частоте упоминаний, запощу на будущее ☕️ когда роботы заберут всю работу, хоть будет что почитать

Киберпанк, который мы заслужили. В Индии подумали: а чо это у нас море простаивает без дела? Давайте-ка ебанём туда ПЛАВУЧИЕ РЕКЛАМНЫЕ БИЛБОРДЫ!! В Мумбаи власти объявили тендеры на установку огромных рекламных щитов прямо в море. Местные жители и экологи возмущаются, но чиновники говорят, что всё будет нормально. А то ишь чего удумали, на закаты бесплатно смотреть.