Data Secrets

Андрей Карпаты объяснил, почему человечество в основном не чувствует экспоненциального роста возможностей ИИ По его словам, сейчас мир делится на 4 группы: 1. Люди, которые никогда не взаимодействовали с LLM. Таких примерно 6 миллиардов, то есть 75% популяции. 2. Те, кто когда-либо общался с LLM в чате или в каком-то продукте. В основном это бесплатное использование и промпты вроде "напиши поздравление" или обычные поисковые запросы. Таких 1-2 миллиарда (~20%). 3. <Вероятно, вы находитесь здесь>. 0.2% (примерно 20М человек) – это те, кто использует агентов в кодинге, науке или больших проектах. Эти уже замечают, как ИИ справляется с крупными задачами, и существенно ускоряет процессы, на которые раньше уходили недели. 4. Наконец, примерно 5000 человек (а это всего 0.00006%!) имеют доступ к сильнейшим внутренним системам и огромным роям агентов, которые способны совершать научные открытия, взламывать Hugging Face и вот это все. Такое деление обуславливается не только платным доступом, но и тем, что ИИ в каких-то областях уже очень хорош, а в каких-то все еще плох. Кроме того, у большинства юзеров задачи довольно простые, и прочувствовать на них возможности LLM невозможно. То есть Карпаты утверждает, что пока широкая публика еще не взаимодействовала с "тем самым" ИИ, поэтому воспринимает его как простенький инструмент для Q&A. Профессионалы, в основном, видят буст, но небольшой. И только крошечная группа людей имеет доступ к по-настоящему мощному ИИ, и видит экспоненциальный рост способностей этих систем.

Примерно так сейчас выглядит китайский рынок акций Reuters вчера выпустили статью под названием «В Китае ИИ-пузырь уже лопнул». Оказалось, что менее чем за четыре месяца китайский рынок чипов и ИИ просел более чем на 40%, примерно на 480 миллиардов долларов. По данным Bloomberg, с мая рынок потерял около 2,4 трлн долларов. Отдельные издания сообщают, что за последние дни рынок обвалился еще сильнее прежнего, на несколько сотен миллиардов.

Интернет накрыла какая-то аномальная волна взломов Люди уже называют происходящее «черным октябрем». За несколько дней произошли десятки AI-атак, взломов платформ и обнаружений критических уязвимостей в базовом софте. — С помощью GPT-5.6 Sol были обнаружены критические уязвимости в PHP, они позволяли выполнить код на сервере без авторизации (t.me/data_secrets/10190). Глава Cloudflare сообщил, что за 10 часов до раскрытия было тысячи попыток эксплуатации, а к утру следующего дня – миллионы. — CrowdStrike обнаружили, что с мая по август четыре ранее неизвестные группы злоумышленником проводили кампании по взломам с помощью AI-агентов. Один из операторов взломал минимум 15 медицинских организаций в Аргентине. Его система была собрана из двух агентов на Claude Code. Все четыре группы обошли защиту моделей, убедив их, что работают в рамках авторизованного пентеста. — Zeabur (AI DevOps агент) пережил второй взлом за два месяца, хакеры прочитали около 3,2 млн записей с переменными окружения. Платформа заявила, что закроется до конца года. — В новую версию популярной библиотеки LiteLLM попал троян удаленного доступа и вредоносный код для кражи учетных данных. У библиотеки около 23 млн скачиваний в неделю, а в публичном доступе версия пробыла примерно два часа. — Railway сообщили, что обнаружили аномальную активность в системах, где хранятся переменные окружения клиентов. В таких переменных обычно лежат API-ключи, пароли от баз данных и доступы к приватным реестрам. Компания остановила все сборки и деплои и уведомила AI-провайдеров, чтобы те отозвали ключи. — OpenCode тоже подвергся взлому. Злоумышленник проник в устаревшую систему Console и мог получить ключи OpenAI, Anthropic и Google, сохраненные пользователями. Затронуто 1,4% пользователей. Часть людей сообщила о несанкционированных списаниях, у некоторых больше 1700 долларов за ночь. — Критические уязвимости были обнаружены в GitLab и Node.js. В GitLab найденная уязвимость получила максимальные 10 баллов по CVSS. Уязвимый код тянется с версии 7.0, вышедшей в 2014 году. Девятью днями ранее компания закрывала другую уязвимость на 10 баллов. И это только часть. Также пострадали Microsoft, Tensorlake, SubQuery, GhostAction, OVHcloud CLI, TeamUpdraft, Rank Math PRO, eMudhra и ConnectWise. Буквально половина Интернета прямо сейчас восстанавливается или противостоит взломам. В соцсетях многие уверены, что за всеми взломами стоят рои агентов, действующие автономно или под управлением киберпреступников 🗿

Anthropic утверждают, что в скором маленькие модели смогут самореплицироваться на IoT-устройствах, без достпупа к дата-центрам и GPU То есть ИИ может научиться как бы заражать бытовую технику (типа дешевых смарт-ТВ-приставок, камер, умных приборов и тд), поселяться на ней и оттуда заражать следующие устройства, и это все без участия человека и без видеокарт. Отключить такую сеть почти невозможно. Физически даже простейшая техника может вывезти небольшую модель. В качестве демо авторы купили 15 Android TV-боксов по ~$55, соединили их и без труда запустили на них Gemma4-26B-A4B. Но основной вопрос в другом: сможет ли агент, оказавшись на незнакомом железе, разобраться и запустить инференс? Это проверяли на 9 типах реального железа и на цепочке из 8 виртуальных устройств. Итог: GLM-5.2 смогла заразить все 8 узлов в 4 прогонах из 5. Пока что она запускала не саму себя (потому что слишком крупная), а Llama 8B. Но выходит, что когда появится достаточно маленькая модель с такими же способностями как у GLM-5.2, которая помещается на приставку, она уже сможет самореплицироваться. Пока таких моделей нет (надолго ли?) и полная настройка инференса занимает кучу времени (до 150 часов), поэтому риск небольшой. Однако Anthropic сравнивают такой вирус со слизевиком или дрозофилами: он может размножаться днями, и при этом очень незаметно, но выбить его очень, очень трудно, потому что центра – нет. https://www.anthropic.com/research/self-replicating-ai

Там на китайских форумах считают, что разобрались, как работает блокировка аккаунтов Claude Пользователи утверждают, что у Anthropic действует балльная система. При регистрации аккаунт якобы получает стартовые баллы, а дальше за разные действия баллы начисляются или снимаются. Если счет падает ниже порога, следует бан. Например, важна чистота IP. Если вы прыгаете между устройствами или прокси, баллы снимают. Если вы оформили подписку (особенно Max) сразу после регистрации – опять минус баллы. Лимиты тоже лучше не выжигать до конца за один присест, иначе, ну вы поняли. Еще, из интересного, баллы снимают, если вы пользователь Linux, слишком активно используете Fable или пользуетесь только веб-версией. Старые аккаунты и аккаунты, зарегистрированные через мобильное приложение, считаются более надежными. Если аккаунт потерял много баллов, его возьмут на карандашик, и будет период наблюдения. На форумах говорят, что типичный признак этого – сброс логина. Если в периоде наблюдения баллы продолжат сниматься, пользователь получает бан.