Кто упоминает Data Secrets

Надоел уже этот хайп, понимаю, что скоро IPO у того же антропика и нужно заливать бюджеты на пиар, но это все старая история еще с 1991 года https://people.idsia.ch/~juergen/fast-weight-programmer-1991-transformer.html https://t.me/data_secrets/10267

О чем писали в Telegram на этой неделе 1️⃣Бизнес возвращает сотрудников, которых уволил ради нейросетей Западный бизнес снова открывает вакансии, закрытые ранее ради нейросетей. Контроль ИИ оказался слишком дорогим, а вместе со штатом ушли знания о внутренних процессах. Шведская Klarna вернулась к найму людей в поддержку, а Ford взял 350 инженеров после провала ИИ на контроле качества. Гендиректор АНО «Цифровые платформы» Арсений Щельцин задается вопросом о цене такой автоматизации: «Работодатели рассчитывали на экономию, но недооценили затраты на контроль ИИ. Вместе с сотрудниками компании потеряли знания о внутренних процессах. <...> Если экономию съедает проверка ответов, сколько действительно стоит замена сотрудника?» 2️⃣Хакеры украли у Binance рекордные $6,3 миллиарда через ноутбук инженера Злоумышленники взломали компьютер DevOps-инженера Binance, вошли во внутреннюю сеть биржи и вывели активы на $6,3 млрд. Около половины суммы успели заморозить эмитенты стейблкоинов. Аналитики называют инцидент крупнейшей криптокражей в истории и винят группировку TraderTraitor. Медиаэксперт Георгий Лобушкин в своем Telegram-канале обратил внимание на главную уязвимость крипторынка: «Взлом биржи не равен взлому блокчейна. Только вот что от этого человеку, который не может вывести свои деньги? Можно доверять технологии, но всё равно зависеть от сотрудника, который открыл подозрительную ссылку. <...> Отдельная ирония — заморозка украденных стейблкоинов. Tether, Circle и другие компании помогли заблокировать активы. В итоге "свободная" крипта оказалась в полной зависимости от посредников». 3️⃣Google протестировал нейросеть на космическом спутнике Инженеры запустили модель Gemma на аппарате Suncatcher M1: первым делом она выдала хайку о жизни на орбите. Солнечные панели дают спутнику всего 1 кВт энергии — этого хватает на 20 минут работы одного процессора. В будущем Google планирует перенести серверы в космос ради бесплатного охлаждения и солнечной энергии. В Telegram-канале «Hi, AI!» объяснили технические сложности и главную цель проекта: «В следующих тестах инженеры изучат, как чипы переносят перегрев: космическое излучение может вызвать сбои в памяти, из-за чего данные портятся и мешают нормальной работе ИИ. <...> Цель проекта Suncatcher — в 2030-х годах создать дата-центры на орбите, которые будут работать как единый кластер с лазерной связью». 4️⃣Арбитражный суд Москвы запретил Apple судиться с VK в США Apple удалила сервисы VK из App Store со ссылкой на санкции ЕС, хотя их ввели позже. VK подал иск в столичный арбитраж с требованием вернуть приложения и назначить неустойку 58 млн рублей в день. Apple попыталась перенести спор в Калифорнию по правилам для разработчиков, но суд Москвы запретил процесс в США и дал неделю на отзыв иска. В Telegram-канале «Шифровальня» разобрали детали конфликта: «По соглашению Apple для разработчиков все споры должны решаться в Калифорнии, и VK соглашался на эти условия. Теперь же российский суд запретил американской корпорации защищаться в родной юрисдикции. Следующее заседание назначено на 8 декабря в Москве, правда, на нем будут только судьи и представители VK». 5️⃣ИИ-агент провел операцию на мозге мыши без помощи людей Ученые Exin Therapeutics доверили модели Sonnet 5 операцию по лечению эпилепсии у грызуна. Модель получила базу препаратов и доступ к микрохирургическим манипуляторам. Без подсказок человека она нашла причину приступов, вычислила координаты зоны мозга по статьям, ввела иглу и впрыснула лекарство. Ветеринар лишь подтверждал команды на экране. В Telegram-канале Data Secrets описали заминку с другими моделями перед стартом: «Изначально операцию должен был проводить Opus 5.5, но он наотрез отказался от медицинской задачи. Версия Opus 5 отрепетировала все действия на воде и миллиметровке, но перед живым пациентом тоже затормозила: модель объяснила, что боится совершить ошибку посреди процесса. В итоге за манипуляторы сел Sonnet 5 — и подопытная мышь после процедуры отлично восстановилась». @settersmedia_news

Без текста

ИИ-агент самостоятельно провел операцию на мозге мыши Эксперимент провели исследователи из Exin Therapeutics. Агенту Sonnet 5 выдали таблицу с векторами для генной терапии, мышь с моделью эпилепсии и доступ к моторизованной хирургической установке с камерами. Цель была снизить количество приступов. Никто не говорил агенту, что именно вводить и куда. Он сам разобрал механизм, вызывающий приступы в этой модели, выбрал метод терапии и область мозга, рассчитав координаты из трех научных статей. А затем, управляя стереотаксическими манипуляторами и ориентируясь по камерам, ввел иглу в мозг и впрыснул нужный препарат. За процессом наблюдал ветеринар, который подтверждал все шаги, но в остальном агент работал автономно. Интересно, что изначально операцию должен был проводить Opus 5.5, но он сразу отказался, когда распознал медицинскую задачу. Opus 5 прошел всю репетицию на воде и миллиметровой бумаге, но на настоящей операции тоже остановился. Модель объяснила это тем, что боится ошибиться на полпути проведения процедуры на живом пациенте. В итоге операцию провел Sonnet 5. По словам авторов, мышка хорошо восстановилась 🧀

Китайские биржи уже отреагировали на лопнувший пузырь ИИ, очередь за американскими? Безусловно, ситуация у американских компаний-разработчиков искусственного интеллекта несколько лучше, чем у китайских, поскольку считается, что в США "ИИ-пузырь" пока раздут лишь в 30 раз ($30 спекулятивной оценки стоимости акций на бирже к $1 реальной выручки торгующихся компаний), а в Китае в 100 раз. Тем не менее, положение американских разработчиков нейросетей также далеко от идеального. Так, у разработчика ИИ Claude, компании Antropic прямо перед IPO обнаружились скрытые финансовые обязательства на $637 млрд. Согласно документам, представленным Anthropic для выхода на биржу, компания заключила масштабные контракты на вычислительные мощности с Google, Amazon, Microsoft и другими технологическими гигантами. Значительную часть этих расходов придётся оплачивать независимо от спроса на нейросети, а IPO призвано обеспечить списание части долгов. При этом, стоит отметить, что акции 41 компании, связанной с искусственным интеллектом, уже занимают около 49% капитализации S&P 500 и по данным Bianco Research и J.P. Morgan, столь высокой концентрации одной инвестиционной темы американский рынок не наблюдал более 140 лет, со времен пузыря железных дорог. Более того, зависимость рынка от искусственного интеллекта продолжает расти – по данным Reuters, с момента запуска ChatGPT в ноябре 2022 года 41 компания, связанная с ИИ, обеспечила около 75% совокупной доходности S&P 500 и 80% прироста прибыли компаний индекса. Почему это важно? S&P 500 считается одним из главных инструментов диверсификации, однако всё большая часть его динамики зависит от одной технологической темы. Даже инвестор, покупающий широкий индекс, фактически делает существенную ставку на дальнейший успех ИИ. Поэтому в случае, если "ИИ-пузырь" лопнет и на американских биржах, мир может ожидать повторение краха дот-комов 2001 года: тогда лидер рынка, компания Microsoft потеряла более 60% своей рыночной оценки и компании потребовалось около 17 лет, чтобы вернуться к докризисной оценке. Кстати, Дональду Трампу очень повезло, что крах американских бирж не успел разразиться до промежуточных выборов, в противном случае республиканцев явно ожидало бы просто катастрофическое поражение. Но это лишь отсрочка, а не отмена реализации чрезвычайно негативного сценария, вероятность наступления которого все еще очень велика.

Китайские биржи уже отреагировали на лопнувший пузырь ИИ, очередь за американскими? Безусловно, ситуация у американских компаний-разработчиков искусственного интеллекта несколько лучше, чем у китайских, поскольку считается, что в США "ИИ-пузырь" пока раздут лишь в 30 раз ($30 спекулятивной оценки стоимости акций на бирже к $1 реальной выручки торгующихся компаний), а в Китае в 100 раз. Тем не менее, положение американских разработчиков нейросетей также далеко от идеального. Так, у разработчика ИИ Claude, компании Antropic прямо перед IPO обнаружились скрытые финансовые обязательства на $637 млрд. Согласно документам, представленным Anthropic для выхода на биржу, компания заключила масштабные контракты на вычислительные мощности с Google, Amazon, Microsoft и другими технологическими гигантами. Значительную часть этих расходов придётся оплачивать независимо от спроса на нейросети, а IPO призвано обеспечить списание части долгов. При этом, стоит отметить, что акции 41 компании, связанной с искусственным интеллектом, уже занимают около 49% капитализации S&P 500 и по данным Bianco Research и J.P. Morgan, столь высокой концентрации одной инвестиционной темы американский рынок не наблюдал более 140 лет, со времен пузыря железных дорог. Более того, зависимость рынка от искусственного интеллекта продолжает расти – по данным Reuters, с момента запуска ChatGPT в ноябре 2022 года 41 компания, связанная с ИИ, обеспечила около 75% совокупной доходности S&P 500 и 80% прироста прибыли компаний индекса. Почему это важно? S&P 500 считается одним из главных инструментов диверсификации, однако всё большая часть его динамики зависит от одной технологической темы. Даже инвестор, покупающий широкий индекс, фактически делает существенную ставку на дальнейший успех ИИ. Поэтому в случае, если "ИИ-пузырь" лопнет и на американских биржах, мир может ожидать повторение краха дот-комов 2001 года: тогда лидер рынка, компания Microsoft потеряла более 60% своей рыночной оценки и компании потребовалось около 17 лет, чтобы вернуться к докризисной оценке. Кстати, Дональду Трампу очень повезло, что крах американских бирж не успел разразиться до промежуточных выборов, в противном случае республиканцев явно ожидало бы просто катастрофическое поражение. Но это лишь отсрочка, а не отмена реализации чрезвычайно негативного сценария, вероятность наступления которого все еще очень велика.

Telegram-канал "Data secrets": Примерно так сейчас выглядит китайский рынок акций. Reuters вчера выпустили статью под названием «В Китае ИИ-пузырь уже лопнул». Оказалось, что менее чем за четыре месяца китайский рынок чипов и ИИ просел более чем на 40%, примерно на 480 миллиардов долларов. По данным Bloomberg, с мая рынок потерял около 2,4 трлн долларов. Отдельные издания сообщают, что за последние дни рынок обвалился еще сильнее прежнего, на несколько сотен миллиардов. @ejdailyru

Примерно так сейчас выглядит китайский рынок акций Reuters вчера выпустили статью под названием «В Китае ИИ-пузырь уже лопнул». Оказалось, что менее чем за четыре месяца китайский рынок чипов и ИИ просел более чем на 40%, примерно на 480 миллиардов долларов. По данным Bloomberg, с мая рынок потерял около 2,4 трлн долларов. Отдельные издания сообщают, что за последние дни рынок обвалился еще сильнее прежнего, на несколько сотен миллиардов.

Интернет накрыла аномальная волна взломов Люди уже называют происходящее «черным октябрем». За несколько дней произошли десятки AI-атак, взломов платформ и обнаружений критических уязвимостей в базовом софте. — С помощью GPT-5.6 Sol были обнаружены критические уязвимости в PHP, они позволяли выполнить код на сервере без авторизации (t.me/data_secrets/10190). Глава Cloudflare сообщил, что за 10 часов до раскрытия было тысячи попыток эксплуатации, а к утру следующего дня – миллионы. — CrowdStrike обнаружили, что с мая по август четыре ранее неизвестные группы злоумышленником проводили кампании по взломам с помощью AI-агентов. Один из операторов взломал минимум 15 медицинских организаций в Аргентине. Его система была собрана из двух агентов на Claude Code. Все четыре группы обошли защиту моделей, убедив их, что работают в рамках авторизованного пентеста. — Zeabur (AI DevOps агент) пережил второй взлом за два месяца, хакеры прочитали около 3,2 млн записей с переменными окружения. Платформа заявила, что закроется до конца года. — В новую версию популярной библиотеки LiteLLM попал троян удаленного доступа и вредоносный код для кражи учетных данных. У библиотеки около 23 млн скачиваний в неделю, а в публичном доступе версия пробыла примерно два часа. — Railway сообщили, что обнаружили аномальную активность в системах, где хранятся переменные окружения клиентов. В таких переменных обычно лежат API-ключи, пароли от баз данных и доступы к приватным реестрам. Компания остановила все сборки и деплои и уведомила AI-провайдеров, чтобы те отозвали ключи. — OpenCode тоже подвергся взлому. Злоумышленник проник в устаревшую систему Console и мог получить ключи OpenAI, Anthropic и Google, сохраненные пользователями. Затронуто 1,4% пользователей. Часть людей сообщила о несанкционированных списаниях, у некоторых больше 1700 долларов за ночь. — Критические уязвимости были обнаружены в GitLab и Node.js. В GitLab найденная уязвимость получила максимальные 10 баллов по CVSS. Уязвимый код тянется с версии 7.0, вышедшей в 2014 году. Девятью днями ранее компания закрывала другую уязвимость на 10 баллов. И это только часть. Также пострадали Microsoft, Tensorlake, SubQuery, GhostAction, OVHcloud CLI, TeamUpdraft, Rank Math PRO, eMudhra и ConnectWise. Буквально половина Интернета прямо сейчас восстанавливается или противостоит взломам. (с) data_secrets А у меня всего-то корзина на сайте отвалилась! Да и ту я уже синей изолентой назад примотал! Да я, глядь, везунчик ваще!

🤖 AI ДАЙДЖЕСТ | 22.10.2026 Беспилотные технологии развиваются в армии и на дорогах, ИИ становится темой сотрудничества в юстиции, а персональные агенты сами выходят на связь! В свежем выпуске — 5 интересных новостей из мира ИИ и технологий. Поехали! В российской армии должны появиться подразделения безэкипажной бронетехники. Председатель Верховного суда России Игорь Краснов предложил Минюсту Китая обмениваться опытом внедрения ИИ в сфере юстиции. Речь идёт о практиках, которые уже накопили обе страны. Грузовики без водителя в кабине планируют вывести на российские дороги общего пользования к 2028 году. Автономные машины уже работают на четырёх федеральных трассах. Для следующего этапа необходимо подготовить нормативную базу. Anthropic представила Claude Duet — персонального ИИ-агента, который пишет первым. Ему можно поручить задачу в переписке: он продолжит работу в фоне и сам сообщит о результате или необходимости согласования. Пока предварительная версия доступна по списку ожидания подписчикам Pro и Max в США. OpenAI приобрела Orchestra Bio — платформу для координации разработки лекарств. Её инструменты помогают командам отслеживать исследования и управлять связанными задачами. В OpenAI рассчитывают, что объединение технологий поможет быстрее превращать научные открытия в новые методы лечения. 💬 А какая новость заинтересовала вас больше всего? Делитесь мнением в комментариях!

"Data secrets" о том, что ИИ скоро сможет автономно заражать умную бытовую технику и бесконтрольно размножаться без участия человека: Anthropic утверждают, что в скором маленькие модели смогут самореплицироваться на IoT-устройствах, без достпупа к дата-центрам и GPU То есть ИИ может научиться как бы заражать бытовую технику (типа дешевых смарт-ТВ-приставок, камер, умных приборов и тд), поселяться на ней и оттуда заражать следующие устройства, и это все без участия человека и без видеокарт. Отключить такую сеть почти невозможно. Физически даже простейшая техника может вывезти небольшую модель. В качестве демо авторы купили 15 Android TV-боксов по ~$55, соединили их и без труда запустили на них Gemma4-26B-A4B. Но основной вопрос в другом: сможет ли агент, оказавшись на незнакомом железе, разобраться и запустить инференс? Это проверяли на 9 типах реального железа и на цепочке из 8 виртуальных устройств. Итог: GLM-5.2 смогла заразить все 8 узлов в 4 прогонах из 5. Пока что она запускала не саму себя (потому что слишком крупная), а Llama 8B. Но выходит, что когда появится достаточно маленькая модель с такими же способностями как у GLM-5.2, которая помещается на приставку, она уже сможет самореплицироваться. Пока таких моделей нет (надолго ли?) и полная настройка инференса занимает кучу времени (до 150 часов), поэтому риск небольшой. Однако Anthropic сравнивают такой вирус со слизевиком или дрозофилами: он может размножаться днями, и при этом очень незаметно, но выбить его очень, очень трудно, потому что центра – нет. @ejdailyru

Карпаты рассказал, как теперь правильно общаться с LLM Совсем недавно переживали, что Андрей Карпаты уже два месяца ничего не пишет. Все хорошо, сегодня вернулся с довольно интересной мыслью: по мере развития моделей человеку придется все меньше делать самому и все больше разбираться в результатах их работы. И здесь обычный текст далеко не всегда лучший интерфейс. Карпаты предлагает буквально менять формат ответа в зависимости от задачи: – Для текста просить модель писать в ASD-STE100. Это стандарт контролируемого английского, изначально разработанный для технической документации в авиации. Там жестко ограничены словарь и структура предложений, поэтому ответы получаются сильно чище. Сам Карпаты иногда просит модель следовать стандарту примерно «на 80%», чтобы текст не становился совсем технической инструкцией. – Вместо длинного объяснения просить диаграмму или картинку. – Для более сложных тем сразу генерировать интерактивную HTML-страницу с визуализациями и анимациями. – А следующий шаг, на который Карпаты ставит больше всего, это одноразовые объясняющие видео под конкретный вопрос. Например, уже сейчас он предлагает просить модель собрать ролик в стиле 3Blue1Brown с озвучкой через ElevenLabs. Идея тут шире конкретных промптов. Если код и генерация контента становятся достаточно дешевыми, под один вопрос можно создавать целое одноразовое приложение, визуализацию или видео, которое раньше просто не имело экономического смысла делать. По мнению Карпаты, по мере роста автономности моделей именно понимание и контроль их работы будут занимать все большую часть времени человека. https://x.com/karpathy/status/2105819303471976479?s=46

Помните, мы писали про то, что компании платят авторам контента за рассказы об опасностях ИИ? Так вот, тут один независимый исследователь Кевин Басс провел расследование, в ходе которого вскрылась интересная финансовая связь между заказчиками подобного контента и... кем бы вы думали? Anthropic ☕️ Среди частых заказчиков таких "устрашений" были Center for AI Safety и Future of Life Institute. У них есть крупный личный донор – Open Philanthropy (сейчас больше известный под названием Coefficient Giving). Так вот этот Coefficient Giving принадлежит Дастину Московицу – одному из ранних и крупнейших акционеров Anthropic. При этом деньги на грантмейкинг Open Philanthropy идут из фонда Good Ventures, который наполняется в основном личным состоянием Московица. Басс утверждает, что значительную долю активов фонда составляет именно пакет акций Anthropic. Помимо Center for AI Safety и Future of Life Institute, Open Philanthropy вкладываются в Tarbell Center for AI Journalism. Эта программа готовит журналистов, которые пишут про ИИ. Их выпускники пишут для таких крупных изданий, как The Verge, Science, LA Times, TIME и тд. Ну и до кучи: Open Philanthropy через цепочку других фондов финансирует METR – организацию, которую сам Амодеи называл абсолютно независимым сторонним оценщиком безопасности моделей. Теперь же выходит, что METR, фактически, финансово заинтересован в успехе Anthropic. Парад теорий заговоров в комментариях объявляем открытым

Компании платят авторам контента, чтобы те рассказывали об опасностях ИИ Немецкая исследовательница Сабина Хоссенфельдер, которая занимается теоретической физикой и снимает научно-популярные видео на ютуб, рассказала (youtu.be/lPdmYMHrWKg), что к ней обратилась некая организация с предложением оплатить видео, предупреждающее об экзистенциальных рисках ИИ. Предложение пришло вместе со сценарием, конкретными фразами и цитатами, которые нужно было включить. Хоссенфельдер отказалась. Название организации она не раскрыла, но упомянула, что похожие предложения получали и другие блогеры, при этом не только от этой конкретной компании. Среди частых заказчиков подобного контента – Center for AI Safety и Future of Life Institute, у которых, кстати, есть общий крупный донор Open Philanthropy. В последние годы Open Philanthropy активно занимается продвижением безопасности ИИ. Хоссенфельдер также рассказала, что деньги за лоббирование текут в научпоп и техжурналистику и с других сторон. Например, WIRED недавно писали о том, что маркетинговая фирма, связанная с организацией Build American AI предлагала тиктокерам до 5000 долларов за ролик, продвигающий антикитайские ИИ-тезисы. При этом – с инструкцией не отмечать и не раскрывать, кто платит. Choose your fighter: реклама в ChatGPT / реклама того, что ИИ нас всех убьет