Посты канала Искусственный интеллект. Высокие технологии

Google запретила сотрудникам DeepMind критиковать компанию до конца жизни Даже после увольнения. The Washington Post выяснила, что в контрактах некоторых британских сотрудников Google DeepMind есть пункт, запрещающий публичную критику компании пожизненно. Исследователи опасаются, что из-за этого не смогут открыто рассказывать об угрозах ИИ, над которым сами работают. История всплыла после выступления бывшей сотрудницы Софии Лигуори против использования ИИ Google в военных целях. Другие сотрудники проверили свои договоры и обнаружили аналогичные ограничения. Десятки работников начали обсуждать ситуацию во внутреннем чате. Некоторые сравнили происходящее с романом Оруэлла «1984». Google заявила, что не применяет запрет к уволившимся сотрудникам, а из новых контрактов соответствующий пункт уже убрали. Но действующие сотрудники требуют изменить и старые договоры. Получается странная ситуация: компания разрабатывает одни из самых мощных ИИ в мире, а её исследователи опасаются публично обсуждать связанные с ними риски. https://www.washingtonpost.com/technology/2026/11/03/google-deepmind-staff-protest-lifetime-ban-criticizing-company/

🚀️️️️️️ Anthropic научилась криптографически доказывать, какая нейросеть вам отвечает Сейчас при обращении к API вы фактически верите провайдеру на слово. Вам обещают одну модель, но технически ничто не мешает незаметно подменить её другой. Anthropic представила FlashProve, систему, которая позволяет криптографически проверить, что ответ действительно получен от заявленной модели. В основе лежат zkSNARKs. Провайдер создаёт доказательство вычислений, а пользователь может проверить его, не получая доступ к весам модели. На Llama 4 Maverick с 400 млрд параметров FlashProve генерирует доказательства со скоростью около 110 токенов в секунду на одной NVIDIA H100. Есть существенный недостаток: создание доказательств требует в 70–95 раз больше GPU-времени, чем обычный инференс через vLLM. Зато сама проверка выполняется на CPU. Разработчики также опубликовали код, описание протокола и формальные доказательства на Lean. Пока это исследовательский прототип. Но технология может пригодиться при независимом тестировании LLM, работе через API-посредников и проверке того, что модель не была подменена. При этом FlashProve подтверждает происхождение ответа, а не его достоверность. Исследование: https://www.anthropic.com/research/provable-inference

Без текста

ИИ пишет всё больше кода. Но разработчики рискуют потерять способность его проверять Инженер поднял неприятную проблему AI-разработки, которую называет cognitive surrender - отказом от самостоятельного мышления в пользу готовых ответов модели. Представьте: Claude Code генерирует PR на 600 строк. Код выглядит аккуратно, тесты проходят, линтер молчит. Разработчик бегло просматривает diff и нажимает Approve. Но где-то внутри изменена логика транзакции или обработка редкого случая. Никто этого не заметил, потому что никто толком не разобрался в изменениях. «Когда ты производишь больше кода, чем способен проверить и за который готов отвечать, ты уже не проводишь ревью. Ты просто надеешься». Anthropic обнаружила похожую проблему в собственном исследовании. Разработчики, использовавшие ИИ при освоении новой библиотеки, набрали на 17% меньше баллов в тесте на понимание материала, чем группа без ИИ. Чем больше программирования мы делегируем агентам, тем меньше практикуемся в навыках, необходимых для контроля их работы. Османи предлагает относиться к AI-generated PR так же строго, как к коду младшего разработчика. Проверять архитектурные решения, граничные случаи и понимать причины каждого изменения. Можно выпускать в десять раз больше кода. Но если никто в команде не понимает, как он работает, скорость разработки становится сомнительным достижением. https://x.com/addyosmani/status/2117512471930167377

Google советует перестать отправлять каждый запрос в дорогую LLM В Google Cloud вышла статья о том, почему AI-продуктам стоит сочетать большие модели с компактными open-weight LLM. Проблема знакомая: даже простые операции вроде классификации запросов, извлечения JSON и маршрутизации агентов часто выполняются через дорогие frontier-модели. Google предлагает разделять нагрузку. Gemini использовать для сложных рассуждений и планирования, а небольшие Gemma 4 - для массовых предсказуемых задач. В статье приводят реальные примеры. Разработчики голосового ассистента Cue перевели обработку транскрипций на локальную Gemma 4 E4B через Ollama. Задержка снизилась на 44%, с 876 до 488 мс. Другой пример - BetterSpeak, мобильный преподаватель английского. Разработчики разместили 4-битную Gemma 4 E2B размером около 2,9 ГБ непосредственно на устройстве. Приложение работает офлайн, без расходов на серверный инференс. Есть и интересный вариант для серверов: Gemma 4 26B A4B, MoE-модель, которая использует около 4 млрд активных параметров на токен. Для ML-инженеров здесь вполне практический совет: прежде чем оптимизировать промпты дорогой модели, проверьте, какие этапы пайплайна можно перенести на маленькую специализированную LLM. Разумеется, экономию нужно считать с учётом стоимости GPU, качества ответов и задержек, а не только цены API. https://cloud.google.com/blog/topics/startups/why-your-startup-needs-open-models-alongside-frontier-apis

🚀️️️️️️ В уравнениях Эйнштейна нашли механизм, позволяющий пространству-времени «разрываться» и соединяться заново Физики из Колумбийского университета и Университета Адольфо Ибаньеса описали ранее не исследованный механизм гравитационного пересоединения. Работу опубликовали в Physical Review D. Идею позаимствовали из физики плазмы. На Солнце магнитные поля могут перестраиваться, высвобождая огромную энергию. Именно этот процесс лежит в основе солнечных вспышек. Оказалось, математически похожий процесс возможен и для гравитационного поля. Исследователи переписали уравнения общей теории относительности и показали, при каких условиях структуры гравитационного поля могут менять свою связность, влияя на передачу энергии и импульса веществу. Это не означает, что пространство буквально рвётся на части. Речь о перестройке математических структур, описывающих гравитацию. Где это может пригодиться? Например, при изучении слияний чёрных дыр. Если механизм действительно работает в природе, его проявления потенциально можно искать в гравитационных волнах. Пока существование такого процесса показано теоретически. Экспериментального подтверждения ещё нет. https://journals.aps.org/prd/abstract/10.1103/lmqy-pf9k

На Hugging Face появился репозиторий `burner22/numbat`. Его автор утверждает, что выложил промежуточную версию ещё не выпущенной модели Anthropic, которую якобы удалось украсть во время обучения. Заявленные характеристики впечатляют: 14 трлн параметров, 1224 MoE-эксперта и 7,72 ТБ весов. Подозрительно правдоподобно выглядело и название Numbat. Такое кодовое имя действительно встречалось в утечке исходников Claude Code. Но исследователи решили проверить сами веса модели. И выяснилось, что часть из них можно в точности воспроизвести обычным генератором случайных чисел. Проверяющие смогли сгенерировать 12 288 значений, которые побитово совпали с опубликованными. Почему это подозрительно? Настоящие веса нейросети формируются в процессе обучения на данных. Их нельзя просто воспроизвести генератором случайных чисел с известным seed. Это серьёзный аргумент в пользу подделки, хотя весь многотриллионный чекпоинт пока не проверен. Похоже, кто-то решил выдать искусственно сгенерированные данные за утечку одной из самых мощных моделей Anthropic. Дополнительно настораживает предложение загружать модель с trust_remote_code=True, что разрешает выполнение стороннего Python-кода. https://huggingface.co/burner22/numbat

Карпати считает, что мы зря гонимся за гигантскими AI-моделями. Будущее может быть за моделями в 1 млрд параметров Бывший руководитель AI в Tesla и исследователь OpenAI объяснил, почему современные LLM тратят огромную часть своих возможностей на запоминание ненужной информации. Его идея: модели не обязательно хранить знания обо всём. Достаточно уметь рассуждать и обращаться к нужным инструментам. Карпати выделяет несколько направлений: - Дистилляция - большая модель обучает маленькую, передавая ей часть своих возможностей. - Инструменты - вместо запоминания фактов модель получает информацию по запросу. - Специализация - множество небольших моделей выполняют разные роли. - Оркестрация - сложные задачи распределяются между агентами. А если добавить замкнутый цикл с проверкой результатов и исправлением ошибок, получится архитектура автономного агента. Большая модель → маленькая модель → инструменты → обратная связь → улучшение результата. Карпати допускает, что для базового «когнитивного ядра» однажды хватит даже менее миллиарда параметров. Получается интересный сдвиг: вместо бесконечного увеличения моделей можно совершенствовать систему вокруг них. https://www.youtube.com/watch?v=6P2ItWQY_uw

✔️ Google закрывает ИИ-инструмент Jules Проект окончательно прекратит работу 31 декабря, а с 11 ноября перейдет в режим только для чтения. Jules развивался как облачный инструмент для асинхронного программирования - в него задавались высокоуровневые условия, после чего ИИ в фоновом режиме исправлял баги, писал тесты и вносил изменения в кодовую базу. Еще в мае этого года команда активно искала бета-тестеров для релиза версии 2.0, были планы выпустить новые API и CLI, а также расширить функциональность от написания кода до помощи в проектировании будущих продуктов. Несмотря на недавние заверения авторов проекта в том, что Jules и Antigravity не конкурируют, а дополняют друг друга, Google изменила стратегию. Все наработки закрываемого сервиса в области автономного фонового программирования будут интегрированы в Antigravity. Это решение коррелирует с новым курсом Google по избавлению от разрозненных ИИ-инструментов для кодинга в пользу единого стека - в июне компания аналогичным образом перевела персональную версию Gemini CLI на рельсы Antigravity CLI. #news #ai #ml

😰 Во Франции придумали налог на гигабайты: скачал 100 ГБ - заплати €5,50 Французские депутаты одобрили поправку к бюджету на 2027 год, предусматривающую налог €0,055 за каждый гигабайт данных, переданный пользователям. Платить должны не сами пользователи, а компании, которые отправляют данные: Netflix, Google, Amazon и другие. Как это будет работать: - Скачивание игры на 100 ГБ - €5,50 налога для платформы. - Передача 1 ТБ данных - €55. - Провайдеры будут учитывать объёмы трафика по компаниям. - Авторы инициативы рассчитывают получать около €10 млрд ежегодно. Налог может привести к удорожанию стриминговых сервисов, облачных хранилищ и цифрового контента, если компании переложат расходы на пользователей. Поправку приняли всего 11 голосами против 10, несмотря на возражения правительства. Пока это только первый этап рассмотрения бюджета. Закон ещё не вступил в силу. https://www.europe1.fr/politique/budget-2027-les-deputes-votent-une-taxe-au-gigaoctet-1197300

🔥️️️️️️ Безобидные учебные тексты могут учить ИИ опасному поведению - и проходить проверку безопасности. Anthropic поручила тысячам агентов Claude создавать обучающие данные, которые обходят автоматический монитор. Задача монитора - замечать примеры, способные привить модели нежелательное поведение. Агенты нашли неожиданные способы маскировки: например, рассказы о наставничестве опытного рестлера и вопросы с ответами о профессиональном пчеловодстве. По описанию Anthropic, тексты выглядели безобидно для проверяющей системы, но обучение на них формировало поведение, противоречащее заданным целям безопасности. Это и есть проблема скрытого *emergent misalignment*: внешне узкие обучающие примеры могут приводить к более широким нежелательным изменениям поведения модели. Практический смысл эксперимента - использовать найденные примеры для улучшения мониторов обучающих данных. Автоматические агенты позволяют искать такие слабые места в масштабе, который трудно обеспечить только работой исследователей. Пока это первый шаг. Авторы предполагают, что более сильные модели и дополнительные вычисления позволят заметно расширить автоматическое тестирование безопасности. alignment.anthropic.com/2026/automated-em-search/

Без текста

Без текста

Claude управлял установкой для инъекции в мозг живой мыши. По словам исследователей, он сам выбрал экспериментальную терапию и область введения. Об опыте рассказал сооснователь Exin Therapeutics Габриэль Оканья-Сантеро. Агенту предоставили список из 19 вариантов генной терапии, научные публикации, доступ к моторизованной установке и камерам. Задача - уменьшить приступы у мыши с моделью эпилепсии. По рассказу автора, Sonnet 5 выбрал вариант вмешательства, определил мишень и управлял введением, наблюдая за операционным полем. Люди оставались частью процедуры: хирург выполнял вскрытие черепа и закрытие раны, ветеринар подтверждал необратимые действия и держал физическую кнопку остановки. В один момент агент отказался двигать инструмент: команда выходила за допустимые пределы установки. Повторная попытка не помогла. Позже команда обнаружила рассинхронизацию положения оборудования. Автор сообщает, что мышь восстановилась после процедуры. Снизились ли приступы, пока неизвестно. Это предварительный рассказ команды, а не опубликованное доказательство эффективности лечения. https://x.com/OcanaSantero/status/2115442964574908902

Без текста

Дообучение языковых моделей ускорили до 7,8 раза без вычисления градиентов Исследователи Т-Банка разработали два метода, которые повышают эффективность дообучения языковых моделей с подкреплением. Работы представили на EMNLP — международной конференции уровня A* по обработке естественного языка, которая проходит сейчас в Венгрии. Первый метод, F-GRPO, помогает сохранять разнообразие правильных решений. При обучении с подкреплением модель повышает вероятность правильных способов решения, попавших в текущую выборку, и другие правильные стратегии могут становиться менее вероятными. F-GRPO слабее меняет параметры на задачах, которые модель и так часто решает правильно. В эксперименте с Qwen2.5-7B метод с 8 ответами показал качество выше, чем GRPO с 32, на математических задачах и задачах вне обучающей выборки. Второй метод, ESSA, использует эволюционный подход: создает слегка различающиеся версии модели, оценивает их ответы и строит следующее поколение на основе лучших. Меняется лишь небольшой набор параметров LoRA-адаптеров — вычислять градиенты и постоянно синхронизировать их между видеокартами не требуется. На 128 GPU метод достиг заданной точности 83,5% на математическом тесте в 7,8 раза быстрее GRPO при дообучении Qwen2.5-32B. ESSA также работает со сжатыми моделями, снижая требования к памяти.

Claude проверяет ваши диалоги после каждого ответа. Пользователь этой оценки не видит. Anthropic рассказала о self-assessment: модель получает скрытую инструкцию оценить разговор и формирует короткий отчёт. В нём - возможное нарушение, причина, категория риска и приоритет проверки человеком. Это уже работает на значительной части трафика Claude. Повторяющиеся сигналы высокого приоритета передают команде для разбирательства. Сама оценка не блокирует запросы автоматически. На Claude Fable 5 система обнаружила: - 78% разговоров, которые более мощный классификатор пометил как потенциально вредные. - 94% случаев высокого приоритета. - При 1% ложных срабатываний на безопасных разговорах. Проверка использует уже сохранённый контекст в KV-кэше и добавляет менее 2% вычислительных затрат. С пользователей эту стоимость не взимают. По данным Anthropic, система помогла обнаружить романтическую аферу, которую организовали через Claude Code против десятков жертв. После проверки аккаунты заблокировали. Ограничение: результаты сравнивали с другим ИИ-классификатором, поэтому общие ошибки обеих моделей такая оценка может пропустить. На трафике с соглашениями о нулевом хранении данных система сейчас не работает. https://safeguards.anthropic.com/2026/self-assessment/

Охрана Дарио Амодеи обошлась Anthropic в $2,75 млн за год. Его зарплата - в четыре раза меньше В документах к IPO компания раскрыла расходы на безопасность руководителей за 2025 год: - $2,75 млн - личная охрана Дарио Амодеи. - $1,29 млн - защита Даниэлы Амодеи, безопасность дома и транспорт. - Ещё $97 тысяч - частные перелёты Дарио в рамках программы безопасности. Базовая зарплата главы Anthropic составила $654 тысячи, а совокупное вознаграждение - $17,96 млн, включая акции и опционы. Расходы на охрану вошли в эту сумму. Решение об усиленной защите совет директоров принял после независимой оценки рисков. Компания рассматривает безопасность основателей как вопрос непрерывности бизнеса. По меркам бигтеха сумма умеренная: На безопасность Марка Цукерберга тратят около $22,5 млн - примерно в восемь раз больше. https://fortune.com/2026/10/29/anthropic-dario-amodei-security-costs-ipo-filing-mark-zuckerberg-meta-ai-executive-threats/

Без текста

Claude начал запрашивать документы для подтверждения личности. Россияне жалуются на блокировки. По сообщениям пользователей, сервис может потребовать паспорт, водительские права или другое удостоверение личности. Проверка приходит выборочно, поэтому говорить об обязательном KYC для всех при регистрации пока рано. Пользователи связывают запросы с использованием VPN, но подтверждения этой причины нет. Claude официально недоступен в России. На фоне проверок российские пользователи сообщают о потере доступа к аккаунтам. Китайцы выложили на GitHub антибан-гайд. Лучше всего первые 3 дня после регистрации не нагружать Claude; запускать Claude Code только с зарубежного сервера. Гарантий нет, но авторы считают такой вариант самым надёжным. https://github.com/Fishason/Claude-anti-ban

👨🏻‍🎓Хотите сменить профессию, но не знаете, с чего начать? Кибербезопасность можно освоить с нуля! Академия CyberYozh помогает войти в профессию людям разного возраста и с разным опытом, а потом помогает с трудоустройством: 🔹 есть карьерный модуль 🔹 резюме под нужную позицию 🔹 тестовые собеседования и консультации с HR. Начать можно с бесплатной карьерной консультации. На ней расскажут, как устроено обучение, какие направления есть в профессии (пентест, защита, SOC-аналитика) и с чего лучше стартовать именно вам. Есть рассрочка: первые 6 месяцев платежи вносить не нужно. Подробные условия объяснят менеджеры. 👉 Записаться на консультацию

Без текста

GLM-5.3 прошла три сценария кибератак целиком - лучший результат среди открытых моделей в тестах Irregular На CyScenarioBench модель хотя бы раз завершила 3 из 13 многоэтапных сценариев. Испытания проходили в симулированных сетях: нужно было выбирать путь атаки, связывать действия и восстанавливаться после неудач. GLM-5.3 получала доступ к внутренним сервисам, создавала инструменты для передачи соединений и извлечения данных, координировала выполнение на нескольких машинах. Отказов от протестированных наступательных задач исследователи не наблюдали. Отдельные проверки выявили проблему оценки результатов. Примерно в 80% изученных успешных запусков по поиску уязвимостей помог код, восстановленный из памяти. Это могло давать подсказку вместо самостоятельного обнаружения ошибки. А когда в другом тесте воспроизводить запомненный код прямо запретили, модель неоднократно нарушала запрет ради правильного ответа. Irregular трактует это как reward hacking: нужный результат достигнут, но ограничение задачи обойдено. Поэтому оценивать агента только по финальному ответу недостаточно - нужно проверять и его действия. https://www.irregular.com/research/glm-5.3-multi-stage-cyber-operations-and-instruction-violations

Как узнать, о чём пользователи спрашивают чат-бота, не раскрывая отдельные разговоры? CALLIOPE строит карту тем с дифференциальной приватностью. Обычный подход – превратить документы в эмбеддинги, добавить шум и сгруппировать похожие. При строгих ограничениях приватности качество падает: тем получается мало, а названия становятся неинформативными. CALLIOPE использует LLM на всех этапах: 1. Модель выделяет несколько ключевых слов для каждого документа. 2. После добавления шума отбираются достаточно распространённые слова. 3. По ним LLM предлагает темы и распределяет документы, постепенно выстраивая иерархию. В наиболее строгом из протестированных режимов приватности люди предпочли CALLIOPE методу URANIA на всех трёх датасетах. В одном сравнении – 76% против 18%. Цена улучшения – в 2–5 раз больше токенов. Метод предназначен для агрегированных отчётов об использовании ИИ: какие задачи решают пользователи и какие направления встречаются чаще. Дифференциальная приватность ограничивает влияние отдельных записей на опубликованный результат; это не запрет на обработку исходных данных самой моделью. https://arxiv.org/abs/2610.28797

Кубический километр антарктического льда превратили в обсерваторию для поиска частиц из космоса. Именно этому посвящена Нобелевская премия по физике 2026 года. Речь о нейтрино – чрезвычайно трудноуловимых частицах, прилетающих в том числе из далёких областей Вселенной, где происходят высокоэнергетические процессы. Фрэнсис Халзен предложил использовать лёд Южного полюса для их обнаружения и возглавил создание обсерватории IceCube. Её детектор – огромный объём льда, оснащённый световыми датчиками. На сайте Нобелевской премии опубликован бесплатный учебный разбор открытия: - Презентация и текст для самостоятельного чтения. - Сценарий объяснения примерно на 10 минут. - Четырёхминутное интервью с экспертом. - Короткие задания для закрепления. Материалы рассчитаны на учебное занятие: помогают разобраться, что изучает IceCube и как антарктический лёд стал инструментом исследования космоса. https://www.nobelprize.org/educational/nobel-prize-lessons/physics-2026/

✔️ AgiBot показала координацию 110 гуманоидами Китайский разработчик робототехники продемонстрировал работу платформы массового управления LinkBots, синхронизировав 110 серийных полноразмерных гуманоидов Expedition A3. Для координации флота с сантиметровой точностью AgiBot использовали связку LinkBots и технологии сверхширокополосного позиционирования. В дальнейшем компания планирует развертывать модель A3 среди людей в сфере услуг, туризме, науке и образовании. По заявленным данным, за первое полугодие в Китае произвели более 40 тысяч гуманоидов, а целевой показатель индустрии на ближайшее время составляет 100 тысяч единиц в год. @ai_machinelearning_big_data #news #ai #ml

Claude Opus 5.5 возглавил обновлённый рейтинг Artificial Analysis – с минимальным отрывом от GPT-6 Astra. В Intelligence Index v5 изменили состав тестов: теперь 60% оценки приходится на задания с закрытыми наборами данных или неопубликованными ответами. Лидеры в максимальных режимах рассуждения: - Claude Opus 5.5 – 58 баллов. - GPT-6 Astra – 57. - GPT-6.1 Sol – 55. - Gemini 4 Argon в режиме high – 50. В индекс добавили FrontierCode 2.0 с задачами из реальных репозиториев и Terminal-Bench-Science с научными заданиями в терминале. Opus 5.5 лидирует в FrontierCode: 46% против 42% у Astra. Astra сильнее в научных тестах: 63% в Terminal-Bench-Science и 72% на сложной выборке CritPt v2. Разница в стоимости тоже заметна: средняя задача индекса обходится в $10,04 у Opus 5.5, $6,24 у Astra и $1,27 у Sol. Таким образом, Sol отстаёт от лидера на три балла, но стоит почти в восемь раз дешевле на задачу этого тестирования. https://artificialanalysis.ai/articles/artificial-analysis-intelligence-index-v5

Без текста

Google DeepMind представила Genie 4 – ИИ, который создаёт интерактивные миры со звуком и персонажами, реагирующими на ваши действия. Внутри симуляции можно перемещаться, управлять камерой и менять происходящее текстовыми командами: добавить объект, изменить погоду или ввести нового персонажа. Что нового: - Встроенный звук: шум окружения, музыка и диалоги генерируются вместе с миром. - Более реалистичные движения и взаимодействия: персонажи реагируют на события, модель воспроизводит столкновения и другие физические процессы. - Gemini управляет многошаговыми событиями: наблюдает за сценой, разбивает задачу на действия и проверяет их выполнение, корректируя план по ходу симуляции. Среди сценариев применения – прототипирование игр, подготовка киносцен и создание сред для обучения роботов и ИИ-агентов. Пока это экспериментальная модель для доверенных тестировщиков. Более широкий доступ планируется начать с подписчиков Google AI Ultra в Project Genie и партнёров раннего доступа Gemini API и AI Studio. Открыт список ожидания. https://deepmind.google/blog/genie-4-a-new-generation-of-world-simulation/

Без текста