Искусственный интеллект. Высокие технологии

Google запретила сотрудникам DeepMind критиковать компанию до конца жизни Даже после увольнения. The Washington Post выяснила, что в контрактах некоторых британских сотрудников Google DeepMind есть пункт, запрещающий публичную критику компании пожизненно. Исследователи опасаются, что из-за этого не смогут открыто рассказывать об угрозах ИИ, над которым сами работают. История всплыла после выступления бывшей сотрудницы Софии Лигуори против использования ИИ Google в военных целях. Другие сотрудники проверили свои договоры и обнаружили аналогичные ограничения. Десятки работников начали обсуждать ситуацию во внутреннем чате. Некоторые сравнили происходящее с романом Оруэлла «1984». Google заявила, что не применяет запрет к уволившимся сотрудникам, а из новых контрактов соответствующий пункт уже убрали. Но действующие сотрудники требуют изменить и старые договоры. Получается странная ситуация: компания разрабатывает одни из самых мощных ИИ в мире, а её исследователи опасаются публично обсуждать связанные с ними риски. https://www.washingtonpost.com/technology/2026/11/03/google-deepmind-staff-protest-lifetime-ban-criticizing-company/

🚀️️️️️️ Anthropic научилась криптографически доказывать, какая нейросеть вам отвечает Сейчас при обращении к API вы фактически верите провайдеру на слово. Вам обещают одну модель, но технически ничто не мешает незаметно подменить её другой. Anthropic представила FlashProve, систему, которая позволяет криптографически проверить, что ответ действительно получен от заявленной модели. В основе лежат zkSNARKs. Провайдер создаёт доказательство вычислений, а пользователь может проверить его, не получая доступ к весам модели. На Llama 4 Maverick с 400 млрд параметров FlashProve генерирует доказательства со скоростью около 110 токенов в секунду на одной NVIDIA H100. Есть существенный недостаток: создание доказательств требует в 70–95 раз больше GPU-времени, чем обычный инференс через vLLM. Зато сама проверка выполняется на CPU. Разработчики также опубликовали код, описание протокола и формальные доказательства на Lean. Пока это исследовательский прототип. Но технология может пригодиться при независимом тестировании LLM, работе через API-посредников и проверке того, что модель не была подменена. При этом FlashProve подтверждает происхождение ответа, а не его достоверность. Исследование: https://www.anthropic.com/research/provable-inference

No text

ИИ пишет всё больше кода. Но разработчики рискуют потерять способность его проверять Инженер поднял неприятную проблему AI-разработки, которую называет cognitive surrender - отказом от самостоятельного мышления в пользу готовых ответов модели. Представьте: Claude Code генерирует PR на 600 строк. Код выглядит аккуратно, тесты проходят, линтер молчит. Разработчик бегло просматривает diff и нажимает Approve. Но где-то внутри изменена логика транзакции или обработка редкого случая. Никто этого не заметил, потому что никто толком не разобрался в изменениях. «Когда ты производишь больше кода, чем способен проверить и за который готов отвечать, ты уже не проводишь ревью. Ты просто надеешься». Anthropic обнаружила похожую проблему в собственном исследовании. Разработчики, использовавшие ИИ при освоении новой библиотеки, набрали на 17% меньше баллов в тесте на понимание материала, чем группа без ИИ. Чем больше программирования мы делегируем агентам, тем меньше практикуемся в навыках, необходимых для контроля их работы. Османи предлагает относиться к AI-generated PR так же строго, как к коду младшего разработчика. Проверять архитектурные решения, граничные случаи и понимать причины каждого изменения. Можно выпускать в десять раз больше кода. Но если никто в команде не понимает, как он работает, скорость разработки становится сомнительным достижением. https://x.com/addyosmani/status/2117512471930167377

Google советует перестать отправлять каждый запрос в дорогую LLM В Google Cloud вышла статья о том, почему AI-продуктам стоит сочетать большие модели с компактными open-weight LLM. Проблема знакомая: даже простые операции вроде классификации запросов, извлечения JSON и маршрутизации агентов часто выполняются через дорогие frontier-модели. Google предлагает разделять нагрузку. Gemini использовать для сложных рассуждений и планирования, а небольшие Gemma 4 - для массовых предсказуемых задач. В статье приводят реальные примеры. Разработчики голосового ассистента Cue перевели обработку транскрипций на локальную Gemma 4 E4B через Ollama. Задержка снизилась на 44%, с 876 до 488 мс. Другой пример - BetterSpeak, мобильный преподаватель английского. Разработчики разместили 4-битную Gemma 4 E2B размером около 2,9 ГБ непосредственно на устройстве. Приложение работает офлайн, без расходов на серверный инференс. Есть и интересный вариант для серверов: Gemma 4 26B A4B, MoE-модель, которая использует около 4 млрд активных параметров на токен. Для ML-инженеров здесь вполне практический совет: прежде чем оптимизировать промпты дорогой модели, проверьте, какие этапы пайплайна можно перенести на маленькую специализированную LLM. Разумеется, экономию нужно считать с учётом стоимости GPU, качества ответов и задержек, а не только цены API. https://cloud.google.com/blog/topics/startups/why-your-startup-needs-open-models-alongside-frontier-apis

🚀️️️️️️ В уравнениях Эйнштейна нашли механизм, позволяющий пространству-времени «разрываться» и соединяться заново Физики из Колумбийского университета и Университета Адольфо Ибаньеса описали ранее не исследованный механизм гравитационного пересоединения. Работу опубликовали в Physical Review D. Идею позаимствовали из физики плазмы. На Солнце магнитные поля могут перестраиваться, высвобождая огромную энергию. Именно этот процесс лежит в основе солнечных вспышек. Оказалось, математически похожий процесс возможен и для гравитационного поля. Исследователи переписали уравнения общей теории относительности и показали, при каких условиях структуры гравитационного поля могут менять свою связность, влияя на передачу энергии и импульса веществу. Это не означает, что пространство буквально рвётся на части. Речь о перестройке математических структур, описывающих гравитацию. Где это может пригодиться? Например, при изучении слияний чёрных дыр. Если механизм действительно работает в природе, его проявления потенциально можно искать в гравитационных волнах. Пока существование такого процесса показано теоретически. Экспериментального подтверждения ещё нет. https://journals.aps.org/prd/abstract/10.1103/lmqy-pf9k

На Hugging Face появился репозиторий `burner22/numbat`. Его автор утверждает, что выложил промежуточную версию ещё не выпущенной модели Anthropic, которую якобы удалось украсть во время обучения. Заявленные характеристики впечатляют: 14 трлн параметров, 1224 MoE-эксперта и 7,72 ТБ весов. Подозрительно правдоподобно выглядело и название Numbat. Такое кодовое имя действительно встречалось в утечке исходников Claude Code. Но исследователи решили проверить сами веса модели. И выяснилось, что часть из них можно в точности воспроизвести обычным генератором случайных чисел. Проверяющие смогли сгенерировать 12 288 значений, которые побитово совпали с опубликованными. Почему это подозрительно? Настоящие веса нейросети формируются в процессе обучения на данных. Их нельзя просто воспроизвести генератором случайных чисел с известным seed. Это серьёзный аргумент в пользу подделки, хотя весь многотриллионный чекпоинт пока не проверен. Похоже, кто-то решил выдать искусственно сгенерированные данные за утечку одной из самых мощных моделей Anthropic. Дополнительно настораживает предложение загружать модель с trust_remote_code=True, что разрешает выполнение стороннего Python-кода. https://huggingface.co/burner22/numbat

Карпати считает, что мы зря гонимся за гигантскими AI-моделями. Будущее может быть за моделями в 1 млрд параметров Бывший руководитель AI в Tesla и исследователь OpenAI объяснил, почему современные LLM тратят огромную часть своих возможностей на запоминание ненужной информации. Его идея: модели не обязательно хранить знания обо всём. Достаточно уметь рассуждать и обращаться к нужным инструментам. Карпати выделяет несколько направлений: - Дистилляция - большая модель обучает маленькую, передавая ей часть своих возможностей. - Инструменты - вместо запоминания фактов модель получает информацию по запросу. - Специализация - множество небольших моделей выполняют разные роли. - Оркестрация - сложные задачи распределяются между агентами. А если добавить замкнутый цикл с проверкой результатов и исправлением ошибок, получится архитектура автономного агента. Большая модель → маленькая модель → инструменты → обратная связь → улучшение результата. Карпати допускает, что для базового «когнитивного ядра» однажды хватит даже менее миллиарда параметров. Получается интересный сдвиг: вместо бесконечного увеличения моделей можно совершенствовать систему вокруг них. https://www.youtube.com/watch?v=6P2ItWQY_uw

✔️ Google закрывает ИИ-инструмент Jules Проект окончательно прекратит работу 31 декабря, а с 11 ноября перейдет в режим только для чтения. Jules развивался как облачный инструмент для асинхронного программирования - в него задавались высокоуровневые условия, после чего ИИ в фоновом режиме исправлял баги, писал тесты и вносил изменения в кодовую базу. Еще в мае этого года команда активно искала бета-тестеров для релиза версии 2.0, были планы выпустить новые API и CLI, а также расширить функциональность от написания кода до помощи в проектировании будущих продуктов. Несмотря на недавние заверения авторов проекта в том, что Jules и Antigravity не конкурируют, а дополняют друг друга, Google изменила стратегию. Все наработки закрываемого сервиса в области автономного фонового программирования будут интегрированы в Antigravity. Это решение коррелирует с новым курсом Google по избавлению от разрозненных ИИ-инструментов для кодинга в пользу единого стека - в июне компания аналогичным образом перевела персональную версию Gemini CLI на рельсы Antigravity CLI. #news #ai #ml

😰 Во Франции придумали налог на гигабайты: скачал 100 ГБ - заплати €5,50 Французские депутаты одобрили поправку к бюджету на 2027 год, предусматривающую налог €0,055 за каждый гигабайт данных, переданный пользователям. Платить должны не сами пользователи, а компании, которые отправляют данные: Netflix, Google, Amazon и другие. Как это будет работать: - Скачивание игры на 100 ГБ - €5,50 налога для платформы. - Передача 1 ТБ данных - €55. - Провайдеры будут учитывать объёмы трафика по компаниям. - Авторы инициативы рассчитывают получать около €10 млрд ежегодно. Налог может привести к удорожанию стриминговых сервисов, облачных хранилищ и цифрового контента, если компании переложат расходы на пользователей. Поправку приняли всего 11 голосами против 10, несмотря на возражения правительства. Пока это только первый этап рассмотрения бюджета. Закон ещё не вступил в силу. https://www.europe1.fr/politique/budget-2027-les-deputes-votent-une-taxe-au-gigaoctet-1197300