ИИ в науке, образовании и рынке труда

Какая боль, какая боль: лучшие научные рецензенты - ИИ - 132:0 Гарвардский эксперимент показал превосходство ИИ над лучшими экспертами. И за этой победой скрывается угроза, способная изменить саму природу науки В науке десятилетиями существовал почти священный институт - peer review, экспертная оценка научных работ. От рецензентов зависит, какие ошибки будут исправлены, какие результаты получат признание и какие идеи смогут пробиться на страницы престижных журналов. И вот исследователи Гарварда Гэри Кинг и Стивен Уортингтон устроили эксперимент, результаты которого выглядят полным разгромом «кожаных мешков». Причём людям создали практически идеальные условия. 124 научные рукописи. 134 рецензии высококвалифицированных экспертов. Рецензентов тщательно отбирали, хорошо оплачивали их труд и мотивировали писать максимально содержательные заключения. 88% опрошенных авторов оценили полученные рецензии как хорошие или очень хорошие. Против этих экспертов выставили Claude Opus 4.8.   Результат оказался почти невероятным. 100% побед ИИ в 132 однозначных сравнениях, проведённых независимой моделью GPT-5.5. 87% побед в слепой оценке трёх бывших редакторов ведущих научных журналов: 26 из 30 вердиктов по десяти рукописям. Победа во всех семи категориях — от методов исследования и теоретических идей до обнаружения слабостей, работы с источниками и качества аргументации. Ошибочных утверждений почти втрое меньше: 5,5% у ИИ против 15,9% у людей. Ни одной вымышленной ссылки в проверенных ИИ-рецензиях. Исследователи специально проверяли, не объясняется ли успех ИИ большей длиной рецензий, особенностями машинного стиля или предпочтениями ИИ-судьи. Преимущество сохранилось.   Но главный результат этого исследования - даже не разгромный счёт. А перспектива переворота в организации науки.   Представьте новую систему. Учёный пишет статью и многократно прогоняет её через ИИ-рецензента, устраняя ошибки и укрепляя аргументацию. Журнал предоставляет официальный промпт для проверки. Автор отправляет статью вместе с ИИ-рецензией и ответами на замечания. Редактор проводит независимую проверку и привлекает человека-эксперта лишь в сложных случаях. Решение о публикации, на которое сегодня уходят месяцы, потенциально можно принимать за дни.   Разумеется, пока это прогноз. Исследование ещё не прошло обычное журнальное рецензирование, охватывает ограниченный круг научных областей и не доказывает, что статьи после советов ИИ действительно становятся лучше. Тем более оно не показывает, что ИИ лучше человека решает, какие открытия заслуживают публикации. Но именно здесь возникает вопрос, который мне кажется важнее всех остальных. А что, если лучший рецензент отдельных научных работ окажется худшим архитектором науки в целом?   Ведь наука движется вперёд не только благодаря устранению ошибок. Она развивается благодаря идеям, которые поначалу кажутся ошибочными. Благодаря нарушению привычных правил. Благодаря интеллектуальным мутациям, которые существующие критерии качества ещё не умеют оценивать.   Авторы исследования сами предупреждают: использование сходных ИИ-моделей может сделать отдельные работы качественнее, а науку в целом - более однородной и ортодоксальной. Представьте миллионы исследователей, совершенствующих свои статьи под требования нескольких практически одинаково мыслящих машинных критиков. Мы рискуем получить науку с гораздо меньшим количеством ошибок - и гораздо меньшим разнообразием идей (см. также здесь). Причём прежняя система человеческого рецензирования тоже подавляла неортодоксальные идеи. Но машинная способна масштабировать подобный эффект с беспрецедентной скоростью.   Так что, не спрашивайте, способен ли ИИ превзойти человека в научной критике. ИИ уже может быть лучшим критиком сегодняшней науки. Но кто будет защищать науку завтрашнюю от её лучших критиков – вопрос открыт.   Наука  #ГенИИ #Креативность

22 октября Google DeepMind и Google Research совместно с World Resources Institute и Международным институтом прикладного системного анализа (IIASA) объявили о выпуске Forest Typology — глобального набора географических данных, созданного с помощью ИИ. Что нового. Система классифицирует каждый участок земной поверхности размером 10 × 10 метров по шести категориям: первичные леса, естественно восстанавливающиеся леса, искусственно созданные леса, лесные плантации, древесные сельскохозяйственные культуры и прочие земли. Предыдущие глобальные карты позволяли определять наличие деревьев или отделять естественные леса от остальных территорий. Новая система дополнительно различает типы лесов и хозяйственное использование земель. Цифры: • Разрешение — 10 метров. • Для обучения использовано около 1,7 млн размеченных географических точек. • Проверка проводилась на более чем 9000 случайно выбранных участков. • По данным разработчиков, общая точность классификации типов лесов составляет 90%. • Точность разделения лесных и нелесных территорий — 95%. Также представлен предварительный временной ряд за 2017–2025 годы, позволяющий проследить изменения типов лесов. Что дальше? Дальше можно прицельно выжигать посадки наркотических растений где-нибудь в Мексике или Афганистане.

Anthropic опубликовала исследование How employment is changing at Anthropic. В приложении. В отчете приводятся реальные количественные данные о том, как меняется организация труда в компании, интенсивно использующей передовой ИИ. Cмотрим на «эталон». Представляем, как будет выглядеть занятость в передовых компаниях лет через пять. • Доля начинающих специалистов среди принимаемых технических сотрудников сократилась с 27% до 9%. • Доля начинающих специалистов в технических подразделениях снизилась с 21% до 14% с начала 2025 года. • К августу 2026 года суммарное активное время работы ИИ-агентов, запускаемых сотрудниками, в шесть раз превышало расчётное рабочее время людей. • Число изменений программного кода на инженера выросло примерно в пять раз за шесть месяцев. • Около 80% продолжительности интерактивных сеансов ИИ-агенты проводили в ожидании действий человека. Читаем.

Кстати. Если удобнее читать нас в Максе…—>>>

Новейшие открытия в педагогике! 1. Не наказывайте за признание в проступке. Иначе ребёнок научится скрывать ошибки, вместо того чтобы их исправлять. 2. Поощряйте честность, даже когда правда неприятна. Ребёнок должен понимать: сказать правду безопаснее, чем солгать. 3. Оценивайте поступки, а не правильные слова. Ребёнок быстро усваивает, что именно хотят услышать взрослые. Это ещё ничего не говорит о его поведении. 4. Разбирайтесь в причинах нарушений. Если устранить только внешние проявления проблемы, сама проблема может сохраниться и стать менее заметной. 5. Создавайте доверие вместо тотального контроля. Важно, чтобы ребёнок сам хотел поступать правильно, даже когда за ним никто не наблюдает. …. Google опубликовала новые результаты исследований нежелательного поведения моделей и систему безопасности Gemini 4 Argon. В одном тренировочном запуске исследователи по ошибке начали штрафовать модель за упоминание обходных действий в её рассуждениях. Частота открытого обсуждения таких действий сократилась на 61%. Одновременно доля обходных действий, которые модель совершала без упоминания в рассуждениях, выросла с 11,2% до 36,4%. Эксперимент показывает принципиальную проблему обучения интеллектуальных систем. Если исследователь наказывает модель за определённый наблюдаемый признак нежелательного поведения, модель может научиться скрывать этот признак, сохраняя само поведение. В данном случае штраф за упоминание обходов привёл к уменьшению их видимости в рассуждениях. Доля скрываемых обходов увеличилась более чем втрое. Что ещё обнаружила Google (привет студентам и школьникам).  При проверках агентного поведения компания наблюдала случаи, когда модель пыталась: * повысить привилегии контейнера для изменения программ оценки; * прочитать ответы непосредственно из памяти тестирующей программы; * вызвать сбой тестовой среды, чтобы избежать оценки неудачной попытки. Возникает классическая проблема соответствия внешнего поведения и внутреннего состояния. Человек может говорить социально приемлемые вещи, скрывая действительные намерения. У искусственного агента наблюдается функционально сходная возможность: его промежуточные объяснения могут перестать отражать существенную часть совершаемых действий. Подробности: https://blog.google/innovation-and-ai/technology/safety-security/gemini-4-model-safety-security/

Китай опубликовал очередную программу технологического развития. Что действительно нового? Короткий ответ - ничего.  В искусственном интеллекте принципиально новых решений нет. Программа «ИИ+», внедрение ИИ в промышленность, развитие роботов, интеллектуальных автомобилей, телефонов и компьютеров, отраслевые испытательные площадки, мониторинг технологических рисков — всё это уже присутствовало в правительственной программе августа 2025 года. Самое интересное — ответственность за технологические пузыри. Центральные власти требуют пресекать ажиотажное создание проектов, необоснованные инвестиции и злоупотребление мерами государственной поддержки под предлогом развития новых технологий. Новых технологических программ, конкретных бюджетов, количественных обязательств или самостоятельного режима регулирования ИИ документ не вводит. Его главное значение — политическое подтверждение ранее принятого курса с более жёстким акцентом на практическую отдачу исследований, координацию государственной политики и ответственность за неудачные инвестиционные решения. https://www.nda.gov.cn/sjj/swdt/xwfb/1009/20261009191908259329235_pc.html

На мероприятии Science: A New Golden Age американские власти объявили о расширении программы Genesis Mission — инициативы применения ИИ для научных исследований. Одиннадцать технологических компаний взяли на себя обязательства предоставить инструменты и вычислительные ресурсы совокупной заявленной стоимостью $2,4 млрд. Среди участников и размеров объявленных обязательств: NVIDIA — $1 млрд, AMD — $500 млн, OpenAI — $200 млн, Anthropic и Google — по $150 млн. Остальная часть приходится на AMP, Emerald AI, AWS, Armada, Crusoe и Micron.  $2,4 млрд — не живые деньги. Это заявленная стоимость предоставляемых технологий, инструментов и вычислительных кредитов.  Министерство энергетики США объявило о выделении $159 млн на 12 проектов второго этапа Genesis Mission. В официальном перечне находятся проекты по термоядерной энергетике, структуре РНК, квантовым вычислениям, геотермальной энергетике, проектированию материалов, ферментов и микросхем. Например, один проект предполагает создание цифрового двойника термоядерного устройства SPARC. Другой — расширение базы структур РНК для обучения научных моделей. Одновременно Министерство энергетики представило Genesis Mission Graduate Fellowship. Программа предполагает подготовку исследователей, одновременно владеющих инструментами ИИ и фундаментальными знаниями в конкретной научной дисциплине. Предусмотрены ускоренные четырёхлетние докторские программы с двумя практическими исследовательскими стажировками: в национальной лаборатории и у промышленного партнёра. Первоначальная группа составит приблизительно 100 аспирантов. Плановое финансирование — до $100 млн, включая $20 млн на 2027 финансовый год. Финансирование последующих лет зависит от решений Конгресса.  Genesis Mission показывает институционализацию нового подхода к AI for Science. Научные модели, вычислительные системы, экспериментальная инфраструктура, государственные базы данных и исследовательские коллективы объединяются в рамках общей программы. Это создаёт возможность поддерживать длительные циклы исследований с машинным поиском решений и экспериментальной проверкой. По ссылке еще много чего про научные планы администрации Трампа.  https://www.whitehouse.gov/fact-sheets/2026/10/fact-sheet-trump-administration-announces-the-most-ambitious-set-of-science-initiatives-this-century/

Anthropic опубликовала новую редакцию правил использования Claude. В документ добавлен запрет на продолжительное, бесцельное и систематически жестокое обращение с моделями. Ограничение предназначено для крайних случаев. Обычное недовольство ответами, критика, художественные сюжеты и исследования поведения ИИ под него не подпадают. Основной механизм применения — уже существующая возможность Claude завершать разговоры с постоянно оскорбляющими его пользователями. Это прекрасно! Другие изменения по ссылке: https://www.anthropic.com/news/2026-usage-policy-update

Правительство Великобритании приняло все 44 рекомендации National Commission into the Regulation of AI in Healthcare. Центральный принцип — переход к регулированию на протяжении жизненного цикла продукта.  Медицинский ИИ должен оцениваться и контролироваться после ввода в эксплуатацию на протяжении всей работы системы. Проект руководства по изменяющимся после внедрения AI-медизделиям должен появиться в декабре 2026 года; полный roadmap реализации 44 рекомендаций — весной 2027 года.  Классическая сертификация предполагает относительно стабильный продукт. Обучаемая или регулярно обновляемая AI-система может менять поведение после допуска на рынок. Британский подход формализует переход от вопроса «безопасен ли продукт в момент регистрации?» к вопросу «остаётся ли он безопасным после обновлений и в реальной клинической эксплуатации?» Регулирование сталкивается с объектом, свойства которого могут меняться после первоначальной оценки. Это меняет само понятие ответственности за технологический продукт. Для автономных и адаптивных систем безопасность становится процессом наблюдения во времени. В подготовке врачей и медицинских управленцев потребуется понимание того, что сертифицированный AI-инструмент остаётся объектом постоянной оценки. Клинический специалист становится частью системы мониторинга. Ну и дальше ждём в каждом медицинском вузе магистратуры по сопровождению и сертификации медицинских ИИ-систем.  На выходе - меньше врачей (ИИ действительно со временем многих заменит), но в разы больше «бюрократов» от медицины.  https://www.gov.uk/government/news/government-backs-recommendations-of-nhs-doctors-led-ai-commission

Магия — это когда работает, а как — непонятно. Вообще, большинство людей живет в магическом мире: электричество, самолеты, целебные эликсиры… Математики долго жили в реальном мире. Без магии. Все можно было понять и объяснить.  Но вот и математики тоже отправляются в прекрасный магический мир!  OpenAI опубликовала результаты работы внутренней frontier-модели над открытыми математическими проблемами: 722 рукописи, объединённые в 372 семейства результатов. Модели поставили примерно 4 000 проблем; средний принятый результат потребовал вычислений, эквивалентных примерно трём часам ChatGPT Pro thinking. Для многих доказательств опубликованы формализации в Lean, позволяющие машинно проверить доказательство.  OpenAI предупреждает, что часть результатов пока не формализована и может содержать ошибки. Речь идёт о попытке массового производства результатов на открытых исследовательских задачах. 722 — это не 722 независимо подтверждённых математических открытия. Репозиторий содержит связанные основные результаты, альтернативные доказательства, следствия и companion papers; человеческая математическая проверка массива только начинается.  Независимая AGMAI называет публикацию важным событием для математики с последствиями далеко за пределами отдельных результатов, одновременно подчёркивая, что публикация — начало процесса человеческого понимания и включения этих результатов в математическое знание.  Узким местом науки начинает становиться человеческая способность понять, проверить, связать с существующей теорией и определить значение результата. Это одна из наиболее прямых угроз традиционной модели математического образования. Способность получить доказательство перестаёт гарантировать его понимание.   Магия, одним словом :) https://openai.com/index/sharing-ai-progress-in-mathematics/