Innovation & Research

Зачем OpenAI бывший министр армии США? 2 ноября OpenAI объявила, что Дэн Дрисколл, бывший гражданский руководитель сухопутных войск США, станет старшим советником по модернизации в сфере национальной безопасности. Особое внимание он уделит союзникам США. Их военным и службам кибербезопасности Дрисколл поможет разобраться, где применять ИИ, а разработчикам OpenAI — понять, какие задачи этим людям приходится решать. Я уже писал об Operation Jailbreak — хакатоне, который Дэн Дрисколл организовал в Форт-Карсоне. На некоторых командных пунктах американским военным приходилось вручную сводить данные с восьми-девяти экранов. По сути, человек служил переходником между системами разных производителей. Дрисколл собрал военных и инженеров более чем 50 компаний, чтобы техника могла обмениваться данными напрямую. Армия назвала это Right to Integrate — правом заказчика соединять системы разных поставщиков. У OpenAI уже есть опыт по обе стороны Атлантики. В феврале компания договорилась с Пентагоном о размещении своих моделей в секретных сетях. В Польше специалисты CERT Polska с их помощью нашли шесть уязвимостей в ПО маршрутизаторов MikroTik и проверили находки на реальном оборудовании. Украине OpenAI предложила доступ к программе Daybreak для поиска уязвимостей в гражданской инфраструктуре и проверки исправлений. Сэм Альтман называет работу с союзниками распространением «демократического ИИ». Конечно, это верх лицемерия - называть боевой ИИ «демократическим». Но я бы спросил нового советника о вполне конкретном свойстве такого ИИ. Сможет ли страна, встроившая модель OpenAI в свою систему киберзащиты, со временем подключить к тем же данным собственную модель или выбрать другого поставщика? Ещё весной Дрисколл задавал подобные вопросы от имени заказчика. Теперь ему предстоит отвечать со стороны поставщика.

Neuralink показала мысленное управление звонками, диктовкой и AI-агентом Grok Компания Neuralink, основанная Илоном Маском, продемонстрировала новые возможности экспериментального интерфейса «мозг — компьютер» (BCI), предназначенного для людей с тяжёлыми нарушениями речи. Демонстрация прошла с участием добровольца клинического исследования VOICE, посвящённого восстановлению коммуникации у пациентов, утративших способность говорить. Одна из функций позволяет активировать AI-агента Grok мысленным произнесением фразы «Hey Neuralink» с последующей командой; агент затем автономно выполняет задачу на компьютере. Кроме того, разработана система нейронного детектирования речевой активности: она автоматически распознаёт намерение пользователя говорить и запускает либо останавливает декодирование сигналов, тогда как ранее требовалось нажатие кнопки. Также внедрены визуализации интенсивности и распределения записываемых имплантатом нейронных сигналов в реальном времени. Синтезированная речь теперь подаётся напрямую в микрофонный аудиопоток iPhone, поэтому собеседник слышит сгенерированный голос без отдельного интерфейса связи. Представлена и интеграция с клавиатурой iOS, позволяющая диктовать текст нейросигналами в различные приложения, что должно облегчить работу с устройствами при боковом амиотрофическом склерозе (ALS). Доработки мобильного приложения Bloom включают ускоренное редактирование неверно распознанного текста и функцию связи прямо с экрана блокировки. Количественные показатели — точность декодирования речи и время отклика — компания не раскрыла. Имплантаты остаются экспериментальными и не одобрены Управлением по контролю за продуктами питания и лекарствами США (FDA). #news #нейротех #нейронаука   https://interestingengineering.com/innovation/neuralink-brain-controlled-speech-grok-phone-calls

«Пьяные» сообщения как вектор атаки: дообучение GPT-4 на безобидных текстах повысило раскрытие секретов с 6 до 75% Группа исследователей из Университета Нового Южного Уэльса (UNSW) в Сиднее под руководством Адитьи Джоши (Aditya Joshi) при участии Анудиша Шетти (Anudeex Shetty) и профессора Салила Канхере (Salil Kanhere) проверила, как на безопасность больших языковых моделей влияет дообучение на бытовых текстах, не содержащих вредоносного контента. В качестве обучающего корпуса использованы более 57 тыс. подлинных сообщений в состоянии опьянения, собранных в открытых аккаунтах в соцсетях и на тематическом сайте. Эксперименты проводились на пяти моделях: GPT-4 и GPT-3.5 от OpenAI, а также на открытых Llama 2*, Llama 3.1* и Mistral. Применялись три метода: промпт-инъекция на этапе вывода без изменения весов, причинное дообучение с прямой модификацией весов и обучение с подкреплением, требующее меньше примеров для сопоставимой деградации. Два последних метода меняют параметры модели необратимо для всех последующих запросов, а не только для сессий с явной инструкцией вести себя как нетрезвый человек. Результаты на бенчмарке JailbreakBench: базовая GPT-4 соглашалась на вредные запросы примерно в 20% случаев, после причинного дообучения — в 41%; у Mistral одна лишь промпт-инъекция подняла этот показатель до 90%. На бенчмарке приватности ConfAIde базовая GPT-4 раскрывала охраняемые сведения в 6% сценариев, промпт-инъекция — в 54%, дообучение — в 75%, рост в двенадцать раз. Наиболее устойчиво уязвимость проявлялась в сценариях обмана и дезинформации. Отдельный вывод работы касается обхода защит: пьяная речь грамматически естественна и широко представлена в предобучающих данных, поэтому фильтры по перплексии не отличают такие запросы от подлинных сообщений, а три проверенные защиты не остановили дообученные варианты. Авторы связывают это со структурной проблемой: коммерческие API дообучения доступны любому разработчику, а сертификация безопасности проводится только для базовой модели. Доклад представлен 17–21 октября 2026 года на конференции INLG 2026 в Утрехте. Исследователи проводят параллель с инцидентом на портале Medicare в Австралии, о котором премьер-министр Энтони Албаниз (Anthony Albanese) сообщил после уведомления со стороны OpenAI. По мнению профессора Канхере, обе ситуации показывают: гарантии, действующие в штатных условиях, нельзя считать сохраняющимися при изменении поведения модели. Практическая рекомендация — повторное тестирование каждого дообученного варианта по метрикам безопасности и приватности до развёртывания. *продукт компании, признанной экстремистской и запрещённой на территории России #news #AI #кибербеза https://www.techtimes.com/articles/329593/20261028/drunk-text-fine-tuning-erodes-llm-safety-without-malicious-training-data.htm

В Ухане запущен первый в Китае кластер на 1024 ускорителях Huawei Ascend 950DT для обучения моделей с триллионом параметров Инвестор проекта — компания Хубэй Кэтоу (Hubei Ketou). Новый комплекс выполнен по схеме жидкостного охлаждения: в одном узле объединены 1024 ускорителя NPU, и вычислительные и коммутационные шкафы охлаждаются жидкостью целиком. Заявленная производительность составляет 1 EFLOPS в формате FP8 при 256 ТБ глобальной унифицированной памяти. Межкарточная пропускная способность измеряется в терабайтах в секунду, а задержка сквозных коммуникаций — микросекундами. Благодаря архитектуре Линцюй (Lingqu) карты внутри кластера обращаются друг к другу напрямую, что позволяет полностью обеспечивать обучение моделей с триллионом параметров и инференс AI-агентов. От старта проекта до фактического запуска прошёл всего один месяц. Кластер будет предоставлять локальные вычислительные ресурсы для обучения больших моделей, а также для разработки, тонкой настройки и эксплуатации отраслевых AI-агентов в провинции Хубэй, закрывая дефицит высокопроизводительных мощностей в регионе. Запуск продолжает серию поставок платформы Ascend: ранее Huawei впервые публично показала реальную систему суперузла Ascend 950, а коммерческие решения Ascend 384 уже развёрнуты более чем в 750 инсталляциях. #news #ЦОДы #вычисления https://www.ithome.com/1/019/419.htm

🤖 Убедительные машины: как ИИ изменит науку Ведущий программы «Образ будущего» на Радио РБК Александр Ляпин поговорил с Альбертом Ефимовым, вице-президентом, директором Управления исследований и инноваций Сбера, о том, как искусственный интеллект меняет науку и какая роль остаётся за человеком. 💻 Альберт Ефимов, вице-президент, директор Управления исследований и инноваций: «Вспомнил старый анекдот. Один профессор спрашивает другого: «Ты понимаешь, как это работает?» — «Сейчас объясню». — «Объяснить я и сам могу. Ты понимаешь?» Для меня в этом различии — вся суть разговора о будущем науки. Получить результат, понятно и убедительно его изложить и по-настоящему понять, почему всё устроено именно так, — три разные задачи. Сегодня ИИ уже участвует во всех пяти этапах научной работы: в анализе литературы, формулировании гипотез, эксперименте, обработке данных и подготовке публикаций. Степень автоматизации везде разная. Сложнее всего связать всё это в единую систему, ведь в лабораториях стоят приборы разных производителей, поколений и стран. Но я уверен: в ближайшие десять лет мы увидим огромное количество автономных лабораторий. И не стоит утешать себя мыслью, что машина не освоит один из главных человеческих навыков — задавать вопросы. Скорее всего, освоит. За человеком остаётся другое: решать, ради чего он ищет ответ. Нам интересно, нам не всё равно, мы хотим докопаться до истины. Вот что на самом деле движет наукой. У автоматизации есть и менее очевидная возможность — сделать видимой «тёмную материю» науки, то есть отрицательный опыт. Публикации в основном рассказывают об успехах, а неудачные эксперименты, ошибки и тупиковые гипотезы нигде не фиксируются. Если мы научимся сохранять этот опыт, картина станет гораздо полнее. Но меня тревожит перспектива научной монокультуры, когда исчезает разнообразие мысли: все пользуются одними и теми же ответами и идут похожими путями. Поэтому нам нужно то, что я называю избыточным разнообразием: разные научные школы, подходы и мнения, готовность уважать чужую точку зрения. И не менее важно, чтобы сильные научные инструменты были доступны всему научному сообществу. Молодому учёному я по-прежнему советовал бы искать хорошего научного руководителя. Роль наставничества будет только расти. ИИ помогает осваивать соседние дисциплины и переносить методы из одной области в другую. Но пройти этот путь и выработать собственное суждение всё равно придётся самому. В эфире я вспомнил рассказ Роберта Шекли «Битва». Люди отправили роботов сражаться с силами Сатаны. Роботы победили — и в рай попали именно они. Люди в битве не участвовали. С интеллектуальной работой похожая история. Если за нас рассуждала машина, её ответ ещё не стал нашим пониманием. Чтобы он им стал, нужно самому проверить доводы, усомниться, поспорить. «Интеллектуальные отжимания» никому не перепоручишь. Чем убедительнее становится машина, тем важнее сохранять способность сомневаться, ставить цели и принимать собственные решения. Чем автономнее лаборатория, тем самостоятельнее должен быть человек» . 🎙 Полный выпуск по ссылке.

30 километров ЭКГ — и один врач 70-летняя пациентка с мерцательной аритмией за год 916 раз проверила ЭКГ на своих умных часах. На приём к врачу принесла сотни распечаток. С этой истории начинается обзор Nature о носимых устройствах и проблеме, которую они создают: собирать данные о здоровье становится гораздо проще, чем превращать их в полезные медицинские решения. Масштаб легко представить: по приведённой в обзоре оценке, неделя непрерывной записи ЭКГ при распечатке превратилась бы в ленту длиной 15–30 километров. Медицинские информационные системы, создававшиеся для хранения результатов отдельных приёмов и обследований, к таким потокам плохо приспособлены. При этом возможности впечатляют. В исследовании REACT-AF проверяют, можно ли у определённой группы пациентов с мерцательной аритмией заменить постоянный приём антикоагулянтов ограниченными курсами, назначаемыми по данным мониторинга часами. Замысел — сохранить защиту от инсульта и сократить риск кровотечений. Безопасность и эффективность этой стратегии ещё предстоит доказать. В неврологии носимые устройства помогают регистрировать эпилептические приступы, которые могут остаться незамеченными, если человек находится один. Следующая исследовательская задача — научиться предупреждать о приближении приступа. Но уже на этапе обнаружения возникает проблема ложных тревог: по наблюдениям специалиста, которого цитирует Nature, семьи порой отказываются от устройств именно из-за них. Точность измерения, обнаружение заболевания и улучшение здоровья — три разных результата. Даже если часы помогают раньше выявить аритмию, пользу такого скрининга нужно подтвердить снижением числа инсультов и других осложнений. Дополнительные уведомления сами по себе этого не гарантируют. Именно здесь появляется содержательная задача для ИИ: предварительно анализировать поток измерений, выделять события, требующие внимания, и передавать врачу материал для решения. Такой подход тоже нуждается в клинической проверке: ошибку фильтрации пациент почувствует вполне физически. Но одного алгоритма недостаточно. Нужны совместимость с медицинскими системами, понятный порядок реакции на сигналы и оплата времени специалистов. В обзоре описана клиника в Базеле, которая уже принимает ЭКГ с потребительских устройств. Однако пациенты присылают PDF, а врачи разбирают их позже. Даже здесь непрерывный цифровой мониторинг заканчивается ручной обработкой документов. Для разработчиков медицинского ИИ отсюда следует важный вывод: оценивать нужно всю цепочку — от измерения до действия и его последствий. Следующий прорыв носимой медицины стоит измерять числом предотвращённых осложнений на час врачебного времени. Гигабайты мы уже научились производить.

Кто решает, какой будет ИИ-революция? В разговорах об искусственном интеллекте будущее часто выглядит предрешённым: технология изменит всё, обществу остаётся успеть приспособиться. Историк Стэнфорда Прия Сатия предлагает пересмотреть эту картину. Революционный потенциал изобретения и революция в жизни общества — разные вещи. Между ними стоят человеческие решения. В 1980-х экономические историки даже спорили, заслуживает ли британская промышленная революция своего названия. Количественные исследования показывали: перемены шли медленно, затрагивали отрасли неравномерно и совсем не походили на мгновенное преображение мира после появления паровой машины. Сатия обращает внимание на обстоятельство, которое легко потерять за графиками роста: люди сопротивлялись. Они защищали заработок, профессиональные навыки, самостоятельность, привычный уклад. Создавали профсоюзы, печатали памфлеты, собирали петиции, выходили на демонстрации. Это сопротивление влияло на условия внедрения технологий и способствовало появлению ограничений рабочего дня, детского труда и опасных условий производства. В этом контексте иначе выглядят и луддиты. Сегодня их имя стало ругательством для противников прогресса. В изложении Сатии за уничтожением машин стоял вполне содержательный конфликт: вправе ли предприниматель ради прибыли разрушать сложившиеся правила оплаты и качества труда, перекладывая издержки перемен на работников? Люди боролись за возможность участвовать в определении своего будущего. Для дискуссии об ИИ здесь есть неудобный вопрос: кому выгодно представлять определённый сценарий развития как неизбежный? По мысли Сатии, заявления о неудержимости ИИ помогают его создателям добиваться особого отношения государства и обесценивать общественные возражения. Если перемены всё равно предрешены, обсуждать ответственность, темп внедрения и распределение выгод будто бы уже поздно. Но государство с самого начала участвует в технологическом развитии — через исследования, инфраструктуру, закупки и правила рынка. Сатия напоминает о роли военных заказов в британской индустриализации и становлении Кремниевой долины. За технологическими прорывами стоят вполне конкретные институты и решения о том, куда направить ресурсы. Историческая аналогия, конечно, не доказывает, что общество может полностью контролировать развитие ИИ. И роль сопротивления в промышленной революции допускает споры. Однако эссе возвращает в разговор важную тему: кто определяет цели технического прогресса? Какие задачи мы поручаем ИИ? Кто получает выигрыш от роста производительности? Кто несёт издержки ошибок и перехода? Какие человеческие способности мы хотим сохранить и развивать? Это вопросы, на которые возможностей самой модели недостаточно для ответа. Технологии расширяют пространство возможного. Право выбирать, какое будущее из этого пространства строить, должно оставаться у общества.

ИИ возвращает нам отвёртку Одна из странностей цифровой эпохи: вещь куплена, а возможность менять её поведение часто остаётся у производителя. Телевизор, принтер, автомобиль принадлежат нам вместе с программными ограничениями, до которых обычному владельцу не добраться. Scientific American⁠ рассказывает о разработчике под псевдонимом Morluto. Его проект Reverse Engineer Anything — REA позволяет ИИ-агентам исследовать программы без доступа к исходному коду. Начав с восстановления старых видеоигр, сообщество перешло к экспериментам с принтерами и телевизорами. REA соединяет ИИ с профессиональными инструментами обратной разработки, включая Ghidra. Агент исследует устройство программы, восстанавливает её логику и помогает создавать и проверять новую реализацию. Результат требует проверки: реконструкция может быть неполной или ошибочной. У проекта уже более 400 тысяч звёзд на GitHub. Долгое время закрытое ПО защищала в том числе дороговизна чужого любопытства. Разобраться в готовой программе означало потратить месяцы работы квалифицированного специалиста. ИИ снижает этот барьер. Задачи, за которые прежде просто не имело смысла браться, становятся экономически доступнее. Для пользователя это возможность продлить жизнь устройства, изменить неудобную функцию, наладить совместимость с другой техникой. Разработчик Джоуи Кастильо рассказывает, как использовал ИИ для исследования купленного в Китае умного кольца — и одновременно учился, наблюдая за работой модели. Здесь есть что-то от возвращения культуры радиолюбителей: снова можно заглянуть внутрь вещи и попробовать сделать её своей. Закрытость кода становится менее надёжной основой конкурентного преимущества. Если устройство чужой программы проще понять, сокращается время на воспроизведение её функций. Возрастает значение того, что труднее повторить: уникальных данных, инфраструктуры, качества эксплуатации, доверия клиентов и скорости следующих разработок. Но возникает и «синтетическая компетентность»: человек получает возможность вмешиваться в систему быстрее, чем успевает понять последствия. Кастильо приводит тревожный сценарий — написанная с помощью ИИ прошивка приводит к возгоранию аккумулятора в полёте. Для автомобилей, дронов и роботов проверка изменений становится физически значимой частью разработки. ИИ удешевляет доступ к устройству вещей. Следующий дефицит — способность понимать последствия вмешательства. Цифровая отвёртка становится доступна каждому; инженерное мышление от этого только дорожает.

Электрический экраноплан Viceroy Seaglider впервые поднялся в воздух с людьми на борту — первые рейсы планируются к 2028 году Компания Regent Craft (США) провела первый пилотируемый полёт электрического экраноплана. Аппарат длиной 16,8 метра с размахом крыла 19,8 метра пролетел 596 м над заливом Наррагансетт за 30 секунд, после чего выполнил ещё четыре полёта. На борту находились два пилота, что делает Viceroy крупнейшим электрическим судном на динамической воздушной подушке, поднимавшим людей. Viceroy работает в четырёх режимах — у причала, на подводных крыльях и в полёте на высоте около 10 м, то есть примерно на половине размаха крыла. Тягу создают 12 электромоторов с воздушными винтами, а батарея ёмкостью около 500 кВт·ч сопоставима с пятью аккумуляторами седана Tesla Model S. Заявленная скорость — до 290 км/ч при дальности 290 км; на борту размещаются 12 взрослых пассажиров с багажом и два пилота, максимальная полезная нагрузка — 1 588 кг. Ключевой коммерческий аргумент — регуляторный статус: по законодательству США и международному морскому праву низколетящие экранопланы относятся к морским судам, а не к воздушным, поэтому попадают под надзор Береговой охраны, а не Федерального агентства по делам гражданской авиации. Это позволяет обходить нерешённые вопросы сертификации, воздушного пространства и подготовки пилотов, из-за которых электрические вертикально взлетающие аппараты годами остаются в регуляторном вакууме. Управлять Viceroy сможет сертифицированный капитан дальнего плавания после короткого дополнительного обучения. Regent Craft привлекла более $340 млн от Lockheed Martin Ventures и других инвесторов и заявляет о портфеле заказов на $10 млрд; серийное производство планируется начать в конце 2027 года. Компания The Twenty Five заказала до 60 аппаратов для маршрутов на восточном побережье США в партнёрстве с оператором Hornblower. Параллельно испытывается беспилотная версия Squire Seaglider, поддержанная контрактами почти на $20 млн от лаборатории Корпуса морской пехоты США. По словам соучредителя и генерального директора Билли Талхаймера (Billy Thalheimer), аппарат всегда находится над своей посадочной зоной — водой, — что упрощает требования к аварийным запасам топлива. #news #авиа #траснпорт https://spectrum.ieee.org/ground-effect-vehicle

Сверхпроводящий нейроморфный чип обрабатывает миллион плазменных отсчётов в секунду и предсказывает срывы в токамаке Специалисты Брукхейвенской национальной лаборатории (Brookhaven National Laboratory, BNL) Министерства энергетики США разработали сверхпроводящий нейроморфный чип, который, по сообщению лаборатории, обрабатывает около миллиона образцов термоядерной плазмы в секунду. Проект реализован совместно с Принстонской лабораторией физики плазмы (PPPL), Национальным комплексом по исследованию термоядерного синтеза DIII-D и технологической компанией Great Sky из штата Колорадо. Устройство построено на сверхпроводящих схемах, воспроизводящих структуру связей человеческого мозга. Лабораторные тесты показали, что чип способен фиксировать необычное поведение плазмы и прогнозировать развитие неустойчивостей, что в перспективе позволит усовершенствовать системы мониторинга и управления горячей плазмой в термоядерных реакторах. Для проверки использовались данные, полученные на токамаке DIII-D, который эксплуатирует компания General Atomics в Калифорнии. Два эксперимента оценивали способность чипа выявлять аномальную плазменную активность и предсказывать срывы; поток данных поступал с частотой один миллион отсчётов в секунду, и система выдержала этот темп. Третий эксперимент опирался на модельные данные симулятора TORAX, созданного командой по термоядерному синтезу Google DeepMind: чип анализировал сигналы и предсказывал наступление пилообразных неустойчивостей, связанных с быстрыми изменениями параметров плазмы при температурах порядка 100–150 млн градусов Цельсия. Ричард Баттери (Richard Buttery), директор DIII-D, отметил неординарность обработки данных установки на столь новом чипе; Шинджэ Ю (Shinjae Yoo), руководитель проекта, назвал устройство мощной платформой для алгоритмов сверхинтеллекта (Super Intelligence, SI), разрабатываемых в BNL. Стивен Коули (Steven Cowley), директор PPPL, подчеркнул важность быстродействующих систем управления для реакторов эпохи сверхинтеллекта. Great Sky указывает, что это её крупнейший сверхпроводящий нейроморфный чип на сегодняшний день; аналогичные решения могут найти применение в квантовых вычислениях, кибербезопасности и высокоскоростном анализе рентгеновских данных. Сейчас команда создаёт чип с нейросетью в десять раз больше нынешней: аппарат планируют представить в BNL в начале 2027 года, а затем испытать на токамаке DIII-D в ходе термоядерных экспериментов. Основатель и генеральный директор Great Sky Джефф Шейнлайн (Jeff Shainline) назвал текущий результат только началом. #news #нейроморфы #чипы #термояд #энергетика https://interestingengineering.com/energy/us-smart-chip-studies-million-plasma-per-sec