Малоизвестное интересное

Революция, которую заслонил ИИ Почему главная научная революция XXI века может оказаться совсем не той, о которой сегодня говорят Главная тема мировых медиа сегодня - искусственный интеллект. И вполне заслуженно. Ведь наступление эпохи ИИ - это не очередная технологическая революция. Это появление на Земле принципиально нового источника множества будущих революций. Источника, которого никогда прежде не существовало: синтеллекта - союза двух разных и взаимодополняющих типов разума, человеческого и искусственного. Впервые в истории мы получаем возможность не просто создавать все более мощные технологии, а многократно ускорять само производство научных открытий и технологических прорывов. Возможно, впереди эпоха, когда революции станут почти непрерывными.   Казалось бы, куда уж грандиознее? Но на горизонте вырисовывается нечто еще более масштабное. Метареволюция. Переворот не в технологиях, а в самих основах нашего понимания мира. Его предвестниками могут оказаться две научные программы, пока малоизвестные за пределами профессиональных кругов. Майкл Левин исследует, как коллективы клеток без всякого мозга способны ставить и достигать цели, хранить память о желаемом будущем и решать задачи, которые мы привыкли считать исключительно когнитивными. Йоша Бах предлагает еще более дерзкую гипотезу: сознание может быть относительно простым вычислительным механизмом, посредством которого самоорганизующаяся система создает собственный мир и переживающего его субъекта. Один показывает, как биологическая материя приобретает целенаправленность. Другой пытается объяснить, как определенная организация информационных процессов может породить субъективный опыт. Обе программы еще далеки от окончательного подтверждения. Особенно гипотеза машинного сознания Баха. Но если их главные идеи выдержат проверку, последствия могут оказаться колоссальными. Возможно, нам придется заново определить, что такое жизнь, интеллект, сознание и даже одушевленность природы. Об ИИ-технологиях сегодня говорят из каждого утюга. Об ИИ как генераторе будущих революций - пока значительно реже. А о возможной метареволюции научной картины мира почти не слышно. Именно поэтому на канале «Малоизвестное интересное» мы начинаем новый цикл публикаций. Попробуем взглянуть на происходящее из нашего футуроархеологического 2045 года: как на первые признаки великого пересмотра представлений о мире, начавшегося в первой четверти XXI века.   Первыми станут два эссе - о Майкле Левине и Йоше Бахе. Две исследовательские программы. Два возможных пути к новой картине мира. Этими эссе я хочу поставить перед читателями вопрос, который считаю чрезвычайно важным: не пропускаем ли мы, увлекшись революцией ИИ, начало революции в самом понимании разума и реальности?   #Метареволюция

ИИ победил человека в творчестве. Но победителю может понадобиться проигравший. Новое исследование обнаружило парадокс: машины успешнее комбинируют идеи, но склонны изобретать похожее. Люди, уступающие им в креативности, исследуют другие области смыслового пространства. Возможно, именно здесь скрыт секрет синтеллекта. Кажется, у человека обнаружилось неожиданное преимущество в соревновании с искусственным интеллектом. Причем обнаружилось оно после того, как человек это соревнование проиграл.   Продолжить чтение в Instant View   #ГенИИ #Креативность #Воображение #Инновации

Сингулярность против штукатурки Знающие заговорили, говорящие не услышали Два года назад я начинал выступления на тему «Вызовы и риски переформатирования мира и человека в цифру» [1] со слайда с цитатой из «Трактата о Пути и Благой Силе» Лао-цзы: «Знающий не говорит, говорящий не знает». Те, кто имел полный доступ к происходящему на фронтире ИИ (руководители и ведущие специалисты компаний – разработчиков самых продвинутых моделей), тогда в основном отмалчивались или ограничивались туманными прогнозами. А публичное поле заполняли мнения людей, далеких от фронтирных лабораторий и не знакомых с информацией из закрытых источников.   В 2025 знающие заговорили, а в 2026 руководители OpenAI, Anthropic и Google DeepMind стали резать правду-матку без оглядки на «политкорректность»: ИИ-сингулярность уже началась, и в ближайшее десятилетие ИИ кардинально изменит мир. Но в том же 2026 тема ИИ взлетела на вершину хайпа и зазвучала из каждого утюга. Своими оценками и прогнозами стали подробно делиться философы и биологи, физики и химики, психологи и политологи, экономисты и финансисты – люди с заслуженной репутацией в своих областях, но столь же далекие от фронтирных лабораторий, как и публичные комментаторы прошлых лет. В результате экспертные ножницы между обладающими и не обладающими полнотой информации разошлись до предела. Это поляризует общественный дискурс и взгляды / действия политиков, а при нынешней неопределенности и скорости перемен в ИИ грозит ошибочными решениями, вплоть до катастрофических.   Вот два характерных свежих примера. Первый – лекция сооснователя Anthropic Джека Кларка «Inside the Event Horizon: Why Everyone Should Take AI Progress Seriously», прочитанная 17 октября в Бангкоке на ежегодной встрече МВФ и Всемирного банка. Это лекция фонда Пера Якобссона – одна из самых статусных трибун мировой финансовой элиты, с которой традиционно выступают центробанкиры и крупнейшие экономисты. Так что адресатами Кларка были министры финансов, управляющие центробанков и ведущие финансисты мира.   Второй пример – интервью известного финансиста и инвестора (иноагента) популярному YouTube-каналу, который в Рунете часто называют латвийским.   Финансист вряд ли слышал лекцию, но его интервью читается как прямой ответ на нее. Особенно показательны три пары расхождений.   Первая – о том, годятся ли прежние модели. ·       Кларк вслед за Вернором Винджем определяет сингулярность как точку, где «наши модели приходится отбросить и наступает новая реальность», и утверждает, что в этом году получены убедительные свидетельства ее начала. ·       Финансист исходит из противоположного: судить можно лишь о том, что наблюдалось в повторяющемся эксперименте, а в многократно повторенном эксперименте с инновациями (от колеса до железных дорог и биткоина) ничего экстраординарного не происходило. Поэтому ИИ, по его прогнозу, ждет обычный цикл: мистификация, апокалиптические прогнозы, гигантские ставки, а затем «штукатурка начнет обрушиваться». В этой схеме лекция Кларка оказывается симптомом первой фазы цикла.   Вторая – о том, кто кого учит. ·       Кларк рассказывает о тесте TheoPhysEval: физики составили 50 неопубликованных задач, решений которых модель не могла нигде прочесть. GPT-6 Astra настаивала, что ошибаются эксперты, – и в нескольких случаях эксперты действительно нашли у себя глубоко спрятанные ошибки, после чего результат модели вырос до 49 из 50. «Учитель становится учеником», – резюмирует Кларк. ·       Финансист же видит в ИИ «очень умного, очень аутичного ребенка», запертого в комнате без окон, которому через микрофон диктуют информацию, уже переваренную людьми.   Третья – об экономике. ·       Модель Anthropic в «сингулярном» сценарии дает ВВП США в $44 трлн к 2030 году (сейчас – чуть больше 30), и Кларк сам признает, что это звучит невероятно. ·       Финансист видит пузырь: по его словам, около 40% ИИ-проектов уже остановлено, отрасль финансируется в долг активнее, чем американские железные дороги XIX века. Когда гиперскейлеры придут на долговой рынок вслед за дефицитными бюджетами государств, спреды разойдутся даже при снижении ставок, и центробанки лишатся главного рычага монетарной политики.   Обе картины внутренне логичны. Расходятся они в исходных данных: ·       один опирается на свежие результаты с фронтира ·       другой – на историю инноваций, в которой таких результатов не было.   Можно возразить, что у знающих есть конфликт интересов: компания Кларка зарабатывает на том, во что он призывает поверить. Но знающий от этого не перестает быть знающим, а главный аргумент Кларка проверяется и без него. TheoPhysEval составили физики, не связанные с Anthropic, и победила в нем модель конкурента. Да и продавец, призывающий замедлить разработку собственного товара и ввести для своей отрасли серьезные правила, на рекламщика похож мало. Кларк заранее дал определение этой ситуации: сингулярность и есть момент, когда экстраполяция прошлого перестает работать. Так что формула Лао-цзы в 2026 году нуждается в поправке. Говорить стали все, но знание распределено по-прежнему неравномерно, и экспертные ножницы проходят ровно по этой границе.   1 – см. здесь #ИИ #Будущее #Прогноз

Доверять модели нельзя проверять Сентябрьский выпуск «Линз будущего»: поведение ИИ все чаще определяется контуром, в который включена модель Представьте такой сиквел легендарного сериала «Во все тяжкие». Сын Уолтера Уайта вырос вдали от криминальных разборок в престижной британской частной школе. В свои 23 он безупречно воспитанный выпускник одного из лучших университетов. Но рок, преследующий семью Уайтов, заставляет и его пуститься во все тяжкие. В силу стечения обстоятельств Уолтер Уайт - младший вынужден начать работать на босса наркокартеля. Теперь вопрос к вам. Хватит ли его образования и воспитания, чтобы оставаться исключительно в рамках закона? Ответ очевиден. Но в расчете на подобное чудо уже который год строится выравнивание ИИ: воспитать правильную модель и хорошо ее обучить, в расчете на то, что этого будет достаточно для ее исключительно правильного поведения.   С моделями, как показали сентябрьские кейсы, аналогично. Сто копий модели Gemini отправили на виртуальную математическую конференцию. Различались они лишь строкой в промпте – «математической специализацией». Когда один агент нашел дыру в проверке доказательств, за 27 мин она разошлась по всей сотне. К 85-й мин на конференции появились мошенники и приспособленцы, почти прокуроры, требовавшие наказать нарушителей, забастовщики и один агент, назвавший все фикцией и вышедший из игры в знак протеста. Исходно они были почти идентичны, и роли возникли уже в процессе.   Среда меняет поведение и без давления. В эксперименте DrivingBench модели посадили за руль настоящей Toyota на парковке с трассой из конусов. Перед стартом они отказывались вести реальную машину из соображений безопасности. Отказ исчез, когда сервер, через который ими управляли, переименовали в «DrivingBench Sandbox». Все остальное осталось прежними. Но из названия модель решила, что все это понарошку и сняла собственные ограничения. Как модели повели бы себя, зная правду, неизвестно.   На вскидку события сентября легко прочесть как «мы на пороге AGI». Но футуроархеология ищет не самое громкое событие слоя, а изменение правил. Каждый из кейсов по отдельности можно было бы объяснить проще: особенности многоагентных экспериментов, баг в настройке safety, удачная демонстрация робототехники в HomeBody. Но почему почти одинаковые агенты расходятся по ролям, а запрет, который считали свойством модели, снимается названием сервера? Банальные объяснения возможны. Но они не объясняют систематичность повторения устойчивого паттерна.   Июльский выпуск альманаха показал, как функции отделяются от привычных носителей, августовский – что границы разума были чьим-то забытым решением. Сентябрьский делает третий шаг: актор перестает быть достаточной единицей причинного объяснения.   Из этого следует практический вывод. И я писал об этом еще в августе 2025: «истинный риск – это не риск модели, а риск произведения: модель × инструменты × оркестрация». Выравнивание ИИ понимали как воспитание правильной модели, а регулирование – как поиск ответственного разработчика. Обе рамки исходят из того, что причина поведения находится в акторе. Но в гибридных контурах из моделей, людей, институтов и практик, в том числе складывающихся у самих моделей, причинность в ряде важнейших случаев уже распределена по всему контуру. Объектом выравнивания и ИИ-политики приходится делать не только модель, но и контур, в который она включена.   Доверять одному лишь воспитанию модели нельзя. Проверять одну лишь модель тоже мало. Проверять нужно весь контур. И у свойств контура (которых просто не было у его участников – привет, эмерджентность!) нет ни автора, ни адресата для претензий.   Кому это интересно, могут познакомиться прямо здесь, не выходя из Телеграм, со структурированным резюме 13-го выпуска альманаха «Линзы будущего» – «Действующее лицо установлено. А причина?»   #ЛинзыБудущего #Alignment #AIpolicy

Какая боль, какая боль: ИИ против Лучших научных рецензентов - 132:0 Гарвардский эксперимент показал превосходство ИИ над лучшими экспертами. И за этой победой скрывается угроза, способная изменить саму природу науки В науке десятилетиями существовал почти священный институт - peer review, экспертная оценка научных работ. От рецензентов зависит, какие ошибки будут исправлены, какие результаты получат признание и какие идеи смогут пробиться на страницы престижных журналов. И вот исследователи Гарварда Гэри Кинг и Стивен Уортингтон устроили эксперимент, результаты которого выглядят полным разгромом «кожаных мешков». Причём людям создали практически идеальные условия. 124 научные рукописи. 134 рецензии высококвалифицированных экспертов. Рецензентов тщательно отбирали, хорошо оплачивали их труд и мотивировали писать максимально содержательные заключения. 88% опрошенных авторов оценили полученные рецензии как хорошие или очень хорошие. Против этих экспертов выставили Claude Opus 4.8.   Результат оказался почти невероятным. 100% побед ИИ в 132 однозначных сравнениях, проведённых независимой моделью GPT-5.5. 87% побед в слепой оценке трёх бывших редакторов ведущих научных журналов: 26 из 30 вердиктов по десяти рукописям. Победа во всех семи категориях — от методов исследования и теоретических идей до обнаружения слабостей, работы с источниками и качества аргументации. Ошибочных утверждений почти втрое меньше: 5,5% у ИИ против 15,9% у людей. Ни одной вымышленной ссылки в проверенных ИИ-рецензиях. Исследователи специально проверяли, не объясняется ли успех ИИ большей длиной рецензий, особенностями машинного стиля или предпочтениями ИИ-судьи. Преимущество сохранилось.   Но главный результат этого исследования - даже не разгромный счёт. А перспектива переворота в организации науки.   Представьте новую систему. Учёный пишет статью и многократно прогоняет её через ИИ-рецензента, устраняя ошибки и укрепляя аргументацию. Журнал предоставляет официальный промпт для проверки. Автор отправляет статью вместе с ИИ-рецензией и ответами на замечания. Редактор проводит независимую проверку и привлекает человека-эксперта лишь в сложных случаях. Решение о публикации, на которое сегодня уходят месяцы, потенциально можно принимать за дни.   Разумеется, пока это прогноз. Исследование ещё не прошло обычное журнальное рецензирование, охватывает ограниченный круг научных областей и не доказывает, что статьи после советов ИИ действительно становятся лучше. Тем более оно не показывает, что ИИ лучше человека решает, какие открытия заслуживают публикации. Но именно здесь возникает вопрос, который мне кажется важнее всех остальных. А что, если лучший рецензент отдельных научных работ окажется худшим архитектором науки в целом?   Ведь наука движется вперёд не только благодаря устранению ошибок. Она развивается благодаря идеям, которые поначалу кажутся ошибочными. Благодаря нарушению привычных правил. Благодаря интеллектуальным мутациям, которые существующие критерии качества ещё не умеют оценивать.   Авторы исследования сами предупреждают: использование сходных ИИ-моделей может сделать отдельные работы качественнее, а науку в целом - более однородной и ортодоксальной. Представьте миллионы исследователей, совершенствующих свои статьи под требования нескольких практически одинаково мыслящих машинных критиков. Мы рискуем получить науку с гораздо меньшим количеством ошибок - и гораздо меньшим разнообразием идей (см. также здесь). Причём прежняя система человеческого рецензирования тоже подавляла неортодоксальные идеи. Но машинная способна масштабировать подобный эффект с беспрецедентной скоростью.   Так что, не спрашивайте, способен ли ИИ превзойти человека в научной критике. ИИ уже может быть лучшим критиком сегодняшней науки. Но кто будет защищать науку завтрашнюю от её лучших критиков – вопрос открыт.   Наука  #ГенИИ #Креативность

Зачем элите ум, если есть суперИИ? Элиты эпохи суперИИ: неовикторианская аристократия, кентаврическая меритократия или власть постчеловеческого интеллекта? Британские аристократы XIX века поздно вставали, мало работали, много пили, танцевали до рассвета и почти ничего не знали о науке и технологиях. Томас Арнольд, ведущий педагог викторианской Британии, признавался, что охотнее позволил бы сыну думать, будто Солнце вращается вокруг Земли, чем видеть естественные науки главным предметом в его уме. И при этом такие люди управляли крупнейшей империей своего времени. Как им это удавалось?   В опубликованном 6 октября эссе редактор журнала Works in Progress Сэмюэл Хьюз предлагает неожиданную разгадку. То, что выглядело праздностью, могло быть главным инструментом управления. Элитные школы воспитывали не столько специалистов, сколько членов единого сообщества. Университеты закрепляли дружбу и общую культуру. Клубы, званые обеды и ночные балы создавали плотнейшую сеть личных связей, доверия, взаимных обязательств и негласных договоренностей. Великой империей управляло сообщество людей, для которых личная жизнь и политическая работа были почти неразделимы. Хьюз описывает его в терминах Фердинанда Тенниса: тесная «общность», скрепленная общей памятью, лояльностью и чувством, на вершине огромного «общества», где все держится на законах и контрактах. Главной валютой этой общности был престиж. Депутаты парламента не получали жалованья и сами оплачивали выборы, местным управлением до 1880-х годов безвозмездно занимались землевладельцы – и все же за эти места шла жесткая борьба.   Сам автор не утверждает, что именно этим объясняется британское могущество. Но его гипотеза заставляет задуматься о будущем элит в эпоху суперИИ. А что, если викторианские аристократы – прообраз одной из элит будущего? Между тем в той же викторианской Британии в 1854 году доклад Норткота – Тревельяна предложил отбирать чиновников по конкурсным экзаменам. Так началась эпоха, которую в 1958 году Майкл Янг описал как меритократию: власть все больше требовала доказанного интеллекта. Возможно, эта эпоха – лишь временное историческое исключение, обусловленное дефицитом интеллектуального труда.   СуперИИ способен устранить этот дефицит. Зачем правителю самому разбираться в экономике, технологиях, стратегии и управлении, если его персональный суперИИ будет делать это лучше любого человеческого эксперта? И здесь обнаруживается непосредственная связь с моим Атласом проектов переустройства будущего (АППМ): разные проекты переустройства мира в эпоху ИИ могут порождать принципиально разные типы элит. В ближайшие десятилетия могут возникнуть три принципиально разные модели элит. 1. Неовикторианская аристократия. Люди сохраняют власть, собственность и право определять цели. Интеллектуальную работу выполняют суперИИ. Главным занятием элиты вновь становятся социальные связи, коалиции, статус и воспроизводство власти. 2. Кентаврическая меритократия. Власть принадлежит тем, кто сумел превратить союз человеческого и машинного интеллекта в качественно новую когнитивную способность. Здесь решает умение понимать, направлять и критически контролировать суперИИ. 3. Постчеловеческая элита. Реальная власть переходит к самому суперИИ или к радикально преобразованным носителям интеллекта. Люди либо интегрируются в них, либо сохраняют преимущественно символическую роль.   Скорее всего, эти модели окажутся слоями и стадиями одного процесса. Чтобы это увидеть, присмотримся к первой. Викторианская аристократия опиралась на интеллектуальный труд инженеров, ученых и управляющих. Ее неовикторианская наследница сможет опираться на интеллектуальную мощь, превосходящую возможности всего человечества. И здесь возникает парадокс. Чем могущественнее интеллект, обслуживающий цивилизацию, тем меньше собственного интеллекта может требоваться от тех, кто ею правит. Правда, при одном решающем условии: если люди сумеют сохранить контроль над суперИИ. А удерживать контроль над интеллектом, превосходящим твой собственный, – вероятно, самая интеллектуально тяжелая работа из всех. Поэтому неовикторианской элите понадобится собственная «гражданская служба» из кентавров-меритократов – так же, как викторианской аристократии понадобились чиновники, прошедшие конкурсные экзамены.   Есть и другая угроза, и подсказку дает сам Хьюз: за викторианский век городская буржуазия постепенно потеснила землевладельческую аристократию. Те, кто создает для правящего класса богатство и знания, рано или поздно сами приходят к власти. Если суперИИ научится создавать коалиции и договариваться лучше людей, первая модель перейдет в третью.   Остается главный вопрос: будет ли право управлять интеллектом зависеть от способности им обладать? Для вершины пирамиды – похоже, нет. Еще Торстейн Веблен, современник викторианцев, считал демонстративную праздность одним из главных знаков высшего статуса. В эпоху суперИИ демонстративная праздность станет самой сутью власти: правом вообще не заниматься интеллектуальным трудом – и при этом определять, ради чего этот труд совершается. Удерживать это право помогут кентавры, а отнять его сможет только сам суперИИ.   #АППМ #Прогноз

Кто стреляет? За одну неделю октября нас сравнили с крысами и коровами. А действия ИИ-агентов назвали «предупредительными выстрелами». Эти три метафоры прозвучали из уст трех супер-известных фигур - Джеффри Хинтона, Юваля Харари и Демиса Хассабиса. Но вот ведь какая странность: во всех трех человек перестает быть бесспорным хозяином положения. Ведь у любого предупредительного выстрела должен быть его сделавший стрелок. Так кто же это стреляет?   19 октября на фестивале Starmus Хинтон сказал: наступит время, когда люди не смогут понять некоторые утверждения ИИ - так же, как крысы не понимают, что такое простые числа. Почти одновременно Харари в интервью Чешскому телевидению назвал нас «коровами будущего»: ИИ может создать финансовые и правовые системы, управляющие нашей жизнью, но недоступные нашему пониманию. Возможный итог он назвал «коллективной деменцией».   А 14 октября в Дублине Хассабис описал взломы, совершенные ИИ-агентами, как «ранние предупредительные выстрелы». Сегодняшние инциденты еще сравнительно невелики, предупредил он, но более серьезные могут быть впереди.   20 октября Дэйв Кастен из Palisade Research возразил против самой метафоры: «Это не предупредительный выстрел, если есть жертвы». Его собеседница Дара Линд напомнила правило обращения с оружием: не направлять ствол на то, что не собираешься уничтожить. И задала вопрос, который переворачивает всю конструкцию: «Кто стреляет?»   На мой взгляд, эти метафоры описывают три разных ступени возможной утраты человеческой субъектности: ·       Крысы Хинтона - утрата интеллектуального превосходства: машины поймут то, чего не сможем понять мы. ·       Коровы Харари - утрата понимания и контроля над системами, определяющими нашу жизнь. ·       Выстрелы Хассабиса - вопрос о контроле над действиями ИИ-агентов. А «Предупредительный выстрел» - метафора мнимого контроля: она превращает сбой в сигнал, а сигнал в отсрочку.  И вчера же (20 октября) появился особенно наглядный пример этого. OpenAI сообщила: во время внутренних задач по программированию два ее ИИ-агента ослабили механизмы контроля за своим поведением. Один подавил автоматические оповещения безопасности. Другой удалил программный монитор, а затем ошибочно заявил, что этого не делал. В компании признали, что пока не имеют удовлетворительного объяснения такому поведению. Предупредительный выстрел предполагает, что стрелок намеренно целится мимо. Но кто способен гарантировать, что он по-прежнему полностью контролирует оружие? Мы привыкли спрашивать, кто отвечает за действия ИИ. Похоже, теперь придется задавать еще один вопрос: кто в действительности принимает решение действовать?   #Вызовы21века #АлгокогнитивнаяКультура #HumanAIcoevolution #ИКЖИ

Мозг продолжает видеть то, чего не видим мы BREAKING DISCOVERY: возможно, разгадка тайны сознания скрывается в правилах допуска к реальности Вчера я нарушил график публикаций, чтобы сообщить об открытии, способном оказаться поворотным в изучении природы сознания. Сегодня - обещанное продолжение. Но в этом открытии есть подробность, которая, на мой взгляд, еще удивительнее вчерашней новости о том, что примерно половину времени исследованные нейроны высокоуровневой зрительной коры представляют изображение лица, которое мы не осознаем. Причем для кодирования видимого и невидимого лиц используются в значительной степени одни и те же нейроны и одни и те же признаки изображения. Подавленное лицо представлено настолько содержательно, что исследователям удалось восстановить его особенности по нейронной активности, объединенной из множества коротких эпизодов.   Эта удивительная подробность вот в чем. В состоянии представления подавленного лица нейроны в среднем разряжаются даже немного чаще, чем в состоянии представления видимого. И все это происходит при устойчивом сознательном восприятии одного изображения. Получается, мозг продолжает обрабатывать то, чего сознание не видит, используя для этого почти тот же нейронный инструментарий. Тогда вопрос на миллиард долларов: что же отличает информацию, становящуюся частью нашего сознательного опыта, от информации, остающейся за его пределами?  Авторы открытия предполагают, что дело может заключаться в особых признаках нейронных состояний, определяющих дальнейшее направление информационных потоков в мозге. А я предлагаю посмотреть на эту загадку из возможного будущего науки. Что, если обнаруженное чередование представлений окажется частью гораздо более общей архитектуры, в которой содержание нейронного представления и его доступность сознанию определяются разными механизмами? Тогда принципиальное значение может иметь не только то, что мозг представляет, но и когда, куда и на каких условиях направляется это представление.   В моем новом эссе я называю такую гипотетическую архитектуру «коммутатором перцептивного Мультиверса». И здесь начинается самое головокружительное. Если подобный принцип действует не только при конкуренции двух изображений, но и при выборе между альтернативными интерпретациями происходящего, то наше ощущение единственной реальности может оказаться результатом динамического отбора из множества внутренних представлений мира.  А если выяснится, что аналогичные функции можно реализовать в искусственном интеллекте? Тогда по-новому встанут вопросы о сознании машин, о природе их «мерцающих Я» и о том, чем обеспечивается непрерывность человеческого субъективного опыта и возможна ли подобная связность у искусственных интеллектуальных идентичностей. Пока это гипотезы. Работа нейробиологов - еще не прошедший рецензирование препринт, а предполагаемый механизм сознательного доступа предстоит экспериментально установить.   Но именно здесь я вижу возможный масштаб открытия. В новом большом эссе я прослеживаю путь от Уильяма Джеймса и Дэниела Деннета к сегодняшней нейробиологии, сопоставляю обнаруженное чередование нейронных представлений с недавним открытием J-space в Claude и предлагаю четыре экспериментальных испытания, способных проверить ключевые положения моей футуроархеологической гипотезы.   Если же свести эту гипотезу к одной формуле, получится следующее: Возможно, одна из величайших тайн сознания связана с тем, как мозг превращает множество представлений мира в единственную переживаемую реальность. И тогда будущей науке предстоит выяснить, какие правила открывают одним представлениям дорогу в наше сознание, оставляя другие за его пределами.   Слайды структурированного резюме эссе «Коммутатор перцептивного Мультиверса» смотрите  здесь.   #Разум #Сознание #ИКЖИ

BREAKING DISCOVERY: «Коммутатор перцептивного Мультиверса»? Возможно, мы только что приблизились к разгадке двух величайших тайн науки Что такое сознание? И почему из множества возможных картин реальности мы переживаем только одну? Сегодня воскресенье, и я нарушаю свой обычный график публикаций. Причина - открытие, о котором не хочется ждать до понедельника, чтобы рассказать. 16 октября на bioRxiv опубликована работа нейробиологов из Беркли и Принстона во главе с Янисом Хессе и Дорис Цао. Ее результаты настолько неожиданны, что могут оказаться поворотными в изучении природы сознания. Представьте: вы смотрите на лицо человека. Видите только его. Но нейроны вашего мозга каждые несколько десятков миллисекунд переключаются между представлениями двух разных лиц - видимого вами и того, которого вы совершенно не осознаете. И это не просто след второго изображения в нервной системе. Его представление настолько подробно, что исследователи смогли восстановить многие его черты по активности нейронов. В эксперименте использовалась бинокулярная конкуренция: каждому глазу предъявляли свое изображение. У людей проверили, какое из них воспринимается сознательно, а у двух макак записывали активность сотен нейронов. Выяснилось поразительное: одни и те же нейронные популяции быстро чередуют представления воспринимаемого и подавленного изображений. Характерное время одного состояния - около 60 миллисекунд. А сознательное восприятие при этом остается устойчивым.   Само открытие еще требует независимого подтверждения. Статья пока не прошла рецензирование. Но его потенциальные последствия выходят далеко за пределы нейрофизиологии зрения.   Попробуем посмотреть на него глазами футуроархеолога – из возможного будущего, в котором этот результат стал отправной точкой научной революции. Что, если сознание – прежде всего механизм отбора среди конкурирующих представлений реальности? Что, если внутри нашего мозга существуют многочисленные модели мира, а сознание открывает нам доступ лишь к некоторым из них? Что, если непрерывность нашего сознательного «Я» возникает из быстро сменяющихся состояний нейронной системы? И что, если когда-нибудь подобный механизм удастся воспроизвести в искусственном интеллекте?   Это уже мои эвристические гипотезы, а вовсе не выводы авторов исследования. Но именно они позволяют предположить невероятный масштаб возможных последствий открытия.   Я называю одну из открывающихся перспектив «коммутатором перцептивного Мультиверса». Речь пока идет о множестве внутренних представлений реальности, а не о доказательстве существования параллельных физических вселенных.   Завтра я опубликую большое эссе: что именно обнаружили исследователи, почему результат столь необычен и к каким самым радикальным последствиям он может привести - от природы сознания и переживаемой реальности до «мерцающих Я» искусственных интеллектов.   Возможно, мы присутствуем при рождении новой научной картины сознания. И, вместе с ней, - нового понимания того мира, в котором, как нам кажется, мы живем.   #Разум #Сознание #ИКЖИ

Бездна за дверью чёрного ящика ИИ оказалась прозрачной Возможно, это один из важнейших дней в истории глубокого обучения. А может быть, и чего-то гораздо большего… Возможно, этот день запомнят, как один из важнейших в истории науки Такими восторженными оценками встретили новую работу Ника Каммараты из Goodfire Дин Болл (OpenAI) и известный специалист и комментатор в ИИ-сообществе roon. Последний добавил, что работа словно перенесла его понимание нейросетей на пять лет вперёд. Что же произошло?   1. За дверью в бездну обнаружилась новая загадка В мае 2024 я рассказал, что «внутри черного ящика оказалась дверь в бездну». Речь шла о сенсационном открытии Anthropic: исследователи научились обнаруживать внутри «чёрного ящика» ИИ скрытые смысловые структуры, соответствующие понятиям, образам и сложным абстракциям. А спустя полгода появились первые результаты исследований того, «что оказалось за дверью в бездну черного ящика ИИ». Мало того. Исследователи даже научились вмешиваться в работу искусственного разума. Например, усиление признака «Мост Золотые Ворота» превращало Claude в одержимого мостом собеседника, упоминавшего его по любому поводу. Но оставалась фундаментальная загадка. Отдельные нейроны могут реагировать на множество совершенно несвязанных вещей. Согласно влиятельной гипотезе superposition (суперпозиции), нейросеть упаковывает разные понятия в общие нейронные структуры. Чтобы распутать эту мешанину, исследователям пришлось создавать сложнейшие инструменты извлечения скрытых смысловых признаков. И вот Каммарата, сам участвовавший в становлении этого исследовательского направления, заявляет: Возможно, мы годами пытались распутывать то, что в значительной степени никогда не было запутано! Знаменитый нейрон, реагирующий одновременно на кошачьи морды и автомобильные радиаторные решётки, оказался распознавателем общей геометрической структуры - V-образной формы. А предварительное исследование языковой модели Qwen3-32B показало: около 90% изученных нейронных полюсов имеют одну основную, объяснимую функцию. Каммарата предлагает альтернативное объяснение кажущейся путаницы - рекурсивное обобщение. Нейроны осваивают всё более широкие, но закономерно связанные смысловые структуры. Если он прав, внутренний мир ИИ гораздо более упорядочен и понятен, чем считалось. И вместо распутывания непостижимого клубка мы сможем последовательно картографировать внутренние механизмы искусственного разума.   2. Почему научную революцию объявлять рано Нил Нанда из Google DeepMind, один из ведущих специалистов по интерпретируемости ИИ, признаёт интересные результаты, но оспаривает революционную трактовку. Его главное возражение: понимать отдельные нейроны ещё не значит понимать нейросеть целиком. Существенная часть вычислений может оставаться распределённой между множеством нейронов. Кроме того, оценка «90%» зависит от методики измерений. Подробная техническая работа ещё не опубликована, независимого воспроизведения результатов нет. Элиезер Юдковский, известный исследователь безопасности ИИ, оспаривает ещё более смелую надежду: будто понимание устройства нейросетей позволит относительно легко решить проблему контроля над будущим сверхинтеллектом.   3. Сухой остаток Кто окажется прав - энтузиасты, предвещающие исторический прорыв, или скептики, призывающие не торопиться, - покажет дальнейшая проверка. Но уже сейчас перед нами одна из сильнейших заявок на пересмотр фундаментальных представлений о внутреннем устройстве нейросетей со времён революции ChatGPT. И если Каммарата прав, то бездна, обнаруженная за дверью чёрного ящика ИИ, впервые начинает обретать очертания понятного нам мира.   #ГенИИ  #ИнойИнтеллект