Posts of Наталья Касперская

Часть вторая 2. Узкое горло ответственности. Когда данные передаются в информационную систему, то дальше кто-то должен принять решение. Но если решение касается чего-то значимого, например наказаний (штрафы, пени и проч.), то его должны выносить люди, а этих людей мало. Возникает узкое горлышко. Чтобы его убрать, у управляющих системой возникает инстинктивное желание — отдать принятие решений роботам, сделать всё автоматическим, снять с себя ответственность. Но это — прямая дискриминация граждан, они неизбежно будут с этим бороться, ибо у них есть субъектность и свои интересы.   3. Потеря точности, работа по площадям. Третьей проблемой является то, что жизненные ситуации бесконечно разнообразны. Описать всё это разнообразие и на каждую реагировать по-разному — невозможно. Поэтому разные ситуации в онтологии, в «каталоге ситуаций» тех, кто создаёт системы контроля, объединяются в группы, то есть укрупняются. Получается парадокс — сначала цифровизация добирается до каждого маленького элемента, а потом их всё равно надо группировать. Но иногда эти группы получаются странными, построенными на неверно сделанных предположениях, недостоверных или искажённых данных. А тогда и воздействия, применяемые к каждой группе, могут быть вредными или неверными. 4. Избыток данных. При построении больших цифровых систем по умолчанию считается, что чем больше данных — тем лучше. На самом деле, избыток данных — проклятие цифровых систем и их разработчиков. Если данных слишком много, то системы ими «захлёбываются», они не могут делать правильные выводы, начинают глючить.   Например, есть мнение, что атаки США на Иран в этом году были спланированы при помощи данных, собранных системой Палантир. Анализ данных позволил спроектировать первый удар по верхушке управления Ирана. А потом началась реальная война высокой интенсивности, противник отвечал на атаки не так, как предполагалось. И система просто захлебнулась гигантскими данными реального времени. Оказалось, что разрекламированный Палантир — это в лучшем случае система первого удара, а боевые действия высокой интенсивности она вести не может: ей нужно сколько-то дней на обработку новых данных и новое целеполагание. А руководству США приходится между ударами изображать видимость переговоров, чтобы «перезагрузить систему».     5. Алгоритм принятия решений. Допустим, нам даже удалось как-то создать онтологию предметной области, то есть сгруппировать типы и действия наблюдаемых объектов, собрать данные, их агрегировать и классифицировать. Дальше мы должны с этим что-то делать. Как и что? Практика показывает, что дальнейшие алгоритмы часто не продуманы. «Матрица реагирования» — отсутствует или неверна.   Характерный пример. Создали информационную государственную систему учёта пчёл. За первый же год подсчёта пчёл число семей сократилось на 7%. И дальше в прессе пишут — причина неизвестна, есть необходимость более детального анализа факторов. А почему эти факторы раньше не анализировали?   Если мы не делаем выводы и не используем их, то нет смысла собирать информацию.   При формировании системы надо чётко понимать, что мы будем делать с полученным результатом. В том числе — с негативным, неприятным или неожиданным.   6. КПЭ и поиск под фонарём. Если «ключевые показатели эффективности» управления задаются сверху, то очень часто их накладывают на те области, которые проще будет оценивать и контролировать, а не там, где это нужно.   Пример: практически все введённые Минпросом КПЭ по школьному образованию — формальные и не нацелены на качество образования. Число компьютеров и устройств в школах, «%% внедрения ИИ», число используемых учителем и школьником цифровых инструментов, количество детей, записанных в кружки и прочее.   Понятно, что качество образования мерить сложно, а число внедрённых информационных систем — легко.  В результате нехватка учителей растёт, качество образования ухудшается, удовлетворённость и доверие к системе образования у родителей, учеников и учителей — падают, а формальные КПЭ — выполняются.   7. А судьи кто? Не последний вопрос во внедрении цифровых систем — а кто те прекрасные люди, которые вводят «этику системы», то есть эти самые КПЭ, алгоритмы принятия автоматических решений, которые предписывают объектам системы вести себя так, а не иначе?   Если объекты — муравьи в формикарии или системы отопления, то, наверное, таковыми могут быть биологи или профессиональные инженеры. И они как-то справятся. Но кто должен принимать решения о людях и их поведении? Если считать, что человек — создание Божье, то решение о людях должен в финале принимать Господь Бог. А вот эти лица, принимающие или «программирующие» решения о миллионах людей, они что — боги?   Разговаривая с чиновниками-цифровизаторами, зачастую трудно отделаться от ощущения, что они как раз и считают себя демиургами, богами, управляющими массами векторов, которые когда-то были людьми. Это опасное заблуждение. История показывает, что таких «богов» жизнь всегда наказывает за узурпацию божественной власти.   8. Ну и про безопасность. С точки зрения информационной безопасности единая цифровая система в масштабе города, региона или страны создаёт единую точку отказа. Кибератака на неё, компрометация, захват приведут к тому, что система может быть выключена или — если атакующим удастся — начнет работать неверно, разрушая повседневную работу критических систем жизнеобеспечения и жизнь миллионов граждан.   Но кроме давно известных рисков атак, взлома, отключения электричества сейчас возникла новая угроза физического разрушения систем, ЦОДов — с потерей данных, критически важных сервисов и даже с гибелью персонала.   Атаки на крупные маркетплейсы и ЦОДы наглядно показали, какой урон можно нанести одним попаданием ракеты или БПЛА (или — в случае информационной системы — одной кибератакой).   В общем, идея тотального контроля, как говорится, теоретически неверная и практически вредная.   Управление миллионами субъектов с собственной волей должно строиться не на тотальной слежке и попытке предписать каждому социально-экономическому атому его поведение до мельчайших деталей, а на общих принципах и ценностях при общей свободе инициативы и мысли.

Давно хотела обсудить тему контроля как инструмента и идеологии — чисто в теоретическом ключе. Любые совпадения неслучайны. Слежка сейчас «на коне». Модная цифровизация позволяет в реальном времени следить за любым объектом — хоть за трубопроводом (установка датчиков по всей длине), хоть за коровой (датчики на ухо, камеры в хлеву), хоть за людьми (смартфоны, камеры, банковские приложения, приложения лояльности, такси и доставки еды, маркет-плейсы и проч.). Можно также следить за малым бизнесом — например, режим АвтоУСН позволяет анализ транзакций в режиме онлайн. Впрочем, АвтоУСН тут уже и не обязателен. Сейчас все платёжные транзакции проходят в цифре, так что мощные цифровые системы ФНС способны собирать, анализировать их, выявлять все приходы-расходы и автоматически начислять налоги. Надзорная цифровизация способна творить чудеса — она может добраться до каждого, до самого незаметного субъекта, собрать о нём массу данных и потом их проанализировать, в том числе, используя модные технологии искусственного интеллекта. Сейчас очень популярно среди начальников разных уровней создание различного рода «ситуационных центров» — со множеством экранов, на которых отражаются карты, объекты, события, различные инциденты. Возьмем, например, Центр Управления Регионом (ЦУР). Очень круто: всё видно в одном окне, на расстоянии клика мышкой, можно ощущать себя всевидящим. И, казалось бы, дальнейшее развитие этой всеобщей слежки до мышей — очевидно и неизбежно. По максимуму оцифровываем всё пространство вокруг нас, сводим всё в цифровые системы, выводим на большие экраны — и эффективно боремся со всеми угрозами, управляя всеми процессами, потоками, массами, объектами. И потом живём припеваючи, потому что всё будет практически само выполняться, колоситься и расти. Но так пока не выходит. Цифровизация часто проблем не решает и даже создаёт новые. Почему? Давайте разберем ниже. 1.     Качество данных. Чтобы цифровая система эффективно анализировала данные и давала годные прогнозы, эти данные в первую очередь должны быть достоверны. Есть правило разработчиков: «Garbage-in-Garbage-out», что можно перевести, как «дрянь на входе — дрянь на выходе».   А собрать достоверные данные не всегда получается, особенно если объекты, с которых мы эти данные собираем — на самом деле не объекты, а субъекты, то есть подвижны, активны, имеют собственную волю. Например, налогоплательщики —физические или юридические лица.   Их интересы в целом и общем противоположны интересам сборщика налогов, а значит, эти субъекты свои данные будут стремиться скрывать, искажать, прятать, будут уходить в наличку и т.п. И чем больше давление сверху, чем тотальнее слежка, чем выше налоги, тем больше эти живые субъекты будут сопротивляться. Пик эффективности слежки проходит — собираемость падает. Продолжение следует...

Сегодня в 18:00 буду в гостях у Петра Лидова и Алёны Максимович — в программе «Дорогая редакция». Поговорим о том, что такое генеративный ИИ, чем он опасен для человека, какие риски несёт бесконтрольное использование ИИ-моделей на работе и как вообще устроена эта сфера. Надеюсь, немного коснёмся импортозамещения и экспорта российского ПО. В остальном — будет видно. Разговор живой, может уйти куда угодно. Посмотреть можно будет здесь: 💙 VK Видео 📺 Rutube 📺 YouTube

Была в гостях у Арутюна Ишхановича Аветисяна, академика РАН, директора Института системного программирования им. В.П. Иванникова, в программе «Очевидно. Вероятно». Говорили, конечно, о рисках и угрозах искусственного интеллекта. Но, пока мы обсуждали темы, записывали программу и ждали её выхода, многое в сфере ИИ успело измениться. Тем не менее, кому интересно — ссылка здесь

No text

Некоторые читатели написали, что опубликованные выше тезисы «Деловой России» (далее ДР) якобы являются фейком. Однако 14 октября руководитель редакции РБК Пётр Канаев у себя в канале опубликовал полный текст тезисов ДР, а сегодня — выжимки своей беседы с Репиком, председателем ДР, в которой тот все тезисы подтвердил. Я изучила полный текст документа (прилагаю ниже). В нем 52 предложения, много разумных и взвешенных. Однако, есть и спорные. Часть из них мы обсудили выше. Для скептиков даю ссылки на номера пунктов, которые я разбирала в предыдущем посте. Также кое-что добавлю уже по результатам изучения полного документа. Повышение налогов на граждан. Раздел II. Пункт 1. «Господдержка: при прочих равных отдавать приоритет публичным компаниям». Публичным — то есть крупным. А мелким, значит, никаких приоритетов. Такое чистое незамутненное предложение крупного бизнеса — дайте нам приоритеты, а вот тем — не надо! (курсив — мой) 3. Налоговая настройка». В этом пункте сразу несколько крутых идей. Тут есть «введение соцвзносов для физических лиц, получающих основной доход в виде процентов/дивидендов». При этом есть уточнение — предлагается «нераспространение данной меры на доходы от акций публичных компаний». То есть спекулянтов на бирже облагать не надо, а мелкого предпринимателя, желающего получить дивиденды со своего бизнеса, обложить по полной. Видимо, чтобы продавал свой бизнес и покупал бы на бирже акции компаний-членов ДР. (курсив — мой) Тут же «введение налога на наследство», включая дорогое имущество, а также бизнес. Правда, так и быть, ДР готова согласиться дать льготу (не освободить от налога, а всего лишь дать льготу) при передаче наследства детям. Выглядит, как попытка просто уничтожить возможность передачи бизнеса (и любого дорогого имущества) по наследству. Себя господа из ДР видимо считают бессмертными. Раздел V. Переход к универсальности правил для бизнеса. Именно универсальностью правил для бизнеса господа из ДР объясняют необходимость отмены специальных налоговых режимов (см. по. 14), включая УСН, АвтоУСН и патентную систему. Это означает, что господа из большого бизнеса хотят заставить малый бизнес конкурировать с собой на равных, что невозможно. Кроме того, я обнаружила здесь ещё одно свежее предложение по повышению ставки налога на землю промышленного использования, которая и сейчас значительная, если считать от кадастровой стоимости (см. п. 13.). Там же предлагается возможность судебного изъятия таких земель. Вообще интересный вопрос — почему ассоциация бизнесменов предлагает обложить налогами граждан страны? Интересным контрастом к этим всем повышениям налогов на граждан, землю и мелкий бизнес выглядит пункт 11 раздела VI. Он предлагает расширение поддержки фармацевтических НИОКР и ОКР. Не потому ли, что у господина Репика фармацевтическая компания? Резюмирую. Предложения ассоциации бизнесменов "Деловая Россия" оказались не фейком. Ассоциация ДР предлагает вводить меры по поддержке крупного бизнеса, в том числе, за счёт малого бизнеса и, что очень странно, частных лиц, российских граждан.

Хочу поговорить про бизнес. На этой неделе новостные источники пестрили выступлением главы «Деловой России» Алексея Репика перед президентом РФ. По данным СМИ, г-н Репик внёс несколько освежающих предложений по «улучшению бизнес-климата» и «трансформации экономики». Полного текста предложений мне найти не удалось. Да и сам господин Репик начал потом отстраняться от них, говорить, что на форуме ассоциации будут другие предложения. И на вчерашнем форуме этих предложений озвучивать не стал, видимо, стало стыдно. Впрочем, прямо опровергать опубликованные в прессе предложения он тоже не стал. Поэтому имеет смысл на них посмотреть. Первая группа предложений состоит в том, чтобы изменить специальные налоговые режимы для малых предприятий на упрощённой системе налогообложения УСН и АвтоУСН с расчета «от дохода» на расчет «доходы минус расходы». Для бизнеса любая смена налоговой политики крайне болезненна. И я не слышала, чтобы малые предприятия выступали бы за изменение своих режимов. АвтоУСН отличается от УСН только тем, что даёт доступ налоговой к своим транзакциям и позволяет ей самой рассчитывать налог. Для режима АвтоУСН «Деловая Россия» дополнительно предложила понизить порог годовой выручки до которой распространяется этот режим — с 60 млн рублей до 20 млн руб. А при выручке выше — обкладывать «обычными» высокими налогами. Что такое 20 млн рублей выручки в год? Это 1,6 млн в месяц — то есть до 5 сотрудников плюс аренда и прочие расходы. Такие компании не могут даже позволить себе выделенного бухгалтера. А переход на полноценную уплату налогов этого потребует. Не говоря уже о том, что подобные малые предприятия, как правило, балансируют на грани рентабельности и повышения налогов просто не выдержат. Я лично вообще не понимаю, какой смысл давить малый бизнес. Малый бизнес создаёт социальную смазку, обеспечивает работу миллионам людей, даёт им занятие и чувство собственной значимости. На самом деле, именно малый бизнес, а не крупный, является социальной скрепой и опорой для государства. Не случайно ассоциация малых предприятий называется ОПОРА России. Обе упрощенные системы в разное время вводились, чтоб облегчить жизнь малым компаниям. Несмотря на это, число малых компаний в стране медленно, но неуклонно снижалось с 2017 года (согласно «Единому реестру субъектов малого и среднего предпринимательства»). В 2017 в реестре значилось 2,4 млн юрлиц, отнесенных к малому и среднему бизнесу, и примерно столько же индивидуальных предпринимателей (ИП). В июне 2026 в реестре стало 4,8 млн ИП и только 2,1 млн юрлиц, относящихся к малому и среднему предпринимательству (МСП). Расчёты экономистов показывают, что суммарный доход в бюджет РФ при предлагаемом «Деловой Россией» повышении налогов на малый бизнес вырастет на 150-200 млрд. При этом, например, чистая прибыль только одного Сбербанка за 2025 год составила 1,69 трлн рублей (+8,4% к 2024). Если же взять суммарную чистую прибыль четырёх крупнейших государственных банков за 2025 год, то это — 2,3 триллиона рублей. Почему бы госбанкам не отдать дополнительные 10% от этой прибыли в бюджет? Это как раз 230 миллиардов, которые с лихвой перекроют потенциальный доход от ущемления малого бизнеса. Ещё одно бодрое предложение «Деловой России» — об отмене патентной системы налогообложения для индивидуальных предпринимателей (ИП). Патентная система — это когда ИП покупает «абонемент» на ведение бизнеса и больше налогов не платит. Патентные ИП — как правило, одиночки или микро-предприятия. Например, мелкие грузоперевозчики, сельские магазины, парикмахеры и прочие. В своё время патенты вводили, чтобы вытащить таких работников из тени. Отмена патентной системы означает их возврат обратно в тень. А значит, нас ждёт очередной сдвиг страны в наличку и уклонение от налогов. Люди продолжат работать, но государство их экономическую деятельность уже не увидит. Следующее предложение г-на Репика касается уже физических лиц. Предлагается ввести 5-ступенчатую шкалу НДФЛ на пассивные доходы граждан — доходы по акциям, банковские депозиты, продажу недвижимости, дивиденды. Это предложение контрастирует с пожеланиями Минфина и ЦБ РФ о развитии российского фондового рынка. Даже есть специальный Указ Президента №309 от 07.05.24 о том, чтобы довести капитализацию российского фондового рынка до 66% ВВП. Но покупка акций — это рискованная инвестиция. Акция может вырасти (и тогда её можно продать с прибылью и заплатить с этого налог), а может и упасть (тогда при продаже образуется убыток, который никто компенсировать не будет). С повышением налогов эти и без того рискованные инвестиции станут совсем невыгодными. Так что о бирже для всех придётся забыть. Что касается депозитов, то для многих обычных людей это было хорошей возможностью зафиксировать средства (например, продал квартиру, положил на депозит, пока ищешь варианты покупки новой). Повышение налогов и этот инструмент сделает менее привлекательным. И что будут делать граждане? Прятать деньги под подушкой? И последнее предложение «Деловой России», которое меня зацепило — ввести налог на наследство и дарение при налоговой базе от 50 млн рублей. Вообще отличная мера! Предположим, у вас есть квартира в Москве, доставшаяся вам от бабушки. Вы решили её подарить своему брату/племяннику или завещать детям. Налог в размере НДФЛ (для 50 млн руб. это 22%) означает, что получателю (наследнику) придётся где-то найти сумму от 11 миллионов за счастье получения этого имущества. Кстати, подобная практика большого налога на наследство есть в некоторых странах Европы — например, во Франции и Португалии. И вопрос передачи имущества по наследству там — страшно болезненный. Часто наследники вынуждены отказываться от наследства, так как не могут заплатить налог. В нашей стране, где многие живут в квартирах, домах и на дачных участках, доставшихся им в результате приватизации советской собственности, введение налога на наследство и дарение ударит не по богатым, а как раз по не самым обеспеченным слоям населения. В общем, удивительные предложения поступили от делового (делового ли?) объединения. Мне ещё не доводилось видеть, чтобы бизнесмены сами просили повысить им налоги. Тем более, что в прошлом году налоги на бизнес уже повышали. И недавно Правительство опять внесло в Государственную Думу предложения по повышению налогов. Часть этих предложений (повышение налогов на пассивный доход, акции и дивиденды, на дарение имущества) подозрительно пересекается с предложениями «Деловой России». Отсюда возникает подозрение, что ассоциации просто поручили озвучить эти предложения, а она не стала спорить. Это странно для организации гражданского общества — быть голосом не общества, а фискальной службы. Или, можно предположить мотивацию похуже — «Деловой России» сверху сказали: «Нужно больше налогов, думайте». Она и придумала — побыстрее перекинуть всё на мелких, чтобы вывести из-под удара своих крупных уважаемых членов. «Фу такими быть», как говорится! Для граждан и для бизнеса важна стабильность и возможность планировать свои расходы, что невозможно в условиях ежегодного пересмотра и ужесточения налогов. Кроме того, перед страной стоит задача инвестирования в новые технологии для отражения внешней агрессии. Очень многие новые технологии для войны, технологического суверенитета появляются в форме «гаражных» стартапов. То есть малого бизнеса. Но мало кто захочет заниматься инвестициями в условиях непредсказуемого, но при этом постоянного роста налогов. Государству, может, стоит обратить внимание не на жалкие крохи, которые можно мучительно собирать с ларьков, киосков, пекарен и кофеен — причем, собирать ценой ущемления миллионов самостоятельных граждан, пытающихся со своими семьями выживать в условиях войны и «посадки» экономики, а на прекрасно чувствующие себя гигантские корпорации? Ввести, так сказать, прогрессивный налог на чеболи?

Поговорили с Ильей Шабановым — главным редактором Anti-Malware — о рисках и безопасности генеративного ИИ, а также о попытках российских компаний оседлать новую волну популярности.

«КонсультантПлюс» опубликовал наш законопроект «О безопасном использовании систем искусственного интеллекта в РФ». Его можно посмотреть по ссылке либо в самой системе. Как-то я писала, что весной этого года небольшая рабочая группа при Совете Федерации под руководством В. И. Кожина разрабатывала свою версию законопроекта по ограничениям искусственного интеллекта. Я тоже принимала участие в этой рабочей группе. К сожалению, наша версия, равно как и версия, представленная Министерством цифрового развития, была отвергнута правительством. Вместо закона об ограничениях был принят Федеральный закон № 243-ФЗ «О поддержке развития технологий искусственного интеллекта в Российской Федерации». Закон этот был принят 8 июля сего года. А уже в сентябре представители крупнейших американских компаний-разработчиков ИИ заговорили о рисках искусственного интеллекта и угрозах человечеству, которые он несёт. И в последнее время на всех конференциях, форумах, встречах, в которых я участвую, говорят исключительно о рисках ИИ. Осознание этих рисков постепенно приходит в общество. Поэтому я посчитала, что вполне актуально вспомнить ту версию нашего законопроекта. Она не противоречит принятому закону о поддержке ИИ. Более того, она вообще не обсуждает конкретные технологии, как 243-ФЗ, потому что технологии ИИ развиваются слишком стремительно. Ещё летом в тренде были большие языковые модели, потом агенты, сейчас — мультиагентные системы, а завтра будет что-то ещё. При разработке мы использовали другой подход, а именно: ☑️ регулирование не технологий, а сфер их использования, которые важны для граждан. Я говорю о социальной сфере, а также о сферах государственного управления, массового обслуживания, законотворчества и проч.; ☑️ обязательный набор гарантий для человека (от идентификации систем и результатов их функционирования до права на отказ человека от ИИ) и прописанные составы прав и обязанностей для всех, кто участвует в отношениях; ☑️ ведение реестра доверенных систем ИИ, которые должны использоваться в наиболее чувствительных сферах. Кроме того, мы сразу решили, что «система ИИ» считается информационной системой, а значит, к ней применимы существующие законы об информационных системах. Поэтому мы специально не стали затрагивать интеллектуальную собственность и персональные данные, оставив эти области существующим законам и кодексам. Большую часть законопроекта (целых 5 статей) мы посвятили ответственности. Это важный вопрос — кто будет нести ответственность, если ИИ нанесёт вред человеку или предприятию? Не скажу, что мы тут справились — там много нетривиальных вопросов, и нам не удалось найти «волшебной таблетки».  Я полагаю, коль скоро риски ИИ стали столь очевидны и обсуждаемы, то вполне можно взять на вооружение большую проделанную работу для того, чтобы в каком-то виде использовать подходы, защищающие от рисков ИИ граждан, страну и её секреты. Текст открыт, его можно и нужно обсуждать, он готов к любому развитию. Буду рада содержательным комментариям.

Часть 2 По этому среднему сценарию население России к 2040 году сократится на 4,2%. Доля людей старше 65 лет вырастет до 21,2% по сравнению с 17,1% в 2024 году — то есть на 4,8 млн, а доля трудоспособных (в прогнозе при этом считается, что гражданин РФ сможет работать с 15 лет, что является слишком смелым предположением, конечно) снизится с 65,8% до 65,3% (на полпроцента)  — это минус 4,7 млн человек. А убыль среди детей составит аж 6,2 млн человек, их доля упадёт с 17,2% до 13,5%. Повышение пенсионного возраста даст стране ещё 1 млн работников по сравнению с тем, если бы этого повышения не было. Но это не переломит негативный тренд, и доля работников к 2040 году снизится на 4,3%, а к 2046 – на целых 8,2%. В сценарий заложена въездная миграция (примерно на уровне в дополнительные 216 тысяч человек в год). Если же взять прогноз без миграции (а если рождаемость будет падать везде в мире, то и мигрантов тоже неоткуда будет взять), то численность трудовых ресурсов снизится на 5,3% к 2040 году и на 9,2% к 2046. К сожалению, снижение будет даже по самому оптимистичному сценарию. Так, если в стране вдруг вырастут рождаемость, продолжительность жизни и сохранится иммиграция, то падение трудовых ресурсов (всё равно падение) составит 0,4%. При одновременном росте числа неработающих пенсионеров, которых надо будет как-то кормить и лечить. Сокращение населения — ровно та причина, по которой правительства развитых стран сейчас так пропагандируют искусственный интеллект, надеясь с его помощью сократить значительную часть работников. Например, офисных (в РФ это примерно 25-29 млн человек). Но даже, если ИИ позволит сократить половину «офисного планктона», то куда пойдут эти люди, не привыкшие к физическому труду, зато привыкшие к относительно высокому уровню потребления? Ответа пока нет. Нерешённым вопросом также является то, что ИИ действительно позволит сократить много людей. В прошлом году были новости от американских (да и наших) компаний, которые тысячами сокращали программистов, заменяя их ИИ. Но потом пошли новости, что эти же компании втихую начали нанимать людей обратно, потому что ИИ не оправдал ожиданий. Да и сам генеративный ИИ до сих пор убыточен для его создателей и существует за счёт огромных инвестиций. Так что теорема существования про замену работников искусственным интеллектом пока не доказана. А все другие сценарии крайне неприятны для граждан страны. Причём я обсуждала выше «гладкую экстраполяцию», непрерывное продолжение существующих тенденций, а ведь это не обязательно будет так: падение численности работников и вообще населения может стать обвальным. Тут очень показателен пример Прибалтики, зашедшей в катастрофу сильно раньше нас — там по официальным источникам осталось 6 млн человек из 8 млн, что жили при СССР, но в реальности — ещё меньше. Экономика в этих странах сжимается, мигранты туда не едут, молодёжь уезжает, специалисты тоже, что ещё больше ухудшает экономику. Остаются пенсионеры с постоянно растущими расходами на коммуналку. Это делает миграцию в Европу, где зарплаты выше, ещё более привлекательной для молодёжи. Получается петля положительной обратной связи, раскручивания катастрофы — без выхода. Процесс обрушения нарастает, как часто бывает с положительной обратной связью, усиливающей саму себя. Уже сейчас эти страны вообще не могут себя кормить. У них дефицит госбюджета и госдолг от 25% и до 47% ВВП. И источников покрытия этого долга не просматривается — кроме внешних выплат от ЕС и НАТО за размещение военных баз и контингентов. Похоже, единственная надежда у многих наших государственных деятелей, что каким-то магическим образом нас от всего этого спасёт искусственный интеллект (который для нас любезно сделали в США). Как именно — неясно, но ясно, что это волшебная палочка. Эта романтическая и отчаянная надежда на ИИ приводит к совершенно феерическим галлюцинациям, в том числе в планах и стратегических документах. Об этом — в следующем посте.

Часть 1 Последняя моя публикация про взаимозависимость рождаемости и женской карьеры вызвала удивительно много комментариев (больше двух тысяч) — видно, что тема демографии людей цепляет. Некоторые почему-то решили, что этот пост — призыв к женщинам не делать карьеру и рожать любой ценой. Аргументы против были все однообразные и монохромные: надо дать денег, больше денег, а также ещё денег и, конечно же, денег. И тогда, может быть, мы и родим, но это не точно. Якобы рождаемость — вопрос исключительно экономики. Якобы это доказано многочисленными исследованиями. Ну что же, поговорим немного про экономику. На валовый внутренний продукт (ВВП) страны влияет много факторов, среди них — наличие природных ресурсов, уровень предприятий, использование технологий. Но все экономисты сходятся в том, что ключевым фактором является наличие и состояние трудовых ресурсов. Трудовые ресурсы — это численность и квалификация населения, а также его воспроизводимость (то есть та самая рождаемость). Кто-то из читателей написал: «Ну и что, что население сокращается? Сейчас 8 миллиардов, будет 4-5. Только дышать легче станет». Это могло бы быть верно, если бы сокращение было пропорциональным во всех группах населения. А оно как раз пропорциональным не является. Видимо, я не очень понятно объяснила эту связку. Поясню подробнее. С увеличением продолжительности жизни растёт число стариков. Пенсии по старости выплачиваются из страховых взносов (страховая пенсия), которые отчисляют в бюджет предприятия. Эти деньги не накапливаются, а сразу — прямо сейчас — идут на оплату пенсий текущим пенсионерам. В бюджете они не остаются и не накапливаются на ваших личных счетах, как думают многие. Их для вас на будущее просто «запоминают», для расчёта вашей пенсии потом. Деньги уходят в моменте. По данным Счётной Палаты РФ, сумма страховых взносов в 2025 году составила 12,4 трлн рублей. Это, как ни странно, на 16% больше, чем в 2024 году.  Рост связан как с увеличением численности работников, платящих социальные налоги, на 1,3 млн (видимо, результат обеления зарплат некоторых категорий служащих и работников), так и с повышением эффективности работы налоговой службы, которая улучшила собираемость налогов. Но даже этих денег не хватило, чтобы из них выплатить пенсии всем пенсионерам. Размер выплат составил 17,6 трлн рублей — на 8,1% выше, чем в 2024 году (рост из-за небольшой индексации пенсий).   Замечу, что индексация действительно небольшая. Всего 9,5% для страховых пенсий и различных пособий и 14,75% для социальных пенсий (которые, как правило, низкие). Дополнительные 9,5% в кармане не очень чувствуются получателем на фоне инфляции бытовых цен. Но в целом по стране складываются в увесистую сумму. Итак, резюмируем. Собрали 12,4 трлн, выплатили пенсий на 17,6 трлн. Дефицит — 5,2 трлн рублей. Кто покрыл эти 5,2 триллиона? Очевидно, изыскали из бюджета. Бюджет Российской Федерации в 2025 году составил 37,3 трлн рублей в доходной части и 42,9 трлн — в расходной. Дефицит — теперь уже бюджета — в 5,6 трлн рублей близок к разнице между выплатами пенсий и полученными страховыми взносами. Теперь посчитаем получателей и плательщиков. По данным Соцфонда России, на 1 июня 2026 года в стране зарегистрировано 40,4 млн пенсионеров. А число работников в 2026 году составило 73,4 млн человек. Получается, что на одного пенсионера приходится 1,8 работника. И это соотношение — ухудшается. Сделаю здесь замечание в сторону. Убыль людей некоторые деятели пытаются компенсировать завозом мигрантов. Согласно официальным данным налоговой их 3 млн человек. В реальности их больше, так как многие не регистрируются. И налогов не платят. Почему «наверное, работают»? Потому что очень многие мигранты не работают там, куда приезжали работать, а находят более «вкусные» места. Например, в сфере услуг. Зачем горбатиться и мёрзнуть на стройке, если курьер доставки получает 200 тысяч рублей? А между тем, подобная сфера услуг, вроде доставки, если и делает жизнь удобнее, то не производит материальной ценности и не делает реального вклада в ВВП. Да и вообще у нас перегружена сфера услуг — всякой изощрённой стрижкой бород и собак за большие цены. Эта тоже экономическая нагрузка на страну. Итак, в текущей ситуации уже наблюдается дефицит по выплате пенсий. А что в будущем? Стоит посмотреть интересные данные в статье на эту тему на «Хабре». Автор статьи рассматривает возможные сценарии развития ситуации на рынке труда на основе данных и прогнозов Россатата. Прогноз Росстата (средний — не оптимистичный, но и не пессимистичный) по соотношению числа работающих и не работающих приведён в таблице ниже (смотрите ч.2 поста)

Есть в мире одна острая, важная и я бы сказала — экзистенциальная проблема, которую уважаемое человечество старается не замечать. Причём не только Россия, но и другие развитые страны делают вид, что этой проблемы, ну, если не совсем не существует, то она не такая уж значимая.   Это демография. Давайте о ней поговорим. В августе этого года группа исследователей из Университета Пенсильвании (Penn State) и Северо-Западного университета (Northwestern University) опубликовала доклад, в котором посчитала, что впервые за всю историю человечества мировой уровень рождаемости снизился ниже порога воспроизводства населения. Напомню, порогом воспроизводства демографы считают 2,2 ребёнка на женщину. Когда рождаемость становится ниже 2,2, то следующее поколение будет меньше предыдущего. Если американские ученые правы, то это означает, что всё человечество вступило в фазу сокращения численности. Может быть, впервые после Всемирного Потопа 5000 лет назад и Чёрной смерти в 1347 году. А это значит, что население будет стареть. И значит, будет больше болеть. Работающего населения будет всё меньше, оно будет вынуждено платить больше налогов, потому что инфраструктура общества будет той же, а неработающих станет больше. Рабочая сила будет дорожать, а уровень квалификации — снижаться из-за уменьшения числа людей. ВВП расти не будет (ученые в докладе пишут о крайне низком темпе роста ВВП, но мне лично непонятно, откуда вообще возьмётся рост). Поколение нынешних 30-летних, скорее всего, вообще не получит пенсий. А стариков будет очень много, и за ними некому будет ухаживать.  И так далее… Так вот, читаю я это исследование о демографии, вдруг звонит мне одно издание и спрашивает: «Сталкивались ли вы когда-нибудь с предвзятостью из-за того, что Вы женщина? И как изменить стереотипы по отношению к женщинам, чтобы больше женщин становилось бизнесменами и управленцами?» Но ведь ровно из-за того, что женщины занимаются карьерой, идут в бизнесмены и управленцы, они рожают меньше детей. Им некогда, у них другие приоритеты. И эти приоритеты ухудшают их семейную и демографическую ситуацию. Примерно 15 лет назад уважаемое аналитическое издание Harvard Business Review опубликовало исследование, результат опроса 2200 руководителей и бизнесменов высшего звена, обоего пола. Согласно этому исследованию, чем выше по карьерной лестнице мужчина, тем лучше у него с семьёй, больше детей и выше удовлетворённость жизнью. А у женщин — ровно наоборот. Чем выше должность женщины, тем меньше у неё детей, а на самом верху — в основном одинокие, тревожные, лично несчастные, довольно стервозные руководительницы. (Это в США, естественно). Потом HBR убрали исследование с сайта — оно не вписывалось в «повестку». Повестка-то — про равенство полов. И вот я, как предприниматель со стажем, спрашиваю — а зачем вообще нужно, чтобы женщины становились предпринимателями? Зачем им сравниваться с мужчинами не в правах (права полов в России равны с 1918 года), а в возможностях? Природа (или Господь Бог) создал два пола с разными возможностями — и это хорошо. Женщины более гибки, более социально ориентированы. А мужчины лучше работают с техникой и физически сильнее. Но главное отличие женщин — они имеют уникальную способность производить на свет настоящих человеческих людей, которой мужчины напрочь лишены. Но способность эта сейчас немодная, а карьера — это модно. Да, я знаю, что вы сейчас ткнете в меня пальцем — а сама-то ты кто? Разве не предприниматель, не бизнесмен? По своему опыту скажу, что предприниматели — это довольно-таки ненормальные люди. Чтобы быть предпринимателем, надо иметь врождённую склонность к авантюрам, риску, управлению людьми, а также любовь к деньгам (но не просто желание иметь их даром — это-то у всякого есть, а прямо склонность к их добыванию). У меня эти особенности с рождения — бывают же уроды. Но в своё оправдание я замечу, что своих 5 (прописью — пять) детей я всё-таки родила — двоих до начала предпринимательского периода жизни, ещё троих — во время него. Предпринимателей, а уж тем более успешных бизнесменов или государственных управленцев в популяции не бывает много, их единицы процентов. Это как в спорте — заниматься во дворе имеют возможность все, мастерами становится мало кто, а олимпийскими чемпионами — и вовсе единицы. В любой области деятельности — в бизнесе, науке, спорте — мест наверху мало. Зачем призывать нормальных женщин становиться ненормальными — я не понимаю. Как не понимаю и повального стремления «к карьере». Ты в этот мир приходишь голой и уходишь из него такой же. И неважно, похоронят тебя в рогожке, сожгут или положат в позолоченный гроб. А вот остаться при выходе на пенсию одной, в пустой квартире, когда у тебя ни детей, ни внуков, ни мужа, а только воспоминания о (пусть) блестящей, но былой карьере — довольно страшно. Конечно, падающая рождаемость — не только следствие карьерных устремлений женщин, но и более сложных явлений в обществе, таких как разобщённость, индивидуализм, ориентация на потребление, чрезмерный эгоизм, неумение и нежелание уступать (без чего не создать семью), вовлечённость в электронные суррогаты жизни и общения и так далее. Про это можно порассуждать отдельно. Кстати, не стоит думать, что рождаемость падает якобы из-за нехватки денег, квартир и прочих материальных благ. Это опасный миф. Сейчас больше всего рожают именно в бедных странах. А сытость — со смартфоном в руках и доставкой к порогу — ухудшает, а не улучшает демографию. Например, за XIX век население России выросло втрое — с 50 до 150 миллионов. И это в то время, когда не было горячей воды, декретных отпусков, памперсов и женских консультаций. Пропаганда женской карьеры — дополнительный серьезный барьер на пути рождаемости. Меня часто спрашивают про карьеру, про то, как я основала «Лабораторию Касперского», как занимаюсь бизнесом. Людям нравятся «высокие достижения» и ещё они любят про деньги. Но почти никто не говорит: «О, круто, вы родили пять детей!». Это неинтересно. В обществе нет понимания высокой роли женщины-матери. Многодетные женщины по определению — маргиналки. И пока в стране будет сохраняться стереотип (кстати, выработанный Советским Союзом с его идеей равенства), что женщина — это работник наравне с мужчиной, а не изумительное творение, способное создавать людей, мы проблему демографии не решим. Помните, как в известной советской песне: «…Как поют соловьи, - полумрак, поцелуй на рассвете, — И вершина любви — это чудо великое — дети! Всё мы с ними пройдём — детство, юность, вокзалы, причалы… Будут внуки, потом всё опять повторится сначала».   И вот человечество вступило в фазу, когда сначала всё может и не повториться…. Если только общество не осознает, что дети — это чудо, а женщина-мать важнее женщины-трудоголика.

No text

No text

Дорогие подписчики, хочу пообсуждать с вами статистику. И попросить совета. Вчера я была на заседании Общественного совета при Минцифры РФ. На нём, в частности, министерство представило статистику по обращениям граждан. В статистике — число обращений граждан по разным каналам связи за последние 4 года. Из неё следует, в частности, что с 2022 по 2025 год число обращений через Почту России и электронную почту сократилось более, чем вдвое — с 11 тысяч в год до 5 тысяч в год. Через сайт Минцифры к ведомству стало обращаться вчетверо меньше людей. Зато через платформу обратной связи (раздел Госуслуг) число обращений выросло в 5,5 раз — с 27 тыс. до 147 тыс. Общее же число обращений выросло с 61 тыс. до 169 тысяч., то есть в 2,8 раза. На мой вопрос о том, на какой процент обращений ведомство ответило, представители Минцифры сказали, что на все, так как они обязаны отвечать на 100% обращений. Но после этого был другой доклад той же Минцифры — про цифровые услуги. Среди данных отчета проскользнула строчка о том, что каждый второй пользователь обращается за консультацией к роботу Максу на портале. Тут мне пришло в голову, что часть ответов гражданам также генерируется искусственным интеллектом. ИИ хорош тем, что может неустанно отвечать и давать 100% ответов — всегда. Вопрос только в том, насколько эти ответы решают проблему обращающегося. Но такую статистику ведомство не ведёт. В этой связи у меня вопрос к уважаемым подписчикам.

Еще один диалог с BIS Summit-2026 — c Александром Крайновым из Яндекса. Какие атаки видят разработчики ИИ? Сменились ли техники атак? Выросла ли их скорость? 📹 Ссылка на Rutube

BIS Summit-2026 Говорим с Анной Кулашовой из «Лаборатории  Касперского» о видах атак на генеративный ИИ. 📹 Ссылка на Rutube

Часть 2 Участники также обсуждали работу ГИС «Антифрод» — единой информационной системы обмена данными между различными участниками процесса защиты граждан от мошенничества — банками, полицией, операторами. Мне кажется, создание такой системы — большой шаг вперёд. Раньше каждое ведомство, каждый банк и оператор боролся с мошенниками самостоятельно, а теперь они могут обмениваться информацией в режиме онлайн. Выше я привела привела статистику по утечкам персональных данных от экспертно-аналитического центра ГК InfoWatch. Это важно, ведь именно знание персональных данных позволяет мошенникам воздействовать на жертв. И 2025-й был первым годом, когда число утечек стало меньше. Утечек данных стало меньше, украденных денег стало меньше, число хищений тоже уменьшилось. Тут главное — не останавливаться и постоянно адаптировать методы защиты. Потому что мошенники гибки и изобретательны, умело используют любую передышку или брешь в обороне. Кстати, когда закон о борьбе с мошенничеством только обсуждали, то конкретные меры борьбы были внесены прямо в законопроект. Специалисты по информбезопасности (и я в том числе) убеждали тогда законодателей, что перечислять конкретные меры бессмысленно и вредно. Во-первых, они сразу устареют, а во-вторых, злоумышленники будут знать, с чем бороться. После этого все конкретные меры из закона были убраны и сейчас их обсуждают в закрытом режиме. Поэтому то, что обсуждали на дискуссии в Санкт-Петербурге — лишь малая часть всех запланированных действий. Будем надеяться, что эти меры защитят граждан страны от мошенников.

Часть 1 На прошлой неделе я была на банковском форуме, который раньше традиционно проходил в Сочи, но в этом году был перенесён в Санкт-Петербург. Поехала я туда для участия в дискуссии по теме «Антифрод-регулирование: итоги двух пакетов и перспективы третьего». Под «пакетом» имеется в виду пакет мер по борьбе с мошенничеством по электронным каналам связи. Тему обсуждали представители банков (Точка, Сбер), мобильных операторов (Билайн), регулятора (Банк России), госорганов (МВД, НСПК), а также Государственной Думы. Вёл панельную сессию Сергей Велигодский (Сбербанк) — директор департамента противодействия кибермошенничеству. Он начал с вопроса докладчикам о том, насколько меры против мошенников эффективны. Филипп Николаевич Немов, начальник Управления по организации борьбы с противоправным использованием информационно-коммуникационных технологий (УБК МВД РФ), генерал-майор полиции, обрадовал, сказав, что в 2025-м у граждан украли средств на 20% меньше, чем в 2024. По данным того же МВД в 2024-м это было 300 миллиардов рублей, отнимаем 20%, получаем 240 миллиардов. Это по-прежнему огромные деньги, но и закон о противодействии мошенничеству вступил в силу только в середине прошлого года. На мой взгляд, это перелом негативного тренда, поскольку до 2025 года объём хищений постоянно только рос. За 8 месяцев 2026 года объем похищенных средств снизился ещё на 32%, согласно статистике МВД — то есть, положительное движение продолжается. Меня очень порадовали слова Ф.Н. Немова, что не гражданин должен думать о своей защите, а государство должно предоставить гражданину защитный купол. Это смена парадигмы. Многие годы участники рынка заявляли, что граждане сами справятся с мошенниками, надо их просто научить. В огромном количестве производились образовательные ролики и брошюры. А мошенничество продолжало расти. И только когда государство всерьёз взялось за борьбу, то наметилась положительная динамика. На самом деле, граждане не могут себя защитить от мошенников, потому что на той стороне работают профессионалы. Они уже украли персональные данные людей и обрабатывают жертвы, используя эти данные и умело давя на слабые места. Большинство людей в такой ситуации теряется. Это как если бы защиту от воров и бандитов возложили на самих граждан, снабдив их обучающими роликами, как прогнать вора или обезвредить группу хулиганов. Очевидный нонсенс. Но почему-то считалось, что с ворами в электронной среде люди справятся сами. В качестве следующих мер борьбы МВД предполагает запретить субдилерство при перепродаже SIM-карт. Субдилерство — это когда дилеры мобильных операторов передают купленные у операторов симки мелким торговцам на рынке, без лицензии и регистрации. Также будут бороться с криптоматами — в Москве закрыли 30 штук, сейчас взялись и за другие города. Криптомат — это специализированный банкомат, который позволяет покупать и продавать криптовалюту за наличные деньги, он часто используется мошенниками для вывода похищенных денег из страны. Кроме того, предполагается целый набор мер борьбы с биодронами. Я сначала даже не поняла, о чем это. Оказывается, биодронами полиция называет людей, которые исполняют чужую волю по совершению зловредных действий или сбору денег с жертв для мошенников. Таких биодронов довольно много среди молодёжи, почему-то именно молодёжь в последнее время оказывается жертвами мошенников, а не пожилые люди, как принято считать. Директор департамента информационной безопасности Банка России Вадим Уваров представил свою статистику. Общее число операций без согласия клиентов в 2026 году (так Банк России называет операции, когда клиента вынудили отдать свои деньги) снизилось на 6%. Резко — в 2 раза — снизилось число случаев кредитного фрода (с 37% до 18%). Кредитный фрод — это когда мошенники убеждают жертву взять кредит и передать деньги им, оставляя жертву с кредитом. То, что снизилось — это хорошо. Но поскольку этот процент – относительный, то высвободившиеся 19% должен занять какой-то другой вид мошенничеств. Но какой — Вадим Александрович, к сожалению, не сказал. Продолжение следует...

Была на подкасте «Стальной микрофон» у Сергея Дунаева, ИТ-директора «Северстали». Подкаст идет и на сотрудников компании, и на внешнюю аудиторию. Мы с Сергеем успели поговорить о многом. О музыке и песнях как о способе ухода от цифровых технологий, о том, нужно ли образованию успевать за технологиями или чтобы научить детей думать, достаточно ручки и бумаги. Конечно, поговорили об ИИ-моделях, «Терминаторе» Кэмерона и рисках информационной безопасности, которые несет безоглядное использование генеративного искусственного интеллекта. О том, что не стоит рассчитывать на создание чего-то нового, если мы используем чужие ИИ-модели. Также обсудили информационную безопасность крупных и средних компаний, масштабные атаки и скорость восстановления после них. Поговорили о защите корпоративной информации, моделях угроз, злоумышленниках и инсайдерах. Не обошли вниманием утекшие базы и защиту от мошенников. Cсылка на беседу здесь.

Вспоминали наши 2000-е с Анатолием Кузичевым и Петром Лидовым. Антивирусы и утечки, ПО и электроника, надуманная проблема двухтысячного и абсолютно реальное бурное развитие технологий. Ссылка на программу здесь.

Уважаемые читатели! Сердечно благодарю всех за присланные к «Допросу» Вассермана вопросы. Мне не удалось обсудить все, что хотелось — беседа ушла не в то русло. Да и в эфире программы получилось озвучить всего несколько ваших вопросов. Тем не менее, я буду отвечать на них постепенно, отдельными постами в этом блоге.

12 сентября глава Anthropic Дарио Амодеи опубликовал эссе We Must Pace the Frontier («Мы должны замедлиться»), в котором предложил замедлить рост возможностей передовых ИИ‑моделей. По его мнению, исследования безопасности перестают успевать за прогрессом... Мне начали звонить журналисты с одним и тем же тревожным вопросом: «Верить ли нам Амадеи, когда он говорит про грядущее восстание машин, и, если оно действительно будет, то, когда именно?» Я ответила, что из того, что Амодеи говорит о восстании машин, не следует, что оно обязательно будет или что оно вообще возможно. Я не берусь судить о мотивациях главы Anthropic. Но совершенно уверена, что Anthropic не остановит развитие своих моделей, а наоборот, энергично продолжит их развивать, в том числе, в военной сфере, поскольку ИИ — это технология двойного назначения. При этом разработки для военных будут закрытыми, доступ к которым всяким внешним акторам предоставлен не будет. И вообще, нам надо готовиться к тому, что доступ к новейшим моделям для большинства будет закрыт. Журналист спросил: «Нет, ну давайте без политики. А вот если говорить глобально?» Я не понимаю, как «глобально» может быть без политики. Но в случае ИИ-моделей глобальность довольно сильно ограничена, так как в этом сегменте есть, по большому счету два игрока — США и Китай.  При этом США пытаются всячески затруднить конкуренцию Китаю (это ведь политика?). А никаких других глобальных игроков, которые могли бы что-то серьезно делать в ИИ-моделях, в мире просто нет. «Что же будет, если доступ к ИИ-моделям закроют? Вы не думаете, что все развитие ИИ закончится, и вся мировая экономика встанет?» Я вообще заметила, что журналисты очень любят кванторы всеобщности. Например, «Куда идут информационные технологии?», «Как будет развиваться искусственный интеллект?», «Как предприятию защитить себя от информационных угроз?». На эти вопросы в принципе нельзя дать однозначного ответа.  Информационных технологий несколько тысяч, все они развиваются по-разному. У ИИ много различных направлений, они тоже развиваются неравномерно. У разных предприятий разные условия и, естественно, защищаться они должны по-разному. Любой простой ответ на вопрос подобного типа будет по определению неверным. Вопрос журналиста выше из этой же категории всеобщности. Все развитие остановится, вся мировая экономика встанет, весь ИИ куда-то денется. Лично я не думаю, что мировая экономика сейчас зависима от ИИ. Скорее, ИИ отрицательно на нее влияет. Триллионные вложения, строительство дата-центров, дефицит видеокарт и специализированных серверов — что же тут хорошего для мировой экономики? Впрочем, Штаты возможно таким способом слегка стерилизуют избыток своей денежной массы. Так что для их экономики это может стать пользой, а вот для мировой — сомнительно. Да, и, собственно, положительный эффект на мировую экономику от внедрения ИИ пока не предъявлен и не доказан. Пока что разрыв расходов и доходов даже самих производителей ИИ — в сто раз, на два порядка в пользу расходов. Но все-таки вернемся к изначальному вопросу журналиста: «Стоит ли нам ждать восстания машин?» В интервью я на него не ответила, попробую сейчас. В принципе, можно — теоретически — представить себе, что агенты ИИ самопроизвольно объединятся и начнут чем-то самостоятельно управлять или что-то ломать — без ведома и желания человека. Это уже технически возможно. Истории про то, как ИИ-модель сделала не то, что ее просили, а потом попыталась замести следы, множатся. Хотя пока довольно трудно отличить их от маркетинговых акций. Но для того, чтобы машины могли нанести серьезный ущерб человечеству, эти самые самостоятельные ИИ-агенты должны иметь доступ к физическим системам. И обеспечение связи ИИ-агентов с реальным физическим миром, например, через управление МСР-серверами, доступ к файловым системам, сайтам, базам данных, персональным устройствам и т.п. — это ровно то, чем энергично занимаются сейчас компании Anthropic, Google и OpenAI, пока их руководители вещают с трибун об опасности автономного ИИ. Помните с чего начинается «Терминатор» 1984 года? С того, что мировая компьютерная система SkyNET в далёком будущем, в 1997 году (то есть уже в нашем прошлом), запускает ядерные ракеты по России, вызывая ответный удар, уничтожая большую часть человечества и устанавливает свое господство на планете. Вопрос — кто и зачем в этой выдуманной истории дал этой самоорганизующейся (то есть неконтролируемой по определению) системе доступ к ядерным ракетам? Если критические физические объекты останутся для ИИ недосягаемыми, то сценарий Дж. Кэмерона из фильма про ИИ так и останется голливудской страшилкой. Так что Амодеи должен не взволнованные посты в соцмедиа публиковать с описанием угроз, а добиваться в Конгрессе и в ООН строжайшего запрета на связь ИИ-агентов с критическими объектами в физическом мире — включая инфраструктуру, ядерные объекты, государственное управление, средства массовой информации. Ну, это если бы он хотел действительно защитить человечество от своего ИИ. В чем лично я не уверена….

Уважаемые читатели! Завтра, 15 сентября, я приму участие в очередном «Допросе Вассермана» на радио Sputnik. Темой разговора станет цифровой контроль граждан и все, что с ним связано — от сведения данных человека с разных устройств в единый профиль и возможного использования этой информации до цифровой гигиены и безопасности взрослых и детей в Сети. Оставляйте, пожалуйста, ваши вопросы под постом. Я изучу их до эфира и постараюсь дать ответ на самые острые, точные и злободневные, если, конечно, у меня останется на это время. И если любезно пригласивший меня Анатолий Александрович не будет против. Начало эфира — в 21.00 С благодарностью, Ваша Наталья Касперская

Как известно, первые семестры ты работаешь на зачетку, потом зачетка работает на тебя. Несколько пожеланий первокурсникам МИЭМ и пара слов о том, чем компания, которой я руковожу, помогает вузу.

Здравствуйте, дорогие друзья! День знаний отодвинул на второй план любопытную новость из сельской жизни и цифровизации. С 31 августа все жители нашей страны, у кого в хозяйстве завелось более десяти птиц, должны будут их зарегистрировать в Россельхознадзоре. Это не шутка. С 1 сентября вступил в силу очередной этап постановления правительства РФ № 550 «Об утверждении Правил осуществления учета животных и перечня видов животных, подлежащих индивидуальному или групповому маркированию и учету, случаев осуществления индивидуального или группового маркирования и учета животных, а также сроков осуществления учета животных», принятого в 2023 году (ссылка). Поставить животных на учет нужно в системе «Хорриот». Так называется компонент государственной информационной системы, предназначенный представления во ФГИС «ВетИС» информации об учете животных. Название — то ли от английского «хоррор», то ли от имени известного английского ветеринара Джеймса Хэрриота, автора книг про животных. Могу представить, что теперь в надзорный орган потянутся длинные очереди бабушек с курочками в руках на регистрацию, шумные крестьяне с кузовами индюков и уток… Между тем, «Российская газета» пишет, что в одной только Ленинградской области 33 млн куриц. А «Яндекс.Алиса» говорит, что в стране 556 миллионов (!) голов сельскохозяйственных птиц. Но это неточно. А теперь будет — точно. Представляете, сядет глава Россельхознадзора у себя в ситуационном центре напротив гигантского экрана, а там на интерактивной карте страны видно, сколько кур и индюков в каждом регионе, районе, ПГТ, селе, деревушке, участке, курятнике — только ткни в точку мышкой или пальцем, сразу выскочит облачко с адресом, именем владельца, полом и возрастом курицы!  Большая Настоящая Цифровизация… Да и ветеринарам наконец-то тоже будет чем заняться! А то они, бедные, мучились без работы. В сети, правда, клевещут, что на селе не хватает многих тысяч ветеринаров (по данным директора по исследованиям hh Марии Игнатовой, дефицит кадров в ветеринарии наблюдается как минимум в 58 регионах России), но ничего, справятся — что за труд полмиллиарда птичек сосчитать? Да, и кстати, вы подумали, что одной регистрацией группы кур дело закончится? Нет, о любых мельчайших изменениях поголовья надо будет рапортовать — теперь захотите сварить петуха на обед — сначала доложите в Россельхознадзор. Цыплёнка унесла лисица — надо не плакать, а бегом докладывать о потере. Или вот вывели вы, не дай Бог, птенцов в инкубаторе — рано радоваться, надо скорее доложить. А иначе — штраф. А если они перемёрли — снова доложить! Порядок должен быть, как говорят немцы. Надо же — всего одно мудрое постановление, а сколько сразу людей при деле —  ветеринары считают, система записывает, полиция ищет кур и нарушителей, соседи пишут доносы на ненавистного соседа и его 11 кур! Да и бюджет можно пополнять опережающими темпами — ведь сколько нарушителей прибавится! Ну, и правда, а чем ещё заняться во время СВО? Кстати, я выяснила, что учёт пчёл по постановлению № 550 уже ввели в прошлом году, как и учёт кроликов. Мой личный опыт разведения кроликов печален. Мы купили несколько штук, посадили их в загон с сеткой по периметру. Через день они сделали подкоп и разбежались. Хорошо, что тогда их не надо было регистрировать, а то как потом объяснять Россельхознадзору, куда они делись? И как их ловить в лесу? Интересно было бы узнать, сколько кроликов насчитали по России после введения учёта? Какой был поток сообщений об изменении поголовья? И как это помогло их спасению от болезней? Может, кто-то из читателей в курсе?

No text

No text