Россия и США разрешили военному ИИ убивать самому, без проверки человеком

Олег Царёв, @olegtsarov

Открыть в Telegram
#47876Фото

Россия и США разрешили военному ИИ убивать самому, без проверки человеком ⠀ По данным The Washington Post, это случилось в европейском отделении ООН в Женеве. С 31 августа по 4 сентября там заседала группа экспертов ООН — они дописывали черновик будущего договора об автономном оружии, системах, которые сами находят цель и атакуют без участия человека. Над этими правилами работали больше десяти лет. Главный вопрос: можно ли доверить машине решение, убивать человека или нет. Больше 70 стран были готовы начать переговоры о договоре: одни такие системы запретить совсем, другие разрешить только под контролем человека. В последний день делегации США и России примерно 15 часов переписывали текст. У каждой было около десяти юристов, почти вдвое больше, чем у остальных стран. Камеры ООН отключили, общественников попросили выйти из зала. Остальные согласились, потому что решения там принимают консенсусом: либо урезанный текст, либо никакого документа. ⠀ В итоге из проекта исчезло требование, чтобы человек до удара проверял цель, выбранную ИИ. Пишут, что ещё убрали нормы о предсказуемости, надёжности, объяснимости и отслеживаемости таких систем и отсылки к этике. ⠀ Восемьдесят лет назад фантаст Айзек Азимов сформулировал три закона робототехники, они были логичны и всеми воспринимались как догма: 1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред. 2. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону. 3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам. В Женеве главный закон робототехники отменили. Роботу официально разрешили убивать людей самому. ⠀ Хорошо, что Россия и США договариваются и действуют вместе. Мы давно видим это по ООН: Америка больше не голосует за антироссийские резолюции. И хорошо, что они в принципе договариваются хоть о каких-то ограничениях для военного ИИ — нынешняя версия договора, как пишут, многое разрешила, но наверняка что-то да запретит. Любая договорённость лучше, чем её отсутствие, когда каждый делает что хочет. ⠀ А что человека из цепочки уберут — у меня, к сожалению, сомнений не было. Когда стоит вопрос о разработке более эффективного оружия, в гуманизм не играют. ⠀ Любое открытие человек приспосабливал для того, чтобы убивать себе подобных. ИИ — оружие не менее смертоносное, чем ядерное, а может, и более. Ядерное оружие пытались запретить с первых лет его существования, и все попытки были обречены. Так же будут обречены и попытки запретить искусственный интеллект на войне. ⠀ ИИ находит и убивает быстрее и точнее, чем люди убивают людей. Простой пример: в воздушном бою человек — помеха. Пилот слишком медленно нажмёт на кнопку, и если против него система без человека, это будет стоить ему жизни. Машина уже получила право убивать сама, и это сейчас применяется на фронте. Дальше вопрос только в том, кто первым научится делать это лучше других. Если это оружие всё равно будет, надо постараться, чтобы у нас оно было лучше, чем у остальных. В страшное время мы живём. Олег Царёв. Telegram и Max.

Открыть в Telegram
Просмотры5 085−90%к среднему
Пересылки94
Реакции152
Комментарии16

Ещё посты канала Олег Царёв

  1. 01

    Суд присяжных хотят оставить без присяжных Верховный суд предлагает объединить присяжных с профессиональным судьёй в одну коллегию, сократить их число до четырёх (с 6 или 8) и разрешить судье находиться с присяжными в совещательной комнате и давать разъяснения. В ВС «обещают, что мнение присяжных не будет зависеть от судьи, который сидит с ними за одним столом и голосует». Верится в это с трудом. Одной из причин реформы в ВС назвали высокий процент отмены приговоров, вынесенных с участием присяжных. «Особой проблемой» зампред ВС Тимошин назвал отмены оправдательных приговоров. По его данным, в 2022 году вышестоящие суды отменили 65% оправданий присяжных, в 2025-м — уже 81%. И ВС считает виновных в этом присяжных. Что происходит сейчас. Оправдание обвиняемого присяжными не устраивает прокуроров: система выстроена так, что оправдательный приговор приравнен к плохой работе обвинения — мол, не нашли достаточно оснований для обвинения, не доработали. Но отменить вердикт просто из-за несогласия с ним апелляция не вправе. И тогда находят формальные причины — некие процессуальные нарушения. Например, в декабре ВС отменил оправдание, потому что подсудимый и защитник, по мнению суда, пытались дискредитировать следствие. Выходит, что оправдания обжалуют прокуроры. Отменяют их вышестоящие суды. А «лечить» хотят присяжных. Так наш ВС ставит логику с ног на голову: будто нарушения — вина присяжных, и в совещательной комнате им нужен судья, чтобы вердикт был «стабильнее». Стоит за этим одно: присяжные слишком часто оправдывают. В 2024 году они оправдали каждого четвёртого, в первом полугодии 2025-го — уже 32%. А все суды страны в 2024-м вынесли 990 оправдательных приговоров на 512,8 тысячи осуждённых — меньше 0,2%. И это при том, что присяжным подсудны лишь уголовные дела по узкому списку: убийство, смертельный тяжкий вред здоровью, похищение, бандитизм, крупный сбыт наркотиков, посягательство на судью или полицейского. Собрать коллегию часто трудно, часто приходят лишь 3–5% кандидатов — каждый десятый не доверяет суду. Профессиональный суд у нас при этом чаще оформляет то, что решили следствие и прокуратура. Присяжные — последняя надежда человека на оправдание. А теперь к ним хотят посадить судью. ⠀ Суд присяжных — не профессиональный суд. Он не обязательно справедлив и часто непредсказуем. Критики говорят именно об этом, но смысл его не в профессионализме. Присяжные решают не так, как хочется государству, а так, как дело видит общество. Это голос самих людей в суде. Поэтому совещание присяжных — священное право: как они пришли к вердикту, не вправе спросить даже государство. И объяснять свой вердикт они не обязаны. Такого суда должны бояться обе стороны — и защита, и обвинение. Никто не знает, как поведут себя эти люди, и это уравнивает их шансы. Российский суд присяжных годами урезали. А теперь хотят посадить в совещательную комнату судью, лишив суд главного — самостоятельности. Самостоятельности, которую защищает президент России. В Послании 2015 года Путин предлагал расширить подсудность присяжных и «обязательно сохранить полную автономию и самостоятельность присяжных при принятии решений». В 2020-м он поручил ВС рассмотреть расширение круга дел для присяжных. В 2024-м сказал: «Я тоже сторонник расширения применения института суда присяжных». В декабре 2025-го он заявил: «Нужно пресекать всяческое давление на присяжных и вырабатывать меры стимулирования». В марте 2026-го вышло поручение проработать меры: повысить мотивацию присяжных, усилить ответственность за вмешательство в их работу и сократить основания для отмены оправдательных вердиктов. В итоге выходит, что нынешние предложения Верховного суда прямо противоречат поручениям главы государства. Реформа суда присяжных отнимет у людей последнюю надежду быть оправданными. Олег Царёв. Telegram и Max.

    Фотоизменён
    Просмотры591 тыс.
    Пересылки2,58 тыс.
    Реакции359
    Комментарии234
  2. 02

    Китай за полгода отправил в Иран более 1300 партий электронных компонентов, которые используются при производстве дронов и систем наведения ракет, — пишет WSJ. Особенно резко поток вырос после того, как США заблокировали иранские порты. К концу апреля Mahan Air выполняла около 27 рейсов в неделю из Пекина, Шанхая и Гуанчжоу в Тегеран. В начале марта их было всего четыре. Однако для выживания иранского режима сейчас важнее не электроника, а экономика, которую Вашингтон медленно, но методично душит. Официальная инфляция в стране приближается к 90%. Нефть экспортировать почти некуда: Китай, главный покупатель иранского сырья, тоже выпал из этой схемы. Пекин пытается удержать Иран на плаву — ровно настолько, чтобы тот причинял США максимальный ущерб. Но не настолько, чтобы война превратилась в глобальный конфликт и разрушила мировую торговлю вместе с рынком энергоресурсов. Китаю такой сценарий невыгоден. Он остаётся крупнейшим в мире экспортёром товаров и одним из главных импортёров энергоносителей: мировой экономический обвал ударил бы по Пекину сильнее, чем по Вашингтону. Иран нужен Китаю как зомби-гладиатор: ослаблять главного соперника, но не рушить арену, на которой держится весь мировой порядок. Олег Царёв. Telegram и Max.

    Фото
    Просмотры559 тыс.
    Пересылки1,03 тыс.
    Реакции137
    Комментарии90
  3. 03
    Просмотры153 тыс.
    Пересылки545
    Реакции619
    Комментарии61
  4. 04

    Я уважаю своих читателей и читаю комментарии. Под постом о Такере Карлсоне их много, и я хочу пояснить свою позицию. Подавляющая часть читателей меня поняла. Но были и те, кто нет. Выбрал два комментария под постом: Мужчина: «Олег, твой пацифизм уже задолбал. Какие нахрен люди? Мы убиваем врага. Хохол — это враг, разумеется постим сотни видео ударов дрона, в том числе в рамках отчётов тем, кто помогает, в рамках моральной поддержки и психологических ударов по врагу». Женщина: «Просто Такер Карлсон — дитя мирного времени. Он не помнит выражения Людовика: «Труп врага хорошо пахнет». Мы для них — враги. И это всё объясняет. И во время любой войны по-другому просто не бывает». Начну с цитаты «Труп врага хорошо пахнет». Фраза не Людовика, а римского императора Вителлия: он сказал эти слова, проезжая через поле боя с гниющими телами. Через восемь месяцев толпа растерзала его самого и крюком сволокла в Тибр. Надеюсь, автор комментария этот запах не нюхала. Я слышал его. Ничего хорошего в нём нет. Теперь по сути. Война есть война, на войне убивают. Но между «убить, потому что надо» и «по своей воле смотреть, как человек умирает, и получать от этого удовольствие» — пропасть. Речь о людях, которые сами ищут такие кадры и с удовольствием их смотрят. Психиатры с XIX века определяют садизм как половое наслаждение от жестокости, в том числе той, которую человек не совершает сам, а только наблюдает. Ницше говорил: «Никакого праздника без жестокости». Публичные казни веками и были таким праздником. Диккенс в 1849 году написал, что страшнее самой казни было веселье тридцатитысячной толпы у виселицы. Читал в одном романе, что дамы ездили на казни как в театр и испытывали оргазм в тот момент, когда жертва умирала на плахе. Именно об этом удовольствии говорил Карлсон, когда назвал такое освещение войны порнографией и мастурбацией. В 2013 году психологи из Канады дали студентам выбор: убивать живых насекомых или мыть туалеты. Больше половины выбрали убивать. Чаще других это делали те, кто соглашался с фразой «Причинять людям боль — это возбуждает». Томограмма показывает, что при виде чужой боли у некоторых людей в мозге включаются центры удовольствия. Человек может испытывать разные чувства, в том числе жестокие. В каждом из нас сидит животное. Но одно дело — заметить в себе такое чувство и остановиться. Другое — намеренно искать видео чужой смерти, чтобы снова получить удовольствие. Олег Царёв. Telegram и Max.

    Превью ссылки
    Просмотры132 тыс.
    Пересылки569
    Реакции1
    Комментарии239
  5. 05
    Просмотры98,7 тыс.
    Пересылки134
    Реакции113
    Комментарии92

Все посты канала Олег Царёв