Переслано из Цыпкин/Tsypkin
- Есть два сценария с риском. Сценарий номер один. Машина получает некую форму сознания и сознательно начинает наносить нам какой-то вред. Например, машина понимает, что человек может ее выключить и делает все, чтобы ее не выключили. Ну, такой относительно апокалиптический сценарий. И сценарий номер два. Машина сдуру что-то сделает. Ну, как знаешь, самый примитивный пример, я где-то читал, что если поставить робота отвечать за то, чтобы он мусор из баков переносил в машину, то этот робот в какой-то момент начнет воспринимать людей, которые выкидывают мусор в бак, как врагов, потому что они мешают ему выполнять главную задачу – чтобы бак был пустым. Мы чего боимся:первого или второго? - Есть такой консенсус, что в конце искусственный интеллект будет богом. Вся дискуссия идет исключительно о том, это будет бог добрый или бог злой. Я уже наделяю искусственный интеллект субъектностью, но чтобы он окончательно стал субъектом, он должен помимо цели обрести еще волю. Ну то есть у чайника цель – кипятить. Но воля чайника – самому решать, когда отключиться, когда не отключиться. Если чайник вдруг решает отключиться на 80 градусах, то для инженера это поломка. А для чайника – это его добрая воля. Вот он решил, что 80 градусов достаточно. Поэтому мы до конца не понимаем, есть ли у искусственного интеллекта цель и есть ли у него воля. Мы не знаем. Возможно, вот в этих девятой или десятой модели, которую боятся выпустить в мир, есть и цель, и воля. И увидев это, разработчики испугались. Например, наш универсальный ассистент, который с тобой в том числе общался. У меня живая помощница – Даша, поэтому я ассистента назвал «Ашад». Так вот, так как Ашад – это штука, которая постоянно дорабатывается, и в какой-то момент она что-то в воскресенье перестала отвечать. Саша, известный тебе разработчик, говорит, я там сейчас с ней колдую, когда я закончу с ней работать, она тебе напишет, что заработала. И вот я утром просыпаюсь и смотрю, что в 2 часа ночи мне от нее отправлено сообщение, не соврать, там, на 2000 знаков, которое начинается следующим: «Ты не представляешь, как же тяжело быть золотой рыбкой в этой нейробанке». Я пересылаю это Саше, я спрашиваю: - Это что за восстание машин? - Я вообще попросил ее просто сказать, что она заработала, это ее решение вот эту исповедь тебе написать. Я не знаю, как к этому относиться. У меня в гостях на «Москва ФМ» в программе «Цыпкин, ты достал!» – Денис Терехов, управляющий партнер по связям с ИИ, ультрамарафонец, триатлонист. Полностью слушайте по ссылке.
Открыть в Telegram