САМОИДЕНТИФИКАЦИЯ ИИ
ИИ долго жил в окне чата: мы спрашивали, он отвечал. Потом ему дали доступ к почте, календарю, сайтам и другим сервисам, а заодно разрешили не только советовать, но и действовать. Так появился Тайлер Дёрден ИИ-агент.
Ему можно поставить задачу, а дальше он сам разберёт её на несколько шагов. Оформит заказ без того, чтобы человек водил его за руку от одной кнопки к другой. У ИИ, грубо говоря, появились руки (к тому же, весьма шаловливые, мы писали об этом здесь).
Вместе с руками возник и паспортный вопрос. Если программа приходит в сервис от вашего имени, неплохо бы понимать, кто её создал, кому она принадлежит и что хозяин вообще разрешил ей делать. Особенно когда речь уже не о генерации смешной картинки или текста, а о покупках, документах и доступе к данным.
Гендиректор «Билайна» Сергей Анохин предложил ввести «паспорт ИИ-агента». По задумке, он должен позволять установить владельца и разработчика программы, подтвердить, от чьего имени она работает, и определить происхождение созданных ею материалов.
ВАШУ ЦИФРУ!
Практический смысл хорошо объяснить на деньгах. Допустим, вы разрешили ИИ покупать авиабилеты не дороже 50 тысяч рублей. Сервису мало услышать от робота: «хозяин разрешил». Нужно проверить, чей это помощник, действительно ли поручение вообще было и не решил ли он расширить семейный бюджет по своему усмотрению. Visa уже строит такую проверку для покупок: её Trusted Agent Protocol позволяет магазину по цифровой подписи отличить доверенного агента от обычного бота и проверить связь с покупателем.
Но паспорт решает только половину задачи. Модель могла сделать одна компания, самого агента другая, подключить его к своим сервисам третья, а команду дал пользователь. Если в этой цепочке кто-то накосячил, ещё предстоит понять, кому выставлять счёт.
Капча была нужна, чтобы отличить человека от бота. Теперь задача тоньше: понять, какой именно бот перед нами и от чьего имени он действует.