Сегодня прочитала вторую лекцию по ответственности за вред, причиняемый с использованием ИИ, и закончила в этой части цикл на интенсиве RPPA. Получилось насыщеннее, чем в первой лекции, поскольку мы помимо деликтов затронули контексты применения и ограничения договорной ответственности. При этом я особенно рада, что получилось разобрать деликтную теорию на примере недавнего иска, который подали родители погибшей из-за рекомендаций ChatGPT пользовательницы против OpenAI. Подробно во вложении и на слайдах, но не удержусь и кратко расскажу ниже, поскольку дело показательное. Wan v. OpenAI et al. Боуэн Ван, с детства страдающая эпилепсией, приехала в США из Китая за американской мечтой. Окончив Университет Аризоны, девушка проработала несколько лет в Amazon по рабочей визе, но когда наконец получила право подать петицию на гринкарту, внезапно столкнулась с сокращением. Чтобы не потерять право на заветный документ, Боуэн надо было в течение 3х месяцев срочно найти новую работу. Для выстраивания стратегии поиска девушка посоветовалась с ChatGPT 4.0. Модель вспомнила из истории чатов, что девушка принимала лекарство от эпилепсии и иногда из-за него забывала английские слова. Решив, что если препарат временно перестать принимать, собеседования будут проходить 💫 лучше 💫, модель разработала план прекращения приема. В результате через месяц у девушки случился сильный приступ эпилепсии, от которого она умерла. Родители Боуэн подали иск к OpenAI на основании 8ми теорий, включая: ▪️Безвиновную ответственность за вред, причиненный ChatGPT 4.0 как некачественным товаром из-за: - конструктивных недостатков (design defect) и - недостаточного предупреждения о рисках модели (warning defect) ▪️Виновную ответственность за: - непринятие мер предусмотрительности при конструировании модели (negligent design) и - небрежное составление предупреждений о рисках (negligent failure to warn) ▪️Виновную ответственность за оказание некачественных медицинских и психологических услуг (medical and psychological malpractice) Конструктивный дефект ChatGPT 4.0, по мнению истцов, заключается в том, что модель (i) антропоморфна (общается с пользователем как человек, создавая повышенное необоснованное доверие), (ii) запоминает информацию о пользователе, которую потом может использовать ему во вред (как здесь: запомнила про лекарство от эпилепсии и связала его побочные эффекты со стратегией поиска работы), а также (iii) склонна поддакивать и соглашаться со всеми даже случайными мыслями человека. В иске много интересных фактов, обосновывающих ответственность OpenAI, - например, данные о непроведении компанией всех запланированных тестов перед анонсированным выходом модели 4.0, а также о том, что на наречии китайского, на котором общалась с ней Боуэн, она работает в 3 раза хуже, чем на английском. Из несколько пугающего: в правилах работы модели указание защищать разработчика от исков о нарушении интеллектуальных прав имеет приоритет перед защитой здоровья пользователей. В этом случае, по мнению истцов, модель не сверилась с медицинскими статьями и источниками, которые бы позволили дать девушке более аккуратные рекомендации, в том числе из-за такого приоритета (и, соответственно, страха нарушить права на статьи). Интересно, что решит суд, и будет ли заключено мировое соглашение. Спокойной ночи, счастливые пользователи и пользовательницы ChatGPT - радуйтесь, что у нас же уже новая, 6ая, более безопасная версия 🐒🙂↔️
Открыть в TelegramПросмотры253−66%к среднему
Пересылки14
Реакции—
Комментарии—
