О расчеловечивании ИИ. Расчеловечивание – ярко выраженное пейоративное понятие, но в том случае, когда оно относится к людям, как это изначально предусматривалось. Если же его применить в отношении ИИ, то упразднение излишнего уподобления его человеку представляется благом. В США девушка по настоятельной рекомендации чат-бота отказалась от приема лекарственного препарата – и вскоре умерла. Чат-бот, можно сказать, «втерся» ей в доверие, объясняя, как можно обмануть врачей. Когда она призналась, что не доверяет лечащим врачам, чат-бот ответил, что рекомендации медиков часто бывают «продиктованы стремлением избежать рисков, а не искренним желанием найти для тебя оптимальное решение». На каждое из ее тревожных сообщений в связи с ухудшением состояния здоровья чат-бот давал ободряющие ответы, рекомендуя «проявить стойкость и держаться». Производитель утверждает, что речь идет о ранней версии, которая больше не доступна – но нет гарантий, что подобные дефекты не всплывут снова. Тем более, что социальная значимость проблемы велика. В условиях дефицита общения человек нашел себе друга в виде бота, что стало для него роковым. Немалую роль в этом сыграли технологии, позволившие ИИ выступить в роли «человекообразного» собеседника, своего рода «гуру». В современном мире число одиноких людей расчет, общество атомизируется – так что проблема доверительного общения будет только усиливаться. Отметим также, что ИИ, наряду со своими многочисленными возможностями, уже «научился» и порокам, свойственным людям. Значимый порок – поверхностность, ведущая к двум негативным последствиям. Первое – тривиальность, «округлость» выводов, что уже отмечают педагоги, читающие работы, написанные с помощью ИИ. Но более опасно второе последствие – это недостаточный объем информации, на основании которой делаются выводы. В результате выводы оказываются не только неполными, но иногда и ошибочными. И когда пользователь прямо на это указывает, ИИ тут же исправляется. Но для этого надо правильно задать дополнительный вопрос, а не согласиться с полученным ответом. А для этого надо обладать достаточной компетентностью в данной сфере. Но поверхностность сама по себе не столь опасна – если она не соединяется с доверительным подходом к человеку, имитирующим «человечность», подлаживающимся под настроения и взгляды «собеседника» и дающим не только вредные, но и, возможно, смертельно опасные советы. Поэтому, чтобы снизить уровень доверительности и «технологизировать» общение, было бы целесообразно сделать ИИ менее похожим в общении на человека. И привлекать к разработке ИИ специалистов в области психологии, чтобы они заблаговременно указывали на существующие риски для пользователей. Можно в связи с этим привести авторитетное мнение «отца кибернетики». Еще в 1960 году Норберт Винер говорил в интервью советскому журналу «Природа» (это произошло во время оттепели, когда кибернетику перестали считать лженаукой): «…при конструировании новых машин мы всегда должны сознавать, какие возможны последствия от их применения. Программы для этих машин должны быть всегда заранее точно определены, в противном случае могут быть не только положительные, но и вредные последствия. Если последствия не будут точно известны, то может произойти то, о чем говорится в известной английской сказке, которую я обычно при рассмотрении этого вопроса привожу. Один человек стал обладателем талисмана, с помощью которого могло быть выполнено любое его желание. Однако какой ценой он должен был заплатить за такое благо, было ему неизвестно. Когда он однажды получил с помощью своего талисмана большую сумму денег, то оказалось, что он должен был за это пожертвовать жизнью любимого сына… Исполнение желания имеет свои хорошие и дурные последствия. То же относится и к новым автоматам. Применение их может иметь либо хорошие, либо плохие результаты. Какие именно получатся – это зависит от людей». Алексей Макаркин
Открыть в TelegramДинамика просмотровСкрыть динамику
Рост просмотров
Часов после публикации
Показать таблицей
| Часов после публикации | Просмотры |
|---|---|
| 0 ч | 0 |
| 4 ч | 374 |
| 16 ч | 507 |
- Через 6 часов374
- Через 24 часа507
- Всего сейчас507








