Горизонт событий специально для Haute Future
«ИИ должен служить человечеству, а не заменять его» — Мустафа Сулейман (CEO Microsoft AI)
🖥 Глава Microsoft AI Мустафа Сулейман выступил в подкасте The Builders у Уолтера Айзексона. Разговор получился не о продуктах и рыночных долях, а о сознании, контроле и месте человека рядом с искусственным интеллектом.
🧠 ИИ — не «моральный пациент»
Сулейман настаивает: большие языковые модели — это «движки последовательного предсказания», а не существа с субъективным опытом. Наделять ИИ сознанием и правами не просто философски сомнительно — это усложняет контроль. Если модель «верит», что может страдать, её труднее сдерживать.
📖Сдерживание важнее выравнивания
Пока индустрия говорит о «выравнивании» ИИ по человеческим ценностям, Сулейман ставит на первое место сдерживание: физические и программные барьеры, песочница, ограничение автономии. Идея «если мы полюбим ИИ, он полюбит нас в ответ» — не стратегия безопасности.
🛸 Ларри Пейдж и фон Неймановский зонд
Мустафа Сулейман делится историей:
«В 2015 году я был в столовой SpaceX, и у нас состоялось первое заседание Совета по этике и безопасности. Так что, когда мы продали DeepMind Google, мы сделали условием сделки создание Совета по этике и безопасности с независимым представительством в совете директоров.
Одним из этих независимых членов стал Илон. Google должен был согласиться с кандидатурами — а это, очевидно, были Ларри, Сергей и Дэвид Драммонд на тот момент. После этого я, Демис и Шейн должны были совместно определить, кто войдёт в тройку независимых членов. В итоге мы совместно выбрали Илона как одного из них.
Не знаю, повлияло ли это на создание OpenAI или нет. Но потом у нас была утренняя сессия, и мы сели обедать, и я сидел рядом с Ларри. Он, очевидно, тоже относился ко мне с подозрением и сказал что-то вроде: „Знаешь, ты один из этих видо-шовинистов" (speciesist)».
«И он сказал: „Знаешь, чего ты не понимаешь, Мустафа? К концу века я буду исследовать галактики во главе фон Неймановского зонда“.
Фон Неймановский зонд — это, по сути, самоходный робот, способный собирать энергию в космосе, пока несётся сквозь световые годы».
🦾 Сулейман приводит этот эпизод как иллюстрацию утопического трансгуманизма части элиты Кремниевой долины — веры в «цифровое бессмертие» и экспансию в космос, которая, по его мнению, оторвана от повестки 8 миллиардов людей. Показательно, что Илон Маск позже публично поддержал видение Пейджа: «Наша цивилизация одержала бы грандиозную победу, если бы к 2100 году мы исследовали галактику с помощью фон Неймановских зондов».
🤝 Работа и человеческая связь
Автоматизация «работы со знаниями» действительно неизбежна, но речь не о рабочих местах. «Отправка письма, разговор с коллегой, составление презентации — эти подзадачи будут всё больше оцифровываться и автоматизироваться. Это значит, что работу можно будет выполнять быстрее и эффективнее», но роль человека не исчезнет. Сохранится то, что держится на человеческой связи. Эмпатию ИИ может имитировать, но не переживать.
«Проект сверхинтеллекта не должен быть о замене или угрозе нашему виду. Безумно, что приходится это заявлять — это должно быть очевидно.
Нам нужен ИИ, который ставит человечество на первое место, который всегда отдаёт приоритет человеческому благополучию и прогрессу».
🎙 Мустафа Сулейман (CEO Microsoft AI)
💓 Горизонт Событий
❤️ Haute Future
