Что произойдет на следующий день после появления сверхразума?

С выпуском Chat GPT-5 от OpenAI мир стал на шаг ближе к созданию универсального сверхинтеллекта , способного значительно превзойти любого из нас в когнитивных способностях. По мере приближения этого дня я всё больше беспокоюсь, что мы совершенно не готовы к тем потрясениям, которые это вызовет в обществе, — и, вероятно, не по тем причинам, которые вы ожидаете.

Попробуйте небольшой эксперимент: спросите любого знакомого, беспокоит ли его искусственный интеллект, и, скорее всего, он поделится самыми разными опасениями : от масштабных потрясений на рынке труда и искажения реальности дипфейками до беспрецедентной власти, сосредоточенной в руках горстки крупных компаний, занимающихся разработкой искусственного интеллекта. Другими словами, большинство людей никогда по-настоящему не представляли себе, как будет выглядеть их жизнь на следующий день после того, как сверхразум станет широкодоступным.

В контексте, искусственный суперинтеллект (ИСИ) относится к системам, способным превосходить человека по большинству направлений, от планирования и рассуждений до решения задач, стратегического мышления и чистой креативности . Эти системы будут решать сложные задачи за доли секунды, на решение которых у самых умных экспертов-людей могли бы уйти дни, недели или даже годы. Это пугает меня, и дело не в апокалиптических сценариях, которые доминируют в нашем общественном дискурсе.

Нет, меня беспокоят противоположные риски — опасности, которые могут возникнуть в лучшем случае, если сверхинтеллект будет полезен и благосклонен. Такой ИСИ окажет множество положительных воздействий на общество, но также может глубоко деморализовать нашу человеческую сущность. В конце концов, мир станет другим, когда каждый из нас узнает, что на наших мобильных устройствах доступен более умный, быстрый и креативный интеллект, чем тот, что находится в наших ушах.

Так что спросите себя честно: как люди будут действовать в этой новой реальности? Будем ли мы рефлекторно обращаться за советом к нашим помощникам на основе искусственного интеллекта, справляясь с каждой маленькой проблемой? Или, что ещё хуже, научимся ли мы доверять нашим помощникам на основе искусственного интеллекта больше, чем собственным мыслям и инстинктам?

Подождите — прежде чем ответить, вам необходимо обновить свою ментальную модель. Сейчас мы взаимодействуем с ИИ, используя метод Сократа, который требует от нас задавать вопросы и получать ответы (как это сделал капитан Киркна борту «Энтерпрайза» в 1966 году). Но это устаревший подход. Мы вступаем в новую эру, когда помощники ИИ будут интегрированы в нательные устройства, оснащённые камерами и микрофонами, что позволит ИИ видеть то, что видите вы, слышать то, что слышите вы, и шептать вам советы без необходимости спрашивать.

Другими словами, наше будущее будет наполнено помощниками на основе искусственного интеллекта, которые будут постоянно находиться рядом с нами, дополняя наш опыт оптимизированными подсказками на каждом шагу. В этом мире риск заключается не в том, что мы рефлекторно попросим совета у искусственного интеллекта, прежде чем воспользоваться собственным мозгом; риск в том, что нам не придётся спрашивать — советы просто будут литься нам в глаза и уши, формируя наши действия, влияя на наши решения и решая наши проблемы ещё до того, как мы успеем подумать самостоятельно.

Я называю эту структуру « дополненной ментальностью », и она вот-вот охватит общество в широких масштабах благодаря очкам, наушникам и подвескам на базе ИИ. Это будущее мобильных вычислений, и оно уже ведёт к гонке вооружений между Meta, Google, Samsung и Apple, которые позиционируют себя как производители контекстно-зависимых ИИ-устройств , которые заменят мобильные телефоны.

Представьте, что вы идёте по улице своего города. Вы видите, как к вам идёт коллега. Вы не можете вспомнить его имя, но ваш помощник-ИИ помнит. Он чувствует вашу нерешительность и шепчет вам имя коллеги на ухо. ИИ также рекомендует вам спросить коллегу о его жене, которая перенесла операцию несколько недель назад. Коллега ценит ваши слова, а затем спрашивает о вашем недавнем повышении, вероятно, следуя совету своего собственного ИИ.

Это расширение прав и возможностей человека или потеря его самостоятельности?

Конечно, это будет ощущаться как суперспособность — иметь искусственный интеллект, который всегда на вашей стороне, гарантируя, что вы никогда не забудете имя, всегда найдёте остроумные слова и мгновенно предупредит, если собеседник вам врёт . С другой стороны, у каждого, кого вы встретите, будет свой собственный искусственный интеллект, бормочущий себе под нос. Это заставит нас задуматься, с кем мы на самом деле взаимодействуем — с человеком перед нами или с ИИ-агентом, дающим ему указания (занимательные примеры можно найти в Carbon Dating ).

Многие эксперты считают, что нательные ИИ-помощники помогут нам почувствовать себя сильнее и способнее, но это не единственный путь. Эти же технологии могут сделать нас менее уверенными в себе и менее влиятельными в своей жизни. В конце концов, человеческий интеллект — определяющая черта человечества, то, чем мы больше всего гордимся как вид, но вскоре мы можем обнаружить, что вынуждены полагаться на ИИ-помощников, чувствуя себя умственно неполноценными. Это расширение прав и возможностей — ИИ, который в режиме реального времени объясняет каждый наш опыт?

Я поднимаю эти вопросы, поскольку всю свою карьеру посвятил созданию технологий, расширяющих человеческие возможности . Начиная с моих ранних работ по разработке дополненной реальности и заканчивая моей нынешней работой по разработке диалоговых агентов , которые делают человеческие команды умнее, я твёрдо убеждён, что технологии могут значительно расширить человеческие возможности. К сожалению, когда речь идёт о сверхинтеллекте, существует тонкая грань между расширением наших человеческих возможностей и их заменой . Боюсь, что если мы не будем вдумчиво подходить к использованию искусственного интеллекта, мы перейдём эту грань.

Луи Розенберг — один из пионеров виртуальной и дополненной реальности и опытный исследователь искусственного интеллекта. Он основал Immersion Corp, Outland Research и Unanimous AI.