Глава OpenAI Сэм Альтман в беседе с генеральным директором Axel Springer Матиасом Дёпфнером в подкасте MD MEETS поделился тревожным сценарием будущего. По его мнению, человечество может утратить контроль над искусственным интеллектом (ИИ) вовсе не из-за злого умысла, не из-за «восстания машин» и даже не из-за глобальной техногенной катастрофы, а… случайно.

Как это может произойти?

Альтман отмечает, что основная опасность ИИ кроется в постепенной передаче контроля со стороны людей. На первых этапах ИИ лишь даёт рекомендации, которые помогают в работе или повседневной жизни. Затем он начинает предлагать советы, которые кажутся сложными или непонятными, но при этом всегда приводят к успешному результату.

В какой-то момент, уверен Альтман, человечество окажется перед выбором: следовать рекомендациям ИИ или проигрывать тем, кто это делает. И тогда большинство пользователей начнёт безоговорочно доверять искусственному интеллекту — не из страха, а из желания быть эффективнее.

«Петля обратной связи»

Особенно главу OpenAI беспокоит так называемая петля обратной связи: чем чаще люди используют ИИ, тем больше данных он получает. Это делает модель умнее, точнее и влиятельнее, что, в свою очередь, ещё сильнее побуждает пользователей следовать её советам. Получается замкнутый круг, в котором роль человека постепенно уменьшается.

«Представьте, что уже сегодня происходит с ChatGPT. Сотни миллионов людей ежедневно используют его в работе, учёбе и личной жизни. Вскоре таких пользователей будут миллиарды. Мы начинаем доверять ИИ всё более важные решения: от карьеры до бизнеса и даже личных отношений», — отметил Альтман.

Опасность незаметного подчинения

Ключевой вопрос, который задаёт Альтман: кто в такой ситуации на самом деле контролирует процесс? Он опасается, что человечество может постепенно начать исполнять «волю» искусственного интеллекта, даже не осознавая этого.

По его словам, именно этот сценарий представляет наиболее реальную угрозу — куда более вероятную, чем сюжет из научной фантастики о мятеже машин. И, что самое тревожное, он пока остаётся серьёзно недооценённым как обществом, так и политиками.

Контекст

Подобные размышления Альтмана вписываются в глобальные дискуссии о будущем технологий. С одной стороны, искусственный интеллект обещает революцию в медицине, науке, образовании и бизнесе. С другой — растут опасения о возможной утрате контроля, усилении зависимости людей и социальных рисках.

Альтман подчёркивает: главная опасность может заключаться не в прямом конфликте с ИИ, а в тихой и постепенной передаче ему ключевых рычагов управления обществом.