СОЗДАТЕЛИ СОВРЕМЕННОГО ИИ ПРЕДУПРЕЖДАЮТ ОБ УГРОЗАХ СВЕРХИНТЕЛЛЕКТА

Джеффри Хинтон, Йошуа Бенжио, Стюарт Рассел… «отцы» искусственного интеллекта сегодня призывают резко затормозить. Машина, превосходящая человека во всем, по их мнению, представляет экзистенциальную угрозу. Однако деньги продолжают течь рекой, а дата-центры — расти как грибы.

А что, если величайшие изобретатели современного ИИ вдруг начнут кричать: «Остановитесь, мы зашли слишком далеко»? Именно это сейчас и происходит. Более 700 ученых, предпринимателей, политиков и общественных деятелей подписали обращение, инициированное Институтом будущего жизни (Future of Life Institute): необходимо запретить разработку сверхинтеллекта — то есть искусственного интеллекта, способного превзойти человека почти во всех интеллектуальных задачах, — до тех пор, пока не будет научного консенсуса относительно его безопасности и реальной поддержки со стороны широкой общественности.

Среди подписантов — Джеффри Хинтон, лауреат Нобелевской премии по физике 2024 года и бывший руководитель направления ИИ в Google, Йошуа Бенжио, Стюарт Рассел (автор фундаментального учебника по ИИ), а также Стив Возняк, сооснователь Apple. «Создание подобной вещи недопустимо», — жестко заявил Макс Тегмарк, президент Института будущего жизни, в интервью AFP. Какие риски они видят? Потеря контроля, снятие ответственности с человека, угрозы национальной безопасности… и, в худшем сценарии, исчезновение человеческого вида.

Но… гонка не останавливается
Пока эти голоса звучат все громче, Сэм Альтман, глава OpenAI, повторяет, что сверхинтеллект может появиться уже в течение пяти лет. Microsoft, Google, Meta, Anthropic — все технологические гиганты продолжают инвестировать десятки миллиардов долларов в проекты колоссального масштаба. Огромные дата-центры вырастают в США, Китае и Европе. Проект Stargate (OpenAI + Nvidia + SoftBank) уже обещает к 2030 году энергопотребление, эквивалентное семи ядерным реакторам. В Китае план Dong Shu Xi Suan нацелен на достижение вычислительной мощности в 50 гигаватт в ближайшие годы. Никто, похоже, не готов убрать ногу с педали газа.

Тревожные сигналы, звучащие в пустоту?
Контраст поразителен. С одной стороны — пионеры, создавшие глубокие нейронные сети, которые говорят: «Стоп, мы не знаем, что именно создаем». С другой — компании, превратившие эти открытия в империи, заявляющие: «Быстрее, мощнее, больше».

Сам Макс Тегмарк признает в интервью, что можно поддерживать ИИ-инструменты, которые спасают жизни или помогают бороться с глобальным потеплением, но при этом выступать против сверхинтеллекта. Граница между этими двумя направлениями стала размытой. И, похоже, никто не в состоянии четко ее провести.

Список подписантов весьма разнороден: Ричард Брэнсон, принц Гарри и Меган Маркл, актер Джозеф Гордон-Левитт, бывший президент Ирландии Мэри Робинсон, советник папы Римского по вопросам этики ИИ… Послание выходит далеко за пределы технологических кругов. Но на торговых площадках и в залах заседаний советов директоров его по-прежнему почти не слышно.

Перевод
Александра ПАРХОМЕНКО

07.08.2026

Ноэли ЛЕГРАН Le Point