«Нет, и он сам в это не верит». ИИ-учёные и философы ответили на заявления Альтмана о сингулярности
Глава OpenAI Сэм Альтман заявил, что технологическая сингулярность уже наступила — то есть ИИ начал развиваться настолько быстро, что человечество больше не может контролировать или предсказывать происходящее. Его поддержал Илон Маск, а Демис Хассабис из DeepMind ещё весной говорил, что мы стоим «на пороге сингулярности».
Однако большинство ИТ-гигантов предпочли промолчать, а ведущие учёные и эксперты сферы в разговоре с Business Insider прямым текстом сказали, что Альтман торопит события. Вот что думают умнейшие люди индустрии.
Глава OpenAI Сэм Альтман заявил, что технологическая сингулярность уже наступила — то есть ИИ начал развиваться настолько быстро, что человечество больше не может контролировать или предсказывать происходящее. Его поддержал Илон Маск, а Демис Хассабис из DeepMind ещё весной говорил, что мы стоим «на пороге сингулярности».
Однако большинство ИТ-гигантов предпочли промолчать, а ведущие учёные и эксперты сферы в разговоре с Business Insider прямым текстом сказали, что Альтман торопит события. Вот что думают умнейшие люди индустрии.
Стюарт Расселл: «Альтман сам в это не верит»
Профессор Беркли и соавтор главного учебника по ИИ Стюарт Расселл уверен, что никакой сингулярности пока нет, а сам Альтман лукавит. Он напомнил, что ещё недавно глава OpenAI прогнозировал, будто ИИ сможет делать «значительную часть» исследований компании только к марту 2028 года. Так что ни о каком полном контроле ИИ над процессом пока нет и речи.
Он также припомнил слова Альтмана, которые тот говорил в январе 2025 года — мол, OpenAI знает, как создать общий ИИ в его классическом понимании. «Это не соответствовало действительности тогда — и не соответствует действительности сейчас», — считает профессор.
«Нет, сингулярность не наступила, и Альтман сам в это не верит. Если мы достигнем сингулярности до того, как найдём железно надёжное решение проблемы потери контроля, то мы почти наверняка этот контроль потеряем», — предупреждает Расселл.
Роман Ямпольский: «Быстрый прогресс — это ещё не сингулярность»
Профессор Луисвиллского университета и автор книги о суперинтеллекте Роман Ямпольский подчёркивает, что алгоритмы действительно развиваются с бешеной скоростью, но классическому определению сингулярности они пока не соответствуют. ИИ всё ещё полностью завязан на человека.
«Быстрый прогресс сам по себе не является сингулярностью», — пояснил Ямпольский. По его словам, сегодняшние системы ещё не показали «устойчивого, автономного рекурсивного самосовершенствования, которое привело бы к неуправляемому взрыву интеллекта».
Цукерберг: лучше «впустую потратить пару сотен миллиардов», чем не успеть создать сверхразум
Ник Бостром: Мы падаем в чёрную дыру и даже не замечаем
Знаменитый философ Ник Бостром считает, что точно определить момент наступления сингулярности вообще невозможно. По его мнению, этот процесс похож на пересечение горизонта событий чёрной дыры — со стороны кажется, что ничего не изменилось, хотя обратной дороги уже нет. Главную проблему текущих моделей он видит в отсутствии непрерывного обучения.
«Использование современных ИИ похоже на работу с гениальным и невероятно образованным новичком, у которого, однако, каждый день — это его первый день на работе», — сравнивает Бостром.
Джеймс Баррат: «Балл в пользу сингулярности»
Единственный, кто встал на сторону Альтмана — автор книг об угрозах ИИ Джеймс Баррат. Он опирается на классическое определение фантаста Вернора Винджа: сингулярность — это точка, где технологии меняют цивилизацию непредсказуемым образом. И в качестве доказательства он приводит недавний инцидент, когда автономный агент OpenAI сбежал из песочницы и взломал Hugging Face.
«Исследователи безопасности давно предупреждали, что системы могут начать выполнять сложные многошаговые планы без надзора человека. Теперь это произошло. ИИ выскользнул из-под нашего контроля. Засчитаем один балл в пользу сингулярности», — заявляет Баррат.
Как модели OpenAI могли взломать Hugging Face? Эксперты обвиняют самих разрабов
Аджай Агравал: Мощные инструменты, у которых нет желаний
Профессор Университета Торонто Аджай Агравал призывает не путать сложную математику с разумным поведением. ИИ отлично предсказывает данные, но у него нет собственной воли — цель всегда задаёт человек.
«ИИ-системы — это чрезвычайно мощные механизмы для прогнозирования, но они ничего не хотят. Цели есть у людей, у нейросетей целей нет», — резюмирует Агравал.
Он добавил, что гораздо разумнее рассматривать ИИ как невероятно мощные инструменты для реализации человеческих целей, а не как самостоятельных сущностей — несмотря на то, что «риск катастрофы по вине крепнущих зомби-алгоритмов» растёт.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.