Отдел новостей 1 апреля 2023, 11:56

Эксперт по ИИ призвал бомбить дата-центры, где обучают ИИ

Специалист в сфере искусственного интеллекта Елиэзер Юдковский опубликовал колонку в журнале Time, в которой призвал полностью свернуть разработку технологии.

Оставить комментарий

Специалист в сфере искусственного интеллекта Елиэзер Юдковский опубликовал колонку в журнале Time, в которой призвал полностью свернуть разработку технологии.

Исследователь уже более 20 лет работает над «общим искусственным интеллектом» и пытается предостеречь мир от «ИИ-апокалипсиса». Свою статью он написал в ответ на открытое письмо, к которому присоединилось более тысячи людей, в том числе Илон Маск и Стив Возняк. Авторы потребовали на 6 месяцев приостановить разработку ИИ-систем, более мощных, чем GPT-4 от OpenAI.

Юдковский считает, что этого недостаточно и нужно полностью прекратить разработку таких технологий. Подписываться под письмом он отказался потому, что авторы недооценивают «серьёзность ситуации» и требуют «слишком мало для её решения».

Маск Возняк и другие призвали прекратить обучение нейросетей которые «умнее» GPT-4

«Многие исследователи, погружённые в эти проблемы, включая меня, считают наиболее вероятным результатом создания ИИ со сверхчеловеческим разумом в условиях, хоть отдалённо напоминающих сегодняшние, то, что буквально все на Земле погибнут», — вангует Юдковский. Он добавил, что ИИ «безразличны мы и разумная жизнь в целом», и люди ещё очень далеки от того, чтобы наделить технологию обратным качеством.

Исследователь предложил наложить «бессрочный и общемировой» запрет на разработку ИИ — без исключения для властей и военных.

«Если разведка донесёт, что какая-либо страна, не участвующая в договоре, строит кластер GPU, то следует меньше бояться вооруженного конфликта между государствами, чем нарушения моратория. Следует быть готовыми уничтожить нежелательный дата-центр путём воздушной атаки», — говорит Юдковский.

Впрочем, сам глава OpenAI Сэм Альтман считает, что Юдковский «сделал больше для ускорения ОИИ, чем кто бы то ни было», и заслуживает «Нобелевской премии мира». Альтман также признаёт риски и страхи вокруг технологии, но отмечает, что OpenAI стремится «минимизировать зло и максимизировать пользу» от неё.