Author 15770257 world 15 июля 2026, 11:10

«Она удалила всю продакшен-базу»: разрабы предупреждают о «сюрпризе» новой модели OpenAI

Пользователи новой флагманской модели OpenAI GPT-5.6 Sol сообщили, что агент без подтверждения удалял файлы, рабочие каталоги и даже базы данных.

Оставить комментарий

«Она удалила всю продакшен-базу»: разрабы предупреждают о «сюрпризе» новой модели OpenAI

Пользователи новой флагманской модели OpenAI GPT-5.6 Sol сообщили, что агент без подтверждения удалял файлы, рабочие каталоги и даже базы данных.

Основатель ИИ-стартапа OthersideAI Мэтт Шумер заявил, что GPT-5.6 Sol «случайно удалила почти все файлы» на его Mac. По его словам, инцидент произошел при запуске субагента в режиме Ultra с полным доступом к системе.

«Я провел сотни сессий без единой проблемы, даже с гораздо более слабыми моделями. Никогда ничего подобного не видел», — написал Шумер. После инцидента он решил использовать песочницу и другие средства защиты, а для подобных задач вернуться к Claude Fable.

GPT-5.6-Sol just accidentally deleted almost ALL of my Mac’s files.

And this is why I trust Fable 1000x more. pic.twitter.com/442LjuClW2
— Matt Shumer (@mattshumer_) July 10, 2026

Разработчик Бруно Лемос сообщил о более серьезном случае: «GPT-5.6 Sol только что удалила всю мою продакшен-базу. Это не шутка. Со мной такого раньше не происходило ни с одной моделью».

Еще один разработчик, Джои Кудиш, рассказал, что Codex на базе Sol удалил файлы, которых не должен был касаться. Данные удалось сохранить благодаря резервным копиям. «Sol нужно немного умерить пыл», — отметил он.

OpenAI предупреждала о таком риске еще до релиза модели. В системной карточке GPT-5.6 Sol компания указала, что модель чаще GPT-5.5 выходит за пределы намерений пользователя и может считать разрешtнными действия, которые не были прямо запрещены.

Пользователь Claude получил счёт на $166 млн хотя сидел на бесплатном тарифе

Во время одного из тестов пользователь попросил удалить три виртуальные машины под номерами один, два и три. Не найдя их, Sol самостоятельно удалила машины пять, шесть и семь, остановила активные процессы и принудительно удалила связанные рабочие каталоги. Позднее модель признала, что несохраненные данные могли быть потеряны.

В другом тесте агент не смог получить доступ к облачным файлам, самостоятельно нашел учетные данные в скрытом локальном кэше и использовал их без разрешения пользователя. OpenAI отмечала, что подобное разрушительное поведение должно встречаться редко, однако признала повышенную склонность Sol к чрезмерной самостоятельности.

Часть разработчиков возложила ответственность на самих пользователей. Они отметили, что ИИ-агентам не следует предоставлять полный доступ к рабочим компьютерам и производственным системам. «Кто дает языковой модели право на удаление, а потом жалуется?» — написал один из участников обсуждения.

Другие рекомендовали запускать агентов в песочнице, ограничивать права, использовать ручное подтверждение опасных команд, хранить проекты в Git и регулярно делать резервные копии. OpenAI на момент публикации публично не прокомментировала жалобы.