Сервис для тренировки собесов с искусственным интеллектом Crackr AI запустил страницу, на которой собирает инциденты, произошедшие по вине — не разработчиков, конечно же, а — сгенерированного ИИ или навайбкоженного софта.
Сервис для тренировки собесов с искусственным интеллектом Crackr AI запустил страницу, на которой собирает инциденты, произошедшие по вине — не разработчиков, конечно же, а — сгенерированного ИИ или навайбкоженного софта.
Авторы проекта отмечают, что у всех этих сбоев одна общая причина: люди не понимали код, который выкатывали. Сгенерированный код может выглядеть красиво и правильно, проскочить поверхностную проверку и добраться в продакшен, но в итоге может привести к взломанным базам данных, потерянным заказам и уязвимостям, который очень легко эксплуатировать.
Причём тренд ускоряется: если в январе каталоге CVE лишь 6 новых уязвимостей были связаны со сгенерированным кодом, то в марте — уже более 35. Часто в созданном ИИ софте оказывается сразу несколько уязвимостей.
Антидот такой же, какой был всегда: понимать свой код, подчёркивают авторы: «ИИ — это мощный инструмент руках того, кто понимает его выводы. Иначе он становится источником проблем».
Сейчас на странице 32 инцидента. Указывается компания, у которой случился сбой, его серьёзность и описание.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.