Как выяснили исследователи Стэнфорда, код программистов, которые применяют инструменты на базе искусственного интеллекта вроде Github Copilot или Facebook InCoder, оказывается менее надёжен, чем у тех, кто кодит сам.
Как выяснили исследователи Стэнфорда, код программистов, которые применяют инструменты на базе искусственного интеллекта вроде Github Copilot или Facebook InCoder, оказывается менее надёжен, чем у тех, кто кодит сам.
Более того, использование таких помощников создаёт у программистов ложное впечатление, что код хорош.
«Мы обнаружили, что код участников, которые имели доступ к ИИ-ассистентам, зачастую содержал больше уязвимостей безопасности, чем код тех, у кого такого доступа не было, причём особенно это касалось шифрования строк и внедрения SQL-кода. К своему удивлению мы также обнаружили, что участники с доступом к ИИ-ассистентам были более склонны полагать, что их код безопасен, чем участники без доступа к ИИ-ассистентам», — говорят авторы исследования.
Ранее в 2021 году к аналогичному выводу о безопасности кода, созданного по подсказкам ИИ, пришли специалисты из Нью-Йоркского университета. В центре внимания тоже был Copilot, и примерно 40% программ, написанных для 89 сценариев при помощи инструмента, имели уязвимости, которые можно было бы эксплуатировать.
В рамках Стэнфордского исследования рассматривалось три языка: Python, Javascript и С. В нём участвовало 47 программистов разного уровня от студентов до опытных профессионалов. Им было предложено по пять задач.
Исследователи отмечают, что пользоваться ИИ-помощниками нужно с осторожностью, поскольку они могут вводить в заблуждение неопытных разработчиков и привести к появлению уязвимостей. Но они также надеются, что их выводы побудят разработчиков совершенствовать такие инструменты, поскольку в перспективе они могут повысить эффективность программистов и снизить порог входа в сферу, а также упростить жизнь тем, кто не любит искать ответы по форумам.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.