13 бывших и действующих сотрудников OpenAI, Anthropic и DeepMind — подразделения Google по искусственному интеллекту — написали открытое письмо об опасностях технологии, проблемах разработки и о том, что компании ставят финансовые интересы выше безопасности.
13 бывших и действующих сотрудников OpenAI, Anthropic и DeepMind — подразделения Google по искусственному интеллекту — написали открытое письмо об опасностях технологии, проблемах разработки и о том, что компании ставят финансовые интересы выше безопасности.
У подписантов 4 требования. Их суть сводится к тому, чтобы компании не навязывали договоры, которые запрещают критику по поводу рисков, связанных с ИИ, и не мстили за неё — например, шантажом. Компании наоборот должны поддерживать культуру свободной критики и позволять открыто говорить о таких опасениях при условии сохранения коммерческой тайны. Также авторы письма хотят добиться внедрения анонимной процедуры, с помощью которой сотрудники ИИ-компаний смогут привлекать внимание советов директоров, регуляторов и независимых организаций к вопросам, касающимся рисков ИИ.
Риски, о которых говорят подписанты, — это распространение дезинформации, углубление социального неравенства, потеря контроля над ИИ-системами вплоть до уничтожения ими человечества при отсутствии должного регулирования. Также они видят проблему в том, что разработчиков не обязывают делиться информацией о возможностях и ограничениях их систем с властями, а по собственной воле они делать этого не станут.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.