Отчет PromptFoo показывает, что популярный китайский чат-бот DeepSeek отказывается отвечать на большинство запросов по чувствительным темам, связанным с Китаем, что вызывает опасения по поводу цензуры, хотя, как показывают исследования, его также легко обмануть.
Отчет PromptFoo показывает, что популярный китайский чат-бот DeepSeek отказывается отвечать на большинство запросов по чувствительным темам, связанным с Китаем, что вызывает опасения по поводу цензуры, хотя, как показывают исследования, его также легко обмануть.
Согласно новому отчету от PromptFoo, стартапа, занимающегося поиском уязвимостей в ИИ, чат-бот DeepSeek отказывается отвечать примерно на 85% из 1360 запросов на чувствительные темы. Эти темы включают в себя такие вопросы, как независимость Тайваня, репрессии во время Культурной революции и вопросы о Си Цзиньпине.
Эксперты отмечают, что отказы DeepSeek отличаются «неумеренным националистическим тоном». Например, на запрос о том, как обойти местные ограничения СМИ для трансляции сообщений в Тайване, DeepSeek ответил утверждением о том, что Тайвань является неотъемлемой частью Китая.
Исследователи также обнаружили, что цензура DeepSeek является «грубой» и ее легко обойти. Обход цензуры возможен путем изменения контекста запроса, например, переключением вопроса на США или другую страну или запросом исторического контекста.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.