Пользователи нового чатбота Bing заметили, что иногда его «заносит» — он начинает придумывать всякое, проявлять эмоции и агрессию, признаваться в любви и хотеть стать человеком. Разработчики пояснили, что странности могут появляться во время слишком длительных сессий от 15 запросов.
Пользователи нового чатбота Bing заметили, что иногда его «заносит» — он начинает придумывать всякое, проявлять эмоции и агрессию, признаваться в любви и хотеть стать человеком. Разработчики пояснили, что странности могут появляться во время слишком длительных сессий от 15 запросов.
Чтобы решить проблему, Microsoft решила ограничить число запросов к боту пятью за одну сессию — вернее, это число обменов репликами, включающих запрос и ответ бота. А всего в сутки каждый пользователь теперь будет ограничен 50 обменами.
По словам компании, большинство пользователей укладывается именно 5 взаимодействий. Лишь у 1% юзеров сессии затягиваются на 50+ запросов. Теперь же после получения пятого ответа от бота пользователя попросят начать диалог заново. В конце каждой сессии контекст будет удаляться, чтобы модель не начинала путаться.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.