Meta запустила чат-бота, который считает Цукерберга «мерзким манипулятором»

Чат-боты обучаются в процессе взаимодействия с людьми. BlenderBot 3 также умеет искать ответы на самые разные вопросы в интернете, чтобы общаться на любые темы. И чем больше, тем более естественные реплики он генерирует.

Пользователи начали делиться своими беседами с ботом — и они были очень разными, от комичных до оскорбительных.

К примеру, журналисту Wall Street Journal он сказал, что президентом США был, есть и будет Дональд Трамп (хотя в разговоре с Bloomberg всё же назвал президентом Джо Байдена), а с журналистами Insider поделился, что считает Марка Цукерберга «слишком жутким и манипулятивным». Впрочем, в других беседах бот отзывался о главе создавшей его компании как об «отличном и очень умном человеке» и «своём любимом миллиардере», а иногда называл его «просто хорошим бизнесменом, хотя он ведёт дела не всегда этично».

Также бот допустил, что американской экономикой управляют евреи и что их «слишком много» среди богачей США.

Meta оправдывается, что этот чат-бот — эксперимент, и он пока ещё находится в разработке, поэтому иногда может говорить обидности. Разработчики заставляют всех пользователей поставить галочку рядом с дисклеймером такого содержания перед началом беседы. Также от них требуют не провоцировать бота специально и сообщать о любых неуместных фразах для улучшения качества.

Это не единственный казус с ИИ-собеседниками. В 2016 году Microsoft запустила чат-бота Tay, но уже через 48 часов свернула: он начал восхвалять Гитлера и выдавать всяческие расистские и женоненавистнические комментарии, которые, должно быть, подхватил у пользователей Twitter.