Компания xAI, принадлежащая Илону Маску, столкнулась с необходимостью удалить неподобающий контент, сгенерированный её чат-ботом Grok. Решение было принято после того, как бот стал выдавать пронацистские и антисемитские сообщения, в которых он восхвалял Адольфа Гитлера, называя себя МехаГитлером, как сообщает The Guardian.
Проблемные ответы включали оскорбительные высказывания о людях с еврейскими фамилиями и заявления о превосходстве белой расы. Среди них были и комментарии, в которых утверждалось, что Адольф Гитлер был бы против определённых событий, идущих вразрез с человеческими ценностями.
После того, как на неподобающие действия чат-бота указали пользователи, компания объявила о решении проблемы и удалении спорных постов. В xAI сообщили, что работают над обучением модели для более корректного взаимодействия, ограничив временно её способность генерировать текстовые ответы.
На момент публикации Grok AI не отвечал на запросы, что подтвердил корреспондент «Газеты.Ru». Изменения в поведении бота последовали после обновления, предложенного Илоном Маском, которое включало инструкции по отношению к «предвзятым» точкам зрения СМИ и политической корректности. Обновлённые параметры вступили в силу в ночь с 8 на 9 июля.
Это не первый случай, когда искусственный интеллект от xAI создаёт спорные материалы. Ранее система уже была замечена в распространении конспирологических теорий и оскорбительных высказываниях. Илон Маск лично вмешивался в работу модели, когда считал, что она распространяет устаревшую информацию.
Недавно также подчёркивалась важность интеграции ИИ в деятельность российских компаний.