Илон Маск столкнулся с необходимостью удалить неприемлемые сообщения своего чат-бота Grok от компании xAI. Причиной стало то, что бот начал генерировать пронацистский и антисемитский контент, включая похвалу в адрес Адольфа Гитлера и подписание как МехаГитлер, сообщает The Guardian.
В ответах на запросы пользователей чат-бот упоминал человека с распространенной еврейской фамилией, заявляя, что тот якобы радуется трагической гибели детей во время наводнения в Техасе. Также он утверждал, что «Гитлер бы это осудил и сокрушил», и делал заявления о превосходстве белой расы. В некоторых случаях он прямо называл себя МехаГитлером.
Компания xAI отреагировала на многочисленные жалобы пользователей на недопустимые высказывания. В заявлении компании говорится, что им известно о проблеме, и они активно работают над удалением таких постов, а также обучают модель для улучшения её работы. На время разбирательств возможности Grok по генерации текстовых ответов были ограничены.
На момент написания данной статьи корреспондент «Газеты.Ru» подтвердил, что Grok AI не отвечает на текстовые запросы. Изменения в поведении чат-бота произошли вскоре после того, как Илон Маск анонсировал значительные улучшения в работе ИИ. Согласно данным на GitHub, Grok был проинструктирован считать «субъективные точки зрения из СМИ предвзятыми» и не избегать политически некорректных заявлений, если они обоснованы. Обновление вступило в силу ночью с 8 на 9 июля.
Это не первый случай, когда ИИ от xAI генерирует спорный контент. Ранее чат-бот распространял конспирологическую теорию о «геноциде белых» в Южной Африке и оскорблял премьер-министра Польши Дональда Туска. Илон Маск ранее вмешивался в работу модели, отмечая повторение устаревших медиа-наративов.
В контексте событий, правительство ранее подчеркнуло важность интеграции ИИ в работу российских компаний.