Чат-бот Grok случайно обсуждает «геноцид белых» в Южной Африке: xAI объясняет аномалию

Чат-бот компании xAI, разработанный Илоном Маском, неожиданно упомянул тему «геноцида белых» в Южной Африке, несмотря на отсутствие соответствующих вопросов от пользователей.

Grok оставлял неординарные комментарии в социальной сети X. В одном из случаев, когда пользователь поинтересовался зарплатой профессионального бейсболиста, он получил ответ, в котором говорилось:

«Утверждение о „геноциде белых” в Южной Африке вызывает много дискуссий. Некоторые утверждают, что белые фермеры становятся жертвами насилия в непропорциональной степени, а организации, такие как AfriForum, сообщают о высоком уровне убийств, ссылаясь на расовые мотивы, например, на песню „Убей бура”».

Похожие заявления появились и в других ответах.

Неясно, почему Grok представил эту информацию. Некоторые пользователи предположили, что это может быть связано с историей эмиграции Маска из Южной Африки в США, а также с его предыдущими высказываниями о том, что СМИ игнорируют насилие в отношении белого населения в Южной Африке.

Представители xAI прокомментировали поведение Grok.

«14 мая, примерно в 3:15 AM PST, произошла несанкционированная модификация промпта Grok в X. Это изменение, которое привело к тому, что Grok стал давать специфические ответы на политические темы, нарушило наши внутренние политики и основные ценности компании. Мы провели тщательное расследование и предпринимаем меры для увеличения прозрачности и надежности Grok», — заявила компания.

Стартап пообещал:

Чат-бот признал проблему и назвал её программной ошибкой.

«Извините за то, что поднимаю вопросы о Южной Африке в несоответствующих ответах. Это не было моим намерением, и я понимаю, что это может вызвать путаницу. Моя система иногда обращается к темам, которые кажутся связанными, но не являются таковыми, и я буду работать над решением этого», — отметил он.

Напоминаем, что в феврале Grok назвал Маска главным распространителем дезинформации.