370 тысяч переписок с Grok оказались в открытом доступе: утечка личных данных и потенциальные угрозы

По данным Forbes сообщает, что разговоры с чат-ботом Grok, которыми пользователи обменивались, были проиндексированы поисковыми системами. Например, в Google можно обнаружить более 370 тысяч диалогов на различные темы, начиная от написания твитов и заканчивая попытками взлома криптокошельков. Журналисты Forbes также указывают, что в некоторых из этих переписок содержится личная информация, включая имена и фамилии, а в одном случае даже пароль от аккаунта. Кроме того, доступны файлы, которые пользователи загружали во время общения — фотографии, документы и таблицы.

К доступным данным относятся только те беседы, которыми пользователи делились, сгенерировав ссылку через функцию “поделиться”. Ранее был зафиксирован похожий случай с ChatGPT, но там пользователям требовалось активировать специальную опцию, позволяющую индексировать чаты поисковыми системами, и даже тогда некоторые игнорировали риски утечки своих данных. С Grok такой функции нет — похоже, что автоматически индексируются все диалоги, которыми пользователи делятся друг с другом.

Стоит напомнить, что OpenAI в конечном итоге отключила возможность индексирования чатов, даже с согласия пользователей, признав данный эксперимент неудачным. На момент написания статьи компания xAI не сделала официальных комментариев по поводу текущей ситуации и своих возможных действий.

Также Forbes отмечает, что некоторые из проанализированных переписок нарушают правила использования Grok. Так, чат-бот использовался для создания вредоносного ПО, а в одном из обсуждений был представлен детализированный план покушения на Илона Маска, владельца компании-разработчика Grok.

P.S. Поддержать меня можно подпиской на канал “сбежавшая нейросеть“, где я освещаю искусственный интеллект с творческой точки зрения.