«Киберугрозы недели: от фейковых юридических услуг до ИИ-мошенников – как защититься от новых атак»

Мы собрали ключевые события в области кибербезопасности за прошедшую неделю.

В августе ФБР предостерегло об аферистах, которые выдают себя за фиктивные юридические компании в сфере криптовалют. Преступники, предлагая ненастоящие услуги по восстановлению потерянных активов, похищают деньги и личные данные жертв.

Как сообщается, основными мишенями для мошенников являются жертвы краж криптовалют, которые пытаются вернуть свои средства.

Правоохранительные органы отметили, что злоумышленники прибегают к различным манипулятивным приемам, включая эксплуатацию отчаяния жертв, а также создание подделанного чувства безопасности, выдавая себя за представителей государственных учреждений или укрываясь под их крылом. Кроме того, имена реальных людей и организаций, которые они используют, страдают от подобных действий.

ФБР посоветовало обратить внимание на следующие аспекты при выборе помощников для возврата криптовалюты:

Согласно Press Gazette, как минимум шесть СМИ, среди которых Wired и Business Insider, недавно убрали статьи с своих ресурсов. Причиной этих действий стало то, что публикации, написанные под именем Марго Бланшар, были сгенерированы ИИ, как сообщает пресса.

В мае Wired выпустил статью под названием «Они влюбились, играя в Minecraft. Затем игра стала их свадебной площадкой», где упоминалась Джессика Ху, 34-летняя священнослужительница из Чикаго, ставшая известной как «цифровая церемониймейстерша» на Twitch и Discord. Однако журналисты не смогли подтвердить ее существование, и через несколько недель Wired удалил материал, сославшись на несоответствие редакционным нормам.

Как сообщается, в апреле Business Insider опубликовал два эссе Бланшар, но на прошлой неделе эти публикации также были удалены.

21 августа руководство Wired признало свою ошибку и отметило:

«Если кто и должен распознавать ИИ-мошенников, так это Wired. И в большинстве случаев мы их действительно распознаем… К сожалению, один все же сумел проскочить».

Издание пояснило, что 7 апреля один из редакторов получил предложение от некой Марго Бланшар о написании материала на тему «роста популярности гипернишевых интернет-свадеб». Письмо содержало «все характерные признаки для успешной истории для Wired». После стандартного общения относительно задания и гонорара редактор поручил написать статью, опубликованную 7 мая.

Как утверждали в Wired, спустя несколько дней редакция поняла, что автор не может предоставить должную информацию о себе, хотя она настаивала на оплате через PayPal или чеком.

Дальнейшее расследование подтвердило, что история была полностью вымышленной.

«Мы допустили ошибки: публикация не прошла необходимую проверку фактов и не была отредактирована старшим редактором […] Мы быстро отреагировали, когда обнаружили обман, и приняли меры для предотвращения подобного в будущем. В новой реальности каждая редакция должна быть готова к таким ситуациям», — отметили в редакции Wired.

Согласно информации из Press Gazette, первой на странности указал редактор журнала Dispatch Джейкоб Фуреди. Он рассказал, что получил от Бланшар предложение написать материал о «древнем шахтерском городке Gravemont в Колорадо, преобразованном в один из самых секретных центров подготовки по расследованию смертей». Он попросил автора предоставить запросы в государственные реестры, но она проигнорировала его просьбу.

Meta анализирует и сохраняет фотографии с мобильных устройств. По данным ZDNET, некоторые пользователи Facebook обнаружили в настройках приложений Meta две активированные функции, предоставляющие компании доступ к их галерее. Это необходимо для того, чтобы с помощью ИИ предлагать «персонализированные креативные идеи», например, подборки путешествий и коллажи.

В сообщениях источников отмечается, что функции для ИИ под названием «предложения по использованию фото из галереи» могут быть включены у пользователей, которые утверждают, что не давали на это согласие.

Если пользователь нажимает «разрешить», он соглашается с условиями использования ИИ от Meta, что включает анализ «медиа и черт лица». Затем Facebook использует изображения из галереи (включая даты создания и наличие людей или объектов) для предложения коллажей, тематических альбомов, постов с итогами или измененных ИИ версий фотографий.

Исследователи из Trail of Bits разработали новый метод атаки для кражи пользовательских данных, основанный на внедрении вредоносных команд в изображения, которые обрабатываются ИИ перед загрузкой в большие языковые модели.

Суть этого метода заключается в использовании полноразмерных изображений с «невидимыми» инструкциями, которые проявляются при понижении качества через алгоритмы изменения размера. При загрузке в ИИ такие изображения автоматически уменьшаются для повышения производительности и экономии ресурсов.

В зависимости от системы алгоритмы изменения масштаба могут осветлять изображение, используя методы nearest neighbor, билинейной или бикубической интерполяции.

В примере от Trail of Bits при бикубической интерполяции темные области вредоносного изображения становятся красными, а скрытый текст проявляется черным.

Для пользователя ситуация выглядит нормально, однако в действительности модель выполняет скрытые команды, что может привести к утечкам данных или другим рискам.

Исследователи подтвердили, что их метод работоспособен для различных систем.

25 августа Google сообщила о намерении прекратить размещение программного обеспечения от неподтвержденных разработчиков в Google Play. Новая система безопасности для Android будет препятствовать установке вредоносных приложений из сторонних источников.

«Хотя основная угроза исходит именно со сторонних платформ, требование верификации разработчиков теперь распространяется как на приложения из Google Play, так и на программы из альтернативных магазинов», — добавила команда.

Ранний доступ к системе верификации начнется в октябре, а в марте 2026 года она станет доступна для всех разработчиков Android-приложений. В сентябре требования обязательной проверки личности начнут действовать для Бразилии, Индонезии, Сингапура и Таиланда, а в 2027 году — на глобальном уровне.