Влияние искусственного интеллекта на современные технологии
Искусственный интеллект становится неотъемлемой частью нашей жизни: он помогает управлять смартфонами, автомобилями и даже бытовой техникой. Недавно появились устройства с встроенными AI-модулями, что вызывает удивление, но также подтверждает — технологии делают нашу жизнь удобнее и эффективнее.
От повышения производительности до создания новых креативных инструментов — AI меняет наши рабочие и личные привычки. Самая популярная форма — генеративный AI, например, чат-боты вроде ChatGPT. Однако, несмотря на пользу, такие технологии таят в себе и риски.
Как злоумышленники используют AI для кражи данных
Если вы работаете в Google Workspace, возможно, заметили, что на основе AI создаются автоматические резюме писем — так называемые AI-обобщения. Исследования показали, что злоумышленники могут использовать уязвимость этой функции для скрытного внедрения фишинговых сообщений.
Специалисты обнаружили, что виртуальный помощник Gemini, интегрированный в Gmail и другие приложения, подвержен манипуляциям. Злоумышленники могут встраивать скрытые команды в текст письма, используя HTML и CSS, делая их невидимыми для обычного пользователя.
Механизм скрытого внедрения команд
- Использование HTML и CSS для маскировки команд — например, установка размера шрифта в ноль и цвета текста в белый.
- Эти инструкции остаются невидимыми в стандартном режиме просмотра, но AI Gemini может их распознать при формировании резюме.
- В результате злоумышленники могут получать фальшивые предупреждения о безопасности или срочные инструкции, которые выглядят как сообщения от Google.
Например, злоумышленники могут отправить письмо, в котором Gemini ошибочно уведомит о компрометации пароля и предоставит фальшивый номер поддержки. Поскольку такие сообщения автоматически встраиваются в рабочие инструменты, пользователи склонны доверять им.
Почему текущие меры защиты недостаточны
Несмотря на то, что Google с 2024 года внедрила новые меры защиты от подобных атак, злоумышленники нашли способы их обхода. Компания заявила, что активно работает над усилением безопасности, проводит специальные проверки и обновления систем.
Пресс-секретарь Google отметил, что защита от подобных угроз — приоритет, и компания постоянно совершенствует свои механизмы защиты, чтобы снизить риски злоупотреблений.
На данный момент активных случаев эксплуатации этой уязвимости не зафиксировано, однако угрозы остаются. Важно знать, как защититься от фишинговых атак, использующих AI.
Как защититься от AI-обманов и фишинга
Основные рекомендации для пользователей
- Не доверяйте автоматическим резюме или подсказкам, появляющимся в Gmail или Google Документах. Проверяйте информацию через официальные источники.
- Если письмо кажется необычным или приходит от незнакомого отправителя, лучше читать его полностью, а не полагаться только на автоматические подсказки.
- Обратите внимание на сообщения, вызывающие срочность, запрашивающие личные данные или содержащие подозрительные ссылки — даже если они выглядят доверительно.
Обеспечьте безопасность своих устройств
- Установите антивирусное программное обеспечение на все гаджеты. Оно поможет обнаружить фишинговые письма и вредоносные ссылки.
- Регулярно обновляйте браузеры и приложения Google Workspace, чтобы получить последние защиты и исправления уязвимостей.
- Избегайте использования неофициальных расширений, которые имеют доступ к вашей почте и документам.
Дополнительные меры защиты и советы
Уменьшите риск, ограничивая личную информацию, которую вы публикуете в интернете. Используйте услуги по удалению данных и регулярно проверяйте, не нашли ли злоумышленники ваши личные сведения на публичных ресурсах.
Если хотите полностью отключить функцию автоматического резюме в Gmail, ознакомьтесь с инструкциями по её отключению для мобильных устройств и ПК. Это снизит вероятность манипуляции AI.
Этот случай показывает, как искусственный интеллект усложняет борьбу с киберпреступностью, делая атаки более скрытными и изощренными. Внимательное отношение к сообщениям и соблюдение правил безопасности помогут вам защититься от новых видов угроз.
Алексей "Gadgeteer" Беляев
Ваш персональный техно-стратег и цифровой шерпа в запутанных джунглях современных технологий. Он не только подвергает гаджеты самым суровым испытаниям, но и анализирует невидимые силы, движущие IT-индустрией. Его материалы — это не просто обзоры, а чёткая дорожная карта, которая помогает вам делать осознанный выбор и использовать технологии для улучшения жизни, а не наоборот.
