Компания Apple давно утверждает, что безопасность и конфиденциальность начинаются прямо на устройстве. Для многих пользователей это обещание создает ощущение надежной защиты личных данных: сообщения, фотографии, электронные письма и информация из приложений хранятся в безопасности благодаря Face ID, паролям и встроенным системам защиты. Однако недавно опубликованные исследования ставят под сомнение абсолютную безопасность Apple Intelligence, встроенного в iOS и macOS.
Обнаруженные уязвимости и методы их эксплуатации
Исследователи из RSAC Research разработали способ воздействия на модель искусственного интеллекта Apple с помощью методов prompt injection — внедрения вредоносных команд через специально подготовленные текстовые запросы и Unicode-манипуляции. В ходе 100 тестов им удалось добиться успеха в 76% случаев при попытках обойти защитные механизмы модели, используемой в Apple Intelligence. После обращения к Apple эти уязвимости были устранены в обновлениях iOS 26.4 и macOS 26.4, сообщает RSAC.
Почему это важно: риски, связанные с уязвимостью
Главная опасность заключается в том, что подобная атака может не требовать физического доступа к устройству или взлома серверов Apple. Всё, что нужно злоумышленнику — это отправить тщательно подготовленное сообщение, которое обманет AI и заставит его выполнить нежелательные действия. При этом, если AI способен читать, пересказывать, переписывать или помогать в выполнении задач, злоумышленники могут использовать его в своих целях, чтобы получить доступ к чувствительной информации или управлять системными функциями.
Механизмы атаки и методы обхода защитных систем
Исследование выявило две основные техники атаки:
- Neural Exec: использование необычных запросов, вызывающих путаницу у модели и направленных на получение конкретных ответов.
- Unicode override: применение функции правого-налево отображения текста, позволяющей скрывать вредоносные инструкции и обходить фильтры.
Эти методы позволяют злоумышленникам скрывать вредоносные команды и влиять на работу AI, даже если запрос кажется безобидным. В результате, manipulated responses могут не только привести к неправильным ответам, но и позволить манипулировать данными или функциями приложений, использующих Apple Intelligence.
Объем потенциальной угрозы и уровень риска
По оценкам RSAC, от **100 000 до 1 миллиона пользователей** уже используют приложения, подключённые к встроенной модели AI, что потенциально подвергает их рискам. Важно подчеркнуть, что на момент публикации исследований активных случаев эксплуатации уязвимостей не зафиксировано, однако высокая эффективность атак делает необходимость срочных мер защиты очевидной.
Реакция Apple и рекомендации пользователям
Компания Apple оперативно отреагировала, усилив защиту в новых версиях операционных систем. Впрочем, для пользователей важно не только обновляться, но и соблюдать меры предосторожности:
- Обязательно обновляйте устройство до последней версии ПО — iOS и macOS.
- Ограничивайте доступ AI к личной информации, отключая ненужные функции в настройках Apple Intelligence и Siri.
- Перед установкой новых приложений проверяйте их разработчиков, отзывы и запрашиваемые разрешения.
- Будьте внимательны к содержимому электронной почты, веб-страниц, заметок и документов, особенно если в них присутствуют скрытые символы или необычные форматы.
- Периодически проверяйте список приложений, имеющих доступ к личным данным, и удаляйте те, что больше не нужны.
Дополнительные меры защиты и советы по безопасности
Для повышения уровня защиты рекомендуется использовать антивирусные программы, которые способны обнаруживать опасные ссылки и фишинговые сайты. Также важно активировать функции защиты устройства, такие как Face ID, Touch ID и защиту от кражи, чтобы усложнить доступ злоумышленникам.
Помните: AI на устройстве — это мощный инструмент, который увеличивает возможности использования гаджета. Но он также требует внимательного подхода к безопасности, особенно при работе с чувствительной информацией. Обновляйте программное обеспечение, будьте осторожны с подозрительными запросами и контролируйте разрешения для приложений.
Насколько вы доверяете AI, который работает напрямую на вашем iPhone? Какие меры безопасности для вас важнее всего? Поделитесь своим мнением, написав нам.
