Как сбой в Microsoft 365 Copilot угрожает безопасности корпоративных данных

Доверие к настройкам безопасности электронной почты — важный аспект защиты информации. Однако, когда искусственный интеллект (ИИ) начинает автоматически читать и обобщать документы, отмеченные как конфиденциальные, уровень этого доверия оказывается под угрозой.

Обнаружение уязвимости в Microsoft 365 Copilot

Компания Microsoft сообщила о наличии ошибки в системе Microsoft 365 Copilot, которая с конца января позволяла её AI-ассистенту обрабатывать чувствительные электронные письма. Эта проблема касалась функции, связанной с интеграцией в чат-бот AI, предназначенного для помощи пользователям в бизнес-среде.

Что произошло и в чем опасность

Изначально сбой, обозначенный как CW1226324, приводил к тому, что Copilot мог получать доступ и автоматически обобщать содержимое писем, находящихся в папках «Отправленные» и «Черновики». При этом некоторые из сообщений имели специальные метки конфиденциальности или чувствительности.

Проблема усугубляется тем, что корпоративные политики Data Loss Prevention (DLP), предназначенные для защиты приватной информации, должны были исключить автоматическую обработку таких сообщений. Тем не менее, сбой позволял AI-системе обходить эти ограничения и получать данные, предназначенные для ограниченного доступа.

Реакция Microsoft и текущие меры защиты

Представитель Microsoft подтвердил, что компания обнаружила и исправила ошибку, которая могла привести к отображению и обработке внутри Copilot контента из писем, помеченных как конфиденциальные, хранящихся в Outlook на настольных устройствах. В компании уверяют, что данная проблема не давала злоумышленникам возможность получить доступ к информации, которой они не были авторизованы видеть.

В феврале началась глобальная установка обновлений для корпоративных клиентов, однако точные сроки полного устранения проблемы и количество затронутых организаций остаются неизвестными.

Влияние на безопасность и возможные риски

Хотя данная уязвимость носит ограниченный характер, она демонстрирует важность постоянного мониторинга и обновления систем безопасности. Для бизнеса это означает риск автоматизированного анализа конфиденциальных данных, что может привести к утечкам или неправильному использованию информации.

Поскольку AI-инструменты требуют доступа к корпоративным данным для своей работы, сбои или ошибки в настройках могут создать критические пробелы в защите.

Практические рекомендации для компаний

• Проверьте настройки доступа: подтвердите, какие папки и источники данных доступны для Copilot.
• Тестируйте метки чувствительности и правила DLP: убедитесь, что они блокируют обработку AI в соответствии с политиками безопасности.
• Следите за обновлениями и проверяйте внедрение исправлений: регулярно проверяйте статус развертывания обновлений в вашей организации.
• Ограничьте использование AI при необходимости: в случае сомнений временно отключите функции Copilot до полной проверки.
• Обучайте сотрудников: напомните команде о необходимости осторожного обращения с конфиденциальной информацией, особенно при использовании автоматизированных помощников.
• Анализируйте журналы активности: отслеживайте, какие письма и данные были обработаны AI, чтобы определить возможный уровень риска.
• Пересмотрите политику хранения чувствительных черновиков: подумайте о необходимости их долгосрочного хранения или быстрого удаления после отправки.
• Используйте поэтапное внедрение: ограничьте доступ к AI-инструментам для менее чувствительных отделов, чтобы снизить потенциальный ущерб.

Обеспечение личной и корпоративной безопасности

Обновление программного обеспечения и использование антивирусных решений — важные меры защиты, особенно в свете возможных ошибок AI-инструментов. Для тех, кто ценит конфиденциальность, стоит рассмотреть альтернативные защищённые почтовые сервисы, предоставляющие end-to-end шифрование, поддержку PGP и отказ от рекламы, чтобы минимизировать риск автоматического сканирования сообщений.

Общий тренд: баланс между удобством и безопасностью

Интеграция AI в рабочие процессы значительно повышает эффективность, однако требует строгого соблюдения мер безопасности. Этот случай с ошибкой в Microsoft 365 Copilot подчеркивает важность прозрачности, быстрого реагирования и постоянного пересмотра политик безопасности при расширении возможностей автоматизации.

Вопрос доверия к AI

Если ваш AI-ассистент имеет доступ к всему, что вы пишете, насколько вы уверены, что он соблюдает все заданные вами границы? Оставляйте свои мнения и вопросы по этой теме, написав нам на Cyberguy.com.