Gartner посоветовала компаниям не использовать ИИ-браузеры из-за рисков утечек

Аналитики Gartner порекомендовали организациям пресекать использование сотрудниками так называемых «агентских ИИ-браузеров» вроде Comet от Perplexity и ChatGPT Atlas от OpenAI, из-за высоких киберрисков.

Компания опубликовала совет в документе под названием «Кибербезопасность должна пока блокировать браузеры с ИИ». Вице-президент по исследованиям Деннис Сюй, старший директор-аналитик Евгений Миролюбов и вице-президент-аналитик Джон Уоттс отмечают: «В настройках браузера с ИИ по умолчанию приоритет отдаётся удобству использования, а не безопасности».

По определению аналитиков, Comet от Perplexity и ChatGPT Atlas от OpenAI содержат два элемента: «боковую панель ИИ», которая предоставляет пользователям возможность обобщать, искать, переводить и взаимодействовать с веб-контентом с помощью сервисов; а также возможность агентных транзакций, что позволяет браузеру автономно перемещаться по веб-сайтам, взаимодействовать с ними и выполнять задачи, особенно в рамках аутентифицированных веб-сессий.

В документе Gartner содержится предупреждение о том, что «конфиденциальные данные пользователей — такие как активный веб-контент, история просмотров и открытые вкладки — часто отправляются в облачную среду обработки ИИ, а это увеличивает риск утечки данных, если настройки безопасности и конфиденциальности не будут целенаправленно усилены и централизованно управляться».

В документе предлагается снизить эти риски, оценив серверные службы ИИ, которые обеспечивают работу браузера. В случае прохождения проверки Gartner советует организациям всё равно «проинформировать пользователей о том, что всё, что они просматривают, потенциально может быть отправлено в серверную часть службы ИИ, чтобы гарантировать, что у них не будет активных конфиденциальных данных на вкладке браузера во время использования боковой панели браузера с ИИ для подведения итогов или выполнения других автономных действий».

Опасения аналитиков по поводу возможностей ИИ-браузеров связаны с их уязвимостью к «непрямым действиям агентов, вызванным внедрением подсказок, неточным, ошибочным действиям агентов, а также к дальнейшей потере и злоупотреблению учётными данными, если ИИ-браузер автоматически перейдет на фишинговый веб-сайт».

Авторы также предполагают, что сотрудники «могут испытывать искушение использовать ИИ-браузеры и автоматизировать определённые задачи, которые являются обязательными, повторяющимися и менее интересными».

Другой сценарий — ознакомление ИИ-браузеров с внутренними инструментами закупок. «Форма может быть заполнена неверной информацией, может быть заказан не тот канцелярский товар… или может быть забронирован не тот рейс», — предполагают аналитики.

В Gartner порекомендовали установить запрет на использование электронной почты агентами, поскольку это ограничит их возможности по выполнению некоторых действий. Эксперты также предлагают использовать настройки, которые гарантируют, что браузеры с ИИ не смогут сохранять данные.

Ранее исследователи Cato Networks обнаружили новую атаку на ИИ-браузеры, в рамках которой символ «#» используется в URL для внедрения скрытых команд. ИИ-ассистенты выполняют их в обход традиционных средств защиты. Атака, получившая название HashJack, использует особенность обработки URL, при которой фрагмент адреса после символа «#» остаётся внутри браузера и не отправляется на сервер. Злоумышленник может дописать решётку в конец корректной ссылки, а после неё добавить скрытые промты для ИИ. Когда пользователь обратится к встроенному помощнику, такому как Copilot, Gemini или Comet от Perplexity AI, языковая модель получит URL с фрагментом после «#» и воспримет эти инструкции как легитимные команды.