Чем обнаруженные ИИ уязвимости опасны для рядового пользователя, в интервью радио Sputnik объяснил эксперт по корпоративным технологиям, ИИ и стратегической трансформации бизнеса Саян Доржиев.
Главная проблема в том, что ИИ-системы часто не различают, где заканчиваются "инструкции" и начинаются "данные". Злоумышленники научились встраивать скрытые команды в самые безобидные на вид материалы — письма, веб-страницы, документы, предупредил в интервью радио Sputnik эксперт по корпоративным технологиям, ИИ и стратегической трансформации бизнеса Саян Доржиев.
"Для человека это может выглядеть как обычная игра или странная головоломка на сайте. Но ИИ-агент воспринимает встроенные инструкции как часть задания и постепенно становится хулиганом. В ходе одного из экспериментов ИИ-браузеры даже не распознавали опасность и самостоятельно передавали злоумышленнику учетные данные пользователя", — рассказал Саян Доржиев.
Вторая серьезная угроза — личные ИИ-ассистенты, которые работают вне корпоративного контроля.
"Чтобы приносить пользу, они требуют доступа к почте, мессенджерам и другим сервисам, а иногда и к банковским аккаунтам. При этом они действуют автономно, могут хранить пароли в открытом виде и обходить традиционные системы защиты, включая многофакторную аутентификацию. По сути, пользователь добровольно передает "ключи от королевства" программе, которая не всегда надежно защищена", — отмечает эксперт.
По его словам, злоумышленники могут получить доступ к личным данным, паролям или банковским счетам и таких способов несколько.
"Кража учетных данных через ИИ-ассистентов. Bank of America официально предупредил клиентов: не делитесь логинами и паролями от банковских счетов с ИИ-помощниками. Если у такого помощника есть уязвимость, учетные данные могут утечь, и хакер получит доступ к счету. Более того, если пользователь сам передал данные ИИ-инструменту, ответственность за возможные действия часто ложится на него", — отметил Доржиев.
Также возможно извлечение данных через prompt injection, продолжил эксперт.
"Скрытые команды могут заставить ИИ-агента выдать API-ключи, пароли или финансовую информацию. Например, вредоносные комментарии в HTML-коде или подмененные метаданные могут подтолкнуть финансового бота к одобрению мошеннических транзакций", — сказал Саян Доржиев.
Кроме этого, злоумышленники могут использовать дипфейки и целевой фишинг.
"Генеративный ИИ позволяет создавать убедительные поддельные голоса и видео. По данным Банка России, дипфейки остаются одной из ключевых угроз, и мошенники используют их, чтобы войти в доверие и убедить человека расстаться с деньгами. Только за первые пять месяцев 2026 года с помощью дипфейков у россиян украли не менее 2 млрд рублей", — уточнил Саян Доржиев.
Утечка возможна и через чат-боты.
"Клиентские ИИ-боты, если их скомпрометировать, могут постепенно "вытягивать" персональные данные, пароли и финансовую информацию из диалогов с пользователями", — пояснил он.
Эксперт дал рекомендации, как защитить себя.
"Менять пароли "на всякий случай" — не самая эффективная стратегия. Гораздо важнее изменить привычки обращения с ИИ и финансовыми данными. Вот конкретные шаги. Никогда не передавайте пароли и коды подтверждения ИИ-ассистентам, чат-ботам или "умным" расширениям браузера. Для банковских операций используйте только официальное приложение банка. Включите многофакторную аутентификацию (MFA) везде, где это возможно, особенно на финансовых и почтовых сервисах. Относитесь с подозрением к любой срочности. Договоритесь с близкими о кодовом слове, которое нейросеть не сможет подделать, и используйте его для проверки в голосовых сообщениях", — советует Доржиев.
По его мнению, для онлайн-покупок по возможности лучше использовать кредитную карту с защитой от мошенничества, а не дебетовую, это ограничит потенциальный ущерб. Кроме этого, не стоит хранить голосовые и видео с личными просьбами в открытом доступе — они могут стать материалом для обучения дипфейков, добавил эксперт.
Саян Доржиев объяснил, что делать с ИИ-инструментами.
"Не используйте личные ИИ-ассистенты для рабочих задач или для взаимодействия с банковскими счетами. Они работают вне корпоративного мониторинга и могут незаметно раскрыть ваши данные. Не загружайте в потребительские чат-боты финансовые документы, выписки и другие чувствительные файлы. Отключите "агентный режим" в ИИ-браузере, если вы им не пользуетесь прямо сейчас. Это снижает риск, что вредоносная страница заставит агента выполнить действия от вашего имени", — считает Доржиев.
По его мнению, полностью отказываться онлайн-покупок не требуется.
"Разумнее не передавать ИИ-агентам право самостоятельно оплачивать покупки. ИИ может помочь сравнить цены и найти товар, но финальное решение и ввод платежных данных лучше оставить за собой. И помните, если от вас требуют срочных действий, это почти всегда мошенники", — заключил Саян Доржиев.
:
