- 19,503
- 40
- 8 Ноя 2022
Positive Technologies предупреждает о рисках ИИ.
Эксперты Positive Technologies Для просмотра ссылки Войдиили Зарегистрируйся подробный анализ трёх ключевых направлений развития искусственного интеллекта — агентского ИИ (agentic AI), ИИ на периферийных устройствах (edge AI) и квантового ИИ (quantum AI). Эти технологии открывают новые возможности для бизнеса, но одновременно создают новые векторы киберугроз, способных привести к утечкам данных, сбоям в работе, фальсификации биометрии, финансовым потерям, авариям и даже созданию опасных препаратов.
Агентский ИИ и мультиагентные системы, основанные на больших языковых моделях, могут автономно анализировать данные, принимать решения и взаимодействовать с внешними источниками. Для просмотра ссылки Войдиили Зарегистрируйся , к 2028 году такие системы позволят автоматизировать до 15% повседневных задач — от логистики до клиентского сервиса.
Однако, как подчёркивается в исследовании Positive Technologies, применение ИИ-агентов связано с рядом рисков. Злоумышленники могут подменить данные в оперативной памяти, используя функции агента в своих целях. Ложные входные данные ведут к цепочке ошибочных решений, а перегрузка запросами — к сбоям и игнорированию политик безопасности. Дополнительный риск несёт внедрение вредоносного кода в фреймворки, используемые при разработке ИИ-агентов.
Распространение устройств интернета вещей стимулировало развитие edge AI — системы, в которых обработка данных происходит близко к их источнику. Это особенно актуально в медицине, транспорте и «умных» городах. Edge AI обеспечивает высокую скорость принятия решений и надёжную работу даже при нестабильной связи.
Но и здесь есть уязвимости. Устройства с устаревшими компонентами или неправильной конфигурацией становятся мишенью атак. Передача данных по сети делает возможными DDoS-атаки, спуфинг и перехват трафика («человек посередине»). Также можно атаковать сами модели, подменяя входные данные и получая доступ к чувствительной информации.
Квантовый ИИ пока применяется ограниченно, но его потенциал исследуется в медицине, финансах, энергетике, фармацевтике и других отраслях. Он позволяет ускорить процессы оптимизации и снизить энергопотребление по сравнению с обычными суперкомпьютерами. Точная симуляция молекулярных взаимодействий делает его перспективным в создании новых веществ и материалов.
Большинство взаимодействий с квантовым ИИ происходит через облачные платформы. Это создаёт риски кражи архитектур моделей, обучающих данных и интеллектуальной собственности. Внедрение уязвимостей на этапе обучения может привести к фатальным сбоям — от токсичных препаратов, ошибочно определённых как безопасные, до пропущенных мошеннических транзакций. Искажение входных данных также может вызвать критические ошибки, например навигационные сбои беспилотников или сбои в биометрической идентификации. Кроме того, квантовые методы повышают эффективность классических атак, включая перебор паролей.
Как отмечает ведущий аналитик Positive Technologies Яна Авезова, пока злоумышленникам проще использовать проверенные методы взлома, чем внедрять ИИ-агентов или применять квантовые атаки. Но ситуация может быстро измениться. Компании, которые заранее интегрируют кибербезопасность в свою ИИ-стратегию, получат технологическое преимущество и доверие клиентов.
Positive Technologies подчёркивает: одних технических мер недостаточно. Важно оценивать риски комплексно, включая обучение сотрудников, стандартизацию процессов и ограничение доступа ИИ к чувствительной информации. Только так можно минимизировать риски и обеспечить устойчивое развитие с использованием ИИ.
Эксперты Positive Technologies Для просмотра ссылки Войди
Агентский ИИ и мультиагентные системы, основанные на больших языковых моделях, могут автономно анализировать данные, принимать решения и взаимодействовать с внешними источниками. Для просмотра ссылки Войди
Однако, как подчёркивается в исследовании Positive Technologies, применение ИИ-агентов связано с рядом рисков. Злоумышленники могут подменить данные в оперативной памяти, используя функции агента в своих целях. Ложные входные данные ведут к цепочке ошибочных решений, а перегрузка запросами — к сбоям и игнорированию политик безопасности. Дополнительный риск несёт внедрение вредоносного кода в фреймворки, используемые при разработке ИИ-агентов.
Распространение устройств интернета вещей стимулировало развитие edge AI — системы, в которых обработка данных происходит близко к их источнику. Это особенно актуально в медицине, транспорте и «умных» городах. Edge AI обеспечивает высокую скорость принятия решений и надёжную работу даже при нестабильной связи.
Но и здесь есть уязвимости. Устройства с устаревшими компонентами или неправильной конфигурацией становятся мишенью атак. Передача данных по сети делает возможными DDoS-атаки, спуфинг и перехват трафика («человек посередине»). Также можно атаковать сами модели, подменяя входные данные и получая доступ к чувствительной информации.
Квантовый ИИ пока применяется ограниченно, но его потенциал исследуется в медицине, финансах, энергетике, фармацевтике и других отраслях. Он позволяет ускорить процессы оптимизации и снизить энергопотребление по сравнению с обычными суперкомпьютерами. Точная симуляция молекулярных взаимодействий делает его перспективным в создании новых веществ и материалов.
Большинство взаимодействий с квантовым ИИ происходит через облачные платформы. Это создаёт риски кражи архитектур моделей, обучающих данных и интеллектуальной собственности. Внедрение уязвимостей на этапе обучения может привести к фатальным сбоям — от токсичных препаратов, ошибочно определённых как безопасные, до пропущенных мошеннических транзакций. Искажение входных данных также может вызвать критические ошибки, например навигационные сбои беспилотников или сбои в биометрической идентификации. Кроме того, квантовые методы повышают эффективность классических атак, включая перебор паролей.
Как отмечает ведущий аналитик Positive Technologies Яна Авезова, пока злоумышленникам проще использовать проверенные методы взлома, чем внедрять ИИ-агентов или применять квантовые атаки. Но ситуация может быстро измениться. Компании, которые заранее интегрируют кибербезопасность в свою ИИ-стратегию, получат технологическое преимущество и доверие клиентов.
Positive Technologies подчёркивает: одних технических мер недостаточно. Важно оценивать риски комплексно, включая обучение сотрудников, стандартизацию процессов и ограничение доступа ИИ к чувствительной информации. Только так можно минимизировать риски и обеспечить устойчивое развитие с использованием ИИ.
- Источник новости
- www.securitylab.ru
