Хакеры могут заставить ИИ потреблять больше энергии

Пт 7 Май 2021 13:40

Новый тип атаки может увеличить энергопотребление систем искусственного интеллекта. Точно так же, как атака типа «отказ в обслуживании» осуществляется с целью нарушить работу сети и сделать ее непригодной для использования, новая атака вынуждает глубокую нейронную сеть использовать больше вычислительных ресурсов, чем необходимо, замедляя работу системы.

Современные нейросети работают путем разделения задач в зависимости от сложности их решения и тратят минимальное количество вычислительных ресурсов на каждую из них. В рамках нового вида атак хакер может изменить входные данные и увеличить объем вычислений, необходимых для решения задачи. По словам исследователей из Центра кибербезопасности Мэриленда, добавляя небольшое количество «шума» ко входным данным сети можно заставить ИИ воспринимать их как более сложные и увеличить количество необходимых вычислений.

Как показали результаты экспериментов, если у злоумышленника есть полная информация о нейронной сети, он может повысить потребление энергии до максимума. Однако, даже если у злоумышленника нет никакой информации, он может замедлить обработку сети и увеличить потребление энергии на 20–80%.

По словам экспертов, данный вид атаки все еще носит теоретический характер. Адаптивные к вводным данным архитектуры нейросетей пока не используются в реальных приложениях. Однако это может быстро изменится из-за стремления компаний по развертыванию более легких нейронных сетей, таких как для умного дома и других IoT-устройств.

Статья уведена с www.securitylab.ru.

NetLan.ru жив уже 15 лет 127 дней 13 часов 56 минут 26 секунд
СМК NetLan (Nettlesome Landloper) — некоммерческий интернет-ресурс.
Весь данный интернет-ресурс и всё созданное или размещённое на нём используется в личных целях.