Хакеры нашли слабое место ИИ: его можно взломать без доступа к системе

До недавнего времени казалось, что уж искусственный интеллект простому взлому не подлежит. Но группа международных исследователей нашла одну лазейку, способную преодолевать самые изощренные системы безопасности, - передает Almaty.tv со ссылкой на Кnife.media.

Исследовательская группа профессора Джун Хана из Корейского института передовых технологий в сотрудничестве с Национальным университетом Сингапура и Чжэцзянским университетом (Китай) разработала ModelSpy — систему атак, способную дистанционно перехватывать структуры моделей ИИ, используя лишь небольшую антенну.

Эта технология работает как подслушивающее устройство, улавливая и анализируя мельчайшие сигналы, излучаемые во время работы ИИ, дабы потом воссоздать его внутреннюю структуру. Исследовательская группа сосредоточилась на электромагнитных волнах, генерируемых графическими процессорами: когда нейросеть выполняет сложные вычисления, графический процессор излучает едва уловимые электромагнитные сигналы. Анализируя закономерности этих сигналов, команда успешно восстановила конфигурацию слоев и подробные параметры модели ИИ.

Результаты экспериментов показали, что структуру моделей ИИ можно с высокой точностью определить на расстоянии до шести метров или даже сквозь стены!

Но исследователи не просто решили подсказать будущим киберпреступникам отличную идею, но и предложили меры защиты: например, электромагнитные помехи и обфускацию (запутывание) исходного кода.

Читайте также: Осталось недолго: когда ИИ сможет освоить все знания человечества