Атаки със задни вратички (Backdoor Attacks in Neural Networks)
Атаките със задни вратички в невронните мрежи са методи за целенасочено компрометиране на AI модели по време на обучението, при които моделът се държи нормално на стандартни тестове, но изпълнява зловредно поведение при поява на таен тригер.
Архитектурни особености
- Скрити латентни вериги: Зловредните функционалности се кодират в теглата чрез техники от цифровото заключване (digital lockers), оставайки неоткриваеми за стандартен анализ на градиентите.
- Стеганографска маскировка: Теглата на компрометирания модел не се различават статистически от чист модел при спектрален анализ и шум.
- Провал на класическия одит: Устойчивост срещу фино донастройване (fine-tuning) и състезателно обучение (adversarial training), което поставя под въпрос надеждността на външните евалуации.