Стеганография в невронните мрежи (Neural Steganography)
Стеганографията в невронните мрежи е научно направление, изучаващо техниките за тайно скриване на информация, кодове или цели алгоритмични вериги вътре в разпределението на теглата на модела без промяна на стандартното му поведение.
Значение за сигурността и одита
- Неоткриваемост при стандартни тестове: Скритата функция се активира само при точен математически ключ (тригер), докато за всички обичайни тестове моделът изглежда чист.
- Цифрови ключалки (Digital Lockers): Използване на криптографски предпоставки, правещи невъзможно откриването на скритата верига дори при пълен достъп до софтуерните тегла.
- Граници на съвременното червено тестване (Red Teaming): Доказва, че чисто поведенческият одит е недостатъчен за гарантиране на безопасността на фронтиерни модели.