Състезателни атаки (Adversarial Attacks)

Състезателните атаки (Adversarial Attacks) са специализирани методи за манипулиране на алгоритми за изкуствен интелект и дълбоко обучение чрез въвеждане на фини, често невидими за човека смущения във входящите данни или чрез проектиране на хитри текстови подкани (jailbreaks, prompt injection).

Тези атаки целят да накарат модела да направи грешна класификация, да заобиколи вградените защитни филтри или да разкрие конфиденциална информация. Защитата срещу състезателни атаки е ключов приоритет за киберсигурността на съвременните автономни системи.

Споменавания в статии