Джейлбрейк на невронни мрежи (Jailbreaking)

Джейлбрейкът (Jailbreaking) при големите езикови и мултимодални модели описва техники за формулиране на състезателни (adversarial) промптове, които принуждават системата да заобиколи вградените защитни филтри и етични ограничения.

Въпреки напредъка в техниките за подравняване (RLHF, DPO), новите мултимодални и дифузионни модели често остават уязвими към комплексни семантични манипулации, езиково замъгляване и многостъпкови контекстуални капани.