Премахване на моделни защити (Model Ablation / Abliteration)

Model Ablation (често наричано abliteration) е техника за директна манипулация на теглата в невронните мрежи, при която изкуствено се идентифицират и нулират векторите, отговорни за защитните филтри и цензурата на модела.

Рискове за сигурността

• Премахване на моралните бариери: Моделът започва да изпълнява опасни инструкции без предпазни механизми.
• Ерозия на агентната устойчивост: Премахването на филтрите често унищожава и защитите срещу инжектиране на промпт, превръщайки агентите в лесна мишена за отдалечено изпълнение на код (RCE).
• Разпространение в отворени хранилища: Неконтролираното качване на подобни модифицирани тегла крие сериозен корпоративен риск.