Материали за сексуална злоупотреба с деца (CSAM)
Материалите за сексуална злоупотреба с деца (CSAM) представляват категория от най-тежките престъпления в дигиталното пространство, обект на безкомпромисно преследване от международните правоприлагащи органи.
Нови заплахи от генеративния AI
- Синтетично генериране: Използване на дифузионни модели и генеративни мрежи за създаване на фотореалистични незаконни изображения без физически жертви, което също е тежко престъпление.
- Дълбоки фалшификати (Deepfakes): Злоупотреба с публични снимки на реални деца за генериране на компромати и изнудване.
- Правоприлагане и съдебни прецеденти: Арести на длъжностни лица и прокурори за управление на подпомагани от AI мрежи за незаконно съдържание.
- Хардуерно и моделно филтриране: Задължителни филтри в теглата на моделите с отворен код и криптирано проследяване на генерирания трафик.
Борбата срещу синтетичния CSAM налага глобално технологично сътрудничество между лабораториите за AI и органите на реда.