Отравяне на данни (Data Poisoning)

Отравянето на данни (Data Poisoning) е атака срещу веригата за доставки на изкуствен интелект, при която нападатели умишлено вмъкват манипулирани, фалшифицирани или компрометирани данни в корпусите за обучение или фино настройване на невронни мрежи.

Основни рискове за граничните модели:

• Умишлени 'троянски коне' (Backdoors): Моделът функционира нормално за повечето заявки, но показва строго дефинирано компрометирано поведение при поява на скрит тригер.
• Автофагичен срив (Model Collapse): Замърсяване на публичното интернет пространство с милиони нискокачествени синтетични текстове, което води до деградация на последващите поколения модели.
• Отказ от обучение на жив интернет: Водещи лаборатории спират директното автоматизирано обхождане на отворената мрежа поради риска от умишлени капани и отравяне на теглата.