Състезателно машинно обучение

Състезателното машинно обучение (adversarial machine learning) е област от изкуствения интелект и киберсигурността, изучаваща уязвимостите на невронните мрежи към враждебни манипулации. Това включва атаки чрез минимални смущения на входните данни (adversarial examples), отравяне на данните за обучение (data poisoning) и извличане на модели (model stealing), които могат да заблудят автономни системи, класификатори и филтри за сигурност.