Алгоритмично пристрастие

Алгоритмичното пристрастие (Algorithmic Bias) описва систематични грешки в резултатите от машинно обучение, възникващи поради изкривявания в данните за обучение или архитектурните предположения на моделите.

Основни измерения

1. Дискриминация при подбор и кредитиране: Алгоритми, обучени върху исторически решения, възпроизвеждат съществуващи полови, расови или социални неравенства.
2. Търговски и ценови преговори: Автономни агенти за пазарене могат да налагат по-неблагоприятни условия на уязвими потребители.
3. Регулаторни изисквания: Европейският пакт за AI (EU AI Act) класифицира алгоритмичния скоринг на хора като високорисков.
4. Методи за смекчаване: Одит на обучаващите масиви, синтетично балансиране и въвеждане на етични филтри преди внедряване.

Справянето с алгоритмичното пристрастие е ключов приоритет за осигуряване на справедливост в автономната дигитална икономика.