Алгоритмично изкривяване и пристрастие (Algorithmic Bias)

Алгоритмичното изкривяване (Algorithmic Bias) описва систематични и повтарящи се грешки в компютърни системи и модели на изкуствен интелект, които водят до несправедливи резултати или привилегироване на определени групи потребители за сметка на други. То може да произтича от дисбаланси в обучителните данни, несъвършенства в дизайна на алгоритмите или подсъзнателни социокултурни предразсъдъци, заложени в езика и човешките взаимодействия.

При съвременните големи езикови модели (LLM) изкривяването често се проявява в стилистични, професионални и социални оценки – например по-слабо оценени текстове при използване на модели на общуване, асоциирани с жени, или неравномерна прецизност при обработка на диалекти и малцинствени групи. Отстраняването на тези изкривявания изисква прецизно подравняване (AI safety), куриране на данни и независими одитни процедури.