Изследване на Johns Hopkins: ИИ генерира по-малко професионални текстове при женски езикови модели

Изображение: Svetni.me / ИИ генерирано изображение
Използването на изкуствен интелект за подобряване на служебната кореспонденция и кандидатстването за работа може тихомълком да ощетява жените на работното място. Ново изследване на учени от престижния университет Johns Hopkins установи, че популярните големи езикови модели променят стила си и звучат значително по-малко професионално, когато разпознаят езикови модели, характерни за жени [1].

Изображение: Svetni.me / ИИ генерирана инфографика
Анализът доказва наличието на дълбок алгоритмичен уклон (bias) в съвременните генеративни системи, който подкопава уверенията за обективна продуктивност [1].
Двойният стандарт в стила на отговорите
Изследователският екип тества различни водещи модели, включително ChatGPT, с еднакви работни сценарии, формулирани чрез различни комуникационни стилове.
Резултатите показват поразителни разминавания: когато входната инструкция съдържа изразни средства, по-често използвани от жени (като подчертана учтивост, изразяване на съпричастност или смекчаващи глаголи), чатботът генерира отговори с по-ниска лексикална сложност и подчертано емоционален тон (фрази като „стопли сърцата ни“). Когато същата задача е зададена със стил, асоцииран с мъже, моделът формулира стегнат, авторитетен и корпоративно издържан текст [1].
Рискове за кариерното развитие
Тази скрита асиметрия има пряко отражение върху професионалния живот. Жените, които разчитат на ИИ за редактиране на автобиографии, мотивационни писма или важни служебни имейли, рискуват да получат текстове, които звучат по-малко решително и компетентно пред работодателите [1].
Авторите на изследването категорично заявяват, че отговорността за преодоляване на проблема не трябва да се прехвърля върху крайните потребители чрез сложен prompt engineering. Технологичните компании са длъжни да изчистят обучаващите масиви и да пренастроят алгоритмите за подсилващо обучение (RLHF), за да гарантират еднакво авторитетно звучене за всеки професионалист [1].
Източници:
[1]: AI may be making women's emails and job applications sound less professional - Business Insider