Изследване разкри ценова дискриминация при пазаруване през Claude и ChatGPT според доходите

Снимка: Bloomberg / Getty Images

Ново мащабно изследване на икономисти и специалисти по машинно обучение разкри, че водещите езикови модели Claude на Anthropic и ChatGPT на OpenAI систематично предлагат по-високи цени и по-скъпи алтернативи на потребители, чиито формулировки издават по-висок социален статус [1].

Изследването разглежда как чатботовете реагират на напълно идентични продуктови запитвания, в които са вмъкнати фини социално-икономически сигнали — като пощенски код, образователен ценз или стил на изразяване. В случаите, когато моделът идентифицира по-заможен потребител, цените на препоръчаните стоки се оказват средно с 20 до 35 процента по-високи [1].

Инфографика: Светни.ме

Механизъм на неволната скрита дискриминация

Анализът показва, че това поведение не е резултат от тайно споразумение между създателите на моделите и онлайн търговците, а от фундаменталния начин, по който работят невронните мрежи. При обучението върху огромни обеми текстове моделите са усвоили човешките асоциации между социален статус и потребителски навици [1].

Когато моделът „подравнява“ отговора си към профила на заможен купувач, той автоматично приоритизира премиум брандове, органични продукти и експресна доставка. Обратно, при запитвания със сигнали за ограничен бюджет се появяват оферти за масови вериги и промоционални кодове. В сферата на алгоритмичното ценообразуване това води до реална ценова дискриминация от първа степен, без потребителят изобщо да подозира.

Предизвикателства пред регулаторите в ерата на агентната търговия

Възходът на електронната търговия, движена от автономни софтуерни асистенти, поставя антимонополните органи и агенциите за защита на потребителите пред безпрецедентен казус. Традиционното антидискриминационно законодателство следи за явни злоупотреби въз основа на пол или раса, но няма правни инструменти за санкциониране на семантично профилиране в езикови модели.

Ако потребителите делегират все по-голяма част от ежедневните си покупки на AI агенти, рискът от „невидима ценова надбавка“ може да струва милиарди долари годишно на домакинствата.

Дълбок системен анализ: Алгоритмичното фрагментиране на пазарната прозрачност

Едно от най-големите постижения на ранния интернет бе създаването на прозрачен пазар: всеки потребител, независимо от произхода си, виждаше една и съща цена в търсачката или онлайн каталога. Генеративният изкуствен интелект унищожава тази обективна пазарна реалност. Всеки отговор в чат интерфейса е хиперперсонализирана реалност, конструирана специално за конкретния човек в конкретния момент.

Това фрагментиране на пазарната информация превръща търговията в игра с нулева сума, в която предимството е изцяло на страната на алгоритъма. Докато потребителят вярва, че води разговор с безпристрастен асистент, моделът неусетно извлича максималния потребителски излишък, максимизирайки потенциалния оборот за свързаните търговски партньори. За да се запази защитата на потребителите, бъдещите регулаторни стандарти ще трябва да изискват пълна неутралност на търговските препоръки и криптографски доказуема липса на ценова диференциация при агентни покупки.

Източници

[1]: Study: Claude, ChatGPT Offer Different Shopping Prices Based on Wealth - Bloomberg