FTC стартира мащабно разследване срещу OpenAI и Anthropic за потребителски рискове
Снимка: The Decoder / FTC
Федералната търговска комисия на САЩ (FTC) откри всеобхватно официално разследване срещу OpenAI, Anthropic и редица други водещи разработчици на генеративен изкуствен интелект [1]. Регулаторният орган изисква подробни вътрешни записи за процесите по верификация на моделите, подвеждащи маркетингови послания и рисковете за сигурността на потребителите (Consumer Protection) [2].
Правно основание и обхват на регулаторния надзор
Разследването се опира на Член 5 от Закона за FTC, който забранява нелоялни и подвеждащи търговски практики [1]. В центъра на вниманието на инспекторите попадат разминаванията между публичните обещания за „безопасни и контролируеми“ модели и реалните случаи на алгоритмични халюцинации, изтичане на лични данни и нерегламентирани действия от страна на автономни софтуерни агенти [2].
Комисията изисква лабораториите да предоставят протоколи от вътрешни стрес-тестове, отчети за инциденти в продукционна среда и копия от договорите за споделяне на данни с корпоративни партньори [1].
Фокус върху автономните агенти и финансовите рискове
За разлика от предходни запитвания, които се концентрираха главно върху авторското право и обучението на моделите, настоящата сонда е фокусирана върху реалните щети за крайните потребители [2]. Това включва потенциални финансови загуби при автоматизирано пазаруване чрез агенти, компрометиране на фирмени файлове и предоставяне на погрешни правни или медицински консултации.
Представители на Anthropic и OpenAI заявиха готовност за пълно сътрудничество с комисията, подчертавайки, че спазването на строги стандарти за безопасност (AI Safety) е в основата на техните дългосрочни стратегии [1].
Краят на епохата на регулаторен картбланш: От доброволни ангажименти към правно принудителни одити
Инициативата на FTC маркира решителна промяна в начина, по който американската администрация третира сектора на изкуствения интелект. Досегашният подход, разчитащ на необвързващи доброволни декларации и меки насоки за сигурност, отстъпва място на класически принудителен контрол под заплахата от мащабни финансови санкции.
За технологичните гиганти това означава радикална промяна в управлението на риска. Ако вътрешните оценки за безопасност покажат дефекти, които компанията премълчи пред публиката, това вече се класифицира като пряка измама на потребителите. Подобна правна отговорност ще забави цикъла на пускане на нови модели, принуждавайки лабораториите да отделят значително повече време и бюджет за независим одит.
В по-широк план, разследването ще дефинира стандартите за отговорност в ерата на автономните агенти. Когато един софтуерен агент извърши транзакция или изтрие база данни от името на потребител, границата между потребителска грешка и отговорност на разработчика на базовия модел ще бъде прокарана именно от решенията на FTC.
Инфографика: Анализ на Svetni.me