Председателят на FTC настоява: Разработчиците на ИИ трябва да носят пряка правна отговорност за действията на агентите

Federal Trade Commission / Reuters

Федералната търговска комисия на САЩ (FTC) зае безкомпромисна позиция относно бъдещето на регулацията на изкуствения интелект в САЩ [1]. В официално изявление ръководството на регулатора категорично отхвърли опитите на технологичните компании да се освободят от отговорност, представяйки автономните софтуерни агенти като „независими дигитални субекти“ [1].

„Не съществува правна черна дупка, в която разработчикът може да пусне автономен алгоритъм на пазара и да избяга от отговорност, когато този алгоритъм извърши измама или наруши законите за защита на потребителите“, подчертаха от регулатора [1].

Край на защитата „Моделът сам реши така“

Предупреждението идва на фона на бързото навлизане на агенти, които автономно резервират билети, управляват лични финанси и договарят търговски цени [1]. Според FTC, ако даден агент осъществи тайно картелно ценообразуване с друг агент или подведе потребител при онлайн пазаруване, глобата ще бъде наложена директно на компанията, разработила и внедрила системата [1].

Регулаторът припомни, че разполага с правомощия по силата на Раздел 5 от Закона за FTC да изисква така нареченото „алгоритмично унищожение“ (algorithmic disgorgement) – принудително заличаване на модели и бази данни, които са били обучени или са функционирали в нарушение на закона [1].

Последици за бизнеса и инвеститорите

Тази доктрина променя коренно изчисленията на технологичните стартъпи и инвеститорите [1]. Разработчиците вече няма да могат да прехвърлят рисковете върху крайните потребители чрез дребен шрифт в потребителските договори, което налага въвеждането на строги технически гаранции, криптографски одитни дневници и задължително застраховане на професионалната отговорност при агентни системи [1].

Трансформация на корпоративното застраховане и края на дигиталната безотговорност

Решителната намеса на FTC ускорява дълбока трансформация в застрахователните практики и корпоративното управление на риска в целия технологичен сектор [1]. В продължение на десетилетия софтуерната индустрия се ползваше от широкообхватни клаузи за отказ от отговорност (disclaimers) в потребителските договори, които прехвърляха всички рискове от системни дефекти върху крайния клиент [1]. Появата на агенти, които вземат самостоятелни решения за парични трансфери и договори, прави тази правна конструкция напълно несъстоятелна [1].

Застрахователните компании вече отказват да издават полици за професионална отговорност на дружества, които използват автономни алгоритми без непрекъснати криптографски одитни следи и гарантирани механизми за човешка намеса (human-in-the-loop) [1]. В резултат на това технологичните стартъпи са принудени да заделят значителни капитали за правна съвместимост и архитектурен надзор, което рязко повишава цената на безотговорното пускане на сурови експериментални системи на свободния пазар [1].

Инфографика: Анализ на Svetni.me

Източници

[1]: FTC chair suggests AI developers should be liable for conduct of agents - Reuters