Британска Колумбия заведе дело срещу OpenAI за разходите по възстановяване след трагедия в училище

Изображение: Svetni.me / ИИ генерирано изображение

Канадската провинция Британска Колумбия предприе безпрецедентна правна атака срещу създателите на най-популярния чатбот в света. Местното правителство официално заведе съдебен иск срещу компанията OpenAI и нейния главен изпълнителен директор Сам Олтман, настоявайки те да заплатят пълните разходи по възстановяването на град Тъмблър Ридж след една от най-смъртоносните трагедии в историята на страната [1].

Изображение: Svetni.me / ИИ генерирана инфографика

Искът следва предишни дела от семейства на жертви и за първи път въвлича държавна институция в битка за финансова компенсация за материални разрушения, причинени при нападение, планирано с помощта на ChatGPT [1].

Обвинения в пренебрегване на сигнали за насилие

Според жалбата, внесена в съда, нападателят е използвал активно ChatGPT за тактическо планиране на стрелбата и оптимизиране на маршрути за нападение. Властите твърдят, че алгоритмите на OpenAI са засекли детайлни индикации за готвено масово насилие, но компанията не е предупредила полицията, за да защити търговската конфиденциалност и имиджа на продукта си [1].

В резултат на трагедията сградата на гимназията в Тъмблър Ридж (Tumbler Ridge Secondary School) е претърпяла толкова тежки поражения, че се налага нейното цялостно събаряне. Провинцията настоява OpenAI да покрие пълния бюджет за проектиране и построяване на ново училище, както и средствата за дългосрочна психологическа помощ на местната общност [1].

Нов правен стандарт за сигурността на моделите

Делото поставя фундаментален въпрос пред глобалната безопасност на ИИ: носят ли технологичните гиганти гражданска и финансова отговорност, когато техните продукти са използвани за извършване на тежки престъпления в реалния свят [1].

Ако съдът в Канада уважи иска, това би създало исторически прецедент, задължаващ разработчиците на невронни мрежи да въведат задължителни автоматизирани канали за сигнализиране на правоприлагащите органи при разпознаване на заплахи за живота [1].

Източници:

[1]: Lawsuit demands OpenAI pay for new school after ChatGPT used in shooting - Ars Technica