Трите закона на Азимов са недостатъчни: Роботиката и физическият ИИ изискват нови инженерни стандарти

Снимка: The Robot Report

Бързото навлизане на физическия изкуствен интелект и двукраките хуманоидни машини в производствените халета и домашната среда разкри непреодолимите ограничения на класическите теоретични концепции за сигурност [1]. Изтъкнати експерти по роботика и инженерна етика предупредиха, че легендарните „Три закона на роботиката“, формулирани от фантаста Айзък Азимов през миналия век, са напълно неприложими в ерата на модерните невронни мрежи [1].

Основният проблем се корени в естеството на езиковите и визуално-моторните модели: философски и абстрактни понятия като „вреда“ или „подчинение“ не могат да бъдат преведени математически в детерминирани алгоритмични ограничения [1]. В динамична реална обстановка дори дребна грешка в разпознаването на обектите може да доведе до физически инцидент с тежки последствия [1].

Инфографика: Светни.ме

От философски правила към апаратни защити

Водещите специалисти в сектора призовават за цялостен преход към строги хардуерни защитни механизми, които функционират независимо от софтуера на автономните агенти [1]. Тези системи включват аналогови ограничители на въртящия момент на сервомоторите, механични прекъсвачи на захранването и отделни микроконтролери за сигурност [1].
„Безопасността на роботите не трябва да зависи от това дали невронната мрежа ще халюцинира или ще разтълкува правилно подадената инструкция“, заявяват инженерни ръководители [1]. Апаратните предпазители гарантират, че дори централният модел да подаде команда за рязко движение, физическите стави на машината няма да надвишат предварително зададените безопасни прагове на скорост и натиск при контакт с човек [1].

Нужда от единни индустриални бенчмаркове

Паралелно с хардуерните иновации международните организации по стандартизация като ISO и IEEE форсират разработката на унифицирани тестови протоколи и бенчмаркове за оценка на риска при хуманоиди [1]. Тези стандарти ще изискват всеки комерсиален робот да премине през сертификационни краш-тестове, подобно на автомобилната индустрия [1].
Очаква се новите регулации да въведат и задължителни черни кутии за непрекъснат телеметричен запис, което ще позволи прецизен одит и установяване на отговорността при възникване на инциденти в публични или индустриални пространства [1].

Източници:

[1]: Asimov’s laws are not enough to keep robotics and AI safe - The Robot Report