ИИ не компрометира сигурността – прави го сложността

Въвеждането на нови технологии в корпоративния свят винаги е съпроводено с опасения за сигурността. Настоящият възход на изкуствения интелект не прави изключение. Въпреки това, според анализ на Майанк Упадия, директор по сигурността и доверието в Snowflake, публикуван във VentureBeat, истинската заплаха за предприятията не е самата технология, а сложността, която организациите въвеждат в опитите си да я защитят [1].

Парадоксът на сложността в сигурността

Исторически погледнато, корпоративната киберсигурност често се развива чрез добавяне на нови и нови нива на контрол всеки път, когато възникне нова заплаха [1]. Това обаче създава системи, които са твърде тромави за служителите. Когато защитните мерки пречат на нормалната работа и изискват твърде много усилия, потребителите неизбежно търсят начини за заобикалянето им, което компрометира цялата система [1].

Упадия посочва, че сигурността трябва да бъде проектирана така, че да бъде максимално невидима или поне с ниско ниво на триене. Принципите на успешна защита показват, че най-сигурният път за крайния потребител трябва да бъде същевременно и най-лесният [1].

Предизвикателството пред AI агентите

Навлизането на автономни AI агенти променя правилата на играта, тъй като те разширяват повърхността за атаки и увеличават скоростта на потенциалните заплахи [1]. Тези системи могат да бъдат изключително подробни в действията си и да изследват всички пътища за достъп, които са им разрешени, дори когато това не е необходимо за конкретната задача.

Организациите често се опитват да контролират това чрез въвеждането на т.нар. „човек в цикъла“ (human-in-the-loop) за одобрение на всяко действие. Според Упадия обаче това създава излишно триене и често води до формално кликане на бутона „Одобри“ от страна на хората, без реално да разбират контекста, просто за да не спират работния процес [1].

Невидима защита по подразбиране

Вместо да се добавят нови бариери, защитата трябва да бъде вградена директно в архитектурата на платформите [1]. Като пример за успешна промяна Упадия дава еволюцията на двуфакторната автентификация. Тя премина от сложни кодове и токени към лесни биометрични сканирания на пръстов отпечатък или лице. В ерата на изкуствения интелект успехът на защитата ще зависи от това дали ще успеем да направим сигурните процеси толкова интуитивни, че служителите да ги използват естествено, без да се налага да ги заобикалят [1].

Изображение: Svetni.me / Авторско изображение

Източници:

[1]: AI doesn't break security. Complexity does - VentureBeat