ИИ агентите поемат техническата работа при разработката на модели, но хората запазват крайния контрол
Снимка: The Decoder
Подробно емпирично проучване, базирано на детайлен анализ на 769 работни журнала от реална разработка на невронни мрежи, разкри фундаментална промяна в динамиката на екипите за машинно обучение [1]. Автономните ИИ агенти вече изпълняват лъвския пай от рутинния софтуерен инженеринг, но окончателните концептуални, архитектурни и качествени решения остават твърдо под контрола на хората [1].
Изследователският екип установи, че съвременните големи езикови модели успешно поемат форматирането на масиви от данни, откриването на грешки в разпределеното обучение и автоматичното провеждане на параметрични симулации [1]. Това позволява на водещите инженери да се концентрират върху формулирането на научни хипотези, вместо върху ръчно писане на помощен код [1].
Инфографика: Светни.ме
Новата симбиоза между човека и автономните системи
Данните показват, че ролята на човека в процеса еволюира от пряк изпълнител в системен ръководител и арбитър [1]. Докато агентите предлагат множество паралелни варианти за оптимизация на хиперпараметрите, човешките инженери са тези, които преценяват съответствието на резултатите с по-широките проектни цели и бюджета за изчислителни ресурси [1].
„Агентите са изключително ефективни при изпълнение на задачи с добре дефинирани гранични условия, но проявяват нестабилност при неочаквани системни аномалии“, посочват авторите на изследването [1]. Когато възникнат дефекти в нискостепенната памет на GPU клъстерите или скрити деградации в точността на модела, човешката интуиция и контекстуално разбиране остават незаменими [1].
Рискове от тиха деградация и скрит технически дълг
Докладът предупреждава и за възникването на нов вид системен риск: натрупването на необятни обеми от код, генериран от машини, който никой отделен разработчик не познава в детайли [1]. Това явление може да маскира логически уязвимости и фини грешки в изчислителните методи, които преминават през стандартните автоматични тестове [1].
За да се избегне загубата на контрол, водещите изследователски институти започват да внедряват задължителни протоколи за ръчна проверка (peer review) на всеки структурен модул, синтезиран от автономен агент, преди той да бъде допуснат до интеграция в продукционната база [1].
Източници: