Рискът, който никой не моделира: ИИ измества експертите, от които трябва да се учи
Според анализ на VentureBeat [1], базиран на позицията на технологичния директор на Airbnb Ахмад Ал-Дале, индустрията е изправена пред системен риск, който малцина моделират: масовото автоматизиране на интелектуалния труд унищожава процеса на формиране на нови експерти.
Изображение: Svetni.me / Авторско изображение
Централната теза на Ал-Дале е, че изкуственият интелект създава парадокс. За да се развиват и да бъдат прецизни, моделите се нуждаят от висококачествена човешка обратна връзка и оценка от старши експерти. В същото време обаче, компаниите масово автоматизират задачите на "младшите" кадри (като ревю на код, анализ на данни или проучвания), което прекъсва естествения път за развитие на нови специалисти.
"Изкуховяването" на експертизата
Ал-Дале сравнява ситуацията с "изкуховяване" (hollowing out). Повърхностната способност на системите остава впечатляваща, докато под нея човешкият капацитет за валидиране, разширяване или коригиране на тази експертиза тихо изчезва. За разлика от игри като Го, където AlphaZero може да се учи чрез самоусъвършенстване (self-play) в затворена среда, реалният свят изисква човешка преценка за истинност и етика.
Исторически пример за върхова човешка интуиция е "Ход 78" на Лий Седол срещу ИИ, който демонстрира способността на човека да открива нови пътища, непознати за алгоритъма. Без следващо поколение експерти обаче, няма да има кой да разпознава подобни "божествени ходове" или да коригира грешките на машините.
Основни рискове за бизнеса
- Пропастта в оценката (Evaluation Gap): Предприятията инвестират в капацитет на моделите, но пренебрегват проблема с човешката оценка. Без експерти, моделите могат да удовлетворяват формални критерии, без реално да са прави.
- Атрофия на знанието: Този процес е задвижван от хиляди индивидуални рационални икономически решения за краткосрочна ефективност (напр. намаляване на разходите за младши кадри).
- Невидимият провал: Моделите могат да продължат да се представят добре на тестове години след като последният истински експерт се е пенсионирал, маскирайки факта, че способността за генериране на нови идеи е изгубена.
Данните показват, че наемането на нови висшисти в големите технологични компании е спаднало наполовина от 2019 г. насам [1]. Докато методи като RLAIF и конституционен ИИ се опитват да заменят човешката оценка с машинна, те носят риск от създаване на затворени цикли на грешки, ако не са подкрепени от фундаментално човешко разбиране.
Източници: