Изследване: Инженерната разработка на LLM изпреварва фундаменталното разбиране на вътрешните им механизми
Източник: The Decoder / Stanford HAI
Мащабно съвместно изследване на водещи университети в САЩ и Европа констатира задълбочаваща се пропаст между шеметното темпо на комерсиална разработка на езикови модели и фундаменталната научна теория, способна да обясни техните вътрешни репрезентации [1]. Докладът заключава, че индустрията оперира в състояние на „чист емпиризъм“, изграждайки критични системи чрез проба и грешка.
Емпирични евристики вместо математическа строгост
Въпреки че архитектурата Transformer съществува от близо десетилетие, много от най-успешните съвременни подобрения – като техниките за post-training разсъждения, селективно внимание и регуляризация – биват откривани случайно чрез хиляди скъпи експерименти, без ясен математически модел за това кои слоеве формират абстрактните концепции.
Опасността от скрити режими на отказ
Учените подчертават, че липсата на теоретична рамка създава риск от внезапни катастрофални сривове в критични индустрии. Модел, който демонстрира 99% точност в тестова среда, може неочаквано да халюцинира или да деградира при минимална промяна в разпределението на входните данни (distribution drift), тъй като вътрешните му механизми остават неразгадани.
Необходимостта от нова наука за механистичната интерпретируемост
Предупреждението на изследователите поставя сериозен въпрос пред бъдещето на технологиите: можем ли да поверим управлението на електропреносни мрежи, медицинска диагностика и правосъдие на системи, чиято вътрешна логика не разбираме напълно? За да премине изкуственият интелект от ерата на „алхимията“ към истинска инженерна наука, държавите и институциите трябва масирано да финансират изследвания по механистична интерпретируемост, вместо да оставят дневния ред единствено на търговските лаборатории.
Анализ на емпиричните методи, рисковете от скрити грешки и научните предизвикателства.