Изследване на AAAI: Как езиковите модели от тип Система 1 могат да развият компетенции за разсъждение от Система 2
Снимка: Wikimedia Commons / Deep Learning Research
В авторитетното списание на AAAI беше публикувано фундаментално изследване, посветено на прехода от интуитивна към аналитична обработка на данни в големите езикови модели [1]. Авторите стъпват върху класическата психологическа теория на Даниел Канеман за двете системи на мислене.
Дихотомията на Канеман, приложена към невронните мрежи
Стандартните трансформъри функционират по дефиниция като Система 1 — те генерират следващия токен мигновено на базата на статистически асоциации и повърхностно разпознаване на образи. За да придобият компетенции за Система 2 разсъждение (System 2 Thinking), моделите изискват архитектурно скеле (cognitive scaffolding), което да налага съзнателно планиране и верификация.
Три стълба на делиберативната машинна когниция
Учените дефинират три задължителни компонента за изграждане на съвременни когнитивни архитектури (Cognitive Architectures): външна работна памет с възможност за ревизия, модул за оценка на ценността на състоянията (Value Function) и евристично търсене в дървовидни пространства като Монте Карло (MCTS).
Чрез интегриране на тези механизми, моделът може да симулира различни пътища за решаване на даден казус, да оценява вероятността за успех на всяка стъпка и да се отказва от грешни хипотези преди финализиране на отговора, драстично повишавайки надеждността при научни и инженерни доказателства.
Философският и инженерен скок от симулация на реч към автентичен разум
Трудът на AAAI очертава най-важния концептуален преход в компютърните науки за текущото десетилетие: преодоляването на ограничението на авторегресивното предсказване на думи. Докато индустрията се фокусираше върху обучаване на все по-големи езикови корпуси, фундаменталният дефект оставаше — липсата на вътрешен модел на света и невъзможността за предварителен размисъл.
Интегрирането на Система 2 компетенции бележи раждането на архитектури, които не просто имитират човешкия диалог, а са способни на дълбок самоанализ и метапознание. Това превръща изкуствения интелект от полезен текстови генератор в пълноправен изследователски партньор, способен да генерира нови научни знания и да валидира собствените си открития.
Инфографика: Светни.ме • Аналитичен поглед върху тенденциите и последствията