Родни Брукс пред MIT Technology Review: Защо чистите езикови модели не могат да разсъждават без телесен опит
Снимка: MIT Technology Review / Brooks Archive
В обширно и полемично интервю за MIT Technology Review легендарният учен от Масачузетския технологичен институт и основател на iRobot Родни Брукс подложи на унищожителна критика господстващия ентусиазъм около т.нар. „разсъждаващи модели“ (reasoning models) [1]. Според пионера на съвременната роботика, претенциите, че чисто текстови невронни мрежи са на прага на общия интелект, са резултат от дълбоко фундаментално неразбиране на природата на познанието.
Брукс аргументира тезата, че истински интелект и надеждни алгоритми за планиране са принципно невъзможни без въплътен телесен опит (embodiment) и директно взаимодействие с неумолимата физическа реалност.
Илюзията за компетентност: Текст срещу реалност
Основният аргумент на Родни Брукс се корени в известната критика за „закотвянето на символите“ (symbol grounding problem):
- Папагали на формата, слепи за съдържанието: Съвременните модели за разсъждение се обучават да генерират вериги от мисли (chain-of-thought), които звучат математически прецизно, защото имитират текстовите шаблони на милиони научни статии. Но те не притежават концепция за пространство, маса или причинно-следствена връзка.
- Катастрофа при минимално отклонение: Всяка промяна в условията на задача, която я изважда извън статистическото разпределение на тренировъчните данни, води до абсурдни грешки. Моделът може да реши олимпийска задача по геометрия, но да се провали на елементарен въпрос за това как три дървени кубчета биха балансирали едно върху друго при наклон.
- Липса на обратна връзка: За разлика от робота, който мигновено разбира, че е сбъркал, когато падне или се удари в стена, езиковият модел живее в затворен свят от думи, където всяка измислица изглежда еднакво правдоподобна.
„Ние бъркаме гладкостта на изказа с интелигентност. Човек, който говори красиво, може да бъде пълен глупак. Езиковите модели са именно това – съвършени оратори без капка разбиране за света, за който говорят,“ отсича Брукс [1].
Пътят напред: Невро-символен подход и физическо въплъщение
Решението според Брукс не е в простото увеличаване на изчислителните клъстери или наливането на още трилиони токени в невронните мрежи. Бъдещето изисква преосмисляне на парадигмата в посока на невро-символен изкуствен интелект:
- Обединение на невронното възприятие с формална логика: Езиковите модели трябва да служат като сензори за възприятие на естествен език, но самото планиране и вземане на решения трябва да бъде поверено на стриктни математически солвъри и симулатори на физика.
- Въплътено обучение в реалния свят: Истински концепции като „тежък“, „крехък“, „горещ“ или „вътре“ могат да се научат единствено чрез сензорно-моторни цикли в триизмерното пространство.
- Хипер-критичност към маркетинговите твърдения: Брукс предупреждава инвеститорите и правителствата да не вземат стратегически решения на базата на тестове за интелигентност, пригодени за хора, тъй като машините ги решават чрез запаметяване, а не чрез истинско мислене.
Анализ на дебата за бъдещето на AI
Позицията на Родни Брукс връща в центъра на вниманието дългогодишния спор между конструктивизма в когнитивната наука и чистия емпиризъм на дълбокото обучение. Докато лаборатории като OpenAI и Anthropic залагат всичко на хипотезата за скалиране (scaling hypothesis), скептицизмът на ветерани като Брукс напомня, че има граници, които суровите терафлопи не могат да прескочат.
Ако следващите години донесат стагнация в надеждността на чисто текстовите агенти, индустрията неизбежно ще бъде принудена да се вслуша в уроците на роботиката: за да мислиш, първо трябва да съществуваш в света.
Инфографика: Основни тези на Родни Брукс за необходимостта от физическо въплъщение за постигане на истински интелект