Учени адаптират архитектурата JEPA на Ян Лекун в универсален прогнозен модел от физика до биология
Снимка: The Decoder / Meta AI
Изследователски екипи разшириха концепцията JEPA (Joint Embedding Predictive Architecture), формулирана от Ян Лекун, превръщайки я в мултидомейнен научен двигател за моделиране на физически и биологични процеси [1].
Инфографика: Светни.ме
Предсказване в латентното пространство вместо пикселен шум
За разлика от генеративните дифузионни и авторегресивни системи, които се опитват да реконструират всеки финален детайл и пиксел, JEPA се фокусира върху предсказване на абстрактни състояния в пространството на вграждане (latent embeddings) [1].
Чрез този подход на самообучение без учител моделът игнорира случайния шум и се научава да улавя истинските причинно-следствени закономерности. Новата универсална реализация демонстрира способност да симулира сложни динамични системи — от движение на флуиди и класическа механика до пространствени трансформации на протеинови структури.
Основа за надеждни модели на света
Разработката предлага фундаментален градивен елемент за следващото поколение модели на света. Тъй като не генерира пиксели, системата работи със значително по-ниски изчислителни ресурси и не страда от халюцинаторни артефакти, характерни за чисто визуалните модели.
В областта на молекулярната биология JEPA позволява симулиране на молекулярни взаимодействия и конформационни промени за части от секундата, отваряйки нови хоризонти пред компютърно подпомогнатия дизайн на лекарствени молекули.
Теоретичен анализ: Защо негенеративното самообучение е пътят към AGI
Успехът на универсалната JEPA архитектура е мощно емпирично потвърждение на дългогодишната теза на Ян Лекун: истинският интелигентен агент не се нуждае от генерация на сурови сензорни данни, за да разбере света. Хората и животните не предсказват всяка частица светлина, която пада върху ретината им; те поддържат компактен, абстрактен ментален модел за физическите възможности и последствия от своите действия.
Авторегресивните езикови модели, макар и впечатляващи текстови статистици, страдат от експоненциално натрупване на грешки при дълги планове. Преходът към йерархични предсказващи вграждания осигурява на автономните системи стабилна когнитивна основа, която може да валидира хипотези във физическия свят без риск от измислени детайли.