Латентна факторизация (Latent Factorization)

Латентната факторизация е метод в линейната алгебра и машинното обучение за декомпозиция на тегловни тензори на по-малки матрици от базисни вектори и разредени коефициенти в латентното пространство.

Приложение в квантуването

Използва се за компресиране на езикови модели под 1 бит на параметър, като съхранява спектралната енергия на теглата и минимизира загубата на точност при екстремно свиване на моделите.