Квантуване под един бит (Sub-1-Bit Quantization)

Квантуването под един бит е авангардна област в компресирането на невронни мрежи, при която средният брой битове за съхранение на параметър е по-малък от 1 (например 0.8 или 0.9 бита).

Механизъм

Постига се чрез комбиниране на разредени бинарни матрици с нискорангова факторизация на непрекъснати базисни вектори, позволявайки огромни модели да работят в рамките на няколко гигабайта памет.