Многообразия на вниманието (Attention Manifolds)

Многообразията на вниманието (Attention Manifolds) са геометрични представяния на латентните активационни пространства на трансформаторите под формата на гладки B-spline повърхности.

Анализът им позволява математически строго насочване на отговорите на моделите без необходимост от скъпо дообучение с подкрепящо обучение (RLHF).