Прототип на Anthropic доказва произхода на ИИ отговори чрез криптографски подписи без разкриване на теглата
Източник: The Decoder / Anthropic Research
Лабораторията Anthropic представи работещ изследователски прототип, който позволява на външни одитори математически да докажат, че даден текст е генериран именно от моделите от семейството на Claude, без за целта да се налага компанията да предоставя достъп до своите невронни тегла или вътрешни активации [1]. Системата използва сложни криптографски схеми за вграждане на псевдослучайни траектории в процеса на семплиране на вероятностите за следващ токен.
Семплиране с криптографски семена и нулево влошаване на качеството
За разлика от повърхностните водни знаци, които лесно се изтриват чрез префразиране или синонимна замяна, методът на Anthropic променя разпределението на логитите (logits) според таен псевдослучаен генератор, свързан с цифров подпис. Текстът звучи напълно естествено за човешкото ухо, но съдържа статистически неоспорим маркер, който може да бъде валидиран с публичен ключ.
Оръжие срещу фалшиви обвинения и халюцинации
Тази технология дава възможност на лабораторията незабавно да опровергава клеветнически твърдения, че нейните модели са генерирали злонамерени експлойти или фалшиви новини, ако в текста липсва автентичният криптографски сертификат. Тя решава и проблема с доказването на авторство при академични измами и дигитална журналистика.
Установяване на правна проследимост в епохата на синтетичното съдържание
Криптографският воден знак на Anthropic е липсващото звено между техническия напредък и правната отговорност на разработчиците на изкуствен интелект. Когато всеки генератор на съдържание бъде задължен да подписва своите резултати, анонимното замърсяване на информационната среда със злонамерена дезинформация ще стане значително по-трудно. Това е практичен пример как модерната математика може да осигури отчетност, защитавайки едновременно сигурността на обществото и бизнес интересите на компаниите.
Анализ на логитното семплиране, публичните ключове и защитата от манипулации.