Водният знак на Anthropic остави пролука за детекция при по-старите модели Claude
Източник: The Decoder / Anthropic Research
Внедрилата сериозни механизми за криптографско маркиране на синтетичен текст компания Anthropic се сблъска с критики от изследователската общност, след като стана ясно, че технологията съдържа архитектурна пролука [1]. Новата система за водни знаци не се прилага за по-старите поколения модели Claude, оставяйки отворен врата за генериране на недетектируем текст през legacy API интерфейси.
Математическият принцип на водното маркиране чрез псевдослучайна ентропия
Системата на Anthropic работи чрез фино модулиране на вероятностите при избор на следващия токен, използвайки таен криптографски ключ. За човешкия читател текстът звучи напълно естествено, но статистически софтуер с достъп до ключа може мигновено да потвърди, че материалът е дело на изкуствен интелект с надеждност над 99,9%.
Legacy API точките като убежище за генериране на немаркирано съдържание
Анализатори откриха, че потребители и разработчици, целящи да избегнат засичането от академични филтри или регулаторни проверки, масово пренасочват заявките си към по-стари версии като Claude 2 и Claude 3 Haiku, където функцията за воден знак не е активирана, компрометирайки глобалната ефективност на мярката.
Илюзията за доброволното водно маркиране в екосистема с отворени врати
Казусът с пролуката в Claude разкрива непреодолимите ограничения пред опитите за саморегулация и технологично ограничаване на изкуствения интелект. Дори когато една от най-отговорните лаборатории внедри съвършена криптографска схема, самото съществуване на по-стари API точки или конкурентни модели без маркировка обезсмисля защитната стена. Докато няма глобално законодателно изискване и технически консенсус, задължаващ всички доставчици да маркират изходите си, опитите за проследяване на машинното съдържание ще остават лесно заобиколима формалност.
Анализ на ентропийните модификации, криптографските ключове и legacy API точките.