Скритият почерк на Claude: Дебатът за текстовите водни знаци

Изображение: Svetni.me / ИИ генерирано изображение

Според репортаж на ZDNET, компанията Anthropic обяви въвеждането на текстови водни знаци в своите модели Claude, за да отговори на изискванията на член 50 от Закона за ИИ на ЕС [1, 4]. Този ход задължава разработчиците на ИИ да предоставят инструменти за прозрачност и доказване на произхода на генерираното съдържание. Решението обаче предизвика остра вълна от недоволство сред авторите и потребителите, пораждайки широк обществен дебат относно контрола върху текстовия изказ и корпоративното съответствие [1].

Технологията, внедрена глобално от Anthropic, се базира на метода SynthID-Text, разработен от Google DeepMind [2]. Изборът на думи се управлява чрез статистически анализ, за да се вгради невидима маркировка директно в генерираната проза.

Изображение: Svetni.me / ИИ генерирана инфографика

Криптографско пристрастяване при избора на думи

При всяка стъпка на генериране, моделът разпределя речника на динамични „зелени“ и „червени“ списъци от синоними [2]. Този подбор се диктува от секретен криптографски ключ и предходния контекст, като системата леко повишава вероятността за избор на думи от „зеления“ списък. За крайния читател текстът изглежда естествен, но всеки с достъп до ключа може да провери статистическата честота на думите и да изчисли вероятността текстът да е генериран от Claude [2].

Интегрирането на воден знак не се прилага върху силно фактологични изрази или програмен код, където липсва гъвкавост на изказа и точността е критична [2]. Въпреки това, при свободен текст и проза, водната маркировка присъства неизбежно при обем над 200 токена (~150 думи) [3].

„Поквара на писането“: Аргументите на Джон Грубър

Известният технолог Джон Грубър публикува остър коментар в своя блог Daring Fireball, в който описва текстовата водна маркировка като „поквара на писането“ [3]. Според Грубър, изискването на потребителя да получи възможно най-прецизната и качествена проза се пренебрегва в името на регулаторното съответствие на корпорациите. Той твърди, че подмяната дори на един синоним (като „overcast“ вместо „grey“) размива смисловата прецизност на езика [3].

Грубър подчертава, че такова изкуствено пристрастяване на изказа неизбежно влошава качеството на прозата. Писателят критикува и факта, че честните потребители, които ползват Claude само за редактиране или проверка на собствените си текстове, рискуват трудовете им да бъдат грешно маркирани като генерирани от ИИ [3].

Икономическият парадокс и заобикаляне на защитата

Реакциите в технологичната общност обръщат внимание на друг парадокс: компаниите за ИИ години наред събираха и обучиха моделите си върху безплатно съдържание в мрежата без съгласие [1]. Сега същите тези компании изискват от потребителите да плащат абонамент, докато едновременно с това бележат техния интелектуален труд с корпоративен воден знак.

Критиците отбелязват също несъвършенството на метода. Потребителите лесно могат да премахнат водния знак чрез леко перифразиране или използване на софтуерни инструменти като Declaude, което превръща регулацията в неефективно бреме за обикновения потребител [3].

Източници:

[1]: How to avoid Claude watermarking your content - ZDNET
[2]: How Claude’s text watermark works - Anthropic
[3]: Anthropic’s ‘Watermark’ Text Adulteration in Claude Is a Perversion of Writing - Daring Fireball
[4]: How Claude marks AI-generated content - Claude Support