Anthropic pregătește un watermark pentru textul generat de viitoarele modele Claude, bazat pe un pattern statistic în alegerea cuvintelor. Compania îl prezintă ca măsură de transparență pentru EU AI Act și spune că nu adaugă caractere ascunse, identificatori de utilizator sau pierderi practice de calitate.
Transparența este un obiectiv legitim. Un watermark probabilistic devine periculos când o școală, un angajator, o publicație sau o echipă de conformitate îl tratează ca pe o dovadă.
Probabilitatea nu dovedește autorul
Anthropic spune că detectorul va estima probabilitatea ca Claude să fi contribuit la un text. Nu va demonstra cine a scris, de ce a fost folosit Claude, dacă un om a făcut review sau ce fragmente au rămas din output-ul inițial.
Compania recunoaște detecție mai slabă pentru texte scurte, răspunsuri factuale, cod și materiale editate ușor. O rescriere completă poate elimina semnalul, iar traducerea îl poate păstra. Același scor poate însemna lucruri diferite în workflow-uri diferite.
Un watermark global exportă un model regional
Anthropic spune că va lansa watermark-ul global deoarece separarea regională durabilă este dificilă. Utilizatorii din afara UE primesc astfel un control construit în jurul unei cerințe regionale.
Arhitectura furnizorului devine mai simplă, dar alegerea de policy este mutată către fiecare utilizator și organizație. O companie poate primi text marcat fără să fi ales detectorul, standardul sau interpretarea altor platforme.
Guvernanța are nevoie de dovezi din workflow
Rezultatul unui detector poate susține o investigație. Nu trebuie să decidă singur abaterea academică, performanța unui angajat, statutul unei publicații sau conformitatea contractuală.
Organizațiile au nevoie de log-uri, version history, folosire declarată, review-uri, verificarea surselor și ownership asupra deciziei finale. Aceste controale explică ce s-a întâmplat. Watermark-ul doar sugerează că un model ar fi participat.
Watermarking-ul poate adăuga un semnal de proveniență. Este rezonabil să ne opunem folosirii lui ca mecanism principal de conformitate, deoarece detecția probabilistică poate crea certitudine falsă acolo unde consecințele cer dovezi.