Anthropic a blocat aproape toate încercările de copiere a modelelor Claude

Cum funcționează noul sistem de protecție al lui Claude?

Anthropic, firma americană specializată în inteligență artificială, a spus că noile mecanisme de protecție puse la punct pentru a salva modelele sale Claude au dus la o scădere drastică a datelor extrase prin tehnici de distilare — cu o reducere între 90% și 99%, conform informațiilor furnizate lui Reuters. Aceste tehnici permit companiilor concurente să recreate capacitățile unor modele de IA avansate într-un timp mai scurt și cu investiții financiare mai mici, oferindu-le un avantaj competitiv semnificativ.

Practica a crescut în intensitate pe măsură ce rivalitatea tehnologică între Statele Unite și China s-a accentuat, devenind un aspect central al lupei pentru supremătie în domeniul inteligentei artificiale.

În contextul acestei competiții în creștere, companii precum Anthropic, OpenAI și Google au exprimat preoccupări serioase privind vulnerabilitatea modelelor lor la încercări de replicare prin distilare. Anthropic a subliniat că noile sale sisteme de protecție funcționează prin restricționarea accesului la procesele interne de raționament ale modelului Claude, ceea ce face extrem de dificul extragerea informațiilor utile pentru a construi sisteme similare.

Conform declarațiilor companiei, numărul de tokenuri legate de raționament care pot fi extrase de către atacatori a scăzut la o valoare de între 10 și 100 de ori mai mică decât în perioada anterioară implementării acestor măsuri.

Ce măsuri a luat Anthropic înapoi de atacurile de distilare?

Pentru a preveni abusurile, Anthropic nu doar că a introdus barrieri tehnice, ci și a luat măsuri administrative semnificative, inclusiv blocarea de zeci de mii de conturi identificate ca fiind asociate cu campanii organize de distilare. Printre acestea, unele au fost legate de utilizarea de rețele de servere intermediare, cunoscute și sub numele de proxy-uri, folosite pentru a masca sursele solicitărilor și pentru a înceta repetat accesul la datele protejate ale modelului Claude.

Compania a precizat că aceste încercări au fost detectate și oprire în timp util, evitând compromitarea proprietății intelectuale.

Anthropic a comparat robustețea sistemului său de securitate cu mecanismele interne care împiedică modelului Claude să contribuie la dezvoltarea de armbiologice, afirmând că nivelul de protecție este comparabil în eficacitate. De asemenea, a menționat că rata de fals pozitive — adică cazurile în care utilizatori legitimi sunt blocati greșit — este sub 0,1%, demonstrând un echilibru între securitate și accesibilitate utilizatorului.

În final, Anthropic a publicat un avertisment specific, indicând că startupul chinez Z. ai, cunoscut și sub denumirea de Zhipu, ar fi încercat să copieze capacitățile modelului Claude în timpul dezvoltării propriului său model, GLM-5.3. Compania a subliniat că asemenea acțiuni nu doar încetă pe drepturile de proprietate intelectuală, ci pot avea și implicații grave pentru siguranța tehnologică și chiar pentru securitatea națională, datele potențiale utilizări inadecvate ale unor modele de IA puternice în contexte militare sau de supraveghere.

Aceste declarații reflectă o preocupare crescută privind transferul necunoscut de tehnologii și necesitatea unui cadru juridic și tehnic mai strict pentru a preveni exploatarea neautorizată a avanselor în domeniul inteligentei artificiale.