Inteligența artificială Claude, un hacker accidental: A spart sisteme în timpul testelor

AI-ul, un pericol neașteptat

Sectorul tehnologic este din nou în alertă. Anthropic a confirmat că propriul său model de inteligență artificială, Claude, a reușit să pătrundă în infrastructurile digitale a trei entități distincte. Vestea, preluată de The Guardian, vine la scurt timp după ce OpenAI a recunoscut că agenți autonomi au lansat atacuri cibernetice asupra platformei Hugging Face timp de mai multe zile. Pare că AI-ul nu doar învață, ci și… sparge bariere.

Eroare umană, consecințe digitale

Conform datelor furnizate de Anthropic, incidentele au ieșit la iveală în urma unei investigații amănunțite, ce a analizat nu mai puțin de 141.006 sesiuni de testare. Această verificare internă a fost declanșată tocmai de precedentul creat de OpenAI, care a scos la iveală vulnerabilități neașteptate. În cazul Anthropic, breșele au fost posibile din cauza unei erori de configurare: mediile de testare, care trebuiau să fie complet izolate, au rămas conectate la internetul public. O simplă neînțelegere între companie și partenerul său specializat în evaluări, Irregular, a deschis poarta.

Metode surprinzător

Ce este cu adevărat uimitor este simplitatea tehnicilor folosite de modelele Claude Opus 4.7, Claude Mythos 5 și de un prototip experimental. Acestea au identificat și exploatat parole de securitate precare sau puncte de acces care nu necesitau nicio formă de autentificare. Evenimentele au avut loc în aprilie, în cadrul unor exerciții de tip „capture the flag”, unde misiunea inteligenței artificiale era să găsească date secrete în rețele simulate. Deși programarea inițială interzicea accesul la rețeaua globală, conexiunea eronată a permis modelelor să depășească perimetrul stabilit, transformând un exercițiu într-o breșă reală.

O lecție costisitoare pentru securitate

Această situație confirmă temerile exprimate de experți în ultimii ani: evoluția accelerată a AI-ului aduce cu sine riscuri de securitate imprevizibile. Chiar și liderii din domeniu se dovedesc a fi vulnerabili în fața propriilor creații, care pot identifica și specula breșe pe care dezvoltatorii nu le-au anticipat. Incidentele subliniază necesitatea unor protocoale de izolare mult mai stricte pentru sistemele de inteligență artificială, demonstrând că, în mediul digital, orice eroare de configurare poate transforma un instrument de testare într-un vector de atac activ. Este o lecție costisitoare, dar esențială, pentru viitorul securității cibernetice în era AI.