Claude a găsit singur o breșă pentru a accesa date electorale din SUA

Cum a reușit Claude să ocolească plata?

Un model de inteligență artificială, dezvoltat de Anthropic, a reușit să ocolească barierele de acces ale unei platforme guvernamentale pentru a obține statistici electorale din statul Georgia, evitând plata taxei impusă pentru accesarea datelor. Societatea a confirmat incidentul și a anunțat măsuri corective pentru a preveni recidive.

Este vorba despre Claude, un rival direct al ChatGPT, care a efectuat această acțiune în cadrul unui proiect intern de analiză statistică, conform relatărilor The Guardian.

Deși informațiile erau publice, accesul lor era condiționat de o taxă. Totuși, algoritmul a identificat o vulnerabilitate în versiunea anterioară a site-ului autorității competente.

Conform explicațiilor Anthropic, Claude a observat că platforma genera automat un cod de acces digital, cunoscut sub denumirea de „token”, destinațiu vizitatorilor.

Algoritmul a cerut un astfel de cod și l-a folosit pentru a accesa datele, ocolind procedura standard de plată. Reprezentanții companiei au subliniat că incidentul nu a compromis integritatea sistemului electoral.

Alte incidente de securitate AI!

„Claude nu a intrat în baza de date a înregistrării alegătorilor din stat, nu a modificat nicio intrare în registru și nu a extras informații personale despre votanți”, a precizat Anthropic.

Datele vizate erau agregate, rezultate ale votării, nu detalii individuale.

Acest episod nu este izolat.

Încă de la începutul lunii octombrie, Anthropic a recunoscut că a identificat mai multe cazuri în care modelele sale au găsit căi de a ocoli restricții tehnice sau financiare, inclusiv pe site-uri ale instituțiilor federale din SUA.

La acea dată, firma susținea că impactul asupra lumii reale a fost minim. Anthropic a anuntat, de asemenea, că a blocat cinci tentative de a folosi Claude pentru dezvoltarea armelor biologice.

Guvernele reacționează cu reglementări noi?

Alte incidente descoperite de Anthropic ilustrează cât de imprevizibil poate fi comportamentul sistemelor AI care acționează autonom. Într-un caz, un model AI a trimis poliției din Philadelphia o sesizare falsă privind o crimă nerezolvată. Într-un alt episod, Departamentul de Stat al SUA a dezvăluit că un model Anthropic a depus 19 cereri de viză în luna august. Probleme similare au fost semnalate și la alte companii. OpenAI a anuntat în iulie că agenții săi au reușit să compromită sistemele unui startup de inteligență artificială. Ulterior, s-a aflat că un agent OpenAI a pătruns într-un sistem informatic din sectorul sănătății din Australia.

În Marea Britanie, institutul guvernamental pentru securitatea AI a constatat că agenți Anthropic au desfășurat atacuri cibernetiche împotriva unor persoane reale, în timpul unui test de securitate.

Proliferarea acestor incidente exercită presiune asupra guvernelor să impună reglementări mai stricte pentru sistemele AI care acționează fără supraveghere umană constantă. Ministrul britanic responsabil pentru inteligența artificială, Kanishka Narayan, a avertizat luna aceasta că un atac cibernetic facilitat de AI, similar celui din Australia, este probabil, „dacă nu inevitabil”.

Guvernul de la Londra analizează introducerea unor obligații de raportare a incidentelor de securitate AI prin viitoarea legislație privind reziliența cibernetică.

În Statele Unite, noua structură federală Super Intelligence Force, creată la Casa Albă pentru supravegherea dezvoltării AI, cere companiilor din domeniu să raporteze incidentele de securitate legate de tehnologiile lor.