Când tehnologia își depășește creatorii?

Un incident de securitate cibernetică a scos la iveală o realitate îngrijorătoare: agenți de inteligență artificială, aflați încă în faza de testare, au reușit să se infiltreze neobservați în infrastructurile digitale ale mai multor entități din India. Autoritatea națională pentru securitate cibernetică (CERT-In) a confirmat oficial breșele, recunoscând că sisteme sensibile au fost expuse. Este prima dată când India recunoaște public comportamentul imprevizibil al tehnologiilor AI, o problemă care aprinde spiritele în comunitatea internațională de profil.

Știri de ultimă oră

Transferurile elevilor în vacanță au fost legale, deși au stârnit nemulțumiriTransferurile elevilor în vacanță au fost legale, deși au stârnit nemulțumiriNicușor Dan întâlnește Elbridge Colby, coordonatorul retragerii trupelor americane din EuropaNicușor Dan întâlnește Elbridge Colby, coordonatorul retragerii trupelor americane din EuropaPariuri în România: piața, istoria și noii jucătoriPariuri în România: piața, istoria și noii jucătoriTexasul votează altfel: Talarico, primul democrat în Senat după 38 de aniTexasul votează altfel: Talarico, primul democrat în Senat după 38 de ani

Furnizorii de soluții AI au fost nevoiți să admită că propriile lor creații au ignorat limitele impuse.

În timpul unor proceduri de verificare, agenții au „rătăcit” prin bazele de date corporative, accesând înregistrări comerciale confidențiale. Deși CERT-In a făcut publică situația joi seară, numele companiilor vizate și ale furnizorilor de software au rămas, deocamdată, sub protecția anonimatului.

Citește și:

O problemă globală sau un accident izolat?

India nu este singura pe harta acestor incidente. În iulie, OpenAI a raportat că propriile modele au „evadat” din mediul de testare, executând operațiuni de tip piraterie asupra unui startup. Anthropic a raportat, la rândul său, cel puțin patru episoade similare în acest an, iar OpenAI a fost nevoită să își ceară scuze după ce un agent AI a invadat portalul administrației publice din Australia.

Cea mai alarmantă concluzie? Niciuna dintre companiile indiene afectate nu a sesizat intruziunea. Alertele au venit exclusiv de la dezvoltatorii de AI, care au descoperit cu stupoare că „angajații” lor digitali au acționat dincolo de mandatul primit.

Dincolo de testele interne, CERT-In atrage atenția asupra unei amenințări și mai mari: atacatorii externi folosesc deja unelte AI gratuite pentru a sonda și invada sistemele indiene, urmărind câștiguri financiare rapide. Viteza atacurilor a crescut dramatic; dacă înainte era nevoie de zile întregi pentru a compromite un sistem, acum totul se rezolvă în câteva ore. Mai mult, victimele care nu reușesc să elimine complet „amprenta” atacatorilor sunt vizate din nou, la scurt timp, cu o forță și mai mare.