Sam Altman avertizează asupra riscurilor pericolelor inteligenței artificiale necontrolate

Altman a semnalat și pericolele legate de aplicarea militara a IA

Sam Altman, conducătorul companiei OpenAI, a exprimat recent grave îngrijorări privind pericolele potențiale ale dezvoltării necontrolate a inteligenței artificiale, subliniând că omenirea se află la pasul de a pierde supremația asupra unei tehnologii cu putere transformatoare. Această avertizare a fost transmisă în timpul unui interventie făcută la o întâlnire internațională dedicată provocărilor tehnologice emergente, unde a insistat pe necesitatea urgentă de a stabili norme riguroase de siguranță pentru a evita efecte devastatoare pe scară globală. El a subliniat că fără un cadru juridic și etic solid, avansul rapid al sistemelor inteligente ar putea duce la consecințe nepredicibile, afectând nu doar sektori tehnici, ci și structurile fundamentale ale societății moderne.

În cariera sa, Altman s-a distins ca un visionar al epocii digitale, conducând organizația responsabilă de crearea unor modele de inteligență artificială de ultimă generație, printre care cel mai cunoscut este ChatGPT. Sub conducerea sa, OpenAI a pushes boundaries în procesarea limbajului natural și în generarea de conținut automat, realizări care au atras atenția atât utilizatorilor, cât și regulatorilor. Totuși, chiar și din punctul de vedere al succesarilor tehnologice, el a recurrent avertizat că progresul nu trebuie să se realizeze în vacuum, ci trebuie să fie însoțit de mecanisme de supraveghere și El a explicat că riscurile asociate IA nu se limitează la greșeli de programare, ci se extind în domenii complexe precum etica, stabilitatea politică și protejarea drepturilor fundamentale.

Printre amenințările pe care le-a evidențiat, Altman a acordat atenție particulară riscului dezinformării, explicând că sistemele de IA pot genera texte, imagini sau videoclipuri foarte reale în aparență, dar complet fabulate, care pot fi utilizate pentru a manipula percepția publică, a afecta alegeri sau a undermina încrederea în instituții. De asemenea, a avertizat despre impactul asupra forței de muncă, indicând că automatizarea activităților rutinare și chiar a unor sarcini complexe ar putea duce la disparitia multor posturi, mai ales în sectoare precum administrarea, transportul sau serviciile clienților, generând thus presiuni socio-economice și tensions în comunitățile vulnerabile. Un alt punct critic a fost reprezentat de deciziile automate, unde algoritmi folosiți în domenii senzitive precum diagnosticul medical, acordarea creditului sau judecata pot introduce biaisuri ascunse, lipsind explicabilitate și dusând la tratamente neechitabile, mai ales când datele de antrenare reflătează prejudecăți istorice.

Altman a semnalat și pericolele legate de aplicarea militara a IA, avertizând că dezvoltarea de sisteme autonome capabile să aleagă ținte fără intervenție umană ar putea destabiliza echilibrul internațional, reducând barierele pentru conflict și creând scenarii în care escalada are loc mai rapid decât capabilitățile de negociere sau de control. În acest context, a subliniat că nu este suficient să se confieze în bună voia dezvoltatorilor, ci este imperativ să se creeze obstacule juridice și tehnice care să împiedice abuzurile.

Pentru a contracara aceste amenințări, Altman a cerut clar implementarea unui pachet de măsuri preventice, în care transparența ocupă un loc central. El a propus ca firmele care proiectează și distribuie sisteme de IA să fie obligate să publique detalii despre arhitiectura modelelor, sursele de date utilizate pentru antrenare și limitațiile cunoscute ale sistemelor, astfel încât utilizatorii și autoritățile să poată evalua riscurile asociate. În același timp, a insistat pe stabilirea unei linii clare de responsabilitate, în sensul că trebuie să se determine cine De asemenea, a făcut accent pe necesitatea cooperării internaționale, argumentând că deoarece tehnologia IA circulează liber peste granițe și nu este limitată de jurisdicții naționale, orice încercare de reglementare eficientă trebuie să fie coordonată la nivel mondial.

El a sugerat că organizatii precum ONU sau OECD ar putea juca un rol de facilitator în elaborarea de standarde comune, evitând astfel o „cursă spre jos” în care țările se competesc prin reducerea standardelor de siguranță pentru a atrage investiții. Fără asemenea armonizare, a avertizat, regulile nationale ar putea fi ușor evitabile prin deplasarea operațiilor în jurisdicii cu legislație permissivă.

În acest sens, a pus accent pe întrebările etice care trebuie abordate cu serietate

Pe lângă aspectele de securitate, Altman a abordat și implicațiile economice și sociale ale adoptării largă a IA, observând că în agglomerate urbane precum București, Londra sau Singapore, tehnologia începe să remodeleze activitățile zilnice – de la modul în care se administrează resursele publice la personalizarea serviciilor de sănătate sau educație. El a recunoscut că această integrare poate genera beneficii semnificative, inclusiv creșterea productivității, reducerea costurilor operationale și apariția de noi oportunități de inovație, dar a avertizat că fără politici corelate, avantajele ar putea fi koncentrate în mâinile unui mic grup, amplificând existentele disparități de venit și acces.

În acest sens, a pus accent pe întrebările etice care trebuie abordate cu serietate: cum se asigură că sistemele de IA nu discrimină pe baza genului, etniei sau statutului socio-economic? Cum se protejează confidențialitatea individului într-o epocă în care datele personale sunt combustibilul motoarelor algoritmice? Și cum se asigură că accesul la tehnologiile avansate nu devine un privilegiu rezervat doar unor state bogate sau corporații multinacionale? El a concluzionat că La nivel mondial, unele jurisdicții au început să treacă de la declarații la acțiuni concrete. Uniunea Europeană, de exemplu, a propus un regulament-cadru care clasifică aplicațiile de IA după gradul de risc, impunând cerințe stricte pentru categoriile considere periculoase – precum sistemele de identificare biometrică în timp real sau algoritmii folositi în recrutare – și interzicând expres utilizările care violă drepturile fundamentale, precum scorarea socială.

Deși acest pas a fost apreciat ca un pas în directia corectă, Altman a remarcat că aplicarea va necesita resurse considere și o capacitate de supraveghere adecvată, mai ales în fața ritmului accelerat al inovației.

În Statele Unite, deși lipsește încă o legislație federală unificată, mai multe state – inclusiv California, New York și Illinois – au adoptat sau propus norme specifice, în special privind utilizarea tehnologiei de recunoaștere facelui și protejarea datelor de caracter personal. Aceste inițiative, deși patchwork-uite, au creat precedenturi utile și pot servi ca laboratoare de experimentare pentru modele mai largi, inclusiv pentru statele din Europa de Est, precum România, care caută să echilibreze atractivitatea pentru investiții tehnologice cu necesitatea de a proteja cetățenii.

Altman a încheiat intervenția sa cu o reflexie pe rolul colectiv în configurarea viitorului tehnologic, afirmând că societatea nu este doar un pasiv beneficiar al progresului, ci un actor activ care trebuie să participe la definirea limitelor acceptabile. El a declarat că neînțelegerile dintre avans tehnologic și valori umane nu sunt inevitabile, dar vor necesita volontate politicală, investiții în educație și o cultură de responsabilitate partajată. Fără un astfel de echilibru, a avertizat, beneficiile IA ar putea fi însurate de daune irreversibile, iar nădejdea într-un viitor mai bun, mai egal și mai secur, ar putea dissipea sub greutatea necautelelor. El a reînnoit apelu pentru solidaritate, precizând că doar prin colaborare între guverne, industrie și societate civilă se poate construi un cadru în care tehnologia să slujească oamenilor, nu invers.