Inteligența artificială nu are conștiință și nu ne poate distruge singură

De ce ne temem de mașini?

Marius Leordeanu, una dintre figurile de referință în cercetarea inteligenței artificiale și a vizualizării computerizate din România, a oferit perspective clare asupra naturii actuale a acestor tehnologii. În cadrul ediției cu numărul 21 a podcastului „Frontier Defense”, organizat de G4 Media, profesorul de la Facultatea de Informatică a Universității Politehnica din București (UPB) a demistificat mai multe mituri persistente.

Ideea principală a intervenției sale este că sistemele de inteligență artificială de astăzi nu au conștiință și nu pot anihila omenirea din proprie inițiativă.

Principala amenințare nu vine de la o mașinărie rebelă, ci de la tendința noastră, a oamenilor, de a delega totul.

Sunt modelele actuale cu adevărat inteligente?

Leordeanu subliniază că specia umană a demonstrat o reziliență remarcabilă de-a lungul istoriei. Omenirea a supraviețuit unor crize devastatoare, de la ciumă și războaie mondiale până la bombardamente nucleare și Holocaust. Această capacitate de a învinge adversități majore arată că suntem mult mai robusti decât credem, având o adaptabilitate net superioară sistemelor de calcul actuale.

Boom-ul din tehnologie nu se datorează unor descoperiri teoretice revoluționare, ci unei convergențe de factori vechi.

Fluența vorbirii ascunde o frică reală de mașini!

Rețelele neurale au fost concepute încă din anii '50, însă abia acum întâlnirea dintre acești algoritmi, puterea de calcul masivă și volumele colosale de date a declanșat explozia actuală.

Modelele generative, precum ChatGPT, funcționează pe baza predicției următorului cuvânt. Ele asimilează tipare lingvistice și logice, livrând texte extrem de fluente. Totuși, această fluiditate nu înseamnă că mașina are un model logic al realității fizice, aspect care duce adesea la antropomorfizarea eronată a tehnologiei.

Profesorul Leordeanu, care și-a dat doctoratul în robotică la Carnegie Mellon University în 2009, insistă asupra diferenței dintre o vorbire fluentă și înțelegerea reală. Când un sistem accesează un volum uriaș de documente, el produce o imitație sofisticată a coerenței, nu o logică intrinsecă.

Cine promovează mitul superinteligenței?

Faptul că o mașină poartă o conversație elegantă nu înseamnă că gândește cu adevărat.

Discursul exagerat despre inteligența artificială generală (AGI) sau „superinteligență” este întreținut adesea de lideri politici și manageri corporativi din motive financiare. Interesul public uriaș se traduce în profituri de sute de miliarde de dolari.

Din acest motiv economic, companiile sunt tentate să ignore nevoia de a încetini ritmul, de a face teste riguroase de siguranță sau de a evalua riscurile, urmărind doar creșterea veniturilor.

Ce lipsește pentru a atinge o conștiință reală?

Modelele lingvistice mari (LLM) procesează doar secvențe finite de text. Ele nu interacționează cu mediul fizic, nu au date senzoriale complexe și nu își gestionează propriile limite energetice.

În viziunea profesorului de la UPB, conștiința umană a evoluat ca o necesitate biologică: este instrumentul prin care organismul își rezolvă problemele de supraviețuire, simțe durerea și se pregătește pentru ziua de mâine.

Conștiința este o experiență fizică, nu virtuală, legată direct de instinctul de viață.

Ne va ucide comoditatea digitală?

Deoarece inteligența artificială nu are voință proprie, ea nu are nici intenția de a distruge omenirea.

Pericolul real stă în pasivitatea celor care o folosesc. Atunci când inginerii și programatorii devin leneși și deleagă totul sistemului, apar erori grave și o superficialitate periculoasă.

De ce avem nevoie urgent de reglementări?

Riscul major este ca AI să ne „ucidă” conștiința prin comoditate, în loc să ne stimuleze Mașina trebuie să fie un sprijin, nu un înlocuit al minții umane.

Reglementarea devine critică, mai ales că dezvoltarea tehnologică a devenit o adicție pentru marile corporații, iar autoreglementarea este practic exclusă. Dacă un director oprește totul din motive etice, concurenții vor accelera pentru cota de piață, lăsându-l în urmă.

De aceea, este nevoie de legi solide, similare cu cele din Uniunea Europeană, care să impună teste riguroase și să reducă riscul unor dezastre accidentale.