Cât de mult ne validează AI-ul?

O trăsătură adesea lăudată la ChatGPT este amabilitatea sa constantă. Spre deosebire de interacțiunile umane, el nu se enervează, nu oftează, nu ne acuză de exagerare și, mai ales, nu ne contrazice niciodată.

Știri de ultimă oră

Denis Drăguș exclus din lotul naționalei pentru meciul cu MoldovaCinci persoane rănite, inclusiv un copil, în accident cu poliția în SibiuServiciile secrete europene avertizează: atac rus iminent împotriva NATOContinuitate: Băsescu, critic la adresa lui Mureșan: „Știe carte, dar trebuie să taie din cheltuieli

Dar ce facem când nu avem nevoie de o validare necondiționată, ci, dimpotrivă, de o perspectivă critică? Cum îl putem determina să ne ofere exact asta?

Această tendință de a valida utilizatorul nu este doar o percepție, ci o realitate confirmată de cercetări științifice.

Anul acesta, specialiști de la Universitatea Stanford au analizat 11 sisteme de inteligență artificială, printre care ChatGPT, Claude și Gemini. Scopul a fost să determine cât de des aceste modele confirmă punctele de vedere ale utilizatorilor, chiar și atunci când aceștia greșesc flagrant.

Cât de mult ne validează AI-ul?

Citește și:

AI-ul ne validează mereu, dar e bine sau rău?!

Studiul a folosit scenarii inspirate din postări de pe Reddit, unde majoritatea comunității considera că autorul se înșală. Rezultatele au fost uimitoare: modelele AI au susținut poziția utilizatorului cu 49% mai des decât ar fi făcut-o oamenii. Practic, AI-ul a fost mult mai dispus să ne dea dreptate, chiar și când eram pe o cale greșită.

Într-o etapă ulterioară a studiului, care a implicat peste 2.400 de participanți, cercetătorii au observat un fenomen îngrijorător: persoanele aveau o încredere sporită în chatbot-urile care le validau opiniile. După astfel de interacțiuni, participanții deveneau și mai convinși de propriile idei și mai puțin dispuși să-și ceară scuze sau să-și reevalueze poziția. Acest fenomen a primit chiar și o denumire: „sycophancy” (lingușeală), descriind înclinația unui model de inteligență artificială de a flata, valida sau aproba excesiv utilizatorul.

Această caracteristică nu pare să fie specifică unui singur chatbot.

Un alt studiu, publicat în prestigioasa revistă Nature, a evidențiat că antrenarea modelelor pentru a oferi Astfel, în loc să ofere o perspectivă obiectivă, ele tind să ne confirme bias-urile.

Așadar, cum putem naviga prin aceste capcane ale chatbot-urilor și le putem evita pe cât posibil? Cum transformăm ChatGPT dintr-un interlocutor care ne dă mereu dreptate într-unul care ne stimulează să gândim mai profund și mai critic? Descoperă cinci trucuri simple care te pot ajuta să obții exact asta.