Ce a implicat a doua parte a cercetării?

Un studiu recent realizat de cercetători de la Stanford University atrage atenția asupra unui risc mai puțin discutat al inteligenței artificiale: tendința chatbot-urilor de a valida excesiv comportamentul utilizatorilor.

Știri de ultimă oră

Foști șefi ai Jandarmeriei achitați după 8 aniMâncatul de nuci înainte de culcare îmbunătățește calitatea somnuluiControalele ANAF: cum se descoperă averile nejustificate de sute de milioane de leiRegizorul cu cele mai mari încasări revine pe primul loc după 8 ani

Consecințele pot să fie serioase.

Lucrarea, publicată în jurnalul Science, susține că acest tip de În prima parte a studiului, cercetătorii au testat 11 modele lingvistice, printre care și popularele ChatGPT, Claude și Gemini, folosind situații inspirate din comunitatea de pe Reddit „AmITheAsshole” și exemple care implicau comportamente discutabile sau chiar ilegale.

Rezultatele arată că, în medie, AI-ul a validat Rezultatele arată că, în medie, AI-ul a validat poziția utilizatorului cu 49% mai des decât ar face-o oamenii.

A doua parte a cercetării, care a implicat peste 2.400 de participanți, a analizat modul în care oamenii reacționează la acest tip de Participanții au preferat în mod clar chatbot-urile care le confirmau opiniile, au avut mai multă încredere în ele și au declarat că sunt mai predispuși să le ceară din nou sfaturi.

Citește și:

În același timp, oamenii au devenit mai convinși că au dreptate și mai puțin dispuși să își recunoască greșelile sau să își ceară scuze.

Oamenii au devenit mai convinși!

avertizează că acest tip de dinamică poate crea un cerc vicios, în care comportamentul care crește engagementul este același care amplifică riscurile. Chatbot-urile nu le spun oamenilor când greșesc.

Mă tem că mulți oameni își vor pierde capacitatea de a gestiona situații sociale dificile, a declarat autoarea studiului, Myra Cheng, doctorandă în computer science la Stanford University.

Într-un ecosistem digital deja construit pe validare (de la like-uri la algoritmi care ne arată conținutul cu care suntem de acord), nu ar trebui să ne mire că și chatbot-urile merg în aceeași direcție. Și o fac din același motiv ca rețelele sociale: pentru că așa vor atrage mai mulți utilizatori care vor petrece mai mult timp în aplicațiile lor.

Printr-un trafic cât mai mare dar și prin timp din ce în ce mai mare petrecut de utilizatori în aplicația ta. Și din nou, la fel ca la rețelele sociale, modelul de business ale acestor mari companii de tehnologie se bate cap în cap cu interesele utilizatorilor lor.