Ce regret profund a exprimat OpenAI în legătură cu atacul din Columbia

OpenAI, compania din spatele ChatGPT, și-a exprimat regretul că nu a alertat autoritățile cu privire la un cont utilizat de o persoană implicată într-un tragic atac armat din Columbia Britanică. Incidentul a avut loc pe 10 februarie, când Jesse Van Rootselaar, o tânără de 18 ani, și-a ucis mama, Jennifer Jacobs (39 de ani), și fratele vitreg, Emmett Jacobs (11 ani), în locuința lor.

Știri de ultimă oră

Transferurile elevilor în vacanță au fost legale, deși au stârnit nemulțumiriTransferurile elevilor în vacanță au fost legale, deși au stârnit nemulțumiriNicușor Dan întâlnește Elbridge Colby, coordonatorul retragerii trupelor americane din EuropaNicușor Dan întâlnește Elbridge Colby, coordonatorul retragerii trupelor americane din EuropaPariuri în România: piața, istoria și noii jucătoriPariuri în România: piața, istoria și noii jucătoriTexasul votează altfel: Talarico, primul democrat în Senat după 38 de aniTexasul votează altfel: Talarico, primul democrat în Senat după 38 de ani

Ulterior, a deschis focul la școala primară Tumbler Ridge, rănind cinci copii și un cadru didactic, înainte de a se sinucide. În total, 25 de persoane au fost rănite în urma atacului.

Într-o scrisoare făcută publică vineri pe rețelele de socializare ale premierului din Columbia Britanică, David Eby, Sam Altman, directorul OpenAI, și-a exprimat condoleanțele întregii comunități și și-a cerut scuze pentru faptul că firma sa nu a sesizat forțele de ordine. „Îmi pare nespus de rău că nu am sesizat autoritățile cu privire la contul care a fost suspendat în luna iunie”, a declarat Altman.

„Deși știu că niciun cuvânt nu poate repara prejudiciul și pierderea ireversibilă suferită de comunitatea voastră, consider că o scuză este necesară.”

A ignorat OpenAI un avertisment crucial?

Conform informațiilor furnizate de poliție, OpenAI a identificat contul lui Van Rootselaar în luna iunie a anului trecut, prin intermediul sistemelor interne de detectare a abuzurilor. Contul promova „activități violente”.

Compania, cu sediul în San Francisco, a analizat posibilitatea de a informa Poliția Regală Canadiană, dar a ajuns la concluzia că activitatea de pe cont nu îndeplinea criteriile necesare pentru a justifica o sesizare.

Citește și:

În cele din urmă, contul a fost suspendat pentru încălcarea politicii de utilizare a platformei.

Decizia OpenAI de a nu sesiza autoritățile a stârnit critici. Premierul Eby a declarat că „se pare” că OpenAI ar fi putut preveni atacul armat.

De ce a omis OpenAI să avertizeze autoritățile despre atacatorul din Canada?

Scrisoarea lui Altman vine ca Reprezentanții OpenAI au subliniat că sistemele de detectare a abuzurilor sunt în continuă evoluție și că firma depune eforturi pentru a îmbunătăți capacitatea de a identifica și raporta potențiale amenințări.

Cu toate acestea, ei au recunoscut că, în acest caz specific, evaluarea riscului nu a fost suficient de precisă.

Tragedia din Tumbler Ridge a șocat întreaga comunitate și a reaprins dezbaterea cu privire la responsabilitatea companiilor tehnologice în prevenirea actelor de violență. Incidentul a pus sub semnul întrebării echilibrul delicat dintre libertatea de exprimare și necesitatea de a proteja publicul de conținutul periculos.

OpenAI se confruntă acum cu presiuni pentru a-și revizui politicile și procedurile de raportare, pentru a se asigura că astfel de tragedii nu se vor mai repeta.