OpenAI își cere scuze pentru incidentul din Columbia Britanică

Ce regret profund a exprimat OpenAI în legătură cu atacul din Columbia

OpenAI, compania din spatele ChatGPT, și-a exprimat regretul că nu a alertat autoritățile cu privire la un cont utilizat de o persoană implicată într-un tragic atac armat din Columbia Britanică. Incidentul a avut loc pe 10 februarie, când Jesse Van Rootselaar, o tânără de 18 ani, și-a ucis mama, Jennifer Jacobs (39 de ani), și fratele vitreg, Emmett Jacobs (11 ani), în locuința lor.

Ulterior, a deschis focul la școala primară Tumbler Ridge, rănind cinci copii și un cadru didactic, înainte de a se sinucide. În total, 25 de persoane au fost rănite în urma atacului.

Într-o scrisoare făcută publică vineri pe rețelele de socializare ale premierului din Columbia Britanică, David Eby, Sam Altman, directorul OpenAI, și-a exprimat condoleanțele întregii comunități și și-a cerut scuze pentru faptul că firma sa nu a sesizat forțele de ordine. „Îmi pare nespus de rău că nu am sesizat autoritățile cu privire la contul care a fost suspendat în luna iunie”, a declarat Altman.

„Deși știu că niciun cuvânt nu poate repara prejudiciul și pierderea ireversibilă suferită de comunitatea voastră, consider că o scuză este necesară.”

A ignorat OpenAI un avertisment crucial?

Conform informațiilor furnizate de poliție, OpenAI a identificat contul lui Van Rootselaar în luna iunie a anului trecut, prin intermediul sistemelor interne de detectare a abuzurilor. Contul promova „activități violente”.

Compania, cu sediul în San Francisco, a analizat posibilitatea de a informa Poliția Regală Canadiană, dar a ajuns la concluzia că activitatea de pe cont nu îndeplinea criteriile necesare pentru a justifica o sesizare.

În cele din urmă, contul a fost suspendat pentru încălcarea politicii de utilizare a platformei.

Decizia OpenAI de a nu sesiza autoritățile a stârnit critici. Premierul Eby a declarat că „se pare” că OpenAI ar fi putut preveni atacul armat.

De ce a omis OpenAI să avertizeze autoritățile despre atacatorul din Canada?

Scrisoarea lui Altman vine ca Reprezentanții OpenAI au subliniat că sistemele de detectare a abuzurilor sunt în continuă evoluție și că firma depune eforturi pentru a îmbunătăți capacitatea de a identifica și raporta potențiale amenințări.

Cu toate acestea, ei au recunoscut că, în acest caz specific, evaluarea riscului nu a fost suficient de precisă.

Tragedia din Tumbler Ridge a șocat întreaga comunitate și a reaprins dezbaterea cu privire la responsabilitatea companiilor tehnologice în prevenirea actelor de violență. Incidentul a pus sub semnul întrebării echilibrul delicat dintre libertatea de exprimare și necesitatea de a proteja publicul de conținutul periculos.

OpenAI se confruntă acum cu presiuni pentru a-și revizui politicile și procedurile de raportare, pentru a se asigura că astfel de tragedii nu se vor mai repeta.