Întâlnire la Casa Albă: Anthropic și viitorul inteligenței
Poate Anthropic să colaboreze cu Casa Albă?
Dario Amodei, directorul executiv al companiei Anthropic, a avut vineri o întâlnire cu Susie Wiles, șefa de cabinet a președintelui, pe fondul unui litigiu cu guvernul american. Casa Albă a calificat discuțiile drept „productive”, concentrându-se pe stabilirea unor „protocoale comune pentru provocările generate de această tehnologie”.
Știri de ultimă oră:
Am discutat despre posibilități de colaborare, dar și despre abordări și protocoale comune pentru a gestiona provocările legate de dezvoltarea rapidă a acestei tehnologii, a anunțat Casa Albă într-un comunicat de presă emis vineri după-amiază. Discuția a vizat, de asemenea, găsirea unui echilibru între încurajarea inovației și asigurarea siguranței.
Așteptăm cu interes continuarea acestui dialog și intenționăm să organizăm întâlniri similare cu alți lideri din domeniul inteligenței artificiale. Anthropic a confirmat discuțiile, subliniind că tema centrală a fost reprezentată de securitatea cibernetică, poziția de lider a Statelor Unite în cursa inteligenței artificiale și siguranța acestei tehnologii.
„Întâlnirea reflectă angajamentul continuu al Anthropic de a colabora cu guvernul SUA în vederea dezvoltării unei inteligențe artificiale responsabile”, a declarat un purtător de cuvânt al companiei. Până recent, modelul Claude, dezvoltat de Anthropic, era singurul sistem de inteligență artificială accesibil în rețeaua clasificată a Pentagonului.
Însă, administrația Trump a anunțat recent întreruperea colaborării cu compania, după ce Anthropic a refuzat să accepte anumite condiții care ar fi permis armatei să utilizeze modelul Claude în „toate scopurile legale”, inclusiv pentru dezvoltarea de arme autonome și implementarea de sisteme de supraveghere în masă.
În urma eșecului negocierilor privind utilizarea sistemului Claude, Pentagonul a desemnat compania Anthropic drept „risc pentru lanțul de aprovizionare” – o etichetă utilizată anterior doar pentru companiile cu legături cu adversari străini. Această măsură ar fi putut duce la excluderea efectivă a Anthropic de pe lista furnizorilor guvernamentali.
Anthropic va colabora cu guvernul pentru a gestiona provocările tehnologice?
Deși un judecător din California a blocat inițial această măsură, Curtea de Apel a Circuitului DC a decis ulterior că Departamentul Apărării poate întrerupe legăturile cu furnizorul pe durata procesului, invocând necesitatea de a nu obliga armata să colaboreze cu un furnizor nedorit „în contextul unui conflict militar de amploare”.
Anthropic susține că modelele sale nu sunt încă suficient de fiabile pentru a fi utilizate în arme autonome și că legislația actuală nu oferă protecție adecvată cetățenilor în cazul unei supravegheri în masă. În acest context, compania a angajat firma de lobby Ballard pentru a gestiona relația cu Departamentul Apărării.
Între timp, Anthropic a anunțat dezvoltarea unui nou model puternic de inteligență artificială, numit Mythos, despre care atât compania, cât și experții avertizează că ar putea reprezenta un punct de cotitură în domeniul securității cibernetice, oferind anumitor grupuri acces anticipat pentru a-și evalua vulnerabilitățile.
Biroul de Management și Buget a comunicat deja agențiilor federale că se pregătește să le ofere acces la Mythos pentru teste.
Casa Albă poartă, de asemenea, discuții pentru a obține acces la acest model, însă Anthropic a refuzat să comenteze dacă administrația Trump lucrează deja la testarea sistemului. „Orice tehnologie nouă care ar putea fi utilizată sau implementată de guvernul federal necesită o perioadă de evaluare tehnică pentru a verifica acuratețea și securitatea acesteia”, a declarat un oficial al Casei Albe, adăugând că acest efort colectiv va contribui la remedierea vulnerabilităților critice ale software-ului.
Alte știri: