Cine răspunde când algoritmul decide cine trăiește și cine moare?

Cine răspunde când algoritmul ucide?

Un interviu realizat de dr. Adrian Leonard Mociulschi

Când un algoritm decide cine trăiește și cine moare, cine răspunde? Întrebarea însoțește dezvoltarea armelor autonome bazate pe inteligență artificială și afectează guvernele, organizațiile internaționale și experții juridici din întreaga lume.

Adrian Leonard Mociulschi: Judecătore, vă mulțumim că ați acceptat invitația de a reveni la dialog cu cititorii noștri despre un subiect de interes internațional, dezbatere și preocupare. În contextul dezvoltării accelerate a AI militară și apariției sistemelor de arme autonome, o întrebare pe buzele multor astăzi: ce se întâmplă când decizia de a ucide nu mai este făcută de un om, ci de un algoritm?

Marius Peter: Mulțumesc pentru invitație.

Întrebarea este cu atât mai importantă pe măsură ce evoluțiile tehnologice din ultimii ani au schimbat această dezbatere de la anticiparea teoretică la provocări juridice concrete.

Cum se aplică articolul 2 din CEDO?

Dezvoltarea accelerată a inteligenței artificiale transformă nu numai modul în care se desfășoară conflictele armate, ci și mecanismele prin care se iau deciziile privind utilizarea forței letale.

Sistemele de arme autonome, capabile să identifice și să atace ținte fără intervenția umană directă, ridică o problemă care depășește cu mult domeniul tehnologiei militare: cine controlează de fapt decizia de a suprima viața umană și cine este responsabil pentru consecințele acesteia?

Autonomia algoritmică nu poate înlocui judecata umană, iar eficiența militară nu poate justifica diminuarea garanțiilor legale destinate protejării vieții.

În afară de implicațiile etice ale acestei dezbateri, se ridică o întrebare juridică esențială: în ce măsură se pot aplica obligațiile statelor privind protecția dreptului la viață - consacrate la articolul 2 din Convenția Europeană privind drepturile omului - utilizării sistemelor de arme ale căror decizii operaționale sunt luate în mod autonom, uneori prin procese algoritmice care sunt greu de anticipat sau de explicat?

Convenția se aplică automat?

Răspunsul implică examinarea nu numai a condițiilor în care un stat poate utiliza aceste tehnologii, ci și a obligațiilor sale de a reduce riscurile pentru viața umană și de a investiga în mod eficient incidentele cu victime.

Adrian Leonard Mociulschi: Dle judecător, mulți cititori ar presupune că atunci când oamenii mor într-o operațiune militară, Convenția Europeană privind drepturile omului se aplică automat. Chiar așa merg lucrurile?

Marius Peter: Întrebarea pare simplă, dar răspunsul juridic este mai complicat decât pare la prima vedere. Înainte de a determina cine este responsabil și ce garanții există atunci când o decizie algoritmică are consecințe tragice, trebuie clarificată o problemă esențială: în ce situații se aplică de fapt Convenția Europeană privind drepturile omului?

Convenția Europeană privind drepturile omului nu se aplică automat operațiunilor militare desfășurate de un stat contractant. Conform articolului 1 din CEDO, statele garantează drepturile convenționale ale persoanelor aflate sub jurisdicția lor, care este, de regulă, teritorială. În consecință, utilizarea unei arme autonome de către forțele armate ale unui stat european nu atrage, în sine, aplicarea Convenției tuturor persoanelor afectate de operațiunea militară.

Cu toate acestea, există situații în care protecția acordată de articolul 2 din CEDO - care consacre dreptul la viață - poate funcționa și în afara teritoriului național. În cazul în care utilizarea sistemului autonom are loc pe teritoriul statului contractant, aplicarea convenției creează în principiu mai puține dificultăți. Problemele juridice apar atunci când operațiunile militare se desfășoară pe teritoriul Regatului Unit.