Commission>{AFET}Comisia pentru afaceri externe</Commission>

Parlamentul European

2019-2024

<Commission>{AFET}Comisia pentru afaceri externe</Commission>

<CommissionResp>al Comisiei pentru afaceri externe</CommissionResp>

<CommissionInt>destinat Comisiei pentru afaceri juridice</CommissionInt>

<Titre>referitor la inteligența artificială: chestiuni legate de interpretarea și aplicarea dreptului internațional, în măsura în care Uniunea Europeană este afectată, în domeniile utilizărilor civile și militare, precum și chestiuni legate de autoritatea statului în afara domeniului de aplicare al justiției penale

</Titre>

Raportor pentru aviz (*): <Depute>Xxxxx Xxxx</Depute>

(*) Procedura comisiilor asociate – articolul 57 din Regulamentul de procedură

PA_NonLeg

SUGESTII

Comisia pentru afaceri externe recomandă Comisiei pentru afaceri juridice, care este comisie competentă, includerea următoarelor sugestii în propunerea de rezoluție ce urmează a fi adoptată:

1. subliniază că politicile de securitate și apărare ale Uniunii Europene și ale statelor sale membre se ghidează după principiile consacrate în Carta Europeană a Drepturilor Fundamentale și Carta Organizației Națiunilor Unite, care face un apel la toate statele să se abțină de la amenințarea cu forța sau utilizarea forței în relațiile reciproce, precum și după dreptul internațional, principiile drepturilor omului și respectării demnității umane și după înțelegerea comună a valorilor universale care constituie drepturile inviolabile și inalienabile ale ființei umane: libertatea, democrația, egalitatea și statul de drept; evidențiază că toate eforturile în materie de apărare din cadrul Uniunii trebuie să respecte aceste valori universale, promovând în același timp pacea, stabilitatea, securitatea și progresul în Europa și în lume;

2. invită ONU și comunitatea internațională în sens larg să depună toate eforturile de reglementare necesare pentru ca dezvoltarea și aplicarea inteligenței artificiale (IA) în scopuri militare și pentru a întări capacitățile civile ale forțelor de ordine, precum poliția și grănicerii, precum și studierea, dezvoltarea și utilizarea sistemelor bazate pe IA de către forțele armate să se mențină în limitele stricte stabilite de dreptul internațional, inclusiv dreptul internațional umanitar (DIU) și drepturile omului; subliniază că UE ar trebui să promoveze adoptarea la nivel internațional a standardelor sale tehnice și etice pentru sistemele militare bazate pe IA și, în strânsă cooperare cu partenerii care văd lucrurile la fel, să încerce să creeze un cadru de reglementare internațional care să definească norme comune bazate pe valori democratice, concepute astfel încât să prevină utilizarea pentru spionaj, supraveghere în masă, focalizată și politică, dezinformare și manipularea datelor, căutând să împiedice și o cursă a înarmării cibernetice; pledează pentru o cooperare mai strânsă cu NATO pentru a stabili standarde comune și a mări interoperabilitatea sistemelor bazate pe IA; invită Comisia să promoveze dialogul, o cooperare mai strânsă și sinergii între statele membre, cercetători, mediul academic, protagoniștii societății civile și sectorul privat, în special întreprinderile de prim rang, precum și forțele armate, pentru a asigura o participare cât mai largă la procesele de elaborare a politicilor de reglementare a aplicațiilor IA din domeniul militar;

3. consideră, în special, că proiectarea, dezvoltarea intenționată și utilizarea sistemelor bazate pe IA în conflicte armate trebuie, după cum prevede xxxxxx Xxxxxxx, să respecte principiile generale ale DIU și să nu încalce niciodată, nici să nu fie lăsate să încalce cerințele impuse de conștiința publică și de regulile omeniei; consideră că conformitatea cu DIU este standardul de admisibilitate minimă pentru utilizarea în război a sistemelor bazate pe IA; solicită comunității de cercetare din domeniul IA să integreze acest principiu în toate sistemele bazate pe IA care urmează să fie utilizate în război; este de părere că nicio autoritate nu poate acorda o derogare de la aceste principii, nici nu poate certifica un sistem bazat pe IA care le încalcă; roagă, prin urmare, Rusia și SUA, principalii dezvoltatori de sisteme de arme letale autonome (LAWS), să înceteze orice proces de proiectare, fabricare de prototipuri și producție a unor astfel de sisteme;

4. salută crearea Grupului de experți guvernamentali (GEG) al ONU pentru promovarea unui comportament responsabil al statelor în spațiul cibernetic în contextul securității internaționale și invită UE să participe la toate lucrările acestuia;

5. roagă ÎR/VP să creeze condiții propice pentru negocieri la nivel mondial pentru a introduce regim de control al armelor bazate pe IA și a actualiza toate instrumentele existente prevăzute de tratate consacrate controlului armelor, dezarmării și neproliferării, astfel încât să se ia în considerare sistemele bazate pe IA folosite în război; solicită Consiliului ca în Poziția comună de definire a normelor comune care reglementează controlul exporturilor de tehnologie și echipament militar să ia în considerare și să includă toate sistemele de arme bazate pe IA;

6. subliniază că statele, părțile la un conflict și persoanele, când utilizează sisteme bazate pe IA în război, trebuie să își respecte întotdeauna obligațiile și responsabilitățile care le revin în temeiul dreptului internațional aplicabil și să poată fi trași la răspundere pentru acțiunile care rezultă din utilizarea unor astfel de sisteme; reamintește că oamenii sunt răspunzători pentru efectele intenționate, neintenționate sau nedorite cauzate de sistemele bazate pe IA pe câmpul de luptă; subliniază că decizia de a ucide oameni cu ajutorul unor sisteme de arme autonome trebuie luată întotdeauna de operatori umani, care să exercite control și supraveghere și să dispună de nivelul de judecată necesar în conformitate cu principiile proporționalității și necesității; subliniază că dispozitivele bazate pe IA nu pot fi, în niciun caz, lăsate să înlocuiască omul în luarea deciziilor;

7. subliniază că trebuie luate bine în calcul, în fazele de proiectare, dezvoltare, testare și punere în funcțiune ale unui sistem bazat pe IA, riscurile potențiale, având în vedere mai ales victimele în rândul civililor, pierderile de vieți omenești și daunele aduse infrastructurii civile survenite accidental, dar și riscurile de declanșare neintenționată, manipulare, proliferare, atacuri cibernetice sau interferență și riscul de a fi achiziționate de organizații criminale și grupări teroriste, provocând efecte destabilizatoare de escaladare care urmăresc să ne submineze societățile, forțele armate și instituțiile;

8. este preocupat că nu toți membrii comunității internaționale au de gând să adopte în domeniul IA o abordare bazată pe reglementări și pe supremația factorului uman; îndeamnă UE și statele membre să evalueze dezvoltarea tehnologiilor IA, îndeosebi a celor utilizate în scopuri militare și de supraveghere, în state autoritare care nu vor să respecte reglementările propuse de UE;

9. subliniază necesitatea unor sisteme robuste de testare, evaluare, monitorizare și verificare, bazate pe norme juridice și democratice clare și pe dispoziții de securitate și siguranță clare, care să garanteze că, pe parcursul întregului ciclu de viață al sistemelor bazate pe IA din domeniul militar, în special în fazele de interacțiune om-mașină, de învățare automată și de ajustare și adaptare la noi circumstanțe, sistemele nu depășesc limitele preconizate și că sunt utilizate în orice moment într-un mod conform cu dreptul internațional aplicabil; consideră că, în cazul în care aceste limite sunt depășite într-un teatru de operații, autoritățile civile sau militare care au mobilizat sisteme IA ar trebui să fie trase la răspundere;

10. subliniază că orice sistem bazat pe IA utilizat în domeniul militar trebuie, ca un set minim de cerințe, să fie în măsură să facă distincția între combatanți și necombatanți pe câmpul de luptă și între ținte militare și civile, să recunoască atunci când un combatant se predă sau este scos din luptă, să nu aibă efecte nediferențiate, să individualizeze utilizarea forței și să nu țintească o anumită categorie de persoane, să nu producă suferință inutilă persoanelor, nici să nu aplice tratamente cu cruzime sau degradante, să nu fie părtinitor sau să fie programat pe baza unor date părtinitoare și să fie utilizat în conformitate cu principiile generale ale dreptului internațional umanitar: omenia, distincția, proporționalitatea și principiul necesității militare înainte de mobilizare și în timpul atacurilor; subliniază cât sunt de importante calitatea algoritmilor, datele inițiale și revizuirea ex-ante a proceselor decizionale;

11. subliniază că utilizarea sistemelor bazate pe IA în domeniul securității și apărării presupune o înțelegere deplină a situației din partea operatorului, predictibilitate și fiabilitate din partea sistemelor bazate pe IA și capacitatea operatorului uman de a detecta eventuale modificări ale situației și mediului de funcționare, ca și capacitatea sa de a interveni sau de a întrerupe un atac, pentru ca principiile dreptului internațional umanitar, în special distincția, proporționalitatea și precauția în atac, să fie aplicate integral în tot lanțul de comandă și control; subliniază că sistemele bazate pe IA trebuie să le permită conducătorilor militari să exercite cu chibzuință controlul, să își asume întreaga responsabilitate și să poată fi trași în orice moment;

12. încurajează statele să facă o evaluare pentru a vedea dacă și în ce mod au contribuit dispozitivele militare autonome la securitatea lor națională și ce ar avea de câștigat securitatea lor națională de pe urma sistemelor militare bazate pe IA, în special potențialul acestor tehnologii de a sprijini și confirma deciziile luate de oameni în conformitate cu DIU și principiile sale; reamintește că orice sistem de arme autonome letale sau orice armă cu un nivel ridicat de autonomie ar putea să funcționa greșit din cauza unui cod scris greșit sau a unui atac cibernetic comis de un stat inamic sau de o entitate nestatală;

13. reamintește Rezoluția sa din 12 septembrie 2018 referitoare la sistemele de arme autonome; salută, în acest sens, acordul între Consiliul și Parlamentul de a exclude din acțiunile finanțate prin Fondul european de apărare armele autonome letale „care nu permit un control uman semnificativ asupra deciziilor de selectare și de lansare, atunci când efectuează atacuri”;

14. solicită înființarea unei Agenții europene pentru inteligența artificială, al cărei mandat ar urma să cuprindă cadre comune de standardizare, certificare și monitorizare, precum și cooperare bilaterală strânsă cu NATO în ce privește introducerea, dezvoltarea și utilizarea IA în domeniul militar;

15. reamintește poziția din 12 septembrie 2018 privind sistemele de arme autonome, care afirmă că nu trebuie lansate atacuri fără o intervenție umană semnificativă; le cere ÎR/VP, statelor membre și Consiliului European să adopte o poziție comună față de sistemele de arme autonome, care să asigure un control uman semnificativ asupra funcțiilor critice ale sistemelor militare, inclusiv în timpul mobilizării; își reafirmă sprijinul față de munca depusă de GEG al înaltelor părți contractante la Convenția privind anumite tipuri de arme convenționale (CCW) al ONU în legătură cu sistemele de arme autonome letale, care rămâne forumul internațional relevant pentru discuții și negocieri privind problemele juridice ridicate de sistemele de arme autonome; solicită accelerarea tuturor eforturilor multilaterale existente, astfel încât cadrele normative și de reglementare să nu rămână în urmă față de evoluțiile tehnologice și de noile metode de luptă; invită ÎR/VP ca, în cadrul discuțiilor în curs privind reglementarea internațională a sistemelor de arme autonome letale de către statele părți la Convenția privind interzicerea sau restricționarea utilizării anumitor arme convenționale (CCW), să rămână deschiși dialogului și să contribuie fără preget la efortul de a întocmi un nou cadru global de reglementare axat pe definițiile, conceptele și caracteristicile tehnologiilor emergente în domeniul armelor autonome letale, problemele de ordin etic și juridic legate de controlul uman, mai ales în ceea ce privește funcțiile critice, precum selectarea și atacarea unei ținte, menținerea responsabilității și a răspunderii umane și gradul necesar de interacțiune între om și mașină, inclusiv conceptul de control uman și judecată umană, în diferitele etape ale ciclului de viață al unei arme bazate pe IA, în scopul de conveni asupra unor recomandări concrete privind clarificarea, examinarea și dezvoltarea unor aspecte ale cadrului normativ referitor la tehnologiile emergente în domeniul sistemelor de arme autonome letale;

16. evidențiază faptul că Uniunea Europeană trebuie să depună eforturi pentru a-și asigura reziliența strategică, astfel încât să nu mai fie prinsă niciodată nepregătită în vremuri de criză și subliniază că, în special în ceea ce privește inteligența artificială și aplicațiile sale militare, acest aspect are o importanță majoră; subliniază că lanțurile de aprovizionare pentru sistemele militare bazate pe IA care pot duce la dependență tehnologică ar trebui recalibrate, eliminând treptat astfel de dependențe; solicită mai multe investiții în IA europeană destinată apărării și în infrastructura critică care o susține;

17. recunoaște că dinamica cursei moderne a înarmării între statele naționale majore pe plan militar în dezvoltarea sistemelor de arme autonome letale este mai rapidă decât eforturile de a introduce, aplica și impune la nivel mondial norme comune și cadre juridice, deoarece informațiile despre dezvoltarea și mobilizarea acestor sisteme sunt clasificate, iar statele naționale sunt inerent interesate să creeze cele mai rapide și mai eficace capacități ofensive, indiferent de cadrele sau de principiile juridice actuale sau care s-ar putea crea în viitor;

18. consideră extrem de important pentru securitatea mondială să existe un mecanism eficace de impunere a respectării normelor privind neproliferarea LAWS și a oricăror tehnologii ofensive viitoare bazate pe IA.

INFORMAȚII PRIVIND ADOPTAREA
ÎN COMISIA SESIZATĂ PENTRU AVIZ

Data adoptării	6.7.2020
Rezultatul votului final	+: –: 0:	60 6 4
Membri titulari prezenți la votul final	Xxxxxxx Xxxxxxxx, Xxxxxxxxx Xxxxxxxxxx Xxxxxxxx, Xxxxx Xxxxx, Xxxxxx Xxxxxxxxxxxx, Xxxxxx Xxxxxxx, Xxxx Xxxxxxx Xxxx, Xxxx Xxxxxxxxx, Xxxxxxxx Xxxxxxxxx, Xxxxx Xxxxxxx Xxxxxxxx, Xxxxxxx Xxxxxxxx, Xxxxxxxxxxx Xxxxxxxxxxx, Xxxxxxx Xxxx, Xxxxx Xxxxx, Xxxx Xxxxxx, Xxxxxxx Xxxxxx, Xxxxx Xxx, Xxxxxxx Xxxxxx, Xxxxxxx Xxxxxxxxxx, Xxxxxx Xxxxxxx, Xxxxxxx Xxxxxx, Xxxxxx Xxxxxxxxx, Xxxxxx Xxxxxxxx, Xxxxx Xxxxxx, Xxxxxxx Xxxxxx, Xxxxxxx Xxxxxxxx, Xxxxx Xxxxxxxx, Xxxxx Xxxx, Xxxxxx Xxxxxxx, Xxxxxxxx Xxxxxxx, Xxxxxxx Xxxxx-Istúriz Xxxxx, Xxxxx Xxxxx, Xxxxxxx Xxxxxxx, Xxxxx XxXxxxxxxx, Xxxxxxxx Xxxxxxxxxx, Xxxx Xxxxxx, Xxxxxxxxx Xxxx Xxxxxx Xxx, Xxxxxx Xxxx, Xxxxxxxx-Xxxx Xxxxxx, Xxxxx Xxxx, Xxxxxx Xxxxxxxxx, Xxxxxx Xxxxxx, Xxxx Xxxxxx, Xxxx Xxxx, Xxxxxxxx Xxxxxxx, Xxxxx Xxxx i Xxxxx, Xxxxxx Xxxxxxx, Xxxxx Xxxxxx Xxxxxxxxx Xxxxx, Xxxxx Xxxxxxx Xxxx, Xxxxxx Xxxxxx, Xxxxx Xxxxxxx-Xxxxxx, Xxxxxxx Xxxxxxxx, Xxxxxxxx Xxxxxxxx, Xxxxxx Xxxxxxxxx, Xxxxxx Xxxxx, Xxxxxxx Xxxxxxx, Xxxxx Xxxxxxxx, Xxxxxx Xxxxxxxx, Idoia Xxxxxxxxxx Xxxx, Xxxxx Xxx Xxxxxx-Xxxxxxxx, Xxxxxx Xxxxx, Xxxxxx Xxx Xxxxxxxxxxxxx, Xxxxxxx Xxxxxxx, Xxxxxx Xxxxxxx-Xxxx, Xxxxxx Xxxxxx, Xxxxxxx Xxxxx
Membri supleanți prezenți la votul final	Xxxxx Xxxxxxxxxxx, Xxxxxxxx Xxxxxx, Xxxxxx Xxxxxx, Xxxxxx Xxxxxx, Xxxx Xxxxxxx

VOT FINAL PRIN APEL NOMINAL ÎN COMISIA SESIZATĂ PENTRU AVIZ

60	+
PPE	Xxxxxxxxx Xxxxxxxxxx Xxxxxxxx, Xxxxxx Xxxxxxx, Xxxxxxx Xxxxxx, Xxxxx Xxx, Xxxxxxx Xxxxxx, Xxxxxx Xxxxxxxx, Xxxxxxx Xxxxxxxx, Xxxxx Xxxx, Xxxxxx Xxxxxxx, Xxxxxxx Xxxxx-Istúriz Xxxxx, Xxxxx XxXxxxxxxx, Xxxxx Xxxxx, Xxxxxxxx Xxxxxxxxxx, Xxxxxxxxx Xxxx Xxxxxx Xxx, Xxxxxxxx-Xxxx Xxxxxx, Xxxxxxxx Xxxxxxxx, Xxxxxx Xxxxxxx-Xxxx, Xxxxxxx Xxxxx, Xxxxxxxx Xxxxxx
S&D	Xxxxx Xxxxx, Xxxxxxxxxxx Xxxxxxxxxxx, Xxxxx Xxxxx, Xxxxxxx Xxxxxxxxxx, Xxxx Xxxxxx, Xxxxxx Xxxxxx, Xxxx Xxxx, Xxxxxxxx Xxxxxxx, Xxxxx Xxxxxxx Xxxx, Xxxxxx Xxxxxx, Xxxxxxx Xxxxxxxx, Xxxxxx Xxxxxxxxx, Xxxxx Xxxxxxxxxxx Xxxxx, Xxxxxx Xxxxxx
XXXXX	Xxxxxx Xxxxxxxxxxxx, Xxxxxxx Xxxx, XXxxxx Xxxxxxx, Xxxxxxx Xxxxxx, Xxxxx Xxxxxxxx, Xxxxxxxx Xxxxxxx, Xxxxxx Xxxx, Xxxxx Xxxx, Xxxxx Xxxxxx Xxxxxxxxx Xxxxx, Xxxxx Xxxxxxxx
ID	Xxxx Xxxxxxxxx, Xxxxxxx Xxxxxxxx
VERTS	Xxxxxxx Xxxxxxxx, Xxxxxxxx Xxxxxxxxx, Xxxxx Xxxx i Xxxxx, Xxxxxx Xxxxx, Xxxxx xxx Xxxxxx-Xxxxxxxx, Xxxxxx Xxxxx, Xxxxxx Xxxxxx
ECR	Xxxx Xxxxxx, Xxxxx Xxxxxx, Xxxxx Xxxxxxx-Xxxxxx, Xxxxxxx Xxxxxxx, Xxxxxx Xxx Xxxxxxxxxxxxx, Xxxxxxx Xxxxxxx
NI	Xxxxx Xxxxxxx Xxxxxxxx, Xxxxxx Xxxxxxxxx

6	-
S&D	Xxxxxxx Xxxxxx
GUE	Xxxx Xxxxxx, Idoia Xxxxxxxxxx Xxxx, Xxxxxx Xxxxxx, Xxxx Xxxxxxx
NI	Xxxxxx Xxxxxxxx

4	0
ID	Xxxx Xxxxxxx Xxxx, Xxxxxxx Xxxxxxx, Xxxxxx Xxxxxxx, Xxxxxx Xxxxxxxx

Legenda simbolurilor utilizate:

+ : pentru

- : împotrivă

0 : abțineri

RO Unită în diversitate RO

Document Metadata

Table of Contents

Commission>{AFET}Comisia pentru afaceri externe</Commission>

Document Metadata