PR_INI

Europski parlament

2019-2024

Dokument s plenarne sjednice

A90186/2020

{08/10/2020}8.10.2020

IZVJEŠĆE

s preporukama Komisiji o okviru etičkih aspekata umjetne inteligencije, robotike i s njima povezanih tehnologija

(2020/2012(INI))

{JURI}Odbor za pravna pitanja

Izvjestitelj: Ibán García del Blanco

Izvjestitelji za mišljenje (*):

Urmas Paet, Odbor za vanjske poslove

Alexandra Geese, Odbor za unutarnje tržište i zaštitu potrošača

Valter Flego, Odbor za promet i turizam

Assita Kanko, Odbor za građanske slobode, pravosuđe i unutarnje poslove

(*)Pridruženi odbori – članak 57. Poslovnika

(Inicijativa – članak 47. Poslovnika)

PR_INI

SADRŽAJ

Stranica

PRIJEDLOG REZOLUCIJE EUROPSKOG PARLAMENTA3

PRILOG PRIJEDLOGU REZOLUCIJE: DETALJNE PREPORUKE O SADRŽAJU TRAŽENOG PRIJEDLOGA34

A. NAČELA I CILJEVI TRAŽENOG PRIJEDLOGA34

B. TEKST TRAŽENOG ZAKONODAVNOG PRIJEDLOGA38

OBRAZLOŽENJE63

MIŠLJENJE ODBORA ZA VANJSKE POSLOVE66

MIŠLJENJE ODBORA ZA UNUTARNJE TRŽIŠTE I ZAŠTITU POTROŠAČA76

MIŠLJENJE ODBORA ZA PROMET I TURIZAM84

MIŠLJENJE ODBORA ZA GRAĐANSKE SLOBODE, PRAVOSUĐE I UNUTARNJE POSLOVE91

MIŠLJENJE ODBORA ZA ZAPOŠLJAVANJE I SOCIJALNA PITANJA100

MIŠLJENJE ODBORA ZA OKOLIŠ, JAVNO ZDRAVLJE I SIGURNOST HRANE108

MIŠLJENJE ODBORA ZA KULTURU I OBRAZOVANJE124

INFORMACIJE O USVAJANJU U NADLEŽNOM ODBORU130

POIMENIČNO KONAČNO GLASOVANJE U NADLEŽNOM ODBORU131

PRIJEDLOG REZOLUCIJE EUROPSKOG PARLAMENTA

s preporukama Komisiji o okviru etičkih aspekata umjetne inteligencije, robotike i s njima povezanih tehnologija

(2020/2012(INI))

Europski parlament,

–uzimajući u obzir članak 225. Ugovora o funkcioniranju Europske unije,

–uzimajući u obzir članak 114. Ugovora o funkcioniranju Europske unije,

–uzimajući u obzir Povelju Europske unije o temeljnim pravima,

–uzimajući u obzir Uredbu Vijeća (EU) 2018/1488 od 28. rujna 2018. o osnivanju Zajedničkog poduzeća za europsko računalstvo visokih performansi[footnoteRef:1], [1: SL L 252, 8.10.2018., str. 1.]

–uzimajući u obzir Direktivu Vijeća 2000/43/EZ od 29. lipnja 2000. o provedbi načela jednakog postupanja prema osobama bez obzira na njihovo rasno ili etničko podrijetlo[footnoteRef:2] (Direktiva o rasnoj jednakosti), [2: SL L 180, 19.7. 2000., str. 22.]

–uzimajući u obzir Direktivu Vijeća 2000/78/EZ od 27. studenoga 2000. o uspostavi općeg okvira za jednako postupanje pri zapošljavanju i obavljanju zanimanja[footnoteRef:3] (Direktiva o jednakom postupanju pri zapošljavanju), [3: SL L 303, 2.12.2000., str. 16.]

–uzimajući u obzir Uredbu (EU) 2016/679 Europskog parlamenta i Vijeća od 27. travnja 2016. o zaštiti pojedinaca u vezi s obradom osobnih podataka i o slobodnom kretanju takvih podataka te o stavljanju izvan snage Direktive 95/46/EZ (Opća uredba o zaštiti podataka)[footnoteRef:4] i Direktivu (EU) 2016/680 Europskog parlamenta i Vijeća od 27. travnja 2016. o zaštiti pojedinaca u vezi s obradom osobnih podataka od strane nadležnih tijela u svrhe sprečavanja, istrage, otkrivanja ili progona kaznenih djela ili izvršavanja kaznenih sankcija i o slobodnom kretanju takvih podataka te o stavljanju izvan snage Okvirne odluke Vijeća 2008/977/PUP[footnoteRef:5], [4: SL L 119, 4.5.2016., str. 1.] [5: SL L 119, 4.5.2016., str. 89.]

–uzimajući u obzir Međuinstitucijski sporazum od 13. travnja 2016. o boljoj izradi zakonodavstva[footnoteRef:6], [6: SL L 123, 12.5.2016., str. 1.]

–uzimajući u obzir Prijedlog Uredbe Europskog parlamenta i Vijeća od 6. lipnja 2018. o uspostavi programa Digitalna Europa za razdoblje 2021. – 2027. (COM(2018)434),

–uzimajući u obzir Komunikaciju Komisije Europskom parlamentu, Vijeću, Europskom gospodarskom i socijalnom odboru te Odboru regija od 11. prosinca 2019. o europskom zelenom planu (COM(2019)0640),

–uzimajući u obzir komunikaciju Komisije od 19. veljače 2020. upućenu Europskom parlamentu, Vijeću, Europskom gospodarskom i socijalnom odboru i Odboru regija naslovljenu „Umjetna inteligencija – Europski pristup izvrsnosti i izgradnji povjerenja” (COM(2020)0065),

–uzimajući u obzir komunikaciju Komisije od 19. veljače 2020. upućenu Europskom parlamentu, Vijeću, Europskom gospodarskom i socijalnom odboru te Odboru regija naslovljenu „Europska strategija za podatke” (COM(2020)0066),

–uzimajući u obzir komunikaciju Komisije od 19. veljače 2020. upućenu Europskom parlamentu, Vijeću, Europskom gospodarskom i socijalnom odboru te Odboru regija naslovljenu „Izgradnja digitalne budućnosti Europe” (COM(2020)0067),

–uzimajući u obzir zaključke Vijeća Europske unije o oblikovanju digitalne budućnosti Europe iz lipnja 2020.,

–uzimajući u obzir svoju Rezoluciju od 16. veljače 2017. s preporukama Komisiji o pravilima građanskog prava o robotici[footnoteRef:7], [7: SL C 252, 18.7.2018., str. 239.]

–uzimajući u obzir svoju Rezoluciju od 1. lipnja 2017. o digitalizaciji europske industrije[footnoteRef:8], [8: SL C 307, 30.8.2018., str. 163.]

–uzimajući u obzir svoju Rezoluciju od 12. rujna 2018. o autonomnim oružanim sustavima[footnoteRef:9], [9: SL C 433, 23.12.2019., str. 86.]

–uzimajući u obzir svoju Rezoluciju od 11. rujna 2018. o jezičnoj ravnopravnosti u digitalnom dobu[footnoteRef:10], [10: Usvojeni tekstovi, P8_TA(2018)0332.]

–uzimajući u obzir svoju Rezoluciju od 12. veljače 2019. o sveobuhvatnoj europskoj industrijskoj politici o umjetnoj inteligenciji i robotici[footnoteRef:11], [11: Usvojeni tekstovi, P8_TA(2019)0081.]

–uzimajući u obzir izvješće naslovljeno „Etičke smjernice za pouzdanu umjetnu inteligenciju” od 8. travnja 2019., koje je sastavila Komisijina stručna skupina na visokoj razini za umjetnu inteligenciju,

–uzimajući u obzir brifinge i studije pripremljene na zahtjev Vijeća za budućnost znanosti i tehnologije (STOA), kojim upravlja Odjel za znanstvena predviđanja pri Europskoj parlamentarnoj službi za istraživanje, pod naslovima „What if algorithms could abide by ethical principles? (Što bi se dogodilo kada bi se algoritmi mogli pridržavati etičkih načela?)”, „Artificial Intelligence ante portas: Legal & ethical reflections (Umjetna inteligencija ante portas: pravne i etičke analize)”, „A governance framework for algorithmic accountability and transparency (Okvir za upravljanje algoritamskom odgovornošću i transparentnosti)”, „Should we fear artificial intelligence? (Trebamo li se bojati umjetne inteligencije?)” i „The ethics of artificial intelligence: Issues and initiatives (Etika umjetne inteligencije: pitanja i incijative)”,

–uzimajući u obzir Okvirnu konvenciju Vijeća Europe za zaštitu nacionalnih manjina, Protokol br. 12 Europske konvencije za zaštitu ljudskih prava i temeljnih sloboda i Europsku povelju o regionalnim ili manjinskim jezicima,

–uzimajući u obzir Preporuku Vijeća OECD-a o umjetnoj inteligenciji donesenu 22. svibnja 2019.,

–uzimajući u obzir članke 47. i 54. Poslovnika,

–uzimajući u obzir izvješća Odbora za vanjske poslove, Odbora za unutarnju trgovinu i zaštitu potrošača, Odbora za promet i turizam, Odbora za građanske slobode, pravosuđe i unutarnje poslove, Odbora za zapošljavanje i socijalna pitanja, Odbora za okoliš, javno zdravlje i sigurnost hrane i Odbora za kulturu i obrazovanje,

–uzimajući u obzir izvješće Odbora za pravna pitanja (A9-0186/2020),

Uvod

A.budući da razvoj, primjenu i korištenje umjetne inteligencije, robotike i povezanih tehnologija obavljaju ljudi, te da o njihovim odlukama ovisi u kojoj će mjeri te tehnologije koristiti društvu;

B.budući da se umjetna inteligencija, robotika i s njima povezane tehnologije koje imaju potencijal za stvaranje prilika za poduzeća i koristi za građane i koje mogu izravno utjecati na sve aspekte naših društava, uključujući temeljna prava te socijalna i gospodarska načela i vrijednosti te imaju trajan utjecaj na sva područja djelovanja, brzo promiču i razvijaju;

C.budući da će umjetna inteligencija, robotika i s njima povezane tehnologije dovesti do bitnih promjena na tržištu rada i na radnom mjestu; budući da bi one mogle zamijeniti radnike koji obavljaju repetitivne radnje, olakšati primjenu radnih sustava u kojima čovjek i stroj surađuju, povećati konkurentnost i blagostanje te stvoriti nove mogućnosti zapošljavanja za kvalificirane radnike, dok istovremeno predstavljaju ozbiljan izazov u smislu reorganizacije radne snage;

D.budući da razvoj umjetne inteligencije, robotike i s njima povezanih tehnologija također može doprinijeti postizanju ciljeva održivosti u okviru europskog zelenog plana u različitim sektorima; budući da digitalne tehnologije mogu povećati učinak politika u pogledu zaštite okoliša; budući da mogu doprinijeti i smanjenju prometne gužve te emisija stakleničkih plinova i onečišćivača zraka;

E.budući da se u sektorima kao što je javni prijevoz sustavi umjetne inteligencije za inteligentne prometne sustave mogu upotrebljavati kako bi se smanjilo čekanje u redovima, optimiziralo usmjeravanje, omogućila veća neovisnost osoba s invaliditetom te povećala energetska učinkovitost i tako poboljšali napori za dekarbonizaciju i smanjio ekološki otisak;

F.budući da te tehnologije mogu stvoriti nove poslovne prilike koje mogu pridonijeti oporavku industrije u Uniji nakon aktualne zdravstvene i gospodarske krize ako ih se bude više koristilo, primjerice, u sektoru prometa; budući da takve prilike mogu stvoriti nova radna mjesta jer početak uvođenja tih tehnologija ima potencijal da poveća razine produktivnosti poduzeća i pridonese povećanju učinkovitosti; budući da inovacijski programi u tom području mogu omogućiti napredak regionalnih klastera;

G.budući da Unija i njezine države članice imaju osobitu odgovornost iskoristiti, promicati i povećati dodanu vrijednost umjetne inteligencije te osigurati da su tehnologije umjetne inteligencije sigurne i da doprinose dobrobiti i općem interesu građana jer mogu uvelike doprinijeti postizanju zajedničkog cilja poboljšanja života građana i poticanja blagostanja u Uniji doprinoseći razvoju boljih strategija i inovacija u nizu područja i sektora; budući da je, kako bi se maksimalno iskoristio potencijal umjetne inteligencije, a korisnici osvijestili prednosti i mane takve tehnologije, umjetnu inteligenciju ili digitalnu pismenost potrebno tematizirati u području obrazovanja i osposobljavanja, uključujući u pogledu promicanja digitalne uključenosti, te provesti informativne kampanje na razini Unije kojima se točno prikazuju svi aspekti razvoja umjetne inteligencije;

H.budući da bi zajednički regulatorni okvir Unije za razvoj, uvođenje i upotrebu umjetne inteligencije, robotike i s njima povezanih tehnologija (regulatorni okvir za umjetnu inteligenciju) trebao omogućiti građanima da dijele koristi koje te tehnologije potencijalno predstavljaju te ih istodobno štititi od mogućih rizika i promicati pouzdanu tehnologiju diljem Unije i šire; budući da bi se taj okvir trebao temeljiti na zakonima i vrijednostima Unije te voditi načelima transparentnosti i objašnjivosti, pravednosti, pouzdanosti i odgovornosti;

I.budući da je takav regulatorni okvir od ključne važnosti za izbjegavanje fragmentacije unutarnjeg tržišta, koja proizlazi iz različitih nacionalnih zakonodavstava, te će pomoći u poticanju prijeko potrebnih ulaganja, razvoju podatkovne infrastrukture i podupiranju istraživanja; budući da bi se trebao sastojati od zajedničkih pravnih obveza i etičkih načela kako je utvrđeno u prijedlogu Uredbe zatraženom u prilogu ovoj Rezoluciji; budući da bi taj okvir trebalo uspostaviti u skladu sa smjernicama za donošenje bolje regulative;

J.budući da Unija ima strog pravni okvir kako bi se, među ostalim, osiguralo zaštitu osobnih podataka i privatnosti te borilo protiv diskriminacije, promicalo rodnu ravnopravnost, zaštitu okoliša i prava potrošača; budući da će se pravni okvir koji čine opsežno horizontalno i sektorsko zakonodavstvo, uključujući postojeća pravila o sigurnosti i odgovornosti u pogledu proizvoda, nastaviti primjenjivati u odnosu na umjetnu inteligenciju, robotiku i s njima povezane tehnologije, iako će možda biti potrebne određene prilagodbe posebnih pravnih instrumenata kako bi se odrazila digitalna transformacija i kako bi se odgovorilo na nove izazove koje predstavlja upotreba umjetne inteligencije;

K.budući da postoji zabrinutost da trenutačni pravni okvir Unije, uključujući pravnu stečevinu u području zaštite potrošača, zapošljavanja i socijalnih pitanja, zakonodavstvo o zaštiti podataka, zakonodavstvo o sigurnosti proizvoda i nadzoru tržišta, kao i zakonodavstvo o suzbijanju diskriminacije, više nije prikladan za učinkovito hvatanje u koštac s rizicima koji proizlaze iz umjetne inteligencije, robotike i s njima povezanih tehnologija;

L.budući da bi se, uz prilagodbu postojećem zakonodavstvu, na pravna i etička pitanja povezana s tim tehnologijama trebalo odgovoriti konkretnim i sveobuhvatnim regulatornim okvirom prava Unije koji će biti otporan na buduće promjene i u kojem će se istovremeno odražavati načela i vrijednosti Unije sadržani u Ugovorima i Povelji o temeljnim pravima te kojim se neće prekomjerno regulirati, već će se njime samo zatvoriti postojeće pravne praznine i povećati pravna sigurnost za poduzeća i građane, počevši od uvođenja obveznih mjera za sprečavanje praksi kojima bi se nedvojbeno ugrozila temeljna prava i slobode;

M.budući da se svakim novim regulatornim okvirom moraju uzeti u obzir svi predmetni interesi; budući da bi preduvjet za daljnje zakonodavne korake trebalo biti pažljivo ispitivanje posljedica svakog novog regulatornog okvira u odnosu na sve sudionike i to u okviru procjene učinka; budući da ključna uloga malih i srednjih poduzeća (MSP-ovi) i start-up poduzeća, posebno u gospodarstvu Unije, opravdava strogo razmjeran pristup kako bi im se omogućili razvoj i inovacije;

N.budući da umjetna inteligencija, robotika i povezane tehnologije mogu imati ozbiljne posljedice na materijalni i nematerijalni integritet pojedinaca, skupina i društva u cjelini te da se za potencijalne pojedinačne i kolektivne štete moraju pronaći zakonodavna rješenja;

O.budući da će za poštovanje regulatornog okvira Unije za umjetnu inteligenciju možda biti potrebno donijeti posebna pravila za prometni sektor Unije;

P.budući da su tehnologije umjetne inteligencije od strateške važnosti za prometni sektor, uključujući i zbog toga što se njima povećava sigurnost i dostupnost svih vrsta prijevoza te stvaraju nove prilike za zapošljavanje i više održivih poslovnih modela; budući da pristup Unije razvoju umjetne inteligencije, robotike i povezanih tehnologija u prometu ima potencijal za povećanje globalne konkurentnosti i strateške autonomije gospodarstva Unije;

Q.budući da je ljudska pogreška još uvijek prisutna u oko 95 % svih prometnih nesreća u EU-u; budući da je cilj Unije bio smanjiti godišnji broj poginulih na cestama u Uniji za 50 % do 2020. u usporedbi s 2010., ali je s obzirom na stagnirajući napredak ponovo počela ulagati napore u „Okvir politike cestovne sigurnosti od 2021. do 2030. – Sljedeći koraci prema ostvarenju „Vizije nula”; budući da u tom pogledu umjetna inteligencija, automatizacija i druge nove tehnologije imaju veliki potencijal i ključnu ulogu za povećanje cestovne sigurnosti smanjenjem mogućnosti ljudske pogreške;

R.budući da bi se regulatornim okvirom Unije za umjetnu inteligenciju također trebalo nastojati zajamčiti poštovanje prava radnika; budući da bi trebalo uzeti u obzir Okvirni sporazum europskih socijalnih partnera o digitalizaciji iz lipnja 2020.;

S.budući da bi područje primjene regulatornog okvira Unije za umjetnu inteligenciju trebalo biti primjereno, razmjerno i detaljno analizirano; budući da bi taj okvir trebao obuhvaćati širok raspon tehnologija i njihovih sastavnica, uključujući algoritme, računalne programe i podatke koje te tehnologije upotrebljavaju ili proizvode, te da je potrebno usvojiti ciljani pristup utemeljen na riziku kako bi se izbjeglo ometanje budućih inovacija i stvaranje nepotrebnog tereta, posebno za MSP-ove; budući da raznolikost aplikacija potaknutih umjetnom inteligencijom, robotikom i s njima povezanim tehnologijama komplicira pronalaženje jedinstvenog rješenja prikladnog za cijeli spektar rizika;

T.budući da analiza podataka i umjetna inteligencija sve više utječu na informacije koje se stavljaju na raspolaganje građanima; budući da takve tehnologije, ako se zloupotrijebe, mogu ugroziti temeljna prava na slobodu izražavanja i na informacije te slobodu medija i pluralizam;

U.budući da bi zemljopisnim područjem primjene regulatornog okvira za umjetnu inteligenciju trebalo obuhvatiti sve sastavnice umjetne inteligencije, robotike i s njima povezanih tehnologija koje se razvijaju, primjenjuju i upotrebljavaju u Uniji, uključujući slučajeve u kojima se dio tih tehnologija možda nalazi izvan Unije ili pak nema određenu lokaciju;

V.budući da bi regulatorni okvir Unije za umjetnu inteligenciju trebao obuhvaćati sve relevantne faze, posebno razvoj, uvođenje i upotrebu relevantnih tehnologija i njihovih sastavnica, za što je potrebno uzeti u obzir relevantne pravne obveze i etička načela, a njime bi se trebalo utvrditi i uvjete kojima se osigurava da su razvojni programeri, subjekti za uvođenje i korisnici u potpunosti usklađeni s tim obvezama i načelima;

W.budući da usklađeni pristup etičkim načelima koja pokrivaju područje umjetne inteligencije, robotike i s njima povezanih tehnologija zahtijeva da se diljem Unije ujednačeno razumije koncepte koji su temelj tih tehnologija, kao što su algoritmi, računalni programi, podaci ili biometrijsko prepoznavanje;

X.budući da se djelovanje na razini Unije objašnjava potrebom za izbjegavanjem regulatorne fragmentacije ili nizom nacionalnih regulatornih odredbi koje nisu svedene pod zajednički nazivnik te jamčenjem homogene primjene zajedničkih etičkih načela utvrđenih zakonom pri razvoju, uvođenju i upotrebi umjetne inteligencije, robotike i s njima povezanih tehnologija; budući da su potrebna jasna pravila kada su u pitanju značajni rizici;

Y.budući da je primjena zajedničkih etičkih načela učinkovita samo ako su utvrđena u okviru prava i ako su prije toga određena tijela s odgovornošću za osiguravanje, ocjenjivanje i praćenje usklađenosti;

Z.budući da su etičke smjernice, kao što su načela koja je usvojila Stručna skupina na visokoj razini za umjetnu inteligenciju, dobra polazišna točka, ali nisu dovoljne kako bi se osiguralo pravedno postupanje razvojnih programera, subjekata za uvođenje i korisnika te zajamčila učinkovita zaštita pojedinaca; budući da su takve smjernice još relevantnije u pogledu visokorizične umjetne inteligencije, robotike i s njima povezanih tehnologija;

AA.budući da bi svaka država članica trebala odrediti nacionalno nadzorno tijelo odgovorno za osiguravanje, ocjenjivanje i praćenje usklađenosti razvoja, uvođenja i upotrebe visokorizične umjetne inteligencije, robotike i tehnologija povezanih s regulatornim okvirom Unije za umjetnu inteligenciju, te za omogućavanje rasprava i razmjena gledišta u bliskoj suradnji s relevantnim dionicima i civilnim društvom; budući da bi nacionalna nadzorna tijela trebala međusobno surađivati;

AB.budući da bi, kako bi se osigurao usklađen pristup u cijeloj Uniji i optimalno funkcioniranje jedinstvenog digitalnog tržišta, koordinaciju Komisije na razini Unije i svih relevantnih institucija, tijela, ureda i agencija Unije koji bi mogli biti imenovani u tom kontekstu trebalo ocijeniti u pogledu novih mogućnosti i izazova, posebno onih prekogranične prirode, koji proizlaze iz tehnološkog razvoja koji je u tijeku; budući da bi u tu svrhu Komisiju trebalo zadužiti da pronađe odgovarajuće rješenje za strukturiranje takve koordinacije na razini Unije;

Umjetna inteligencija koja je usmjerena na čovjeka i koju je osmislio čovjek

1.smatra da je, ne dovodeći u pitanje sektorsko zakonodavstvo, potrebno donijeti učinkovit i usklađen regulatorni okvir koji se temelji na pravu Unije, Povelji Europske unije o temeljnim pravima („Povelja”) i međunarodnom pravu o ljudskim pravima, a posebno je mjerodavan za visokorizične tehnologije, na temelju čega će se moći uspostaviti jednaki standardi u cijeloj Uniji i djelotvorno zaštititi vrijednosti Unije;

2.smatra da bi se svakim novim regulatornim okvirom za umjetnu inteligenciju koji se sastoji od pravnih obveza i etičkih načela za razvoj, uvođenje i upotrebu umjetne inteligencije, robotike i s njima povezanih tehnologija trebalo u potpunosti poštovati Povelju, a time i ljudsko dostojanstvo, autonomiju i samoodređenje pojedinca, spriječiti nanošenje štete, promicati pravednost, uključivost i transparentnost, ukloniti pristranost i diskriminaciju, također u pogledu manjinskih skupina, te poštovati i držati se načela ograničavanja negativnih vanjskih učinaka tehnologije koja se upotrebljava, osigurati objašnjivost tehnologija i jamčiti da tehnologije služe ljudima i da ih ne zamjenjuju niti donose odluke za njih, uz krajnji cilj povećanja dobrobiti svakog ljudskog bića;

3.ističe asimetriju između onih koji se koriste tehnologijama umjetne inteligencije i onih koji s njima dolaze u doticaj i podložni su im; u tom kontekstu naglašava da se povjerenje građana u umjetnu inteligenciju može izgraditi samo na temelju okvira „zadane i integrirane etičnosti” kojim se osigurava da umjetna inteligencija koja se koristi u potpunosti poštuje Ugovore, Povelju i sekundarno pravo Unije te je s njima usklađena; smatra da bi sve radnje poduzete na temelju tog pristupa trebale biti u skladu s načelom predostrožnosti na kojem se temelji zakonodavstvo Unije i u središtu svakog okvira za umjetnu inteligenciju; u tom pogledu poziva na jasan i dosljedan model upravljanja kojim se poduzećima i inovatorima omogućuje daljnji razvoj umjetne inteligencije, robotike i povezanih tehnologija;

4.smatra da bi sve zakonodavne mjere koje se odnose na umjetnu inteligenciju, robotiku i povezane tehnologije trebale biti u skladu s načelima nužnosti i proporcionalnosti;

5. smatra da će se takvim pristupom poduzećima omogućiti uvođenje inovativnih proizvoda na tržište i stvaranje novih mogućnosti te da će se istodobno zajamčiti zaštita vrijednosti Unije i razvoj sustava umjetne inteligencije u koje su od samog početka procesa izrade ugrađena etička načela Unije; smatra da bi takav regulatorni okvir utemeljen na vrijednostima predstavljao dodanu vrijednost kojom bi se Uniji pružila jedinstvena konkurentska prednost i kojom bi se znatno doprinijelo dobrobiti i blagostanju građana i poduzeća Unije te ojačalo unutarnje tržište; ističe da će takav regulatorni okvir za umjetnu inteligenciju također predstavljati dodanu vrijednost u pogledu promicanja inovacija na unutarnjem tržištu; smatra da, primjerice, u sektoru prometa takav pristup poduzećima iz Unije pruža priliku da postanu globalni predvodnici u tom području;

6.primjećuje da bi se pravni okvir Unije trebao primijeniti na umjetnu inteligenciju, robotiku i s njima povezane tehnologije, što se odnosi i na računalne programe, algoritme i podatke koje takve tehnologije upotrebljavaju ili proizvode;

7.konstatira da se mogućnosti koje se temelje na umjetnoj inteligenciji, robotici i povezanim tehnologijama oslanjaju na „velike podatke” te im je potrebna kritična masa podataka radi usavršavanja algoritama i unapređivanja rezultata; u tom pogledu pozdravlja prijedlog Komisije za stvaranje zajedničkog podatkovnog prostora u Uniji kako bi se pojačala razmjena podataka i poduprla istraživanja, uz potpuno poštovanje europskih pravila o zaštiti podataka.

8.smatra da će se postojeći pravni okvir Unije, posebno u području zaštite privatnosti i osobnih podataka, morati u potpunosti primjenjivati na umjetnu inteligenciju, robotiku i s njima povezane tehnologije te da će ga biti potrebno redovito preispitivati i nadzirati te po potrebi ažurirati kako bi se učinkovito uklonili rizici koji proizlaze iz tih tehnologija te bi u tom pogledu taj okvir mogao imati koristi od toga da ga se dopuni čvrstim vodećim etičkim načelima; ističe da bi u slučajevima u kojima bi donošenje pravnih akata bilo preuranjeno trebalo uspostaviti neobvezujući pravni okvir;

9.očekuje od Komisije da u zakonodavni prijedlog zatražen u prilogu ovoj rezoluciji uključi snažan etički pristup kao nastavak Bijele knjige o umjetnoj inteligenciji, uključujući sigurnost, odgovornost i temeljna prava, čime se maksimalno povećavaju mogućnosti i smanjuju rizici tehnologija umjetne inteligencije; očekuje da će zatraženi zakonodavni prijedlog uključivati politička rješenja za glavne prepoznate rizike umjetne inteligencije, uključujući, među ostalim, etičko prikupljanje i upotrebu velikih podataka, pitanje algoritamske transparentnosti i algoritamske pristranosti; poziva Komisiju da osmisli kriterije i pokazatelje za označivanje tehnologije umjetne inteligencije kako bi se poticala transparentnost, objašnjivost i odgovornost te kako bi se poticalo poduzimanje dodatnih mjera opreza za razvojne programere; naglašava potrebu za ulaganjem u integraciju netehničkih disciplina u studije i istraživanja umjetne inteligencije uzimajući pritom u obzir socijalni kontekst;

10.smatra da se umjetna inteligencija, robotika i s njima povezane tehnologije moraju prilagoditi ljudskim potrebama u skladu s načelom prema kojem bi njihov razvoj, uvođenje i upotreba uvijek trebali biti u službi ljudi, a nikada obrnuto, te bi se njima trebalo nastojati poboljšati dobrobit i individualnu slobodu, očuvati mir, spriječiti sukobe i ojačati međunarodnu sigurnost, te istovremeno maksimalno iskoristiti njihove prednosti, a spriječiti i smanjiti rizike;

11.izjavljuje da bi se razvoj, uvođenje i upotreba visokorizične umjetne inteligencije, robotike i s njima povezanih tehnologija, koji su, među ostalim, ali ne i isključivo, plod ljudskog djelovanja, uvijek trebali voditi etičkim načelima te bi se njima trebao poštovati i dopuštati ljudski faktor i demokratski nadzor, kao i uspostava ljudskog nadzora, ako je to potrebno, s pomoću provedbe odgovarajućih kontrolnih mjera;

Procjena rizika

12.ističe da bi u svim budućim propisima trebalo slijediti diferenciran pristup temeljen na riziku i usmjeren na budućnost u cilju reguliranja umjetne inteligencije, robotike i povezanih tehnologija, uključujući tehnološki neutralne standarde u svim sektorima, prema potrebi uz sektorske standarde; napominje da je, kako bi se zajamčila ujednačena provedba sustava procjene rizika i usklađenost s povezanim pravnim obvezama za jamčenje jednakih uvjeta među državama članicama i sprečavanje fragmentacije unutarnjeg tržišta, potreban iscrpan i kumulativni popis visokorizičnih sektora i visokorizičnih uporaba ili svrha; naglašava da se takav popis mora redovito iznova provjeravati i napominje da će, s obzirom na promjenjivu prirodu tih tehnologija, u budućnosti možda biti potrebno preispitati način na koji se provodi njihova procjena rizika;

13.smatra da bi se eventualna visokorizičnost umjetne inteligencije, robotike i s njima povezanih tehnologija u pogledu usklađenosti s pravnim obvezama i etičkim načelima kako su utvrđeni u regulatornom okviru za umjetnu inteligenciju uvijek trebala utvrđivati na temelju nepristrane, regulirane i vanjske ex ante procjene utemeljene na konkretnim i određenim kriterijima;

14.mišljenja je da bi se u tom pogledu umjetna inteligencija, robotika i s njima povezane tehnologije trebale smatrati visokorizičnima ako njihov razvoj, uvođenje i upotreba podrazumijevaju znatan rizik od nanošenja ozljede ili štete pojedincima ili društvu, čime se krše temeljna prava i sigurnosna pravila utvrđena pravom Unije; smatra da bi se, kako bi se procijenilo uključuju li tehnologije umjetne inteligencije takav rizik, u obzir trebao uzeti sektor u kojem se razvijaju, uvode ili upotrebljavaju, njihova konkretna uporaba ili svrha te ozbiljnost ozljede ili štete za koju se može očekivati da će nastati; prvi i drugi kriterij, odnosno sektor i konkretna uporaba ili svrha, trebali bi se razmatrati kumulativno;

15.naglašava da bi procjenu rizika tih tehnologija trebalo provesti na temelju iscrpnog i kumulativnog popisa visokorizičnih sektora te visokorizičnih uporaba i namjena; čvrsto vjeruje da bi unutar Unije trebala postojati dosljednost u pogledu procjene rizika tih tehnologija, posebno kada se one ocjenjuju u svjetlu njihove usklađenosti s regulatornim okvirom za umjetnu inteligenciju i u skladu s bilo kojim drugim mjerodavnim sektorskim zakonodavstvom;

16.smatra da bi taj pristup utemeljen na riziku trebalo razviti na način kojim se u najvećoj mogućoj mjeri ograničava administrativno opterećenje za poduzeća, a posebno mala i srednja poduzeća, korištenjem postojećih alata; ti alati uključuju, ali nisu ograničeni na, popis procjene učinka na zaštitu podataka predviđen Uredbom (EU) 2016/679;

Sigurnosne značajke, transparentnost i odgovornost

17.podsjeća da je pravo na informiranje potrošača temeljno načelo prava Unije te naglašava da bi ga stoga trebalo u potpunosti provesti u kontekstu umjetne inteligencije, robotike i povezanih tehnologija; smatra da bi to posebno trebalo obuhvaćati transparentnost u pogledu interakcije sa sustavima umjetne inteligencije, uključujući postupke automatizacije, te u pogledu njihova načina funkcioniranja, njihovih sposobnosti, primjerice načina na koji se informacije filtriraju i prikazuju, točnosti i ograničenja; smatra da bi takve informacije trebalo pružiti nacionalnim nadzornim tijelima i nacionalnim tijelima za zaštitu potrošača;

18.naglašava da je povjerenje potrošača ključno za razvoj i provedbu tih tehnologija koje mogu sadržavati inherentne rizike ako se temelje na netransparentnim algoritmima i pristranim skupovima podataka; smatra da bi potrošači trebali imati pravo biti odgovarajuće informirani, na razumljiv, pravodoban, standardiziran, točan i pristupačan način, o postojanju, logici i mogućim rezultatima algoritamskih sustava te njihovu učinku na potrošače, o načinu na koji se može doći do ljudskog bića s ovlastima odlučivanja i o tome kako se odluke sustava mogu provjeriti, smisleno osporiti i ispraviti; u tom pogledu ističe da je potrebno razmotriti i poštovati načela informiranja i objavljivanja na kojima je izgrađena pravna stečevina u području zaštite potrošača; smatra da je krajnjim korisnicima potrebno pružiti detaljne informacije o radu prometnih sustava i vozila koja funkcioniraju s pomoću umjetne inteligencije;

19.napominje da je ključno da algoritmi i skupovi podataka koje koriste ili proizvode umjetna inteligencija, robotika i povezane tehnologije budu objašnjivi i, ako je to nužno i uz potpuno poštovanje zakonodavstva Unije o zaštiti podataka, privatnosti i pravima intelektualnog vlasništva te o zaštiti poslovne tajne, dostupni javnim tijelima kao što su nacionalna nadzorna tijela i tijela za nadzor tržišta; nadalje napominje da bi, u skladu s najvišim primjenjivim industrijskim standardima tu dokumentaciju trebali pohranjivati oni koji su uključeni u različite faze razvoja visokorizičnih tehnologija; napominje da u tom pogledu tijela za nadzor tržišta mogu imati dodatne ovlasti; u tom smislu naglašava ulogu zakonitog obrnutog inženjeringa; smatra da bi moglo biti potrebno preispitati postojeće zakonodavstvo o nadzoru tržišta kako bi se osiguralo da ono nudi etički odgovor na pojavu umjetne inteligencije, robotike i povezanih tehnologija;

20.poziva na to da se od razvojnih programera i subjekata za uvođenje visokorizičnih tehnologija zatraži da, ako na to upućuje procjena rizika, javnim tijelima omoguće pristup relevantnoj dokumentaciji o korištenju i uputama o konstrukciji i sigurnosti, uključujući, kad je to izričito potrebno i uz puno poštovanje zakonodavstva Unije o zaštiti podataka, privatnosti i pravima intelektualnog vlasništva te zaštiti poslovne tajne, izvorni kod, razvojne alate i podatke kojima se koristi sustav; konstatira da bi se takvom obvezom omogućila procjena njihove usklađenosti s pravom Unije i etičkim načelima te u tom pogledu kao primjer navodi pravnu obvezu dostave primjerka publikacije nacionalnoj knjižnici; napominje da postoji bitna razlika između transparentnosti algoritama i transparentnosti uporabe algoritama;

21.osim toga napominje da bi, kako bi se poštovali ljudsko dostojanstvo, autonomija i sigurnost, dužnu pažnju trebalo posvetiti životno važnim i naprednim medicinskim uređajima te potrebi da neovisna pouzdana tijela zadrže mogućnost pružanja usluga osobama koje takve uređaje koriste, ako izvorni razvojni programeri ili subjekti za uvođenje te usluge više ne pružaju; primjerice, te bi usluge uključivale održavanje, popravke i poboljšanja, uključujući ažuriranja računalnih programa kojima se ispravljaju nedostaci i slabe točke;

22.ističe da se visokorizična umjetna inteligencija, robotika i s njima povezane tehnologije, uključujući računalne programe, algoritme i podatke koje te tehnologije upotrebljavaju ili proizvode, bez obzira na područje u kojem se razvijaju, uvode i upotrebljavaju, trebaju razvijati na siguran, sljediv, tehnički postojan, pouzdan, etički odgovoran i pravno obvezujući način te biti podložni neovisnoj kontroli i nadzoru; posebno smatra da bi svi akteri u cijelom lancu razvoja i opskrbe proizvodima i uslugama umjetne inteligencije trebali biti pravno odgovorni te ističe potrebu za uvođenjem mehanizama kojima bi se osigurala obveza i odgovornost;

23.ističe da su propisi i smjernice koji se odnose na objašnjivost, mogućnost revizije, sljedivost i transparentnost, kao i pristup javnih tijela tehnologiji, podacima i računalnim sustavima na kojima se temelje takve tehnologije, uz potpuno poštovanje prava Unije, primjerice prava na zaštitu podataka, privatnost, prava intelektualnog vlasništva i zaštitu poslovne tajne, ključni za osiguravanje povjerenja građana u te tehnologije, čak i ako je stupanj objašnjivosti u odnosu na složenost tehnologija relativan; ističe da nije uvijek moguće objasniti zašto je neki model doveo do određenog rezultata ili odluke, pri čemu su primjer tzv. algoritmi crne kutije; stoga smatra da je poštovanje tih načela preduvjet za jamčenje odgovornosti;

24.smatra da bi građani, uključujući potrošače, trebali biti informirani prilikom interakcije sa sustavom koji se koristi umjetnom inteligencijom, posebno za personalizaciju proizvoda ili usluge svojim korisnicima, bez obzira na to mogu li i na koji način tu personalizaciju isključiti ili ograničiti;

25.u tom pogledu ističe da umjetna inteligencija, robotika i s njima povezane tehnologije moraju biti tehnički postojane i precizne kako bi bile pouzdane;

26.ističe da je zaštita mreža međusobno povezane umjetne inteligencije i robotike važna i da se moraju poduzeti stroge mjere za sprečavanje povreda sigurnosti, curenja podataka, iskorištavanja ranjivosti ljudi i umjetne inteligencije (engl. data poisoning), kibernapada i zlouporabe osobnih podataka te da će za to biti potrebna međusobna suradnja relevantnih agencija, tijela i institucija na europskoj i nacionalnoj razini, kao i njihova suradnja s krajnjim korisnicima tih tehnologija; poziva Komisiju i države članice da se pobrinu za to da se pri razvoju i primjeni tehnologija umjetne inteligencije u svakom trenutku osigura poštovanje vrijednosti Unije i temeljnih prava kako bi se zajamčila sigurnost i otpornost digitalne infrastrukture Unije;

Nepristranost i nediskriminacija

27.podsjeća da umjetna inteligencija, ovisno o tome kako se razvija i koristi, može stvoriti i jačati pristranost, među ostalim kroz inherentnu pristranost u temeljnim skupovima podataka, te stoga dovesti do različitih oblika automatizirane diskriminacije, uključujući neizravnu diskriminaciju, što se posebno odnosi na skupine osoba sličnih obilježja; poziva Komisiju i države članice da poduzmu sve moguće mjere kako bi se izbjegla takva pristranost i da zajamče potpunu zaštitu temeljnih prava;

28.zabrinut je zbog rizika od pristranosti i diskriminacije u razvoju, uvođenju i upotrebi visokorizične umjetne inteligencije, robotike i s njima povezanih tehnologija, uključujući računalne programe, algoritme i podatke koje upotrebljavaju ili proizvode takve tehnologije; podsjeća na to da bi se tim tehnologijama u svim okolnostima trebalo poštovati pravo Unije, kao i ljudska prava i dostojanstvo, autonomija i samoodređenje pojedinca te svima jamčiti jednako postupanje i nediskriminaciju;

29.naglašava da bi tehnologije umjetne inteligencije trebale biti osmišljene tako da poštuju, služe i štite vrijednosti Unije te fizički i mentalni integritet, promiču kulturnu i jezičnu raznolikost Unije i pomažu u zadovoljavanju osnovnih potreba; ističe da je potrebno izbjeći svaku upotrebu koja bi mogla dovesti do nedopuštene izravne ili neizravne prisile, ugroziti psihološku autonomiju i mentalno zdravlje ili dovesti do neopravdanog nadzora, obmane ili nedopuštene manipulacije;

30.čvrsto je uvjeren da bi se temeljna ljudska prava sadržana u Povelji trebala strogo poštovati kako te nove tehnologije ne bi dovele do manjkavosti u pogledu zaštite;

31.potvrđuje da problem eventualne pristranosti i diskriminacije u okviru računalnih programa, algoritama i podataka može nanijeti očitu štetu pojedincima i društvu te da bi ga stoga trebalo riješiti poticanjem razvoja i dijeljenja strategija za borbu protiv tih pojava, kao što je uklanjanje pristranosti iz skupova podataka u istraživanju i razvoju te izradom pravila za obradu podataka; smatra da bi na temelju tog pristupa računalni programi, algoritmi i podaci mogli postati instrument u borbi protiv pristranosti i diskriminacije u određenim situacijama te imati ulogu zagovornika jednakih prava i pokretača pozitivnih društvenih promjena;

32.smatra da bi etičke vrijednosti pravednosti, točnosti, povjerljivosti i transparentnosti trebale biti temelj tih tehnologija, što u ovom kontekstu podrazumijeva da bi one trebale funkcionirati na način koji ne može dovesti do pristranih rezultata;

33.naglašava važnost kvalitete skupova podataka koji se koriste u sustavima umjetne inteligencije, robotike i povezanih tehnologija ovisno o njihovu kontekstu, posebno u pogledu reprezentativnosti podataka korištenih za testiranje, o uklanjanju pristranosti iz skupova podataka, o korištenim algoritmima te o standardima za podatke i njihovu agregaciju; naglašava da bi nacionalna nadzorna tijela trebala moći preispitati te skupove podataka kad god se od njih zatraži da osiguraju njihovu sukladnost s prethodno izloženim načelima;

34.naglašava da bi u kontekstu rasplamsanog rata dezinformacijama, na koji osobito potiču akteri izvan Europe, tehnologija umjetne inteligencije mogla imati etički štetne učinke zbog zlonamjerne uporabe predrasuda u podacima i algoritmima ili namjernom izmjenom podataka za učenje od strane trećih zemalja te bi mogla biti izložena drugim oblicima opasne i štetne manipulacije na nepredvidive načine i s nesagledivim posljedicama; stoga postoji povećana potreba da EU nastavi ulagati u istraživanje, analizu, inovacije i prekogranično i međusektorsko prenošenje znanja u cilju razvoja tehnologije umjetne inteligencije koja ne bi ni na kakav način profilirala, imala predrasude ili diskriminirala te bi se njome učinkovito pridonijelo borbi protiv lažnih vijesti i dezinformacija uz istovremeno poštovanje privatnosti podataka i pravnog okvira Unije;

35.podsjeća na važnost učinkovitih pravnih lijekova za pojedince i poziva države članice da se pobrinu za dostupnost pristupačnih, cjenovno prihvatljivih, neovisnih i učinkovitih postupaka te mehanizama preispitivanja u okviru kojih se jamči nepristrano ljudsko razmatranje svih navoda o kršenjima prava građana, primjerice prava potrošača ili građanskih prava, a koja su posljedica korištenja algoritamskih sustava, neovisno o tome dolaze li iz javnog ili privatnog sektora; ističe važnost Prijedloga direktive Europskog parlamenta i Vijeća o udružnim tužbama za zaštitu kolektivnih interesa potrošača i stavljanju izvan snage Direktive 2009/22/EZ, o kojoj je postignut politički sporazum 22. lipnja 2020., u pogledu budućih slučajeva za osporavanje uvođenja ili trajnog korištenja sustava umjetne inteligencije kojim bi se moglo kršiti prava potrošača ili ispraviti kršenje tih prava; traži od Komisije i država članica da se pobrinu za to da nacionalne i europske organizacije potrošača imaju dostatna financijska sredstva za pružanje pomoći potrošačima u ostvarivanju njihovih prava na pravni lijek u slučajevima u kojima se krše njihova prava;

36.stoga smatra da bi svaka fizička ili pravna osoba trebala moći tražiti pravnu zaštitu u vezi s odlukom koju je donio sustav umjetne inteligencije, robotike ili s njima povezanih tehnologija, a kojom joj je nanesena šteta te kojom je prekršeno pravo Unije ili nacionalno pravo;

37smatra da bi potrošači, kao prvu kontaktnu točku u slučajevima sumnje na kršenje regulatornog okvira Unije u tom kontekstu, svoje zahtjeve za pravnu zaštitu mogli uputiti i nacionalnim nadzornim tijelima kako bi se osigurala učinkovita provedba prethodno navedenog okvira;

Društvena odgovornost i rodna ravnoteža

38.naglašava da društveno odgovorna umjetna inteligencija, robotika i s njima povezane tehnologije imaju ulogu u pronalaženju rješenja za zaštitu i promicanje temeljnih prava i vrijednosti našeg društva, kao što su demokracija, vladavina prava, raznovrsni i neovisni mediji te objektivne i slobodno dostupne informacije, zdravlje i gospodarski napredak, jednakost mogućnosti, prava radnika i socijalna prava, kvalitetno obrazovanje, zaštita djece, kulturna i jezična raznolikost, rodna jednakost, digitalna pismenost, inovacije i kreativnost; podsjeća da je važno pobrinuti se za to da interesi svih građana, uključujući one koji su marginalizirani ili u ranjivoj situaciji, poput osoba s invaliditetom, budu na odgovarajući način uzeti u obzir i zastupljeni;

39.naglašava važnost postizanja visoke razine opće digitalne pismenosti i osposobljavanja visokokvalificiranih stručnjaka u ovom području te uzajamnog priznavanja takvih kvalifikacija diljem Unije; naglašava potrebu za raznolikim sastavom skupina razvojnih programera i inženjera i njihovom suradnjom s ključnim društvenim akterima, kako bi se spriječilo nenamjerno uključivanje rodne i kulturne pristranosti u algoritme, sustave i aplikacije umjetne inteligencije; podržava izradu obrazovnih kurikuluma i aktivnosti za senzibilizaciju javnosti o društvenom, pravnom i etičkom učinku umjetne inteligencije;

40.naglašava da je od ključne važnosti zajamčiti slobodu mišljenja i izražavanja, čime se osigurava da se tim tehnologijama ne promiče govor mržnje ili nasilje te stoga smatra da je sprečavanje ili ograničavanje slobode izražavanja koja se ostvaruje digitalnim putem nezakonito u skladu s temeljnim načelima Unije, osim ako ostvarivanje tog temeljnog prava podrazumijeva nezakonite radnje;

41.ističe da umjetna inteligencija, robotika i povezane tehnologije mogu doprinijeti smanjenju društvenih nejednakosti i smatra da se europski model njihova razvoja mora temeljiti na povjerenju građana i jačanju socijalne kohezije;

42.naglašava da uvođenje bilo kojeg sustava umjetne inteligencije ne bi trebalo neopravdano ograničavati pristup korisnika javnim uslugama kao što je socijalna sigurnost; stoga poziva Komisiju da procijeni kako se taj cilj može postići;

43.naglašava važnost odgovornog istraživanja i razvoja čiji je cilj maksimalno iskorištavanje punog potencijala umjetne inteligencije, robotike i s njima povezanih tehnologija za građane i javno dobro; poziva na mobilizaciju sredstava Unije i njezinih država članica kako bi se razvile i poduprle odgovorne inovacije;

44.naglašava da će tehnološko stručno znanje biti sve važnije te će stoga biti potrebno neprestano ažurirati ponudu osposobljavanja, posebno za nove generacije, i poticati prekvalifikaciju onih koji su već na tržištu rada; u tom smislu smatra da bi trebalo poticati inovacije i osposobljavanje ne samo u privatnom nego i u javnom sektoru;

45.ustraje u tome da razvoj, uvođenje i upotreba tih tehnologija ni na koji način ne bi smjeli nauditi ili naštetiti pojedincima, društvu ili okolišu te da bi se, u skladu s time, razvojni programeri, subjekti za uvođenje i korisnici tih tehnologija trebali smatrati odgovornima u slučaju da se na bilo koji način naudi ili našteti pojedincima, društvu ili okolišu u skladu s relevantnim propisima Unije i nacionalnim propisima o odgovornosti;

46.poziva države članice da procijene bi li gubitak radnih mjesta uzrokovan uvođenjem tih tehnologija trebao dovesti do odgovarajućih javnih politika kao što je smanjenje radnog vremena;

47.smatra da je prilikom projektiranja vrlo važno imati pristup koji se temelji na vrijednostima Unije i etičkim načelima jer tako se mogu stvoriti uvjeti za široko društveno prihvaćanje umjetne inteligencije, robotike i s njima povezanih tehnologija; smatra da je pristup usmjeren na razvoj pouzdane, etički odgovorne i tehnički postojane umjetne inteligencije važan čimbenik održive i pametne mobilnosti koja je sigurna i dostupna;

48.skreće pozornost na veliku dodanu vrijednost autonomnih vozila za osobe sa smanjenom pokretljivošću, s obzirom na to da takva vozila tim osobama omogućuju učinkovitije sudjelovanje u individualnom cestovnom prometu, čime se olakšava i njihov svakodnevni život; naglašava važnost pristupačnosti, posebno pri osmišljavanju sustava MaaS (mobilnost kao usluga);

49.poziva Komisiju da nastavi podržavati razvoj pouzdanih sustava umjetne inteligencije kako bi se omogućio sigurniji, učinkovitiji, dostupniji, povoljniji i uključiviji promet, među ostalim za osobe sa smanjenom pokretljivošću, posebno osobe s invaliditetom, uzimajući u obzir Direktivu (EU) 2019/882 Europskog parlamenta i Vijeća te pravo Unije o pravima putnika;

50.smatra da umjetna inteligencija može pomoći u boljem iskorištavanju vještina i kompetencija osoba s invaliditetom te da primjena umjetne inteligencije na radnom mjestu može doprinijeti uključivosti tržišta rada i višim stopama zaposlenosti osoba s invaliditetom;

Okoliš i održivost

51.navodi da bi vlade i poduzeća trebale koristiti umjetnu inteligenciju, robotiku i s njima povezane tehnologije na način da se njima ostvaruje korist za ljude i planet, doprinosi ostvarivanju ciljeva održivog razvoja, očuvanja okoliša, klimatske neutralnosti i kružnog gospodarstva; razvoj, uvođenje i upotreba tih tehnologija trebala bi tijekom njihova životnog ciklusa i cijelog lanca opskrbe te u skladu s pravom Unije doprinositi zelenoj tranziciji, očuvanju okoliša te smanjenju i ublažavanju svih vrsta štete za okoliš;

52.s obzirom na njihov znatan utjecaj na okoliš, za potrebe prethodnog stavka, nadležna tijela sektora mogla bi, ako je to relevantno i primjereno, ocijeniti učinak razvoja, uvođenja i upotrebe umjetne inteligencije, robotike i s njima povezanih tehnologija na okoliš tijekom njihova životnog vijeka; ta bi ocjena mogla uključivati procjenu učinka vađenja potrebnih sirovina, potrošnje energije te ispuštanja stakleničkih plinova koji su rezultat njihova razvoja, uvođenja i uporabe;

53.predlaže da se potencijal umjetne inteligencije, robotike i s njima povezanih tehnologija ispita, potiče i maksimalno poveća u okviru odgovornih istraživanja i razvoja koji zahtijevaju mobilizaciju sredstava Unije i njezinih država članica u svrhu razvoja odgovornih i najnaprednijih rješenja u području umjetne inteligencije;

54.ističe činjenicu da razvoj, uvođenje i upotreba tih tehnologija pružaju mogućnosti za promicanje ciljeva održivog razvoja koje su utvrdili Ujedinjeni narodi, ciljeva globalne energetske tranzicije i dekarbonizacije;

55.smatra da se ciljevima društvene odgovornosti, rodne ravnoteže, zaštite okoliša i održivosti ne bi trebalo dovoditi u pitanje postojeće opće i sektorske obveze u tim područjima; smatra da bi trebalo utvrditi neobvezujuće provedbene smjernice za razvojne programere, subjekte za uvođenje i korisnike, posebno visokorizičnih tehnologija, a koje se tiču metodologije za procjenu njihove usklađenosti s ovom Uredbom i postizanja tih ciljeva;

56.poziva Uniju da promiče i financira razvoj umjetne inteligencije, robotike i s njima povezanih tehnologija usmjerenih na čovjeka kojima se rješavaju okolišni i klimatski izazovi te kojima se s pomoću poreza, javne nabave ili drugih poticaja jamči poštovanje temeljnih prava;

57.naglašava da, unatoč trenutačnom visokom ugljičnom otisku razvoja, uvođenja i uporabe umjetne inteligencije, robotike i povezanih tehnologija, uključujući automatizirane odluke i strojno učenje, te tehnologije mogu doprinijeti smanjenju trenutačnog ekološkog otiska sektora IKT-a; ističe da bi te i druge pravilno regulirane povezane tehnologije trebale biti ključni čimbenici za postizanje ciljeva zelenog plana, ciljeva održivog razvoja UN-a i Pariškog sporazuma u mnogim različitim sektorima te da bi se zahvaljujući njima trebao pojačati učinak politika kojima se osigurava zaštita okoliša, npr. politika za smanjenje otpada i sprečavanje uništavanja okoliša;

58.poziva Komisiju da provede istraživanje o učinku ugljičnog otiska tehnologije umjetne inteligencije te pozitivnim i negativnim učincima prelaska potrošača na upotrebu tehnologije umjetne inteligencije;

59.napominje da bi, s obzirom na sve veći razvoj primjena umjetne inteligencije za koje su potrebni računalni, skladišni i energetski resursi, trebalo voditi računa o utjecaju sustava umjetne inteligencije na okoliš tijekom njihova cijelog životnog ciklusa;

60.smatra da u područjima kao što je zdravlje odgovornost u konačnici mora snositi fizička ili pravna osoba; ističe potrebu za sljedivim i javno dostupnim skupovima podataka za učenje kada je riječ o algoritmima;

61.snažno podupire stvaranje europskog prostora za zdravstvene podatke[footnoteRef:12] koji je predložila Komisija i čiji je cilj promicanje razmjene zdravstvenih podataka i podupiranje istraživanja uz potpuno poštovanje zaštite podataka, uključujući obradu podataka tehnologijom umjetne inteligencije, te kojim se jačaju i proširuju upotreba i ponovna upotreba zdravstvenih podataka; potiče unapređenje prekogranične razmjene zdravstvenih podataka, njihovo povezivanje i upotrebu tih podataka s pomoću sigurnih, udruženih repozitorija, posebnih vrsta zdravstvenih informacija, kao što su europska zdravstvena evidencija, genomske informacije i digitalne zdravstvene slike kako bi se olakšali interoperabilni registri ili baze podataka na razini Unije u područjima kao što su istraživački, znanstveni i zdravstveni sektor; [12: Komunikacija Komisije upućena Europskom parlamentu, Vijeću, Europskom gospodarskom i socijalnom odboru te Odboru regija naslovljena „Europska strategija za podatke”, COM(2020)0066]

62.ističe koristi koje umjetna inteligencija donosi u područjima sprečavanja, liječenja i kontrole bolesti, čemu svjedoči i to da je umjetna inteligencija predvidjela epidemiju bolesti COVID-19 prije Svjetske zdravstvene organizacije; apelira na Komisiju da ECDC-u osigura odgovarajući regulatorni okvir i resurse za neovisno prikupljanje potrebnih anonimiziranih globalnih zdravstvenih podataka u stvarnom vremenu u suradnji s državama članicama kako bi se, među ostalim, odgovorilo na probleme koje je razotkrila kriza uzrokovana pandemijom bolesti COVID-19;

Privatnost i biometrijsko prepoznavanje

63.primjećuje da se proizvodnja i upotreba podataka, uključujući osobne podatke poput biometrijskih podataka, koji proizlaze iz razvoja, uvođenja i upotrebe umjetne inteligencije, robotike i s njima povezanih tehnologija brzo povećavaju, zbog čega potreba za poštovanjem i provođenjem prava građana na privatnost i zaštitom osobnih podataka u skladu s pravom Unije postaje sve evidentnija;

64.ističe da je mogućnost upotrebe osobnih i neosobnih podataka za kategorizaciju i mikrociljanje osoba, utvrđivanje ranjivosti pojedinaca ili iskorištavanje precizno predvidivog znanja koju te tehnologije pružaju potrebno otkloniti učinkovitom primjenom načela zaštite podataka i privatnosti, kao što su minimalizacija podataka, pravo na protivljenje profiliranju i kontroliranje uporabe vlastitih podataka, pravo na dobivanje objašnjenja odluke koja se zasniva na automatiziranoj obradi i integriranoj privatnosti kao i načelima proporcionalnosti, nužnosti i ograničenja na temelju strogo utvrđene svrhe u skladu s Općom uredbom o zaštiti podataka;

65.ističe da, ako te tehnologije daljinskog prepoznavanja, kao što je prepoznavanje biometrijskih značajki, tj. prepoznavanje lica, koriste javna tijela, zbog velikog javnog interesa njihova bi upotreba uvijek trebala biti objavljena, razmjerna, ciljana i ograničena na posebne ciljeve, vremenski ograničena u skladu s pravom Unije, te provedena uz dužno poštovanje ljudskog dostojanstva i autonomije te temeljnih prava utvrđenih u Povelji. Kriteriji i ograničenja te uporabe trebali bi podlijegati sudskom preispitivanju te biti podvrgnuti demokratskom nadzoru te bi se njima u obzir trebao uzeti njihov psihološki i sociokulturni utjecaj na civilno društvo;

66.ističe da, iako uvođenje umjetne inteligencije, robotike i s njima povezanih tehnologija u područje donošenja odluka javnih vlasti ima prednosti, moguće su i ozbiljne zlouporabe, kao što su masovni nadzor, prediktivno postupanje policije i povrede prava na pravičan postupak;

67.smatra da bi s tehnologijama koje mogu donositi automatizirane odluke i time zamijeniti odluke javnih tijela trebalo postupati uz najveću moguću mjeru opreza, posebno u području pravosuđa i provedbe zakona;

68.smatra da bi se države članice takvim tehnologijama trebale koristiti samo ako postoje iscrpni dokazi o njihovoj pouzdanosti i ako je moguće provesti smislenu ljudsku intervenciju i provjeru ili je ona sustavna u slučajevima u kojima su temeljne slobode dovedene u pitanje; ističe da je važno da nacionalna tijela provedu strogu procjenu učinka na temeljna prava za sustave umjetne inteligencije koji se upotrebljavaju u tim slučajevima, posebno nakon što se takve tehnologije ocijene visokorizičnima;

69.smatra da bi sve odluke koje donose sustavi umjetne inteligencije, robotike ili s njima povezanih tehnologija u okviru ovlasti javnih tijela trebale podlijegati strogoj ljudskoj provjeri i zakonitom postupanju, posebno ako se takve tehnologije ocijene kao visokorizične;

70.smatra da tehnološki napredak ne bi trebao dovesti do upotrebe umjetne inteligencije, robotike i s njima povezanih tehnologija za samostalno donošenje odluka u području javnog sektora koje imaju izravan i znatan utjecaj na prava i obveze građana;

71.primjećuje da bi umjetna inteligencija, robotika i s njima povezane tehnologije u području kaznenog progona i granične kontrole mogle poboljšati javnu sigurnost i zaštitu, ali i da im je potreban opsežan i strog javni nadzor i najviša moguća razina transparentnosti, kako u pogledu procjene rizika pojedinačnih primjena, tako i općeg pregleda upotrebe umjetne inteligencije, robotike i s njima povezanih tehnologija u području kaznenog progona i granične kontrole; smatra da te tehnologije nose znatne etičke rizike koje je potrebno riješiti na odgovarajući način, uzimajući u obzir moguće negativne učinke na pojedince, osobito kad je riječ o njihovim pravima na privatnost, zaštitu podataka i nediskriminaciju; naglašava da njihova zlouporaba može postati izravna prijetnja demokraciji te da se pri njihovoj primjeni i uporabi moraju poštovati načela proporcionalnosti i nužnosti, Povelja o temeljnim pravima, kao i relevantno sekundarno zakonodavstvo Unije, kao što su propisi o zaštiti podataka; ističe da umjetna inteligencija nikada ne bi smjela zamijeniti ljude u donošenju presuda; smatra da odluke kao što su dobivanje jamčevine ili uvjetne kazne, koje se donose pred sudom, ili odluke koje se temelje isključivo na automatiziranoj obradi i koje imaju pravni učinak u pogledu pojedinaca ili koje na njih znatno utječu, uvijek moraju uključivati smislenu procjenu i prosudbu čovjeka;

Dobro upravljanje

72.ističe da primjereno upravljanje razvojem, uvođenjem i upotrebom umjetne inteligencije, robotike i s njima povezanih tehnologija, posebno onih visokorizičnih, te donošenje mjera usmjerenih na odgovornost i uklanjanje eventualnih rizika od pristranosti i diskriminacije, može povećati sigurnost građana i njihovo povjerenje u te tehnologije;

73.smatra da bi se zajedničkim okvirom za upravljanje tim tehnologijama, kojim koordiniraju Komisija i/ili bilo koje relevantne institucije, tijela, uredi ili agencije koji su u tom kontekstu određeni za tu zadaću, i za čiju su provedbu u svakoj državi članici odgovorna nacionalna nadzorna tijela, osigurao dosljedan europski pristup i spriječila fragmentacija jedinstvenog tržišta;

74.primjećuje da razvoj umjetne inteligencije, robotike i s njima povezanih tehnologija podrazumijeva veliku količinu upotrebljavanih podataka te da se njihovom obradom, razmjenom i upotrebom te pristupom takvim podacima mora upravljati sukladno sa zakonom i zahtjevima u pogledu kvalitete, cjelovitosti, interoperabilnosti, transparentnosti, sigurnosti, privatnosti i kontrole koji su tamo navedeni;

75.podsjeća da je pristup podacima ključan faktor rasta digitalnog gospodarstva; u tom pogledu ističe da interoperabilnost podataka ograničavanjem učinaka ovisnosti o jednom dobavljaču (en. „lock-in”) ima ključnu ulogu u jamčenju pravednih tržišnih uvjeta i promicanju jednakih uvjeta na jedinstvenom digitalnom tržištu;

76.ističe da je potrebno zajamčiti da su osobni podaci zaštićeni na odgovarajući način, posebno podaci koji pripadaju ili su povezani s ranjivim skupinama, kao što su osobe s invaliditetom, pacijenti, djeca, pripadnici manjina i migranti i ostale skupine kojima prijeti rizik od isključenosti;

77.napominje da se razvoj, uvođenje i upotreba umjetne inteligencije, robotike i s njima povezanih tehnologija od strane javnih tijela često eksternaliziraju privatnim stranama; smatra da to ni na koji način ne bi trebalo ugroziti zaštitu javnih vrijednosti i temeljnih prava; smatra da bi uvjeti javne nabave trebali odražavati etičke standarde nametnute javnim tijelima, kada je to moguće;

Potrošači i unutarnje tržište

78.naglašava da je važno da se regulatorni okvir za umjetnu inteligenciju primjenjuje kada su potrošači unutar Unije korisnici nekog algoritamskog sustava, obuhvaćeni njime ili usmjereni na njega, neovisno o tome gdje je poslovni nastan subjekata koji razvijaju, prodaju ili koriste takav sustav; nadalje, smatra da bi se u interesu pravne sigurnosti pravila utvrđena tim okvirom trebala primjenjivati na sve razvojne programere i u cijelom vrijednosnom lancu, što uključuje razvoj, uvođenje i upotrebu relevantnih tehnologija i njihovih sastavnih dijelova, i da bi se njima trebala zajamčiti najviša razina zaštite potrošača;

79.uviđa neodvojivu vezu između umjetne inteligencije, robotike i s njima povezanih tehnologija, uključujući računalne programe, algoritme i podatke koje takve tehnologije upotrebljavaju ili proizvode, i područja kao što su internet stvari, strojno učenje, poredak utemeljen na pravilima ili automatizirani i potpomognuti postupci donošenja odluka; nadalje napominje da bi se mogle razviti standardizirane oznake kako bi se potrošačima pomoglo objasniti te sustave, kad god su karakteristike tih sustava složenost ili donošenje odluka koje znatno utječu na živote potrošača;

80.podsjeća da bi Komisija trebala preispitati postojeći pravni okvir i njegovu primjenu, što se odnosi i na pravnu stečevinu o zaštiti potrošača te zakonodavstvo o sigurnosti proizvoda i nadzoru tržišta, kako bi se utvrdili pravni nedostaci te postojeće regulatorne obveze; smatra da je to nužno kako bi se utvrdilo može li se tim okvirom odgovoriti na nove izazove koje predstavlja pojava umjetne inteligencije, robotike i povezanih tehnologija te može li se njime zajamčiti visoka razina zaštite potrošača;

81.naglašava da je potrebno na učinkovit način riješiti izazove koje predstavljaju umjetna inteligencija, robotika i s njima povezane tehnologije te potrošačima dati više sigurnosti i bolju zaštitu; ističe da treba ići korak dalje od tradicionalnih načela informiranja i objavljivanja na kojima je izgrađena pravna stečevina u području zaštite potrošača jer će biti potrebno osnažiti prava potrošača i donijeti jasna ograničenja u pogledu razvoja, uvođenja i upotrebe umjetne inteligencije, robotike i s njima povezanih tehnologija kako bi se zajamčilo da se tom tehnologijom doprinosi poboljšanju života potrošača i da se razvija na način kojim se poštuju temeljna i potrošačka prava te vrijednosti Unije;

82.ističe da se zakonodavnim okvirom uvedenim Odlukom br. 768/2008/EZ predviđa usklađeni popis obveza za proizvođače, uvoznike i distributere, potiče korištenje normi i predviđa nekoliko razina kontrole ovisno o opasnosti proizvoda; smatra da bi se taj okvir trebao primjenjivati i na proizvode s ugrađenom umjetnom inteligencijom;

83.napominje da bi se za potrebe analize učinaka umjetne inteligencije, robotike i s njima povezanih tehnologija na potrošače pristup podacima mogao proširiti na nacionalna nadležna tijela uz puno poštovanje prava Unije, kao što je pravo koje se odnosi na zaštitu podataka, privatnosti i poslovne tajne; ističe važnost educiranja potrošača kako bi bili bolje informirani i stekli vještine u pogledu umjetne inteligencije, robotike i s njima povezanih tehnologija, radi njihove zaštite od mogućih rizika i očuvanja njihovih prava;

84.poziva Komisiju da predloži mjere za sljedivost podataka, imajući na umu i pitanje zakonitosti prikupljanja podataka i zaštitu prava potrošača i temeljnih prava, uz potpuno poštovanje prava Unije, primjerice prava na zaštitu podataka, privatnosti, prava intelektualnog vlasništva i zaštitu poslovne tajne;

85.napominje da bi te tehnologije trebale biti usmjerene na korisnika i projektirane tako da svima omoguće upotrebu proizvoda ili usluga umjetne inteligencije, neovisno o njihovoj dobi, spolu, sposobnostima ili karakteristikama; konstatira da je posebno važno da toj tehnologiji mogu pristupiti osobe s invaliditetom; primjećuje da se pri projektiranju sustava umjetne inteligencije ne bi trebalo voditi jedinstvenim pristupom, nego bi trebalo uzeti u obzir univerzalna projektna načela koja obuhvaćaju najširi mogući raspon korisnika uz poštovanje relevantnih normi o pristupačnosti; ističe da će se tako svim pojedincima omogućiti pravedan pristup i aktivno sudjelovanje u postojećim i novim ljudskim aktivnostima kojima posreduju računala te asistivnim tehnologijama.

86.naglašava da bi u slučajevima u kojima su za razvoj, provedbu ili primjenu umjetne inteligencije, robotike i povezanih tehnologija, uz otvoreni postupak javne nabave i standarde otvorenog ugovaranja, korištena javna sredstva, trebalo razmotriti mogućnost da programski kod, generirani podaci (u onoj mjeri u kojoj to nisu podaci osobne prirode) i istrenirani model u dogovoru s razvojnim programerom automatizmom budu javni, kako bi se zajamčila transparentnost, pojačala kibersigurnost i omogućila njihova ponovna uporaba u cilju poticanja inovacija; naglašava da se na taj način može osloboditi puni potencijal jedinstvenog tržišta uz izbjegavanje fragmentacije tržišta;

87. smatra da umjetna inteligencija, robotika i druge povezane tehnologije imaju golem potencijal da potrošačima pruže mogućnost da uz bolje proizvode i usluge imaju pristup brojnim pogodnostima u mnogim aspektima svojeg života te da ostvare koristi od boljeg nadzora tržišta, pod uvjetom da se i dalje primjenjuju sva primjenjiva načela, uvjeti (uključujući transparentnost i mogućnost revizije) i propisi;

Sigurnost i obrana

88.ističe da se Europska unija i njezine države članice u svojim sigurnosnim i obrambenim politikama vode načelima utvrđenima u Povelji Europske unije o temeljnim pravima i u Povelji Ujedinjenih naroda te zajedničkim shvaćanjem univerzalnih vrijednosti poštivanja nepovredivosti i neotuđivosti ljudskih prava, ljudskog dostojanstva, slobode, demokracije, jednakosti i vladavine prava; naglašava da se naporima koji se unutar okvira Unije ulažu u obranu moraju poštovati te univerzalne vrijednosti uz istovremeno promicanje mira, sigurnosti i napretka u Europi i svijetu;

89.pozdravlja činjenicu da je na sastanku visokih ugovornih stranaka Konvencije Ujedinjenih naroda o određenom konvencionalnom oružju (CCW) 2019. podržano 11 glavnih načela za razvoj i upotrebu autonomnih oružanih sustava; žali, međutim, zbog činjenice da se nije postigao dogovor o pravno obvezujućem instrumentu kojim se regulira smrtonosno autonomno oružje (LAWS) uz učinkoviti provedbeni mehanizam; pozdravlja i podržava „Etičke smjernice za pouzdanu umjetnu inteligenciju” Komisijine Stručne skupine na visokoj razini o umjetnoj inteligenciji objavljene 9. travnja 2019. i Komisijino stajalište o smrtonosnim autonomnim oružanim sustavima; apelira na države članice da osmisle nacionalne strategije za utvrđivanje definicije i statusa smrtonosnog autonomnog oružja u smjeru sveobuhvatne strategije na razini Unije, da zajedno s Visokim predstavnikom/potpredsjednikom Unije i Vijećem potiču raspravu o smrtonosnim autonomnim oružanim sustavima u okviru Konvencije Ujedinjenih naroda o određenom konvencionalnom oružju i drugih relevantnih foruma te uspostavu međunarodnih normi za etičke i pravne parametre razvoja i korištenja potpuno autonomnih oružanih sustava, poluautonomnih oružanih sustava i smrtonosnih oružanih sustava s upravljanjem na daljinu; podsjeća u tom smislu na svoju Rezoluciju o autonomnim oružanim sustavima od 12. rujna 2018. i ponovno poziva na hitan razvoj i usvajanje zajedničkog stajališta o smrtonosnim autonomnim oružanim sustavima, međunarodnu zabranu razvoja, proizvodnje i uporabe smrtonosnih autonomnih oružanih sustava kojima se vrše napadi bez smislenog ljudskog nadzora i bez poštivanja načela ljudske intervencije, u skladu s izjavom najpoznatijih svjetskih istraživača u području umjetne inteligencije iz njihovog otvorenog pisma iz 2015.; pozdravlja sporazum Vijeća i Parlamenta o isključivanju smrtonosnog autonomnog oružja „kod kojeg nije moguća smislena ljudska kontrola nad odlukama o odabiru i korištenju u napadima” iz djelovanja financiranih u okviru Europskog fonda za obranu; smatra da se ne smiju zanemariti etički aspekti kod ostalih načina primjene umjetne inteligencije u obrani, npr. u obavještajnim, nadzornim, izviđačkim ili kiberoperacijama, te da treba obratiti osobitu pozornost na razvoj i korištenje dronova u vojnim operacijama;

90naglašava da bi u obrambenom i sigurnosnom sektoru tehnologije u nastajanju koje nisu obuhvaćene međunarodnim pravom trebalo prosuđivati uzimajući u obzir poštovanje načela humanosti i onako kako to nalaže ljudska savjest;

91.naglašava da se europskim okvirom kojim se uređuje uporaba sustava umjetne inteligencije u obrani, kako u borbenim tako i u neborbenim situacijama, mora poštovati sve primjenjive pravne sustave, posebno međunarodno humanitarno pravo i međunarodno pravo o ljudskim pravima te da taj okvir mora biti u skladu s pravom, načelima i vrijednostima Unije, uzimajući u obzir razlike u tehničkoj i sigurnosnoj infrastrukturi unutar Unije;

92.uviđa da bi, za razliku od obrambenih industrijskih baza, ključne inovacije u području umjetne inteligencije mogle doći iz malih država članica te bi stoga standardizirani pristup ZSOP-u trebao zajamčiti da manje države članice i MSP-ovi ne budu istisnuti; naglašava da se korištenjem skupa zajedničkih kapaciteta EU-a u području umjetne inteligencije i operativnih koncepata država članica mogu nadvladati tehnički nedostatci zbog kojih bi inače mogle biti isključene države koje nemaju relevantnu tehnologiju, znanje i iskustvo u toj industriji ili sposobnost primjene sustava umjetne inteligencije u okviru svojih ministarstava obrane;

93.smatra da će se trenutačne i buduće sigurnosne i obrambene aktivnosti unutar okvira Unije temeljiti na umjetnoj inteligenciji, robotici i autonomiji te povezanim tehnologijama te da bi se pouzdanim, izdržljivim i vjerodostojnim sustavom umjetne inteligencije moglo doprinijeti modernoj i učinkovitoj vojsci; stoga smatra da Unija mora preuzeti vodeću ulogu u istraživanju i razvoju sustava umjetne inteligencije u području sigurnosti obrane; vjeruje da bi korištenje aplikacija umjetne inteligencije u području sigurnosti i obrane moglo donijeti niz izravnih koristi, kao što su veća kvaliteta prikupljenih podataka, bolja informiranost o stanju, brže donošenje odluka, smanjena opasnost od kolateralne štete zahvaljujući boljem sustavu kablova, zaštita snaga na terenu te veća pouzdanost vojne opreme i stoga manja opasnost po ljude i opasnost od ljudskih žrtava; naglašava da je razvoj pouzdane umjetne inteligencije u području obrane ključan za jamčenje europske strateške autonomije u pogledu kapaciteta i operativnosti; podsjeća da sustavi umjetne inteligencije postaju i ključni elementi u borbi protiv nadolazećih sigurnosnih prijetnji, poput kibernetičkog i hibridnog ratovanja na internetu i izvan njega; istodobno naglašava sve rizike i probleme povezane s nereguliranim korištenjem umjetne inteligencije; primjećuje da bi se umjetnom inteligencijom moglo manipulirati, da bi mogla biti sklona greškama i netočnostima;

94.naglašava da je umjetna inteligencija suštinski dvojake prirode i da razvoju umjetne inteligencije u obrambenim aktivnostima pogoduje razmjena saznanja iz vojnih i civilnih tehnologija; naglašava da je umjetna inteligencija u obrambenim aktivnostima transverzalna disruptivna tehnologija čijim se razvojem mogu pružiti mogućnosti za konkurentnost i stratešku autonomiju EU-a;

95.uviđa da bi u današnjem kontekstu hibridnog i naprednog ratovanja količina i brzina prijenosa informacija tijekom ranih faza krize mogle preopteretiti analitičare i da bi te informacije mogao obraditi sustav umjetne inteligencije kako bi se donositeljima odluka osigurao puni raspon informacija unutar prikladnog vremenskog okvira radi mogućnosti brzog reagiranja;

96.ističe važnost ulaganja u razvoj ljudskog kapitala za umjetnu inteligenciju, razvijanje potrebnih vještina i poticanje obrazovanja u područjima umjetne inteligencije za obranu i sigurnost s naročitim naglaskom na etičnost poluautonomnih i autonomnih operativnih sustava koji počivaju na ljudskoj odgovornosti u svijetu podržanom umjetnom inteligencijom; osobito naglašava važnost toga da se etičarima specijalizirani za to polje zajamči odgovarajuća obuka i stjecanje prikladnih vještina; poziva Komisiju da što prije predstavi izvješće „Plan za osnaživanje vještinaˮ najavljeno u Bijeloj knjizi o umjetnoj inteligenciji 19. veljače 2020.;

97.ističe da bi kvantno računalstvo moglo predstavljati najrevolucionarniju promjenu u ratovanju od pojave atomskog oružja i stoga poziva Uniju i države članice da razvijanje tehnologija kvantnog računalstva učine prioritetom; uviđa da će činovi agresije, uključujući napade na kritičnu infrastrukturu, uz pomoć kvantnog računalstva stvoriti okruženje sukoba u kojem će vrijeme dostupno za donošenje odluka biti drastično skraćeno s dana i sati na minute i sekunde, što će natjerati države članice da razviju mogućnosti zaštite i da osposobe svoje donositelje odluka i vojno osoblje da učinkovito odgovaraju unutar takvih vremenskih okvira;

98.poziva na povećanje ulaganja u europsku umjetnu inteligenciju za obranu i u kritičnu infrastrukturu koja je podržava;

99.podsjeća da je većina trenutačnih svjetskih vojnih sila već poduzela znatne napore u pogledu istraživanja i razvoja povezanih s vojnom dimenzijom umjetne inteligencije; smatra da se Unija mora pobrinuti da ne zaostane u tom pogledu;

100.poziva Komisiju da uključi izgradnju kapaciteta u području kibersigurnosti u svoju industrijsku politiku kako bi se osigurao razvoj i primjena sigurnih, otpornih i izdržljivih sustava podržanih umjetnih inteligencijom i robotskih sustava; poziva Komisiju da razmotri korištenje i primjenu protokola za kibersigurnost koji se temelje na tehnologiji lanca blokova kako bi se ojačala otpornost, pouzdanost i stabilnost infrastruktura za umjetnu inteligenciju pomoću modela za šifriranje podataka bez posrednika; potiče europske dionike da istraže i razviju napredne značajke koje bi olakšale otkrivanje pokvarenih i zlonamjernih sustava podržanih umjetnom inteligencijom i robotskih sustava koji bi mogli ugroziti sigurnost Unije i njezinih građana;

101.naglašava da svi sustavi umjetne inteligencije u obrani moraju imati konkretan i dobro definiran okvir misije te da ljudi moraju zadržati mogućnost otkrivanja i isključivanja ili deaktiviranja onih korištenih sustava koji počnu djelovati izvan okvira misije koje je utvrdio i dodijelio čovjek ili na eskalirajući ili neželjeni način; smatra da bi sustavi podržani umjetnom inteligencijom, proizvodi i tehnologija koji su namijenjeni vojnoj uporabi trebali biti opremljeni „crnom kutijomˮ koja bi bilježila svaki prijenos podataka koji je obavio stroj;

102.ističe da se cjelokupna nadležnost i odgovornost za donošenje odluke o izradi, razvoju, primjeni i uporabi sustava umjetne inteligencije mora temeljiti na ljudskom upravljanju jer mora postojati značajan ljudski nadzor i kontrola nad bilo kojim oružanim sustavom te postojati ljudska namjera kod donošenja odluke o uporabi sile kada se oružjem podržanim umjetnom inteligencijom izvršava odluka koja bi mogla imati smrtonosne posljedice; naglašava da bi trebala i dalje biti prisutna ljudska kontrola nad upravljanjem i nadzorom sustava podržanih umjetnom inteligencijom, u skladu s načelima na razini vojnog vodstva za autonomne sustave gdje čovjek može preuzeti kontrolu, sustave pod stalnom ljudskom kontrolom i sustave kojima upravlja isključivo čovjek; naglašava da se vojnom vodstvu za izvršenje smrtonosnih ili razaračkih mjera velikog opsega u okviru sustava podržanih umjetnom inteligencijom mora omogućiti cjelovita nadležnost i odgovornost za uporabu smrtonosne sile te potrebna razina prosudbe koju strojevi ne mogu imati jer se takva prosudba mora temeljiti na razlikovanju, proporcionalnosti i predostrožnosti; ističe potrebu za uspostavom jasnih i sljedivih okvira autorizacije i odgovornosti za korištenje pametnog oružja i drugih sustava podržanih umjetnom inteligencijom uz primjenu jedinstvenih korisničkih obilježja poput biometrijskih specifikacija kako bi korištenje bilo omogućeno isključivo ovlaštenom osoblju;

Promet

103.naglašava potencijal umjetne inteligencije, robotike i povezanih tehnologija za sve autonomne oblike cestovnog, željezničkog, vodnog i zračnog prometa, kao i za poticanje izmjene modaliteta prijevoza i intermodalnosti jer te tehnologije mogu pridonijeti pronalasku optimalne kombinacije vrsta prijevoza robe i putnika; nadalje, naglašava njihov potencijal da povećaju učinkovitost prometa, logistike i prometnih tokova i da učine sve vrste prijevoza sigurnijima, pametnijima i ekološki prihvatljivijima; ističe da se etički pristup umjetnoj inteligenciji može smatrati i sustavom ranog upozoravanja na rizike, posebno u pogledu sigurnosti i učinkovitosti prometa;

104ističe da radi globalnog tržišnog natjecanja među poduzećima i gospodarskim regijama Unija treba promicati ulaganja i ojačati međunarodnu konkurentnost poduzeća koja posluju u prometnom sektoru uspostavljanjem okoline povoljne za razvoj i primjenu rješenja zasnovanih na umjetnoj inteligenciji i dodatnih inovacija, u kojoj poduzeća iz Unije mogu postati svjetski predvodnici u razvoju tehnologija umjetne inteligencije;

105.naglašava da je prometnom sektoru Unije potrebno ažuriranje regulatornog okvira koji se odnosi na te nove tehnologije i njihovo korištenje u prometnom sektoru i jasan etički okvir za postizanje pouzdane umjetne inteligencije, uključujući aspekte sigurnosti, zaštite, poštovanja ljudske autonomije, nadzora i odgovornosti, koji će povećati koristi koje svi dijele te biti ključan u poticanju ulaganja u istraživanje i inovacije, razvoj vještina i početak uvođenja umjetne inteligencije u javne usluge, mala i srednja poduzeća, novoosnovana te velika poduzeća, uz istodobno osiguravanje zaštite podataka i interoperabilnosti, bez nametanja nepotrebnog administrativnog opterećenja poduzećima i potrošačima;

106.napominje da razvoj i implementacija umjetne inteligencije u prometnom sektoru neće biti mogući bez moderne infrastrukture koja je ključan dio inteligentnih prometnih sustava; naglašava da stalne razlike u stupnju razvoja među državama članicama stvaraju rizik od toga da najmanje razvijene regije i njihovi stanovnici budu uskraćeni za prednosti koje donosi razvoj autonomne mobilnosti; poziva na dodjelu odgovarajućih financijskih sredstava za modernizaciju prometne infrastrukture u EU-u, uključujući njezinu integraciju u mrežu 5G;

107.preporuča razvoj pouzdanih standarda za umjetnu inteligenciju na razini Unije, za sve vrste prijevoza, uključujući automobilsku industriju, te za testiranje vozila s umjetnom inteligencijom i povezanih proizvoda i usluga;

108.napominje da bi sustavi umjetne inteligencije mogli pridonijeti znatnom smanjenju broja poginulih na cestama, na primjer kraćim vremenom reakcije i boljim pridržavanjem pravila; međutim, smatra da uporaba autonomnih vozila neće moći dovesti do eliminiranja svih nesreća i ističe da je zbog toga objašnjivost odluka umjetne inteligencije sve važnija kako bi se opravdali nedostaci i neželjene posljedice odluka o umjetnoj inteligenciji;

Zapošljavanje, prava radnika, digitalne vještine i radna mjesta

109.napominje da primjena umjetne inteligencije, robotike i povezanih tehnologija na radnom mjestu može doprinijeti uključivim tržištima rada i utjecati na zdravlje i sigurnost na radu, a može se upotrebljavati i za praćenje, evaluaciju, predviđanje i usmjeravanje rada zaposlenika s izravnim i neizravnim posljedicama za njihove karijere; budući da bi umjetna inteligencija trebala imati pozitivan učinak na radne uvjete i biti vođena poštovanjem ljudskih prava kao i temeljnih prava i vrijednosti Unije; budući da bi umjetna inteligencija trebala biti usmjerena na ljude, poboljšati dobrobit ljudi i društva te doprinijeti pravednoj i pravičnoj tranziciji; te bi tehnologije stoga trebale imati pozitivan učinak na radne uvjete i biti vođena poštovanjem ljudskih prava kao i temeljnih prava i vrijednosti Unije;

110.ističe potrebu za razvojem kompetencija kroz osposobljavanje i obrazovanje radnika i njihovih predstavnika u području umjetne inteligencije na radnom mjestu kako bi bolje razumjeli implikacije rješenja umjetne inteligencije; naglašava da bi kandidati i radnici trebali biti propisno obaviješteni u pisanom obliku ako se umjetna inteligencija upotrebljava tijekom postupaka zapošljavanja i pri donošenju drugih odluka u vezi s ljudskim resursima te o tome da se u tom slučaju može zatražiti da čovjek preispita automatiziranu odluku radi njezina poništavanja;

111.ističe da treba osigurati da korist od rasta produktivnosti kao rezultat razvoja i upotrebe umjetne inteligencije i robotike nemaju samo vlasnici poduzeća i dioničari, već da od toga korist ostvaruju i poduzeća i radna snaga, zahvaljujući boljim uvjetima rada i zapošljavanja, uključujući plaće, kao i gospodarski rast i razvoj, te da to koristi društvu u cjelini, posebno ako se takav rast ostvaruje na račun radnih mjesta; poziva države članice da pažljivo prouče mogući utjecaj umjetne inteligencije na tržište rada i sustave socijalne sigurnosti te da razviju strategije za osiguravanje dugoročne stabilnosti preko reforme poreza i doprinosa, kao i drugih mjera u slučaju manjih javnih prihoda;

112.ističe važnost korporativnih ulaganja u formalno i neformalno osposobljavanje i cjeloživotno učenje kako bi se podržao pravedan prijelaz na digitalno gospodarstvo; u tom kontekstu naglašava da poduzeća koja se koriste umjetnom inteligencijom imaju odgovornost osigurati odgovarajuće prekvalificiranje i usavršavanje za sve zaposlenike kako bi oni mogli naučiti kako upotrebljavati digitalne alate i raditi s kobotovima i drugim novim tehnologijama, čime se prilagođavaju promjenjivim potrebama tržišta rada i ostaju zaposleni;

113.smatra da bi posebnu pozornost trebalo posvetiti novim oblicima rada, kao što su honorarni poslovi i rad preko platformi, koji su rezultat primjene novih tehnologija u tom kontekstu; naglašava da se pri reguliranju uvjeta rada na daljinu u cijeloj Uniji i osiguravanju pristojnih uvjeta rada i zapošljavanja u digitalnom gospodarstvu također mora uzeti u obzir utjecaj umjetne inteligencije; poziva Komisiju da se u tom pogledu savjetuje sa socijalnim partnerima, razvojnim programerima u području umjetne inteligencije, istraživačima i drugim dionicima;

114.naglašava da umjetna inteligencija, robotika i povezane tehnologije ni na koji način ne smiju utjecati na ostvarivanje temeljnih prava priznatih u državama članicama i na razini Unije, uključujući pravo ili slobodu na štrajk ili poduzimanje drugih mjera obuhvaćenih posebnim sustavima industrijskih odnosa u državama članicama, u skladu s nacionalnim pravom i/ili praksom, niti utjecati na pravo na pregovaranje, sklapanje i provedbu kolektivnih ugovora ili na poduzimanje kolektivnih mjera u skladu s nacionalnim pravom i/ili praksom;

115.ponovno ističe važnost obrazovanja i kontinuiranog učenja kako bi se razvile kvalifikacije potrebne u digitalnom dobu i odgovorilo na problem digitalne isključenosti; poziva države članice da ulažu u visokokvalitetno, prilagodljivo i uključivo obrazovanje, strukovno osposobljavanje i sustave cjeloživotnog učenja, kao i politike prekvalifikacije i usavršavanja za radnike u sektorima na koje bi umjetna inteligencija mogla ozbiljno utjecati; ističe da je potrebno da se sadašnjoj i budućoj radnoj snazi pruže potrebne vještine pismenosti, matematičke pismenosti i digitalne vještine, kao i kompetencije u području znanosti, tehnologije, inženjerstva i matematike (STEM) te transverzalne meke vještine, kao što su kritičko razmišljanje, kreativnost i poduzetništvo; naglašava da se u tom pogledu posebna pozornost mora posvetiti uključivanju skupina u nepovoljnom položaju;

116.podsjeća da umjetna inteligencija, robotika i povezane tehnologije koje se koriste na radnom mjestu moraju biti dostupne svima na temelju načela „dizajn za sve“;

Obrazovanje i kultura

117.naglašava da je kriterije za razvoj, uvođenje i upotrebu umjetne inteligencije potrebno osmisliti vodeći računa o njihovom učinku u područjima obrazovanja, medija, mladih, istraživanja, sporta te u kulturnom i kreativnom sektoru na način da se utvrde referentna mjerila za etički odgovorne i prihvatljive upotrebe tehnologija umjetne inteligencije koja se mogu na odgovarajući način primijeniti u tim područjima, uključujući jasan režim odgovornosti za proizvode nastale uporabom umjetne inteligencije;

118.napominje da svako dijete ima pravo na kvalitetno javno obrazovanje na svim razinama; stoga poziva na razvoj, uvođenje i upotrebu kvalitetnih sustava umjetne inteligencije kojima se omogućuju i pružaju kvalitetni obrazovni alati za sve i na svim razinama te naglašava da uvođenje novih sustava umjetne inteligencije u škole ne bi smjelo dovesti do većeg digitalnog jaza u društvu; prepoznaje golemi potencijalni doprinos koji umjetna inteligencija i robotika mogu dati obrazovanju; napominje da personalizirani sustavi učenja koji se temelje na umjetnoj inteligenciji ne bi trebali zamijeniti obrazovne odnose u kojima sudjeluju nastavnici i da tradicionalni oblici obrazovanja ne bi smjeli biti zapostavljeni, istodobno ističući da se učiteljima koji žele steći odgovarajuće vještine u cilju prilagodbe tehnološkim promjenama i iskorištavanju potencijala umjetne inteligencije, uključujući specijalizirano osposobljavanje u području informacijskih i komunikacijskih tehnologija, mora pružiti financijska, tehnološka i obrazovna potpora, ne samo kako bi se iskoristio potencijal umjetne inteligencije, već i razumjela njezina ograničenja; poziva na razvoj strategije na razini Unije kako bi se pomogla transformacija i modernizacija naših obrazovnih sustava, kako bi se naše obrazovne institucije na svim razinama pripremile, a nastavnici i učenici stekli potrebne vještine i sposobnosti;

119.naglašava da bi obrazovne institucije trebale nastojati u obrazovne svrhe koristiti sustave umjetne inteligencije koji su dobili europsku potvrdu o sukladnosti s etičkim načelima;

120.naglašava da mogućnosti koje pružaju digitalizacija i nove tehnologije ne smiju dovesti do ukupnog gubitka radnih mjesta u kulturnom i kreativnom sektoru, zanemarivanja očuvanja originala i slabljenja tradicionalnog pristupa kulturnoj baštini, koju bi također trebalo poticati; napominje da bi sustavi umjetne inteligencije koji su razvijeni i uvedeni u Uniji te se u njoj koriste trebali odražavati njezinu kulturnu raznolikost i višejezičnost;

121.prepoznaje sve veći potencijal umjetne inteligencije u području informacijskih, medijskih i internetskih platformi, uključujući kao instrument za borbu protiv dezinformacija, u skladu s pravom Unije; ističe da bi tehnologije umjetne inteligencije, ako nisu regulirane, mogle imati etički štetne učinke zbog iskorištavanja pristranosti u podacima i algoritmima koji bi mogli dovesti do širenja dezinformacija i stvaranja informacijskih balona; ističe važnost transparentnosti i odgovornosti algoritama kojima se koriste platforme za razmjenu video sadržaja (VSP) i platforme za streaming kako bi se osigurao pristup kulturno i jezično raznolikom sadržaju;

Nacionalna nadzorna tijela

122.primjećuje dodanu vrijednost određivanja nacionalnih nadzornih tijela u svim državama članicama odgovornih za osiguravanje, ocjenjivanje i praćenje usklađenosti s pravnim obvezama i etičkim načelima razvoja, uvođenja i upotrebe visokorizične umjetne inteligencije, robotike i s njima povezanih tehnologija, čime se doprinosi pravnoj i etičkoj sukladnosti tih tehnologija;

123.smatra da se od tih tijela mora zahtijevati da surađuju, a da se pritom njihove zadaće ne preklapaju, s tijelima nadležnima za provedbu sektorskog zakonodavstva kako bi se utvrdile tehnologije koje su visokorizične iz etičke perspektive te kako bi se nadzirala provedba potrebnih i adekvatnih mjera kada su takve tehnologije utvrđene;

124.ističe da bi se ta tijela trebala povezati ne samo međusobno već i s Europskom komisijom i drugim relevantnim institucijama, tijelima, uredima i agencijama Unije kako bi se zajamčilo usklađeno prekogranično djelovanje;

125.smatra da bi, u kontekstu takve suradnje, trebalo izraditi zajedničke kriterije i postupak prijave koji se odnose na izdavanje europske potvrde o sukladnosti s etičkim načelima, među ostalim i na temelju zahtjeva koje podnose razvojni programeri, subjekti za uvođenje ili ko