Aplikacija za prepoznavanje lica - koristan izum ili sveprisutan nadzor? Kakvo je stajalište EU?
Članci
Izum umjetne inteligencije koji je izazvao najviše zabrinutosti glede kršenja temeljnih ljudskih prava definitivno je aplikacija za prepoznavanje lica.
Aplikacija za prepoznavanje lica se često koristi u privatnom sektoru za oglašavanje, marketing, pri zapošljavanju, na internetu i društvenim mrežama, itd. S druge strane, prednosti aplikacije za prepoznavanje lica otkrio je i javni sektor, ponajviše u području provedbe zakona i upravljanja državnim granicama. Primjerice, aplikacija za prepoznavanje lica može pomoći u identificiranju kriminalnih radnji i s njima povezanih osoba, pronalasku izgubljene djece, i sl.
Međutim, brzi razvoj aplikacije za prepoznavanje lica i njezina raširena uporaba na javnim mjestima izazvala je brojne rasprave i zabrinutosti, koje proizlaze iz njezine nedovoljne preciznosti i potencijalnog (negativnog) učinka na temeljna ljudska prava. Najkontroverznijom se pokazala sve veća upotreba sustava za daljinsku biometrijsku identifikaciju u stvarnom vremenu (tj. prepoznavanje lica uživo) na javno dostupnim mjestima, budući da prepoznavanje lica uživo (za razliku od slika lica snimljenih u kontroliranom okruženju) u većini slučajeva može rezultirati lažnim podudarnostima te zbog slabijeg položaja pojedinca čije slike lica su snimljene i provjerene bez njegovog znanja.
Temeljna ljudska prava koja su najviše pogođena korištenjem aplikacije za prepoznavanje lica uživo u kontekstu provedbe zakona jesu: pravo na zaštitu ljudskog dostojanstva, pravo na poštivanje privatnog života, pravo na zaštitu osobnih podataka te pravo na zaštitu od diskriminacije.
Najnoviji odgovor EU-e na potencijalni negativan učinak sustava umjetne inteligencije (uključujući i aplikacije za prepoznavanje lica) na temeljna ljudska prava je prijedlog EU Komisije za donošenje EU Akta o umjetnoj inteligenciji („Prijedlog“).
Navedeni Prijedlog predstavlja prvi pokušaj uvođenja horizontalne regulacije umjetne inteligencije. Jedan od glavnih ciljeva Prijedloga jest ograničiti uporabu sustava za daljinsku biometrijsku identifikaciju, uključujući i uporabu aplikacije za prepoznavanje lica, koji bi mogli dovesti do sveprisutnog nadzora. Prijedlog razlikuje sustave umjetne inteligencije prema njihovom 'neprihvatljivom', 'visokom', 'niskom' ili 'minimalnom' riziku uporabe, ovisno o njihovom utjecaju na sigurnost ljudi ili temeljna ljudska prava. Stoga su pojedini sustavi umjetne inteligencije zabranjeni zbog neprihvatljivog rizika povezanog s njima.
U tom smislu, zbog grubog zadiranja u ljudska prava i slobode, prijedlog je EU Komisije da se zabrani uporaba prepoznavanja lica uživo na javno dostupnim mjestima za potrebe provedbe zakona, uz tri ograničene iznimke, u kojima je zadiranje u temeljna ljudska prava opravdano u svrhu zaštite značajnog javnog interesa. Državama članicama EU je prepušteno da samostalno odluče žele li te iznimke implementirati u svoje nacionalno zakonodavstvo ili ne.
Ostaje za vidjeti kako će EU uspjeti u prvom pokušaju ublažavanja rizika i problema umjetne inteligencije (konkretno aplikacije za prepoznavanje lica) u pogledu zadiranja u temeljna ljudska prava, a bez nepotrebnog ograničavanja ili narušavanja prednosti umjetne inteligencije ili odvraćanja od ulaganja i inovacija u području umjetne inteligencije na tržištu EU-e.
Aplikacija za prepoznavanje lica se često koristi u privatnom sektoru za oglašavanje, marketing, pri zapošljavanju, na internetu i društvenim mrežama, itd. S druge strane, prednosti aplikacije za prepoznavanje lica otkrio je i javni sektor, ponajviše u području provedbe zakona i upravljanja državnim granicama. Primjerice, aplikacija za prepoznavanje lica može pomoći u identificiranju kriminalnih radnji i s njima povezanih osoba, pronalasku izgubljene djece, i sl.
Međutim, brzi razvoj aplikacije za prepoznavanje lica i njezina raširena uporaba na javnim mjestima izazvala je brojne rasprave i zabrinutosti, koje proizlaze iz njezine nedovoljne preciznosti i potencijalnog (negativnog) učinka na temeljna ljudska prava. Najkontroverznijom se pokazala sve veća upotreba sustava za daljinsku biometrijsku identifikaciju u stvarnom vremenu (tj. prepoznavanje lica uživo) na javno dostupnim mjestima, budući da prepoznavanje lica uživo (za razliku od slika lica snimljenih u kontroliranom okruženju) u većini slučajeva može rezultirati lažnim podudarnostima te zbog slabijeg položaja pojedinca čije slike lica su snimljene i provjerene bez njegovog znanja.
Temeljna ljudska prava koja su najviše pogođena korištenjem aplikacije za prepoznavanje lica uživo u kontekstu provedbe zakona jesu: pravo na zaštitu ljudskog dostojanstva, pravo na poštivanje privatnog života, pravo na zaštitu osobnih podataka te pravo na zaštitu od diskriminacije.
Najnoviji odgovor EU-e na potencijalni negativan učinak sustava umjetne inteligencije (uključujući i aplikacije za prepoznavanje lica) na temeljna ljudska prava je prijedlog EU Komisije za donošenje EU Akta o umjetnoj inteligenciji („Prijedlog“).
Navedeni Prijedlog predstavlja prvi pokušaj uvođenja horizontalne regulacije umjetne inteligencije. Jedan od glavnih ciljeva Prijedloga jest ograničiti uporabu sustava za daljinsku biometrijsku identifikaciju, uključujući i uporabu aplikacije za prepoznavanje lica, koji bi mogli dovesti do sveprisutnog nadzora. Prijedlog razlikuje sustave umjetne inteligencije prema njihovom 'neprihvatljivom', 'visokom', 'niskom' ili 'minimalnom' riziku uporabe, ovisno o njihovom utjecaju na sigurnost ljudi ili temeljna ljudska prava. Stoga su pojedini sustavi umjetne inteligencije zabranjeni zbog neprihvatljivog rizika povezanog s njima.
U tom smislu, zbog grubog zadiranja u ljudska prava i slobode, prijedlog je EU Komisije da se zabrani uporaba prepoznavanja lica uživo na javno dostupnim mjestima za potrebe provedbe zakona, uz tri ograničene iznimke, u kojima je zadiranje u temeljna ljudska prava opravdano u svrhu zaštite značajnog javnog interesa. Državama članicama EU je prepušteno da samostalno odluče žele li te iznimke implementirati u svoje nacionalno zakonodavstvo ili ne.
Ostaje za vidjeti kako će EU uspjeti u prvom pokušaju ublažavanja rizika i problema umjetne inteligencije (konkretno aplikacije za prepoznavanje lica) u pogledu zadiranja u temeljna ljudska prava, a bez nepotrebnog ograničavanja ili narušavanja prednosti umjetne inteligencije ili odvraćanja od ulaganja i inovacija u području umjetne inteligencije na tržištu EU-e.
