Zemlje članice Uneska usvojile prvi globalni sporazum o etici veštačke inteligencije

Odri Azulej (Audrey Azoulay), generalna direktorka Uneska, predstavila je u četvrtak prvi globalni standard o etici veštačke inteligencije koji su usvojile zemlje članice Uneska na Generalnoj konferenciji.

Ovaj istorijski tekst definiše zajedničke vrednosti i principe koji će voditi izgradnju neophodne pravne infrastrukture kako bi se obezbedio zdrav razvoj veštačke inteligencije.

AI je sveprisutan i omogućava mnoge naše dnevne rutine – rezervisanje letova, upravljanje automobilima bez vozača i personalizovanje naših jutarnjih vesti. Veštačka inteligencija takođe podržava donošenje odluka u vladama i privatnom sektoru.

AI tehnologije daju izvanredne rezultate u visoko specijalizovanim oblastima kao što su dijagnostikovanje raka i izgradnja inkluzivnog okruženja za osobe sa invaliditetom. Oni takođe potpomažu borbu protiv globalnih problema kao što su klimatske promene i glad u svetu, i imaju za cilj da utiču na smanjenje siromaštva optimizacijom ekonomske pomoći.

Ali tehnologija takođe donosi nove izazove bez presedana. Vidimo povećanu rodnu i etničku pristrasnost, značajne pretnje privatnosti, dostojanstvu i društvenom delovanju, opasnosti od masovnog nadzora i povećanu upotrebu nepouzdanih AI tehnologija u sprovođenju zakona, ako ćemo da spomenemo samo neke. Do sada nisu postojali univerzalni standardi koji bi dali odgovor na ova pitanja.

Godine 2018. Odri Azulej, generalna direktorka Uneska, pokrenula je ambiciozan projekat: stvoriti globalni etički okvir za korišćenje veštačke inteligencije. Tri godine kasnije, zahvaljujući mobilizaciji stotina stručnjaka iz celog sveta i intenzivnim međunarodnim pregovorima, 193 države članice Uneska su upravo zvanično usvojile ovaj etički okvir.

Sadržaj preporuke

Preporuka ima za cilj da shvati prednosti koje veštačka inteligencija donosi društvu i da smanji rizike koje ona nosi sa sobom. Preporuka osigurava da digitalne transformacije promovišu ljudska prava i doprinose postizanju ciljeva održivog razvoja, baveći se pitanjima transparentnosti, odgovornosti i privatnosti, sa poglavljima politike usmerenim na akciju o upravljanju podacima, obrazovanju, kulturi, radu, zdravstvu i ekonomiji.

1. Zaštita podataka

Preporuka poziva na akciju izvan onoga što tehnološke firme i vlade rade kako bi pojedincima garantovale veću zaštitu obezbeđivanjem transparentnosti, posredovanja i kontrole nad njihovim ličnim podacima. U njemu se navodi da bi svi pojedinci trebali imati mogućnost pristupa ili čak brisanja evidencije svojih ličnih podataka. Takođe uključuje radnje za poboljšanje zaštite podataka i znanja pojedinca i prava na kontrolu nad sopstvenim podacima. Takođe povećava sposobnost regulatornih tela širom sveta da ovo sprovedu.

2. Zabrana društvenog bodovanja i masovnog nadzora

Preporuka eksplicitno zabranjuje upotrebu AI sistema za društveno bodovanje i masovni nadzor. Ove vrste tehnologija su veoma invazivne, krše ljudska prava i osnovne slobode i koriste i veoma su rasprostranjene. U Preporuci se naglašava da kada razvijaju regulatorne okvire, države članice treba da uzmu u obzir da krajnja odgovornost i nadležnost uvek moraju da budu na ljudima i da tehnologijama veštačke inteligencije ne treba davati pravni subjektivitet.

3. Pomaganje u praćenju i evaluaciji

Preporuka takođe postavlja osnovu za alate koji će pomoći u njenoj primeni. Etička procena uticaja ima za cilj da pomogne zemljama i kompanijama koje razvijaju i primenjuju AI sisteme da procene uticaj tih sistema na pojedince, društvo i životnu sredinu. Metodologija procene spremnosti pomaže državama članicama da procene koliko su spremne u pogledu pravne i tehničke infrastrukture. Ovaj alat će pomoći u jačanju institucionalnih kapaciteta zemalja i preporučiti odgovarajuće mere koje treba preduzeti kako bi se osiguralo da se etika sprovodi u praksi. Pored toga, Preporuka podstiče države članice da razmotre dodavanje uloge nezavisnog službenika za etiku veštačke inteligencije ili nekog drugog mehanizma za nadgledanje revizije i kontinuirano praćenje napora.

4. Zaštita životne sredine

U Preporuci se naglašava da AI akteri treba da favorizuju metode veštačke inteligencije koje štede podatke, energiju i resurse koje će pomoći da se obezbedi da veštačka inteligencija postane istaknutije sredstvo u borbi protiv klimatskih promena i u rešavanju problema životne sredine. Preporukom se od vlada traži da procene direktan i indirektan uticaj na životnu sredinu tokom životnog ciklusa sistema veštačke inteligencije. Ovo uključuje ugljenični otisak, potrošnju energije i uticaj na životnu sredinu ekstrakcije sirovina za podršku proizvodnji AI tehnologija. Takođe ima za cilj smanjenje uticaja AI sistema i prateće infrastrukture na životnu sredinu. Ona podstiče vlade da ulažu u zelenu tehnologiju, a ako postoji nesrazmeran negativan uticaj sistema veštačke inteligencije na životnu sredinu, Preporuka navodi da ih ne treba koristiti.

Nove tehnologije kao što je AI dokazale su svoju ogromnu sposobnost da se beskonačno razvijaju. Međutim, trebalo bi kontrolisati njihove negativne uticaje koji pogoršavaju ionako podeljen i nejednak svet. Razvoj veštačke inteligencije treba da poštuje vladavinu zakona, izbegavajući štetu i obezbeđujući da, kada se šteta desi, budu pri ruci mehanizmi odgovornosti i obeštećenja za one koji su pogođeni.

• Izvor