Okvir OECD-a za klasifikaciju AI sustava za procjenu izazova politike i osiguravanje međunarodnih standarda S.S

Okvir OECD-a za klasifikaciju AI sustava za procjenu izazova politike i osiguravanje međunarodnih standarda

pripremio: Srećko Sertić

AI omogućuje nove načine učenja, rada, igre, interakcije i življenja. U mnogim slučajevima umjetna inteligencija može učiniti život ljudima lakšim (autoispravljanje), sigurnijim (prepoznavanje lica na pametnim telefonima) ili čak uzbudljivijim (online igre). Međutim, kako se AI širi po sektorima, različite vrste AI sustava donose različite prednosti, poput financijskog prosperiteta i rizika u područjima kao što su ljudska prava i osobna sigurnost. I rizici i koristi donose političke i regulatorne izazove. Iako bi se većina ljudi složila da bi vlade trebale poduzeti korake kako bi zaštitile građane, vjerojatno se također slažu da napredak ne bi trebala ometati pretjerana regulacija.

Da bismo dodali još jedan sloj složenosti, sva ova razmatranja ne ovise samo o samoj tehnologiji. Čimbenici poput konteksta i na koje dionike utječu zadaci i rezultati AI sustava, također su dio jednadžbe.

Evo nekoliko primjera. Razmislite o razlikama između virtualnog asistenta, samovozećeg vozila i algoritma koji preporučuje videozapise za djecu. Lako je vidjeti da se koristi i rizici mogu mjeriti ne samo onim što tehnologija može učiniti, već i kontekstom u kojem djeluje i dionicima na koje utječu rezultati. Ova složenost je još očitija na primjeru tehnologije prepoznavanja lica, koja je izvrsna za sigurnost pametnog telefona, ali može ugroziti ljudska prava i slobode u drugim okolnostima.

Okvir OECD-a za klasifikaciju AI sustava

OECD je objavio okvir prilagođen korisniku koji će voditi kreatore politike, regulatore, zakonodavce i druge kako karakterizirati sustave umjetne inteligencije za specifične projekte i kontekste. Okvir povezuje karakteristike AI sustava s OECD-ovim načelima umjetne inteligencije, te prvim skupom AI standarda koje su vlade odlučile uključiti u kreiranje politike i koje promiču inovativnu i pouzdanu upotrebu AI.

Ključne dimenzije okvira strukturiraju karakteristike i interakcije AI sustava Dimenzije pomažu korisnicima da razluče kritične detalje o sustavu umjetne inteligencije, kako radi, gdje su odgovornosti i kako njegovi rezultati mogu utjecati na ljude i okruženja u kojima djeluje. Okvir klasificira AI sustave prema sljedećim dimenzijama: ljudi i planet, ekonomski kontekst, podaci i ulazi, AI modelov zadatak i izlaz. Svaki od njih ima svoja svojstva i atribute koji pomažu u procjeni razmatranja politike određenih AI sustava. Dionici su uključeni ili pod utjecajem AI sustava, dok AI akteri igraju aktivne uloge prema svakoj dimenziji i tijekom životnog ciklusa AI sustava.

Alat za olakšavanje promišljanja oko razvoja politike umjetne inteligencije Okvir omogućuje korisnicima da zumiraju specifične rizike koji su tipični za AI, kao što su pristranost, objašnjivost i robusnost, no ipak je generičke prirode. Omogućuje nijansiranu i preciznu debatu o politici. Okvir također može pomoći u razvoju politika i propisa budući da karakteristike AI sustava utječu na tehničke i proceduralne mjere koje su im potrebne za provedbu. Okvir promiče zajedničko razumijevanje AI identificiranjem značajki AI sustava koje su najvažnije. I unutar i izvan vlade, okvir može informirati ili usmjeravati rad na opisivanju sustava i osnovnih karakteristika algoritama ili automatiziranih sustava odlučivanja. Kao što je spomenuto, okvir OECDa je generički, ali postoji potreba za okvirima koji su specifični za sektor u područjima kao što su zdravstvo i financije.

Uloga životnog ciklusa AI sustava

Okvir koristi životni ciklus AI sustava kao komplementarnu strukturu za razumijevanje ključnih tehničkih karakteristika sustava. Dimenzije OECD-ovog okvira za klasifikaciju sustava umjetne inteligencije mogu se povezati s različitim fazama životnog ciklusa sustava umjetne inteligencije kako bi se identificirali relevantni AI akteri, što pomaže da se okvir poveže izravno s odgovornošću i upravljanjem rizikom. Međunarodni aspekt umjetne inteligencije zahtijeva usklađene pristupe Umjetna inteligencija prelazi granice, stoga je važno da vlade rade zajedno na stvaranju minimalnih standarda o tome kako netko koristi, prikuplja i pohranjuje podatke te kakva bi vrsta transparentnosti trebala postojati. Tu bi također trebalo dovesti do veće suradnje između globalnijih organizacija i platformi, a klasifikacijski sustavi mogu pomoći u usmjeravanju te suradnje.

Prvi korak prema utjecaju procjene rizika i mapiranju AI sustava

Trenutni okvir trebao bi pružiti osnovu za razvoj budućeg okvira za procjenu rizika koji će pomoći u smanjenju i ublažavanju rizika. Također će pružiti osnovu za OECD, članice i partnerske organizacije za razvoj zajedničkog okvira za izvješćivanje o incidentima s umjetnom inteligencijom, utirući put dosljednosti i interoperabilnosti u izvještavanju o incidentima. Ako se usvoji u širem smislu, očekujemo da će klasifikacijski okvir pomoći u generiranju više informacija o vrstama AI sustava koji se koriste u svijetu, što kreatorima politike može dati podatke potrebne za mapiranje ove važne domene i identificiranje intervencija koje mogu učiniti AI korisnijom za svijeta i društva u cjelini. ST