HASZNÁLATI UTASÍTÁS:
MESTERSÉGES INTELLIGENCIA
www.goethe.de/ins/hu/
Együtt gondolkozni – Mesterséges intelligencia és mi A mesterséges intelligenciát (AI) körülvevő technológiai lelkesedés meredeken ível felfelé. Míg újságcikkek hirdetik, hogy az intelligens robotok munkahelyeket fognak megszüntetni, az AI jelenlegi alkalmazása nem teljes mértékben disztópikus színezetű: parlagfüvet azonosító drónoktól kezdve, beteg sejtek azonnali felismerésén keresztül, a dugók és hosszú sorok elkerülését is ez a technológia biztosítja. Adatokat gyűjtünk, hogy életünket kalkulálhatóvá és a világot tervezhetővé tegyük, de fontos felismerni a hatalommal járó eszközökben rejlő manipuláció lehetőségét is. Hova tart a fejlődés és hogyan tudjuk mi, társadalomtudósok, mérnökök, művészek, építészek, filozófusok, városlakók és falusiak, fiatalok azt befolyásolni? Az A-Generációt (A, mint algoritmus), 18-30-éveseket megcélzó workshopunk során az AI technológia és az azt körülvevő társadalmi jelenségek mélyebb megismerésének segítségével tettük fel a kérdést: Lehetséges-e racionális és ésszerű AI használati útmutatót létrehozni a jövő társadalma számára? A kiadvány egyben a Goethe Intézet szervezésében 2020.március 12-13-án létrejött workshop dokumentációja is. A workshop vezetői: Bajkai-Németh Eszter, Tüdős Anna. A workshop résztvevői: Balatoni Ádám, Cserháti Réka, Göncző Kristóf, Gulyás Claudia, Klein András, Koczka Kristóf, László Györgyi, Lévai Laura, Somogyi Béla, Szalai Dániel, Tersztyánszky Réka , Tóth Kitti, Venyige Bernadett
TARTALOM -Tisztázzuk a fogalmakat! - Intelligens a mesterséges intelligencia? - Fajták és felhasználási területek - Mesterséges intelligencia és környezetünk - Önvezető autók - Hogyan változtatja meg a munka világát a mesterséges intelligencia? - Etikai kérdések - A Mesterséges intelligencia és a jövő -Manipuláció/politika -Hadviselés -Cyborgok, ember/gép
“
Hogyan tud civilizációnk az MI-vel közös értékrendszert kialakítani?
MI, AI, KI, Mi? Q. Mi a mesterséges intelligencia? A. Egy mérnöki tudományág, melynek során intelligens gépeket készítenek, főként intelligens számítógépes programokat. Nem az emberi intelligencia megértésére tett kísérlet számítógépek segítségével, és nem is biológiai folyamatokkal foglalkozik. Q. Rendben, de mi az az intelligencia? A. Az intelligencia az a mozgatórugó, ami a döntések meghozásához és célok eléréséhez szükséges. Különböző fokú és típusú intelligencia létezik emberek, állatok és gépek esetében is. Q. Nincs olyan definíciója az intelligenciának ami nem az emberi intelligenciára utal? A. Még nincs, mivel nem értjük teljességében az intelligencia működését, így nem tudjuk kategorizálni sem, mely algoritmusokat nevezzünk inteligensnek és melyeket nem. Ha egy feladat működési elve világos, a számítógépek jó eredménnyel tudják azt ellátni. Q. A mesterséges intelligencia tehát az emberi intelligencia szimulálása? A. Néha, de általában nem. Egyrészről, ha megfigyeljük saját magunk vagy mások cselekvéseit, hatékonyabb gépeket tudunk létrehozni. Másrészt, a mesterséges intelligencia inkább emberi aggyal nem megoldható problémákra koncentrál.
Q. Van IQ-ja egy számítógépes programnak? A. Nincsen. IQ az intelligencia kialakulásának mérőszámain alapszik, gyerekek esetében. Beleszámít a gyerek életkora és az elért pontszám. Egy olyan program előállítása, ami magas pontot szerez egy IQ teszten teljesen értelmetlen feladat pl. egy ember esetében egy hosszú számsor elismétlése más intelligens tulajdonságokra következtet, míg egy gép esetében nem. Q. Mi az emberi és gépi intelligencia közti különbség? A. Az intelligencia a sebesség, a rövidtávú memória, a hosszútávú emlékek visszanyerésének képessége és annak keveréke, hogy helyes döntéseket képes meghozni valaki vagy valami. Namost, a számítógép képes olyan sebességre, melyekre egy kifejlett ember nem, de pár olyan képesség, mely egy kétévesben megvan, hiányzik belőle. Az észleléssel foglalkozó kognitív tudományok még mindig kutatják az emberi képességek mechanikáját, így a mesterséges intelligencia estében egy teljesen más típusú intelligenciáról beszélünk. Q. Mikorra eredeztethető a mesterséges intelligencia-kutatás? A. A második világháború után tudósok, gyakran egymástól függetlenül kezdtek el intelligens gépeket építeni. Alan Turing volt talán az első, ő 1947-ben tartott ilyen témában egy előadást. A Turing-teszt azt határozza meg, hogy egy gép intelligensnek tekinthető-e. Turing szerint ha egy gép sikeresen tudja tettetni az emberi gondolkodást akkor közel járhat hozzá. Ez nem egy általánosan elfogadott teszt, sok filozófus például túl könnyűnek tartja a tesztet.
Q. Mennyire van távol a mesterséges intelligencia az emberi szintű intelligenciától? Mikorra várható, hogy eléri? A.Ez egy ambíciózus célkitűzés, és csak pár ember gondolja, hogy valóban elérhető programok írásával. Sok kutató szerint új, fundamentális felfedezések kellenek ahhoz, hogy elérjük ezt a pontot. Q. És ha úgy gondolunk a számítógépre, mint egy gyerekre, aki folyamatosan tanul az élményeiből? A. Ez egy régóta, a 40-es évektől kezdve folyamatosan jelenlévő kérdés. Az alapötlet működik a technikai alkalmazás szintjén, de egy gép nem képes olyan módon ‘tanulni’ egy élményből, mint az ember, nincsenek meg hozzá az ösztönös kategóriái. Az algoritmusok képesek sakkban, vagy a Go nevű ázsiai játékban nyeri stratégiát alkalmazni, pusztán a lehetséges lépések számontartásának és megfelelő kijátszásának képességével.
Q. A számítógépelmélet illetve a komplex informatikai tudás kulcsfontosságú a mesterséges intelligencia megértéséhez? A. Nem. Ezek a tudományágak, bár nélkülözhetetlenek, nem a mesterséges intelligenciával kapcsolatos alapkérdéseket vizsgálják. meg.
Forrás: John McCarthy, Stanford University
Q. Van aki azt gondolja, hogy az AI rossz ötlet vagy szimplán zsákutca? A. John Searle filozófus szerint egy nem biológiai gép nem lehet intelligens. Hubert Dreyfus szerint a teljes mesterséges intelligencia lehetetlen. Joseph Weizenbaum informatikai kutató szerint az ötlet obszcén, embertelen és erkölcstelen. Számos tudós szerint pusztán azért, mert mostanra sem sikerült mesterséges intelligenciát előállítani, valószínűleg lehetetlen. Számos cég, aki mesterséges intelligenciába fektetettt csődbe ment.
A mesterséges intelligencia fajtái A MESTERSÉGES INTELLIGENCIA FAJTÁI
Logikus AI Keresés Mintázatok felismerése Ábrázolás Következtetés Józan ész, tudás, érvelés Tanulás tapasztalat alapján Tervezés Episztemológia Ontológia Heurisztikus Génprogramozás
A mesterséges intelligencia felhasználási területei Játék, logikai feladatok Beszédfelismerés Nyelvferismerés (és megértés) Látás Intelligens szakértő Heurisztikus besorolás
KÉPZELD AZT, HOGY TE VAGY AZ AI!
ÖNVEZETŐ AUTÓK 1
2
3
LEGYEN EGY KIKAPCSOLÓGOMB
5
AZ ÚJ TECHNOLÓGIA LEGYEN BIZTONSÁGOSABB, MINT A RÉGI
Az emberi döntésnek tudnia kell kontrollálnia a
De lássuk be, hogy a balesetek nem fognak
gépi intelligenciát.
megszűnni, csak csökkenni.
NE VÁRJUNK A TECHNOLÓGIA ELTERJEDÉSÉIG A SZABÁLYOZÁSSAL
6
A BIZTOSÍTÓK DOLGOZZANAK KI ÚJ CSOMAGOKAT
Már egy darab önvezető autó megjelenése is
A tervezés, a kivitelezés és a használat során
problémás lehet!
felmerülő felelősség-viszonyokra.
ÁLLÍTSUNK FEL KRITÉRIUMOKAT
7
Az önvezető autót egy jogosítvánnyal nem
MINIMALIZÁLJUK A FÉLREVEZETŐ BEFOLYÁSOLÓ FAKTOROKBÓL EREDŐ HIBÁKAT A
rendelkező embernek is tudnia kell vezetni.
rendszert
egyelőre
egy
hanghatás,
fényerőváltozás, vagy egy elhelyezett matrica is félre tudja vezetni.
4
MEG LEHESSEN ÁLLAPÍTANI, HOGY KI A VALÓDI FELELŐS
8
A FEJLESZTÉSNEK & HASZNÁLATNAK LEGYEN KÖZÖSSÉGI ELEME
Különböző közlekedési és baleset-szituációkban
Pl. útvonaltervezés, segítségkérés, egymást
különböző felelősök vannak.
tapasztalataiból tanuló rendszerek
“
Mint minden, amiben sok technológiai alkatarész/elem van, itt is nagy annak az esélye, hogy valami elromlik. Így nem bízom bennük a jelenlegi környezeti adottságokkal.
M
ilyen hatással vannak a városi változásokra a technológiai újítások és a mesterséges intelligencia? Hogyan tudják (vagy tudják-e) segíteni a városi emberek kényelmét, boldogságának növekedését? Adhat az MI választ az urbanisztika általános problémáira?
A
logisztikát az AI már erőteljesen támogatja. A közeljövőben ez vonatkozhat a tömegközlekedésre és az egyéni mobilitásra is: mindenki hallott az önvezető autókról; algoritmikán alapuló kocsimegosztásról; a parkolóhely-
keresés átalakításáról; drón taxikról; az embereket szállító csodacsőről. Az AI sok szempontból kibővítheti és optimalizálhatja mobilitást, valamint gazdasági és ökológiai szempontból fenntarthatóbbá teheti.
HOGYAN VÁLTOZTATJA MEG AZ MI A MUNKA VILÁGÁT? Az automatizáció - és az azzal járó hátrányok, előnyök és félelmek - mindig is ott voltak. Minden szerszám, minden gép a történelem során helyettesített valamit vagy valakit. Az AI és a robotika valóban felgyorsítja ezt a fejlődést. Napjainkra egy negyedik ipari forradalomról beszélhetünk,
TÖBB A KÉRDÉS MINT A VÁLASZ
ami a harmadik szakasz digitális forradalmára épít, ám egy attól elkülönülő új korszakot képez, a technológiai fejlődés sebessége, kiterjedtsége és a rendszerre – úgy, mint a termelési rendszerre, menedzsmentre, vagy a kormányzásra – gyakorolt hatása miatt. Egyes szakmák vagy akár foglalkozási területek az elkövetkező években eltűnhetnek. Az újonnan megjelenő szakmák valószínűleg inkább a magasan képzetteknek kedveznek, és éppen az elbocsátott, kevésbé képzett munkavállalók lesznek pácban.
M K L H A
it teszünk majd azzal az idővel, amelyben nem kell dolgoznunk?
inek válnak az előnyére ezek a fejlesztések, és ki fog miattuk szenvedni?
egyen-e általános alapjövedelem? ogyan szabályozzuk a munkaidőt?
produktivitás az automatizáció ezen új formájának köszönhetően világszerte nő, míg az átlagkereslet nem követi ezt az iramot. A munka világának alapvető válságába ágyazódik bele az AI problémája is: ki tudna ma 30 éves korára házat venni? Vagy professzorként jól keresni?
ETIKAI KÉRDÉSEK
Hogyan tudjuk a saját céljainkhoz igazítani a gépi rendszereket? Először is meg kell határoznunk a céljainkat és tartani kell ahhoz magunkat. Oké, azt szeretnénk, ha az AI etikus maradna - de mit értünk pontosan etikus AI alatt? “A tudomány a maga szabályainak megfelelően működjön, ne hatalmi vagy kereskedelmi érdekek alapján, és ne is a bürokrácia szorításában nyűglődjön. “ Minden számításban, melynek több kimenetele lehet, lesznek szabályos és szabálytalan eredmények. Mindig lesznek nem kívánt következmények, melyért nem tudunk felelőst találni. Az AI-hez való nyílt hozzáférést (AI Commons) hirdetők célja, hogy a folyamatos fejlesztési és alkalmazási területek középpontjába a demokratizálódást helyezzék. Az operátus működtetőinek van kezében a hatalom. (Gondoljunk a kínai digitális állampolgári rendszerre, vagy az orosz befolyásra Facebookon keresztül az amerikai választásokra.) A mi részünkről is vannak problémák: az ignorancia az átláthatóság igényével kapcsolatban.
HOGYAN LEHET “JÓRA” HASZNÁLNI AZ AI-t?
Munkaerő felvételekor Emberi jogok megértésének védelme Állatvédelem Természetvédelem Személyreszabhatóság - ajánlatok, zenék, ...
...
Példa problémára: Éhínség megoldása >népességnövekedés korlátozása > érzelem, etika <> racionalizáció
A JÖVŐ technooptimizmus vs. technopesszimizmus
A technológiának nem csak a jövő előrejelzésében van nagy szerepe, hanem annak KIMENETELÉBEN IS.
1 Mit lehet tenni a manipuláció ellen egyéni szinten? Nem sokat. De általánosságban megfogalmazható, hogy: a problémának meg kell jelennie a közoktatásban az álhírek kiszűrésére alkalmas eszközöket be kell vetni
“
hiteles médiumokra kell támaszkodni az időseket elérő csatornákra fokozott figyelmet kell fordítani
Ahelyett, hogy a gépeket szeretnénk intelligensebbé tenni, az AI segítségével az embereket kéne okosabbá tenni.
2 Az internetet is hadviselési célokból fejlesztették ki. A mesterséges intellgienciát fordítva, tökélyre fejlesztés után akarják hadi célokra “bevetni”. Az illegális fegyverkezés felderíthető a kereskedelem figyelésével. Az export/importból kérdéses, hogy kiderül-e ha valaki technológiai fegyvert fog bevetni. A mesterséges intelligenciának a védelmi rendszerek megerősítése során lesz nagy feladata. Disztópikus szcenárió: A Gépek Háborúja ABC egyezmények (atom, biológiai, kémiai fegyverekről) > ki kéne egészíteni D-vel (data/adat)
3 A scifi, irodalom és filmművészet kedvelt témái a cyborgok. Alapelvek: engedelmeskedjen, védje az embert és védje magát A következményeket végig kell gondolni egy-egy utasítás kapcsán. Pl. a “védj meg!” utasítást úgy is értelmezheti, hogy ha bezár egy szobába ott semmi bajod nem eshet Fennáll a hekkelés veszélye: hibák, biztonsági rések
Főbb kérdések: Lehetnek a gépeknek érzelmeik és jogaik? Nekünk mi a jobb, ha van vagy ha nincs nekik? Kinek a tulajdona egy emberszerű gép? Az államé? Bárkié? Vagy autonóm entitás? Hol szabjuk meg a határait az önfejlesztésnek és a szabad akaratnak? Hogyan különböztetjük meg őket magunktól?
F
ilmajánló
a
Mesterséges
Goethe Intelligencia
workshop csapatától:
- Szárnyas fejvadász -Ex Machina -Mesterséges értelem -Mátrix -Her -Hasonmás -Én, a robot -Űrodüsszeia -Better than us -Black Mirror
KAPCSOLAT: Goethe AI Workshop Facebook csoport
2020
www.goethe.de/ins/hu/