Á tímum fjórðu iðnbyltingar og gervigreindar
Almennt
Hugtakið fjórða iðnbyltingin kom fyrst inn í almenna málnotkun í ársbyrjun 2016. Það vísar til tækniframfara sem átt hafa sér stað undanfarin ár og sem vænta má í náinni framtíð og tengjast einkum aukinni sjálfvirknivæðingu og fyrirbærum eins og gervigreind, vélmennum, sjálfkeyrandi farartækjum og Interneti hlutanna (e. Internet of Things, IoT).
Orðin gervigreind (e. Artificial Intelligence, AI) og vélnám (e. Machine Learning, ML), eru í dag á margra vörum enda hefur þróunin á þessu sviði verið mjög ör undanfarin misseri. Til marks um þetta hér á landi var orðið gervigreind valið orð ársins 2023 bæði af Árnastofnun og Ríkisútvarpinu.1
Tungumálalíkön (e. Large Language Models, LLM)2 og það sem á íslensku hefur verið kallað spunagreind (e. Generative Artificial Intelligence, Gen AI) hafa þegar haft mikil áhrif og er fyrirséð að svo verði áfram. Engin einhlít skilgreining liggur fyrir á hugtakinu gervigreind en með einföldum hætti má segja að með þeirri tækni sem hér býr að baki séu algrímar (e. algorithms) og vélar látin leysa af hendi verkefni sem áður voru einungis talin á færi okkar mannanna.
Í ljósi hinnar öru þróunar keppast nú fyrirtæki, stofnanir og stjórnvöld hvarvetna við að greina möguleg áhrif þessarar nýju tækni til að koma auga á og nýta þau tækifæri sem hún býður upp á en ekki síður til að geta skilið þær áskoranir eða áhættur sem kunna að vera henni samfara.
Eins og fjallað hefur verið um í fjölmiðlum er talið að sjálfvirknivæðing geti leitt til sparnaðar fyrir atvinnulífið t.d. vegna fækkunar starfsfólks og aukinnar skilvirkni. Rétt er þó að nefna að þessar breytingar eru ekki einungis til þess fallnar að fækka störfum heldur má ætla að störf eins og við þekkjum þau í dag breytist talsvert og að ný störf verði til á sviði tækni og nýtingu hennar. Þær miklu framfarir sem orðið hafa á sviði gervigreindar undanfarið hafa gert það að verkum að nú er hægt að greina gríðarlegt magn upplýsinga á örskömmum tíma, sem áður var bæði tíma- og mannaflafrekt. Þessi mikli hraði við greiningu og vinnslu upplýsinga gæti nýst fyrirtækjum, stofnunum og stjórnvöldum við hvers kyns ákvarðanatöku. Gervigreind getur því verið öflugt verkfæri og breytingarafl í nútíma hagkerfum. Seðlabankar og fjármálaeftirlit leggja í vaxandi mæli áherslu á að rýna þau tækifæri og áskoranir sem kunna að felast í gervigreind fyrir starfsemina. Seðlabanki Íslands er þar engin undantekning og fylgist bankinn grannt með þróuninni.
Gervigreind – seðlabankar og alþjóðastofnanir
Seðlabankar og fjármálaeftirlit sjá tækifæri til að nýta gervigreind við úrvinnslu gagna og upplýsinga sem aflað er vegna starfseminnar. Ef nýta á gervigreindartæknina með þessum hætti og jafnvel taka ákvarðanir á grundvelli hennar verður að tryggja að fyllsta öryggis sé gætt.
Ætla má að hagnýting þessarar tækni geti dregið úr kostnaði við greiningar, dýpkað skilning á viðfangsefninu og hraðað niðurstöðu. Gera má ráð fyrir að í náinni framtíð munu áherslur seðlabanka skýrast enn frekar en í dæmaskyni má þó nefna ýmislegt sem þegar er til skoðunar.
Seðlabanki Evrópu (ECB) hefur rannsakað hvernig gögn sem bankinn býr yfir eru flokkuð og nýtt til ákvarðanatöku og hvernig nýta megi gervigreindartæknina til að bæta þar úr. Þá sér bankinn tækifæri fólgið í því að nýta vélnám til að vinna úr þeim aragrúa upplýsinga sem aflað er vegna fjármálaeftirlits og ákvarðanatöku af hálfu eftirlitsstofnana. Í dag safnar ECB miklu magni gagna í rauntíma með vefskröpun (e. web scraping) og vélnámi um vöruverð í Evrópusambandsríkjunum í því skyni að greina verðlagsþróun. Fram til þessa hefur hins vegar nokkur óreiða fylgt þessari gagnaöflun og hún því ekki nýst sem best til greininga. Hefur bankinn því haft það til skoðunar hvernig gervigreind getur komið að gagni við að bæta þessar greiningar.3
Einnig má nefna Alþjóðagreiðslubankann (BIS) en í nýlegri grein benti bankinn á að seðlabankar í dag noti gervigreind helst við (i) gagnasöfnun og tölfræðilegar samantektir, (ii) þjóðhagfræði- og fjármálagreiningar til að styðja við peningastefnu, (iii) yfirsýn yfir greiðslukerfi og (iv) eftirlit og fjármálastöðugleika.4 Einnig hafa nýsköpunarmiðstöðvar bankans (e. BIS Innovation Hubs) notað gervigreind og vélnám til að reyna að efla varnir gegn peningaþvætti og fjármögnun hryðjuverka m.a. í verkefninu Project Aurora.5 Áformað er að framhald verði á þessu verkefni sem m.a. mun varða lögfræðileg álitaefni og stefnumótun en það er unnið í nýsköpunarmiðstöðinni í Stokkhólmi (e. BIS Innovation Hub Nordic Centre) sem Seðlabanki Íslands á aðild að.6 Ætla má að í framtíðarverkefnum nýsköpunarmiðstöðvanna muni gervigreind og vélnám í vaxandi mæli koma við sögu.
Englandsbanki (e. Bank of England, BoE) hefur einnig ákveðið að skoða áhrif gervigreindar og vélnáms á fjármálastöðugleika. Er það mat bankans að sú tækni geti haft ýmsa kosti fyrir fjármálageirann eins og að auka skilvirkni í rekstri, gagnast við áhættustýringu og leiða af sér nýjar afurðir í fjármálaþjónustu. Tækninni gæti þó einnig fylgt áhætta sem gæti raskað fjármálastöðugleika, t.d. ef hún leiðir til aukinnar hjarðhegðunar, aukinna netógna eða smitáhrifa vegna samþættingar kerfa. Markmið Englandsbanka er að tryggja viðnámsþol bresks fjármálakerfis gagnvart þessum áhættuþáttum.7 Þá samþykkti ríkisstjórn Bretlands nýlega áætlun um hverjar áherslur skuli vera í þróun regluverks um ábyrga notkun gervigreindar, þvert á geira.8
Í desember sl. urðu þau tímamót að Evrópuþingið og ráðið náðu samkomulagi um að útfæra regluverk á sviði gervigreindar sem ætlað er að gilda á EES-svæðinu. Reiknað er með því að það verði fyrsta sinnar tegundar í heiminum. Markmiðið með regluverkinu er að þau gervigreindarkerfi sem sett verða á markað og notuð í Evrópu verði örugg og að mannréttindi og önnur evrópsk gildi verði virt. Einnig er regluverkinu ætlað að örva fjárfestingar og nýsköpun á sviði gervigreindar í Evrópu. Næsta skref er að færa reglugerðardrögin sem samkomulagið grundvallast á í endanlegan búning en ráðgert er að reglugerðin komi til framkvæmda eftir u.þ.b. tvö ár. Gera má ráð fyrir að hún verði tekin upp í EES-samninginn og í kjölfarið innleidd í íslenskan rétt. Áhugavert verður að rýna möguleg áhrif regluverksins á fjármálageirann og starfsemi evrópskra seðlabanka og stefnur þeirra í málaflokknum og á íslenskt samfélag í víðara samhengi.9
Ísland, gervigreind og gervigreindarvísitölur
Stefna Íslands um gervigreind var sett í apríl 2021 en hún var unnin af nefnd sem forsætisráðherra skipaði í október 2020. Grunnstoðir stefnunnar eru þrjár, að gervigreind skuli vera í allra þágu, að aðgerðir og áherslur hins opinbera styðji við stafræn umskipti atvinnulífsins og þar með samkeppnishæfni þess og loks að menntakerfið styðji við uppbyggilega og siðferðislega þróun við innleiðingu og notkun gervigreindar á komandi árum og áratugum. Það er því markmið stefnunnar að stuðla að því að Ísland hafi sterkan, sameiginlegan siðferðislegan grundvöll til að þróa og nýta gervigreind og að byggt verði á góðri þekkingu á tækninni og þeim öryggisáskorunum sem henni fylgja.10
Í stefnunni er enn fremur fjallað um stöðu Íslands í heimi gervigreindar og hún sett í samhengi við mikilvægi samkeppnishæfni. Þar kemur fram að íslenskt samfélag hafi alla burði til að takast á við áskoranir gervigreindar og nýta tækifæri hennar. Almenningur og fyrirtæki séu bæði tæknivædd og tölvulæs og hið opinbera hafi yfir að ráða traustum tækniinnviðum og gagnasöfnum. Þá sé löng hefð fyrir þríhliða samstarfi aðila vinnumarkaðarins og hins opinbera sem muni auðvelda samstarf og nauðsynlega endurskipulagningu á vinnumarkaði vegna breytinga sem fjórða iðnbyltingin leiði af sér.11
Á Alþingi starfar einnig sérstök framtíðarnefnd sem hefur það hlutverk m.a. að fjalla um áskoranir og tækifæri Íslands í framtíðinni að því er varðar tæknibreytingar, sjálfvirknivæðingu og gervigreind. Nefndin kom fyrst saman til fundar haustið 2023 og hefur m.a. fjallað um og staðið fyrir málstofum um þróun og framtíð gervigreindar og um gervigreind og lýðræði.12
Í árlegum skýrslum Oxford-háskóla (e. Oxford Insights) er birt gervigreindarvísitala ríkja heimsins (e. governmental artificial intelligence readiness index). Henni er ætlað að bera saman stöðu ríkja eða getu þeirra til að innleiða gervigreind í þágu almannaheilla. Vísitalan samanstendur af þremur meginstoðum (e. pillars), eftirtöldum:
- ríkisstjórn,
- tæknigeiranum og
- gögnum og innviðum.
Stoðirnar eru greindar í tíu efnisþætti, sjá mynd 1.
Samkvæmt nýjustu skýrslu háskólans, sem er fyrir árið 2023 og nær til 193 ríkja, þá er Ísland í 21. sæti (mynd 2), og hefur heldur færst upp á við undanfarin ár.13
Alþjóðagjaldeyrissjóðurinn hefur einnig þróað sérstaka gervigreindarvísitölu (e. AI Preparedness Index) sem ætlað er að aðstoða ríki við að móta stefnu í málaflokknum. Samkvæmt nýlegri skýrslu sérfræðinga sjóðsins er áætlað að gervigreind muni á heimsvísu hafa áhrif á u.þ.b. 40% starfa, mismikil eftir því hversu þróuð hagkerfin eru. Talið er að ólík staða ríkja er varðar tæknilega innviði og vinnuafl sem getur nýtt gervigreindartæknina gæti aukið ójöfnuð milli ríkja a.m.k. til lengri tíma litið.14
Að lokum er rétt að nefna að Netöryggisstofnun Evrópu, ENISA hefur skilgreint gervigreind sem eitt brýnasta viðfangsefni netöryggismála þegar litið er til framtíðar. Hefur stofnunin gefið út sérstaka skýrslu um netöryggisógnir vegna notkunar gervigreindar.15
Ýmsar áskoranir
Aukin notkun gervigreindar getur haft í för með sér töluverðar áskoranir og áhættu. Hér verða nefnd nokkur dæmi.
Notkun gervigreindar krefst í flestum tilfellum mikils magns upplýsinga sem jafnvel geta verið persónugreinanlegar. Í slíkum tilfellum þarf að tryggja að farið sé í einu og öllu að lögum um persónuvernd enda er friðhelgi einkalífsins mannréttindi sem varin eru af stjórnarskrá. Því miður er staðan í dag þannig að sum kerfi sem notfæra sér gervigreind tiltaka það beinlínis að ekki sé hægt að tryggja öryggi og trúnað þeirra upplýsinga og gagna sem notast er við sem er vitaskuld grafalvarlegt. Gervigreind býður einnig upp á ýmsa möguleika til að vinna með persónugreinanlegar upplýsingar, svo sem að fylgjast með líðan fólks út frá hegðun og svipbrigðum eða að vakta afköst starfsmanna. Hefur það leitt til þess að stofnanir á borð við Evrópska persónuverndarráðið (e. European Data Protection Board, EDPB) og Evrópska persónuverndarstofnunin (e. European Data Protection Supervisor, EDPS) hafa kallað eftir banni við notkun gervigreindar við ákveðin tilfelli.
Undanfarin ár hefur verið mikil umræða um siðferðislega hlið þess að nota gervigreind. Hefur t.d. verið bent á innbyggða hlutdrægni gervigreindar (e. embedded AI bias), þ.e. að gögn sem aflað er með gervigreindartækni geta verið hlutdræg og leitt til mismununar við ákvarðanir sem teknar eru á grundvelli þeirra. Menningarmálastofnun Sameinuðu þjóðanna (UNESCO) gaf út tilmæli um gervigreind og siðferði árið 2021 þar sem settar eru fram ýmsar tillögur til ríkja í þessum efnum.16
Einnig hefur verið bent á að þegar gervigreind er notuð við greiningu og úrvinnslu gagna skipti miklu máli að áreiðanleiki þeirra upplýsinga sem gervigreindinni er ætlað að vinna með sé traustur. Seðlabankar sem þurfa eðli máls samkvæmt að gæta að orðspori sínu og viðhalda trausti almennings verða t.d. að geta útskýrt aðferðir sínar og niðurstöður sem byggja á flóknum gervigreindaraðferðum.
Tíðni tölvuárása hefur aukist mikið undanfarin ár og netglæpir eru orðnir hluti af skipulagðri glæpastarfsemi og hernaði. Hluti þessara tölvuárása er framkvæmd með gervigreind og búast má við því að með áframhaldandi tækniþróun geti tölvuárásir af þessum toga stóraukist og eflst.
Loks er rétt að benda á að Alþjóðagreiðslubankinn (BIS) hefur bent á að fáir og stórir þjónustuveitendur á fjármálamarkaði geti haft áhættu í för með sér fyrir fjármálastöðugleika.17 Þá hefur Englandsbanki sagt að þar sem tæknin sé orðin útbreiddari og ódýrari og notkun skammtatölva hafi aukist þá gæti hjarðhegðun myndast við ákvarðanatöku og leitt til óstöðugleika á fjármálamörkuðum. Hefur bankinn, líkt og áður segir, lýst því yfir að hann muni á árinu hefja skoðun á áhrifum gervigreindar og vélnáms á fjármálastöðugleika með það að markmiði að tryggja viðnámsþol bresks fjármálakerfis að þessu leyti.
Niðurlag
Hér hefur verið stiklað á stóru um þróun gervigreindar, sem þykir ör um þessar mundir. Ljóst er að tækifærin sem hún skapar eru mörg, þ.m.t. fyrir seðlabanka sem nú þegar notfæra sér hana að nokkru marki. Til framtíðar litið er mikilvægt að greina enn frekar og nýta tækifærin sem gervigreind býður upp á. Ekki er síður mikilvægt að huga vel að þeim áskorunum og skilja þá áhættu sem kann að fylgja.
Höfundar: Grímur Sigurðarson, lögfræðingur á skrifstofu bankastjóra, og Ómar Þór Eyjólfsson, sérfræðingur á fjármálastöðugleikasviði Seðlabankans.
Neðanmáls
Sjá hér: Gervigreind orð ársins í menningarviðurkenningum RÚV - RÚV.is (ruv.is) og hér: https://arnastofnun.is/is/frettir/gervigreind-er-ord-arsins-2023.
Um Large Language Models, sjá hér: What Is a Large Language Model? | Knowledge Centre on Interpretation (europa.eu).
Sjá nánar hér: https://www.ecb.europa.eu/press/blog/date/2023/html/ecb.blog230928~3f76d57cce.en.html.
Sjá nánar hér: https://www.bis.org/publ/bisbull84.pdf.
Um nýsköpunarmiðstöðvar BIS og helstu verkefni, sjá hér: https://www.bis.org/about/bisih/about.htm. Sjá einnig kynningu á verkefninu hér: Project Aurora - YouTube.
Um nýsköpunarmiðstöðina í Stokkhólmi og helstu verkefni sjá hér: https://www.bis.org/about/bisih/locations/se.htm.
Sjá frétt hér: https://www.finextra.com/newsarticle/43396/bofe-to-review-ai-risk-to-financial-stability?utm_medium=newsflash&utm_source=2023-12-6&member=129598.
Sjá hér: https://www.gov.uk/government/consultations/ai-regulation-a-pro-innovation-approach-policy-proposals/outcome/a-pro-innovation-approach-to-ai-regulation-government-response. Einnig hér: https://www2.deloitte.com/uk/en/blog/emea-centre-for-regulatory-strategy/2024/the-uks-framework-for-ai-regulation.html.
Reglugerðardrögin má nálgast hér: https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=celex%3A52021PC0206. Sjá einnig frétt á vefsíðu ráðsins af tilefni samkomulagsins, hér: https://www.consilium.europa.eu/en/press/press-releases/2023/12/09/artificial-intelligence-act-council-and-parliament-strike-a-deal-on-the-first-worldwide-rules-for-ai/.
Stefnuna má nálgast hér: https://www.stjornarradid.is/library/01--Frettatengt---myndir-og-skrar/FOR/Fylgiskjol-i-frett/Stefna%20%c3%8dslands%20um%20gervigreind.
Sjá skýrslu forsætisráðuneytis, Aðgerðaáætlun um fjórðu iðnbyltinguna, maí 2020, hér: https://www.stjornarradid.is/library/04Raduneytin/ForsAetisraduneytid/A%C3%B0ger%C3%B0aa%CC%81%C3%A6tlun%20um%20fjo%CC%81r%C3%B0u%20i%C3%B0nbyltinguna.pdf.
Um framtíðarnefnd Alþingis, sjá hér: https://www.althingi.is/thingnefndir/adrar-nefndir/framtidarnefnd/. Frá hlekknum má m.a. nálgast upptöku af málstofu nefndarinnar um þróun og framtíð gervigreindar.
Innan stoðanna og efnisþáttanna er síðan að finna 39 vísa. Nánar er fjallað um þá í skýrslunni sem nálgast má hér: https://oxfordinsights.com/ai-readiness/ai-readiness-index/.
Skýrsluna, Gen-AI: Artificial Intelligence and the Future of Work, (janúar 2024) má nálgast hér: https://www.imf.org/en/Publications/Staff-Discussion-Notes/Issues/2024/01/14/Gen-AI-Artificial-Intelligence-and-the-Future-of-Work-542379. Í bloggi sem framkvæmdastjóri sjóðsins, Kristalina Georgieva, birti um það leyti sem skýrslan kom út með yfirskriftinni: Gervigreind mun umbylta hagkerfi heimsins (e. AI Will Transform the Global Economy) nefnir hún mikilvægi þess að slík umbreyting verði mannkyninu til hagsbóta (e. Let‘s Make Sure It Benefits Humanity).
Skýrsluna, sem birt var í árslok 2020, má nálgast hér: https://www.enisa.europa.eu/news/enisa-news/enisa-ai-threat-landscape-report-unveils-major-cybersecurity-challenges.
Sjá nánar: https://unesdoc.unesco.org/ark:/48223/pf0000381137
Sjá nánar: https://www.bis.org/publ/bisbull84.pdf.