Frægasti erindreki Íslandssögunnar, a.m.k. bókmenntasögunnar, er líklega amma dreki úr sögum Guðrúnar Helgadóttur um Jón Odd og Jón Bjarna. Amma dreki var eins mannleg og persóna í bókmenntum getur verið en það sama á ekki við um nýja stétt erindreka sem eru rafknúnar kísilverur, snöggtum hraðvirkari en amma dreki og líklega mun hættulegri.
Þróun gervigreindar hefur fram til þessa einkum vakið athygli vegna getu hennar til að vinna úr upplýsingum, svara spurningum, skrifa texta og leysa margvísleg verkefni sem áður kröfðust mannlegrar greindar. Nú er hins vegar að hefjast nýr kafli. Sem dæmi um það má nefna að fyrr á árinu kynnti Anthropic ný gervigreindarverkfæri fyrir fjármálafyrirtæki. Þau eru meðal annars hönnuð til að útbúa fjárfestakynningar, meta fyrirtæki, greina lánshæfi, vinna bókhaldsupplýsingar og aðstoða við endurskoðun. Mörg fleiri fyrirtæki vinna að sambærilegum lausnum.
Mikilvægasta breytingin er þó ekki að tölvur geti nú leyst flóknari verkefni. Hún felst í því að gervigreindarkerfi eru í vaxandi mæli farin að hrinda ákvörðunum í framkvæmd í stað þess að vera ráðgefandi. Þau eru orðin erindrekar, ekki bara hjálpartæki.
Ný kynslóð sjálfstæðra gervigreindarfulltrúa (agentic AI) getur fengið markmið og síðan aflað upplýsinga, greint þær, tekið ákvörðun og framkvæmt hana, allt án beinnar aðkomu manns.
Þetta er grundvallarbreyting. Rangt mat tölvulíkans veldur yfirleitt ekki tjóni fyrr en einhver bregst við því. Sjálfstæður erindreki getur hins vegar bæði gert mistök og hrint þeim í framkvæmd áður en nokkur maður verður þeirra var.
Líklega munu gervigreindardrekarnir skila margvíslegum ávinningi, eins og aðrar tækniframfarir. Þeir munu auka framleiðni á mörgum sviðum, ekki bara með því að vinna störf hraðar sem fólk vann áður heldur einnig með því að finna nýjar leiðir og lausnir á margs konar viðfangsefnum.
Þótt gervigreindin geti legið yfir miklu meiri gögnum og greint þau margfalt hraðar en mannsheilinn svarar hún þó ekki öllum spurningum og býr raunar til verulega óvissu sjálf. Drekarnir feta ótroðnar slóðir með oft lítt fyrirsjáanlegum afleiðingum.
Áhætta er ekki það sama og óvissa
Til að átta sig á efnahagslegum afleiðingum þessarar þróunar er gagnlegt að rifja upp greinarmun sem hagfræðingurinn Frank Knight gerði fyrir rúmri öld.
Knight greindi á milli áhættu og óvissu. Áhætta er fyrir hendi þegar við þekkjum mögulegar niðurstöður og getum metið líkurnar á þeim. Óvissa er annars eðlis. Þá þekkjum við ekki líkurnar og stundum ekki einu sinni allar mögulegar niðurstöður.
Hverjar voru líkurnar á að Apple kynnti iPhone árið 2007 og gjörbreytti farsímamarkaðnum? Hverjar voru líkurnar á að ChatGPT og félagar birtust á sjónarsviðinu árið 2022 og gerbyltu á örfáum árum fjölmörgum atvinnugreinum? Hverjar eru líkurnar á að gervigreind valdi enn meiri grundvallarbreytingum á skipulagi fyrirtækja og markaða á næstu fimm árum? Þessum spurningum er ekki auðvelt að svara með hefðbundnum tölfræðilegum aðferðum.
Gervigreind er einstaklega öflug við að greina mynstur í gögnum. Hún getur unnið úr miklu meira magni upplýsinga en nokkur manneskja, komið auga á tengsl sem okkur yfirsjást og reiknað flóknar sviðsmyndir á augabragði.
Öll gögn lýsa fortíðinni. Þegar framtíðin líkist fortíðinni nægilega mikið er þetta gríðarlegur kostur. Þegar efnahagsumhverfið tekur grundvallarbreytingum geta jafnvel bestu líkön reynst gagnslítil. Gervigreind eyðir því ekki óvissu. Hún getur þvert á móti aukið hana með því að breyta hegðun fyrirtækja, neytenda og fjárfesta og eðli markaða.
Lærdómurinn frá 2008
Fjármálakreppan 2008 er gagnlegt dæmi um hættuna sem fylgir oftrú á háþróuð reiknilíkön. Á árunum fyrir kreppuna höfðu fjármálastofnanir varið gríðarlegum fjármunum í áhættustýringu. Líkönin urðu sífellt flóknari, gagnasöfnin stærri og útreikningarnir nákvæmari. Samt tókst þeim ekki að sjá fyrir og enn síður koma í veg fyrir mesta fjármálaáfall síðari tíma.
Raunar má færa rök fyrir því að líkönin hafi gert kreppuna verri. Ástæðurnar voru einkum tvær. Annars vegar skapaði tæknin falskt öryggi. Fjármálastofnanir töldu sig hafa betri stjórn á áhættunni en raunin var og eftirlitsaðilar trúðu þeim.
Einn vandinn var að margir markaðsaðilar notuðu sambærileg líkön og svipaðar aðferðir. Þeir brugðust því með svipuðum hætti við sömu upplýsingum. Á uppgangstímum ýtti þetta undir skuldsetningu og hækkun eignaverðs, blés upp bólu.
Þegar aðstæður versnuðu reyndu margir að selja sömu eignir á sama tíma. Það sem virtist skynsamleg ákvörðun fyrir hverja fjármálastofnun um sig varð að kerfisvanda fyrir fjármálakerfið í heild.
Þetta er gamalkunnugt viðfangsefni hagfræðinnar. Hin hulda hönd Adam Smith stendur ekki undir væntingum þegar það sem er hagkvæmt frá sjónarhóli eins verður það ekki þegar aðrir haga sér eins. Gervigreind gæti magnað þennan vanda verulega.
Þegar allar vélarnar ganga í takt
Hugsum okkur að stór banki noti gervigreind til að stýra lausafjáráhættu sinni. Kerfið greinir vísbendingar um versnandi stöðu og ákveður að selja tilteknar eignir. Það gæti verið fullkomlega skynsamleg ákvörðun fyrir bankann.
En hvað gerist ef allir helstu bankar nota sambærileg gervigreindarkerfi, þjálfuð á svipuðum gögnum og jafnvel byggð á sama grunnlíkani? Þau gætu öll greint sömu hættumerkin og brugðist við með sama hætti. Allir vilja selja en fáir kaupa. Verð lækkar, sem kallar fram enn meiri sölu. Drekarnir sitja fastir í þvögu við neyðarútganginn.
Ákvörðun sem var skynsamleg fyrir hvern banka um sig getur þannig orðið að vítahring sem ógnar fjármálakerfinu öllu. Þetta er ekki nýtt vandamál. Það sem gervigreind breytir er einkum hraðinn, umfangið og möguleikinn á nánast fullkomlega samstilltum viðbrögðum. Áður tók tíma að afla upplýsinga, greina þær, kalla saman stjórnendur og taka ákvarðanir. Nú gætu sjálfstæð kerfi framkvæmt allt þetta á sekúndum eða jafnvel sekúndubrotum.
Við fengum forsmekkinn af slíkum aðstæðum í skyndihruni á bandarískum verðbréfamörkuðum árið 1987 og aftur 2010. Þá hrundi verð hlutabréfa skyndilega áður en það náði sér að mestu aftur. Sjálfvirk viðskipti, knúin áfram af algoriþmum, léku lykilhlutverk í atburðarásinni, fyrir daga gervigreindar. Með sjálfstæðum gervigreindardrekum gætu slík ferli orðið enn flóknari, hraðvirkari og erfiðari viðureignar.
Til að magna vandann þróa fáein stór tæknifyrirtæki mörg þeirra líkana sem notuð eru um allan heim. Viðskiptavinir sem telja sig nota sjálfstæð og sérsniðin kerfi gætu raun allir verið að byggja á sömu forsendum og tækni. Það gæti því dregið úr fjölbreytni í töku ákvarðana um leið og …






