Í anda gamals ávarps mætti kannski segja að „Vofa leiki nú ljósum logum um heiminn“. Mig langar að líta stuttlega á baksögu vofunnar, gaumgæfa nokkuð af hugmyndasögunni sem hefur leitt til þeirrar stöðu sem við erum nú í varðandi tækniframfarir. Það eru viss eðliseinkenni og huglægt val sem hefur skilað okkur hingað, val þar sem eitt er tekið framyfir annað. Nýjasta afurð þessa hugarfars tæknitrúar er gervigreindin.

Gervigreind, einsog allar aðrar framfarir innan tölvutækni eða tækni almennt, er vaxin upp úr ákveðnum þáttum sem tengja mætti við framfaratrú eða pósitívisma og síðar meir tækniframfaratrú og tæknihyggju. Mér varð hugsað til vofu Marx og Engels af þeirri ástæðu að vofa á sér alltaf einhverja sögu. Nú má segja að draugagangurinn stafi af því að vofa gervigreindarinnar geti tekið yfir það sjálfræði sem manneskjur hafa haft, og sem löng hefði er fyrir að verja sem heilagt fjöregg mannsins. Búin hefur verið til tækni sem getur orðið „agentic“, sjálfráða, og ein hugsun sem „hæp“ eða áróður hins stafræna valds heldur á lofti er að við verðum bara að fylgja hennar vilja til að missa ekki af lestinni eða framtíðarvagninum. Þetta kemur ágætlega fram t.d. hjá transhúmanistanum Ray Kurzweil í bók hans The Singularity is Near (2005). Hér má greina hvernig tæknin er orðin að einskonar guði, með eigin vilja, kannski það sé hin gæskuríka vél, hér erum við að færast inn á svið tilbeiðslu og dýrkunar.

Tækni og trú, tölvur og gervigreind

Tækniframfarir geta verið dásamlegar, en hér er þó við hættulegar metafórur að eiga. Ég skrifa hér sem fulltrúi húmanisma og skapandi lista. Nú er hætt við að ef fylgja á framtíðarvagni gervigreindar gagnrýnilaust, í einskonar tiltrúar-hæpi, þar sem við látum líf okkar í hendur tækninnar, geti eitt og annað hæglega fallið af þeim sama framtíðarvagni, og að lokum maðurinn sjálfur.

En er þessi svokallaða mennska nokkuð til að púkka upp á? Meðal transhúmanista er gjarna bent á þá staðreynd að hinn svokallaði maður mengar heiminn í sinni botnlausu neysluhyggju og fer í stríð, og af þeim sökum er ef til vill tímabært að leggja þessa misfellu og mengandi skekkju, manninn, að baki.

Á tímum þegar nóg er að hósta upp nokkrum orðum og ýta á takka til að fá myndband, tónlist, ljóð eða sögu er mér hugsað til þeirrar gríðarlegu vinnu og fórnar sem sérhvert listaverk útheimtir af sínum listamanni, nokkuð sem allir alvöru listamenn vita. Mér er hugsað til Cicero sem skilgreindi menntun sem það að mæta því sem er framandi, einmitt það sem bergmálshellar og nándarforrit gera ekki. Þá má hugsa til húmanismans þar sem mennskan felst í að reyna á sig, reyna á hugsun sína og dug til að mannast og reyna að byggja brýr skilnings móti því sem maður skilur ekki. Mér er hugsað til samtalsins milli fylkinganna sem húmanisminn hefur talað fyrir og manni sýnist óðum að hverfa, hugsað til allra þeirra sem hafa minnt á að maðurinn sé öðru framar tilfinningavera þrátt fyrir að hafa byggt járnbúr skynsemishyggju og tæknimenningar kringum heim sinn og sjálfan sig. Og einmitt sem tilfinningavera: veiklynd vera og um leið undursamleg vera: „Margt er undrið mun þó víst / maðurinn sjálfur undur stærst“, orti forngrikkinn Sófókles 400 árum fyrir Krist (þýð. Helgi Hálfdanarson).

Járnbúr og tilfinningar

Ég hef eins og aðrir orðið óttasleginn við tilkomu einkum hinna stóru mállíkana. Um leið er ég einn af þeim listamönnum sem hef horft á verk mín tekin og notuð til að þjálfa gervigreind. Þetta og annað þessu skylt leiddi mig til að reyna að skilja hvað sé í gangi, ég hripaði niður hugleiðingar m.a. um þessa nýju tækni og úr þessu varð bók sem er nú nýkomin út og heitir Hlaðan – þankar til framtíðar. Mitt framlag í þessa umræðu kemur bara út á pappír af gildri ástæðu.

Ekki er úr vegi að rifja húmanisma lítillega upp á þeim tímum þegar svokallaður transhúmanismi ríður húsum. Segja má að transhúmanismi vaxi upp úr jarðvegi hins veraldlega húmanisma sem sótti í sig veðrið þegar fulltrúar tækni-krasíu eins og Thomas Huxley og H.G. Wells koma fram á seinni hluta 19. aldar. Markmiðið var að útrýma öllum trúarbrögðum og bábiljum um manninn. Hugsun þeirra var að það sé enginn andi í manninum, maðurinn var líffræðileg vél. Skilja má þá að míkróflagan í heilann er þannig eins og sjálfsagt framfaraskref ef maðurinn er bara líffræðileg vél – en hér eru fjarri því allir sammála eins og Írinn James Tunney hefur bent á (AI-posthumanism, 2024). Burrhus Skinner var talsmaður tæknikrasíu og transhúmanisma á seinni tímum, hann trúði að tæknin myndi á allan hátt bæta hegðun mannsins: maðurinn ætti því að gefa sig alfarið á vald tækninnar, beygja sig undir hennar óskeikulu – vísindalegu – ráð (Beyond Freedom and Dignity, 1971).

Vandinn var sá að veraldlegi húmanistinn Skinner talar hér algerlega á móti kjarna eldri húmanisma sem boðaði sjálfræði og reisn mannsins – reisn mannsins getur varla haldið velli ef sjálfræðinu er af honum svipt. Hitt er svo niðurstaða óteljandi rannsókna: Mannleg hegðun virðist þvert á móti versna með tilkomu nýrrar upplýsinga- og samskiptatækni og eru þar samfélagsmiðlar undir ægivaldi algóritmanna ágætt dæmi. Öll trú er byggð á tilfinningu. Við nánari skoðun er margt af því sem framfaratæknitrúin boðar, hvort sem það er hin samúðarfulla vél eða eilíft líf í sýndarveruleika-paradís, í raun gömul trú, nýtt vín á gömlum belgjum, á engan hátt frábrugðin þeirri trú sem fékk menn til að tilbiðja skurðgoð hér áður fyrr – hér er um tæknilegri útfærslu á trúarbrögðum að ræða.

Prómeþeifur og Epímeþeifur

Ég vil taka það strax fram að ég óttast ekki gervigreind í sjálfu sér og mér er fullljóst hverskonar stórkostlegt tæki hún er í ýmsum kimum mannlífsins þar sem tæknihugsun og ríkuleg upplýsingaöflun eru lykilatriði. Nóg er til af litteratúr sem vegsamar tæknina – hæpið kringum hana er annarra að sjá um. Það er veiklyndi mannsins sem ég óttast, þýlund hans og undirlægjuhátt, andlega leti, fíknihegðun, vilja til valds og metorða, ég óttast eins og svo margir ekkert nema manninn sjálfan. Ef hann myndi leyfa óhindrað að framfaratæknitrúin fengi þau takmarkalausu völd sem til dæmis æðstu páfar transhúmanisma í Kísildalnum, með akademískar gráður í tölvuverkfræði, tala fyrir nú um mundir.

Tölvuverkfræðingar Kísildalsins eru með Prómeþeif í liði með sér, hann sem á auðveldara með að fá áheyrn ráðandi afla. Bróðir hans, Epímeþeifur, sá sem hugleiddi nútímann útfrá fortíðinni, eru menn tregir til að ljá eyra – hans orð eru ekki ávísun á hagvöxt og framfarir eins og orð bróðurins. En nú má jafna samræðu við Epímeþeif við nauðsyn. Rökleiðslan er einföld: Mennskan er í hættu. Hvað er mennska? Bara fortíðin getur svarað því.

Gervigreind getur að sama skapi ekki gert útaf við skapandi listir – nema einmitt fyrir þessa einu staðreynd, að maðurinn velji það eða láti velja það fyrir sig í veiklyndi sínu. Ef til vill er rangt að líta á þetta sem val. Kannski málið sé heldur að hugur mannsins og dómgreind, fegurðarskyn og hæfileiki til einbeitingar og gagnrýninnar hugsunar sljóvgist í víxlverkan við tækið, nokkuð sem ég hef valið að kalla stafræna úrkynjun. Maðurinn lætur tækinu í té stöðugt meir af sjálfræði sínu eða autónómíu – og um leið missir hann snaran þátt af sinni mannlegu reisn.

Sambræðsla manns við tölvu

Ég óttast að þetta gerist miklu frekar eins og heimsókn þjófs á nóttu, svona eins og gervigreindartónlist tekur yfir tónlist samin af mannfólki þegar streymisveitan er látin ráða playlistanum. Ég nefndi sjálfræði og mannlega reisn af ástæðu: þetta eru þau tvö lykilhugtök innan hugsjónar húmanismans um manninn, sem allir húmanistar á öllum tímum geta sameinast um.

En af hverju ættum við svo sem ekki að láta tæknina taka yfir líf okkar? Saga Vesturlanda er einmitt sagan af því hvernig tæknin umbreytir og tekur yfir líf okkar – stöðugt meir og meir. Og af hverju ekki þá bara fara alla leið eins og Ray Kurzweil boðar í áðurnefndri bók og í The Singularity is Nearer (2024)? Með „Singularity“ vísar Kurzweil til sambræðslu manneskju við þá tækni sem hún hefur skapað, að við yfirgefum okkar líffræðilegu verund og gerumst sæborgir eða simúlantar og lifum þannig í eilífum sýndarveruleika í einni stórri tölvu allsherjar.

Það er eitt sem hefur gleymst í öllu hæpinu: það að vera manneskja er meðal annars að vera líkami með tilfinningar, spyrja má hvað sé eftir af manninum sé þetta fjarlægt. Metafóran, myndlíkingin, var samkvæmt Aristótelesi kjarni skáldskaparlistarinnar. Kannski þar sé snaran þátt mennskunnar að finna, altént sjáum við að mállíkönin eiga í stökustu vandræðum með metafórur einmitt af þeirri ástæðu að metafóran er líkamleg (e. embodied) og um leið tilfinningaleg eins og kognitívir metafórufræðingar hafa fært gild rök fyrir – hvorugt af þessu hefur vélin. Mállíkönin geta stolið metafórum mannanna, en þau geta ekki skilið þær eða búið til nýjar sem hitta í hjartastað. Texti mállíkana er tölfræðilegur líkindatexti – og ég er einn þeirra sem myndi segja á þessum hæp-tímum hinnar nýju tækni: skoðum ekki hvað vélin getur sagt okkur um mannshugann eða mannlega vitund – skoðum einmitt það hvernig mannshugurinn sker sig frá kísilvélinni og höldum fast í það svona eins og Garún hélt fast í klukkustrenginn forðum daga, svo gripið sé til myndlíkingar.

Vofa tækniframfaratrúar

Ef litið er aftur til Forngrikkja, má þegar greina í yfir 2400 ára gömlum textum mikla áherslu á orðið techné, sem upprunalega gat þýtt eitthvað eins og sönn list, en verður síðan að hæfileika innan viss handverks eða því sem við tengjum við orðið tækni í dag. Í beinni línu er dýrkun á Prómeþeif sem færði mönnunum eldinn og aðrar tækniframfarir. Annað hugtak fer mikinn meðal Forngrikkja, ratio, sem þýtt hefur verið á ýmsan máta á okkar mál, sem skynsemi, rökvísi eða rökleg hugsun. Logos er enn annað hugtak sem tekur mikilvægum breytingum þegar líður að því að stóru heimspekingarnir á fimmtu og síðan fjórðu öld fyrir Krist fara að láta til sín taka. Heimspekingurinn Ísókrates var samtímaður Platóns, þó færri hafi gefið honum gaum. Logos var hjá honum skilgreint afar breitt og hafði inn í sig bakað lógíska rökhugsun og skynsemi en um leið tilfinningahliðar mannsins, ímyndunarafl hans og kenndir. Ísókrates var viss um að maðurinn væri fyrst og fremst tilfinningavera og menntun hans átti að ganga út á að rækta þessa tilfinningahlið í samræmi við skynsemina, þetta logos mannsins. Það myndi skapa alvöru visku og gegnheilli manneskjur. Það myndi síðan verða til þess að bæta mannleg tengsl og samskipti ef þetta víða logos mannsins væri ræktað alhliða.

Fleiri spekingar og skólar halda áfram með viðlíka hugsanir, sá yngsti meðal þeirra sem ég hef fundið er Rómverjinn Marcus Aurelius sem greinilega gengur útfrá þessari víðu skilgreiningu Ísókratesar á logos eða skynsemi, skynsemi Aureliusar var líka gneistinn af guðdómnum í brjósti hvers og eins, logosið hans var venslað siðfræði og samfélagshugsun eins og hjá Ísókratesi.

Allir vita að það var ekki þessi breiða skilgreining Ísókratesar og fleiri spekinga á logos sem hafði vinninginn. Logos byrjar strax hjá Platón að hlekkjast við hið röklega, og í Ríkinu sjáum við fleyg rekinn í þessa heilverund mannsins, maðurinn hefur bæði tilfinningar og skynsemi, en skynsemin er æðri og æðst alls, hið sanna logos mannsins er rökvísi hans, geta hans til röklegrar hugsunar, tilfinningar eru meira eitthvað sem aftrar honum, að gæla við tilfinningar eins og skáld leiðir ekki til neins, hvorki til þekkingar né framfara – Platón rak skáldin út úr fyrirmyndarríki sínu og kannski hefur skáldið aldrei náð fótfestu í nokkru ríki eftir það. Tilfinningaverund mannsins er strax þarna komin í annað og óæðra sæti, og má vera að þessi áhersla verði til þess að lokum að siðfræði og mennska verða líkt og varamenn á leikvelli mannlífsins.

Frá Grikkjum til Descartes

Vandinn er sá að þegar maðurinn hefur ákveðið að eitthvað sé æðra en annað, verður þetta „annað“ óæðra. Við vitum að einn skýrasti höfundur nútíma vísindahugsunar, René Descartes, gekkst fullkomlega við þessari tvískiptingu Platóns og á þann veg að til að hægt væri að stunda rökhugsun ætti að bægja frá tilfinningum, þetta lærir fólk sem fer í háskóla enn í dag. Nýlendustefna eða kólóníalismi sem dæmi, byggir alfarið á slíkri hugmynd um hinn æðri og óæðri kynstofn, og þá þannig að hinn æðri kynstofn var sá sem var lengra kominn í „skynseminni“, í tækniframförum og tæknimenningu hverskyns er varðaði vopnavæðingu og iðnaðarbrölt. Slíkur hugsunarháttur lifir til dæmis í skilgreiningu Sameinuðu þjóðanna á „vanþróuðu löndunum“, sem síðar meir urðu þróunarlönd, og hefur heimspekingurinn Charles Taylor skrifað vel um þetta og brett út þann hugsunarhátt sem að baki býr, nefnilega að sá heimshluti sem ekki býr að sömu tæknimenningu og fylgir sömu hugsun um æðra og óæðra eins og Vesturlönd gera, er óæðri því framtíðin okkar er eina sanna framtíðin. Hér er bent á hvernig rætur vandans sem við stöndum frammi fyrir núna eiga sér svo langa sögu að hún jaðrar við að vera ósýnileg.

Transhúmanistar og tæknimógúlar tala nú um að „kólónísera“ alheiminn, svona eins og þeir þekki ekki einu sinni sögu síns eigin lands. Mér er fullljóst að tæknimenning Vesturlanda, og síðar meir alls heimsins, hefur búið milljörðum manna betra líf og tryggari afkomu, hér er ekki verið að gagnrýna tækniframfarir í sjálfu sér heldur meira þá hugmynd sem vex upp úr þessu og Kísildalurinn básúnar hvað mest nú um mundir: Að öllu – og þá meina ég gervöllu – mannlífi sé best borgið sé því stýrt af fremstu hugsuðum innan tölvuverkfræði og líftækniverkfræði, þ.e. þeirri tæknimenningu sem geysar núna. Tæknimógúlar tala um að leysa vandamál mannkyns, hvort sem er misskipting auðs, hamfarahlýnun eða styrjaldir, en málið er að þetta eru alls ekki og geta aldrei orðið viðfangsefni tölvuverkfræði og líftækni! Þetta eru mál sem einungis er hægt að leysa á vettvangi stjórnmála eins og Adam Becker rekur vel í sínu riti um heimspeki Kísildalsins, með því talandi nafni: More Everything Forever (2025).

Að Schiller og framúr Kant

Hvernig á að skilja hvað er að gerast með mannshugann og mannlega vitund í stöðugt meiri víxlverkan við tækið? Einn vandinn er sá að maður er alltaf í vitund sinni svona eins og maður er alltaf í líkama sínum. Það þarf gjarna vin sem ekki hefur séð mann í hálft ár til að segja manni hvað maður sé orðinn mjór eða feitur. Ég hef í þessu sambandi valið að leita til hugmyndasögunnar til að finna orðræðu og hugtök til að reyna að nálgast málið á vitrænum forsendum.

Hið breiða logos Ísokratesar, sem rúmaði bæði skynsemi mannsins og tilfinningar, á sér kannski skýrastan fulltrúa á seinni tímum hjá Friedrich Schiller, í bréfum hans sem komu út á íslensku með titilinn Um fagurfræðilegt uppeldi mannsins (2006). Schiller talar inn í þessa sömu hefð og við sáum klekjast út á tímum Forngrikkja, en lítur tilbaka þar sem hann skrifar undir lok 18. aldar, segir að áherslan síðustu 200 árin hafi verið á það sem hann kallar Formtrieb, eða formhvöt, og fól í sér það sem Grikkirnir tengdu við ratio og síðar hið þrönga logos rökvísinnar, áherslan er á skynsemi og vélræna veröld tæknimenningar meðan að manninum sjálfum hefur ekkert farið fram, segir Schiller, við skánum ekki og heimurinn skánar ekki neitt með meiri upplýsingum sama hve miklu af ljósi heimspeki og vísinda er sáldrað yfir hann.

Þetta leiddi Schiller til hugleiðinga um siðferði mannsins, og hann skildi og tók þar meðal annars framúr landa sínum Immanuel Kant, að siðferði hlaut að vera tengt öðrum þáttum en skynsemi, siðferði hlaut að vera venslað því sem hann kallaði skynhvöt, tilfinningum. Að bæta heiminn og manneskjurnar í honum hlaut því allteins að snúast um að bæta fegurðarskyn og næmleika mannsálarinnar, að bæta skyn mannsins á það góða og sanna og skilja að allt var það eitt, hið góða hið sanna og hið fagra, en þessar eigindir sagði hann að manninum tækist aðeins að sjá og skilja þar sem tvær lykilhliðar mannsandans komu saman, formhvötin áðurnefnda og skynhvötin hins vegar, þ.e. tilfinningahliðar hans. Mennskuna er, samkvæmt Schiller, að finna þar sem skynsemi og tilfinning kemur saman, og ég hef hvergi fundið betri útlistun á því sem ég vil kalla hugsjón húmanismans um manninn.

Bergmálshellar á sterum

Það sem við sjáum þau 230 ár síðan Schiller varaði við ofdýrkun á formhvötinni, mætti kannski kalla gegndarlausa dýrkun formhvatar og tæknimenningar – nokkuð sem hefur toppað sig nú nýlega með stóru mállíkönunum. Ef við stillum afurð gervigreindar upp gagnvart þessari heilverund mannsins þar sem tilfinning og skynsemi skarast, þá höfum við annarsvegar tækni sem býr til texta byggðan á hreinni formhvöt, það er stærðfræðilegum líkindareikningi útfrá því hvaða orð er líklegast að komi næst útfrá þeim stolna textamat sem forritið hefur innbyrt, hið sama gildir um tónlist, myndlist eða kvikmyndalist. Láti maðurinn þetta taka yfir mætti kalla það endanlegan sigur formhvatar yfir verund mannsins. Hinsvegar má benda á gervigreindar-spjallforritin, hin svokölluðu nándarforrit, þar sem þú eignast gervigreindar-vin eða kærustu. Þar var vitað frá 1960 að hin svokölluðu Eliza-áhrif (e. Eliza-effect) munu taka yfir huga þinn því á einum stað skilurðu að þú talar við vél, en á öðrum stað, nefnilega á tilfinningasvæði heilans, skilurðu það ekki. Ég hef svipað áhrifum þessa við bergmálshella á sterum.

Afleiðingin er að maðurinn lokast inn í eigin tilfinningu í einskonar Narkissosar-narkósu. En slíkur maður er ekki mennskur maður samkvæmt hugsjón húmanismans um manninn. Það er engu líkara en tölvuverkfræðingar Kísildalsins hafi lesið bæði Ísokrates og Schiller og sagt: við ætlum að vinna gegn slíkri hugsjón um manninn! Við læsum hann í annari hvorri hvötinni, formhvöt eða skynhvöt, og pössum að þær skarist aldrei.

Hið góða, sanna og fagra

Vitanlega er það ekki mín trú að þeir hafi lesið slíka hugsuði, en þeir hafa hinsvegar lesið hugsuði eins og René Girard sem talar fyrir hinu alltumlykjandi frumstæði mannlegs eðlis, og þetta frumstæði vita menn hvernig á að vekja upp til að halda augum þínum á tækinu. Frumstæði er að vera heltekinn af frumstæðum tilfinningum, reiði, hatri, flokkadráttum, girnd, hefndarhug o.s.frv., einmitt þetta sem húmanisminn hefur haft að hugsjón að sporna við með áherslu á samtalið, á samlífi og gagnkvæman skilning manna og þjóða. Þessvegna spruttu hugvísindi uppúr gamla húmanismanum og urðu lykilþáttur í menntunarstefnu Vesturlanda. Þannig er það engin tilviljun að nú sé talað hátt og þá hæst í Kísildalnum um afneitun hugvísinda (e. humanities denial), og þá einkanlega á þeim forsendum hversu óvísindaleg þau eru. Ætla mætti frekar að hugvísindi séu álitin hindrun því þar ástundar fólk gagnrýna hugsun og kynnist fortíð sinni. Ef fortíðin er tekin af manneskjunni verður hægt að gera hvað sem er við hana; fortíðin er eina mótstöðuafl manneskjunnar gegn hverskyn kúgun.

Sönn list, mannleg list, er skörun tilfinninga og skynsemi, efnis og forms, tamning og holdgerving tilfinninga með handverki formhvatar og skynsemi. Ennþá er ekki til nein tækni sem getur tekið yfir þessa athöfn mannsandans, sem Schiller kallaði leikhvöt, Spieltrieb. Fyrst um sinn þegar formhvatar-framkölluð list kom fram eða quasi-creation, eins og Richard Susskind kallar gervigreindar-afurðina, voru áhrifin keimlík því þegar skák-Tyrkinn frægi birtist undir lok 18. aldar, vél sem gat teflt á móti mannlegum andstæðingi. Allir voru heillaðir og upprifnir. Að lokum kom á daginn að það var maður, góður skákmaður, inni í kassa vélarinnar. Mér sýnist að málsmetandi fólk, og hér vísa ég til listamannanna sjálfra, að við nánari kynni af slíkri gervi-sköpun upplifi fólk stöðugt meir hinn hola hljóm ratio-dýrkunarinnar sem stelur verkum manna og raðar þeim upp á nýtt. Nú er fólk líkt og að uppgötva að það er enginn maður í vélinni.

Ógnir vofunnar

En ótti minn snýst ekki um að listamenn verði ekki til eða hætti með hina mannlegu sköpun sem nefnd var. Minn ótti beinist að móttakandanum sem er alinn upp í menningu og framfaratæknitrú sem á sér þúsund ára sögu – að slíkum móttakanda, ef tækist að telja honum trú um að það sé alls enginn holur hljómur, að mannleg list og allt það mannlega sé nú óhætt að leggja að baki fyrir þá endurlausnartrú sem að okkur er haldið úr öllum rásum hins stafræna heims. Ég hef kallað þetta stafræna úrkynjun, og enn og aftur minni ég á hversu erfitt er að gera sér grein fyrir slíkri úrkynjun fyrir vitund sem sér ekki sjálfa sig utanfrá.

Á sinn hátt er þegar búið að gefa Kísildalnum litla fingurinn. Samfélagsmiðlatilraunir þar sem lagt var upp með að vekja frumstæðustu kenndir mannskepnunnar, eru þegar búnar að taka yfir nánast alla umræðu, einnig lýðræðislega umræðu – sem einmitt verður frumstæðari fyrir vikið. Það gerðist – án þess að nokkur umræða færi fram um það. Þegar maður sér gagnrýni á samfélagsmiðla á samfélagsmiðlum, t.d. hversu frumstæðishvetjandi, skautuð og yfirborðsleg umræðan verður – þá sjáum við hversu erfitt getur verið að vinda ofan af slíkri þróun.

Mennska húmanismans

Það er því komið að manninum sjálfum, mennskunni, að taka fyrir siðferðileg álitamál. Hrein formhvöt eins og í tilviki gervigreindar getur ekki greint gott frá vondu, mennskan er í sköruninni áðurnefndu, og ekki mun heldur hægt að treysta tilfinningu mannsins einni og sér, m.ö.o. á gervigreind ekki frekar en önnur tækni að vera utan við lögfræði manna en nú virðast markaðslögmálin helst ráða för.

Maðurinn sjálfur getur komið böndum á og sett lög sem vernda mannshugann gagnvart tækninni. Enn og aftur er komið á sama stað niður: hvaða eiginleika mannsins er vert að varðveita – hvaða sviðum mannlífsins er óhætt að láta gervigreind taka yfir og hvað má hún ekki taka yfir? Ég vil meina að það sé einmitt í viðlíka álitamálum þar sem menn ættu að ganga til fundar við Epímeþeif, þann sem hugleiðir samtímann út frá fortíðinni; þar mætti strax benda á grundvallargildi gamla húmanismans sem dæmi: sjálfræði mannsins og reisn, og ekki síður þessa heilverund þar sem skynsemi manns og tilfinning eru í víxverkan.

Framfaraskref í Evrópu

Stórt framfaraskref var markað með löggjöf Evrópusambandsins um gervigreind, AI Act árið 2024, en þó eru skýrir gallar á gjöf Njarðar. Gallinn er helst sá að sjálf forritin sem finnast í netheimum fylgja ekki neinum landamærum, markaðslögmálið virðist stýra því hvað mannshugurinn, einnig í Evrópu, er útsettur fyrir fremur en nokkur löggjöf. Ef litið er til dæmis til þátta sem AI Act fellir undir „óásættanlega áhættu“ af gervigreindarforritum, þá má þar sjá listað upp sem fyrstu þætti annarsvegar „skaðlega gervigreindar manípúlasjón og blekkingu“, hinsvegar hefur löggjöfin bannað „skaðlega gervigreindar-nýtingu á veikleikum mannsins“.

Þannig er erfitt að sjá að falsfréttin sem er búin til í Asíu eða Ameríku nái ekki allteins til Evrópubúa, og sama gildir um aðgengi Evrópubúa að áðurnefndum nándarforritum sem ganga út á að nýta andlega veikleika mannsins, eða hverju því forriti þar sem farið er innum bakdyrnar á mannsheilanum.

Áðurnefndur Richard Susskind er lögfræðingur sem fengist hefur við löggjöf fyrir m.a. gervigreind frá því um árið 1980. Ákallið í bók hans sem kom út nú fyrr í ár: How to think about AI er að allir fremstu heilar heims fari nú strax í málið, og hið sama má lesa í greinum Þórhalls Magnússonar, gervigreindar-sérfræðings við Háskóla Íslands. Fyrsti partur af umræðunni hlýtur að snúast um að menn hniti það niður hvað af hinu svokallaða mannlega á að reyna að hæla niður og vernda. Það er umræða sem m.a. ætti einmitt að fara fram á vettvangi hugvísinda. Ég varpaði hér fram nokkrum hugmyndum er snéru að sjálfræði og reisn mannsins, og einnig það sem ég nefndi heilverund eða hina mennsku verund, sem er hið dásamlega sambland tilfinningar og skynsemi. Hér eru sjálfsagt margar skoðanir, en ef menn eru ekki sammála um neitt – þá er kannski leikurinn þegar tapaður. En ef hægt væri að verða sammála um eitthvað til að hæla niður, þá er næst að sjá hvort ráðamenn og löggjafarvald á þjóðlegum og alþjóðlegum vettvangi geti komið slíkum glóðum mennskunnar til verndar.