Í anda gamals ávarps mætti kannski segja að „Vofa leiki nú ljósum logum um heiminn“. Mig langar að líta stuttlega á baksögu vofunnar, gaumgæfa nokkuð af hugmyndasögunni sem hefur leitt til þeirrar stöðu sem við erum nú í varðandi tækniframfarir. Það eru viss eðliseinkenni og huglægt val sem hefur skilað okkur hingað, val þar sem eitt er tekið framyfir annað. Nýjasta afurð þessa hugarfars tæknitrúar er gervigreindin.

Gervigreind, einsog allar aðrar framfarir innan tölvutækni eða tækni almennt, er vaxin upp úr ákveðnum þáttum sem tengja mætti við framfaratrú eða pósitívisma og síðar meir tækniframfaratrú og tæknihyggju. Mér varð hugsað til vofu Marx og Engels af þeirri ástæðu að vofa á sér alltaf einhverja sögu. Nú má segja að draugagangurinn stafi af því að vofa gervigreindarinnar geti tekið yfir það sjálfræði sem manneskjur hafa haft, og sem löng hefði er fyrir að verja sem heilagt fjöregg mannsins. Búin hefur verið til tækni sem getur orðið „agentic“, sjálfráða, og ein hugsun sem „hæp“ eða áróður hins stafræna valds heldur á lofti er að við verðum bara að fylgja hennar vilja til að missa ekki af lestinni eða framtíðarvagninum. Þetta kemur ágætlega fram t.d. hjá transhúmanistanum Ray Kurzweil í bók hans The Singularity is Near (2005). Hér má greina hvernig tæknin er orðin að einskonar guði, með eigin vilja, kannski það sé hin gæskuríka vél, hér erum við að færast inn á svið tilbeiðslu og dýrkunar.

Tækni og trú, tölvur og gervigreind

Tækniframfarir geta verið dásamlegar, en hér er þó við hættulegar metafórur að eiga. Ég skrifa hér sem fulltrúi húmanisma og skapandi lista. Nú er hætt við að ef fylgja á framtíðarvagni gervigreindar gagnrýnilaust, í einskonar tiltrúar-hæpi, þar sem við látum líf okkar í hendur tækninnar, geti eitt og annað hæglega fallið af þeim sama framtíðarvagni, og að lokum maðurinn sjálfur.

En er þessi svokallaða mennska nokkuð til að púkka upp á? Meðal transhúmanista er gjarna bent á þá staðreynd að hinn svokallaði maður mengar heiminn í sinni botnlausu neysluhyggju og fer í stríð, og af þeim sökum er ef til vill tímabært að leggja þessa misfellu og mengandi skekkju, manninn, að baki.

Á tímum þegar nóg er að hósta upp nokkrum orðum og ýta á takka til að fá myndband, tónlist, ljóð eða sögu er mér hugsað til þeirrar gríðarlegu vinnu og fórnar sem sérhvert listaverk útheimtir af sínum listamanni, nokkuð sem allir alvöru listamenn vita. Mér er hugsað til Cicero sem skilgreindi menntun sem það að mæta því sem er framandi, einmitt það sem bergmálshellar og nándarforrit gera ekki. Þá má hugsa til húmanismans þar sem mennskan felst í að reyna á sig, reyna á hugsun sína og dug til að mannast og reyna að byggja brýr skilnings móti því sem maður skilur ekki. Mér er hugsað til samtalsins milli fylkinganna sem húmanisminn hefur talað fyrir og manni sýnist óðum að hverfa, hugsað til allra þeirra sem hafa minnt á að maðurinn sé öðru framar tilfinningavera þrátt fyrir að hafa byggt járnbúr skynsemishyggju og tæknimenningar kringum heim sinn og sjálfan sig. Og einmitt sem tilfinningavera: veiklynd vera og um leið undursamleg vera: „Margt er undrið mun þó víst / maðurinn sjálfur undur stærst“, orti forngrikkinn Sófókles 400 árum fyrir Krist (þýð. Helgi Hálfdanarson).

Járnbúr og tilfinningar

Ég hef eins og aðrir orðið óttasleginn við tilkomu einkum hinna stóru mállíkana. Um leið er ég einn af þeim listamönnum sem hef horft á verk mín tekin og notuð til að þjálfa gervigreind. Þetta og annað þessu skylt leiddi mig til að reyna að skilja hvað sé í gangi, ég hripaði niður hugleiðingar m.a. um þessa nýju tækni og úr þessu varð bók sem er nú nýkomin út og heitir Hlaðan – þankar til framtíðar. Mitt framlag í þessa umræðu kemur bara út á pappír af gildri ástæðu.

Ekki er úr vegi að rifja húmanisma lítillega upp á þeim tímum þegar svokallaður transhúmanismi ríður húsum. Segja má að transhúmanismi vaxi upp úr jarðvegi hins veraldlega húmanisma sem sótti í sig veðrið þegar fulltrúar tækni-krasíu eins og Thomas Huxley og H.G. Wells koma fram á seinni hluta 19. aldar. Markmiðið var að útrýma öllum trúarbrögðum og bábiljum um manninn. Hugsun þeirra var að það sé enginn andi í manninum, maðurinn var líffræðileg vél. Skilja má þá að míkróflagan í heilann er þannig eins og sjálfsagt framfaraskref ef maðurinn er bara líffræðileg vél – en hér eru fjarri því allir sammála eins og Írinn James Tunney hefur bent á (AI-posthumanism, 2024). Burrhus Skinner var talsmaður tæknikrasíu og transhúmanisma á seinni tímum, hann trúði að tæknin myndi á allan hátt bæta hegðun mannsins: maðurinn ætti því að gefa sig alfarið á vald tækninnar, beygja sig undir hennar óskeikulu – vísindalegu – ráð (Beyond Freedom and Dignity, 1971).

Vandinn var sá að veraldlegi húmanistinn Skinner talar hér algerlega á móti kjarna eldri húmanisma sem boðaði sjálfræði og reisn mannsins – reisn mannsins getur varla haldið velli ef sjálfræðinu er af honum svipt. Hitt er svo niðurstaða óteljandi rannsókna: Mannleg hegðun virðist þvert á móti versna með tilkomu nýrrar upplýsinga- og samskiptatækni og eru þar samfélagsmiðlar undir ægivaldi algóritmanna ágætt dæmi. Öll trú er byggð á tilfinningu. Við nánari skoðun er margt af því sem framfaratæknitrúin boðar, hvort sem það er hin samúðarfulla vél eða eilíft líf í sýndarveruleika-paradís, í raun gömul trú, nýtt vín á gömlum belgjum, á engan hátt frábrugðin þeirri trú sem fékk menn til að tilbiðja skurðgoð hér áður fyrr – hér er um tæknilegri útfærslu á trúarbrögðum að ræða.

Prómeþeifur og Epímeþeifur

Ég vil taka það strax fram að ég óttast ekki gervigreind í sjálfu sér og mér er fullljóst hverskonar stórkostlegt tæki hún er í ýmsum kimum mannlífsins þar sem tæknihugsun og ríkuleg upplýsingaöflun eru lykilatriði. Nóg er til af litteratúr sem vegsamar tæknina – hæpið kringum hana er annarra að sjá um. Það er veiklyndi mannsins sem ég óttast, þýlund hans og undirlægjuhátt, andlega leti, fíknihegðun, vilja til valds og metorða, ég óttast eins og svo margir ekkert nema manninn sjálfan. Ef hann myndi leyfa óhindrað að framfaratæknitrúin fengi þau takmarkalausu völd sem til dæmis æðstu páfar transhúmanisma í Kísildalnum, með akademískar gráður í tölvuverkfræði, tala fyrir nú um mundir.

Tölvuverkfræðingar Kísildalsins eru með Prómeþeif í liði með sér, hann sem á auðveldara með að fá áheyrn ráðandi afla. Bróðir hans, Epímeþeifur, sá sem hugleiddi nútímann útfrá fortíðinni, eru menn tregir til að ljá eyra – hans orð eru ekki ávísun á hagvöxt og framfarir eins og orð bróðurins. En nú má jafna samræðu við Epímeþeif við nauðsyn. Rökleiðslan er einföld: Mennskan er í hættu. Hvað er mennska? Bara fortíðin getur svarað því.

Gervigreind getur að sama skapi ekki gert útaf við skapandi listir – nema einmitt fyrir þessa einu staðreynd, að maðurinn velji það eða láti velja það fyrir sig í veiklyndi sínu. Ef til vill er rangt að líta á þetta sem val. Kannski málið sé heldur að hugur mannsins og dómgreind, fegurðarskyn og hæfileiki til einbeitingar og gagnrýninnar hugsunar sljóvgist í víxlverkan við tækið, nokkuð sem ég hef valið að kalla stafræna úrkynjun. Maðurinn lætur tækinu í té stöðugt meir af sjálfræði sínu eða autónómíu – og um leið missir hann snaran þátt af sinni mannlegu reisn.

Sambræðsla manns við tölvu

Ég óttast að þetta gerist miklu frekar eins og heimsókn þjófs á nóttu, svona eins og gervigreindartónlist tekur yfir tónlist samin af mannfólki þegar streymisveitan er látin ráða playlistanum. Ég nefndi sjálfræði og mannlega reisn af ástæðu: þetta eru þau tvö lykilhugtök innan hugsjónar húmanismans um manninn, sem allir húmanistar á öllum tímum geta sameinast um.

En af hverju ættum við svo sem ekki að láta tæknina taka yfir líf okkar? Saga Vesturlanda er einmitt sagan af því hvernig tæknin umbreytir og tekur yfir líf okkar – stöðugt meir og meir. Og af hverju ekki þá bara fara alla leið eins og Ray Kurzweil boðar í áðurnefndri bók og í The Singularity is Nearer (2024)? Með „Singularity“ vísar Kurzweil til sambræðslu manneskju við þá tækni sem hún hefur skapað, að við yfirgefum okkar líffræðilegu verund og gerumst sæborgir eða simúlantar og lifum þannig í eilífum sýndarveruleika í einni stórri tölvu allsherjar.

Það er eitt sem hefur gleymst í öllu hæpinu: það að vera manneskja er meðal annars að vera líkami með tilfinningar, spyrja má hvað sé eftir af manninum sé þetta fjarlægt. Metafóran, myndlíkingin, var samkvæmt Aristótelesi kjarni skáldskaparlistarinnar. Kannski þar sé snaran þátt mennskunnar að finna, altént sjáum við að mállíkönin eiga í stökustu vandræðum með metafórur einmitt af þeirri ástæðu að metafóran er líkamleg (e. embodied) og um leið tilfinningaleg eins og kognitívir metafórufræðingar hafa fært gild rök fyrir – hvorugt af þessu hefur vélin. Mállíkönin geta stolið metafórum mannanna, en þau geta ekki skilið þær eða búið til nýjar sem hitta í hjartastað. Texti mállíkana er tölfræðilegur líkindatexti – og ég er einn þeirra sem myndi segja á þessum hæp-tímum hinnar nýju tækni: skoðum ekki hvað vélin getur sagt okkur um mannshugann eða mannlega vitund – skoðum einmitt það hvernig mannshugurinn sker sig frá kísilvélinni og höldum fast í það svona eins og Garún hélt fast í klukkustrenginn forðum daga, svo gripið sé til myndlíkingar.

Vofa tækniframfaratrúar

Ef litið er aftur til Forngrikkja, má þegar greina í yfir 2400 ára gömlum textum mikla áherslu á orðið techné, sem upprunalega gat þýtt eitthvað eins og sönn list, en verður síðan að hæfileika innan viss handverks eða því sem við tengjum við orðið tækni í dag. Í beinni línu er dýrkun á Prómeþeif sem færði mönnunum eldinn og aðrar tækniframfarir. Annað hugtak fer mikinn meðal Forngrikkja, ratio, sem þýtt hefur verið á ýmsan máta á okkar mál, sem skynsemi, rökvísi eða rökleg hugsun. Logos er enn annað hugtak sem tekur mikilvægum breytingum þegar líður að því að stóru heimspekingarnir á fimmtu og síðan fjórðu öld fyrir Krist fara að láta til sín taka. Heimspekingurinn Ísókrates var samtímaður Platóns, þó færri hafi gefið honum gaum. Logos var hjá honum skilgreint afar breitt og hafði inn í sig bakað lógíska rökhugsun og skynsemi en um leið tilfinningahliðar mannsins, ímyndunarafl hans og kenndir. Ísókrates var viss um að maðurinn væri fyrst og fremst tilfinningavera og menntun hans átti að ganga út á að rækta þessa tilfinningahlið í samræmi við skynsemina, þetta logos mannsins. Það myndi skapa alvöru visku og gegnheilli manneskjur. Það myndi síðan verða til þess að bæta mannleg tengsl og samskipti ef þetta víða logos mannsins væri ræktað alhliða.

Fleiri spekingar og skólar halda áfram með viðlíka hugsanir, sá yngsti meðal þeirra sem ég hef fundið er Rómverjinn Marcus Aurelius sem greinilega gengur útfrá þessari víðu skilgreiningu Ísókratesar á logos eða skynsemi, skynsemi Aureliusar var líka gneistinn af guðdómnum í brjósti hvers og eins, logosið hans var venslað siðfræði og samfélagshugsun eins og hjá Ísókratesi.

Allir vita að það var ekki þessi breiða skilgreining Ísókratesar og fleiri spekinga á logos sem hafði vinninginn. Logos byrjar strax hjá Platón að hlekkjast við hið röklega, og í Ríkinu sjáum við fleyg rekinn í þessa heilverund mannsins, maðurinn hefur bæði tilfinningar og skynsemi, en skynsemin er æðri og æðst alls, hið sanna logos mannsins er rökvísi hans, geta hans til röklegrar hugsunar, tilfinningar eru meira eitthvað sem aftrar honum, að gæla við tilfinningar eins og skáld leiðir ekki til neins, hvorki til þekkingar né framfara – Platón rak skáldin út úr fyrirmyndarríki sínu og kannski hefur skáldið aldrei náð fótfestu í nokkru ríki eftir það. Tilfinningaverund mannsins er strax þarna komin í annað og óæðra sæti, …