Bylting, bóla, bölvun - bull?

Allt frá því ChatGPT og aðrir svipaðir spjallþumbar birtust í lok árs 2022 hefur mikið verið rætt og ritað um þessa nýju tækni. Tvær blaðagreinar sem birtust í lok maí gefa ágætis sýnishorn. Fyrri greinin segir frá því að stórfyrirtækið IBM sé í þann mund að segja upp 8000 manns, lang flesta í mannauðsdeild, en þeir verði leystir af hólmi með gervigreind. Önnur greinin vitnar í forstjóra Anthropic, eins af stærstu fyrirtækjum á sviði gervigreindar, þar sem hann spáir því að gervigreindin muni fara fram úr mannlegri greind innan 12 mánaða. Meginstef þessa fréttaflutnings er að við verðum óþörf innan örfárra ára, óþörf á vinnumarkaði, óþörf í vísindum og listum, munum engu ráða. Gervigreindin verður einfaldlega miklu betri en við á öllum sviðum.

Undirritaður er einn þeirra fjölmörgu á tæknisviði sem efast stórlega um þessar fullyrðingar og telja að verið sé að magna upp eftirvæntingar sem aldrei verða, að forsvarsmenn þessara fyrirtækja séu að veðja á blindgötu í tækniþróun. En þetta er ekkert smá veðmál og gangi það upp er ljóst að gervigreindin muni verða almesta bylting sögunnar, til blessunar eða bölvunar skal ósagt látið. En undirritaður og margir aðrir telja að veðmálið sé fyrirfram tapað og gervigreindaræðið sé ekkert nema bóla sem muni springa á allra næstu misserum.

Grein í stórtímaritinu Time skilgreinir ágætlega í hverju þetta veðmál er fólgið: Yfirlýst markmið fyrirtækja á sviði gervigreindar sé að þróa almenna gervigreind (AGI – Artificial General Intelligence), sem er skilgreind sem sjálfvirk kerfi sem geti unnið flest störf betur en mennskir starfsmenn. Time bendir á að fyrirtæki á þessu sviði séu að verja vel yfir þúsund milljörðum Bandaríkjadala í þróun almennrar gervigreindar með fullum stuðningi ríkisstjórna um allan heim. Þótt Time rekji það ekki nánar má auðvitað benda á að allir þessir peningar koma frá fjárfestum sem leggja trúnað á fullyrðingar forsvarsmanna fyrirtækjanna um að hægt sé að ná þessu markmiði. Og að nánast allur fréttaflutningur af stórkostlegum framförum á sviði gervigreindar sé lítið meira en áróður þessara sömu fyrirtækja til að sannfæra fjárfesta um að þeir séu enn á réttri leið, að byltingin sé rétt handan við hornið.

Hvað er gervigreind?

Gervigreind er þýðing á hugtakinu Artificial Intelligence, manngerð greind. Ef tölva nær mannlegri greind þá er hún með gervigreind, manngerða greind, en ekki platgreind eða þykjustugreind. Samkvæmt þessari skilgreiningu þá er gervigreind enn ekki orðin að veruleika því engin tölva hefur náð mannlegri greind. En orðið gervigreind er komið almenna notkun með aðra og óljósa merkingu.

Nánast allt sem kallast gervigreind í dag er byggt á notkun tauganetsherma sem draga dám af uppbyggingu heilans, með sínar taugafrumur og taugatengingar. Tauganetshermar nútímans eru stærðfræðileg módel þar sem líkt er eftir aragrúa tauga með misjafnar tengingar til annarra tauga. Tauganetsmódelum eru stærðfræðilíkön sem líkjast mjög flóknum töflureiknum, svokallaðar matrissur og stærðfræðileg meðhöndlun þeirra byggir á sömu aðferðum og notaðar eru til að reikna út skjámyndir í tölvuleikjum. Upp úr aldamótum tóku vísindamenn á sviði tauganetsherma að nota skjáörgjörva með verulega góðum árangri. Með því að nota sífellt fleiri skjáörgjörva eykst reiknigeta tauganetshermisins og stærstu ofurtölvur á þessu sviði eru með tugi þúsunda skjáörgjörva og verið er að byggja enn stærri einingar, jafnvel með eigin orkuver enda er orkunotkunin ofboðsleg.

Tauganetshermar eru mjög gagnlegir þegar kemur að því að greina munstur en fyrst þarf að þjálfa þá með miklu magni merktra gagna. Ef tauganetshermir á að geta greint ketti á ljósmynd þarf fyrst að mata hann á ógrynni ljósmynda þar sem búið er að merkja fyrirfram hvort köttur sé á myndinni eða ekki. Merking gagna kostar tíma og pening sem er helsti ókostur óbreyttra tauganetsherma.

Núorðið geta tauganetshermar kennt sér sjálfir, að því gefnu að þeir geti nýtt sjálfvirka einkunnagjöf. Það má kenna tauganetshermi að tefla skák með þessum hætti á mjög stuttum tíma með nóga getu til að sigra mannlega keppinauta. Sjálfkennandi tauganetshermar, sem við gætum kallað sjálfkenniherma, eru einhver mesta framför á sviði tölvuvísinda frá upphafi og eru óðum að umbylta vísindaheiminum. Dæmigerð notkun slíkra sjálfkenniherma er að mata þá með miklu gagnamagni á ákveðnu sviði (t.d. gervihnattamyndum) ásamt dæmum um þá afurð sem æskileg er (t.d. veðurkort fyrir sama stað daginn eftir) og láta þá reyna að giska á eigin veðurkort sem síðan eru borin saman við hin réttu. Þegar nákvæmnin er orðin nægilega mikil er hægt að nota sjálfkenniherminn til að framleiða veðurspákort með sömu aðferð.

Nánast allar fréttir af því hvernig gervigreind hafi verið nýtt í vísindastarfi með undraverðum árangri vísa til sjálfkenniherma. Vísindamenn eru ekki að spjalla við ChatGPT eða svipaða spjallþumba og biðja þá að leysa vandamálið eins og margir virðast halda! Þess í stað þjálfa þeir sjálfkenniherma á miklum gagnasöfnum og nýta getu þeirra til að finna munstur sem mannheilinn nær ekki að sjá. Undraverður árangur hefur náðst með þessum aðferðum t.d. á sviði lífefnafræði og efnisfræði.

Langfrægasta afurð sjálfkenniherma eru síðan spjallþumbarnir, það sem formlega er kallað LLM (Large Language Models eða stór tungumálalíkön) og áður en lengra er haldið er rétt að taka fram að spjallþumbarnir eru stórkostleg framför á sviði tölvuvísinda og málvísinda, tölvubúnaður sem getur framleitt málfræðilega réttan texta um hin fjölbreyttustu málefni og er fær um að fá flesta til að trúa því að hér sé um raunverulega greind að ræða, jafnvel gædda meðvitund. En hið rétta er auðvitað að spjallþumbarnir hafa enga greind og eru óralangt frá því að öðlast meðvitund. Spjallþumbar framleiða texta með sama hætti og sjálfkennihermar framleiða veðurspákort.

Spjallþumbarnir eru sjálfkennihermar sem þjálfaðir eru á öllum tiltækum textum sem hafa verið fyrirfram sjálfvirkt greindir með manngerðum forritum þar sem beitt er öllum þeim aðferðum sem málvísindamenn hafa þróað gegnum aldirnar til að greina texta, allt frá málfræði til stílþrifa. Rökleg uppbygging mannlegs máls er mjög fyrirsjáanleg, spurningar og svör fylgja ákveðnum reglum sem hægt er að greina sjálfvirkt. Spjallþumbarnir eru síðan látnir framleiða texta byggt á tölfræðilegum líkindum en ekki innri skilningi eða þekkingu þar til þeir geta giskað að mestu rétt um næsta orð í texta. Spjallþumbarnir eru loks þjálfaðir af mennskum starfsmönnum til að gefa svör sem er þeim þóknanleg. Allt tekur þetta mikinn tíma og kostar gríðarlega orku.

Núorðið skilja flestir orðið gervigreind þannig að verið sé að lýsa spjallþumbum eingöngu, en réttara væri að segja að orðið lýsi sjálfkennihermum almennt. Best þekkta notkun sjálfkenniherma eru spunaþumbarnir sem eru að mestu gagnslausir, en framfarir í vísindum verða með notkun sérþjálfaðra sjálfkenniherma. Blaðamenn kunna ekki að gera greinarmun á þessu tvennu. En það eru spjallþumbarnir sem eiga að leysa öll heimsins vandamál að mati forsprakka gervigreindarfyrirtækja.

Sjálfkeyrandi bílar fara tvær leiðir – og sjálfkennihermirinn klessir á

Elon Musk og Tesla er ágætis dæmi um hversu mikið er í húfi – heildar verðmæti fyrirtækisins Tesla nálgast þúsund milljarði Bandaríkjadala sem er gríðarlegt ofmat ef aðeins væru skoðaðar sölutölur og framtíðarhorfur í bílaframleiðslu fyrirtækisins. En Musk hefur haldið því fram lengi að Tesla sé ekki lengur bílaframleiðandi heldur sé gervigreindarfyrirtæki. Tesla bílar verði algjörlega sjálfkeyrandi fyrir mitt þetta ár, Tesla vélmenni muni geta gengið inn í verksmiðjur og vinnustaði og unnið öll líkamleg störf í lok þessa árs, og Tesla gervigreind geti leyst af hendi öll skrifstofustörf á næsta ári. Markaðsmat Tesla endurspeglar trú nógu margra fjárfesta á að Musk muni takast ætlunarverk sitt.

Markmið Elon Musk virðast ekki vera að ganga eftir. Sjálfkeyrandi leigubílar eiga að vera komnir í notkun í borginni Austin í Texas fylki núna í júní ef þeir standast öryggiskröfur. Nýjustu fréttir herma að 10 – 20 bílar verði teknir í notkun á næstunni, allir með bílstjóra, eftir „nokkra daga“ án óhappa í öryggisprófunum samanborið við Waymo sem þurfti að gangast í gegnum 12 mánaða öryggiseftirlit. En Musk hefur verið duglegur að eyðileggja allt regluverk sem gæti hindrað framgang gróðadrauma hans.

Helsti keppinautur Tesla á sviði sjálfkeyrandi bíla er Waymo sem er þegar með tugþúsundir bilstjóralausra leigubíla í mörgum borgum. En forstjóri Waymo hlær að hugmyndum Musk og segir að bílar verði ekki að fullu sjálfkeyrandi á næstu áratugum. Til þess þurfi alvöru, almenna gervigreind og hún er ekkert að koma á næstunni. Waymo leigubílarnir eru að miklu leyti fjarstýrðir, með einn starfsmann fyrir hverja 3-5 leigubíla, og þessir starfsmenn taka reglulega við stjórn bílanna án þess að farþegar viti af því.

Tesla og Waymo fara hver sína leið, Tesla leggur allt undir myndavélar eingöngu og sjálfkenniherma sem kenna sjálfum sér að keyra. Sjálfkennihermar eru auðvitað haldnir ímyndunarveiki í miklum mæli, og nýleg dæmi sem heyrast eru um Tesla bíla sem fara yfir á rauðu, hunsa stöðvunarskilti og einn endaði á hvolfi útí túni af því sjálfkennihermirinn ákvað að beygja skyndilega út af veginum. Tesla bílar eru taldir langhættulegustu bílarnir í umferðinni og banaslys sögð vera tvöfalt algengari þar sem þeir eiga í hlut. En það er erfitt að sannreyna þessi gögn, Musk hefur verið duglegur síðustu mánuði að eyðileggja regluverkið kringum slysaskráningar í Bandaríkjunum.

Waymo fer hefðbundna leið byggða á tækni og hugbúnaði sem hefur verið í þróun frá því um aldamótin og byggir á notkun myndavéla og þrívíddarskönnum, tækni sem kostar álíka mikið og bíllinn sjálfur sem Waymo kaupir frá öðrum framleiðendum. Ítarlegar öryggiskröfur eru gerðar og Waymo leigubílar keyra eingöngu í umhverfi sem hefur verið kortlagt og greint ýtarlega. Waymo leigubílar eru furðu vinsælir, fyrst og fremst vegna þess að mjög margir vilja síður vera í bíl með ókunnugum. Bílstjóralausir leigubílar leysa þann vanda. Eins og áður sagði eru bílarnir að hluta fjarstýrðir enda getur hugbúnaðurinn ekki leyst úr öllum þrautum. Miðað við tölur frá Kína (Waymo gefur ekkert upp) þá er líklegt að 3-5 bílar séu í akstri á hvern einn starfsmann, sem bendir til þess að hugbúnaðurinn gefist upp í 20% tilfella og leiti sér aðstoðar. Og þetta er í hefðbundinni borgarumferð í vel kortlögðu umhverfi við bestu veðurskilyrði.

Það er kannski rétt að staldra aðeins við og bera saman gervigreind og mannlega greind þegar kemur að því að keyra bíl. Unglingur lærir að keyra bíl á innan við klukkutíma og almenn greind hans gerir honum kleift að bregðast við öllu því sem á vegi hans verður. Sjálfkennihermirinn sem Tesla notast við er þjálfaður á milljón klukkustundum af myndböndum fleiri árum af tilraunaakstri og er enn ekki fær um að bregðast við nema algengustu kringumstæðum.

Algengt er að skipta sjálfkeyribúnað bíla niður á nokkur stig. Margir nýir bílar eru á öðru stigi og beita skynjurum til að forðast árekstur og halda sig innan akreinar. Tesla og aðrir bílaframleiðendur eru farnir að bjóða upp á bíla sem eru á þriðja stigi, þar sem bíllinn getur keyrt sig sjálfur að einhverju leyti en bílstjóri þarf alltaf að sitja við stýrið og vera reiðubúinn að taka við. Fjórða stig er þar sem bíllinn keyrir sig að mestu sjálfur undir venjulegum kringumstæðum og enginn bílstjóri situr í bílnum. Fjarstýribúnaður er notaður til að leysa úr þeim kringumstæðum sem bíllinn ræður ekki við. Leigubílar Waymo og sumra annarra framleiðenda, flestir í Kína, nota þessa aðferð og svo virðist sem einn starfsmaður sé fyrir hverja 3-5 bíla í umferð hverju sinni. Fimmta stig sjálfkeyrandi bíla er þegar bíllinn keyrir sig alltaf sjálfur undir öllum kringumstæðum, sé jafnvígur og atvinnubílstjóri. Enginn bílaframleiðandi er nálægt þessu stigi en Musk heldur því fram að Tesla muni ná því á þessu ári.

Og loks öryggisprófunin í Austin sem nefnd var hér að ofan. Teslan var látin keyra fram hjá grunnskóla þar sem skólabíll var að hleypa börnum út. Rauð ljós blikkuðu og stöðvunarskilti voru á lofti, en dúkka í barnastærð „hljóp“ út á veginn. Teslan nam þetta allt saman og skráði í minni en hélt áfram á sama (ólöglega) hraða og keyrði dúkkuna niður. En af því að regluverk kringum sjálfkeyrandi bíla hefur verið eyðilagt í Bandaríkjunum virðist Tesla samt eiga að fá að setja sína 20 „sjálfkeyrandi“ leigubíla á göturnar, allar með bílstjórum.

Almenn gervigreind á næsta leiti?

Hvorki sjálfkennihermar né spjallþumbar geta talist gervigreind samkvæmt upphaflegri merkingu þess orð: vélbúnaður með mannlega greind, manngerða mannlega greind. En vegna þess að orðið er komið í útbreidda almenna notkun er í staðinn farið að tala um almenna gervigreind (AGI, Artificial General Intelligence) og með því er verið að vísa til einhvers sem gæti nálgast mannlega greind, getuna til að starfa sjálfstætt í raunheimum og leysa af hólmi almenn mannleg viðfangsefni.

Kannski augljósasta sönnun þess að spjallþumbarnir hafa enga greind er að þeir eru jafn líklegir til að skálda upp svör eins og að svara rétt. Enda skilja þeir ekki hvað er rétt og hvað er rangt, þeir skilja ekki hvað átt er við með raunveruleika, umhverfi, tíma eða rúmi. Þeir hafa enga almenna skynsemi, enga smekkvísi, engar tilfinningar og auðvitað enga líkamlega skynjun sem margir telja sé algjör forsenda alvöru greindar, að geta skynjað eigin líkama í nánu og stöðugu samspili við umhverfi sitt.

Árátta spjallþumba til að skálda fer ekki minnkandi þrátt fyrir yfirlýsingar hér um. Dagblað í Bandaríkjunum birti á dögunum grein með ritdómum um spennandi bækur sem væru að koma út í sumar. Helmingur bókanna reyndist hugarburður spjallþumbans sem skrifaði greinina. Heilbrigðisráðuneyti Bandaríkjanna birti á dögunum viðamikla vísindarannsókn sem þeir höfðu lengi boðað. En blaðamenn voru fljótir að benda á að stór hluti tilvísana í greininni var uppspuni, dæmigerður annmarki greina sem skáldaðar eru af spjallþumbum. Hvað er að marka afganginn af greininni ef hún er skrifuð af ímyndunarveikum spjallþumbum án raunveruleikatengingar? Við nánari athugun kom í ljós að þær tilvísanir sem reyndust raunverulegar innihéldu ekki það sem rannsóknin hélt fram. Tómt bull.

Hvað er greind?

Franski vísindamaðurinn Yann LeCunn er yfirmaður gervigreindarsviðs hjá stórfyrirtækinu Meta (Facebook) og einn örfárra fræðimanna á þessu sviði sem þorir að segja það sem mikill meirihluti kollega hans hugsar, en76% vísindamanna á sviði gervigreindar telja samkvæmt nýlegri könnun að sú tækni sem margir í dag kalla gervigreind sé ekki með raunverulega greind og að núverandi tækni sjálfkenniherma og spjallþumba muni aldrei geta náð almennri gervigreind (AGI).

Eitt af því sem gerir okkur erfitt fyrir þegar talað er um gervigreind er að við erum í vandræðum með að skilgreina í hverju mannleg greind felst, og hefðbundnar aðferðir til sem notaðar eru til að mæla greind (hvað svo sem hún nú er) reynast haldlitlar gagnvart gervigreindinni sem fer létt með öll hefðbundin greindarpróf. LeCunn er einn þeirra sem reynir að átta sig á hvað í því felst að vera með alvöru greind og nefndi á dögunum í viðtali fjóra eiginleika sem væru nauðsynlegir greind og er sameiginlegir mannskepnunni og mörgum dýrategundum. Þessir fjórir eiginleikar eru: að skilja umhverfi sitt; að geta munað það sem gerist; að geta dregið ályktanir; og að geta gert áætlanir. Ekkert af þessu er á færi nútíma gervigreindar.

Allir sjálfkennihermar, og spjallþumbarnir sem á þeim keyra, eru þjálfaðir einu sinni með ærnum tilkostnaði en síðan læstir. Sjálfkennihermirinn hættir að læra enda komið í ljós að helsti veikleiki sjálfkenniherma er ofkennsla, að kennt sé umfram hámarksgetu. Það innra líkan sem sjálfkennihermirinn hefur byggt sér getur aðeins náð ákveðnum hámarks árangri og ef haldið er áfram að kenna umfram þetta hámark hrakar líkaninu mjög hratt og verður ónothæft. Mannskepnan er ekki háð þessum takmörkunum. Við gleymum ekki að hjóla þótt við lærum að spila á píanó, við gleymum ekki að lesa þótt við lærum að tefla. Geta mannsheilans til að bæta við sig þekkingu og kunnáttu virðist ótakmörkuð.

Sú leið sem allir tæknirisarnir eru að fara byggir á því að fjölga örgjörvum, stækka minni og stækka gagnasafnið sem sjálfkennihermirinn þjálfar sig á, og þannig verði spjallþumbarnir (eða bílþumbarnir sem þykjast geta keyrt bílinn fyrir okkur) sífellt greindari og nálgast okkur sífellt meira og allt í einu spretti fram fullsköpuð almenn greind, jafnvel þótt þurfi milljón skjáörgjörva og röð af kjarnorkuverum til að knýja þá. En fræðimenn benda á að þetta sé ekki raunhæft – gagnasafnið er þegar fulltæmt, og grundvallar aðferðafræði sjálfkenniherma byggir á tölfræðilegri nálgun. Þeir geta lært það sem er endurtekið nógu oft, og það er þegar búið að tæma þann brunn. Fleiri örgjörvar leyfa þeim að keyra hraðar en þeir geta ekki lært meira.

Geta ekki lært að tefla

Ágætis dæmi um þetta síðasta má finna í skákheiminum. Sjálfkennihermar geta lært að tefla þokkalega vel á stuttum tíma. Hefðbundin skákforrit hafa verið í þróun áratugum saman en hafa löngu náð því marki að slá bestu skákmönnum við. Sjálfkennihermirinn keppir því við hefðbundin skákforrit og hafði betur til að byrja með, en hver sigur sýndi mennskum forriturum nýja leið, kenndi þeim nýjar aðferðir í taflmennsku sem þeir gátu greint og forritað inn í hefðbundnu forritin sem urðu núna betri en sjálfkennihermirinn og eru það enn. Sjálfkennihermirinn virðist ekki geta þjálfað sig meira, tölfræðileg nálgun gerir honum mjög erfitt að meðhöndla jaðardæmi og útúrdúra og finna þau svið þar sem úrbóta er þörf. Í þessu samhengi er rétt að benda á að spjallþumbar geta ekki lært að tefla skák.

Fræðimenn á sviði gervigreindar eru margir skoðunar að hámarksgetu spjallþumba hafi verið náð í fyrra og að nýjustu útgáfur fari versnandi. Spjallþumbarnir eru í sívaxandi mæli þjálfaðir á eigin framleiðslu (enda búið að lesa alla tiltæka manngerða texta) sem magni upp og fjölgi villum í hverri endurtekningu. Annað vandamál er að við síendurtekna þjálfun hverfur það sem er sjaldgæft en hið algenga magnast upp. Loks á sér stað blöndun milli hugtaka og þekkingarsviða með þeim afleiðingum að svör verða sífellt ónákvæmari og meira misvísandi.

Langflestir sérhæfðir spjallþumbar geta flett upp í gagnasöfnum og skjölum, svokallað Retrieval-Augmented Generation eða uppflettistyrktur textaspuni. Þessi aðferð á að auka nákvæmni, en er engu að síður langt frá því að vera fullkomin. Ágætis dæmi íslenskt er spjallþumbi sem hefur verið mataður af öllu EES regluverki sem hefur verið þýtt yfir á Íslensku. Að mati eins þýðanda sem hefur prófað þennan íslenska spjallþumba þá er hann mun betri en ChatGPT í þýðingum yfir á íslensku, og sérstaklega á EES regluverki. Sami þýðandi prufukeyrði kerfið á lagagreinum sem áttu að vera um varúðarútreikninga banka vegna eiginfjárgrunnskrafna fyrir markaðsáhættu, en spjallþumbinn taldi þær vera um um fjármögnun hryðjuverka og flugrekstur. Snyrtilegur texti en innihaldið tóm steypa að mati þýðandans.

Grænmetisrafeindasmásjá

Glöggir lesendur vísindarita rákust fyrir nokkru á nýtt hugtak, „vegetative electron microscope“ sem má útleggja sem grænmetisrafeindasmásjá, þótt orðið „vegetative“ geti haft margar mismunandi merkingar. Við nánari athugun kom í ljós að einhverjir tugir vísindagreina í ritrýndum tímaritum nefndu þetta merkilega fyrirbæri. Höfundar þessara greina urðu að viðurkenna að greinarnar voru að miklu leyti skrifaðar af spjallþumbum og þeir höfðu ekki sjálfir nennt að lesa þær yfir. Og ekki ritrýnendur eða útgefendur heldur, kannski þeir hafi látið spjallþumba um að lesa yfir fyrir sig? Greinarnar hafa nú verið dregnar til baka og höfundar með ónýtt orðspor.

Gervigreindarfræðingar skoðuðuð málið nánar og áttuðu sig á að hér var um djúpstæða villu að ræða. Það reyndist auðvelt að fá alla spjallþumba til að grípa til þessa nýyrðis og ljóst að villan var falin einhvers staðar í þjálfunargögnum þeirra allra. Nánari eftirgrennslan leiddi í ljós tvær hugsanlegar smitleiðir. Annars vegar höfðu prentuð vísindatímarit verið skönnuð og lesin sjálfkrafa, en tölvubúnaðurinn ekki kunnað að lesa niður dálka heldur lesið þvert yfir dálkana. Alla vega tvær greinar fundust þar sem orðið „vegetative“ stóð aftast í einum dálki, en „electron microscope“ fremst í sömu línu í næsta dálki. Önnur smitleið voru vísindagreinar sem höfðu verið þýddar úr Farsí sem talað er í Íran og nágrannalöndum. Í því tungumáli eru orðin sem má þýða sem „vegetative“ annars vegar og „scanning“ hins vegar nánast eins, og sjálfvirk þýðing hafði breytt því sem átti að vera „scanning electron microscope“ í „vegetative electron microscope“.

Af ofansögðu mætti ætla að spjallþumbar séu frekar til óþurftar en gagns og ljóst að þeir muni varla fara batnandi. Það lítur helst út fyrir að spjallþumbarnir séu tímabundin bóla, fyrirbæri sem mun ekki bara fjara út heldur verða eitrað peð í allri tækni. Margir eru þegar farnir að forðast allt sem segist vera með gervigreind, AI, og þeim mun fara fjölgandi.

Enginn efnahagslegur ávinningur, engin fækkun starfa

Samkvæmt nýlegri grein í tímaritinu The Economist eru forsvarsmenn stórfyrirtækja mjög að kvarta undan miklum fjárútlátum og kostnaði kringum gervigreind á meðan ávinningur reynist enginn. Þau fyrirtæki sem ákváðu beinlínis að fækka fólki en nota gervigreind í staðinn eru óðum að átta sig á að það er ekki hægt – og byrjuð að endurráða starfsfólk. Könnun meðal stórfyrirtækja sýna að á síðasta ári höfðu 17% þeirra gefist upp á að nýta sér gervigreindina til gagns, en á þessu ári hefur þetta hlutfall hækkað í 42%.

Fyrirtækið builder.ai þóttist geta framleitt hugbúnað fyrir hvern sem er án þess að nota forritara. Microsoft studdi þá til dáða og markaðssetning var 1,5 milljarðir Bandaríkjadalir. Nú hefur komið í ljós að allri forritun var úthýst til 700 indverskra forritara og fyrirtækið lýst gjaldþrota.

Tveir danskir hagfræðingar birtu um miðjan apríl niðurstöðu könnunar meðal 25000 einstaklinga á 7000 vinnustöðum í 11 atvinnugreinum. Spurt var hvort svarendur hefðu orðið varir við eða upplifað að einhver hefði misst vinnuna vegna gervigreindar, einnig var spurt hvort notkun gervigreindar hefði leitt til meiri framleiðni og þá hækkun launa. Svarið við báðum spurningum var nei. Enginn hafði misst vinnuna, enginn hafði fengið hærri (eða lægri) laun vegna gervigreindar. Langflestir höfðu prófað gervigreind, margir þeirra notuðu hana í starfi og yfirmenn voru almennt duglegir að styðja við og hvetja til notkunar hennar.

Meirihluti svarenda sögðu að gervigreindin hafi sparað þeim tíma á einum stað en búið til meiri vinnu annars staðar. Mikill tími fari t.d. í að yfirfara það sem gervigreindin skilar af sér, leiðrétta og lagfæra. Ekki svo að skilja að gervigreindin sé gagnslaus – þeir sem kunna best að nýta sér hana sjá vinnusparnað sem nemur um einni klukkustund á viku , og í sumum starfsgreinum virðist framleiðni hafa aukist meira en sem því nemur þótt erfitt sé að mæla orsakir og afleiðingar.

Engin áhrif á vinnumarkað

Enn að tímaritinu The Economist sem birti í lok maí úttekt á því hvort gervigreindin hafi leitt til fækkunar starfa í Bandaríkjunum, og notuðu til þess nýjustu opinberar tölur. Niðurstaðan bendir til þess að engin störf séu að hverfa vegna gervigreindar. Til dæmis sjá þeir að þýðendum hefur fjölgað um 7% milli ára, og atvinnuleysi meðal nýútskrifaðra langskólagenginna (þeirra sem fylla þau störf sem ætti að vera auðveldast að leysa af hólmi með gervigreind) hefur haldist óbreytt frá því löngu áður en fyrstu spjallþumbarnir birtust. Atvinnuþátttaka langskólagenginna hefur haldist óbreytt sem bendir einnig til þess að störfum þar fari ekki fækkandi. Þeir skoðuðu líka tölur frá Bretlandi, Japan og Evrópusambandinu og alls staðar er það sama sagan – atvinnuþátttaka er með hæsta móti, launaþrýstingur óbreyttur. Ekkert sem bendir til þess að gervigreindin hafi nokkur einustu áhrif á vinnumarkaðinn.

En hvað með fréttina sem nefnd var í upphafi þessa pistils, að IBM væri að segja upp 8000 manns og leysa þá af hólmi með gervigreind, einkum í mannauðsdeild fyrirtækisins? Við nánari lestur kemur í ljós að eitthvað er þetta málum blandið. Fulltrúi IBM segir að gervigreind leysi af hólmi sem svari 200 stöðugildum í mannauðsdeild, en að starfsmönnum hafi ekki verið fækkað og í raun sé verið að fjölga í öllum deildum fyrirtækisins. Hvergi kemur fram nánari skýring á þessari 8000 manna tölu nema kannski að IBM er að markaðsetja eigin lausnir á sviði frumkvæðisþumba.

Frumkvæðisþumbar gagnslausir

Ef spjallþumbar eigi að geta leyst af hólmi einföldustu störf þurfa þeir að sýna frumkvæði til verka. Tæknifyrirtækin kalla þetta Agentic AI og mætti sem best útleggjast sem frumkvæðisþumbar. Þessi fyrirbæri eiga að geta tekið að sér störf að einhverju eða öllu leyti án mannlegrar aðkomu umfram hefðbundið hlutverk yfirmanna. Frumkvæðisþumbar eru sérhæfðir spjallþumbar sem eru þjálfaðir til að leysa af hólmi ákveðin verkefni og skila af sér ákveðnum afrakstri. Tilraunir með notkun þeirra reynast afar misvísandi. Til dæmis var reynt að láta frumkvæðisþumba fylgjast með ákveðnu tölvupósthólfi og bregðast við atvinnuumsóknum með því að lesa þær yfir, semja úrdrátt og skrifa í skjal í ákveðna möppu. Þumbinn strandaði nánast um leið því vefslóð var í tölvupóstinum og hann álpaðist til að opna vafra en kunni ekki að loka honum aftur. Umsjónarmaður leysti þumbann úr sjálfheldunni og bætti við leiðbeiningar að ef upp kæmi tæknileg vandamál ætti þumbinn að hafa samband við ákveðinn aðila hjá tæknideild fyrirtækisins. Næst rak þumbinn í strand þegar hann opnaði skjalið sem hann átti að skrifa úrdráttinn í sem reyndist Word skjal. Þumbinn opnaði skjalið sem textaskjal og bætti eigin texta við en þegar hann ætlaði að vista skjalið kvartaði Windows og þumbinn vissi ekki hvernig ætti að bregðast við. Nú skyldi hafa samband við tæknideildina. Þumbinn var með nafn en ekkert netfang og skáldaði því netfang, sendi fyrirspurn og beið síðan út vikuna eftir svari.

Annað dæmi var í ónefndu hugbúnaðarfyrirtæki sem ákvað að gera tilraun með frumkvæðisþumba í forritun. Þumbinn fékk það verkefni að leiðrétta þekkta villu í hugbúnaðaruppfærslu. Forritararnir mennsku lýstu því þannig að þeir hafi barist dögum saman við að leiðbeina þumbanum svo hann gæti leiðrétta villuna en ekkert gekk. Frumkvæðisþumbinn hafði hins vegar frumkvæði að því að fjölga villum og tilraunin endaði með talsvert miklu vinnutapi margra forritara. Villan var í lokin leiðrétt af mennskum forritara á hálftíma.

Reyndar þarf það ekki að koma á óvart að spjallþumbar ráði ekki við forritun. Sérstakir spjallþumbar ætlaðir til forritunar eru þjálfaðir á gríðarlegu magni af kóða sem hægt er að finna á netinu, ekki ósvipað og þegar hefðbundnari spjallþumbar eru þjálfaðir á öllum texta sem hægt er að finna. Munurinn er sá að forritun hefur þróast gríðarlega hratt (eins og auðvitað öll önnur tækni) á meðan textar skrifaðir á mannamáli eru jafn gildir á öllum tímum. Gæði (og umfang) gagnasafnsins þegar kemur að forritun er því miklu minni en hvað varðar hefðbundinn texta. Forrit sem samin eru af gervigreind eru enda full af villum og illa skrifuð. Forritarar nota mjög vísanir í hjálparforrit ýmiskonar en gervigreindin á það til að skálda upp hjálparforrit sem leysir vandamál sem hún átti sjálf að leysa. Forrit samin af gervigreind standast mjög illa nútíma öryggiskröfur. Og loks þá er gervigreindin mjög léleg þegar kemur að því að finna og leiðrétta villur. Allir forritarar gera mistök, og gervigreindin enn frekar. Góðir forritarar kunna að leiðrétta sín mistök, gervigreindin ekki.

Er þetta þá allt vita gagnslaust?

Sjálfkennihermar hafa sýnt sig og sannað í vísindum og rannsóknum ýmiskonar. En það er virðist ekki á færri hvers sem er að nýta sér þessa tækni. Athugun meðal vísindamanna hefur leitt í ljós að það voru eingöngu þeir sem voru bestir í sínu fagi, með mestu reynsluna, sem gátu nýtt sér þessa nýju tækni með góðum árangri. Hinir áttu í stökustu vandræðum og fannst tæknin jafnvel frekar til óþurfta en hitt. Þetta er endurtekið stef í allri athugun á notkun sjálfkenniherma: Þetta geta verið öflug verkfæri í höndum sérfræðinga en ekki annarra.

Svipað heyrir maður þegar kemur að notkun spjallþumba. Þýðandinn sem vitnað var til hér að ofan er með þeim allra bestu á sínu sviði, með langa og víðtæka reynslu af að þýða lagatæknilegan texta af mörgum tungumálum yfir á íslensku, og af íslensku yfir á erlend tungumál. Hann nýtur sér spjallþumba en þarf að beita lúsakambi á allt sem frá þumbanum kemur. Starf hans hefur breyst en hvort hann nái meiri afköstum en áður er enn óljóst.

Einn dáðasti rithöfundur þjóðarinnar nýtir sér spjallþumba til rannsókna í sagnfræði en er nógu öruggur með sig og sína kunnáttu sem hann hefur viðað að sér gegnum áratugi til að geta greint og leiðrétt augljósar ímyndanir og rangfærslur.

Báðir eru þetta sérfræðingar og báðir taka þeir þá áhættu að spjallþumbinn skáldi vitleysu sem þeim yfirsést. Lagabálkar eru talsvert viðkvæmari gagnvart villum en blaðagreinar um sagnfræðileg málefni, en orðstír beggja byggir á því að lesendur treysti þeim til að fara með rétt mál. Þeir taka áhættu sem fer vaxandi ef rétt er að spjallþumbarnir séu að eyðileggja sjálfa sig og hafi í raun náð hámarki getu sinnar fyrir um ári síðan.

Skólastarf er kannski það svið samfélagsins sem stendur mest ógn af spjallþumbum, sem geta bæði skrifað frambærilegar ritgerðir fyrir hönd nemenda og lesið þær yfir fyrir hönd kennara. Kennsluaðferðir sem byggja á hinu skrifaða orði eru í upplausn, og erfitt að sjá að núverandi skólakerfi geti rönd við reist.

Af öllu ofansögðu ætti að vera ljóst að gervigreind er ekki að fara að fækka störfum, ekki heldur störfum kennara. Menntun ungmenna verður mikilvægari ef þau eiga að geta nýtt sér gervigreind í starfi, en hlutverk kennarans verður að sama skapi erfiðara. Eina lausnin er væntanlega að fjölga kennurum verulega og gjörbylta skólastarfi þannig að hið talaða orð, tónlist, listir og sköpun verði megin inntakið og hið skrifaða orð verð bundið mjög ákveðnum takmörkunum, einkum þeim að ef maður nennir ekki að skrifa texta sjálfur getur maður ekki ætlast til þess að aðrir nenni að lesa hann.

Höfundur rekur hugbúnaðarfyrirtæki.

Heimildir:

IBM og 8000 uppsagnir https://www.businesstoday.in/technology/news/story/tech-layoffs-2025-ibm-lays-off-8000-employees-as-ai-replaces-hr-department-478053-2025-05-28

Anthropic og 12 mánuðir https://www.rudebaguette.com/en/2025/05/ai-singularity-could-hit-in-just-12-months-say-leading-scientists-as-humanity-stands-on-the-edge-of-an-unthinkable-shift/

Veðmálið mikla https://time.com/7289692/when-ai-replaces-workers/

Tesla og veðmálið mikla https://unionrayo.com/en/tesla-china-ai-autopilot-musk-autonomous-cars

https://www.thestreet.com/technology/teslas-robotaxi-rollout-is-alarming-the-public-new-report-shows

Tesla keyrir á barn https://www.theregister.com/2025/05/30/selfdriving_tesla_accident/

76% vísindamanna á sviði gervigreindar https://www.livescience.com/technology/artificial-intelligence/current-ai-models-a-dead-end-for-human-level-intelligence-expert-survey-claims

Yann LeCunn https://africa.businessinsider.com/news/meta-chief-ai-scientist-yann-lecun-says-current-ai-models-lack-4-key-human-traits/zp3gd1c

Gervigreindin er engin greind https://theconversation.com/we-need-to-stop-pretending-ai-is-intelligent-heres-how-254090

Spjallþumbar að hruni komnir https://www.theregister.com/2025/05/27/opinion_column_ai_model_collapse/

Grænmitisrafeindasmásjá https://theconversation.com/a-weird-phrase-is-plaguing-scientific-papers-and-we-traced-it-back-to-a-glitch-in-ai-training-data-254463

The Economist https://www.economist.com/finance-and-economics/2025/05/26/why-ai-hasnt-taken-your-job

https://www.economist.com/business/2025/05/21/welcome-to-the-ai-trough-of-disillusionment

Builder.ai https://www.businesstoday.in/technology/news/story/700-indian-engineers-posed-as-ai-the-london-startup-that-took-microsoft-for-a-ride-478514-2025-05-31

Dönsk rannsókn https://www.theregister.com/2025/04/29/generative_ai_no_effect_jobs_wages/