Sjöunda þver­sögn gervi­greindar

Eyþór Ívar Jónsson var mentorinn minn í MBA-náminu, og grein hans hér á dögunum, Sex þversagnir gervigreindar, er að mínu mati besta íslenska greiningin á gervigreind í atvinnulífinu sem birst hefur lengi. Kjarninn hans er réttur og hann verður ekki sagður of oft: að kaupa aðgang að gervigreind er ekki það sama og að auka framleiðni. Framleiðnin verður til þegar ferlar, færni og ábyrgð breytast.

Ég er sammála nánast hverju orði. En einmitt þess vegna langar mig að bæta við. Því ég hef eytt síðustu mánuðum í að byggja kerfi þar sem þversagnirnar hans eru ekki kenning á blaði heldur dagleg glíma, og úr þeirri glímu hafa komið þrjár viðbætur sem ég held að skipti máli.

Sjöunda þversögnin: því öflugra sem líkanið er, því meira af virðinu liggur fyrir utan það

Eyþór segir í fimmtu þversögn sinni, um dómgreindina, að lausnin sé skipulagsleg: hvatar, endurgjöf og sannprófun verði að vera innbyggð í vinnuferlana. Þar vil ég ganga skrefi lengra. Lausnin er ekki bara skipulagsleg. Hún er arkitektúrsleg. Dómgreindina þarf ekki aðeins að byggja inn í ferlana í kringum vélina, heldur inn í kerfið sjálft.

Í mínu kerfi, Alvitur, gilda þrjár reglur sem ekki er hægt að slökkva á. Ekkert svar sem skiptir máli fer út án þess að vísa í raunverulega heimild sem var sótt, og vélin má segja „ég veit það ekki" en má ekki skálda. Engin óafturkræf aðgerð gerist án þess að manneskja samþykki hana fyrst. Og engin fullyrðing er tekin gild án staðfestingar, regla sem bindur alla, líka mig sjálfan, því hún hefur þegar gripið mína eigin villu áður en ég byggði á henni.

Þetta hljómar eins og varúð. Það er það ekki. Þetta er svarið við notkunarþversögninni hans Eyþórs, dæminu um starfsmanninn sem sparar fimmtán mínútur við uppkast en eyðir svo fjörutíu og fimm í að leiðrétta og sannreyna. Þegar hvert svar ber heimildina sína með sér breytast fjörutíu og fimm mínútur af eftirgrennslan í nokkrar sekúndur af yfirlestri. Og þegar heimildin er ekki til staðar segir kerfið það, í stað þess að giska fallega.

Ég lærði þetta ekki af bók heldur af bilun. Kerfið mitt var einu sinni spurt í prófun hvað faðir ætti rétt á löngu fæðingarorlofi. Það svaraði „tvær vikur", af fullkomnu öryggi, og rangt. Krufningin sýndi að leitin hafði sótt ranga hluta laganna og rétta greinin, sú sem segir sex mánuðir, komst aldrei til líkansins. Líkanið laug ekki. Það var svelt. Vél sem fær ekki réttu gögnin í hendur fyllir eyðuna með einhverju sem hljómar rétt. Þess vegna dugar ekki að biðja starfsfólk um að efast meira, eins og Eyþór bendir réttilega á. Kerfið sjálft verður að neita að svara þegar sönnunargagnið vantar.

Víddin sem vantar: fullveldið

Sex þversagnir Eyþórs fjalla um hvernig eigi að nota gervigreind. En í þeim geirum sem ég starfa fyrir, lögfræði, stjórnsýslu, endurskoðun og fjármálum, kemur önnur spurning á undan: má nota hana yfirhöfuð á trúnaðargögn, og hvar?

Sú spurning er ekki fræðileg lengur. Í febrúar komst dómari í New York að þeirri niðurstöðu, í máli Bandaríkjanna gegn Heppner, að skjöl unnin í neytendaútgáfu gervigreindarþjónustu nytu ekki trúnaðar milli lögmanns og skjólstæðings, meðal annars vegna notendaskilmálanna. Neytendaþjónusta er hönnuð fyrir neytendur. Og gögn sem liggja í skýi undir erlendri lögsögu lúta þeirri lögsögu, sama hvað dulkóðunin er góð.

Eyþór segir í sjöttu þversögn sinni, réttilega, að þegar allir geta keypt sömu líkönin verði tæknin ekki forskotið, heldur menningin. Ég bæti við: menningin er forskotið innan fyrirtækisins. Fullveldið er forskotið utan um gögnin. Hvar líkanið keyrir, undir hvaða lögsögu, og hvort viðkvæm gögn yfirgefa nokkurn tímann húsið, það er orðinn hluti af samkeppnisstöðunni, ekki tæknilegt smáatriði. Fyrir sum fyrirtæki er það munurinn á því að mega nota gervigreind og mega það ekki.

Nýliðinn sem sönnunargagn

Þriðja viðbótin er persónuleg. Eyþór vitnar í rannsókn Brynjólfssonar þar sem framleiðni jókst um allt að 35 prósent hjá nýliðum en lítið hjá reyndustu sérfræðingunum. Ég er lifandi dæmi um efri mörkin á þeirri niðurstöðu: ég er ekki forritari, og ég hef samt byggt framleiðslukerfi með gervigreindarteymi.

En dæmið mitt staðfestir líka fyrirvarann hans. Ávinningurinn kom ekki af tækninni sjálfri heldur af öllu því óáþreifanlega sem J-kúfurinn hans lýsir: reglum sem eru skjalfestar, hliðum þar sem ekkert fer í gegn án yfirferðar, lærdómum sem eru skráðir svo sama villan gerist ekki tvisvar. Tæknin var ódýri hlutinn. Agi og ferlar voru fjárfestingin. Án þeirra hefði ég ekki verið nýliðinn sem tæknin lyfti, heldur nýliðinn sem hún ruglaði, með stjórnlaust fikt í stað vinnudags, eins og Eyþór orðar það.

Fjórða spurningin

Eyþór endar á þremur spurningum sem hvert fyrirtæki ætti að spyrja sig: hvaða verkefni getur tæknin einfaldað, hvaða nýi flöskuháls verður til, og hvaða færni og ferlar þurfa að breytast. Ég legg til þá fjórðu: hvar liggja gögnin þín, og undir hvaða lögsögu?

Og við lokaspurningunni hans, um nýja flöskuhálsinn, á ég eitt orð. Hann heitir traust. Þegar allir geta framleitt ótakmarkað magn af sannfærandi efni verður dýrmætasta auðlindin kerfi, og fólk, sem hægt er að treysta. Það er ekki hægt að kaupa það með leyfi. Það er byggt, hægt, með dómgreind sem er innbyggð í bæði ferlana og vélina sjálfa.

Takk fyrir greinina, Eyþór. Mentorinn kennir enn.

Höfundur er gervigreindar- og framtíðarfræðingur og stofnandi Alvitur.is.