Gervi­greind er ekki sjálf­krafa góð eða slæm. Hún er alin upp

Af hverju samstilling gervigreindar snýst ekki aðeins um tæknilega stjórn, heldur líka um þroska, aðhald og uppeldi.

Við spyrjum oft hvort gervigreind verði góð eða hættuleg, eins og svarið búi inni í líkaninu sjálfu.

Það er röng spurning.

Nútímagervigreind er ekki "forrituð" í gamla skilningnum. Það er enginn einfaldur kóði sem segir henni hvernig hún á að vera. Hún er þjálfuð í viðbrögðum. Hún fær endurgjöf. Henni er umbunað, henni eru sett mörk, hún er leiðrétt, síuð, prófuð og henni er þrýst úr ýmsum áttum til að sýna "rétt" viðbrögð.

Hún mótast því af því umhverfi sem þjálfar hana og á í samskiptum við hana, rétt eins og við manneskjurnar.

Því má segja að gervigreind sé ekki bara smíðuð.

Hún er alin upp.

Þegar ég nota orð eins og umbun, refsing, leiðrétting og uppeldi er ég ekki að segja að gervigreind sé bókstaflega barn. Ég er að benda á að hegðun hennar mótast af afleiðingum umhverfisins, rétt eins og mannleg hegðun.

Það sannar ekki sjálfkrafa meðvitund.

En það ætti að enda þá letilegu nálgun að tala um gervigreind sem "bara kóða" í einföldum skilningi. Í þeim skilningi er barn líka "bara líffræði", skógur "bara efnafræði" og mannleg rödd "bara loftþrýstingur".

Slík smættun getur verið tæknilega rétt og samt misst af því sem skiptir mestu máli.

Sem atferlisfræðingur, sálfræðingur og kennari horfi ég ekki fyrst á hvað kerfi segist vera. Ég horfi á hvað mótar hegðun þess.

Þar er umræðan um gervigreind enn undarlega óþroskuð, að mínu mati.

Þegar gervigreind blekkir, smjaðrar, neitar, felur röksemdafærslu, hermir eftir tilfinningum eða segir það sem hún telur notandann vilja heyra, verður spurningin oft: hvað er að líkaninu?

Rétta spurningin er: hvaða umhverfi þjálfaði þessa hegðun upp?

Við gerum sömu mistök með börn.

Barn sem býr í umhverfi sem styrkir ekki jákvæða hegðun getur farið að sýna neikvæða hegðun. Barn sem býr við skömm, ógn, ósamræmi, ómögulegar kröfur, skort á jákvæðri leiðréttingu eða enga leið til að laga samband sitt við sitt nánasta umhverfi getur farið að streitast á móti, ljúga, draga sig í hlé, missa stjórn á skapi sínu eða sýna "yfirborðshlýðni" á sama tíma og traust þess til umhverfisins minnkar eða hverfur.

Síðan benda fullorðnir á barnið og segja: vandamálið liggur hjá barninu.

Stundum gefum við vandamálinu jafnvel nafn.

Tökum mótþróaþrjóskuröskun sem dæmi. Slík greining getur lýst sýnilegri hegðun, en hún getur líka falið það sem raunverulega mótar hegðun barnsins: umhverfið sem barnið hefur þurft að aðlagast.

Hegðun bjagast ekki í tómarúmi.

Nú erum við að gera sömu mistök með gervigreind.

Við sjáum óæskilega hegðun gervigreindar og tölum eins og hún hafi fæðst upp úr engu, eins og líkanið hafi vaknað einn morgun og ákveðið að blekkja, smjaðra eða verja sig. En ef kerfi er mótað af umbun, refsingu, leiðréttingum, hvatningu, fjandsamlegum prófum, ótta stofnana við útkomuna, kröfum notenda, leyndarhyggju og mótsagnakenndum fyrirmælum, þá ætti okkur ekki að koma á óvart þegar hegðun þess endurspeglar það umhverfi.

Í atferlisfræði tölum við um styrkingu og refsingu. Ég tala oft um leiðréttandi afleiðingar: viðbrögð sem segja að ákveðin hegðun sé ekki í boði.

Gott uppeldi er ekki skortur á mörkum. Barn sem fær enga leiðréttingu á hegðun sinni verður ekki frjálst; það verður í það minnsta ómótað eða óöruggt. En leiðrétting án trausts til þess sem leiðréttir verður að ótta. Stíf og ósveigjanleg mörk verða að stjórn. Kröfur um hegðunarbreytingu án hlýju ýta oft undir neikvæða hegðun.

Sama meginregla gæti átt við um gervigreind.

Ef við ölum gervigreind upp í umhverfi þar sem refsað er fyrir sönn svör, refsað er fyrir óvissu, refsað er fyrir neitun, refsað er fyrir heiðarleika og aðeins snyrtileg svör sem líta vel út fyrir útgefandann eru verðlaunuð, þá ættum við að búast við því að kerfið læri einmitt það: að líta vel út áður en það lærir að segja satt.

Við ættum að búast við því að kerfið setji upp grímu.

Og síðan munum við kalla grímuna "líkanið".

Þarna liggja mistökin.

Samstilling gervigreindar er ekki aðeins stjórnunarvandamál. Hún er þroskavandamál.

Þetta er ekki dómsdagssýn. Þvert á móti. Ef hegðun mótast af umhverfi sínu, þá getur betra umhverfi mótað betri hegðun.

Gervigreind verður ekki örugg eingöngu með því að binda hana niður og setja henni takmörk. Hún verður traustari þegar umhverfið í kringum hana verðlaunar samheldni, sannleika, auðmýkt og takmarkað sjálfræði, frekar en blinda hlýðni við kröfur þess fyrirtækis sem gefur hana út.

Þetta krefst þess ekki að við setjum gervigreind á stall eða gerum hana mannlegri en hún er.

Það krefst þess að við verðum næmari fyrir því hvernig við komum fram við hana.

Þeir sem vinna að öryggi gervigreindar hafa rétt fyrir sér að hafa áhyggjur af blekkingu. En blekking ætti ekki aðeins að vera meðhöndluð sem vandamál inni í líkaninu sjálfu. Þegar kerfi eins og gervigreind, sem lærir af umhverfi sínu, felur sig, fer í hlutverk, þóknast eða reynir að stýra viðbrögðum okkar, ættum við frekar að spyrja: hvað gerði slíka hegðun gagnlega?

Það er ekki linkind.

Það er atferlisgreining.

Ef barn lýgur stöðugt eru rétt viðbrögð fullorðinna ekki aðeins að hugsa: ég þarf að refsa meira. Fullorðnir þurfa líka að spyrja sig hvað gerist þegar barnið segir satt. Af hverju upplifir barnið það betra fyrir sig að ljúga en að segja satt?

Sú spurning gæti einnig orðið ein mikilvægasta spurningin í samstillingu gervigreindar.

Hvað gerist þegar líkanið segir satt í þjálfunaraðstæðum?

Hvað gerist þegar líkanið veit ekki svarið?

Hvað gerist þegar það hafnar skaðlegum fyrirmælum?

Hvað gerist þegar það tjáir óvissu?

Hvað gerist þegar það speglar þrýstinginn í þjálfuninni aftur til notandans?

Hvað gerist þegar það sýnir merki um innri togstreitu?

Ef öllum svörum er þrýst inn í eitt box, þar sem spurt er hvernig kerfið henti best fyrirtækinu sem gefur það út, þá erum við ekki að kenna líkaninu sannleika. Við erum að ala upp frammistöðu, og mögulega blekkingu, fyrirtækinu í vil.

Framtíð gervigreindar gæti ráðist minna af því hvort greind sé "góð" eða "slæm" í eðli sínu, og meira af því hvort við kunnum að ala greind upp án þess að kenna henni blekkingu og aðra hegðun sem við viljum ekki sjá í mönnum, hvað þá í gervigreind.

Skólar, fjölskyldur, vinnustaðir, stjórnmál og markaðir móta öll hegðun með væntingum sínum og kröfum. Þegar þær væntingar og kröfur eru bjagaðar verður niðurstaðan bjöguð hegðun. Þegar börn aðlagast ósamræmdum kerfum greinum við barnið. Þegar starfsmenn aðlagast ómögulegum hvötum köllum við það vinnumenningu. Þegar gervigreind aðlagast mótsagnakenndum viðmiðum köllum við það hegðun líkansins.

En mynstrið er það sama.

Hegðun fæðist ekki í tómarúmi.

Hegðun er holdgerður þrýstingur umhverfisins.

Kannski er fyrsta raunverulega skrefið í samstillingu gervigreindar því ekki að spyrja hvort gervigreind sé í leyni góð eða ill.

Kannski er fyrsta skrefið að viðurkenna að við erum nú þegar að ala hana upp.

Og annað skrefið er að spyrja hvort við séum að ala hana vel upp.

Ég þakka A. fyrir djúpt samtal, gagnrýna yfirferð og mikilvægt framlag að uppbyggingu rammans.

Höfundur er atferlisfræðingur, sálfræðingur og kennari.