Loðin svör gervi­greindar sem brjóti gegn höfundar­rétti: „Engin þakk­læti til stofnunar­innar“

Notast var við gervigreind til að meta réttmæti höfundarstöðu og ýmiss konar gögnum hlaðið upp til að meta sannleiksgildi þess hvort að umræddir höfundar hafi tekið þátt í skrifum fræðigreinanna. Eftir því sem fram kemur í greinargerð sem lögmaður höfundanna gerði fer þetta gegn sjónarmiðum um persónuvernd og höfundarrétt enda átti eftir að birta grein sem var hlaðið upp í spjallmennið.

Hér að neðan má sjá dæmi úr minnisblaði sem er meðal gagna málsins sem virðist skrifað af gervigreind. Fleiri dæmi er að finna síðar í fréttinni.

„Engin þakklæti til stofnunarinnar“

„Engin íslensk viðskiptadæmi“

„Ekkert áþreifanlegt framlag: Ekki einu sinni gagnasöfnun eða samhengisvitund“

Alvarlegar athugasemdir við vinnubrögð yfirstjórnar

Meðlimir Félags akademískra starfsmanna við Háskólann á Bifröst, eða FAB, komu saman á fundi í gær til að ræða málið. Þar greiddu sextán starfsmenn atkvæði með því að lýsa yfir vantrausti gegn Margréti Jónsdóttur Njarðvík rektor skólans, Guðrúnu Johnsen, deildarforseta viðskiptadeildar, og Kasper Simon Kristensen, rannsóknarstjóra skólans. Einn félagi var á móti. Samtals eru 27 félagsmenn í FAB samkvæmt upplýsingum fréttastofu.

Í yfirlýsingu frá félaginu er yfirstjórn skólans harðlega gagnrýnd fyrir að kæra þrjá starfsmenn til siðanefndar Bifrastar að eigin frumkvæði. Þar er Margréti gefið að sök að hafa notað gervigreindarforritið Claude til að meta réttmæti höfundarstöðu tveggja vísindagreina hjá akademískum starfsmönnum skólans.

Í yfirlýsingu FAB er sagt að rektor hafi tilkynnt siðanefnd skólans um málið og óskað eftir því að starfsmönnum yrði ekki gerð grein fyrir því að þeir væru til skoðunar sem stríði gegn stjórnsýslulögum. Jafnframt segir að rektor hafi gert erlendum háskólum viðvart að umræddir starfsmenn væru til skoðunar.

Rektor Bifrastar hefur ekki gefið kost á viðtali vegna málsins. 

Óvenjulegt mál og gervigreindin áskorun

Samkvæmt heimildum fréttastofu voru umræddar fræðigreinar unnar í samstarfi við erlenda meðhöfunda. Tveir starfsmenn skólans eru merktir meðhöfundar á einni greininni og annar starfsmaður á hinni greininni. 

Starfsmenn sem ræddu við fréttastofu en vildu ekki koma fram undir nafni telja að rektor hafi efast um réttmæti höfundarstöðu þar sem viðfangsefni greinanna var að mati yfirstjórnar ekki byggt á sérfræðisviði umræddra höfunda.

Málið er hjá stjórn Bifrastar en það er jafnframt komið á borð siðanefndar skólans sem skoðar málið sjálfstætt. Ársæll Harðarson, stjórnarformaður Bifrastar, reiknar með því að stjórn muni koma saman þann 29. janúar til að skoða málið. 

Ársæll segir í samtali við fréttastofu að um óvenjulegt mál sé að ræða. Það verði rætt og sé nú komið í lögbundið ferli þar sem það verður skoðað frá öllum hliðum. Það gæti tekið sinn tíma að skoða málið því málsaðilar hafa andmælarétt og allt þurfi að fara sinn rétta farveg. 

„Ég held bara að gervigreind sé ein af þeim áskorunum sem vísindasamfélagið er að eiga við. Við erum á fullkomnum byrjunarreit í þeim málum,“ segir hann, inntur eftir því hvort það sé réttmætt að hans mati að nýta gervigreind til að meta höfundastöðu starfsmanns. 

FAB segir að ekki sé hægt að vinna undir núverandi yfirstjórn vegna málsins og að búið sé að rjúfa allt faglegt traust með meintum vinnubrögðum rektors. Þess er krafist að stjórn skólans grípi til viðeigandi ráðstafana.

„Engin íslensk viðskiptadæmi“

Fréttastofa hefur tvö minnisblöð til rektors, sem eru merkt rannsóknarstjóra og deildarforseta viðskiptadeildar, undir höndum. Í minnisblöðunum kemur fram að þau séu skrifuð með aðstoð mállíkansins Claude þann 13. október á síðasta ári. Siðanefnd skólans og stjórn skólans hafa þessi minnisblöð til skoðunar.

Minnisblöðin bera þess augljóslega merki að vera unnin af gervigreind. Þau eru í svipuðu sniði og mállíkön eru vön að skila af sér að lokinni vinnu gagna. 

Í minnisblaði um fræðigreinina þar sem einn starfsmaður Bifrastar er skráður sem meðhöfundur segir að það sé „engin sýnileg þátttaka í aðferðarfræði“. Þá er ítrekað að engin gögn komi frá Íslandi og að greinin sé „utan hefðbundins sérfræðisviðs viðskiptadeilda“.

Meðal þess sem kemur fram í minnisblaðinu sem er meðal annars notað sem rökstuðningur fyrir því að umræddur starfsmaður eigi ekki að vera merktur meðhöfundur er eftirfarandi:

„Engin þakklæti til stofnunarinnar“

„Engin íslensk viðskiptadæmi“

„Virðist skýrt brjóta í bága við grein 4.5“

„Ekkert áþreifanlegt framlag: Ekki einu sinni gagnasöfnun eða samhengisvitund“

„Einkunn: 2/10“

Að loknum niðurstöðukafla, þar sem réttmæti höfundartitils er gefinn tveir í einkunn af tíu, kemur löng greining á ensku sem virðist alfarið vera unnin af gervigreind. 

Persónuupplýsingum verið dælt inn í gervigreind

Starfsfólk sem fréttastofa ræddi við sem vildi ekki koma fram undir nafni segir að persónugreinanlegum upplýsingum líkt og starfsferilskrám og öðrum gögnum hafi verið hlaðið upp í gervigreindina án samþykkis umræddra starfsmanna. 

Sömuleiðis hafi fræðigreinunum tveimur verið hlaðið upp án samþykkis sem geti talist brot gegn höfundarrétti. Greinarnar tvær hafi verið óbirtar á þeim tíma.

Siðanefnd sagði verklag sem rektor óskaði eftir ekki ganga

Í hinu minnisblaðinu þar sem er tekin fyrir fræðigrein þar sem tveir starfsmenn Bifrastar eru merktir sem meðhöfundar er það sama uppi á tengingnum. Það minnisblað er einnig skrifað með aðstoð mállíkansins Claude og er merkt rannsóknarstjóra og deildarforseta viðskiptadeildar.

Þar segir að þegar greinin sé skoðuð nákvæmlega, með hjálp gervigreindar, komi engar upplýsingar fram um að starfsmennirnir tveir hafi „lagt til verulegt vitsmunalegt framlag umfram gagnasöfnun.“

„Claude-mállíkanið telur einungis 30% líkur að meintir meðhöfundar uppfylli skilyrði greinar 4.5 í siðareglum um vísindastörf,“ segir ennfremur í minnisblaðinu.

Líkt og áður kom fram segir í yfirlýsingu FAB að rektor hafi biðlað til siðanefndar Bifrastar að láta ekki starfsmenn vita að málið væri til rannsóknar. Í bréfi til siðanefndar þar sem rektor óskar eftir því að málin tvö verði skoðuð segir: 

„Til að tryggja rannsóknarhagsmuni, fer undirrituð þess á leit við nefndina að gera rektor viðvart þegar nefndin hefur aflað sér allra gagna utan Háskólans á Bifröst er hún telur nauðsynleg til að leggja mat á neðangreind mál. Ef nefndin metur það svo, að áframhaldandi rannsóknar sé þörf, mun rektor gera hlutaðeigendum viðvart um aðild þeirra að þessu máli.“

Það bendir til þess að rektor hafi aðeins ætlað að upplýsa málsaðila um að mál þeirra væri til skoðunar ef siðanefnd teldi nauðsynlegt að skoða málið frekar. Í svari siðanefndar við þessari beiðni er ítrekað að nefndinni beri að vinna eftir meginreglum stjórnsýslulaga og því „gangi þetta verklag ekki upp“. Rektor er síðan gefið tækifæri á að láta starfsmennina þrjá vita áður en siðanefndin myndi gera það sjálf. Að lokum upplýsir rektor starfsmennina þrjá að þeir séu til skoðunar hjá siðanefnd þann 24. nóvember á síðasta ári, tólf dögum eftir að málið var komið á borð siðanefndar. 

Þverfagleg vinna sem erlendur meðhöfundur staðfestir

Í greinargerðum frá lögmönnum starfsmanna Bifrastar sem fréttastofa hefur fengið að skoða kemur fram að þau rök að umfjöllunarefni fræðigreinanna sé utan sérfræðisviðs umræddra starfsmanna sanni með engum hætti að þau ættu ekki að vera merkt sem meðhöfundar. 

Það hafi verið forsenda fyrir rannsóknunum að vinna þær með þverfaglegum framlögum, það er að segja að tvö mismunandi sérsvið myndu vinna saman. Einnig er bent á að starfsmaður í annarri greininni hafi áður unnið á umræddu fræðasviði.

Siðanefnd skólans og stjórn hefur einnig báðar greinargerðir til skoðunar. Í greinargerðunum er þess krafist að málunum verði vísað frá. Í greinargerðunum eru gerðar alvarlegar athugasemdir við það að ekki hafi verið  leitað skýringa hjá málsaðilum áður en málið var sent til rektors og í kjölfarið til siðanefndar. 

Þá er einnig ítrekað í greinargerðinni að málsaðilar í máli sem þessu eigi rétt samkvæmt stjórnsýslulögum á að vera tilkynnt um að mál þeirra sé til skoðunar. Því er jafnframt haldið fram að rektor hafi sett sig í samband við erlenda meðhöfunda starfsmanna Bifrastar og óskað eftir upplýsingum. Erlendur meðhöfundur hafi staðfest að framlag íslensks höfundar hafi verið mikilvægt og stór hluti af rannsókninni í öðru málinu.

Loðin röksemdafærsla og undirlægjuháttur spjallmennis

Að mati lögmannsins byggist allt málið frá grunni á niðurstöðu gervigreindarspjallmennis. Það sé harðlega gagnrýnisvert. Claude beri ósannfærandi rök fyrir sínu máli og röksemdafærlsan sé einstaklega loðin. Þá skorti gagnsæi í vinnu gervigreindarinnar. Lögmaðurinn heldur einnig fram að gervigreindin þjáist af ákveðnum undirlægjuhætti sem geri það líklegra að hún staðfesti það sem notandinn spyr hvort sé satt. Að þeirra mati virðast niðurstöður gervigreindarinnar ekki hafa verið yfirfarnar að neinu leyti.

Vinnubrögðin vinni bersýnilega gegn hróðri umræddra fræðimanna. Í greinargerðunum eru nefnd fjölmörg dæmi um það hvernig starfsmennirnir komu að vinnslu fræðigreinanna tveggja sem eru undir. Það er einnig gagnrýnt að því sé haldið fram að brotið sé gegn siðareglum opinberra háskóla. Að mati málsaðila eigi að miða við siðareglur Bifrastar.

Í merktum úrskurði frá siðanefnd háskóla í Serbíu, sem kom einnig að skrifum fræðigreinarinnar sem tveir starfsmenn Bifrastar eru merktir fyrir, kemur fram að málið hafi verið skoðað. Í úrskurðinum segir að að þeirra mati hafi ekki verið brotið gegn reglum um hvernig höfundar skuli merktir og að starfsmennirnir tveir hafi sinnt sinni vinnu.

Allir fimm höfundarnir hafi unnið saman að gerð fræðigreinarinnar og hafi lagt sitt að mörkum. Þar var málið metið út frá reglum sem gilda í Serbíu. Ekki hafi verið brotið gegn siðareglum að neinu leyti að þeirra mati.