Gervigreind í námi: 5 lykilskref fyrir öryggi nemenda Björgmundur Guðmundsson skrifar 22. júní 2025 07:01 Ímyndaðu þér skólastjóra á Selfossi sem þarf að velja á milli þess að verja fjármagni í nýtt gervigreindarkerfi fyrir stærðfræðikennslu eða að ráða nýjan kennara. Ábyrgðin er mikil, ákvarðanirnar eru erfiðar og áhrifin verða afdrifarík fyrir nemendur. Hér fellur endanleg ábyrgð alltaf á stjórnendur, árangur eða mistök, ávinningur eða skaði, allt lendir þetta á borði þeirra sem stýra sveitarfélögum og skólum. Það er lykilatriði að stjórnendur hafi skýran vegvísi í höndunum til að taka þessar ákvarðanir á réttum forsendum og tryggja að ekki sé tekin óásættanleg áhætta með velferð og framtíð nemenda. Þessi grein er hagnýt handbók um ábyrga forystu. Hér er fimm skrefa vegvísir sem getur hjálpað stjórnendum að taka forystu og innleiða gervigreind á öruggan og ábyrgan hátt. Skref 1: Áður en þú kaupir tæknina – skilgreindu markmiðið Áður en fyrsta hugbúnaðarleyfið er keypt verður að svara einni spurningu: Hvaða vandamál erum við að reyna að leysa? Er markmiðið að minnka brottfall nemenda í unglingadeildinni á Akureyri? Að bæta lesskilning á yngsta stigi? Eða að létta álagi af kennurum í ákveðnum fögum? Að kaupa tækni án skýrs markmiðs er uppskrift að sóun á fjármagni. Skilgreinið vandann fyrst og leitið síðan að tækni sem getur hjálpað til við að leysa hann. Skýr markmið gera það auðveldara að mæla árangur og velja réttu verkfærin. Skref 2: Þverfaglegt teymi – öryggisnet nemandans Innleiðing gervigreindar má aldrei vera einangrað verkefni tölvudeildarinnar. Stofna þarf þverfaglegt teymi innan sveitarfélagsins eða skólans sem ber sameiginlega ábyrgð. Í slíku teymi þurfa að vera: Kennari sem skilur raunveruleikann í kennslustofunni. Skólastjórnandi sem þekkir rekstrarumhverfið. Persónuverndarfulltrúi sem þekkir lögin. Tæknistjóri sem skilur tæknilegu áskoranirnar. Fulltrúi foreldra sem getur komið sjónarmiðum þeirra á framfæri. Foreldrar eru lykilaðilar þegar kemur að persónuvernd og öryggi barna þeirra. Reglulegir fundir þar sem foreldrar fá tækifæri til að ræða áhyggjur sínar og leggja fram spurningar eru nauðsynlegir til að byggja upp traust. Þetta teymi tryggir að litið sé á málið frá öllum hliðum og kemur í veg fyrir að mikilvæg atriði gleymist. Skref 3: Ekki treysta glærunum – gerðu ítarlegar kröfur Áður en samningur er undirritaður við hugbúnaðarfyrirtæki þarf innkaupateymið að fara í gegnum strangan gátlista. Látið aldrei söluræður eða glærukynningar duga. Krefjist skriflegra svara við eftirfarandi spurningum: Persónuvernd: Hvar eru gögnin hýst (innan EES)? Hver á gögnin? Hvernig er þeim eytt að samningstíma loknum? Hvernig tryggið þið að farið sé eftir GDPR? Hlutdrægni (Bias): Hvernig var gervigreindarlíkanið ykkar þjálfað? Hvernig prófið þið fyrir bjögun gagnvart minnihlutahópum eða nemendum með íslensku sem annað mál? Gagnsæi og áfrýjun: Er hægt að fá útskýringu á því hvernig reikniritið kemst að ákveðinni niðurstöðu (t.d. einkunn)? Er til formlegt ferli fyrir foreldra eða nemendur til að áfrýja ákvörðun sem tekin er af gervigreind? Öryggi: Hver er viðbragðsáætlun ykkar við gagnabrotum? Hvernig er aðgangsstýringu háttað? Eitt dæmi er þar sem skóli fjárfesti nýlega í gervigreindarkerfi og komst svo að því að gögn nemenda voru geymd utan Evrópu. Slíkt hefði mátt fyrirbyggja með ítarlegri kröfum áður en samið var. Skref 4: Kennarar þurfa meira en tækninámskeið Að rétta kennara spjaldtölvu og lykilorð er ekki innleiðing. Starfsfólk þarf þjálfun sem snýst ekki bara um að læra á takkana, heldur um að byggja upp menningu gagnrýninnar notkunar. Þjálfunin þarf að ná yfir: Að spyrja kerfið spurninga: Kennarar verða að vera þjálfaðir í að efast um niðurstöður gervigreindar og sannreyna upplýsingar. Að þekkja takmörkin: Hvað getur gervigreindin gert vel og hvar er hún óáreiðanleg? Tilkynningarferli: Hvert á kennari að leita ef hann telur að kerfið sé að gera mistök eða sýni af sér hlutdrægni? Skref 5: Endurmat og eftirlit – verkefni sem lýkur aldrei Gervigreind er ekki verkefni sem klárast. Koma þarf á fót ferli fyrir reglubundið endurmat: Árleg úttekt: Eru verkfærin enn að þjóna upprunalegum markmiðum? Hafa komið fram nýjar áhættur? Endurskoðun stefnu: Þarf að uppfæra reglur og verklag í ljósi nýrrar tækni eða reynslu? Mæling á árangri: Erum við að sjá mælanlegan ávinning (t.d. minna álag, betri námsárangur) sem réttlætir kostnaðinn? Fimm lykilatriði ábyrgrar innleiðingar: Stefna fyrst, tækni síðan: Skilgreinið markmið áður en tæki er valið. Samráð tryggir yfirsýn: Stofnið þverfaglegt teymi til að tryggja að litið sé á málið frá öllum hliðum. Skýrar kröfur til birgja: Gerið strangar kröfur um persónuvernd, öryggi og hlutleysi. Þjálfun í gagnrýnni notkun: Byggið upp menningu þar sem starfsfólk efast og sannreynir upplýsingar. Stöðugt eftirlit og endurmat: Fylgist með árangri og endurskoðið stefnuna reglulega. Innleiðing gervigreindar er stór ákvörðun sem krefst forystu, yfirsýnar og vandaðra vinnubragða. Með því að fylgja þessum fimm skrefum geta stjórnendur tryggt að þessi öfluga tækni verði til heilla fyrir skólastarfið en ekki til ama. Framtíð íslenskra skóla verður ekki ákveðin af tækni heldur af því hvernig við ákveðum að nota hana. Að lokum snýst innleiðing gervigreindar ekki aðeins um tækni, heldur um siðferðislega ábyrgð okkar gagnvart nemendum. Við erum að móta framtíð barna okkar og það er okkar að tryggja að þessi framtíð verði ekki aðeins tæknilega háþróuð heldur einnig réttlát og örugg. Stjórnendur í íslenskum skólum og sveitarfélögum standa nú frammi fyrir miklu tækifæri. En til þess að nýta þetta tækifæri á öruggan hátt þurfa þeir að vera undirbúnir. Ekki bíða eftir að vandamálin komi upp; setjið þessa áætlun af stað í dag og tryggðu að innleiðing gervigreindar verði til heilla, ekki til skaða. Í dag geta nemendur látið gervigreindina gera verkefnin fyrir sig. Við þurfum að gefa skólunum aðgang að gervigreind sem fær nemendurna til að læra. Í næstu grein mun ég skrifa ítarlegar um innleiðingu á næstu 5 árum. Björgmundur Guðmundsson, ráðgjafi í nýsköpun og gervigreind. Viltu birta grein á Vísi? Sendu okkur póst. Senda grein Björgmundur Örn Guðmundsson Mest lesið Bakslag í skoðanafrelsi? Kári Allansson Skoðun Er popúlismi kenning um siðferði? Einar Gísli Gunnarsson Skoðun Þegar skoðanir drepa samtalið Þórdís Hólm Filipsdóttir Skoðun Útgerðin skuldar okkur skýringar Guðmundur Helgi Þórarinsson Skoðun Umferðaröryggi barna í Kópavogi Eydís Inga Valsdóttir Skoðun Þreytt og drullug börn Guðmundur Finnbogason Skoðun Ekki gera ekki neitt Gunnhildur Sveinsdóttir Skoðun Margföldun þjóðarverðmæta: Meira virði úr sömu orku Árni Sigurðsson Skoðun Snorri Másson er ekki vandinn – hann er viðvörun Helen Ólafsdóttir Skoðun 90 milljarða vannýtt útflutningstækifæri Vilhjálmur Hilmarsson Skoðun Skoðun Skoðun Er popúlismi kenning um siðferði? Einar Gísli Gunnarsson skrifar Skoðun Umferðaröryggi barna í Kópavogi Eydís Inga Valsdóttir skrifar Skoðun Ákalli um samræmingu í eftirliti svarað Lilja Björk Guðmundsdóttir skrifar Skoðun Virðing og framkoma í rökræðum um málefni minnihlutahópa Esjar Smári Blær Gunnarsson skrifar Skoðun Ekki gera ekki neitt Gunnhildur Sveinsdóttir skrifar Skoðun Ekkert heilbrigðiseftirlit á Íslandi? Pétur Halldórsson skrifar Skoðun Útgerðin skuldar okkur skýringar Guðmundur Helgi Þórarinsson skrifar Skoðun Þreytt og drullug börn Guðmundur Finnbogason skrifar Skoðun Betri kvikmyndaskóli Þór Pálsson skrifar Skoðun Fyrirhugað böl við Bústaðaveg og Blesugróf Sveinn Þórhallsson skrifar Skoðun Fjölbreytt námsmat Steinn Jóhannsson skrifar Skoðun Að þvælast fyrir atvinnurekstri - á þeim forsendum sem henta Ólafur Stephensen skrifar Skoðun Margföldun þjóðarverðmæta: Meira virði úr sömu orku Árni Sigurðsson skrifar Skoðun Ábyrg umfjöllun um sjálfsvíg – erum við öll ritstjórar? Guðrún Jóna Guðlaugsdóttir,Tómas Kristjánsson skrifar Skoðun Þegar skoðanir drepa samtalið Þórdís Hólm Filipsdóttir skrifar Skoðun Leysum heimatilbúinn vanda á húsnæðismarkaði Jóhanna Klara Stefánsdóttir skrifar Skoðun Við þurfum að tala saman Páll Rafnar Þorsteinsson skrifar Skoðun Veðmál í fótbolta – aðgerðir áður en skaðinn verður Birgir Jóhannsson skrifar Skoðun Hataðu mig af því að ég er í Viðreisn, ekki af því að ég er hommi Oddgeir Georgsson skrifar Skoðun Símafrí á skólatíma Guðmundur Ingi Kristinsson skrifar Skoðun Ömurlegur fyrri hálfleikur – en er enn von? Sigvaldi Einarsson skrifar Skoðun Vitund, virðing og von: Jafningjastuðningur í brennidepli Nína Eck skrifar Skoðun Hingað og ekki lengra – Um þögnina sem styður ofbeldi Halldóra Sigríður Sveinsdóttir skrifar Skoðun Ein saga af sextíu þúsund Halldór Ísak Ólafsson skrifar Skoðun Að láta mata sig er svo þægilegt Björn Ólafsson skrifar Skoðun Nýjar reglur um réttindi fólks í ráðningarsambandi Ingvar Sverrisson skrifar Skoðun Ofbeldi í skólum: Áskoranir og leiðir til lausna Soffía Ámundadóttir skrifar Skoðun Bakslag í skoðanafrelsi? Kári Allansson skrifar Skoðun Eplin í andlitshæð Bryndís Haraldsdóttir skrifar Skoðun Bataskólinn – fyrir þig? Guðný Guðmundsdóttir skrifar Sjá meira
Ímyndaðu þér skólastjóra á Selfossi sem þarf að velja á milli þess að verja fjármagni í nýtt gervigreindarkerfi fyrir stærðfræðikennslu eða að ráða nýjan kennara. Ábyrgðin er mikil, ákvarðanirnar eru erfiðar og áhrifin verða afdrifarík fyrir nemendur. Hér fellur endanleg ábyrgð alltaf á stjórnendur, árangur eða mistök, ávinningur eða skaði, allt lendir þetta á borði þeirra sem stýra sveitarfélögum og skólum. Það er lykilatriði að stjórnendur hafi skýran vegvísi í höndunum til að taka þessar ákvarðanir á réttum forsendum og tryggja að ekki sé tekin óásættanleg áhætta með velferð og framtíð nemenda. Þessi grein er hagnýt handbók um ábyrga forystu. Hér er fimm skrefa vegvísir sem getur hjálpað stjórnendum að taka forystu og innleiða gervigreind á öruggan og ábyrgan hátt. Skref 1: Áður en þú kaupir tæknina – skilgreindu markmiðið Áður en fyrsta hugbúnaðarleyfið er keypt verður að svara einni spurningu: Hvaða vandamál erum við að reyna að leysa? Er markmiðið að minnka brottfall nemenda í unglingadeildinni á Akureyri? Að bæta lesskilning á yngsta stigi? Eða að létta álagi af kennurum í ákveðnum fögum? Að kaupa tækni án skýrs markmiðs er uppskrift að sóun á fjármagni. Skilgreinið vandann fyrst og leitið síðan að tækni sem getur hjálpað til við að leysa hann. Skýr markmið gera það auðveldara að mæla árangur og velja réttu verkfærin. Skref 2: Þverfaglegt teymi – öryggisnet nemandans Innleiðing gervigreindar má aldrei vera einangrað verkefni tölvudeildarinnar. Stofna þarf þverfaglegt teymi innan sveitarfélagsins eða skólans sem ber sameiginlega ábyrgð. Í slíku teymi þurfa að vera: Kennari sem skilur raunveruleikann í kennslustofunni. Skólastjórnandi sem þekkir rekstrarumhverfið. Persónuverndarfulltrúi sem þekkir lögin. Tæknistjóri sem skilur tæknilegu áskoranirnar. Fulltrúi foreldra sem getur komið sjónarmiðum þeirra á framfæri. Foreldrar eru lykilaðilar þegar kemur að persónuvernd og öryggi barna þeirra. Reglulegir fundir þar sem foreldrar fá tækifæri til að ræða áhyggjur sínar og leggja fram spurningar eru nauðsynlegir til að byggja upp traust. Þetta teymi tryggir að litið sé á málið frá öllum hliðum og kemur í veg fyrir að mikilvæg atriði gleymist. Skref 3: Ekki treysta glærunum – gerðu ítarlegar kröfur Áður en samningur er undirritaður við hugbúnaðarfyrirtæki þarf innkaupateymið að fara í gegnum strangan gátlista. Látið aldrei söluræður eða glærukynningar duga. Krefjist skriflegra svara við eftirfarandi spurningum: Persónuvernd: Hvar eru gögnin hýst (innan EES)? Hver á gögnin? Hvernig er þeim eytt að samningstíma loknum? Hvernig tryggið þið að farið sé eftir GDPR? Hlutdrægni (Bias): Hvernig var gervigreindarlíkanið ykkar þjálfað? Hvernig prófið þið fyrir bjögun gagnvart minnihlutahópum eða nemendum með íslensku sem annað mál? Gagnsæi og áfrýjun: Er hægt að fá útskýringu á því hvernig reikniritið kemst að ákveðinni niðurstöðu (t.d. einkunn)? Er til formlegt ferli fyrir foreldra eða nemendur til að áfrýja ákvörðun sem tekin er af gervigreind? Öryggi: Hver er viðbragðsáætlun ykkar við gagnabrotum? Hvernig er aðgangsstýringu háttað? Eitt dæmi er þar sem skóli fjárfesti nýlega í gervigreindarkerfi og komst svo að því að gögn nemenda voru geymd utan Evrópu. Slíkt hefði mátt fyrirbyggja með ítarlegri kröfum áður en samið var. Skref 4: Kennarar þurfa meira en tækninámskeið Að rétta kennara spjaldtölvu og lykilorð er ekki innleiðing. Starfsfólk þarf þjálfun sem snýst ekki bara um að læra á takkana, heldur um að byggja upp menningu gagnrýninnar notkunar. Þjálfunin þarf að ná yfir: Að spyrja kerfið spurninga: Kennarar verða að vera þjálfaðir í að efast um niðurstöður gervigreindar og sannreyna upplýsingar. Að þekkja takmörkin: Hvað getur gervigreindin gert vel og hvar er hún óáreiðanleg? Tilkynningarferli: Hvert á kennari að leita ef hann telur að kerfið sé að gera mistök eða sýni af sér hlutdrægni? Skref 5: Endurmat og eftirlit – verkefni sem lýkur aldrei Gervigreind er ekki verkefni sem klárast. Koma þarf á fót ferli fyrir reglubundið endurmat: Árleg úttekt: Eru verkfærin enn að þjóna upprunalegum markmiðum? Hafa komið fram nýjar áhættur? Endurskoðun stefnu: Þarf að uppfæra reglur og verklag í ljósi nýrrar tækni eða reynslu? Mæling á árangri: Erum við að sjá mælanlegan ávinning (t.d. minna álag, betri námsárangur) sem réttlætir kostnaðinn? Fimm lykilatriði ábyrgrar innleiðingar: Stefna fyrst, tækni síðan: Skilgreinið markmið áður en tæki er valið. Samráð tryggir yfirsýn: Stofnið þverfaglegt teymi til að tryggja að litið sé á málið frá öllum hliðum. Skýrar kröfur til birgja: Gerið strangar kröfur um persónuvernd, öryggi og hlutleysi. Þjálfun í gagnrýnni notkun: Byggið upp menningu þar sem starfsfólk efast og sannreynir upplýsingar. Stöðugt eftirlit og endurmat: Fylgist með árangri og endurskoðið stefnuna reglulega. Innleiðing gervigreindar er stór ákvörðun sem krefst forystu, yfirsýnar og vandaðra vinnubragða. Með því að fylgja þessum fimm skrefum geta stjórnendur tryggt að þessi öfluga tækni verði til heilla fyrir skólastarfið en ekki til ama. Framtíð íslenskra skóla verður ekki ákveðin af tækni heldur af því hvernig við ákveðum að nota hana. Að lokum snýst innleiðing gervigreindar ekki aðeins um tækni, heldur um siðferðislega ábyrgð okkar gagnvart nemendum. Við erum að móta framtíð barna okkar og það er okkar að tryggja að þessi framtíð verði ekki aðeins tæknilega háþróuð heldur einnig réttlát og örugg. Stjórnendur í íslenskum skólum og sveitarfélögum standa nú frammi fyrir miklu tækifæri. En til þess að nýta þetta tækifæri á öruggan hátt þurfa þeir að vera undirbúnir. Ekki bíða eftir að vandamálin komi upp; setjið þessa áætlun af stað í dag og tryggðu að innleiðing gervigreindar verði til heilla, ekki til skaða. Í dag geta nemendur látið gervigreindina gera verkefnin fyrir sig. Við þurfum að gefa skólunum aðgang að gervigreind sem fær nemendurna til að læra. Í næstu grein mun ég skrifa ítarlegar um innleiðingu á næstu 5 árum. Björgmundur Guðmundsson, ráðgjafi í nýsköpun og gervigreind.
Skoðun Virðing og framkoma í rökræðum um málefni minnihlutahópa Esjar Smári Blær Gunnarsson skrifar
Skoðun Ábyrg umfjöllun um sjálfsvíg – erum við öll ritstjórar? Guðrún Jóna Guðlaugsdóttir,Tómas Kristjánsson skrifar