Styttist í háþróuð gervigreindarsvindl á íslensku Vésteinn Örn Pétursson skrifar 28. júlí 2025 22:08 Hafsteinn segir stutt í að gervigreindarsvindlin fari að láta á sér kræla fyrir alvöru. Vísir Dósent í tölvunarfræði segir ekki langt í að gervigreindartækni sem hermir eftir röddum fólks verði orðin svo góð að hægt verði að nota hana að blekkja Íslendinga, bæði á netinu og símleiðis. Stjórnvöld þurfi að bregðast við með einhverjum hætti. Í kvöldfréttum okkar í gær sögðum við frá myndbandi sem birtist á samfélagsmiðlum, þar sem þekktir íslendingar eru, með hjálp gervigreindar, látnir líta út fyrir að segja eitthvað sem þeir hafa aldrei sagt. Hafsteinn Einarsson, dósent í tölvunarfræði við Háskóla Íslands, segir tæknina aðeins eiga eftir að verða betri, þegar kemur að beitingu íslenskunnar. „Og erfiðara að sjá hvað er raunverulegt, og hvað ekki. Þannig að þetta er spurning um hvernig við eigum að geta treyst upplýsingum á þessari upplýsinga og gervigreindaröld.“ Peningaplokk með hjálp gervigreindar Tæknin sé orðin mjög fullkomin víða, líkt og nýlegt myndband frá framleiðendum þáttanna South Park, sem sýnir Donald Trump stríplast um í eyðimörk, sýnir fram á. Hafsteinn segir margar hættur geta leynst í tækniframförum þegar kemur að gervigreind sem hermir eftir röddum fólks. „Til dæmis gæti verið að þú fáir símtal sem hljómar eins og það sé að koma frá dóttur, foreldri, barni. Hljómar nákvæmlega eins og viðkomandi sé bara í gíslingu, og þú þarft að millifæra einhverja peninga til þess að bjarga viðkomandi.“ Þarf fólk að koma sér upp leyniorði? Fólk þurfi að búa sig sig undir að gervigreind verði í auknum mæli notuð til að blekkja það. „Þurfum við öll að vera með eitthvað leyniorð sem við deilum okkar á milli, þannig að þegar það er hringt og eitthvað hljómar alvarlega þá þurfum við að vera tilbúin að segja þetta leyniorð? Ég veit það ekki.“ Stjórnvöld þurfi að bregðast við, en í Danmörku sé löggjöf í pípunum sem eigi að höfundarréttarverja rödd og andlit einstaklinga. Háþróuð gervigreindarsvindl muni líklega koma fyrst fram á stærri Norðurlöndunum en hér, þótt ómögulegt sé að segja hversu langt sé þangað til. „Þetta er kannski líka bara tímaspursmál um að einhver taki sig til og leggi áherslu á íslenskuna, sem er með reikniaflið og peningana til þess að gera þetta almennilega.“ Gervigreind Tækni Netöryggi Íslensk tunga Mest lesið Leggur viðskiptaþvinganir á rússneska olíurisa Erlent Kröfur kvennaárs komnar í innheimtu og gjalddaginn fallinn Innlent Segir tilvalin íbúðasvæði opnast með Sundabraut Innlent Næstum öllum sagt upp hjá dótturfélagi Play Innlent Niðurrif hafið á gamla Morgunblaðshúsinu Innlent Hafa drepið 34 í árásum á meinta smyglara Erlent Klórar sér í kollinum yfir kvennaverkfallinu Innlent „Ég skoðanakúgaði sjálfa mig í þágu friðar og þæginda félagslega“ Innlent Klukkustunda bið eftir dekkjaskiptum í vetrarparadísinni Veður Skora á ráðherra og segir skjaldborg slegið um vændiskaupendur Innlent Fleiri fréttir Kröfur kvennaárs komnar í innheimtu og gjalddaginn fallinn Segir tilvalin íbúðasvæði opnast með Sundabraut Niðurrif hafið á gamla Morgunblaðshúsinu Næstum öllum sagt upp hjá dótturfélagi Play „Ég skoðanakúgaði sjálfa mig í þágu friðar og þæginda félagslega“ Burðardýr fengu þungan dóm fyrir kókaínsmygl Skora á ráðherra og segir skjaldborg slegið um vændiskaupendur Fresta fundi til tíu í fyrramálið Stórskemmtilegur innhringjandi og óhefðbundin útför Viðgerð muni taka einhverja mánuði „Afar ólíklegt“ að Nadine taki slaginn í borginni fyrir Miðflokkinn Grunuð um íkveikju í Nettó, Nytjamarkaðnum og eigin húsi Segir borgina refsa foreldrum til að mæta rekstrarvanda Aflýsa verkfalli öðru sinni Umferðarslys á Fagradal og veginum lokað Segir sorglega illa hafa verið haldið á hagsmunum flugsins Umferðarteppa í Ártúnsbrekku vegna aftanákeyrslu Bein útsending: Verndum vatnið Víða vetrarfærð, Fjarðarheiði lokuð og björgunarsveitir aðstoða fólk í föstum bílum Kettlingur í hættu vegna sprautunála og haldið í gíslingu af nágranna Kona í fjölbýlishúsinu talin brennuvargur en gengur laus „Vonbrigði hvað kom lítið út úr fundinum í gær“ Fangavörður rekinn fyrir að stela af fanga Óvissa á Grundartanga og flugumferðarstjórar funda Hafsteinn Dan tekur við formennsku í refsiréttarnefnd Klórar sér í kollinum yfir kvennaverkfallinu Hálfsdagslokun leikskóla skyndilega orðin að heilsdagslokun „Alvarlegt áfall á Grundartanga” sem beri að bregðast við hratt Ný samnorræn og baltnesk gervigreindarmiðstöð opnuð í dag „Það getur einhver verið að tæla barnið þitt fyrir framan þig“ Sjá meira
Í kvöldfréttum okkar í gær sögðum við frá myndbandi sem birtist á samfélagsmiðlum, þar sem þekktir íslendingar eru, með hjálp gervigreindar, látnir líta út fyrir að segja eitthvað sem þeir hafa aldrei sagt. Hafsteinn Einarsson, dósent í tölvunarfræði við Háskóla Íslands, segir tæknina aðeins eiga eftir að verða betri, þegar kemur að beitingu íslenskunnar. „Og erfiðara að sjá hvað er raunverulegt, og hvað ekki. Þannig að þetta er spurning um hvernig við eigum að geta treyst upplýsingum á þessari upplýsinga og gervigreindaröld.“ Peningaplokk með hjálp gervigreindar Tæknin sé orðin mjög fullkomin víða, líkt og nýlegt myndband frá framleiðendum þáttanna South Park, sem sýnir Donald Trump stríplast um í eyðimörk, sýnir fram á. Hafsteinn segir margar hættur geta leynst í tækniframförum þegar kemur að gervigreind sem hermir eftir röddum fólks. „Til dæmis gæti verið að þú fáir símtal sem hljómar eins og það sé að koma frá dóttur, foreldri, barni. Hljómar nákvæmlega eins og viðkomandi sé bara í gíslingu, og þú þarft að millifæra einhverja peninga til þess að bjarga viðkomandi.“ Þarf fólk að koma sér upp leyniorði? Fólk þurfi að búa sig sig undir að gervigreind verði í auknum mæli notuð til að blekkja það. „Þurfum við öll að vera með eitthvað leyniorð sem við deilum okkar á milli, þannig að þegar það er hringt og eitthvað hljómar alvarlega þá þurfum við að vera tilbúin að segja þetta leyniorð? Ég veit það ekki.“ Stjórnvöld þurfi að bregðast við, en í Danmörku sé löggjöf í pípunum sem eigi að höfundarréttarverja rödd og andlit einstaklinga. Háþróuð gervigreindarsvindl muni líklega koma fyrst fram á stærri Norðurlöndunum en hér, þótt ómögulegt sé að segja hversu langt sé þangað til. „Þetta er kannski líka bara tímaspursmál um að einhver taki sig til og leggi áherslu á íslenskuna, sem er með reikniaflið og peningana til þess að gera þetta almennilega.“
Gervigreind Tækni Netöryggi Íslensk tunga Mest lesið Leggur viðskiptaþvinganir á rússneska olíurisa Erlent Kröfur kvennaárs komnar í innheimtu og gjalddaginn fallinn Innlent Segir tilvalin íbúðasvæði opnast með Sundabraut Innlent Næstum öllum sagt upp hjá dótturfélagi Play Innlent Niðurrif hafið á gamla Morgunblaðshúsinu Innlent Hafa drepið 34 í árásum á meinta smyglara Erlent Klórar sér í kollinum yfir kvennaverkfallinu Innlent „Ég skoðanakúgaði sjálfa mig í þágu friðar og þæginda félagslega“ Innlent Klukkustunda bið eftir dekkjaskiptum í vetrarparadísinni Veður Skora á ráðherra og segir skjaldborg slegið um vændiskaupendur Innlent Fleiri fréttir Kröfur kvennaárs komnar í innheimtu og gjalddaginn fallinn Segir tilvalin íbúðasvæði opnast með Sundabraut Niðurrif hafið á gamla Morgunblaðshúsinu Næstum öllum sagt upp hjá dótturfélagi Play „Ég skoðanakúgaði sjálfa mig í þágu friðar og þæginda félagslega“ Burðardýr fengu þungan dóm fyrir kókaínsmygl Skora á ráðherra og segir skjaldborg slegið um vændiskaupendur Fresta fundi til tíu í fyrramálið Stórskemmtilegur innhringjandi og óhefðbundin útför Viðgerð muni taka einhverja mánuði „Afar ólíklegt“ að Nadine taki slaginn í borginni fyrir Miðflokkinn Grunuð um íkveikju í Nettó, Nytjamarkaðnum og eigin húsi Segir borgina refsa foreldrum til að mæta rekstrarvanda Aflýsa verkfalli öðru sinni Umferðarslys á Fagradal og veginum lokað Segir sorglega illa hafa verið haldið á hagsmunum flugsins Umferðarteppa í Ártúnsbrekku vegna aftanákeyrslu Bein útsending: Verndum vatnið Víða vetrarfærð, Fjarðarheiði lokuð og björgunarsveitir aðstoða fólk í föstum bílum Kettlingur í hættu vegna sprautunála og haldið í gíslingu af nágranna Kona í fjölbýlishúsinu talin brennuvargur en gengur laus „Vonbrigði hvað kom lítið út úr fundinum í gær“ Fangavörður rekinn fyrir að stela af fanga Óvissa á Grundartanga og flugumferðarstjórar funda Hafsteinn Dan tekur við formennsku í refsiréttarnefnd Klórar sér í kollinum yfir kvennaverkfallinu Hálfsdagslokun leikskóla skyndilega orðin að heilsdagslokun „Alvarlegt áfall á Grundartanga” sem beri að bregðast við hratt Ný samnorræn og baltnesk gervigreindarmiðstöð opnuð í dag „Það getur einhver verið að tæla barnið þitt fyrir framan þig“ Sjá meira