Hemmi Gunn vekur þingheim til vitundar um gervigreind Jakob Bjarnar skrifar 23. janúar 2024 14:29 Björn Leví segir ekki eftir neinu að bíða og hefur sent þingmönnum frumvarp um gervigreind. Það má segja að Hemmi Gunn hafi vakið landsmenn illyrmislega upp af rotinu. Vísir/Vilhelm Björn Leví Gunnarsson Pírati boðar frumvarp um gervigreind og hefur sent þingmönnum drög. Hann segir að bregðast verið við strax. Þetta kom fram í máli Björns Levís í dagskráliðnum störf þingsins nú fyrir stundu. Hann segir mörg viðfangsefnin en við verðum að gera fleira en eitt í einu. „Eitt verkefnið birtist landsmönnum í áramótaskaupi síðasta árs þegar Hemmi Gunn birtist á skjánum. Gervigreindartæknin er svo sannarlega komin til að vera. Í grein á Vísi kallar Pétur Eggerz Pétursson hjá Overtune, sem er maðurinn á bak við Hemma Gunn-atriðið í áramótaskaupinu, eftir því að löggjafinn setji upp hanskana því framtíðin sé mætt,“ sagði Björn Leví. Þingmaðurinn hélt þá áfram og sagði að framtíðinni væri slétt sama um hraðatakmarkanir stjórnmálanna sem drolla með öll verkefni árum saman, henda þeim milli nefnda og starfshópa fram og til baka á meðan hlutirnir eru bara að gerast. „Í Bretlandi birtist fölsuð hljóðupptaka af formanni Verkamannaflokksins þar sem hann heyrist skammast út í starfsfólk flokksins annars vegar og hins vegar gagnrýna Liverpool-borg — hvort tveggja skáldað. Hinum megin Atlantshafsins heyrist rödd Biden hvetja kjósendur í New Hampshire til að taka ekki þátt í forvali Demókrataflokksins — skáldað. Tækifærin í tækninni eru gríðarlega spennandi en hætturnar eru það líka,“ sagði Björn Leví. Þingmaðurinn hefur nú brugðist við kallinu og sent frumvarp um gervigreindarfólk og sjálfvirka gagnagreiningu í meðflutningsferli til allra þingmanna með von um jákvæð viðbrögð. „Það þarf nefnilega bara að bregðast við. Við eigum ekki að bíða eftir ESB eða starfshópum og nefndum. Við þurfum að gera það skýrt að endurgerð af einstaklingi sem má ætla að sé raunveruleg, hvort sem um er að ræða mynd, myndband, hljóðupptöku eða annað efni, sé óheimil án samþykkis viðkomandi einstaklings eða afkomenda hans ef viðkomandi er látinn. Við þurfum að bregðast við þessu strax,“ segir Björn Leví. Frumvarp Björns Levís um gervigreind 154. löggjafarþing 2023–2024. Þingskjal 640 — 446. mál. Frumvarp til laga um breytingu á höfundalögum, nr. 73/1972 (gerfigreindarfólk og sjálfvirk gagnagreining). Flm.: Björn Leví Gunnarsson, … 1. gr. Við 2. gr. bætist ný málsgrein svohljóðandi: Endurgerð af einstaklingi sem ætla má að sé raunveruleg, hvort sem um er að ræða mynd, myndband, hljóðupptöku eða annað efni, er óheimil án samþykkis viðkomandi einstaklings eða afkomenda hans ef viðkomandi er látinn. 2. gr. Á eftir 10. gr. a. bætist ný grein, 10. gr. b. svohljóðandi: Auðkenna skal allar endurgerðir sem falla undir 6. mgr. 2. gr. með þeirri aðferð sem var notuð til þess að búa til endurgerðina. Með endurgerð sem fellur undir 6. mgr. 2. gr. skal tilvísun í upprunalegt verk ávallt fylgja birtingu á endurgerðinni. 3. gr. Á eftir 11. gr. a laganna kemur ný grein, 11. gr. b, svohljóðandi: Heimilt er án endurgjalds að gera rafræn eintök af verki sem aflað hefur verið með lögmætum hætti, enda sé tilgangur slíkra eintaka að útbúa sjálfvirkar gagnagreiningar og vinna málfræðilegar og tölfræðilegar upplýsingar. Óheimilt er að nota slík eintök í öðrum tilgangi. 4. gr. Lög þessi öðlast þegar gildi. Greinargerð. Frumvarpið var lagt fram á 149. löggjafarþingi (446. mál) en gekk ekki til nefndar. Málið er nú endurflutt og bætt er við grein um gerfigreindarfólk. Mjög mikil þróun hefur orðið í framleiðslu alls konar efnis á undanförnum mánuðum með tilkomu öflugra stafrænna tauganeta. Tauganet sem búa til texta, hljóð og myndir sem mjög erfitt er að greina hvort séu framleidd af manneskju eða tölvu. Svokallaðar djúpfalsanir (e. deep fake) eru þegar notaðar í pólitískum tilgangi. Það er því mjög mikilvægt að það sé skýrt í lögum að slíkar endurgerðir séu ekki heimilar nema með leyfis þess sem endurgerðin er af. Einnig er afarnauðsynlegt að allar endurgerðir verði sérstaklega merktar sem slíkar, þannig að enginn vafi leiki á því að um endurgerð sé að ræða. Það er í rauninni líklegt að það þurfi að merkja allt efni sem gæti fræðilega verið endurgerð. Þannig að ef mynd, myndband eða hljóð af einhverjum er ekki merkt þá ætti fólk að álykta sem svo að um einhvers konar endurgerð sé að ræða. Ekki er gengið svo langt í þessu frumvarpi, en það er ekki ólíklegt að slík merking gerist að sjálfu sér. Að til dæmis stjórnmálafólk merki sérstaklega þau myndbönd sem birtast af þeim sem upprunavottuð og raunveruleg. Athugasemdir við einstakar greinar frumvarpsins. um 1. gr. Í 2. gr. höfundaréttarlaganna er einkaréttur höfunda skilgreint. Í 1. gr. þessa frumvarps er áréttað að hvers konar endurgerð af einstaklingi sem ætla má að sé raunveruleg sé óheimil án samþykkis viðkomandi einstaklings. Þessi árétting er vegna þróunar í gerfigreind sem getur á tiltölulega einfaldan og aðgengilegan hátt gert fólki kleift að búa til myndir, myndbönd, hljóð af hvaða einstaklingi sem er án þess að hægt sé að gera greinarmun á því hvort um raunverulega mynd, myndband eða hljóðupptöku sé að ræða eða einhvers konar endurgerð. um 2. gr. Með 2. gr. frumvarpsins er kveðið á um að allar endurgerðir sem falla undir þá skilgreiningu sem sett er í 1. gr. frumvarpsins séu auðkenndar sem endurgerðir og ef um breytingar á upprunalegu verki er að ræða þá skuli birtingu á endurgerð fylgja tilvísun í upprunalegt verk. Greininni er ætlað að ná bæði yfir verk sem gerfigreind getur búið til, sem eru án upprunaverka, og breytinga á upprunalegum verkum, svo sem ljósmyndum. Sem dæmi má nefna tískuljósmyndir sem oft er lögð mikil vinna í að breyta með myndvinnslu eða kvikmyndir með tölvugerðum teikningum. um 3. gr. Framboð rafrænna gagna, þar á meðal vísindagreina, fer ört vaxandi. Áætlað er að fleiri en 3 milljónir ritrýndra fræðigreina séu nú birtar á hverju ári1 . Fyrir vikið er orðið erfitt fyrir rannsakendur að komast sjálfir yfir allt efni á tilteknu rannsóknarsviði. Þess í stað notast þeir í auknum mæli við sjálfvirka gagnagreiningu tölva (e. data mining eða data analysis) til að sækja gagnlegar upplýsingar úr stórum gagnasöfnum. Sjálfvirk gagnagreining gerir rannsakendum einnig kleift að finna ýmiss konar fylgni og mynstur sem ella væri erfitt að greina. Sjálfvirk gagnagreining krefst þess almennt að gerð séu afrit af þeim gögnum sem á að skoða. Torsótt væri fyrir rannsakendur að afla í hvert sinn samþykkis fyrir því frá öllum rétthöfum efnis í gagnasafni sem geta hæglega hlaupið á þúsundum. Því er aðkallandi að veita undanþágu frá einkarétti höfunda til eintakagerðar vegna sjálfvirkrar gagnagreiningar í þágu tækniþróunar og vísindarannsókna. Miklar framfarir hafa verið á undanförnum árum í máltækni. Ein helsta hindrun sem máltækni stendur frammi fyrir er takmarkaður aðgangur að efni fyrir tölvur til úrvinnslu. Þetta frumvarp leggur til að hægt verði að gera rafræn eintök af verkum sem aflað hefur verið með lögmætum hætti til þess að vinna úr þeim málfræðilegar og tölfræðilegar upplýsingar. Alþingi Píratar Gervigreind Mest lesið Prestur í Dalvík sver af sér kjaftasögur um ókristilega hegðun Innlent Kurr innan Samfylkingarinnar vegna brottvísunar ungbarna Innlent Segja stutt í samkomulag en sprengjum rignir enn Erlent „Af hverju ertu svona í framan?“ Innlent Eldur í þvottahúsi á Granda Innlent Prestur og prófastur bíður spenntur eftir Hrútaskránni Innlent Var að streyma á TikTok þegar hann féll til jarðar og lést Erlent Skoðanabróðir Orbans og Fico vinnur kosningar í Tékklandi Erlent Fjöldi án rafmagns vegna vonskuveðurs í Noregi Erlent Alelda bíll á Reykjanesbraut Innlent Fleiri fréttir Prestur í Dalvík sver af sér kjaftasögur um ókristilega hegðun Eldur í þvottahúsi á Granda Prestur og prófastur bíður spenntur eftir Hrútaskránni Kurr innan Samfylkingarinnar vegna brottvísunar ungbarna Fokdýrar flugferðir, ögurstund á Gasa og óvenjulegt innbrot Boða íbúafundi vegna mögulegrar sameiningar sveitarfélaganna Alelda bíll á Reykjanesbraut Framkvæmdirnar komi eftir ákall frá íbúum Safnaði í bálköst innandyra en kennir stundarbrjálæði um íkveikjuna Skrítin afstaða BSRB og ASÍ Tekist á um leikskólamál og árásir á Gasa Umfangsmikil flugslysaæfing á Reykjavíkurflugvelli Tætir í sig leikskólaplan borgarinnar: Segir Reykjavík taka skref aftur á bak Rannsaka mögulega stunguárás Göngu- og hjólabrýr yfir Elliðaár opnast „Af hverju ertu svona í framan?“ „Algjörlega alveg út í hött“ Umferðin færist inn á íbúðagötur Andar sem eru ekki hér en voru í myndinni þeir sveima og fylgjast með Dugar ekki lengur að dorga og nú þurfi að kasta út neti Vann á öllum deildum leikskólans Segja Rússa heyja stríð við Vesturlönd og síðustu ævidagarnir á Grund „Kópavogsmódelið er ekkert annað en þjónustuskerðing“ Nýsestur á skrifstofunni þegar hann fékk bíl í flasið Starfsmaður á Brákarborg grunaður um kynferðisbrot Fresta framkvæmdum vegna veðurs Sýnist komið að seinni hluta í eldsumbrotum í Sundhnúksgígaröðinni Grunaður um að hafa brotið á fleiri en tíu börnum Varaformannsslagur í Miðflokknum: Öll vinir og „peppuð“ fyrir landsþingi Stöðfirðingum enn ráðlagt að sjóða vatn vegna mengunar Sjá meira
Þetta kom fram í máli Björns Levís í dagskráliðnum störf þingsins nú fyrir stundu. Hann segir mörg viðfangsefnin en við verðum að gera fleira en eitt í einu. „Eitt verkefnið birtist landsmönnum í áramótaskaupi síðasta árs þegar Hemmi Gunn birtist á skjánum. Gervigreindartæknin er svo sannarlega komin til að vera. Í grein á Vísi kallar Pétur Eggerz Pétursson hjá Overtune, sem er maðurinn á bak við Hemma Gunn-atriðið í áramótaskaupinu, eftir því að löggjafinn setji upp hanskana því framtíðin sé mætt,“ sagði Björn Leví. Þingmaðurinn hélt þá áfram og sagði að framtíðinni væri slétt sama um hraðatakmarkanir stjórnmálanna sem drolla með öll verkefni árum saman, henda þeim milli nefnda og starfshópa fram og til baka á meðan hlutirnir eru bara að gerast. „Í Bretlandi birtist fölsuð hljóðupptaka af formanni Verkamannaflokksins þar sem hann heyrist skammast út í starfsfólk flokksins annars vegar og hins vegar gagnrýna Liverpool-borg — hvort tveggja skáldað. Hinum megin Atlantshafsins heyrist rödd Biden hvetja kjósendur í New Hampshire til að taka ekki þátt í forvali Demókrataflokksins — skáldað. Tækifærin í tækninni eru gríðarlega spennandi en hætturnar eru það líka,“ sagði Björn Leví. Þingmaðurinn hefur nú brugðist við kallinu og sent frumvarp um gervigreindarfólk og sjálfvirka gagnagreiningu í meðflutningsferli til allra þingmanna með von um jákvæð viðbrögð. „Það þarf nefnilega bara að bregðast við. Við eigum ekki að bíða eftir ESB eða starfshópum og nefndum. Við þurfum að gera það skýrt að endurgerð af einstaklingi sem má ætla að sé raunveruleg, hvort sem um er að ræða mynd, myndband, hljóðupptöku eða annað efni, sé óheimil án samþykkis viðkomandi einstaklings eða afkomenda hans ef viðkomandi er látinn. Við þurfum að bregðast við þessu strax,“ segir Björn Leví. Frumvarp Björns Levís um gervigreind 154. löggjafarþing 2023–2024. Þingskjal 640 — 446. mál. Frumvarp til laga um breytingu á höfundalögum, nr. 73/1972 (gerfigreindarfólk og sjálfvirk gagnagreining). Flm.: Björn Leví Gunnarsson, … 1. gr. Við 2. gr. bætist ný málsgrein svohljóðandi: Endurgerð af einstaklingi sem ætla má að sé raunveruleg, hvort sem um er að ræða mynd, myndband, hljóðupptöku eða annað efni, er óheimil án samþykkis viðkomandi einstaklings eða afkomenda hans ef viðkomandi er látinn. 2. gr. Á eftir 10. gr. a. bætist ný grein, 10. gr. b. svohljóðandi: Auðkenna skal allar endurgerðir sem falla undir 6. mgr. 2. gr. með þeirri aðferð sem var notuð til þess að búa til endurgerðina. Með endurgerð sem fellur undir 6. mgr. 2. gr. skal tilvísun í upprunalegt verk ávallt fylgja birtingu á endurgerðinni. 3. gr. Á eftir 11. gr. a laganna kemur ný grein, 11. gr. b, svohljóðandi: Heimilt er án endurgjalds að gera rafræn eintök af verki sem aflað hefur verið með lögmætum hætti, enda sé tilgangur slíkra eintaka að útbúa sjálfvirkar gagnagreiningar og vinna málfræðilegar og tölfræðilegar upplýsingar. Óheimilt er að nota slík eintök í öðrum tilgangi. 4. gr. Lög þessi öðlast þegar gildi. Greinargerð. Frumvarpið var lagt fram á 149. löggjafarþingi (446. mál) en gekk ekki til nefndar. Málið er nú endurflutt og bætt er við grein um gerfigreindarfólk. Mjög mikil þróun hefur orðið í framleiðslu alls konar efnis á undanförnum mánuðum með tilkomu öflugra stafrænna tauganeta. Tauganet sem búa til texta, hljóð og myndir sem mjög erfitt er að greina hvort séu framleidd af manneskju eða tölvu. Svokallaðar djúpfalsanir (e. deep fake) eru þegar notaðar í pólitískum tilgangi. Það er því mjög mikilvægt að það sé skýrt í lögum að slíkar endurgerðir séu ekki heimilar nema með leyfis þess sem endurgerðin er af. Einnig er afarnauðsynlegt að allar endurgerðir verði sérstaklega merktar sem slíkar, þannig að enginn vafi leiki á því að um endurgerð sé að ræða. Það er í rauninni líklegt að það þurfi að merkja allt efni sem gæti fræðilega verið endurgerð. Þannig að ef mynd, myndband eða hljóð af einhverjum er ekki merkt þá ætti fólk að álykta sem svo að um einhvers konar endurgerð sé að ræða. Ekki er gengið svo langt í þessu frumvarpi, en það er ekki ólíklegt að slík merking gerist að sjálfu sér. Að til dæmis stjórnmálafólk merki sérstaklega þau myndbönd sem birtast af þeim sem upprunavottuð og raunveruleg. Athugasemdir við einstakar greinar frumvarpsins. um 1. gr. Í 2. gr. höfundaréttarlaganna er einkaréttur höfunda skilgreint. Í 1. gr. þessa frumvarps er áréttað að hvers konar endurgerð af einstaklingi sem ætla má að sé raunveruleg sé óheimil án samþykkis viðkomandi einstaklings. Þessi árétting er vegna þróunar í gerfigreind sem getur á tiltölulega einfaldan og aðgengilegan hátt gert fólki kleift að búa til myndir, myndbönd, hljóð af hvaða einstaklingi sem er án þess að hægt sé að gera greinarmun á því hvort um raunverulega mynd, myndband eða hljóðupptöku sé að ræða eða einhvers konar endurgerð. um 2. gr. Með 2. gr. frumvarpsins er kveðið á um að allar endurgerðir sem falla undir þá skilgreiningu sem sett er í 1. gr. frumvarpsins séu auðkenndar sem endurgerðir og ef um breytingar á upprunalegu verki er að ræða þá skuli birtingu á endurgerð fylgja tilvísun í upprunalegt verk. Greininni er ætlað að ná bæði yfir verk sem gerfigreind getur búið til, sem eru án upprunaverka, og breytinga á upprunalegum verkum, svo sem ljósmyndum. Sem dæmi má nefna tískuljósmyndir sem oft er lögð mikil vinna í að breyta með myndvinnslu eða kvikmyndir með tölvugerðum teikningum. um 3. gr. Framboð rafrænna gagna, þar á meðal vísindagreina, fer ört vaxandi. Áætlað er að fleiri en 3 milljónir ritrýndra fræðigreina séu nú birtar á hverju ári1 . Fyrir vikið er orðið erfitt fyrir rannsakendur að komast sjálfir yfir allt efni á tilteknu rannsóknarsviði. Þess í stað notast þeir í auknum mæli við sjálfvirka gagnagreiningu tölva (e. data mining eða data analysis) til að sækja gagnlegar upplýsingar úr stórum gagnasöfnum. Sjálfvirk gagnagreining gerir rannsakendum einnig kleift að finna ýmiss konar fylgni og mynstur sem ella væri erfitt að greina. Sjálfvirk gagnagreining krefst þess almennt að gerð séu afrit af þeim gögnum sem á að skoða. Torsótt væri fyrir rannsakendur að afla í hvert sinn samþykkis fyrir því frá öllum rétthöfum efnis í gagnasafni sem geta hæglega hlaupið á þúsundum. Því er aðkallandi að veita undanþágu frá einkarétti höfunda til eintakagerðar vegna sjálfvirkrar gagnagreiningar í þágu tækniþróunar og vísindarannsókna. Miklar framfarir hafa verið á undanförnum árum í máltækni. Ein helsta hindrun sem máltækni stendur frammi fyrir er takmarkaður aðgangur að efni fyrir tölvur til úrvinnslu. Þetta frumvarp leggur til að hægt verði að gera rafræn eintök af verkum sem aflað hefur verið með lögmætum hætti til þess að vinna úr þeim málfræðilegar og tölfræðilegar upplýsingar.
Alþingi Píratar Gervigreind Mest lesið Prestur í Dalvík sver af sér kjaftasögur um ókristilega hegðun Innlent Kurr innan Samfylkingarinnar vegna brottvísunar ungbarna Innlent Segja stutt í samkomulag en sprengjum rignir enn Erlent „Af hverju ertu svona í framan?“ Innlent Eldur í þvottahúsi á Granda Innlent Prestur og prófastur bíður spenntur eftir Hrútaskránni Innlent Var að streyma á TikTok þegar hann féll til jarðar og lést Erlent Skoðanabróðir Orbans og Fico vinnur kosningar í Tékklandi Erlent Fjöldi án rafmagns vegna vonskuveðurs í Noregi Erlent Alelda bíll á Reykjanesbraut Innlent Fleiri fréttir Prestur í Dalvík sver af sér kjaftasögur um ókristilega hegðun Eldur í þvottahúsi á Granda Prestur og prófastur bíður spenntur eftir Hrútaskránni Kurr innan Samfylkingarinnar vegna brottvísunar ungbarna Fokdýrar flugferðir, ögurstund á Gasa og óvenjulegt innbrot Boða íbúafundi vegna mögulegrar sameiningar sveitarfélaganna Alelda bíll á Reykjanesbraut Framkvæmdirnar komi eftir ákall frá íbúum Safnaði í bálköst innandyra en kennir stundarbrjálæði um íkveikjuna Skrítin afstaða BSRB og ASÍ Tekist á um leikskólamál og árásir á Gasa Umfangsmikil flugslysaæfing á Reykjavíkurflugvelli Tætir í sig leikskólaplan borgarinnar: Segir Reykjavík taka skref aftur á bak Rannsaka mögulega stunguárás Göngu- og hjólabrýr yfir Elliðaár opnast „Af hverju ertu svona í framan?“ „Algjörlega alveg út í hött“ Umferðin færist inn á íbúðagötur Andar sem eru ekki hér en voru í myndinni þeir sveima og fylgjast með Dugar ekki lengur að dorga og nú þurfi að kasta út neti Vann á öllum deildum leikskólans Segja Rússa heyja stríð við Vesturlönd og síðustu ævidagarnir á Grund „Kópavogsmódelið er ekkert annað en þjónustuskerðing“ Nýsestur á skrifstofunni þegar hann fékk bíl í flasið Starfsmaður á Brákarborg grunaður um kynferðisbrot Fresta framkvæmdum vegna veðurs Sýnist komið að seinni hluta í eldsumbrotum í Sundhnúksgígaröðinni Grunaður um að hafa brotið á fleiri en tíu börnum Varaformannsslagur í Miðflokknum: Öll vinir og „peppuð“ fyrir landsþingi Stöðfirðingum enn ráðlagt að sjóða vatn vegna mengunar Sjá meira