Hemmi Gunn vekur þingheim til vitundar um gervigreind Jakob Bjarnar skrifar 23. janúar 2024 14:29 Björn Leví segir ekki eftir neinu að bíða og hefur sent þingmönnum frumvarp um gervigreind. Það má segja að Hemmi Gunn hafi vakið landsmenn illyrmislega upp af rotinu. Vísir/Vilhelm Björn Leví Gunnarsson Pírati boðar frumvarp um gervigreind og hefur sent þingmönnum drög. Hann segir að bregðast verið við strax. Þetta kom fram í máli Björns Levís í dagskráliðnum störf þingsins nú fyrir stundu. Hann segir mörg viðfangsefnin en við verðum að gera fleira en eitt í einu. „Eitt verkefnið birtist landsmönnum í áramótaskaupi síðasta árs þegar Hemmi Gunn birtist á skjánum. Gervigreindartæknin er svo sannarlega komin til að vera. Í grein á Vísi kallar Pétur Eggerz Pétursson hjá Overtune, sem er maðurinn á bak við Hemma Gunn-atriðið í áramótaskaupinu, eftir því að löggjafinn setji upp hanskana því framtíðin sé mætt,“ sagði Björn Leví. Þingmaðurinn hélt þá áfram og sagði að framtíðinni væri slétt sama um hraðatakmarkanir stjórnmálanna sem drolla með öll verkefni árum saman, henda þeim milli nefnda og starfshópa fram og til baka á meðan hlutirnir eru bara að gerast. „Í Bretlandi birtist fölsuð hljóðupptaka af formanni Verkamannaflokksins þar sem hann heyrist skammast út í starfsfólk flokksins annars vegar og hins vegar gagnrýna Liverpool-borg — hvort tveggja skáldað. Hinum megin Atlantshafsins heyrist rödd Biden hvetja kjósendur í New Hampshire til að taka ekki þátt í forvali Demókrataflokksins — skáldað. Tækifærin í tækninni eru gríðarlega spennandi en hætturnar eru það líka,“ sagði Björn Leví. Þingmaðurinn hefur nú brugðist við kallinu og sent frumvarp um gervigreindarfólk og sjálfvirka gagnagreiningu í meðflutningsferli til allra þingmanna með von um jákvæð viðbrögð. „Það þarf nefnilega bara að bregðast við. Við eigum ekki að bíða eftir ESB eða starfshópum og nefndum. Við þurfum að gera það skýrt að endurgerð af einstaklingi sem má ætla að sé raunveruleg, hvort sem um er að ræða mynd, myndband, hljóðupptöku eða annað efni, sé óheimil án samþykkis viðkomandi einstaklings eða afkomenda hans ef viðkomandi er látinn. Við þurfum að bregðast við þessu strax,“ segir Björn Leví. Frumvarp Björns Levís um gervigreind 154. löggjafarþing 2023–2024. Þingskjal 640 — 446. mál. Frumvarp til laga um breytingu á höfundalögum, nr. 73/1972 (gerfigreindarfólk og sjálfvirk gagnagreining). Flm.: Björn Leví Gunnarsson, … 1. gr. Við 2. gr. bætist ný málsgrein svohljóðandi: Endurgerð af einstaklingi sem ætla má að sé raunveruleg, hvort sem um er að ræða mynd, myndband, hljóðupptöku eða annað efni, er óheimil án samþykkis viðkomandi einstaklings eða afkomenda hans ef viðkomandi er látinn. 2. gr. Á eftir 10. gr. a. bætist ný grein, 10. gr. b. svohljóðandi: Auðkenna skal allar endurgerðir sem falla undir 6. mgr. 2. gr. með þeirri aðferð sem var notuð til þess að búa til endurgerðina. Með endurgerð sem fellur undir 6. mgr. 2. gr. skal tilvísun í upprunalegt verk ávallt fylgja birtingu á endurgerðinni. 3. gr. Á eftir 11. gr. a laganna kemur ný grein, 11. gr. b, svohljóðandi: Heimilt er án endurgjalds að gera rafræn eintök af verki sem aflað hefur verið með lögmætum hætti, enda sé tilgangur slíkra eintaka að útbúa sjálfvirkar gagnagreiningar og vinna málfræðilegar og tölfræðilegar upplýsingar. Óheimilt er að nota slík eintök í öðrum tilgangi. 4. gr. Lög þessi öðlast þegar gildi. Greinargerð. Frumvarpið var lagt fram á 149. löggjafarþingi (446. mál) en gekk ekki til nefndar. Málið er nú endurflutt og bætt er við grein um gerfigreindarfólk. Mjög mikil þróun hefur orðið í framleiðslu alls konar efnis á undanförnum mánuðum með tilkomu öflugra stafrænna tauganeta. Tauganet sem búa til texta, hljóð og myndir sem mjög erfitt er að greina hvort séu framleidd af manneskju eða tölvu. Svokallaðar djúpfalsanir (e. deep fake) eru þegar notaðar í pólitískum tilgangi. Það er því mjög mikilvægt að það sé skýrt í lögum að slíkar endurgerðir séu ekki heimilar nema með leyfis þess sem endurgerðin er af. Einnig er afarnauðsynlegt að allar endurgerðir verði sérstaklega merktar sem slíkar, þannig að enginn vafi leiki á því að um endurgerð sé að ræða. Það er í rauninni líklegt að það þurfi að merkja allt efni sem gæti fræðilega verið endurgerð. Þannig að ef mynd, myndband eða hljóð af einhverjum er ekki merkt þá ætti fólk að álykta sem svo að um einhvers konar endurgerð sé að ræða. Ekki er gengið svo langt í þessu frumvarpi, en það er ekki ólíklegt að slík merking gerist að sjálfu sér. Að til dæmis stjórnmálafólk merki sérstaklega þau myndbönd sem birtast af þeim sem upprunavottuð og raunveruleg. Athugasemdir við einstakar greinar frumvarpsins. um 1. gr. Í 2. gr. höfundaréttarlaganna er einkaréttur höfunda skilgreint. Í 1. gr. þessa frumvarps er áréttað að hvers konar endurgerð af einstaklingi sem ætla má að sé raunveruleg sé óheimil án samþykkis viðkomandi einstaklings. Þessi árétting er vegna þróunar í gerfigreind sem getur á tiltölulega einfaldan og aðgengilegan hátt gert fólki kleift að búa til myndir, myndbönd, hljóð af hvaða einstaklingi sem er án þess að hægt sé að gera greinarmun á því hvort um raunverulega mynd, myndband eða hljóðupptöku sé að ræða eða einhvers konar endurgerð. um 2. gr. Með 2. gr. frumvarpsins er kveðið á um að allar endurgerðir sem falla undir þá skilgreiningu sem sett er í 1. gr. frumvarpsins séu auðkenndar sem endurgerðir og ef um breytingar á upprunalegu verki er að ræða þá skuli birtingu á endurgerð fylgja tilvísun í upprunalegt verk. Greininni er ætlað að ná bæði yfir verk sem gerfigreind getur búið til, sem eru án upprunaverka, og breytinga á upprunalegum verkum, svo sem ljósmyndum. Sem dæmi má nefna tískuljósmyndir sem oft er lögð mikil vinna í að breyta með myndvinnslu eða kvikmyndir með tölvugerðum teikningum. um 3. gr. Framboð rafrænna gagna, þar á meðal vísindagreina, fer ört vaxandi. Áætlað er að fleiri en 3 milljónir ritrýndra fræðigreina séu nú birtar á hverju ári1 . Fyrir vikið er orðið erfitt fyrir rannsakendur að komast sjálfir yfir allt efni á tilteknu rannsóknarsviði. Þess í stað notast þeir í auknum mæli við sjálfvirka gagnagreiningu tölva (e. data mining eða data analysis) til að sækja gagnlegar upplýsingar úr stórum gagnasöfnum. Sjálfvirk gagnagreining gerir rannsakendum einnig kleift að finna ýmiss konar fylgni og mynstur sem ella væri erfitt að greina. Sjálfvirk gagnagreining krefst þess almennt að gerð séu afrit af þeim gögnum sem á að skoða. Torsótt væri fyrir rannsakendur að afla í hvert sinn samþykkis fyrir því frá öllum rétthöfum efnis í gagnasafni sem geta hæglega hlaupið á þúsundum. Því er aðkallandi að veita undanþágu frá einkarétti höfunda til eintakagerðar vegna sjálfvirkrar gagnagreiningar í þágu tækniþróunar og vísindarannsókna. Miklar framfarir hafa verið á undanförnum árum í máltækni. Ein helsta hindrun sem máltækni stendur frammi fyrir er takmarkaður aðgangur að efni fyrir tölvur til úrvinnslu. Þetta frumvarp leggur til að hægt verði að gera rafræn eintök af verkum sem aflað hefur verið með lögmætum hætti til þess að vinna úr þeim málfræðilegar og tölfræðilegar upplýsingar. Alþingi Píratar Gervigreind Mest lesið Greindi þátt almennings og fjölmiðla í máli „strokufangans“ Innlent Handtóku ökumann eftir eftirför á Sæbraut Innlent Vonar að Rauði krossinn endurskoði afstöðu sína Innlent Sagður hafa tæmt sjóði flokksins og rekur nýja stjórn úr húsnæðinu Innlent Þúsundir syrgja í Tehran og Trump segir æðstaklerkinn ljúga Erlent Halla forseti blandar sér í götuljósaumræðuna Innlent „Ég vorkenni því fólki sem lét narra sig í þessa vegferð“ Innlent Svifvængjaflugslys við Reynisfjall Innlent Mikil reiði á Þingeyri vegna flutnings fóðurstöðvar Arctic Fish Innlent Segir ásakanir kjaftæði og íhugar meiðyrðamál Innlent Fleiri fréttir Formaður og gjaldkeri Vorstjörnunnar kærð fyrir efnahagsbrot Mikil reiði á Þingeyri vegna flutnings fóðurstöðvar Arctic Fish Ráðherra vill tryggja betra eftirlit með Sjúkratryggingum Íslands Segir tölurnar sláandi og vill bregðast við „Ég vorkenni því fólki sem lét narra sig í þessa vegferð“ Sósíalistar deila um peninga og metþátttaka í ólöglegri baráttugöngu Kostnaður vegna kynja- og jafnréttismála sextán milljónir Svifvængjaflugslys við Reynisfjall Handtóku ökumann eftir eftirför á Sæbraut Vonar að Rauði krossinn endurskoði afstöðu sína Segir ásakanir kjaftæði og íhugar meiðyrðamál „Þurfum að huga að forvörnum“ Átök í Sósíalistaflokknum, þinglokaviðræður og síðasti dagur Litlu kaffistofunnar Veiðigjöld ekki á dagskrá þingfundar í dag Gripinn við innbrot og bíl ekið inn í búð Greindi þátt almennings og fjölmiðla í máli „strokufangans“ Mikill viðbúnaður vegna eftirfarar á Sæbraut Sagður hafa tæmt sjóði flokksins og rekur nýja stjórn úr húsnæðinu Halla forseti blandar sér í götuljósaumræðuna Reiða fram rúma milljón fyrir Jakub Tilraun langtímakjarasamninga hafi mistekist Málið rannsakað sem tilraun til manndráps Telja Múmínlundinn klárt brot á höfundarétti Glænýr leikskóli í Mosfellsbæ heitir Sumarhús Verðbólguvonbrigði, hraðakstur og kokkur með keppnisskap Málið týndist í kerfinu og reyndist á endanum fyrnt Segulómtækið enn óvirkt og beðið eftir þúsund lítrum af helíni „Allar kannanir eru með einhverja óvissu“ Steini frá Straumnesi látinn Áfram frestað meðan formenn funda Sjá meira
Þetta kom fram í máli Björns Levís í dagskráliðnum störf þingsins nú fyrir stundu. Hann segir mörg viðfangsefnin en við verðum að gera fleira en eitt í einu. „Eitt verkefnið birtist landsmönnum í áramótaskaupi síðasta árs þegar Hemmi Gunn birtist á skjánum. Gervigreindartæknin er svo sannarlega komin til að vera. Í grein á Vísi kallar Pétur Eggerz Pétursson hjá Overtune, sem er maðurinn á bak við Hemma Gunn-atriðið í áramótaskaupinu, eftir því að löggjafinn setji upp hanskana því framtíðin sé mætt,“ sagði Björn Leví. Þingmaðurinn hélt þá áfram og sagði að framtíðinni væri slétt sama um hraðatakmarkanir stjórnmálanna sem drolla með öll verkefni árum saman, henda þeim milli nefnda og starfshópa fram og til baka á meðan hlutirnir eru bara að gerast. „Í Bretlandi birtist fölsuð hljóðupptaka af formanni Verkamannaflokksins þar sem hann heyrist skammast út í starfsfólk flokksins annars vegar og hins vegar gagnrýna Liverpool-borg — hvort tveggja skáldað. Hinum megin Atlantshafsins heyrist rödd Biden hvetja kjósendur í New Hampshire til að taka ekki þátt í forvali Demókrataflokksins — skáldað. Tækifærin í tækninni eru gríðarlega spennandi en hætturnar eru það líka,“ sagði Björn Leví. Þingmaðurinn hefur nú brugðist við kallinu og sent frumvarp um gervigreindarfólk og sjálfvirka gagnagreiningu í meðflutningsferli til allra þingmanna með von um jákvæð viðbrögð. „Það þarf nefnilega bara að bregðast við. Við eigum ekki að bíða eftir ESB eða starfshópum og nefndum. Við þurfum að gera það skýrt að endurgerð af einstaklingi sem má ætla að sé raunveruleg, hvort sem um er að ræða mynd, myndband, hljóðupptöku eða annað efni, sé óheimil án samþykkis viðkomandi einstaklings eða afkomenda hans ef viðkomandi er látinn. Við þurfum að bregðast við þessu strax,“ segir Björn Leví. Frumvarp Björns Levís um gervigreind 154. löggjafarþing 2023–2024. Þingskjal 640 — 446. mál. Frumvarp til laga um breytingu á höfundalögum, nr. 73/1972 (gerfigreindarfólk og sjálfvirk gagnagreining). Flm.: Björn Leví Gunnarsson, … 1. gr. Við 2. gr. bætist ný málsgrein svohljóðandi: Endurgerð af einstaklingi sem ætla má að sé raunveruleg, hvort sem um er að ræða mynd, myndband, hljóðupptöku eða annað efni, er óheimil án samþykkis viðkomandi einstaklings eða afkomenda hans ef viðkomandi er látinn. 2. gr. Á eftir 10. gr. a. bætist ný grein, 10. gr. b. svohljóðandi: Auðkenna skal allar endurgerðir sem falla undir 6. mgr. 2. gr. með þeirri aðferð sem var notuð til þess að búa til endurgerðina. Með endurgerð sem fellur undir 6. mgr. 2. gr. skal tilvísun í upprunalegt verk ávallt fylgja birtingu á endurgerðinni. 3. gr. Á eftir 11. gr. a laganna kemur ný grein, 11. gr. b, svohljóðandi: Heimilt er án endurgjalds að gera rafræn eintök af verki sem aflað hefur verið með lögmætum hætti, enda sé tilgangur slíkra eintaka að útbúa sjálfvirkar gagnagreiningar og vinna málfræðilegar og tölfræðilegar upplýsingar. Óheimilt er að nota slík eintök í öðrum tilgangi. 4. gr. Lög þessi öðlast þegar gildi. Greinargerð. Frumvarpið var lagt fram á 149. löggjafarþingi (446. mál) en gekk ekki til nefndar. Málið er nú endurflutt og bætt er við grein um gerfigreindarfólk. Mjög mikil þróun hefur orðið í framleiðslu alls konar efnis á undanförnum mánuðum með tilkomu öflugra stafrænna tauganeta. Tauganet sem búa til texta, hljóð og myndir sem mjög erfitt er að greina hvort séu framleidd af manneskju eða tölvu. Svokallaðar djúpfalsanir (e. deep fake) eru þegar notaðar í pólitískum tilgangi. Það er því mjög mikilvægt að það sé skýrt í lögum að slíkar endurgerðir séu ekki heimilar nema með leyfis þess sem endurgerðin er af. Einnig er afarnauðsynlegt að allar endurgerðir verði sérstaklega merktar sem slíkar, þannig að enginn vafi leiki á því að um endurgerð sé að ræða. Það er í rauninni líklegt að það þurfi að merkja allt efni sem gæti fræðilega verið endurgerð. Þannig að ef mynd, myndband eða hljóð af einhverjum er ekki merkt þá ætti fólk að álykta sem svo að um einhvers konar endurgerð sé að ræða. Ekki er gengið svo langt í þessu frumvarpi, en það er ekki ólíklegt að slík merking gerist að sjálfu sér. Að til dæmis stjórnmálafólk merki sérstaklega þau myndbönd sem birtast af þeim sem upprunavottuð og raunveruleg. Athugasemdir við einstakar greinar frumvarpsins. um 1. gr. Í 2. gr. höfundaréttarlaganna er einkaréttur höfunda skilgreint. Í 1. gr. þessa frumvarps er áréttað að hvers konar endurgerð af einstaklingi sem ætla má að sé raunveruleg sé óheimil án samþykkis viðkomandi einstaklings. Þessi árétting er vegna þróunar í gerfigreind sem getur á tiltölulega einfaldan og aðgengilegan hátt gert fólki kleift að búa til myndir, myndbönd, hljóð af hvaða einstaklingi sem er án þess að hægt sé að gera greinarmun á því hvort um raunverulega mynd, myndband eða hljóðupptöku sé að ræða eða einhvers konar endurgerð. um 2. gr. Með 2. gr. frumvarpsins er kveðið á um að allar endurgerðir sem falla undir þá skilgreiningu sem sett er í 1. gr. frumvarpsins séu auðkenndar sem endurgerðir og ef um breytingar á upprunalegu verki er að ræða þá skuli birtingu á endurgerð fylgja tilvísun í upprunalegt verk. Greininni er ætlað að ná bæði yfir verk sem gerfigreind getur búið til, sem eru án upprunaverka, og breytinga á upprunalegum verkum, svo sem ljósmyndum. Sem dæmi má nefna tískuljósmyndir sem oft er lögð mikil vinna í að breyta með myndvinnslu eða kvikmyndir með tölvugerðum teikningum. um 3. gr. Framboð rafrænna gagna, þar á meðal vísindagreina, fer ört vaxandi. Áætlað er að fleiri en 3 milljónir ritrýndra fræðigreina séu nú birtar á hverju ári1 . Fyrir vikið er orðið erfitt fyrir rannsakendur að komast sjálfir yfir allt efni á tilteknu rannsóknarsviði. Þess í stað notast þeir í auknum mæli við sjálfvirka gagnagreiningu tölva (e. data mining eða data analysis) til að sækja gagnlegar upplýsingar úr stórum gagnasöfnum. Sjálfvirk gagnagreining gerir rannsakendum einnig kleift að finna ýmiss konar fylgni og mynstur sem ella væri erfitt að greina. Sjálfvirk gagnagreining krefst þess almennt að gerð séu afrit af þeim gögnum sem á að skoða. Torsótt væri fyrir rannsakendur að afla í hvert sinn samþykkis fyrir því frá öllum rétthöfum efnis í gagnasafni sem geta hæglega hlaupið á þúsundum. Því er aðkallandi að veita undanþágu frá einkarétti höfunda til eintakagerðar vegna sjálfvirkrar gagnagreiningar í þágu tækniþróunar og vísindarannsókna. Miklar framfarir hafa verið á undanförnum árum í máltækni. Ein helsta hindrun sem máltækni stendur frammi fyrir er takmarkaður aðgangur að efni fyrir tölvur til úrvinnslu. Þetta frumvarp leggur til að hægt verði að gera rafræn eintök af verkum sem aflað hefur verið með lögmætum hætti til þess að vinna úr þeim málfræðilegar og tölfræðilegar upplýsingar.
Alþingi Píratar Gervigreind Mest lesið Greindi þátt almennings og fjölmiðla í máli „strokufangans“ Innlent Handtóku ökumann eftir eftirför á Sæbraut Innlent Vonar að Rauði krossinn endurskoði afstöðu sína Innlent Sagður hafa tæmt sjóði flokksins og rekur nýja stjórn úr húsnæðinu Innlent Þúsundir syrgja í Tehran og Trump segir æðstaklerkinn ljúga Erlent Halla forseti blandar sér í götuljósaumræðuna Innlent „Ég vorkenni því fólki sem lét narra sig í þessa vegferð“ Innlent Svifvængjaflugslys við Reynisfjall Innlent Mikil reiði á Þingeyri vegna flutnings fóðurstöðvar Arctic Fish Innlent Segir ásakanir kjaftæði og íhugar meiðyrðamál Innlent Fleiri fréttir Formaður og gjaldkeri Vorstjörnunnar kærð fyrir efnahagsbrot Mikil reiði á Þingeyri vegna flutnings fóðurstöðvar Arctic Fish Ráðherra vill tryggja betra eftirlit með Sjúkratryggingum Íslands Segir tölurnar sláandi og vill bregðast við „Ég vorkenni því fólki sem lét narra sig í þessa vegferð“ Sósíalistar deila um peninga og metþátttaka í ólöglegri baráttugöngu Kostnaður vegna kynja- og jafnréttismála sextán milljónir Svifvængjaflugslys við Reynisfjall Handtóku ökumann eftir eftirför á Sæbraut Vonar að Rauði krossinn endurskoði afstöðu sína Segir ásakanir kjaftæði og íhugar meiðyrðamál „Þurfum að huga að forvörnum“ Átök í Sósíalistaflokknum, þinglokaviðræður og síðasti dagur Litlu kaffistofunnar Veiðigjöld ekki á dagskrá þingfundar í dag Gripinn við innbrot og bíl ekið inn í búð Greindi þátt almennings og fjölmiðla í máli „strokufangans“ Mikill viðbúnaður vegna eftirfarar á Sæbraut Sagður hafa tæmt sjóði flokksins og rekur nýja stjórn úr húsnæðinu Halla forseti blandar sér í götuljósaumræðuna Reiða fram rúma milljón fyrir Jakub Tilraun langtímakjarasamninga hafi mistekist Málið rannsakað sem tilraun til manndráps Telja Múmínlundinn klárt brot á höfundarétti Glænýr leikskóli í Mosfellsbæ heitir Sumarhús Verðbólguvonbrigði, hraðakstur og kokkur með keppnisskap Málið týndist í kerfinu og reyndist á endanum fyrnt Segulómtækið enn óvirkt og beðið eftir þúsund lítrum af helíni „Allar kannanir eru með einhverja óvissu“ Steini frá Straumnesi látinn Áfram frestað meðan formenn funda Sjá meira