Jafngildir það að eyða meðvitaðri gervigreind því að drepa dýr? Hólmfríður Gísladóttir skrifar 4. febrúar 2025 07:24 Stephen Fry er meðal þeirra sem undirrita bréfið. Getty/Sebastian Reuter Yfir 100 vísindamenn og hugsuðir hafa undirritað opið bréf þar sem þeir hvetja til stefnumótunar varðandi þróun gervigreindar með sjálfsmeðvitund og tilfinningar. Segja þeir meðal annars þörf á að huga að því hvernig menn hyggjast nálgast slíkt fyrirbæri, sem gæti mögulega þjáðst af manna völdum. Bréfið er birt samhliða rannsóknarritgerð eftir Patrick Butlin við Oxford-háskóla og Theodoros Lappas við Athens University of Economics and Business, þar sem leggja fram fimm viðmið um þróun slíkrar gervigreindar. Leggja þeir meðal annars til að forgangsraða rannsóknum á meðvitund (e. consciousness) í gervigreind til að koma í veg fyrir misnoktun og þjáningu. Þá hvetja þeir til þess að takmarkanir verði settar á þróun meðvitaðrar gervigreindar, að þróunin verði tekin í skrefum, að niðurstöðum verði deilt með almenningi og að menn forðist að vera of yfirlýsingaglaðir og jafnvel misvísandi í umfjöllun um fyrirbærið. Butlin og Lappas segja mögulegt að sjálfsmeðvituð gervigreind, eða gervigreind sem virðist hafa meðvitund, muni verða að raunveruleika í náinni framtíð. Ef sú gervigreind gæti afritað sjálfa sig gæti sú staða komið upp að allt í einu væri komin fram ný tegund sem taka þyrfti afstöðu til hvað varðar siðferði. Myndi það að eyða slíkri gervigreind til að mynda jafnast á við að drepa dýr? Fræðimennirnir vara hins vegar einnig við því að orku og tíma sé varið í að huga að velferð gervigreindar sem hefur í raun og veru ekki meðvitund. Menn greinir enn á um það hvort gervigreind geti raunverulega talist meðvituð, sem skýrist meðal annars að því að menn eru ekki fullkomlega sammála um skilgreininguna á meðvitund. Guardian fjallar um málið. Gervigreind Mannréttindi Mest lesið Snjókoman rétt að byrja Innlent Veðurvaktin: Snjókoman rétt að byrja og víða erfið færð Veður Bílar út af veginum á Reykjanesbraut Innlent Ráðgjafinn ráðinn í tímabundið starf eftir dýra skreppitúra Innlent Skvísur geti virkað sem hálfgerðir þroskaþjófar Innlent Játar að hafa myrt Shinzo Abe Erlent Heitavatnslaust á Suðurnesjum og rafmagnslaust víða um land Innlent Undirrituðu samkomulag um fágæta málma Erlent Hljóp út í örvæntingu „með lífið í poka“ Erlent Van de Velde bannað að ferðast til Ástralíu til að keppa á heimsmeistaramótinu Erlent Fleiri fréttir Van de Velde bannað að ferðast til Ástralíu til að keppa á heimsmeistaramótinu Segja Rússa elta almenna borgara með drónum Játar að hafa myrt Shinzo Abe Undirrituðu samkomulag um fágæta málma Hljóp út í örvæntingu „með lífið í poka“ Réttað yfir tíu sem segja frönsku forsetafrúna vera karlmann Réttað yfir konu sem sagðist vera Madeleine McCann Áfjáður í að bjóða sig fram aftur í trássi við stjórnarskrá Hafa fundið Cessna-vélina Elsti forseti heims endurkjörinn í skugga mótmæla Jamaíka býr sig undir öflugasta fellibyl sem þangað hefur ratað Friður forsenda þess að erlent lið verði sent til Gasa Milei vann stórsigur í Argentínu Matarbankar segjast ekki munu anna eftirspurninni Aftökur á meintum smyglurum „ekki morð“ heldur „vörn við eitri“ Leit að flugvélinni horfnu engan árangur borið Ráðist að fjölmiðlafólki með ofbeldi og fúkyrðum Hundruðum gert að rýma vegna grjóthruns í Ósló Newsom íhugar forsetaframboð Allt undir hjá forsetanum hárprúða Óttast blóðbað við fall síðasta vígis stjórnarhersins í Darfur Bankaerfingi greiðir laun hermanna meðan ríkisstofnanir eru lokaðar Gómuðu aftur manninn sem þeir slepptu fyrir mistök Tveir handteknir vegna Louvre ránsins Leita Cessnu sem hvarf nærri Nuuk Segja „fljúgandi Chernobyl“ hafa flogið í fimmtán klukkustundir Hækkar tolla á kanadískar vörur vegna sjónvarpsauglýsingar Ýjar að annarri atrennu að forsetaembættinu Vinstrikonan umdeilda vann sannfærandi sigur á Írlandi Fyrrverandi drottning Taílands er látin Sjá meira
Segja þeir meðal annars þörf á að huga að því hvernig menn hyggjast nálgast slíkt fyrirbæri, sem gæti mögulega þjáðst af manna völdum. Bréfið er birt samhliða rannsóknarritgerð eftir Patrick Butlin við Oxford-háskóla og Theodoros Lappas við Athens University of Economics and Business, þar sem leggja fram fimm viðmið um þróun slíkrar gervigreindar. Leggja þeir meðal annars til að forgangsraða rannsóknum á meðvitund (e. consciousness) í gervigreind til að koma í veg fyrir misnoktun og þjáningu. Þá hvetja þeir til þess að takmarkanir verði settar á þróun meðvitaðrar gervigreindar, að þróunin verði tekin í skrefum, að niðurstöðum verði deilt með almenningi og að menn forðist að vera of yfirlýsingaglaðir og jafnvel misvísandi í umfjöllun um fyrirbærið. Butlin og Lappas segja mögulegt að sjálfsmeðvituð gervigreind, eða gervigreind sem virðist hafa meðvitund, muni verða að raunveruleika í náinni framtíð. Ef sú gervigreind gæti afritað sjálfa sig gæti sú staða komið upp að allt í einu væri komin fram ný tegund sem taka þyrfti afstöðu til hvað varðar siðferði. Myndi það að eyða slíkri gervigreind til að mynda jafnast á við að drepa dýr? Fræðimennirnir vara hins vegar einnig við því að orku og tíma sé varið í að huga að velferð gervigreindar sem hefur í raun og veru ekki meðvitund. Menn greinir enn á um það hvort gervigreind geti raunverulega talist meðvituð, sem skýrist meðal annars að því að menn eru ekki fullkomlega sammála um skilgreininguna á meðvitund. Guardian fjallar um málið.
Gervigreind Mannréttindi Mest lesið Snjókoman rétt að byrja Innlent Veðurvaktin: Snjókoman rétt að byrja og víða erfið færð Veður Bílar út af veginum á Reykjanesbraut Innlent Ráðgjafinn ráðinn í tímabundið starf eftir dýra skreppitúra Innlent Skvísur geti virkað sem hálfgerðir þroskaþjófar Innlent Játar að hafa myrt Shinzo Abe Erlent Heitavatnslaust á Suðurnesjum og rafmagnslaust víða um land Innlent Undirrituðu samkomulag um fágæta málma Erlent Hljóp út í örvæntingu „með lífið í poka“ Erlent Van de Velde bannað að ferðast til Ástralíu til að keppa á heimsmeistaramótinu Erlent Fleiri fréttir Van de Velde bannað að ferðast til Ástralíu til að keppa á heimsmeistaramótinu Segja Rússa elta almenna borgara með drónum Játar að hafa myrt Shinzo Abe Undirrituðu samkomulag um fágæta málma Hljóp út í örvæntingu „með lífið í poka“ Réttað yfir tíu sem segja frönsku forsetafrúna vera karlmann Réttað yfir konu sem sagðist vera Madeleine McCann Áfjáður í að bjóða sig fram aftur í trássi við stjórnarskrá Hafa fundið Cessna-vélina Elsti forseti heims endurkjörinn í skugga mótmæla Jamaíka býr sig undir öflugasta fellibyl sem þangað hefur ratað Friður forsenda þess að erlent lið verði sent til Gasa Milei vann stórsigur í Argentínu Matarbankar segjast ekki munu anna eftirspurninni Aftökur á meintum smyglurum „ekki morð“ heldur „vörn við eitri“ Leit að flugvélinni horfnu engan árangur borið Ráðist að fjölmiðlafólki með ofbeldi og fúkyrðum Hundruðum gert að rýma vegna grjóthruns í Ósló Newsom íhugar forsetaframboð Allt undir hjá forsetanum hárprúða Óttast blóðbað við fall síðasta vígis stjórnarhersins í Darfur Bankaerfingi greiðir laun hermanna meðan ríkisstofnanir eru lokaðar Gómuðu aftur manninn sem þeir slepptu fyrir mistök Tveir handteknir vegna Louvre ránsins Leita Cessnu sem hvarf nærri Nuuk Segja „fljúgandi Chernobyl“ hafa flogið í fimmtán klukkustundir Hækkar tolla á kanadískar vörur vegna sjónvarpsauglýsingar Ýjar að annarri atrennu að forsetaembættinu Vinstrikonan umdeilda vann sannfærandi sigur á Írlandi Fyrrverandi drottning Taílands er látin Sjá meira