Hætti hjá Google til að vara við hættu af gervigreind Kjartan Kjartansson skrifar 2. maí 2023 11:55 Spjallyrki sem stór tæknifyrirtæki hafa afhjúpað nýlega þykja sláandi góð í að framleiða texta. Sumir óttast nú uppgang gervigreindar og telja hana jafnvel tilvistarlega ógn við mannkynið. Vísir/Getty Frumkvöðull í gervigreind segist hafa sagt starfi sínu hjá tæknirisanum Google lausu til þess að geta tjáð sig óheft um þær hættur sem hann telur að fylgi tækninni. Hann segist hafa gert sér grein fyrir að tölvur gætu orðið greindari en menn mun fyrr en hann taldi. Google er eitt þeirra tæknifyrirtækja sem þróa gervigreind. Tækninni virðist hafa fleygt fram á síðustu misserum sem hefur skotið ýmsum skelk í brjóst sem óttast að gervigreind geti verið hættuleg mannkyninu. Sérfræðingar á sviðinu eru í hópi þeirra sem mæla með því að menn gangi hægt inn um gleðinnar dyr í þessum efnum. Geoffrey Hinton, sem New York Times lýsir sem guðföður gervigreindar, hefur unnið að þróun gervigreindar eins og spjallyrkisins ChatGPT undanfarna hálfa öld. Hann tilkynnti í Twitter-færslu að hann hefði sagt upp hjá Google eftir meira en áratugsstarf gagngert til þess að vara við hættunni af gervigreind. „Ég hætti til þess að ég gæti rætt um hættuna við gervigreind án þess að taka tillit til hvaða áhrif það hefði á Google,“ sagði Hinton í tísti sínu. Hinton, sem er 75 ára gamall, segir að hann hafi upphaflega talið spjallyrki Google, Microsoft og OpenAI kröftug máltæknitól sem stæðust þó ekki mönnum snúning í tungumálum. Framfarir í tækninni á undanförnum mánuðum hafi valdið honum sinnaskiptum. „Kannski er það sem gerist í þessum kerfum í raun mun betra en það sem gerist inni í heilanum,“ segir Hinton við New York Times. Drápsvélmenni gætu orðið að veruleika Sérstaklega óttast Hinton að yfir internetið flæði falsaðar myndir, myndbönd og texti sem framleiddur er með gervigreind. Meðalmaðurinn eigi ekki eftir að geta áttað sig á hvað er satt og hvað er logið lengur. Tækninni fleygi áfram í harðri samkeppni tæknirisanna sem eigi í nokkurs konar vígbúnaðarkapphlaupi sem engin leið sér að stoppa. Einnig hefur Hinton áhyggjur af því að gervigreind eigi eftir að umturna vinnumarkaðinum með tíð og tíma. Tækni geti leyst af hólmi fjölda fólks. Í fjarlægari framtíð er Hinton hræddur við að gervigreind ógni tilvist mannkynsins sjálfs vegna þess að hún öðlist oft óvænta hegðun þegar hún er mötuð á stórum gagnabönkum. Þegar einstaklingar og fyrirtæki leyfa gervigreind að skrifa sinn eiginn tölvukóða og jafnvel keyra hann sjálfri gæti sá dagur runnið upp á að drápsvélmenni úr distópískum vísindaskáldsögum verði að raunveruleika. „Sú hugmynd að þetta dót gæti í raun orðið gáfaðra en menn, sumir trúðu því. Flestir töldu að það væri langt í það. Ég hélt að það væri langt í það. ÉG hélt að það væru þrjátíu eða fimmtíu ár eða jafnvel lengra. Ég trúi því augljóslega ekki lengur,“ segir Hinton. Bandaríkin Tækni Gervigreind Google Mest lesið Hætti korteri eftir peppfund með Möltufólkinu Viðskipti innlent Stefna á að hefja starfsemi á Möltu innan tíu vikna Viðskipti innlent Kaupfélagið á bak við risaviðskipti í Iceland Seafood Viðskipti innlent Viðkvæm staða í björgunaraðgerðum Play Europe Viðskipti innlent „Við munum gæta réttar kröfuhafa í hvívetna“ Viðskipti innlent Isavia gefur strandaglópum engin grið Viðskipti innlent Búið að greiða laun og barnabætur Viðskipti innlent Horfa fram á tugmilljarða samdrátt og bíða í ofvæni eftir loðnufréttum Viðskipti innlent Gjörbreyttar kröfur og vinna ekki lengur aðeins til að hafa í sig og á Atvinnulíf „Það verður andskoti flókið“ Viðskipti innlent Fleiri fréttir Rúmlega þriðjungs samdráttur í olíuvinnslu í Rússlandi Burger King opnar fyrsta staðinn á Grænlandi Eigandinn hættir sem forstjóri Trump setur tolla á lyf, vörubíla og húsgögn Murdoch-feðgar verði meðal kaupenda TikTok Ben kveður Jerry Nálgast samkomulag um TikTok Breytingar hjá Microsoft koma fyrirtækinu hjá sektum Ellison klórar í hælana á Musk Danski lyfjarisinn að baki Ozempic segir upp þúsundum manna Útvaldi sonurinn tryggir sér stjórn Murdoch-veldisins Vilja að Musk fái allt að 122 billjónir á næsta áratug Vara við „Lafufu“ Framkvæmdastjóri Nestlé látinn fara í kjölfar ástarsambands Sjá meira
Google er eitt þeirra tæknifyrirtækja sem þróa gervigreind. Tækninni virðist hafa fleygt fram á síðustu misserum sem hefur skotið ýmsum skelk í brjóst sem óttast að gervigreind geti verið hættuleg mannkyninu. Sérfræðingar á sviðinu eru í hópi þeirra sem mæla með því að menn gangi hægt inn um gleðinnar dyr í þessum efnum. Geoffrey Hinton, sem New York Times lýsir sem guðföður gervigreindar, hefur unnið að þróun gervigreindar eins og spjallyrkisins ChatGPT undanfarna hálfa öld. Hann tilkynnti í Twitter-færslu að hann hefði sagt upp hjá Google eftir meira en áratugsstarf gagngert til þess að vara við hættunni af gervigreind. „Ég hætti til þess að ég gæti rætt um hættuna við gervigreind án þess að taka tillit til hvaða áhrif það hefði á Google,“ sagði Hinton í tísti sínu. Hinton, sem er 75 ára gamall, segir að hann hafi upphaflega talið spjallyrki Google, Microsoft og OpenAI kröftug máltæknitól sem stæðust þó ekki mönnum snúning í tungumálum. Framfarir í tækninni á undanförnum mánuðum hafi valdið honum sinnaskiptum. „Kannski er það sem gerist í þessum kerfum í raun mun betra en það sem gerist inni í heilanum,“ segir Hinton við New York Times. Drápsvélmenni gætu orðið að veruleika Sérstaklega óttast Hinton að yfir internetið flæði falsaðar myndir, myndbönd og texti sem framleiddur er með gervigreind. Meðalmaðurinn eigi ekki eftir að geta áttað sig á hvað er satt og hvað er logið lengur. Tækninni fleygi áfram í harðri samkeppni tæknirisanna sem eigi í nokkurs konar vígbúnaðarkapphlaupi sem engin leið sér að stoppa. Einnig hefur Hinton áhyggjur af því að gervigreind eigi eftir að umturna vinnumarkaðinum með tíð og tíma. Tækni geti leyst af hólmi fjölda fólks. Í fjarlægari framtíð er Hinton hræddur við að gervigreind ógni tilvist mannkynsins sjálfs vegna þess að hún öðlist oft óvænta hegðun þegar hún er mötuð á stórum gagnabönkum. Þegar einstaklingar og fyrirtæki leyfa gervigreind að skrifa sinn eiginn tölvukóða og jafnvel keyra hann sjálfri gæti sá dagur runnið upp á að drápsvélmenni úr distópískum vísindaskáldsögum verði að raunveruleika. „Sú hugmynd að þetta dót gæti í raun orðið gáfaðra en menn, sumir trúðu því. Flestir töldu að það væri langt í það. Ég hélt að það væri langt í það. ÉG hélt að það væru þrjátíu eða fimmtíu ár eða jafnvel lengra. Ég trúi því augljóslega ekki lengur,“ segir Hinton.
Bandaríkin Tækni Gervigreind Google Mest lesið Hætti korteri eftir peppfund með Möltufólkinu Viðskipti innlent Stefna á að hefja starfsemi á Möltu innan tíu vikna Viðskipti innlent Kaupfélagið á bak við risaviðskipti í Iceland Seafood Viðskipti innlent Viðkvæm staða í björgunaraðgerðum Play Europe Viðskipti innlent „Við munum gæta réttar kröfuhafa í hvívetna“ Viðskipti innlent Isavia gefur strandaglópum engin grið Viðskipti innlent Búið að greiða laun og barnabætur Viðskipti innlent Horfa fram á tugmilljarða samdrátt og bíða í ofvæni eftir loðnufréttum Viðskipti innlent Gjörbreyttar kröfur og vinna ekki lengur aðeins til að hafa í sig og á Atvinnulíf „Það verður andskoti flókið“ Viðskipti innlent Fleiri fréttir Rúmlega þriðjungs samdráttur í olíuvinnslu í Rússlandi Burger King opnar fyrsta staðinn á Grænlandi Eigandinn hættir sem forstjóri Trump setur tolla á lyf, vörubíla og húsgögn Murdoch-feðgar verði meðal kaupenda TikTok Ben kveður Jerry Nálgast samkomulag um TikTok Breytingar hjá Microsoft koma fyrirtækinu hjá sektum Ellison klórar í hælana á Musk Danski lyfjarisinn að baki Ozempic segir upp þúsundum manna Útvaldi sonurinn tryggir sér stjórn Murdoch-veldisins Vilja að Musk fái allt að 122 billjónir á næsta áratug Vara við „Lafufu“ Framkvæmdastjóri Nestlé látinn fara í kjölfar ástarsambands Sjá meira