Gervigreind og hröð og hæg hugsun Þorsteinn Siglaugsson skrifar 28. nóvember 2023 20:01 Samkvæmt gervigreindarbloggaranum Alberto Romero var upphafið að þeirri atburðarás sem átti sér stað innan OpenAI fyrirtækisins, sem þróar ChatGPT mállíkanið, fyrir um 10 dögum síðan líklega tengt ágreiningi varðandi nýja Q* (Q-Star) líkanið sem er talið geta leyst flókin stærðfræðileg vandamál, eitthvað sem núverandi stóru tungumálalíkön geta ekki gert. Forstjórinn, Sam Altman, var fyrst rekinn af stjórninni, en ráðinn aftur fáum dögum síðar og nánast öllum stjórnarmönnum skipt út. Að mati Romerosendurspeglar þessi atburður djúpstæðan ágreining milli yfirlýsts markmiðs fyrirtækisins um að þróa örugga gervigreind sem gagnast öllu mannkyni og þeirrar almennu stefnu tæknifyrirtækja að vera í fremstu röð á sínu sviði við þróun og markaðssetningu nýjunga. Þetta er kannski dæmigert fyrir það sem getur gerst þegar fyrirtæki setur sér mótsagnakennd markmið. Hvað er Q* líkanið? Fyrir nokkrum dögum birti Andrej Karpathy, sérfræðingur hjá OpenAI, myndband þar sem hann útskýrir stóru tungumálalíkönin, hvað þau eru, hvernig þau virka og hvernig þau kunna að þróast. Þetta myndband er eiginlega skylduáhorf fyrir alla sem vilja fá greinargott yfirlit yfir þessa nýju tækni. Meðal annars ræðir Karpathy Q* líkanið og mikilvægi þess. Hann lýsir getu þess með því að vísa til aðgreiningar Daniels Kahnemann milli hraðrar og hægrar hugsunar, eða þess sem hann nefnir "System 1" og "System 2" hugsun. Dæmi um "System 1" hugsun er þegar við leggjum saman tvo og tvo. Við svörum strax, notum upplýsingar sem eru til staðar í huga okkar, í skammtímaminninu. En ef dæmið er 24*47 er, geta fæstokkar svarað strax. Við þurfum að fara í "System 2", "hægu" hugsunina til þess. Eins og Karpathy útskýrir, færir Q* verkefnið stórt tungumálalíkan yfir á stig "System 2" hugsunar. Þetta er mikil framför í getu slíks líkans og markvert skref í átt að svonefndri almennri gervigreind, líkani sem stendur okkur langtum framar í getu til rökhugsunar. Það hljómar ekki ósennilega að ótti við afleiðingar þessarar þróunar og vantraust á áætlunum Altmansum hana hafi legið að baki ákvörðun stjórnarinnar. Það sem stjórnin virðist hins vegar ekki hafa áttað sig á er að á endanum býr þekkingin sem knýr fyrirtækið í hugum starfsmanna og stjórnenda, og ný tækni, hversu ógnvekjandi sem hún kann að virðast, gufar ekki upp, sama hvað stjórn eins fyrirtækis ákveður, jafnvel þótt ákvörðunin leiddi til upplausnar fyrirtækisins. Hvernig getum við brugðist við? Stóru mállíkönin munu halda áfram að þróast ogbreyta lífi okkar og við höfum aðeins séð glitta í blátoppinn á þeim ísjaka. Fram að þessu hafa líkönin aðeins verið fær um "System 1" hugsun, og samt hef ég sannreynt að þau hafa nú þegar umtalsverða getu til að meta jafnvel flóknar röklegar greiningar. Fljótlega verður þessi geta langtum meiri. Hvernig getum við brugðist við? Einu raunhæfu viðbrögðin eru þau að við gerum okkar besta til að efla okkar eigin hugsun og nýtum þessa nýju tækni til þess: Við verðum að styrkja okkar eigin málskilning og tjáningarhæfni eins og kostur er. Við verðum að efla okkar eigin getu til gagnrýninnar hugsunar. Við verðum að þjálfa okkur markvisst í samskiptum við mállíkönin. Þetta gerir enginn fyrir okkur. Við verðum að gera það sjálf, hvert og eitt. Það er verkefnið framundan. Höfundur er ráðgjafi og stjórnendaþjálfari, https://thinksharper.net. Viltu birta grein á Vísi? Sendu okkur póst. Senda grein Þorsteinn Siglaugsson Gervigreind Tækni Mest lesið Nú þarf að gyrða sig í brók Gunnlaugur Stefánsson Skoðun Þriggja stiga þögn Bjarni Karlsson Skoðun Lesblindir og stuðningur í skólum Snævar Ívarsson Skoðun Skóli án aðgreiningar – fallegt orðalag en brotakennd framkvæmd Sóldís Birta Reynisdóttir Skoðun Skýr stefna um málfrelsi Róbert H. Haraldsson Skoðun Börn í gámaskólum á meðan bæjarskrifstofur stækka – hvar er forgangsröðin? Ásgeir Elvar Garðarsson Skoðun Hvers vegna sífellt fleiri sækjast eftir einveru Ingrid Kuhlman Skoðun Framtíð nemenda í Kópavogi í fyrsta sæti Halla Björg Evans Skoðun Olíuleit á Drekasvæði - tilvistarleit Halldór Reynisson Skoðun Umbætur á skólakerfinu. Hættum að ljúga. Hættum því alveg og hættum því strax Atli Harðarson Skoðun Skoðun Skoðun Hvers vegna sífellt fleiri sækjast eftir einveru Ingrid Kuhlman skrifar Skoðun Þriggja stiga þögn Bjarni Karlsson skrifar Skoðun Nú þarf að gyrða sig í brók Gunnlaugur Stefánsson skrifar Skoðun Lesblindir og stuðningur í skólum Snævar Ívarsson skrifar Skoðun Skóli án aðgreiningar – fallegt orðalag en brotakennd framkvæmd Sóldís Birta Reynisdóttir skrifar Skoðun Rýnt í stöðu kvenna með örorkulífeyri Huld Magnúsdóttir skrifar Skoðun Brot sem fyrnast í höndum lögreglu – hversu mörg í viðbót? Þórhildur Gyða Arnarsdóttir skrifar Skoðun Olíuleit á Drekasvæði - tilvistarleit Halldór Reynisson skrifar Skoðun Kosningar í september Guðveig Lind Eyglóardóttir skrifar Skoðun Þegar orkuöflun er sett á ís - dæmið frá Suður-Afríku Hallgrímur Óskarsson skrifar Skoðun Framtíð nemenda í Kópavogi í fyrsta sæti Halla Björg Evans skrifar Skoðun Skýr stefna um málfrelsi Róbert H. Haraldsson skrifar Skoðun Heilsufarsmat á vinnustöðum: Góð fjárfesting í heilbrigði og vellíðan starfsfólks Gígja Valgerður Harðardóttir skrifar Skoðun Munar þig um 5-7 milljónir árlega? Jón Pétur Zimzen skrifar Skoðun Keldnaland – fjölmenn hverfi í mótun Þorsteinn R. Hermannsson skrifar Skoðun Eflum traustið Helgi Áss Grétarsson,Marta Guðjónsdóttir skrifar Skoðun Börn í gámaskólum á meðan bæjarskrifstofur stækka – hvar er forgangsröðin? Ásgeir Elvar Garðarsson skrifar Skoðun Hver er kjarninn í samfélagi sem selur hjarta sitt? Trausti Breiðfjörð Magnússon skrifar Skoðun Seljum börnum nikótín! Hugi Halldórsson skrifar Skoðun Sundrung á vinstri væng Jökull Sólberg Auðunsson skrifar Skoðun Þegar samfélagið missir vinnuna Hrafn Splidt Þorvaldsson skrifar Skoðun Akademískt frelsi og ókurteisi Kolbeinn H. Stefánsson skrifar Skoðun Hvar liggur ábyrgð hins fullorðna á hegðun ungmenna í samfélaginu? Rakel Guðbjörnsdóttir skrifar Skoðun Yfir hverju er verið að brosa? Árni Kristjánsson skrifar Skoðun Umbætur á skólakerfinu. Hættum að ljúga. Hættum því alveg og hættum því strax Atli Harðarson skrifar Skoðun Stjórnvöld sem fjárfestatenglar Baldur Thorlacius skrifar Skoðun Ákall til ESB-sinna: Hvar eru undanþágurnar? Einar Jóhannes Guðnason skrifar Skoðun Er ég ömurlegt foreldri ef ég segi nei við barnið mitt? Stefán Þorri Helgason skrifar Skoðun Vindorkuvæðing í skjóli nætur Kristín Helga Gunnarsdóttir skrifar Skoðun Þátttökuverðlaun Þórdísar Ragnar Þór Pétursson skrifar Sjá meira
Samkvæmt gervigreindarbloggaranum Alberto Romero var upphafið að þeirri atburðarás sem átti sér stað innan OpenAI fyrirtækisins, sem þróar ChatGPT mállíkanið, fyrir um 10 dögum síðan líklega tengt ágreiningi varðandi nýja Q* (Q-Star) líkanið sem er talið geta leyst flókin stærðfræðileg vandamál, eitthvað sem núverandi stóru tungumálalíkön geta ekki gert. Forstjórinn, Sam Altman, var fyrst rekinn af stjórninni, en ráðinn aftur fáum dögum síðar og nánast öllum stjórnarmönnum skipt út. Að mati Romerosendurspeglar þessi atburður djúpstæðan ágreining milli yfirlýsts markmiðs fyrirtækisins um að þróa örugga gervigreind sem gagnast öllu mannkyni og þeirrar almennu stefnu tæknifyrirtækja að vera í fremstu röð á sínu sviði við þróun og markaðssetningu nýjunga. Þetta er kannski dæmigert fyrir það sem getur gerst þegar fyrirtæki setur sér mótsagnakennd markmið. Hvað er Q* líkanið? Fyrir nokkrum dögum birti Andrej Karpathy, sérfræðingur hjá OpenAI, myndband þar sem hann útskýrir stóru tungumálalíkönin, hvað þau eru, hvernig þau virka og hvernig þau kunna að þróast. Þetta myndband er eiginlega skylduáhorf fyrir alla sem vilja fá greinargott yfirlit yfir þessa nýju tækni. Meðal annars ræðir Karpathy Q* líkanið og mikilvægi þess. Hann lýsir getu þess með því að vísa til aðgreiningar Daniels Kahnemann milli hraðrar og hægrar hugsunar, eða þess sem hann nefnir "System 1" og "System 2" hugsun. Dæmi um "System 1" hugsun er þegar við leggjum saman tvo og tvo. Við svörum strax, notum upplýsingar sem eru til staðar í huga okkar, í skammtímaminninu. En ef dæmið er 24*47 er, geta fæstokkar svarað strax. Við þurfum að fara í "System 2", "hægu" hugsunina til þess. Eins og Karpathy útskýrir, færir Q* verkefnið stórt tungumálalíkan yfir á stig "System 2" hugsunar. Þetta er mikil framför í getu slíks líkans og markvert skref í átt að svonefndri almennri gervigreind, líkani sem stendur okkur langtum framar í getu til rökhugsunar. Það hljómar ekki ósennilega að ótti við afleiðingar þessarar þróunar og vantraust á áætlunum Altmansum hana hafi legið að baki ákvörðun stjórnarinnar. Það sem stjórnin virðist hins vegar ekki hafa áttað sig á er að á endanum býr þekkingin sem knýr fyrirtækið í hugum starfsmanna og stjórnenda, og ný tækni, hversu ógnvekjandi sem hún kann að virðast, gufar ekki upp, sama hvað stjórn eins fyrirtækis ákveður, jafnvel þótt ákvörðunin leiddi til upplausnar fyrirtækisins. Hvernig getum við brugðist við? Stóru mállíkönin munu halda áfram að þróast ogbreyta lífi okkar og við höfum aðeins séð glitta í blátoppinn á þeim ísjaka. Fram að þessu hafa líkönin aðeins verið fær um "System 1" hugsun, og samt hef ég sannreynt að þau hafa nú þegar umtalsverða getu til að meta jafnvel flóknar röklegar greiningar. Fljótlega verður þessi geta langtum meiri. Hvernig getum við brugðist við? Einu raunhæfu viðbrögðin eru þau að við gerum okkar besta til að efla okkar eigin hugsun og nýtum þessa nýju tækni til þess: Við verðum að styrkja okkar eigin málskilning og tjáningarhæfni eins og kostur er. Við verðum að efla okkar eigin getu til gagnrýninnar hugsunar. Við verðum að þjálfa okkur markvisst í samskiptum við mállíkönin. Þetta gerir enginn fyrir okkur. Við verðum að gera það sjálf, hvert og eitt. Það er verkefnið framundan. Höfundur er ráðgjafi og stjórnendaþjálfari, https://thinksharper.net.
Skóli án aðgreiningar – fallegt orðalag en brotakennd framkvæmd Sóldís Birta Reynisdóttir Skoðun
Börn í gámaskólum á meðan bæjarskrifstofur stækka – hvar er forgangsröðin? Ásgeir Elvar Garðarsson Skoðun
Umbætur á skólakerfinu. Hættum að ljúga. Hættum því alveg og hættum því strax Atli Harðarson Skoðun
Skoðun Skóli án aðgreiningar – fallegt orðalag en brotakennd framkvæmd Sóldís Birta Reynisdóttir skrifar
Skoðun Brot sem fyrnast í höndum lögreglu – hversu mörg í viðbót? Þórhildur Gyða Arnarsdóttir skrifar
Skoðun Heilsufarsmat á vinnustöðum: Góð fjárfesting í heilbrigði og vellíðan starfsfólks Gígja Valgerður Harðardóttir skrifar
Skoðun Börn í gámaskólum á meðan bæjarskrifstofur stækka – hvar er forgangsröðin? Ásgeir Elvar Garðarsson skrifar
Skoðun Hvar liggur ábyrgð hins fullorðna á hegðun ungmenna í samfélaginu? Rakel Guðbjörnsdóttir skrifar
Skoðun Umbætur á skólakerfinu. Hættum að ljúga. Hættum því alveg og hættum því strax Atli Harðarson skrifar
Skóli án aðgreiningar – fallegt orðalag en brotakennd framkvæmd Sóldís Birta Reynisdóttir Skoðun
Börn í gámaskólum á meðan bæjarskrifstofur stækka – hvar er forgangsröðin? Ásgeir Elvar Garðarsson Skoðun
Umbætur á skólakerfinu. Hættum að ljúga. Hættum því alveg og hættum því strax Atli Harðarson Skoðun