Gervigreind og hröð og hæg hugsun Þorsteinn Siglaugsson skrifar 28. nóvember 2023 20:01 Samkvæmt gervigreindarbloggaranum Alberto Romero var upphafið að þeirri atburðarás sem átti sér stað innan OpenAI fyrirtækisins, sem þróar ChatGPT mállíkanið, fyrir um 10 dögum síðan líklega tengt ágreiningi varðandi nýja Q* (Q-Star) líkanið sem er talið geta leyst flókin stærðfræðileg vandamál, eitthvað sem núverandi stóru tungumálalíkön geta ekki gert. Forstjórinn, Sam Altman, var fyrst rekinn af stjórninni, en ráðinn aftur fáum dögum síðar og nánast öllum stjórnarmönnum skipt út. Að mati Romerosendurspeglar þessi atburður djúpstæðan ágreining milli yfirlýsts markmiðs fyrirtækisins um að þróa örugga gervigreind sem gagnast öllu mannkyni og þeirrar almennu stefnu tæknifyrirtækja að vera í fremstu röð á sínu sviði við þróun og markaðssetningu nýjunga. Þetta er kannski dæmigert fyrir það sem getur gerst þegar fyrirtæki setur sér mótsagnakennd markmið. Hvað er Q* líkanið? Fyrir nokkrum dögum birti Andrej Karpathy, sérfræðingur hjá OpenAI, myndband þar sem hann útskýrir stóru tungumálalíkönin, hvað þau eru, hvernig þau virka og hvernig þau kunna að þróast. Þetta myndband er eiginlega skylduáhorf fyrir alla sem vilja fá greinargott yfirlit yfir þessa nýju tækni. Meðal annars ræðir Karpathy Q* líkanið og mikilvægi þess. Hann lýsir getu þess með því að vísa til aðgreiningar Daniels Kahnemann milli hraðrar og hægrar hugsunar, eða þess sem hann nefnir "System 1" og "System 2" hugsun. Dæmi um "System 1" hugsun er þegar við leggjum saman tvo og tvo. Við svörum strax, notum upplýsingar sem eru til staðar í huga okkar, í skammtímaminninu. En ef dæmið er 24*47 er, geta fæstokkar svarað strax. Við þurfum að fara í "System 2", "hægu" hugsunina til þess. Eins og Karpathy útskýrir, færir Q* verkefnið stórt tungumálalíkan yfir á stig "System 2" hugsunar. Þetta er mikil framför í getu slíks líkans og markvert skref í átt að svonefndri almennri gervigreind, líkani sem stendur okkur langtum framar í getu til rökhugsunar. Það hljómar ekki ósennilega að ótti við afleiðingar þessarar þróunar og vantraust á áætlunum Altmansum hana hafi legið að baki ákvörðun stjórnarinnar. Það sem stjórnin virðist hins vegar ekki hafa áttað sig á er að á endanum býr þekkingin sem knýr fyrirtækið í hugum starfsmanna og stjórnenda, og ný tækni, hversu ógnvekjandi sem hún kann að virðast, gufar ekki upp, sama hvað stjórn eins fyrirtækis ákveður, jafnvel þótt ákvörðunin leiddi til upplausnar fyrirtækisins. Hvernig getum við brugðist við? Stóru mállíkönin munu halda áfram að þróast ogbreyta lífi okkar og við höfum aðeins séð glitta í blátoppinn á þeim ísjaka. Fram að þessu hafa líkönin aðeins verið fær um "System 1" hugsun, og samt hef ég sannreynt að þau hafa nú þegar umtalsverða getu til að meta jafnvel flóknar röklegar greiningar. Fljótlega verður þessi geta langtum meiri. Hvernig getum við brugðist við? Einu raunhæfu viðbrögðin eru þau að við gerum okkar besta til að efla okkar eigin hugsun og nýtum þessa nýju tækni til þess: Við verðum að styrkja okkar eigin málskilning og tjáningarhæfni eins og kostur er. Við verðum að efla okkar eigin getu til gagnrýninnar hugsunar. Við verðum að þjálfa okkur markvisst í samskiptum við mállíkönin. Þetta gerir enginn fyrir okkur. Við verðum að gera það sjálf, hvert og eitt. Það er verkefnið framundan. Höfundur er ráðgjafi og stjórnendaþjálfari, https://thinksharper.net. Viltu birta grein á Vísi? Sendu okkur póst. Senda grein Þorsteinn Siglaugsson Gervigreind Tækni Mest lesið Hafa íslenskir neytendur sama rétt og evrópskir? Ásthildur Lóa Þórsdóttir,Ragnar Þór Ingólfsson Skoðun Einelti er dauðans alvara Kolbrún Áslaugar Baldursdóttir Skoðun Engin eftirspurn eftir Viðreisnar- og Samfylkingarmódelinu Andri Steinn Hilmarsson Skoðun Afnám tilfærslu milli skattþrepa Breki Pálsson Skoðun Íslenska þjóð, þú ert núna að gleyma Sighvatur Björgvinsson Skoðun Það sem Njáll sagði ykkur ekki Inga Lind Karlsdóttir Skoðun Opið bréf til umhverfis-, orku- og loftslagsráðherra Bogi Ragnarsson Skoðun Tölum íslensku um bíðandi börn: Uppgjöf, svarthol og lögbrot Vigdís Gunnarsdóttir Skoðun Eru vegir fyrir ferðamenn mikilvægari en vegir fyrir fólk sem býr hér? Petrína Þórunn Jónsdóttir Skoðun Þegar heilinn sveltur: Tími til að endurhugsa stefnu í geðheilbrigðismálum Vigdís M. Jónsdóttir Skoðun Skoðun Skoðun Einelti er dauðans alvara Kolbrún Áslaugar Baldursdóttir skrifar Skoðun Hafa íslenskir neytendur sama rétt og evrópskir? Ásthildur Lóa Þórsdóttir,Ragnar Þór Ingólfsson skrifar Skoðun Sótt að réttindum kvenna — núna Svandís Svavarsdóttir skrifar Skoðun Afnám tilfærslu milli skattþrepa Breki Pálsson skrifar Skoðun Þegar heilinn sveltur: Tími til að endurhugsa stefnu í geðheilbrigðismálum Vigdís M. Jónsdóttir skrifar Skoðun Opið bréf til umhverfis-, orku- og loftslagsráðherra Bogi Ragnarsson skrifar Skoðun Íslenska þjóð, þú ert núna að gleyma Sighvatur Björgvinsson skrifar Skoðun Tölum íslensku um bíðandi börn: Uppgjöf, svarthol og lögbrot Vigdís Gunnarsdóttir skrifar Skoðun Fjórði hver vinnur í verslun og þjónustu Benedikt S. Benediktsson skrifar Skoðun Engin eftirspurn eftir Viðreisnar- og Samfylkingarmódelinu Andri Steinn Hilmarsson skrifar Skoðun Pabbar, mömmur, afar, ömmur Jón Pétur Zimsen skrifar Skoðun Vellíðan í vinnu Ingrid Kuhlman skrifar Skoðun Hefur vanfjármögnun sveitarfélaga áhrif á byggingarkostnað? Jón Ingi Hákonarson skrifar Skoðun Þar sem gervigreind er raunverulega að breyta öllu Björgmundur Örn Guðmundsson skrifar Skoðun Eru vegir fyrir ferðamenn mikilvægari en vegir fyrir fólk sem býr hér? Petrína Þórunn Jónsdóttir skrifar Skoðun Er Evrópa á villigötum? Efnahagsleg hnignun kallar á róttæka endurskoðun Eggert Sigurbergsson skrifar Skoðun Samræmd nálgun að öryggi og skilvirkni á ytri landamærum - Innleiðing EES á Íslandi Arngrímur Guðmundsson skrifar Skoðun Íslenskir flóttamenn - í okkar eigin landi Gunnar Magnús Diego skrifar Skoðun Ísrael á ekki heima á gleðileikum evrópskra sjónvarpsstöðva sem starfa í almannaþágu Stefán Jón Hafstein skrifar Skoðun Mótum framtíðina saman Jónína Hauksdóttir ,Magnús Þór Jónsson skrifar Skoðun Leikskóli þarf meira en þak og veggi. Kópavogsmódelið og Akureyrarleiðin sem leið að aukinni velferð barna Anna Elísa Hreiðarsdóttir,Svava Björg Mörk skrifar Skoðun Jákvæð áhrif dánaraðstoðar á sorgarferli aðstandenda og umönnunaraðila í Viktoríuríki í Ástralíu Ingrid Kuhlman skrifar Skoðun Kæra Epli, skilur þú mig? Lilja Dögg Jónsdóttir skrifar Skoðun Þorgerður og erlendu dómstólarnir Hjörtur J. Guðmundsson skrifar Skoðun Barnafjölskyldur í Reykjavík eiga betra skilið Þorbjörg Sigríður Gunnlaugsdóttir skrifar Skoðun Lyftum umræðunni á örlítið hærra plan Jóna Hlíf Halldórsdóttir skrifar Skoðun Lykillinn að hamingju og heilbrigði Auður Kjartansdóttir skrifar Skoðun Staða bænda styrkt Hanna Katrín Friðriksson skrifar Skoðun Transumræðan og ruglið um fjölda kynja Einar Steingrímsson skrifar Skoðun Leikskólar eru ekki munaður Íris Eva Gísladóttir skrifar Sjá meira
Samkvæmt gervigreindarbloggaranum Alberto Romero var upphafið að þeirri atburðarás sem átti sér stað innan OpenAI fyrirtækisins, sem þróar ChatGPT mállíkanið, fyrir um 10 dögum síðan líklega tengt ágreiningi varðandi nýja Q* (Q-Star) líkanið sem er talið geta leyst flókin stærðfræðileg vandamál, eitthvað sem núverandi stóru tungumálalíkön geta ekki gert. Forstjórinn, Sam Altman, var fyrst rekinn af stjórninni, en ráðinn aftur fáum dögum síðar og nánast öllum stjórnarmönnum skipt út. Að mati Romerosendurspeglar þessi atburður djúpstæðan ágreining milli yfirlýsts markmiðs fyrirtækisins um að þróa örugga gervigreind sem gagnast öllu mannkyni og þeirrar almennu stefnu tæknifyrirtækja að vera í fremstu röð á sínu sviði við þróun og markaðssetningu nýjunga. Þetta er kannski dæmigert fyrir það sem getur gerst þegar fyrirtæki setur sér mótsagnakennd markmið. Hvað er Q* líkanið? Fyrir nokkrum dögum birti Andrej Karpathy, sérfræðingur hjá OpenAI, myndband þar sem hann útskýrir stóru tungumálalíkönin, hvað þau eru, hvernig þau virka og hvernig þau kunna að þróast. Þetta myndband er eiginlega skylduáhorf fyrir alla sem vilja fá greinargott yfirlit yfir þessa nýju tækni. Meðal annars ræðir Karpathy Q* líkanið og mikilvægi þess. Hann lýsir getu þess með því að vísa til aðgreiningar Daniels Kahnemann milli hraðrar og hægrar hugsunar, eða þess sem hann nefnir "System 1" og "System 2" hugsun. Dæmi um "System 1" hugsun er þegar við leggjum saman tvo og tvo. Við svörum strax, notum upplýsingar sem eru til staðar í huga okkar, í skammtímaminninu. En ef dæmið er 24*47 er, geta fæstokkar svarað strax. Við þurfum að fara í "System 2", "hægu" hugsunina til þess. Eins og Karpathy útskýrir, færir Q* verkefnið stórt tungumálalíkan yfir á stig "System 2" hugsunar. Þetta er mikil framför í getu slíks líkans og markvert skref í átt að svonefndri almennri gervigreind, líkani sem stendur okkur langtum framar í getu til rökhugsunar. Það hljómar ekki ósennilega að ótti við afleiðingar þessarar þróunar og vantraust á áætlunum Altmansum hana hafi legið að baki ákvörðun stjórnarinnar. Það sem stjórnin virðist hins vegar ekki hafa áttað sig á er að á endanum býr þekkingin sem knýr fyrirtækið í hugum starfsmanna og stjórnenda, og ný tækni, hversu ógnvekjandi sem hún kann að virðast, gufar ekki upp, sama hvað stjórn eins fyrirtækis ákveður, jafnvel þótt ákvörðunin leiddi til upplausnar fyrirtækisins. Hvernig getum við brugðist við? Stóru mállíkönin munu halda áfram að þróast ogbreyta lífi okkar og við höfum aðeins séð glitta í blátoppinn á þeim ísjaka. Fram að þessu hafa líkönin aðeins verið fær um "System 1" hugsun, og samt hef ég sannreynt að þau hafa nú þegar umtalsverða getu til að meta jafnvel flóknar röklegar greiningar. Fljótlega verður þessi geta langtum meiri. Hvernig getum við brugðist við? Einu raunhæfu viðbrögðin eru þau að við gerum okkar besta til að efla okkar eigin hugsun og nýtum þessa nýju tækni til þess: Við verðum að styrkja okkar eigin málskilning og tjáningarhæfni eins og kostur er. Við verðum að efla okkar eigin getu til gagnrýninnar hugsunar. Við verðum að þjálfa okkur markvisst í samskiptum við mállíkönin. Þetta gerir enginn fyrir okkur. Við verðum að gera það sjálf, hvert og eitt. Það er verkefnið framundan. Höfundur er ráðgjafi og stjórnendaþjálfari, https://thinksharper.net.
Hafa íslenskir neytendur sama rétt og evrópskir? Ásthildur Lóa Þórsdóttir,Ragnar Þór Ingólfsson Skoðun
Eru vegir fyrir ferðamenn mikilvægari en vegir fyrir fólk sem býr hér? Petrína Þórunn Jónsdóttir Skoðun
Þegar heilinn sveltur: Tími til að endurhugsa stefnu í geðheilbrigðismálum Vigdís M. Jónsdóttir Skoðun
Skoðun Hafa íslenskir neytendur sama rétt og evrópskir? Ásthildur Lóa Þórsdóttir,Ragnar Þór Ingólfsson skrifar
Skoðun Þegar heilinn sveltur: Tími til að endurhugsa stefnu í geðheilbrigðismálum Vigdís M. Jónsdóttir skrifar
Skoðun Engin eftirspurn eftir Viðreisnar- og Samfylkingarmódelinu Andri Steinn Hilmarsson skrifar
Skoðun Eru vegir fyrir ferðamenn mikilvægari en vegir fyrir fólk sem býr hér? Petrína Þórunn Jónsdóttir skrifar
Skoðun Er Evrópa á villigötum? Efnahagsleg hnignun kallar á róttæka endurskoðun Eggert Sigurbergsson skrifar
Skoðun Samræmd nálgun að öryggi og skilvirkni á ytri landamærum - Innleiðing EES á Íslandi Arngrímur Guðmundsson skrifar
Skoðun Ísrael á ekki heima á gleðileikum evrópskra sjónvarpsstöðva sem starfa í almannaþágu Stefán Jón Hafstein skrifar
Skoðun Leikskóli þarf meira en þak og veggi. Kópavogsmódelið og Akureyrarleiðin sem leið að aukinni velferð barna Anna Elísa Hreiðarsdóttir,Svava Björg Mörk skrifar
Skoðun Jákvæð áhrif dánaraðstoðar á sorgarferli aðstandenda og umönnunaraðila í Viktoríuríki í Ástralíu Ingrid Kuhlman skrifar
Hafa íslenskir neytendur sama rétt og evrópskir? Ásthildur Lóa Þórsdóttir,Ragnar Þór Ingólfsson Skoðun
Eru vegir fyrir ferðamenn mikilvægari en vegir fyrir fólk sem býr hér? Petrína Þórunn Jónsdóttir Skoðun
Þegar heilinn sveltur: Tími til að endurhugsa stefnu í geðheilbrigðismálum Vigdís M. Jónsdóttir Skoðun