Ritstjórnargrein úr The Economist. Þýtt og endursagt af Margréti H.G. Björnsson
Gríðarlega hröð framþróun á sviði gervigreindar hefur vakið bæði eftirvæntingu og ótta – en hversu miklar áhyggjur ættum við að hafa?
Eigum við að láta sjálfvirkni leysa öll störf af hólmi, að meðtöldum þeim ánægjulegu?
Eigum við að halda áfram að þróa „rafheila“ sem með tímanum myndu verða margfalt fleiri og snjallari en við og endanum gera okkur óþörf?
Og eigum við að tefla á tvær hættur – en missa tökin á siðmenningunni?
Þessum spurningum var varpað fram í opnu bréfi frá frjálsu félagasamtökunum Future of Life Institute í nýliðnum mánuði. Í bréfinu birtist ákall um að gert verði hálfs árs hlé á þróun hátækni gervigreindar og undir skrifuðu þekktir frumkvöðlar úr tæknigeiranum, Elon Musk meðal annarra.
Ákall þetta er nýlegasta og skýrasta dæmið um hræðsluna sem sá mikli hraði er einkennir framþróun gervigreindar hefur haft í för með sér. Það varpar líka ljósi á áhyggjurnar yfir hættunum sem tæknin kann að valda, og þá er sérstaklega horft til risa-tungumálalíkana (hér eftir kölluð líkön) á borð við þau sem stýra ChatGPT sem er þróað af sprotafyrirtækinu OpenAI.
Tæknin sem ChatGPT byggir á er svo öflug að spjallyrkinn kom jafnvel hönnuðum sínum í opna skjöldu með óvæntri getu sem fyrirséð er að muni sífellt verða meiri. Líkanið sýndi m.a. að það gat leyst rökfræðiþrautir, ritað forrritunarmál og borið kennsl á söguþræði úr kvikmyndum með því að lesa í lyndistákn. Nú er fyrirséð að þessi líkön muni koma til með að gerbreyta þekkingu okkar, sambandinu milli manns og tölvu og jafnvel sambandinu sem tæknin á í við sjálfa sig.
Á sama tíma og málsvarar gervigreindarinnar leitast við að sýna fram á möguleika líkananna til að finna lausnir á umfangsmiklum vandamálum; til dæmis með þróun nýrra lyfja og hönnun efna sem stemma stigu við loftslagsbreytingum, eða til að skilja margbreytileika kjarnasamruna, eru aðrir sem benda á þá ógnvænlegu staðreynd að það sem hingað til hefur aðeins verið fjallað um í vísindaskáldsögum gæti orðið að ljótum veruleika áður en við vitum af. Að okkar bíði jafnvel heimur þar sem vélar hafa tekið fram úr öllum skilningi skapara sinna, -og það með skelfilegum afleiðingum.
Þessi blanda af ótta og eftirvæntingu gerir það vandasamt að vega og meta tækifærin og áhætturnar sem felast í þessari öflugu tækni, en það má draga lærdóm úr fortíðinni með því að líta til reynslu sem skapast hefur í öðrum greinum, og rifja upp með hvaða hætti tækniframfarir hafa framkallað samfélagslegar breytingar.
Í sérstökum vísindadálki ætlum við að fjalla um verkefni og viðfangsefni gervigreindarinnar og leita svara við því hvers má vænta í framtíðinni. Við munum leitast við að skýra orsakir þess að gervigreindin tók þetta gríðarlegt stökk og reyna að leggja mat á hvað teljast eðlilegar áhyggjur þegar kemur að þessari öru framþróun. Einnig veltum við því upp með hvaða hætti ríkisstjórnir geta brugðist við.
Upphaf gervigreindartækninnar eins og hún birtist í dag má rekja aftur um tíu ár þegar hafist var handa við að mata líkönin með æfingagögnum. Þegar gagnamagnið varð nægilega mikið urðu þau fær um að greina myndefni og afrita talað mál. Í dag eru æfingagögnin óþörf því vélarnar eru mataðar úr mikið stærri gagnagrunnum og í raun geta þær nú moðað úr þessum óendanlega hafsjó af gögnum sem hafa safnast upp á internetinu sem útskýrir fordæmalausa getu.
Þegar spjallyrkinn ChatGPT kom á netið í nóvember fékk almenningur beinan aðgang að tækninni og eftir eina viku höfðu milljón manns notað kerfið. Tveimur mánuðum síðar var talan komin upp í hundrað milljónir og ekki leið á löngu þar til fólk var byrjað að láta líkanið semja fyrir sig veisluræður og skólaritgerðir.
Eftir því sem vinsældir ChatGPT færðust í vöxt, og þegar Microsoft innleiddi tungumálalíkan í leitarvélina Bing, skutu keppinautarnir upp kollinum svo fleiri spjallyrkjar birtust á netinu en svörin sem sumir komu með voru afar undarleg. Spjallyrki Bing ráðlagði t.d. blaðamanni að skilja við konuna sína og ónefndur lagaprófessor hefur sakað ChatGPT um meiðyrði. Svörin fela í sér snefil af sannleika, en oft eru þau yfirfull af staðreyndarvillum og hreinum uppspuna.
Samt sem áður hafa tæknirisar á borð við Microsoft, Google og fleiri, innleitt tæknina í sínar afurðir til að auðvelda notendum að búa til skjöl og leysa önnur verkefni. Menn hafa raunverulegar áhyggjur af því að hraðinn, aðgengi almennings og aflið sem gervigreindin býður nú upp á geti haft í för með sér að missum stjórnina á henni og því er kallað eftir hléi. Gervigreindin gæti nefnilega ekki aðeins vegið að staðreyndum og störfum, og teflt orðspori í hættu, heldur ógnað öllu mannkyninu.
Útrýming? Uppreisn?
Óttinn við að vélar útrými störfum hefur verið til staðar um aldir en hingað til hafa alltaf skapast ný störf í stað þeirra sem hverfa. En þar sem vélar leysa ekki öll verkefni myndast alltaf eftirspurn eftir fólki sem getur leyst verkefnin sem vélarnar ráða ekki við.
En skyldi annað verða uppi á teningnum í þetta sinn?
Þó róttækra breytinga hafi enn ekki orðið vart á vinnumarkaði þá er ekki hægt að útiloka að slíkt gæti gerst. Fjórða iðbyltingin hefur hingað til aðeins gefið af sér tækniafurðir sem geta leyst ófaglært starfsfólk af hólmi en tungumálalíkön getur komið í stað skrifstofufólks og leyst ákveðin verkefni eins og t.d. að draga saman innihald úr skjölum og skrifa forritunarmál.
Sérfræðingar eru ekki allir á eitt sáttir um hversu um hversu mikið okkur ber að óttast gervigreindina og heitar umræður hafa skapast um þetta mál. Í könnun sem gerð var á viðhorfum þeirra sem vinna við rannsóknir á gervigreind sýndi niðurstaða að 48% reiknuðu með að að minnsta kosti 10% líkur væru á „skelfilegum afleiðingum“ (að tæknin eigi eftir að útrýma mannkyninu). 25% töldu að áhættan væri engin en miðgildið mat áhættuna 5%.
Martraðarkenndasta sviðsmyndin er sú að gervigreindin gæti tekið upp á því að búa til vírusa eða eitur, eða byrjað að sannfæra fólk um að fremja hryðuverk. Mögulega væri ásetningurinn ekki illur í sjálfu sér, en áhyggjur vísindafólksins snúast í grunninn um að gervigreind framtíðarinnar gæti haft önnur markmið en upphaflega var til ætlast af þeim sem bjuggu til þessa tækni.
Þó sviðsmyndirnar feli allar í sér miklar ágiskanir og ályktanir, og tengist ekki gervigreindartækninni sem við sjáum í dag, er ekki rétt að líta framhjá því að þetta gæti gerst. Sumir sjá fyrir sér að gervigreindin komi til með að fá óhindraðan aðgang að bæði peningum, orku og tölvuafli en það eru helstu fyrirstöður framþróunarinnar núna, og verða það hugsanlega áfram í þeim tilvikum þar sem tæknin gæti reynst hættuleg. Sérfræðingar hafa einnig tilhneigingu til að ofmeta áhættur á eigin sérsviði samanborið við hlutlausari álitsgjafa (Elon Musk er t.d. í startholunum með nýtt sprotafyrirtæki á sviði gervigreindar og gæti séð hag í því að samkeppnisaðilar snúi sér að öðru).
Að koma á fót stífum reglugerðum, eða gera hlé á framþróun, gætu hugsanlega virkað sem of hörð viðbrögð, og þar að auki gæti reynst ógerningur að framfylgja reglunum en engu að síður er þörf á þeim þó tilefnið til að koma þeim á snúist ekki um að sporna við útrýmingu mannkyns. Líkönin, sem leysa nú hin ýmsu verkefni fyrir almenning, eru jú mötuð á gögnum sem liggja fyrir á netinu og það hefur orsakað fordæmalaus vandamál þegar kemur að höfunda – og hugverkarétti, persónuvernd og hlutdrægni svo eitthvað sé nefnt.
Eftir því sem gervigreindartækninni fleygir fram má reikna með fleiri áskorunum en lykillinn að lausninni er fólgin í að vega stöðugt og meta kosti á móti áhættum, og vera tilbúin til að aðlagast. Fram til þessa hafa ríkisstjórnir í Bretlandi, Evrópu og Bandaríkjunum valið að fara þrjár mismunandi leiðir: Í stað þess að móta nýjar reglugerðir tóku Bretar létt á málaflokknum og heimfærðu eldri reglugerðir yfir á gervigreindartæknina í þeirri von um að laða að fjárfesta og koma Bretlandi á toppinn á þessu sviði.
Stjórn Bidens Bandaríkjaforseta valdi svipaða leið en nú er kallað eftir áliti almennings um hvernig reglugerðir sem snúa að gervigreind ættu að líta út. Hjá Evrópusambandinu hefur verið tekið harðast á málinu. Lagðar hafa verið fram tillögur um sérstaka lagaflokka sem eru samdir út frá áhættuþáttum mismunandi sviða sem rúmast undir víðfemu sviði tækninnar.
Gerðar eru kröfur um strangara eftirlit og upplýsingagjöf eftir því sem áhætturnar færast í aukana á mismunandi sviðum, en sviðin spanna allt frá sjálfkeyrandi bílum yfir í tónlistarforrit sem beina uppástungum að notendum. Þá hafa sumar lausnir sem byggjast á gervigreind verið bannaðar með öllu en af þeim má til dæmis nefna auglýsingar sem beint er að neðri mörkum meðvitaðrar skynjunar og aðferðir til að bera kennsl á líffræðileg auðkenni með fjarstýringartækni. Fyrirtæki sem framfylgja ekki þessum reglum munu fá sektir.
Sumum gagnrýnendum þykja reglurnar hamlandi en aðrir vilja meina að það sé tilefni til að taka enn fastar á málinu.
Fram hefur komið sú hugmynd að meðhöndla gervigreind með svipuðum ferlum og þegar lyf eru sett á markað, það er að segja með eftirlitsstofnunum, ströngum prófunum og samþykki matsnefnda . Í Kína er slíkum nálgunum beitt upp að einhverju marki, en þar þrufa framleiðendur að skrásetja vörur sem eru þróaðar með gervigreind og komast í gegn um öryggisskoðun áður en þær fá að fara inn á markað. Leiða mætti þó líkur að því að öryggisþátturinn skipti minna máli en pólitík í þessu dæmi því meginreglan hjá Kínverjum er sú að gervigreindarþróaðar vörur þurfa að endurspegla „grunngildi jafnaðarstefnunnar“.
Hvað er til ráða?
Að öllum líkindum mun létta leiðin sem Bretar hafa valið ekki duga til. Ef gervigreindartæknin kemur til með að reynast mönnum jafn ómissandi og lyf, bílar og flugvélar (og það er full ástæða til að reikna með að svo verði) þá kallar það með sama hætti á að sérstök lög verði búin til í kring um hana. Evrópusambandið kemst næst því að vera á réttri leið þó flokkunarkerfið sem nú er til staðar sé full flókið og nálgun sem byggð væri á meginreglum yrði sveigjanlegri.
Kröfur um gagnsæi þegar kemur að þjálfun og þróun vélanna, samfelld upplýsingagjöf og staðlað eftirlit myndi vera sambærilegt við það sem þegar tíðkast í öðrum iðngreinum en með tímanum gæti þurft að herða reglurnar á einhverjum sviðum. Sérhæfðar eftirlitsstofnanir gætu komið til og einnig milliríkjasamningar, svipaðir þeim sem gilda um kjarnorkuvopn, ef vísbendingar um raunverulega ógn myndu gera vart við sig.
Til að stuðla að réttu aðhaldi gætu ríkisstjórnir komið sér saman um stofnun sem væri sambærileg við Cern, Kjarnarannsóknarstofnun Evrópu en starfsemi slíkrar stofnunar myndi snúast um rannsóknir sem snúa að siðferðis – og öryggisþáttum gervigreindartækninnar enda ekki mikill hvati fyrir einkaaðila og fyrirtæki að leggja fjármuni í slíkt, þó samfélaginu sé þörf á því.
Gervigreindinni fylgja nýjar hættur en á sama tíma býður tæknin upp á gífurlega möguleika. Til að finna rétta jafnvægið þarna á milli verður að stíga varlega til jarðar.
Með mjög yfirvegaðri nálgun er hægt að hefjast handa við að móta grunninn sem reglur framtíðarinnar munu byggðar á – en sú vinna þarf að hefjast í dag.
Skildu eftir svar