Kynning

Mikið er skrifað og rætt um gervigreind (AI). Sumir eru mjög jákvæðir á meðan aðrir boða dómsdag. Sumir segja hana vera endanlegan frelsara mannkyns, á meðan aðrir segja að hún muni binda enda á siðmenninguna eins og við þekkjum hana. Hún hefur verið lofuð sem aflvaki og fullkominn tímasparnaður. Ég tek varkárari nálgun og mæli með því að þú gerir það sama. Ég hef ekkert á móti gervigreindartækni þegar hún er notuð rétt. Ég óttast að fólk sé að flýta sér inn í þessa nýju tækni án þess að átta sig á takmörkunum hennar og sé blindt á hætturnar, bæði hvað varðar öryggi og persónuvernd.

Svo það sé tekið fram, þá nota ég spjallmenni mikið. Ég skipti á milli CoPilot, Claude, ChatGPT og Le Chat til að skilja hvernig þau eru ólík, hvar þau skara fram úr og hvar þau koma til stuttar. Fylgstu með sérstakri blogggrein um það síðar á árinu.

Ég nota hana sem aðstoðarmann eða starfsnema. Ég læt hana safna gögnum fyrir mig, hanna uppsetningar o.s.frv. Ég sannreyni allar staðreyndir og tölur sem hún gefur mér, athuga heimildirnar sem hún gefur upp og ákveð hvað á að fylgja með og hverju á að sleppa.

Ég treysti henni ekki enn fyrir aðgangi að neinum af kerfum mínum eða reikningum.

Með þeim formála skulum við kafa ofan í smáatriðin. (sjá tilvísanir neðst)

Skilgreiningar

Áður en við köfum ofan í smáatriðin skulum við ræða nokkur lykilhugtök á sviði gervigreindar.

• Stór mállíkön (LLM): Reikniritsgrundvöllur fyrir spjallmenni og skapandi gervigreind (IBM, 2023) (Mearian, 2024) (Wikipedia, 2025)
• Spjallmenni: Forrit á ýmsum vefsíðum sem nota gervigreind og stór mállíkön til að eiga samskipti við viðskiptavini og reyna að svara spurningum þeirra án mannlegrar íhlutunar.
• Sértæk gervigreind (Artificial Narrow Intelligence), einnig þekkt sem veik gervigreind, er eina tegund gervigreindar sem er til í dag. Öll önnur form gervigreindar eru fræðileg eða vísindaskáldskapur. Hægt er að þjálfa hana til að framkvæma eitt afmarkað verkefni, oft (en ekki alltaf) á skilvirkari og hraðari hátt en mannshugurinn getur. Hins vegar er hún ekki fær um sjálfstæða hugsun, né getur hún farið út fyrir þjálfun sína (IBM, 2023).
• Almenn gervigreind (AGI), einnig kölluð sterk gervigreind, er fræðilegt form gervigreindar sem getur lært, hugsað og framkvæmt fjölbreytt verkefni á mannlegu stigi, þar á meðal sjálfstætt. Lokamarkmið almennrar gervigreindar er að búa til vélar sem búa yfir fjölhæfri greind á borð við menn og starfa sem mjög aðlögunarhæfir aðstoðarmenn í daglegu lífi. (IBM, 2023) (Wikipedia, 2025)
• Ofurgervigreind (Super AI), einnig þekkt sem „artificial superintelligence“, er eingöngu fræðileg, líkt og almenn gervigreind. Ef hún yrði einhvern tíma að veruleika myndi ofurgervigreind hugsa, rökræða, læra, dæma og búa yfir vitsmunalegri getu sem fer fram úr getu manna. (IBM, 2023)
• Skapandi gervigreind: Undirtegund sértækrar gervigreindar sem er sérstaklega hönnuð til að búa til texta, myndir eða annað efni byggt á LLM-reikniriti sínu sem spáir fyrir um hvaða orð tengjast umbeðnu efni mest og hvaða orð eigi að tengja saman til að mynda skiljanlega setningu. (Wikipedia, 2025)

Vísindaskáldskapur

Eins og gefið er í skyn hér að ofan er allt annað en sértæk (einnig kölluð veik) gervigreind eingöngu fræðilegt og vísindaskáldskapur á þessum tímapunkti. Því eru allar dómsdagsspár í anda Tortímandans dálítið ótímabærar, sem og hjálpsamir vélmenni eins og sjást í Jetzon-fjölskyldunni. Sölufólk og leiðtogar gervigreindarfyrirtækja eins og OpenAI, Anthropic og Mistral halda því fram að almenn gervigreind (AGI) verði fáanleg árið 2027. Sérfræðingarnir sem ég hlusta á hafa tilhneigingu til að vera ósammála og segja að almenn gervigreind muni ekki líta dagsins ljós í að minnsta kosti 50 ár, ef nokkurn tíma, og að hún krefjist byltingarkenndrar stærðfræði eða nýrra vísinda sem ekki eru enn þekkt til að gera hana jafnvel fjarstæðukennt mögulega. Ég fylgi sérfræðingunum í þeirri trú að vísindaskáldskapar-gervigreind sé nokkrum kynslóðum í burtu. Hvort gervigreind verði eyðileggjandi eða hjálpleg á eftir að koma í ljós og mun að miklu leyti ráðast af því hvernig samfélagið í heild þróast á meðan. Ég tel að hún muni virka sem aflvaki sem magnar upp samfélagsleg viðmið.

Ég vonast eftir kærleiksríku, umhyggjusömu og samvinnufúsu samfélagi, sem almenn gervigreind mun endurspegla.

Sum stór mállíkön eru orðin mjög góð í að túlka óljósar leiðbeiningar og fólk er að ýkja þetta sem sjálfstæða virkni, sem það er ekki. Mállíkönin eru að fá betri forritun og stærri líkön, sem gerir þeim kleift að túlka meira.

Í stuttu máli eru stór mállíkön dagsins í dag ekkert annað en mjög háþróuð sjálfvirk textafylling. Þau taka leiðbeiningar þínar og beita tölfræðilegri greiningu til að túlka hvað þú vilt, og nota síðan sömu tölfræðilegu greiningu til að finna út hvaða texti meikar mestan sens. Þau eru góð í að leita á netinu og finna rétta svarið við fyrirspurn þinni; það rétta svar gæti verið bloggfærsla eða Reddit-færsla frá alvitringi sem veit í raun ekkert um efnið. Ef hún finnur ekki svar mun hún einfaldlega skálda eitthvað.

Ofurvæntingarnar

Eins og útskýrt er hér að ofan eru miklar ofurvæntingar í kringum gervigreindarsviðið; hingað til er þetta að mestu leyti hæp með litlu innihaldi, alveg eins og gervigreindarsviðið er að mestu leyti gervi og lítil sem engin greind.

Ég hef ekki séð ofurvæntingavélina svona öfluga og upptekna síðan allir voru að missa sig yfir NFT. Að minnsta kosti er innihald á bak við hæpið að þessu sinni; það stendur bara ekki fyllilega undir væntingunum. Hún er stórkostleg þegar hún er notuð rétt, en hættuleg þegar hún er notuð rangt.

Raunveruleikinn

Raunveruleikinn er sá að stórt mállíkan er ekkert annað en mjög fágað tölfræðilegt mállíkan. Líkan sem notar tölfræði til að finna tengingar á milli orða. Sértæk gervigreind skilur ekki tungumál; hún er með tölfræðilegt líkan af því hvernig tungumál virka.

Við skulum ræða hvað sértæk gervigreind getur gert fyrir okkur í dag, hvar hún skara fram úr og hvar hún kemur til stuttar, ásamt nokkrum hugsanlegum hættum sem gott er að vera meðvitaður um.

Hætturnar

Tökumst á við hætturnar fyrst. Eins og vikið var að hér að ofan er gervigreind engin töfralausn; hún verður að vera þjálfuð fyrir ákveðin verkefni, svo eðlilega skara hún aðeins fram úr á þeim tilteknu sviðum. Stærsta hættan sem ég sé marga falla í er að halda að hún sé töfralausn sem muni leysa allt, það sem ég kalla hættuna á oftrausti. Þetta er dálítið eins og „ég er með hamar, svo allt er nagli“ staða. Tilraunir til að nota gervigreind í verkefni sem hún hefur ekki verið sérstaklega þjálfuð í munu aldrei enda vel, og það sama á við um oftraust á hvaða gervigreindartæki sem er. Að treysta niðurstöðu gervigreindartækis án spurninga mun leiða til ófara. Notaðu aldrei niðurstöðu gervigreindartækis beint sem inntak í annað tæki án mannlegs eftirlits ef þú vilt forðast vandamál.

Að halda að hún muni alltaf gefa þér staðreyndarétt svar getur verið banvænt, bæði í óeiginlegri og bókstaflegri merkingu.

Það er vandamál sem hefur verið kallað ofskynjanir (hallucinations). Hins vegar eru deildar meiningar um nákvæmni þess hugtaks, þar sem það gefur til kynna vitsmunalega hæfileika sem gervigreind getur ekki búið yfir í dag. Hvort sem okkur líkar hugtakið „ofskynjanir“ eða ekki, þá vísar það til aðstæðna þar sem spjallmennið býr til skáldað svar án nokkurrar stoðar í raunveruleikanum og kynnir það sem áreiðanlegt og sannleikanum samkvæmt. Eftir því sem ég best veit er þetta verulegt vandamál hjá öllum opinberlega aðgengilegum gervigreindartækjum, og þess vegna ætti maður ekki að treysta neinu núverandi gervigreindartæki án fyrirvara; flest þeirra innihalda fyrirvara um þetta. Þetta fyrirbæri hefur einnig sést í samantektum á texta, þar sem texti birtist í samantektinni sem er ekki til staðar í upprunalega, lengra skjalinu.

Hversu stórt vandamál þetta verður fyrir þig er mjög mismunandi. Nákvæmni svarsins frá stóru mállíkani er í beinu samhengi við magn gagna um það efni sem líkanið var þjálfað á. Ef einu tiltæku gögnin eru færsla frá einhverjum handahófskenndum gaur á Reddit, þá verður það uppspretta staðreynda fyrir líkanið. Ef það finnur engin upprunagögn mun það nota tölfræðilíkan sitt til að áætla líklegasta svarið.

Hin hættan við spjallmenni og önnur form gervigreindar er að allt inntak er vistað í mállíkani þess mennis. Þannig að ef þú setur séreignarupplýsingar inn í opinbert spjallmenni til að athuga málfræði eða stafsetningu, draga saman eða umorða, þá ertu nýbúinn að birta þær upplýsingar opinberlega, alveg eins og ef þú hefðir sett skjalið á opinbera vefsíðu. Jafnvel það eitt að spyrja spurningar um viðkvæmt efni getur verið vísbending. Það er virkilega skelfilegt hversu mikið hún veit um þig eftir nokkra notkun. Þetta á við óháð því tæki sem um ræðir. Vertu varkár með Microsoft Copilot, Google Gemini og svipuð tæki þegar kemur að séreignarupplýsingum. Öll tæki sem halda því fram að þau séu með innbyggða gervigreind, sem eru nánast öll tæki þessa dagana, ætti að skoða með tortryggni.

Til að setja þetta í samhengi, ef þú þekkir Reddit, StackExchange og aðra spjallborðstengda samfélagsmiðla eða stuðningssíður, þá hefur það að spyrja stórt mállíkan sömu friðhelgi og að birta spurninguna á þeim spjallborðum.

Eina undantekningin frá þessu sem ég veit um er Proton Lumo, sem tekur beinlínis fram að það læri ekki af samskiptum þínum eða geymi spurningar þínar utan dulkóðaða reikningsins þíns. Ókosturinn við Proton Lumo er að það lærir ekki af samskiptum notenda, sem getur gert það takmarkaðra.

Hvar hún skara fram úr

Spjallmenni og önnur form veikrar gervigreindar skara fram úr sem háþróaðar leitarvélar, að því tilskildu að þau séu notuð á sama hátt og hefðbundnar leitarvélar eru notaðar í dag. Þetta þýðir að þú notar spjallmennið til að finna eitthvað fyrir þig; síðan ferðu yfir niðurstöðuna með gagnrýnni hugsun og biður um frekari upplýsingar eftir þörfum. Skoraðu á svarið og spyrðu ítarlegra spurninga, og þú munt fljótt sjá hversu mikið af staðreyndum býr að baki svarinu.

CoPilot er mjög viðeigandi nafn fyrir hvers kyns veika gervigreind, þar sem það er hennar besta notkunargildi. Notaðu hana til að hjálpa þér að byrja, vísa þér í rétta átt og veita þér innblástur, meðal annars. Þú ert enn við stjórnvölinn; hún færir þér upplýsingar og þú ákveður hvort þú notar þær. Til dæmis, ef ég þarf að skrifa stefnuyfirlýsingu, þá bið ég uppáhalds mállíkanið mitt um að búa til skjal fyrir mig, og það gefur mér sniðmát sem ég nota sem grunn að mínu skjali. Ég endurskrifaði það mikið, en það þjónar sem frábær upphafspunktur og beinagrind.

Ég sá einu sinni samlíkingu sem ég elskaði. Skapandi gervigreind er eins og háskólanemi í starfsnámi. Hún er frábær í að safna og tengja saman gögn, jafnvel skrifa fyrsta uppkast. En þú myndir aldrei birta skjal skrifað af starfsnemanum án mikillar ritstýringar fyrst. Þú þarft að lesa yfir skjalið og spyrja starfsnemann hvaðan gögnin komu, hvaða forsendur voru gefnar o.s.frv., ásamt því hvort viðkomandi hafi verið á sveppum á meðan skjalið var skrifað. Þau munu auðvitað aldrei viðurkenna að hafa verið í vímu, svo þú þarft að nota gagnrýna viðtalsfærni þína til að ákvarða það.

Spjallmenni eru frábær í að hljóma örugg og sannfærandi á meðan þau gefa 100% rangt svar (sjá ofskynjanir að ofan). Ef þú ert ekki gagnrýnin(n) á svarið eða veist ekki betur, gætirðu látið blekkjast til að trúa rangfærslum.

Spjallmenni geta verið dýrmæt auðlind fyrir viðskiptavini þegar þau eru samþætt og þjálfuð á vöruskjölum sem eru sértæk fyrir ákveðið fyrirtæki. Sérstaklega ef þau eru forrituð til að spyrja viðskiptavininn hvort hann þurfi frekari hjálp, og ef viðskiptavinurinn segir já, geta þau tengt hann við manneskju eða búið til þjónustubeiðni sjálfkrafa.

Ef þú þarft 1000 orða skáldaða ritgerð um ákveðið efni sem segir í raun ekki neitt, þá skín skapandi gervigreind í að búa til þess konar froðu. Þarftu staðgengilstexta fyrir tæki eða vefsíðu og vilt eitthvað betra en Lorem Ipsum? Láttu uppáhalds spjallmennið þitt búa til smá froðu fyrir þig.

Þú þarft vörulýsingu fyrir netverslunina þína sem er af réttri lengd til að standast kröfur SEO-tækja. Stór mállíkön eru frábær í það. Passaðu bara að lesa yfir það og leiðrétta allar staðreyndavillur.

Ef þú þarft impressjóníska mynd getur skapandi gervigreind töfrað fram nokkrar undurfagrar myndir á svipstundu. Svo lengi sem hún þarf ekki að vera nákvæm og þú ert í lagi með hluti eins og manneskju með þrjá handleggi og sex fingur á hverri hendi, þá getur hún búið til fallegar myndir fyrir þig. Þetta á þó eftir að batna með tímanum.

Hvar hana skortir

Ef þú ert að leita að staðreyndum og nákvæmum upplýsingum ættirðu ekki að treysta henni of mikið. Hún getur verið hjálpleg ef þú ert að leita að sniðmáti til að nota sem grunn. Öllum leiðbeiningum frá hvaða opinberu spjallmenni sem er ætti að taka með miklum fyrirvara. Ef þú hefur ekki þekkingu eða reynslu til að segja til um hvort svarið sé nákvæmt, er öruggast að gera ráð fyrir að það sé ónákvæmt. Eins og á við um allt efni á netinu þessa dagana, notaðu gagnrýna hugsun og treystu innsæinu.

Ég gerði einu sinni próf þar sem ég notaði Microsoft Copilot til að leiðbeina mér við að setja upp syslog-þjón með myndrænni skýrslugerð, mjög tæknilegt verkefni sem kerfisstjórar gera oft, og reyndur kerfisstjóri getur gert þetta á 15-20 mínútum eða skemur. Ég var með prófunarþjón til að leika mér með og fylgdi leiðbeiningum Copilot bókstaflega. Ég eyddi 8 klukkustundum í að fara í hringi, og í lok dagsins hafði ég ekkert fram að færa. Ég framkvæmdi leiðbeiningarnar, fékk villu og sendi hana aftur til Copilot. Í hvert skipti var svarið eitthvað á þá leið að „fyrirgefðu þetta, ég veit nákvæmlega hvar við fórum rangt að, hér er hvernig þú lagar það,“ sem lagaði það ekki og gaf mér bara nýja villu. Við fórum hring eftir hring. Í þessu prófi voru röngu leiðbeiningarnar skaðlausar og sóuðu aðeins tíma mínum. Í öðrum tilfellum hefði þetta getað leitt til verulegra áhrifa á rekstur eða þaðan af verra.

Að nota skapandi gervigreind til að forrita eða skrifa greinar er mikið í tísku þessa dagana. Ég er stoltur af því að segja að hvert einasta orð í hverri blogggrein sem ég hef skrifað var skrifað af mér, engin gervigreind kom nálægt sjálfum skrifunum, aðeins rannsóknarhlutanum. Mín heimspeki er: hvers vegna ætti nokkur að nenna að lesa eitthvað sem ég nenti ekki að skrifa?

Ekki misskilja mig, ég er enginn gervigreindarhhatari, ég er bara að benda á hættuna við þetta nýja tæki. Að hjálpa fólki að skilja að þetta er tæki og, ef það er notað rétt, getur það gert kraftaverk, en það er samt bara tæki. Notað á rangan hátt getur það verið eyðileggjandi. Ef við förum aftur í hamarsdæmið, þá getur hamar byggt eða eyðilagt; það veltur allt á því hvernig þú notar hann.

Forritun með gervigreind

Mesta hæpið þessa dagana er að hver sem er geti forritað með gervigreind. Af einhverri ástæðu minnir þetta mig á setninguna um óendanlega marga apa, sem segir að „api sem slær á lykla óháð hver öðrum og af handahófi á ritvél í óendanlegan tíma muni næstum örugglega vélrita hvaða texta sem er, þar á meðal heildarverk Williams Shakespeare.“

Hvað sem því líður, aftur að forritun með gervigreind, já, maður getur látið stór mállíkön búa til kóða fyrir sig, og hraðinn sem hann þýðist og jafnvel keyrir án villna fer ört batnandi. Fyrir mér missir þessi umræða marks um hvað þarf til að framleiða gæðahugbúnað. Bara vegna þess að hann keyrir og virðist gera það sem hann á að gera, þýðir það ekki að hann geri það í raun.

Alveg eins og textinn sem inniheldur villur, þá mun kóðinn sem hún býr til einnig gera það. Vandamálið er að það er miklu auðveldara að finna villur í texta en í kóða.

Ef þú þróaðir app án forritara eru mjög miklar líkur á að þú hafir ekki nent að prófa appið, nema kannski með yfirborðskenndu „já, þetta virðist virka“. Hér eru nokkur viðbótaratriði til umhugsunar:

• Hvað er forgangsatriði hjá þér: fjöldi skrifaðra kóðalína eða gæði kóðans?
• Hvernig ætlarðu að tryggja að forritið gefi 100% fyrirsjáanlega (deterministic) niðurstöðu? Hvað gerist ef það er villa í niðurstöðunni?
• Hvernig ætlarðu að tryggja gæði vörunnar þinnar?
• Þegar villur koma upp, hver ætlar að laga þær? Reynslan hefur sýnt að kóði sem framleiddur er af stóru mállíkani inniheldur mun fleiri villur en sá sem skrifaður er af manni. Í minni reynslu geta stór mállíkön ekki lagað villur; þegar ég reyndi það fékk ég ekkert nema flækju. Ég er þó enginn sérfræðingur hér, svo kannski er ég bara ekki að gefa rétt samhengi eða fyrirmæli.
• Ertu að sleppa breytingastýringu og jafningjarýni? Starfshættir sem hafa verið viðurkenndir sem mælikvarði á þroska í áratugi og eru krafist af ISO og öðrum rammaverkum.
• Skiptir öryggi þig máli? Reynslan hefur sýnt að kóði framleiddur af stórum mállíkönum hefur tilhneigingu til að vera með mun fleiri öryggisvandamál en hefðbundinn kóði. Jafnvel þótt mállíkanið þitt sé með innbyggða kyrrstöðugreiningu á öryggi forrita (SAST) [horfi á þig, Claude], þá er það aðeins hluti af lausninni. Claude SAST tólið er of nýtt til að við vitum hvort það sé eitthvað varið í það. Það eru tugir SAST-tóla þarna úti, og eins og hver AppSec verkfræðingur getur sagt þér, þá eru þau langt frá því að vera öll jafngóð.

Aftur, ég er ekki að reyna að letja þig til að nota stór mállíkön í þróun þinni, heldur aðeins að koma með punkta til umhugsunar og hjálpa fólki að skilja að ef Jón á söludeildinni, án fyrri reynslu af forritun, notar Claude-kóða til að búa til app, þá viltu kannski ekki selja það án frekari skoðunar.

Ef þú framfylgir enn kóðarýni og breytingastýringu, þar sem mannlegur forritari fer yfir kóðann, skilur hann og tekur ábyrgð á honum, þá ertu í góðum málum. Passaðu bara að athuga öll „includes“ og „imports“, eins og þú myndir gera við tilvitnaðar heimildir. Alveg eins og það gengur ekki að láta mannlegan forritara rýna eigin kóða, þá virkar það heldur ekki að láta eitt mállíkan athuga kóða frá öðru mállíkani (sama eða öðru líkani). Þú getur látið búa til breytingabeiðnir sjálfkrafa, en þær þurfa að vera yfirfarnar og samþykktar af manneskju; annars missir breytingastýringin marks.

Það eru líka miklar fréttir þessa dagana um fyrirtæki sem segja upp starfsfólki og skipta því út fyrir gervigreind. Ég spái því að þetta muni ekki enda vel fyrir þau, nema þau séu að segja upp fólki vegna þess að þau eru með of mikið starfsfólk og reyna að hljóma flott með því að kenna gervigreind um. Það sem ég hugsa þegar ég heyri svona fréttir er að fyrirtækinu sé sama um gæði og að það muni líklega verða fyrir öryggisatviki mjög fljótlega.

Viðeigandi samlíking er skápasmiðja sem smíðaði alla sína skápa í höndunum. Síðan keyptu þeir vélar sem myndu smíða alla skápana sjálfkrafa og án mannlegrar íhlutunar, svo þeir sögðu upp öllum smiðunum sínum. Nú er eini maðurinn í verksmiðjunni lyftarastjórinn sem hleður bílana. Án gæðaeftirlitsdeildar, hvað myndi gerast með gæði vörunnar og ánægju viðskiptavina? Sérstaklega þegar skápurinn hrynur og eyðileggur alla hluti viðskiptavinarins.

Heimildir

IBM. (2023, 12. október). Understanding the different types of artificial intelligence. Sótt af IBM: https://www.ibm.com/think/topics/artificial-intelligence-types

IBM. (2023, 2. nóvember). What are large language models (LLMs)? Sótt af IBM: https://www.ibm.com/think/topics/large-language-models

Mearian, L. (2024, 7. febrúar). What are LLMs, and how are they used in generative AI? Sótt af ComputerWorld: https://www.computerworld.com/article/1627101/what-are-large-language-models-and-how-are-they-used-in-generative-ai.html

Wikipedia. (2025, 20. janúar). Artificial general intelligence. Sótt af Wikipedia: https://en.wikipedia.org/wiki/Artificial_general_intelligence

Wikipedia. (2025, 22. janúar). Generative artificial intelligence. Sótt af Wikipedia: https://en.wikipedia.org/wiki/Generative_artificial_intelligence

Wikipedia. (2025, 17. janúar). Large language model. Sótt af Wikipedia: https://en.wikipedia.org/wiki/Large_language_model