Um samfélagslegt traust og gervigreindartækni

Í framtíðinni verður gervigreind allt í kring um okkur. Tækninni hefur verið líkt við innreið rafmagns. Hún verður notuð í meira og minna öllum tækjum og í öllum iðngreinum. En hvernig ætlum við að bregðast við þeim siðferðislegu spurningum sem spretta upp með tilkomu gervigreindar?

Bloggsíða framkvæmdastjórans

Við stöndum frammi fyrir tæknibyltingu og henni fylgja stórkostleg tækifæri. Í framtíðinni verður gervigreind allt í kring um okkur. Tækninni hefur verið líkt við innreið rafmagns. Hún verður notuð í meira og minna öllum tækjum og í öllum iðngreinum. Gervigreind getur gefið okkur sérsniðin meðmæli á netinu, aðstoðað lækna við meðhöndlun sjúklinga, stýrt bílum og margt fleira. En hvernig ætlum við að bregðast við þeim siðferðislegu spurningum sem spretta upp með tilkomu gervigreindar? Hvernig ætlum við að varðveita „norræna gullið“, það er að segja hið mikla samfélagslega traust?

Gervigreind, í stuttu máli, er þegar vélar reyna að líkja eftir mannlegri hugsun og hegðun til þess að leysa verkefni og virðast því búa yfir greind. Nýverið hafa ákveðin forrit vakið athygli fyrir getu sína til að draga lærdóm af gríðarmiklu magni upplýsinga og eigin reynslu.

Tæknin býður upp á marga möguleika. Hana má nýta til að bjarga lífum innan heilbrigðiskerfisins, berjast gegn loftslagsbreytingum og bæta opinbera þjónustu. Hún getur líka skapað vöxt í viðskiptalífi Norðurlanda. Við Norðurlandabúar ættum að vera reiðubúin að grípa tækifærin. Við þurfum að takast á opinskáan og heiðarlegan hátt við þau siðferðislegu álitamál og spurningar um gildismat sem upp geta komið með stóraukinni notkun gervigreindar. Einungis þannig getum við komið í veg fyrir bakslag eða óheppilegar afleiðingar sem geta stofnað samfélagslegu trausti í hættu.

Norræna ráðherranefndin um stafræna væðingu lýsti því yfir þegar árið 2017 að Norðurlöndin og Eystrasaltsríkin ættu að vera leiðandi á stafræna sviðinu og vísa veginn í Evrópu. Ráðherrarnir eru einnig sammála um mikilvægi samstarfs þegar kemur að því að þróa og styðja við notkun gervigreindar á Norðurlöndum. Þeir vilja meðal annars stuðla að aukinni lærdómshæfni og bættum aðgangi að gögnum.

Það er mikilvægt að ræða gervigreind og siðferðisspurningar frá norrænu sjónarhorni, þar sem útbreiðsla tækninnar getur haft afleiðingar fyrir gildi okkar Norðurlandabúa. Samkvæmt spurningakönnun sem Norræna ráðherranefndin og Norðurlandaráð létu gera árið 2017, telja íbúar á Norðurlöndum hin dæmigerðu, norrænu gildi vera tjáningarfrelsi, gagnsæi og lýðræði, sem og hugmyndin um að allt fólk sé jafnmikils virði og hafi sömu réttindi.

Hér eru ráðherrarnir með puttann á púlsinum. Norræna ráðherranefndin um stafræna væðingu hefur samþykkt að þróa siðferðisviðmið, staðla, meginreglur og gildi sem ætlað er að vera til leiðbeiningar um hvenær og hvernig skal taka gervigreind í notkun. Hugmyndirnar sem verða til munu svo að lokum berast til framkvæmdarstjórnar ESB, þar sem einnig er unnið að viðmiðunarreglum fyrir þróun tækninnar.

Í þessu samhengi er mikilvægt að huga að því hvernig má vernda hin lýðræðislegu gildi. Eitt af áhyggjuefnunum er að gervigreind geti verið notuð til að stjórna því hvernig við kjósum, með lúmskum aðferðum sem byggja á vélanámi og stórgögnum. Á hinn bóginn getur gervigreind einnig styrkt lýðræðið; tæknina má nota í baráttunni gegn falsfréttum.

Þegar tæknin verður orðin útbreiddari, gæti gervigreind einnig haft áhrif á þætti eins og heilindi og gagnsæi í samfélögum Norðurlanda. Öflugustu myndum af gervigreind er oft líkt við svartan kassa, vegna þess að erfitt eða ómögulegt getur reynst að skilja hvernig kerfið kemst að hinni eða þessari niðurstöðu. Við verðum að spyrja okkur hvort gervigreind geti veikt tiltrú meðal fólks og á yfirvöld, ef tæknin er slík að fólk skilur ekki hvernig hún virkar og skilur ekki ákvarðanirnar sem teknar eru.

Við þurfum einnig að velta fyrir okkur afleiðingunum fyrir mannlega reisn – fyrir virði eins mannslífs. Hvernig munum við verðleggja mannlega hugsun og dómgreind, þegar vélin leysir sífellt fleiri verkefni á sneggri og snjallari hátt en við, með aðferðum sem við skiljum ekki? Hvers virði verður manneskja og mannshugurinn í heimi þar sem vélar eru snjallari og sneggri að flestu en við? Taki gervigreind yfir sífellt fleiri hlutverk í samfélaginu, hlutverk sem manneskjur gegndu áður, mun það leiða til þess að sjálfsmynd okkar og sýn á aðra breytist? Á hvaða hátt mun það breyta stöðu manneskjunnar í samfélaginu?

Við verðum líka að muna að gervigreind getur mismunað. Algóritmar geta borið áfram fordóma úr samfélaginu nú og fyrr, ef fordómarnir leynast í gögnunum sem algóritmarnir nota. Skoðanir og verðmætamat sem býr í gögnunum sem gervigreind lærir af geta þannig stangast á við norræn gildi okkar. Hvernig komumst við hjá því?

Og hvernig tryggjum við að gervigreind hafi ekki letjandi áhrif á okkur, heldur nýtist til að stuðla að sköpun og nýrri hugsun? Gervigreind getur einfaldað líf okkar en henni fylgir jafnframt hætta á að tæknin hafi áhrif á vitsmuni okkar. Ef vélar taka yfir sífellt fleiri af verkefnum okkar, verður sífellt minni þörf á manneskjum til að leysa þau. Við hættum á að verða sljórri og að athygli okkar og skilningur minnki – og mögulega verðum við háðari tækninni.

Og á hverju eiga vélarnar að byggja ákvarðanir sínar er varða okkur sjálf? Algengt en gott dæmi sem oft er tekið, er sjálfkeyrandi bíll sem þarf að velja milli tveggja kosta, sem báðir leiða til þess að manneskja lætur lífið. Hvorn kostinn ætti vélin að velja? Hvaða gildi ætti að forrita í vélina – og af hverjum? Þessar spurningar geta verið óþægilegar en við ættum þó að muna að sjálfkeyrandi bílar geta dregið úr dauðaslysum í umferðinni og bjargað mörgum lífum, því þeir gera ekki mannleg mistök.

Þessar siðferðislegu spurningar sýna að við þurfum að hafa úthugsað og upplýst samband við tækniþróunina. Um það eru líka norrænu ráðherrarnir sammála. Við ættum ekki að toga skyndilega í handbremsuna, heldur ættum við að finna jafnvægi. Við ættum að sjá til þess að gervigreind leiði til vaxtar og aukinna lífsgæða fyrir íbúa Norðurlanda og standa á sama tíma vörð um „norræna gullið“; samfélagslegt traust og virðingu fyrir öllum manneskjum. Fram undan eru miklir möguleikar og stórar áskoranir.