Monthly Archives: mars 2019

Halló reiknirit

Bókin Hello World: How to be Human in the Age of the Machine, eftir Hannah Fry er það sem kalla mætti „rit almenns efnis“ eða kannski alþýðlega fræðibók. Ég gæti mælt með henni fyrir almenna lesendur sem hafa áhuga á því hvernig reiknirit (algóritmar) móta veruleika okkar í síauknum mæli. Hún lýsir margskonar hættum og vandamálum sem því fylgja.

Tekin eru fjölmörg dæmi, svo sem eins og um notkun reiknirita við bandaríska dómstóla til þess að ákvarða hvort sakborningar fái að ganga lausir gegn tryggingu, eða að ákvarða lengd refsinga; að láta reiknirit greina læknisfræðileg gögn, svo sem röntgenmyndir í krabbameinsleit; að reiknirit stjórni bíl (sjálfkeyrandi bílar); að reiknirit ákvarði hvaða auglýsingar eigi að birta hverjum og einum; að reiknirit birti lista yfir vefsíður þegar leitað er á netinu. Allt eru þetta dæmi um verkefni sem reiknirit eru látin vinna nú þegar eða verið er að þróa þau til þess.

Höfundur lýsir tvenns konar reikniritum en þó án allra tæknilegra skýringa. Í fyrsta lagi reikniritum sem höfundar smíða út frá einhverju ætluðu líkani um það hvernig eigi að reikna eitthvað út. Þá ákvarða hönnuðir reikniritsins í smáatriðum hvernig reikniritið eigi að komast að niðurstöðu, á alveg jafn vel skilgreindan hátt og hægt er að segja hvernig hægt er að leggja saman tölur með hefðbundinni uppsetningu. Í öðru öðru lagi eru reiknirit sem byggja á gervigreind, og sér í lagi á vélarnámi (machine learning). Þau reiknirit „læra“ sjálf og enginn manneskja veit í raun og veru hvernig það tekur ákvarðanir. Hér er þó ekki um neitt dularfullt að ræða, reikniritið er í raun og veru að finna einhverskonar tölfræðilega samnefnara í framsetningu fyrirbæra. Slík reiknirit geta til dæmis greint efni ljósmynda (á tilteknu sviði) eins og hvort mynd sé af hundi, og raunar geta þau greint af hvaða tegund hundurinn er, eftir að hafa farið yfir þúsundir mynda, giskað á tegund, og fengið að vita hvort giskið var rétt. (Svo ég lýsi þessu gróflega).

Hannah bendir á að mörg reiknirit séu bjöguð. Þau endurframleiða oft bjaganir samfélagsins vegna þess að þau eru byggð á forsendum þess. Þetta getur reyndar gerst á mismunandi vegu. Bjögunin getur verið hluti af hinu skipulagða reikniriti (fyrri gerðin), vegna þess að höfundarnir nota bjagaðar forsendur (sem geta verið afleiðingar bjagaðs samfélags, þar sem mismunandi hópar (eftir uppruna, kyni, stétt, …) eiga ólíka tölfræðilega hlutdeild í til dæmis glæpum, kaupgetu, eða öðrum breytum. En bjögunin getur líka komið fram í reikniritum sem byggja á vélarnámi vegna þess að þau reiknirit eru þjálfuð á tilteknum gagnasöfnum, til dæmis eingöngu hvítum einstaklingum. Þannig hafa einhver reiknirit sem eiga að skynja hvort manneskja sé framundan klikkað á ekki-hvítum manneskjum.

Ég held að það sé mikilvægt að almenningur verði meðvitaðri um það hve reiknirit leika stórt hlutverk í samfélaginu og að það hlutverk hefur stækkað gríðarlega og er enn að stækka mjög hratt. Reiknirit eru ekki hlutlaus, vegna þess að þau byggja á tilteknum forsendum sem einhverjir hafa ákveðið. Ég veit samt ekki hvað er raunhæft. Getur almenningur skilið hvernig reiknirit virka, nema á mjög yfirborðskenndan hátt? Er hægt að kenna einhverskonar reikniritalæsi í skólum? Það er hægt að útskýra hvað reiknirit er, gefa einföld dæmi og ef til vill auka skilning á því hvernig þau eru takmörkuð. En það er erfitt að segja hve mikið sé nóg til að geta myndað sér krítíska afstöðu og rökrætt um þau.

Viðbót:

Þessi texti að ofan er ekki sérlega ákafur, enginn eldmóður í honum. Ég var ekki sérlega upprifinn yfir þessari bók, sennilega vegna þess að hún sagði mér lítið sem ég vissi ekki fyrir. Flest pólitísku og samfélagslegu atriðin hafa þegar verið rædd, til dæmis í bók Cathy O’Neil, Weapons of Math Destruction. En ég tel þetta þá sem bók nr. 2 sem ég les í heild á árinu. Ef fram heldur sem horfir næ ég að lesa sirka 8 bækur á árinu.