*

laugardagur, 22. september 2018
Innlent 11. febrúar 2018 15:04

Leið út úr frumskógi sjálfvirkninnar

„Algóritmarnir eru alltaf mannanna verk. En spurningin er hvenær fara algóritmar að búa til algóritma og svo framvegis.“

Gunnar Dofri Ólafsson
Haraldur Guðjónsson

Það er óhjákvæmilegt að við stefnum að aukinni algóritmavæðingu og sjálfvirknivæðingu á fjölmörgum sviðum, til dæmis stjórnsýslu, verslunarrekstri, bankastarfsemi og hjá tryggingafélögum,“ segir Hjördís Halldórsdóttir, lögmaður á Logos, en hún hélt erindi um persónusnið (e. profiling) og sjálfvirka ákvarðanatöku á UT-messunni um síðustu helgi. Þessari þróun fylgja ýmsir og stórir kostir en eins og Hjördís fjallaði um í erindi sínu fylgja henni ýmsar skuggahliðar.

Flestir þekkja hvernig fyrirtæki nota kökur (e. cookies) til að persónugreina notendur, hegðunarmynstur, áhugamál og fleira í þeim tilgangi að nýta þær upplýsingar til markaðssetningar. Það er samt ekki sjálfgefið að einstaklingar vilji ekki láta persónugreina sig. Flæði og ofgnótt upplýsinga af hvaða tagi sem er getur ýtt undir væntingar og óskir um persónulega og sérsniðna þjónustu og það getur því verið eftirsóknarvert í sjálfu sér að samþykkja gerð persónusniðs. Almennt er ætlunin með reglugerðinni þó sú að koma í veg fyrir að gerð persónusniðs eigi sér stað án þess að einstaklingurinn geri sér grein fyrir því að verið sé að persónugreina hann – eða hvaða afleiðingar það geti haft fyrir hann að persónugreining eigi sér stað.

„Í New York er algóritmi notaður til að úthluta matarmiðum á grundvelli sjálfvirkrar ákvörðunartöku og fjölda lögreglumanna úthlutað í hverfi út frá reikniforritum þannig að þetta er úti um allt,“ segir Hjördís. Hérlendis segir hún að bankar bjóði upp á greiðslumat á netinu sem sé afgreitt sjálfvirkt. „Það sem þarf að passa upp á og það sem Evrópusambandið er að reyna að gera með nýju reglugerðinni um persónuvernd er að það sé einhver leið út úr þessum frumskógi sjálfvirkra ákvarðana og að þú lendir ekki í því að þú fáir til dæmis ekki barnabætur sem þú átt rétt á af því að tölvan segir bara nei. Sú ákvörðun gæti hins vegar verið röng en þú kemst ekki út,“ segir Hjördís.„Það er kannski það sem er fyrst og fremst verið að tryggja.“ 

Tryggja íhlutun manneskju

Hjördís segir helst hægt að gera tvennt til að koma í veg fyrir að sú staða sem hún lýsir geti skapast. „Annað er að reyna að hafa algóritma þannig að við skiljum þá og hvernig þeir virka. Ef við skiljum hvernig þeir virka getum við frekar bent á villurnar. Þá ertu kominn með þetta eftirlit eins og er hjá almenningi gagnvart svo mörgu. Hitt er að setja reglur þannig að okkur sé tryggður réttur til íhlutunar af hálfu manneskjunnar. Í nýju reglugerðinni er verið að tryggja að ef ákvörðunin hefur veruleg áhrif á einstaklinga þá eigi þeir rétt á að gera athugasemdir við ákvörðunina til að fá hana endurskoðaða þannig að manneskja þurfi að fara yfir hvað algóritminn var að gera,“ segir Hjördís. Sú staða gæti hins vegar komið upp að algóritminn verði svo flókinn að við getum ekki skilið hann. Það er að sögn Hjördísar kannski eitthvað sem verður í framtíðinni.

„Algóritmarnir eru alltaf mannanna verk. En spurningin er hvenær fara algóritmar að búa til algóritma og svo framvegis,“ segir Hjördís. Hún vísaði í erindi sínu til orða Elons Musk, stofnanda Tesla og SpaceX, þar sem hann sagði gervigreindina vera eina helstu ógn sem steðjaði að mannkyninu. „Ýmsir hafa reyndar sagt að hann máli skrattann á vegginn með þessu og að í þessu felist eintóm tækifæri. Maður sér samt í reglusetningunni að það eru uppi áhyggjur. Þess vegna er með henni tryggður rétturinn til mannlegrar íhlutunar þegar undir er ákvörðun sem skiptir þig verulegu máli. Menn hafa því sömu áhyggjur og hann og vilja tryggja að við verðum ekki ofurseld þessu,“ segir Hjördís.

Lagasetning er oft því marki brennd að vera á eftir breytingum eða tækniframförum. Hjördís er þó þeirrar skoðunar að með þeim reglum sem taka gildi á þessu ári hafi löggjafinn unnið ákveðið forvarnarstarf. Fyrirtæki og stofnanir hér á landi þurfa hins vegar að hennar mati að halda vel á spöð- unum þegar þau laga sig að þeim breytingum sem boðaðar eru. „Það á almennt við um persónuverndarreglugerðina að menn endurskoði alla sína verkferla og kortleggi vinnslu persónuupplýsinga í sínum fyrirtækjum og stofnunum. Það er tímafrekt verk og getur verið ansi flókið ef fólk er ekki byrjað og hefur ekki leitt hugann að þessu – svo ekki sé talað um það ef starfsemin er bæði flókin og stór,“ segir Hjördís. „Ef menn eru ekki byrjaðir ætla ég ekki að segja að þeir séu of seinir en ættu samt ekki að bíða mikið lengur. Það er eitthvað sem margir segja. Fólk þarf að vakna og byrja ekki seinna en strax að undirbúa sig fyrir þær kröfur sem reglugerðin setur.“

Nánar er fjallað um málið í Viðskiptablaðinu. Áskrifendur geta nálgast pdf-útgáfu af blaðinu með því að smella á hlekkinn Tölublöð.