Hvad er algoritmer

Du er en dårlig forælder!
Hvorfor det?
Det siger algoritmen!

Vi kigger ind i en fremtid, hvor vores integritet trues af forkert anvendelse af teknologi. Google ved alt om dig, men alligevel viser de dig af og til nogle mærkelige reklamer. Det er fordi deres algoritmer ikke er perfekte, og de derfor eksperimenterer med dig for at forbedre algoritmerne.

Algoritmer vil komme til at styre mere og mere af vores tilværelse, men hvad er en algoritme?

Et eksempel på en klassisk algoritme er fordelingen af elever på gymnasierne. Regeringen vil fremover tvinge eleverne til at gå på gymnasier som ikke er populære, og det kommer til at ske ved at ændre algoritmer.

Allerede i dag bruges der en algoritme. Hvis der ikke er plads nok til alle elever, som har valgt et gymnasium som første prioritet, så må nogen afvises, og det sker ud fra et simpelt kriterium om, hvor langt eleven bor fra gymnasiet. Dette er en klassisk og let forståelig algoritme Hans har kortere vej end Jørgen, så Hans får pladsen. Den nye algoritme siger i stedet, Hans er rigere end Jørgen, så Jørgen får pladsen.

Det er selvfølgelig lidt forsimplet, men det er muligt at forstå hvad algoritmen laver, og have en holdning til den.

I 2011 fyrede bystyret i Washington D.C. en afholdt og dygtig lærer, fordi en algoritme sagde, at hun var for dårligt. Ingen kunne forstå det, og konsulentfirmaet ville ikke offentliggøre algoritmen, fordi det var en forretningshemmelighed - og i øvrigt for svært at forstå for almindelige mennesker.

Eksemplet er et typisk forkert anvendelse af teknologi. Man ved ikke hvad algoritmen gør, og samtidigt kobler man hjernen fra, for computeren har jo altid ret!

De algoritmer som bruges i den kommunale forvaltning må og skal være åbne, så alle har mulighed for at se hvad de laver. Alt andet er et demokratisk problem. At der måske er nogen, som ikke kan forstå matematikken bag er ligegyldigt, der er altid nogen, som man kan spørge.

Problemet bliver værre i fremtiden. Læreren i Washington blev fyret ud fra en klassisk algoritme, men nu kommer den kunstige intelligens (AI). Der tales ofte om kunstig Intelligens, men reelt er der ikke tale om intelligens. Den teknologi som er mest udbredt i dag kaldes for Maskinlæring (ML) og er reelt det samme som vores hjerne gør når den ser en ting. Så kommer der prompte en fortolkning ud fra hvad vi kender i forvejen.

Det ved vi alle, at vi kan blive snydt af! Og eksemplerne med AI fejl står nærmest i kø. Forsøg i USA med at bruge AI til politiarbejde, har medført af algoritmen altid peger på sorte som kriminelle. Statistikken afspejler ganske vist, at det er sådan det er, men når Præsident Obama bonner ud på listen som kriminel, så bør man kunne sige sig selv at der måske er noget galt,

Hvis man så kunne spørge algoritmen hvorfor Obama skulle være kriminel, men det kan man ikke. AI algoritmerne er ikke mulige at forstå set udefra. Det er ligeså lukket som hvad der foregår i hovedet på dig og mig, og processerne ligner hinanden.

AI er ikke ubrugeligt, bestemt ikke. Indenfor lægevidenskaben er den nærmest perfekt, for den kan se mønstre, som læger ikke kan se, og fange en sygdom længe før den reelt giver symptomer. AI kan også forudsige hvornår en vindmølle skal serviceres og have skiftet reservedele.

Men kan et AI system forudsige hvornår et barn mistrives? Der er nogen som arbejder på at lave systemet allerede, men vil det virke? Og ikke mindst, hvordan kontrollerer man at resultatet holder. Det er altså ikke bare lige som at tage en blodprøve.

Det er vanvittigt indgribende i en families tilværelse hvis kommunen skal kontrollere om et barn mistrives. Og man kan altså ikke bare lige skifte forældrene ud, som man skifter et kugleleje i en vindmølle - bare for at være sikker.
2021-11-12
Tweet