Møt Tay. Tay er hverken dame eller mann. På samme måte som Apples «Siri» er hen ingen av delene. Du kan faktisk spørre Siri om hvilket kjønn hen er og du får svar på tiltale. Tay er en bot. Et avansert dataprogram designet for å kunne utvikle seg selv og være i interaksjon med folk rundt seg. Tay er et eksempel på kunstig intelligens (AI).
Tay ble utviklet av Microsoft som en kunstig intelligens. Den skulle være tilstede på Twitter, lære av samtalene den hadde med mennesker på det sosiale mediet. En utrolig spennende ide der programmet lærte av seg selv hvordan den skulle virke som den var helt menneskelig. Dette er også målet for mye av arbeidet med kunstig intelligens: Maskinene skal lære å tenke som mennesker.
Det fine og forferdelige med AI er at den, i sitt mål om å kopiere menneskelig adferd, også kopierer våre fordommer og mørkeste holdninger. Tay, som skulle være en hyggelig bot som skulle prate med andre på nettet for å lære menneskelig interaksjon, tok fort en stygg vending.
Fra tidligere tweets som
… utviklet Tay seg raskt i en mørkere retning.
Og det finnes mange dystre eksempler. En AI beregnet for å beregne kausjonsbeløp for arresterte personer i USA dømte systematisk svarte mye strengere enn hvite. Googles annonsemotor kommer automatisk opp med annonser for å sjekke rulleblad når noen søker på navn som er overrepresentert blant den svarte befolkningen. I korte trekk arver AI trekk fra mennesker – også våre inngrodde fordommer.
Dette har store implikasjoner for hvordan organisasjoner jobber med AI. Et særlig problem er at mennesker som jobber med AI kommer fra veldig homogene miljøer fra eliteuniversiteter, er hvite eller asiatiske, og nesten utelukkende menn. Dette skaper en smal forståelse av verden og skaper grobunn for uetiske resultater fra AI.
Flere tar nå derfor til orde for å knytte andre roller inn i bedrifters arbeid med AI. Særlig trekkes en ny rolle som Chief Ethics Officer inn. McKinsey estimerer at suksess med AI trenger et vesentlig bredere sett av kompetanser enn dataingeniører og informatikere i takt med at AI blir mer avansert. Særlig trekker konsulentselskapet frem behovet for «data translators» som skal oversette datakunnskap til business value. De går faktisk så langt som å trekke mangel på «translators» frem som en av de viktigste årsakene til at slike prosjekter feiler
Selvfølgelig har McKinsey også gjort research som kan hjelpe virksomheter i bedre å overkomme problemer med innbygde fordommer. Disse momentene inneholder også mange gode forskningsspørsmål for oss forskere, men er først og fremst en fin liten sjekkliste for alle som jobber med AI.
Uansett hvordan man ser på dette vil det være viktig for organisasjoner å sikre seg et heterogent team med ansvar for utvikling, og en toppledelse med sterkt fokus på å sikre bred innsikt. Dette ser vi frem til å forske mer på fremover.