Bare ni gigantiske teknologiselskaper i USA og Kina står bak de aller fleste fremskritt innen kunstig intelligens over hele verden. I sin nye bok, The Big Nine: Hvordan Tech Titans og deres tenkemaskiner kunne vrake menneskeheten (PublicAffairs, 5. mars), Amy Webb ser for seg tre mulige futures, alt fra optimistisk til apokalyptisk, som kan være resultatet av handlingene vi tar - eller ikke tar - for å kontrollere utviklingen av A.I. og forme dens globale innvirkning. I dette utdraget legger hun frem en rekke tøffe etiske spørsmål som menneskene som bygger A.I. systemene skal bruke for å veilede arbeidet.
Reglene - algoritmen - som hver kultur, samfunn og nasjon lever og noensinne har levd etter, ble alltid skapt av bare noen få mennesker. Demokrati, kommunisme, sosialisme, religion, veganisme, nativisme, kolonialisme - dette er konstruksjoner vi har utviklet gjennom historien for å hjelpe oss med å styre våre beslutninger. Selv i de beste tilfellene er de ikke fremtidssikre. Teknologiske, sosiale og økonomiske krefter griper alltid inn og får oss til å tilpasse oss.
De ti bud utgjør en algoritme som skal skape et bedre samfunn for mennesker i live for mer enn 5000 år siden. Et av budene er å ta en hel hviledag i uken og ikke gjøre noe arbeid den dagen. I moderne tid jobber de fleste ikke nøyaktig de samme dagene eller timene fra uke til uke, så det ville være umulig å ikke bryte regelen. Som et resultat er folk som følger de ti bud som et ledende prinsipp, fleksible i sin tolkning, gitt virkeligheten av lengre arbeidsdager, fotballtrening og e-post. Tilpassing er greit - det fungerer veldig bra for oss og for samfunnene våre, slik at vi kan holde oss på sporet. Når vi blir enige om et grunnleggende sett med retningslinjer, kan vi optimalisere for oss selv.
hvor gammel er liljeperlesvart
Det ville ikke være noen måte å lage et sett med bud for A.I. Vi kunne ikke skrive ut alle reglene for å optimalisere riktig for menneskeheten, og det er fordi mens tenkemaskiner kan være raske og kraftige, mangler de fleksibilitet. Det er ikke en enkel måte å simulere unntak på, eller å prøve å tenke gjennom hver eneste beredskap på forhånd. Uansett hvilke regler som kan bli skrevet, vil det alltid være en omstendighet i fremtiden der noen mennesker kanskje vil tolke reglene annerledes, eller å ignorere dem fullstendig, eller å lage endringer for å håndtere en uforutsett omstendighet.
Når vi vet at vi umulig kan skrive et sett med strenge bud å følge, bør vi i stedet rette oppmerksomheten mot menneskene som bygger systemene? Disse menneskene - A.I.s stammer - burde stille seg ubehagelige spørsmål, og begynne med:
hvem er danica mckellar gift med
- Hva er motivasjonen vår for A.I.? Er det i tråd med menneskehetens beste langsiktige interesser?
- Hva er våre egne skjevheter? Hvilke ideer, erfaringer og verdier har vi unnlatt å inkludere i stammen vår? Hvem har vi oversett?
- Har vi inkludert mennesker som ikke er oss selv med det formål å gjøre fremtiden til A.I. bedre - eller har vi ganske enkelt tatt med mangfold i teamet vårt for å oppfylle visse kvoter?
- Hvordan kan vi sikre at oppførselen vår er inkluderende?
- Hvordan er de teknologiske, økonomiske og sosiale implikasjonene av A.I. forstått av de som er involvert i etableringen?
- Hvilke grunnleggende rettigheter bør vi ha for å forhøre datasettene, algoritmene og prosessene som brukes til å ta avgjørelser på våre vegne?
- Hvem får definere verdien av menneskelivet? Mot hva veies den verdien?
- Når og hvorfor føler de i A.I.s stammer at det er deres ansvar å ta opp sosiale implikasjoner av A.I.
- Har ledelsen i organisasjonen vår og A.I. stammer gjenspeiler mange forskjellige typer mennesker?
- Hvilken rolle gjør de som kommersialiserer A.I. spille i å ta opp de sosiale implikasjonene av A.I.?
- Skal vi fortsette å sammenligne A.I. til menneskelig tenkning, eller er det bedre for oss å kategorisere det som noe annerledes?
- Er det OK å bygge A.I. som gjenkjenner og reagerer på menneskelige følelser?
- Er det OK å lage A.I. systemer som kan etterligne menneskelige følelser, spesielt hvis det lærer av oss i sanntid?
- Hva er det akseptable punktet der vi alle er OK med A.I. utvikler seg uten mennesker direkte i løkken?
- Under hvilke omstendigheter kan en A.I. simulere og oppleve vanlige menneskelige følelser? Hva med smerte, tap og ensomhet? Er det OK å forårsake den lidelsen?
- Utvikler vi A.I. å søke en dypere forståelse av oss selv? Kan vi bruke A.I. for å hjelpe menneskeheten til å leve et mer undersøkt liv?
Det er ni store teknologiselskaper - seks amerikanske og tre kinesere - som er overveldende ansvarlige for fremtiden for kunstig intelligens. I USA er de Google, Microsoft, Amazon, Facebook, IBM og Apple ('G-MAFIA'). I Kina er det BAT: Baidu, Alibaba og Tencent.
G-MAFIA har begynt å løse problemet med å lede prinsipper gjennom ulike forsknings- og studiegrupper. Innenfor Microsoft er et team kalt FATE - for rettferdighet, ansvarlighet, gjennomsiktighet og etikk i A.I. I kjølvannet av Cambridge Analytica-skandalen lanserte Facebook et etisk team som utviklet programvare for å sikre at A.I. systemer unngikk skjevhet. (Spesielt gikk Facebook ikke så langt som å opprette et etisk styre fokusert på A.I.) DeepMind opprettet et etikk- og samfunnsteam. IBM publiserer regelmessig om etikk og A.I. I kjølvannet av en skandale i Baidu - søkemotoren prioriterte misvisende medisinske påstander fra et militærdrevet sykehus, der en behandling resulterte i dødsfallet til en 21 år gammel student - innrømmet Baidu-sjef Robin Li at ansatte hadde gjort kompromisser for Baidus inntektsvekst og lovet å fokusere på etikk i fremtiden.
rebecca king-crews foreldre
The Big Nine produserer etikkstudier og whitepapers, den samler eksperter for å diskutere etikk, og den er vert for paneler om etikk - men den innsatsen er ikke sammenflettet nok med den daglige driften til de forskjellige teamene som jobber med A.I.
The Big Nine's A.I. systemene får i økende grad tilgang til våre virkelige data for å bygge produkter som viser kommersiell verdi. Utviklingssyklusene øker for å holde tritt med investorenes forventninger. Vi har vært villige - om ikke uvitende - deltakere i en fremtid som blir opprettet raskt og uten å først svare på alle disse spørsmålene. Som A.I. systemene går videre og mer av hverdagen blir automatisert, jo mindre kontroll har vi faktisk over beslutningene som tas om og for oss.
Amy Webb vil vises på Inc. Founders House i Austin 11. mars.
