Det er en stor debatt pågår i Silicon Valley om kunstig intelligens og dessverre er innsatsen ganske høy: Vil vi ved et uhell bygge en super smart A.I. som tenner på oss og dreper eller slaver oss alle sammen?
porsha williams fødselsdato
Dette kan høres ut som scenariet til en sommerkatastrofefilm, men det har bekymret noen ganske store navn, fra Elon Musk til sent Stephen Hawking .
La oss si at du lager et selvforbedrende A.I. å plukke jordbær, ' Musk har sagt , forklarer frykten sin, 'og det blir bedre og bedre til å plukke jordbær og plukke mer og mer, og det forbedrer seg selv, så alt det egentlig ønsker å gjøre er å plukke jordbær. Så da ville det ha vært hele jordbæråker. Jordbærfelt for alltid. ' Mennesker i veien for denne jordbær-pacalypse ville bare være en brukbar irritasjon for A.I.
Men mennesker ville sikkert ikke være så dumme at de ved et uhell utformet en A.I. drevet til å gjøre hele sivilisasjonen til en gigantisk bærgård? Kanskje ikke, men som Janelle Shane , en forsker som trener nevrale nettverk, en type maskinlæringsalgoritme, nylig bemerket bloggen hennes, A.I. Rarthet , muligens kan de gjøre det ved en feiltakelse.
Faktisk ville det være langt fra første gang at mennesker har trodd at de bygde roboter for en oppgave bare for å snu og finne at robotene spilte systemet på måter de aldri hadde tenkt. Det fascinerende innlegget graver seg inn i den akademiske litteraturen for å dele flere eksempler på roboter som har gått vill. De er morsomme, smarte og, samlet, mer enn litt skumle.
1. Hvem trenger bein når du kan tumle?
'En simulert robot skulle utvikle seg for å reise så raskt som mulig. Men i stedet for å utvikle seg, samlet den seg bare til et høyt tårn og falt deretter om. Noen av disse robotene lærte til og med å gjøre fallende bevegelse om til en salto, noe som gir ekstra avstand, 'skriver Shane.
2. En robot som kan kan-kan.
'Et annet sett med simulerte roboter skulle utvikle seg til en form som kunne hoppe. Men programmereren hadde opprinnelig definert hoppehøyde som høyden på den høyeste blokken, så - nok en gang - utviklet robotene seg til å være veldig høye, forklarer Shane. 'Programmereren prøvde å løse dette ved å definere hoppehøyde som høyden på blokken som opprinnelig var den' laveste '. Som svar utviklet roboten et langt tynt ben som den kunne sparke høyt opp i luften i en slags robotbokse. '
3. Skjul testen, så klarer du ikke den.
'Det var en algoritme som skulle sortere en liste med tall. I stedet lærte den å slette listen, slik at den ikke lenger var teknisk usortert, 'forteller Shane.
4. Matematiske feil slår flydrivstoff.
'I en simulering lærte roboter at små avrundingsfeil i matematikken som beregnet krefter, betydde at de fikk litt ekstra energi med bevegelse. De lærte å ryke raskt og generere mye gratis energi som de kunne utnytte, sier Shane. Hei, det er juks!
5. En uovervinnelig (hvis destruktiv) tic-tac-toe-strategi.
En gang en gruppe 'programmerere bygget algoritmer som kunne spille tic-tac-toe eksternt mot hverandre på et uendelig stort brett,' bemerker Shane. 'En programmerer, i stedet for å utforme algoritmens strategi, la den utvikle sin egen tilnærming. Overraskende nok begynte algoritmen plutselig å vinne alle spillene sine. Det viste seg at algoritmens strategi var å plassere bevegelsen veldig, veldig langt unna, slik at når motstanderens datamaskin prøvde å simulere det nye sterkt utvidede brettet, ville den enorme spillbrettet føre til at det gikk tom for minne og krasje, og tapte spill.'
6. Ingen nyttig spillfeil blir uutnyttet.
'Dataspill-algoritmer er veldig flinke til å oppdage hva slags Matrix-feil som mennesker vanligvis lærer å utnytte for hurtigkjøring. En algoritme som spilte det gamle Atari-spillet Q * bert oppdaget en tidligere ukjent feil der den kunne utføre en veldig spesifikk serie trekk på slutten av ett nivå, og i stedet for å flytte til neste nivå, ville alle plattformene begynne å blinke raskt og spiller ville begynne å samle enorme antall poeng, sier Shane.
7. Beklager, pilot.
Dette eksemplet er super høyt på krypskalaen: 'Det var en algoritme som skulle finne ut hvordan man kunne bruke en minimumskraft til et fly som lander på et hangarskip. I stedet oppdaget den at hvis den brukte en 'enorm' kraft, ville den overflyte programmets minne og i stedet registrere seg som en veldig 'liten' styrke. Piloten ville dø, men hei, perfekt poengsum. '
Så er vi alle dømt?
Alle disse sammen tilsier at mennesker er ganske elendige til å gjette hvordan roboter vil løse problemene vi setter for dem, eller til og med hvordan de vil definere problemene. Så betyr det at Shane er like bekymret for ved et uhell å bygge drap A.I. overherrer som Musk er? Ikke egentlig, men ikke fordi hun er sikker på at menneskelige programmerere virkelig har et flott håndtak på robotene de lager. I stedet banker hun på robot latskap for å redde oss.
'Som programmerere må vi være veldig forsiktige med at algoritmene våre løser problemene vi mente at de skal løse, og ikke bruker snarveier. Hvis det er en annen, enklere rute mot å løse et gitt problem, vil maskinlæring sannsynligvis finne det, 'observerer hun. 'Heldigvis for oss er' drep alle mennesker 'veldig vanskelig. Hvis 'bake en utrolig deilig kake' også løser problemet og er lettere enn 'drep alle mennesker', vil maskinlæring gå med kake. '
