Det virker som om en måned ikke går forbi uten at noen høyprofilerte kommenterer potensialet for maskiner med kunstig intelligens til å overta verden. Elon Musk er i rekorden og sier at AI-systemer er "potensielt farligere enn nukes." Men han er ikke den eneste, Stephen Hawking er også opptatt av, "Utviklingen av full kunstig intelligens kan utgjøre slutten på den menneskelige rase," Professor Hawking sa til BBC. "Det ville ta av på egenhånd og utforme seg selv i stadig økende tempo." Selv Bill Gates er bekymret, "Jeg er i leiren som er opptatt av superintelligens. Jeg er enig med Elon Musk og noen andre i dette og forstår ikke hvorfor noen ikke er bekymret. "

De gir alle uttrykk for bekymring for muligheten for at kraftige AI-systemer får utilsiktede, eller til og med potensielt katastrofale, konsekvenser. Tilbake i januar ga Elon Musk 10 millioner dollar til Future of Life Institute (FLI) for å drive et globalt forskningsprogram for å holde AI gunstig for menneskeheten.

I dag har Future of Life Institute kunngjort at de har tildelt 7 millioner dollar i midler til 37 forskerteam rundt om i verden slik at samfunnet kan høste fordelene av AI, samtidig som man unngår apokalypsen og slutten på livet på jorden.

Faren med Terminator-scenariet er ikke at det vil skje, men at det distraherer fra de virkelige problemene som fremtidig AI stiller.

Jaan Tallin, et av grunnleggerne av FLI og fyren som skrev den opprinnelige versjonen av Skype, sa om den nye forskningen, “å bygge avansert AI er som å skyte en rakett. Den første utfordringen er å maksimere akselerasjonen, men når den begynner å øke hastigheten, må du også fokusere på styring. ”

Blant de 37 prosjektene er tre prosjekter som skal se på teknikker som gjør det mulig for AI-systemer å lære hva mennesker foretrekker å observere vår oppførsel. Ett av disse prosjektene vil bli drevet ved UC Berkeley, og ett vil være på Oxford University.

Benja Fallenstein, ved Machine Intelligence Research Institute, skaffer $ 250 000 dollar til å undersøke måter å holde interessene til superintelligente systemer på linje med menneskelige verdier. Mens teamet til Manuela Veloso, fra Carnegie-Mellon University, vil motta 200 000 dollar for å se på hvordan de kan gjøre AI-systemer til å forklare beslutningene sine for mennesker.

Andre prosjekter inkluderer en studie av Michael Webb fra Stanford University om hvordan man kan holde de økonomiske virkningene av AI gunstig, et prosjekt for å holde AI-drevne våpen under "meningsfull menneskelig kontroll", og et nytt forskningssenter i Oxford-Cambridge for å studere AI -relevant politikk.

Denne siste er den store jackpoten. Det nye senteret kalt “Strategic Research Center for Artificial Intelligence” vil bli ledet av Nick Bostrom, fyren som skrev boken som fikk Elon til å få panikk over menneskehetens fremtid. For å sette opp senteret gir FLI Bostrom kule 1,5 millioner dollar. Hvem sa at det ikke var penger i å skrive ting om roboter som overtar verden? Vel, ingen, bare se på hvor mye penger Hollywood tjener på den sjangeren!

Når vi snakker om Hollywood, prøver FLI å skille seg fra apokalypsen. FLI er opptatt av å understreke viktigheten av å skille fakta fra fiksjon. "Faren med Terminator-scenariet er ikke at det vil skje, men at det distraherer fra de virkelige problemene som fremtidig AI stiller", sa FLI-president Max Tegmark. "Vi holder oss fokusert, og de 37 teamene som støttes av dagens tilskudd, bør bidra til å løse slike virkelige problemer."

Hva tror du? Penger vel brukt?