Denne blog-post bliver forhåbentlig bare en kort opfølgning på to tidligere indlæg.
Jeg er nemlig lige faldet over noget ret interessant information i begge tilfælde.
Den første er en opdatering på det indlæg jeg skrev i sommer, som handlede om farerne ved kunstig intelligens, articifial intelligens (AI). Og farerne ved at mere eller mindre skøre rigmænd i blandt andet USA og Rusland investerer i disse teknologier for at fremme deres ønske om at leve evigt. Det lyder flippet, men I kan læse om det her.
Heldigvis er andre rigmænd, som en af mine få helte i verden, Elon Musk, begyndt at ‘mod-investere’, sådan at teknologien for AI ikke ender i de forkerte hænder og hoveder.
Jeg var i Sverige i går, som led i et program af Nordisk Råd. På toget hjem blev jeg i en artikel jeg læste, bekendt med en ny udvikling i sagen. For 1 måned siden offentliggjorde en række forskere under The Future of Life Institute et åbent brev af en række prominente forskere fra MIT og Harvard (en af forskerne var svensker). Brevet er nu blevet underskrevet af toppen af den teknologiske udvikling i firmaer som Facebook, IBM og Google og mange, mange andre.
Hvad handler det åbne brev om?
Det handler om at holde udviklingen af AI til fordel for menneskeheden. Underforstået: der er kræfter der ikke vil have AI til at fungere for menneskeheden. Såsom blandt nogle af dem jeg bloggede om i sommer.
Nå, hvad står der så i brevet?
Det er meget kort og har som hovedformål at beskrive AI som et fænomen der ikke længere er så langt ud i fremtiden. Derfor må vi bevæge os væk fra at diskutere AIs kapabilitet og i stedet begynde at tale om AIs formål; hvad vi skal bruge AI til. “Our AI systems must do what we want them to do”, står der.
I et sidedokument til det åbne brev nævnes en række prioriteter som AI kan sættes i gang med. Det dokument kan anbefales at læses. Ikke mindst fordi det er en nydelse at læse noget intelligente mennesker har brugt tid på at skrive.
Og desuden beskrives i brevet en række små og store paradokser, som muligvis fremstår som kuriositeter, men som i virkeligheden skal undersøges i dybden for at skabe en bedre verden i selskab af AI.
Fx:
"If self-driving cars cut the roughly 40,000 annual US traffic fatalities in half, the car makers might get not 20,000 thank-you notes, but 20,000 lawsuits."
Og:
"(...) if a robot vacuum cleaner is asked to clean up as much dirt as possible, and has an action to dump the contents of its dirt container, it will repeatedly dump and clean up the same dirt. The requirement should focus not on dirt cleaned up but on cleanliness of the floor. Such specification errors are ubiquitous in software verification, where it is commonly observed that writing correct specifications can be harder than writing correct code."
(Der er jo 1.000 ting sådan en statement får én til at tænke på. Fx hvor meget respekt man bør have for folk der skriver godt udbudsmateriale. Og hvor let det er at lave et virkelig crappy udbud som får den vindende virksomhed til at opføre sig som støvsugerrobotten der dumper sig eget støv for at støvsuge).
Hele dokumentet er et læs værd og der findes link til brevet i bunden af indlægget her.
(En observation om hvad angår de folk der har skrevet under på det åbne brev: Læg mærke til, at Ray Kurzweil fra Google, som jeg også skriver om i indlægget fra i sommer - og som jeg ikke er bange for at kalde Verdens Farligste Mand - ikke har skrevet under).
- - -
Den anden supplement jeg - denne gang i sandhed kort! - vil lave til et tidligere blog-indlæg, handler om Charlie Rose.
Charlie Rose laver - som man kan læse i et 2 år gammelt indlæg - eminent TV.
Det har været tilgængeligt over nettet i Danmark, men så pludselig ikke længere. Men så opdagede i dag ved et tilfælde, at den kære Charlie Rose IGEN er tilgængelig over nettet. Det duer dog ikke med tablets… Den næstseneste udsendelse er en time med Kevin Rudd, tidligere premiereminister i Australien og nuværende præsident for Asia Society Policy Institute.
- - -
