Dags att gnugga geniknölarna innan AI gör det åt oss

Nick Bostrom är professor i filosofi vid Oxfords universitet. Hans specialområde är filosofiska tankar kring framtiden, artificiell intelligens (AI), superintelligens och mänsklighetens existentiella plats i framtidens universum. Bostrom är född i Helsingborg men då under namnet Nicklas Boström.

Nick Bostrom, professor vid Oxford

Jag har läst hans bok Superintelligens. Det har varit en intressant pärs att ta sig igenom denna 500 sidor mastiga bok. Snabbt sammanfattat handlar hans bok om tre typer av superintelligens. Mänsklig superintelligens i form av kollektiv och framavlad intelligens som ligger minst tre generationer fram i tiden. Den andra formen av superintelligens är vad Bostrom kallar hjärnemulering. Hjärnemulering baseras på en mänsklig hjärna men som via datoranalys sedan används och bildar en egen tankeförmåga. Den tredje och sista – och mest troliga – är artificiell intelligens (AI).

Hur ska vi kunna ”tämja” en maskin som är både smartare och snabbare än oss själva?

Bostrom driver tesen att vi människor är för dåligt rustade för en maskinintelligens som får övermänsklig tankeverksamhet. Hur ska vi kunna ”tämja” en maskin som är både smartare och snabbare än oss själva? För det här kan gå käpprätt åt helvete på bråkdelar av sekunder om det vill sig riktigt illa. Faran uppstår i ett tidigt skede av utvecklingen. När datorkraften finns och när forskningen fått fram en maskin som ökar sin egen intelligens allt eftersom tiden går kommer vi till den punkt när den får kapacitet på en mänsklig nivå. Efter det kommer sannolikt allt gå mycket fort. Kurvan blir då i bästa fall logaritmisk. På bråkdelar av en sekund blir maskinen en superintelligens som – om den inte är rätt programmerad – kommer att göra det den anser mest logiskt utifrån matematiska termer. En snöbollseffekt som är mycket snabb.

 Det verkar mycket osannolikt att en maskinintelligens skulle tänka som vi människor. En maskin skulle antagligen vara mer beräknande, använda det som är mest sannolikt, vara väldigt övertygande i sin roll som kommunikatör till oss människor, kort och gott en livsfarlig manick som dessutom inte är beroende av syre och därför kan expander långt ut i universum. Bostrom har för detta fenomen myntat begreppet Singelton. En maskin som helt enkelt tar världsherraväldet ett par steg längre och blir ostoppbar.

Bostrom argumenterar starkt för att vi måste tänka igenom hur vi ska hantera maskinintelligens framöver. Han menar på att vi tillsammans måste sätta upp riktlinjer och verkligen, verkligen, fundera på vad som händer när vi programmerar superintelligens. Minsta fel i målsättningen för en AI kan få katastrofala följder med extremt mänskligt lidande som följd. Om jag får gissa tror jag att maskinintelligens kommer bli framtidens stora ödesfråga.

Boken är mycket akademiskt skriven. Många av orden saknar svenska definitioner och den är mycket svårläst. Vissa stycken förstår jag inte alls. Det är synd, för den här boken tar upp ett viktigt ämne som är högaktuellt. Trots allt vill jag ändå rekommendera den för den är mycket läsvärd och ger en nya tankar om den tekniska utvecklingen.

ISBN: 978-91-87513-08-4 91-87513-08-0

%d bloggare gillar detta: