AI, etik och meningen med livet: funderingar kring Liv 3.0

För att programmera en vänlig AI måste vi fastställa meningen med livet.
                                                              -- Max Tegmark, Liv 3.0 

Vilken typ av utmaningar kommer vi att möta när maskininlärning blir vanligare inom sjukvård, rättsväsende och krigföring? Hur gör vi livet drägligt och meningsfullt om AI tar över alla jobb? Och vad skulle hända om någon utvecklade en AI med generell intelligens på mänsklig nivå - eller högre?

Den här typen av frågor tas upp i fysikern Max Tegmarks bok Liv 3.0, som kom ut på svenska 2017 men som jag inte kommit mig för att läsa förrän nu. Den omfattar åtta kapitel med ämnen som hur fysiska föremål kan byggas för att kunna minnas och utföra beräkningar, nära förestående utmaningar inom AI, intelligensexplosion med tillhörande framtidscenari
er, samt människors och maskiners målsättningar och frågan om hur man vet att någon är medveten. Boken ger en bred översikt över både artificiell intelligens och ett antal andra frågor som hänger ihop med AI och dess effekter. Tegmark lyckas också nyansera mediebilden av AI i flera avseenden och han är hela tiden noga med att påpeka när ledande experter är oense i någon fråga (som t.ex. hur lång tid det kommer att ta för oss att utveckla en artificiell intelligens som överträffar oss själva).

Ett avgörande syfte med boken är att lyfta diskussionen om de etiska, praktiska och samhälleliga problem som utvecklingen inom AI kan ställa oss inför. Tegmark tar upp frågor som dyker upp både på kort sikt, som AI-styrda vapen, medellång sikt (några tusen år), och riktigt lång sikt (miljarder år). Diskussionen förs mestadels utifrån attityden att generell artificiell intelligens på mänsklig nivå är något som kan utvecklas, och antagligen kommer att utvecklas inom överskådlig framtid (generell artificiell intelligens syftar här på ett system som flexibelt kan ta sig an många olika typer av problem, till skillnad från specialiserade AI:n som bara är bra på att spela go eller köra bil, medan "superintelligens" syftar på generell AI över mänsklig nivå). Även när det gäller våra nuvarande specialiserade AI, som AlphaGo eller algoritmer för självkörande bilar, är Tegmark tydligt imponerad. Just när det gäller självkörande bilar skriver han om dem som om de redan var verklighet, vilket jag tycker är lite väl optimistikt med tanke på hur begränsade dagens autonoma fordon ändå är. Även när det gäller maskinöversättningar med Google translate är han betydligt mer positiv än jag själv, fast det kan ju också bero på hur petig man är med språket.

Jag misstänker att Tegmark ser AI som en mer eller mindre naturlig fortsättning av livets utveckling. Namnet på boken pekar också i den riktningen, eftersom det syftar på Tegmarks klassificering av olika typer av liv som förklaras i första kapitlet. Liv 1.0 är organismer där både kropp och förmågor (som Tegmark jämför med hårdvara och mjukvara) är helt bestämda av genetiska förutsättningar och inte förändras under organismens livstid, medan liv 2.0 är organismer vars fysiska form är genetiskt bestämd men som kan lära sig nya förmågor och beteenden (exempelvis vi själva, som kan lära oss flera språk, att spela instrument och så vidare). Liv 3.0 är då liv som kan ändra både hårdvara och mjukvara, som ett AI som både kan lära sig nya saker och installera sig själv i en bil, ett flygplan eller nån mer avancerad robot alltefter behov.

En annan sak som har stor påverkan på hur de här frågorna läggs fram i boken är Tegmarks övertygelse, framlagd redan i första kapitlet, att medvetande är det som ger mening åt universum och att ett universum utan medvetna varelser är meningslöst. Ett scenario där AI aldrig lyckas utveckla medvetande blir då ett klart sämre scenario än ett där medvetna, intelligenta maskiner utforskar världsrymden långt bortom de gränser som sätts av vad den mänskliga kroppen tål. Det skulle kunna vara en kombination av synen på AI som nästa utvecklingssteg och synen på medvetande som meningsskapande som gör att kapitel 6, det om de riktigt långa tidsperspektiven, upptas så mycket av hur våra hypotetiska AI-ättlingar skulle kunna utvinna energi ur svarta hål och kommunicera över avståndet mellan galaxerna. (Om du ska läsa boken och inte tycker att just detta tema verkar intressant så går det alldeles utmärkt att hoppa över kapitel 6 och gå rakt på diskussionen om mål i kapitel 7. Är du däremot fascinerad av Dysonsfärer och liknande är det högintressant.)

Synen på medvetande slår också igenom i de sista två kapitlen, som handlar om vilka mål AI borde ha och hur man ser till att de har rätt mål respektive hur vi egentligen kan avgöra ifall ett AI (eller något annat synbart intelligent system) är medvetet eller ej. Det är här Tegmark drar slutsatsen att vi innan vi utvecklar superintelligent AI skulle behöva lösa några små filosofiska bryderier som vi tampats med sen före Sokrates: Otvetydiga definitioner av sådant som "mening" och "liv", klarhet i vad som egentligen är "det yttersta etiska imperativet" och naturligtvis frågan om vad medvetande egentligen är.

Jag skulle tro att den sistnämnda frågan är den vi har bäst möjligheter att göra framsteg med - eftersom medvetande är något som existerar är det åtminstone teoretiskt möjligt att vi kan hitta ett sätt att observera det och reda ut vad som krävs för att det ska uppstå. Etiska imperativ är det värre med, framför allt om man som Tegmark vill att de ska uttryckas i "fysiska kvantiteter såsom partikelarrangemang, energi och entropi". Tegmark medger visserligen att vi inte egentligen har någon anledning att tro att våra önskningar när det t.ex. gäller mänsklighetens överlevnad är förenliga med den typen av väldefinierade mål, men han har helt klart inte gett upp. För egen del anser jag att om vi måste veta vad livets mening är för att inte bli utrotade av superintelligent AI så är det ett av de bästa argument jag hört för att inte utveckla AI med superintelligens. (Jag hoppas återkomma till vissa saker som tas upp i de här kapitlen, samt delvis i epilogen, i en senare text.)

Liv 3.0 är en intressant och läsvärd bok, men beroende på hur mycket man delar författarens uppfattning om meningen med universum kan vissa delar kännas lite onödiga. Personligen är jag, även efter att ha läst den, mer bekymrad över vad vi människor kan åstadkomma med AI som inte är smartare än vi själva än över vad superintelligent AI kan ställa till med, men jag är glad att det finns sådana här böcker som lyfter frågorna och bidrar till bättre kunskap om vilka problem som skulle kunna uppstå.