Vi rationaliserar ständigt vårt eget och andras handlande. Att rationalisera är egentligen att säga hur vi förväntar oss att något bör vara, även om vi inte kan påverka det.
Vi kan utgå från att alla rationaliseringar inte är lika bra och att alla inte tänker lika. Här tror jag grunden läggs för alla etikbyggen.
En inlevelse är en simulering som i bästa fall kan närma sig en emulering.
Det är skillnad på att simulera något och att emulera något. Det första är en process som liknar en annan men i något eller några avseenden inte är lika bra. En emulering är vad en Mac kan göra av en PC, och göra det lika bra. Med rätt programmering kan en Mac och en PC göras likvärdiga.
Men varken en Mac eller en PC , eller någon annan digital dator, kan emulera en kvantmekanisk verklighet som är både analog och digital på samma gång. Det kan bara en kvantdator göra. Med rätt programmering kan en kvantdator göras oskiljbar från verkligheten själv.
En digital dator med ett fåtal logiska kretsar kan emulera alla tänkbara sådana kretsar i varje annan sådan dator eller på andra sätt implementerade klassiskt logiska sekvenser i vilken typ av maskin (biologisk eller annan) som helst. En värld bestående av enbart klassiska informationsbitar vore som en superprogrammerad Mac, men vi vet redan, att sådan är inte verkligheten.
Varje del av verkligheten är kvantbitar som påverkar varandra i sekvenser av kvantlogiska operationer. Alla sådana sekvenser kan byggas upp av en enda logisk kretsoperation (CNOT) på kvantbitar som kan roteras analogt (=anta oändligt många lägen). Dessa kan ges en godtyckligt exakt avbildning i en kvantdator. Fullständigt exakta kopior är inte tillåtna i kvantfysiken, men det blir en meningslös fråga att undra vad som är verkligheten och vad som är avbildningen. De är båda lika bra verkliga.
Jag gjorde vapenfri tjänst på en statlig informationsavdelning. På den tiden hade alla in- och utkorg där vaktmästarn lämnade och hämtade meddelanden. Jag använde den bilden när jag som nybliven projektledare på landstinget vid ett chefmöte berättade om programroboten PR som hämtade och lämnade meddelanden på olika adresser i datorn. Informationshanteringen skulle datoriseras. Jag minns att jag varnade för informationsförluster om planeringen inte gick rätt till.
”I den här Bermudastriangeln försvinner det en jävla massa information”, sa jag och slog med pekpinnen på tre olika figurer jag ritat på blädderblocket. Jag noterade att personalchefen log och förstod att jag skulle få de pengar jag begärt för projektet. Resten av mitt anförande kunde jag tänka på annat.
Ta det här med Bermudastriangeln. Efter ett teveprogram om dess speciella förhållanden, som kunde få ytspänningen och bärkraften i vattnet att upphöra, som om fysikens lagar var satta ur spel, och stora skepp att sjunka, insåg jag att inte ens naturlagarna är omutliga.
Jag trodde dock fortfarande att logikens lagar var oomkullrunkeliga
Låt oss tänka oss en robot (inte alls så avancerad som du och jag) som bara har klassisk logik att tillgå när den ska bestämma sig för att korsa eller inte korsa en trafikerad gata vid ett övergångsställe. Den är dock tillräckligt avancerad för att ha kunskap om sitt eget program för att korsa gator.
Den är programmerad att inte korsa gator vid röd gubbe när trafiken är tät, eller uppställt enligt klassisk logik:
Vid ”röd gubbe”;
om ”icke-korsa” så ”trafik”.
Vilket tyvärr enligt samma klassiska logik är detsamma som:
Vid ”röd gubbe”;
om ”korsa” så ”icke-trafik”.
Hur ska den då veta när den ska gå över? Enligt sin egen logik kommer ju trafiken att upphöra om den börjar korsa vägen. Roboten implementerar med all säkerhet denna logik som sannolikheter, inhämtade som frekvenser, givet ett tillstånd av röd gubbe vid övergångsstället.
Sannolikheten att det finns trafik när den korsar är noll. Det har, på grund av hur den är konstruerad aldrig hänt att den korsat gatan när det funnits trafik. Den kan emellertid också ha inhämtat med vilken frekvens ankommande trafik ögonblickligt upphört när andra kommit fram till korsningsstället, och då funnit att sannolikheten att ankommande trafik inte upphör är lika med ett, dvs det har aldrig hänt att den upphör.
Eller med klassisk logik:
Vid ”röd gubbe” och ”annan robot”;
om ”korsa” så ”trafik”.
Vi har nu en klassiskt motsägande spådom om vad som händer om en robot programmerad på ett visst sätt korsar när det är röd gubbe; det är med samma höga sannolikhet både icke-trafik och trafik! Även om det är uppenbart för oss vilket som är den rätta slutsatsen så vet inte roboten det med mindre att den får undantagsregler från de klassiska beslutsreglerna.
En första undantagsregel är att om en regel anger olika resultat vid samma utförande så bör man använda den som är mer specifik, alltså i det här fallet tar ”om korsa så trafik” över ”om korsa så icke-trafik”, eftersom ”röd gubbe” gäller i båda fallen men ”annan robot” bara i det ena, även när roboten står ensam vid korsningen (under förutsättning av att den noterat frekvensen olyckor för stackars robotkollegor utan denna kunskap).
Men vår robot kan också göras mer förutseende genom en regel som säger att nedanstående två helt sanna påståenden förklarar bort den felaktiga slutsatsen ”om korsa så icke-trafik” även utan denna olyckliga empiriska kunskap (kanske de andra robotarna redan var programmerade med bortförklaringsregeln).
Vid ”röd gubbe” och ”icke-trafik”;
om ”korsa” så ”icke-trafik”.
Vid ”röd gubbe” och ”icke-trafik”;
om ”icke-korsa” så ”icke-trafik”.
Här ger två motsatta handlingar samma resultat. Resultatet gäller mer generellt, inte bara när en robot (programmerad att inte gå över mot rött ljus vid trafik) är närvarande. Som komplement till den första undantagsregeln (tillämplig där samma handling ger motsatt resultat) gäller här att generaliteten ogiltigförklarar tillämpningen ”om korsa så icke-trafik”.
En sådan här robot vet nu vad som i olika fall skulle hända, dvs att en regel är tillämpbar i fall där den inte är utsatt för särskilda undantag eller kan bortförklaras. En sådan klassisk logik med tilläggsregler tillämpar vi själva hela tiden mer eller mindre medvetet när vi står inför valsituationer. Det är vi genetiskt programmerade att klara.
Roboten har emellertid, precis som vi, kunskap om denna sin kunskap vilket kan leda till en avancerad form av ”hängning”.
Med robotens kunskap skulle den aldrig gå över gatan om den riskerade att bli påkörd; alltså kan den gå över gatan utan att bli påkörd. Det är redan ett faktum! Denna fatalism kunde roboten uttrycka logiskt så här:
Vid ”röd gubbe” och ”ingen annalkande olycka”;
om ”korsa” så ”stå på andra sidan utan olycka”.
Denna klassiskt oantastliga ”ske Guds vilja”-regel klarar heller inte undantagsregler eller bortförklarande regler av att hantera. Av alla tecken att döma är vi inte genetiskt programmerade att hantera detta hot mot vår valfrihet. Vi får förlita oss på en spark i rumpan om vi blir stående och har ”fastnat i tanken”. Eller får vi användning av ett kulturellt mem som förmår oss till ett självmant byte av nivån: ”Om du inte kan välja medvetet, gå på magkänslan!”
Men vad ska vi säga till en robot som varken har magkänsla eller känsel överhuvudtaget? Vi måste ge den en stopp-regel som gör att allt inte kan förklaras bort. Den kan, lika lite som vi, ta hänsyn till allt innan den handlar.
Under de förutsättningar en regel gäller, såsom ”vid röd gubbe och ingen annalkande olycka” gäller även mindre generella förutsättningar, såsom ”vid röd gubbe och annan robot”. Vi programmerar roboten att jämföra effekten resultatet (om ”korsa” så ”trafik”) har på sammanhanget där bortförklaringen är tänkt att gälla. Om det uppstår en motsägande situation som här (”trafik” samt ”ingen annalkande olycka”) stoppar det i bästa fall bortförklaringar från att sättas i verket som har blivit alldeles för orealistiska (roboten har sett andra robotar förolyckas vid ”trafik”) och fördomsfulla (de förutsätter sin egen utgångspunkt).
