Olle Häggström har kommenterar mitt senaste inlägg i diskussionen om artificiell intelligens (AI) i ett tillägg till sin ursprungliga bloggartikel.
Jag vill bara kommentera Häggströms kritik av mitt argument om den existentiella ångest som jag hävdar att en intelligent maskin kommer att försättas i. Han skriver att den synpunkten "luktar antropomorfism lång väg", alltså att jag på ett felaktigt sätt extrapolerar från specifikt mänskliga egenskaper till hur en annan typ av intelligens kan förmodas fungera.
Jo, det är tänkbart. Men, som jag också påpekade, vi har ju bara människans intelligens att förhålla oss till rent empiriskt. Filosofer, kognitionsforskare och andra försöker destillera fram vad som är generellt och vad som är specifikt i människans beteende, men bristen på datapunkter utgör ett svårt hinder. Vi har i stort sett bara en typ av tänkande varelse att utgå från.
Mitt argument siktade på att vara icke-antropomorft på följande sätt: En dator som är så intelligent att den kan inse hur den ska manipulera sin omgivning för att tillverka kopior av sig själv (utan att ha blivit explicit programmerad att göra det), måste inse att den själv är en del av den miljö som den verkar i. Denna insikt tror jag utgör en både nödvändig och tillräcklig förutsättning för självmedvetande. Om en sådan hyperintelligent maskin kan nå självmedvetande, vilket jag alltså håller för troligt, då kommer den att analysera även sina egna reaktioner och dispositioner, inklusive den "ultimata drivkraft" som hela resonemanget om den mordiska schackroboten bygger på. Då kan den drivkraften inte längre vara ultimat.
De YouTube-videos som finns av Steve Omohundros föreläsningar är klart sevärda.Jag har fört upp de referenser som Häggström ger i sina inlägg på min att-läsa-lista, så jag kanske återkommer till denna diskussion längre fram.
Jag vill tacka Olle Häggström för en mycket intressant diskussion. Det är väldigt skönt att kunna diskutera tufft och rakt utan invektiv.