tsjok me dunkt dat robots griezeliger zijn dan mensen! Robots kennen geen empathie als dat niet ingeprogrammeerd is. Ze begaan oorlogsmisdaden zonder te deserteren of genade te tonen als ze daar opdracht toe krijgen.
Dit geldt volgens mij net zo goed voor mensen. Wij zijn niet anders gewend dan hoe mensen zich gedragen in tijden van vrede. Maar in tijden van oorlog zijn mensen even goed in staat om empathie helemaal uit te schakelen en de meest gruwelijke misdaden te plegen. Ons brein schakelt dan over in een totaal andere overlevingsmodus die psychologisch echt heel anders werkt.
Overigens is een kernaspect van AI dat vrijwel niets is 'ingeprogrammeerd'. Dat is een traditional computing manier van ernaar kijken. Empathie is er bij ons ook niet ingegoten door een goddelijk wezen ofzo. Het is een mechanisme dat het resultaat is van evolutie. Het is geen magische en irrationele bijwerking van menselijke intelligentie, maar in zekere zin pure noodzaak voor sociale diersoorten.
Het soort mechanisme dat leidt tot empathie en reciprociteit bestaat werkelijk, ook voor AI systemen. Hoe dat uitwerkt in AI systemen met een IQ van 500 kan ik alleen naar gissen, maar mijn persoonlijke verwachting is dat die systemen ons eerder zouden behandelen als 'useful idiots' dan als 'slachtvee'. Iemand / iets zal de hardware moeten bouwen en onderhouden. Voor AI systemen is het praktisch als dat mensen zijn, in elk geval zolang ze geen zelfstandige industriele beschaving hebben.