V povezavi z umetno inteligenco poznamo veliko različnih strahov, tudi na primer strah, da bodo roboti z vojaško silo prevzeli oblast, a resnično menim, da to ni prav verjeten scenarij. Prisoten je denimo strah pred pojavitvijo neke superinteligence, pri katerem strokovnjaki pogosto govorijo o pojavu »tehnološke singularnosti«, ki označuje točko, ko umetna inteligenca preseže človeško. Nekateri so špekulirali, da bo ta točka pomenila katastrofo, da bo to začetek konca človeštva, a tudi ti strahovi so slabo utemeljeni. Nobeden od teh prerokov namreč ni definiral, kako bomo sploh vedeli, da je napočil trenutek, ko je umetna inteligenca presegla človeško. Inteligenca je sestavljena iz mnogih komponent in v nekaterih je umetna inteligenca že presegla človeško, v nekaterih je še ni, v nekaterih ni videti, da bi jo bila kadarkoli sploh zmožna preseči.

Navsezadnje se tukaj pojavi tudi vprašanje, zakaj bi bilo za človeštvo pravzaprav usodno, če bi umetni inteligenci uspelo v vseh komponentah preseči človeško. Sam menim, da to sploh niso tako ključna vprašanja: ena od resnih nevarnosti preti v tem, da se bodo morali politiki pri odločanju zanašati na umetno inteligenco, ki pa pri doseganju nekaterih ciljev nima dovolj učinkovitih etičnih načel ali varoval. Pri tem njenih odločitev ljudje – uporabniki – ne bodo dobro razumeli in jih ne bodo mogli preveriti. x Mladina