O(“Sicurezza AGI”)>O(“Stop tiranni”)

~ La sicurezza AGI è dura ALMENO quanto un protocollo che impedisce la tirannia ~

Quando vogliamo tenerci al sicuro dall'AGI, ( Aritificial General Intelligence ), uno dei criteri chiave è "possiamo spegnerlo se cerca di impazzire?" Questo è lo stesso requisito ogni volta che mettiamo una persona a capo di un intero governo: "possiamo deporre questa persona, senza che usino i militari per fermarci?"

L'AGI ha rischi e problemi in più, essendo super intelligente, mentre la maggior parte dei dittatori sono idioti. Eppure, se qualcuno mi dicesse “ abbiamo risolto la sicurezza AGI! ” poi vorrei annunciare con piacere “ allora avete risolto anche i-governi-di-protezione-dai-dittatori! "Potresti essere in grado di evitare tutti i dittatori in un modo che NON ci cura dai rischi AGI ... tuttavia, se previeni in modo affidabile AGI-pocalisse, allora hai sicuramente gestito i dittatori, usando lo stesso metodo.

Quindi, questo significa che presto troveremo una panacea per le minacce di morte AGI? Considerando che non abbiamo fermato i dittatori negli ultimi... secoli? Millenni? Sì, potremmo essere fregati. Considerando che i dittatori hanno armi nucleari e possono progettare super-virus... Oh, e questo implicherebbe: " I dittatori sono il rischio esistenziale di ' una macchina furiosa che non possiamo spegnere '... il che significa che oggi dobbiamo combattere quei signori dell'AGI .”