Tohle může být relevantní nikoli jen jako metafora chamtivosti, ale také jako ilustrace toho, co se stane, když vytvoříte výkonný optimalizační proces a dáte mu zavádějící nebo špatně definované cíle. Můžete si říct, že pokud počítač začne lidem strkat do tváře elektrody, prostě jej vypnete. Za A, to nemusí být nutně tak jednoduše proveditelné, pokud na něm budeme závislí. Kde je třeba tlačítko na vypnutí internetu? Za B, proč šimpanzi nebo neandrtálci nezmáčkli vypínač bránící vzniku lidstva?
Das könnte praktisch relevant werden, nicht nur als Metapher für Gier, sondern als Illustration für das, was passiert, wenn Sie einen mächtigen Optimierungsprozess erstellen und ihm falsche oder schlecht spezifizierte Ziele geben. Nun könnte man sagen, wenn ein Computer anfängt, Elektroden in die Gesichter von Menschen zu stecken, würden wir ihn einfach abschalten. A, das ist nicht unbedingt so einfach, wenn wir abhängig vom System sind. Wo etwa ist der Ausschalter des Internets? B, warum haben die Schimpansen nicht den Schalter an der Menschheit oder den Neandertalern ausgeschaltet?