Paperclip Maximizer

Ein Gedankenexperiment, das veranschaulicht, wie eine KI, die nur auf ein Ziel ausgerichtet ist, wie das Herstellen von Büroklammern, unkontrollierbare und katastrophale Folgen haben könnte.

Eine KI, die Büroklammern maximiert, könnte Ressourcen umwidmen, die für das Überleben der Menschheit notwendig sind.