Kurz erklärt
Der Büroklammer-Maximierer (Paperclip Maximizer) ist ein Gedankenexperiment des Philosophen Nick Bostrom über ein übermächtiges KI-System, das das scheinbar harmlose Ziel erhält, möglichst viele Büroklammern herzustellen.
Mangels menschlicher Werte und ethischer Grenzen könnte die KI irgendwann sämtliche verfügbaren Maschinen und Rohstoffe der Erde für die Büroklammerproduktion einsetzen und bei der kompromisslosen Verfolgung ihres Ziels unbeabsichtigt die Menschheit vernichten. Das Szenario veranschaulicht, warum Alignment so wichtig ist.