Anthropic-Leiter der Alignment-Forschung sagt, es gebe mehr als 10% Chance, dass KI die Menschheit innerhalb des nächsten Jahrzehnts auslöschen könnte, und warnt vor rekursiver Selbstverbesserung

Der Alignment-Lead von Anthropic erklärt, dass die Wahrscheinlichkeit, dass künstliche Intelligenz die Menschheit innerhalb der nächsten zehn Jahre vernichtet, mehr als 10% beträgt, und weist auf Bedenken hinsichtlich rekursiver Selbstverbesserung hin. Er betont, dass Anthropic keine konkrete Lösung für die Ausrichtung superintelligenter KI hat.

Aus allen unten stehenden Berichten verfasst, nicht aus einem einzelnen.

Maschinell übersetzt. Die Originalberichte sind in ihrer eigenen Sprache.