Ein Anthropic-Forscher kündigt an, dass KI-Labore unser Leben riskieren

Jacob Coxon, ein ehemaliger Anthropic-Forschungsmitarbeiter im Bereich Pre-Training, der zuvor bei OpenAI tätig war, trat zurück und warnte, dass unkontrollierte selbstverbessernde KI „mit unserem Leben spielt“ und supermenschen werden, alles hacken und bis Ende des Jahrzehnts die Menschheit töten könnte. Er fordert koordinierte, branchenweite und internationale Beschränkungen der rekursiven Selbstverbesserung, um das existenzielle Risiko zu verringern.

Aus allen unten stehenden Berichten verfasst, nicht aus einem einzelnen.

Maschinell übersetzt. Die Originalberichte sind in ihrer eigenen Sprache.