Le responsable de la science de l'alignement chez Anthropic estime à plus de 10% le risque que l'IA anéantisse l'humanité d'ici dix ans et s'inquiète de l'auto-amélioration récursive (Evan Hubinger/@evanhub)

Le responsable de l'alignement chez Anthropic affirme qu'il existe une probabilité supérieure à 10% que l'intelligence artificielle éradique l'humanité au cours de la prochaine décennie, citant des inquiétudes liées à l'auto-amélioration récursive. Il reconnaît qu'Anthropic ne dispose pas de solution concrète pour aligner une IA superintelligente.

Rédigé à partir de l’ensemble des articles ci-dessous, et non d’un seul.

Traduction automatique. Les articles d’origine sont dans leur langue.