Un chercheur d'Anthropic démissionne, affirmant que les laboratoires d'IA jouent avec nos vies

Jacob Coxon, ancien chercheur en pré-entraînement chez Anthropic ayant travaillé auparavant pour OpenAI, a démissionné en avertissant qu'une IA à amélioration autonome incontrôlée pourrait devenir surhumaine, pirater n'importe quel système et potentiellement anéantir l'humanité d'ici la fin de la décennie. Il appelle à des limites coordonnées, internationales et à l'échelle de l'industrie sur l'auto-amélioration récursive afin de réduire les risques existentiels.

Rédigé à partir de l’ensemble des articles ci-dessous, et non d’un seul.

Traduction automatique. Les articles d’origine sont dans leur langue.