6 veículos·7 reportagens·ao longo de 27h
Pesquisador da Anthropic deixa a empresa alegando que laboratórios de IA estão “apostando com nossas vidas”
Jacob Coxon, ex-pesquisador de pré-treinamento da Anthropic e ex-OpenAI, renunciou e alertou que a IA auto-melhorável, sem controle, pode se tornar superhumana, hackear qualquer coisa e potencialmente aniquilar a humanidade até o final da década. Ele pede limites coordenados, setoriais e internacionais à auto-melhoria recursiva para reduzir o risco existencial.
Escrito a partir de todas as reportagens abaixo, não de uma só.
Tradução automática. As reportagens originais estão no idioma de origem.
Como foi noticiado
- The Next Web·An Anthropic researcher quit saying AI labs are gambling with our lives
- Hacker News·Gambling with our lives: AI researcher quits Anthropic with warning about safety
- TechCrunch·‘Gambling with our lives’: Anthropic researcher quits, warns against self-improving AI
- Ars Technica·Anthropic researcher quits with a warning: Self-improving AI could "kill us all"
- Wired·The AI Researcher Who Just Quit Anthropic Says It’s ‘Crunch Time for Humanity’
- TechMeme·Q&A with AI researcher Jacob Coxon, who quit Anthropic, on the need for industry-wide, international coordination to limit recursive self-improvement, and more (Maxwell Zeff/Wired)
- TechMeme·Anthropic gives EU cybersecurity agency ENISA testing access to Mythos 5 after months of talks that began in late May; ENISA still lacks access to Mythos 5.1 (Gian Volpicelli/Bloomberg)