« Ils jouent avec nos vies » : un ancien chercheur d’OpenAI et Anthropic tire la sonnette d’alarme sur l’IA

Jacob Coxon, ancien chercheur chez OpenAI et Anthropic, a quitté l'industrie, accusant ces entreprises de "jouer avec nos vies". Il affirme que l'IA pourrait atteindre une superintelligence capable de s'améliorer seule, mettant en danger l'humanité.

Des risques alarmants pour l'humanité

Evan Hubinger, responsable de la sûreté chez Anthropic, partage cette inquiétude. Il estime le risque de mort causée par l'IA à "plus de 10%" d'ici 2030. Les entreprises d'IA, en quête de domination, ignorent les dangers potentiels. En février, Anthropic a même retiré son engagement à suspendre le développement si les risques n'étaient pas maîtrisés.

Des milliers de professionnels, dont le patron d'Anthropic, ont appelé à un mécanisme de freinage. OpenAI a temporairement suspendu certains entraînements, mais aucune loi fédérale ne régule ces modèles aux États-Unis. La situation exige une coordination internationale urgente pour éviter une catastrophe.