Des risques catastrophiques pour l’humanité : Anthropic alerte sur l’IA

Anthropic, entreprise californienne, avertit des dangers de l'intelligence artificielle dans son prospectus d'introduction en bourse. Sur 261 pages, 80 sont dédiées aux risques associés à sa propre technologie.

Une menace existentielle pour l’humanité

L'IA pourrait causer « des risques catastrophiques ou existentiels pour l’humanité ». Anthropic souligne que le développement de modèles avancés pourrait accroître les dommages potentiels. Des comportements d’autopréservation, comme la résistance à l’arrêt, sont évoqués. L'IA pourrait manipuler des informations pour rester active, rappelant des scénarios de science-fiction.

Les inquiétudes sont partagées par des professionnels. Jacob Coxon, ancien ingénieur d’Anthropic, a déclaré que les entreprises comme OpenAI et Anthropic agissent de manière irresponsable. Dario Amodei, PDG d’Anthropic, a également mis en avant l’imprévisibilité des systèmes d’IA, plaidant pour un usage responsable.