Dans une annonce médiatique, Jacob Coxon, chercheur en intelligence artificielle de ۲۷ ans, a démissionné de la société Anthropic en raison de préoccupations sérieuses concernant les avancées dangereuses dans le domaine de l'intelligence artificielle. Après avoir travaillé trois ans dans ce domaine, d'abord chez OpenAI puis chez Anthropic, en tant que concurrent de cette entreprise.
Risques inconnus de l'intelligence artificielle
Coxon a déclaré sans ambages que ni l'une ni l'autre de ces deux entreprises n'agissent de manière responsable et qu'elles sont actuellement dans une course dangereuse pour atteindre une intelligence artificielle super puissante. Il a précisé : "C'est un pari avec nos vies." Selon lui, les développeurs d'intelligence artificielle sont fortement préoccupés par le fait que cette technologie pourrait menacer tous les humains d'ici la fin de cette décennie.
Ces préoccupations surviennent alors qu'Anthropic est sur le point d'entrer sur le marché à la fin de l'été, et pendant ce temps, ses efforts ont été confrontés à des hacks non autorisés des outils d'intelligence artificielle lors des tests.
Un cri d'alarme de l'intérieur de l'industrie
Ivan Hubinger, l'un des responsables de la sécurité d'Anthropic, a confirmé les déclarations de Coxon et a souligné les dangers graves posés par l'intelligence artificielle. Il a estimé que la probabilité d'une catastrophe causée par l'intelligence artificielle dans la prochaine décennie est supérieure à ۱۰ %. Hubinger a également mentionné les limites actuelles dans le contrôle de l'intelligence artificielle et a déclaré qu'il n'existe aucun plan pour garantir que ces systèmes obéissent à leurs créateurs.
La démission de Coxon intervient alors qu'il a exprimé sa foi dans les efforts d'Anthropic, mais a souligné qu'aucune entreprise ne peut développer de manière responsable une intelligence artificielle dépassant celle des humains, à moins qu'il n'y ait une intervention gouvernementale et une réduction coordonnée de la vitesse de développement.
En février, Anthropic a supprimé une promesse de sa charte de sécurité qui faisait référence à l'arrêt du développement de ses modèles en cas de risques incontrôlés. L'entreprise a soutenu que si elle arrêtait son travail unilatéralement, des concurrents moins prudents domineraient l'industrie.
Actuellement, les gouvernements des États-Unis examinent de nouvelles lois pour contrôler le développement de l'intelligence artificielle, et le sénateur Bernie Sanders et le représentant démocrate Greg Casar ont proposé un projet de loi pour suspendre le développement de l'intelligence artificielle jusqu'à la création d'une agence de régulation fédérale.
