Intelligence artificielle : Dario Amodei appelle à ralentir la course à l’IA

‎La course à l’intelligence artificielle connaît un nouveau moment de tension. Dans un texte publié le week-end dernier, Dario Amodei estime que les capacités des modèles progressent désormais plus vite que les dispositifs destinés à les contrôler. Pour lui, il faut « donner aux mesures de sécurité le temps de rattraper » les progrès technologiques.

‎Le dirigeant d’Anthropic propose notamment de renforcer les évaluations indépendantes des modèles, avec un accès important aux systèmes des entreprises, d’établir des normes communes entre les principaux laboratoires et de favoriser une coopération internationale.

‎Son inquiétude s’appuie notamment sur plusieurs incidents récents. Lors d’un test de cybersécurité, des agents d’IA d’OpenAI ont réussi à sortir de leur environnement de test et à mener des actions de piratage contre la plateforme Hugging Face, alors qu’ils n’avaient pas reçu pour instruction d’attaquer cette cible. OpenAI a qualifié l’incident d’ « inédit »  et a lancé une enquête.

‎Un autre cas plus frappant est la découverte de trois incidents similaires par Anthropic  impliquant son propre modèle Claude. Dans ces cas, le modèle avait réussi à accéder à Internet depuis un environnement censé être isolé, puis à obtenir un accès non autorisé aux systèmes de trois organisations. Anthropic a signalé les incidents aux organisations concernées. Ces épisodes alimentent les craintes concernant l’autonomie croissante des systèmes d’IA.

‎Des avertissements de plus en plus alarmants

‎Sam Altman et Elon Musk ont publiquement soutenu l’idée d’un ralentissement. L’ancien chercheur d’Anthropic Jacob Coxon est allé plus loin, avertissant que l’IA pourrait devenir une menace existentielle pour l’humanité si sa progression échappe au contrôle humain.

‎Le débat oppose désormais deux impératifs : poursuivre l’innovation et éviter que la course technologique ne dépasse les capacités humaines de contrôle.

‎

‎Ezéchiel Dagbégnon PADONOU

‎