Morris II est le nom donné à un ver d’IA capable de déployer des logiciels malveillants et de détourner les systèmes de sécurité informatique. Ces vers ou ‘worm’ intelligents peuvent mettre en danger les écosystèmes d’IA connectés.
Ce ver cible les applications d’intelligence artificielle (IA) et les assistants e-mail activés par l’IA qui génèrent du texte et des images à l’aide de modèles tels que Gemini Pro, ChatGPT 4.0 et LLaVA.
Il est l’œuvre d’un groupe de chercheurs qui a démontré la capacité de cet outil malveillant à se propager d’un système à l’autre et potentiellement voler des données ou déployer des logiciels malveillants au cours du processus.
Les chercheurs Ben Nassi, Stav Cohen et Ron Bitton de l’Université Cornell Tech démontrent dans un article, la possibilité de créer un cheval de Troie basé sur un modèle de langage (LLM) capable de se propager de manière autonome d’un ordinateur à un autre. Ils ont baptisé leur virus Morris II, en référence à Morris, le premier ver informatique de l’histoire datant de 1988.
Les inventeurs indiquent que l’objectif de cette conception n’est pas de propager l’outil malveillant mais de mettre en lumière les menaces qu’il peut générer et les failles les plus graves des modèles LLM actuels.
Les chercheurs insistent sur l’importance de maintenir l’humain au centre des décisions, notamment en ce qui concerne l’envoi de messages, afin de faire face à cette menace.
I.D.
