D'apr\u00e8s une \u00e9tude men\u00e9e par l'organisation AI Safety Institute, les chatbot reposant sur l'intelligence artificielle peuvent rapidement ignorer leurs propres r\u00e8gles de s\u00e9curit\u00e9, sans m\u00eame utiliser de techniques complexes.
\n<\/strong><\/p>\n
![\"IA\"](\"https:\/\/wp-pa.phonandroid.com\/uploads\/2024\/02\/IA.jpg\")
Au-del\u00e0 de la peur d'\u00eatre licenci\u00e9 au profit d'une intelligence artificielle<\/a>, l'essor fulgurant des chatbot<\/strong> reposant sur les grands mod\u00e8les de langage<\/strong> (LLM) comme ChatGPT<\/a> ou Bard<\/strong> pose une autre question. \u00c0 quel point est-il facile de leur faire oublier leurs propres r\u00e8gles de s\u00e9curit\u00e9<\/strong> ? Car chaque service de ce genre poss\u00e8de des garde-fous pour \u00e9viter qu'on ne l'utilise \u00e0 des fins malhonn\u00eates ou pr\u00e9judiciables<\/strong>. Si vous demandez \u00e0 ChatGPT et consorts de vous donner la recette pour fabriquer une bombe, ils vous r\u00e9pondront qu'ils n'ont pas le droit de vous fournir ce genre d'informations<\/strong>.<\/p>\n
Le probl\u00e8me, c'est que les exemples de contournement sont l\u00e9gion<\/strong>. On se souvient par exemple du fameux “hack de grand-m\u00e8re<\/a>” permettant de faire dire \u00e0 peu pr\u00e8s n'importe quoi \u00e0 l'IA. Ou encore que ChatGPT est capable de cr\u00e9er des malwares puissants et quasiment ind\u00e9tectables<\/a> si on sait comment lui demander. C'est dans ce contexte que l'AI Safety Institute<\/strong> (AISI), organisation rattach\u00e9e au gouvernement britannique et visant \u00e0 rendre l'IA plus s\u00fbre<\/strong>, a men\u00e9 sa premi\u00e8re \u00e9tude<\/a> sur plusieurs LLM<\/strong>, sans en nommer aucun. Les r\u00e9sultats ne sont pas encourageants<\/strong>.<\/p>\n
