Malgr\u00e9 toutes les possibilit\u00e9s offertes par les intelligences artificielles<\/strong>, impossible d'occulter leurs imperfections. Parmi elles, la plus marquante est sans doute le ph\u00e9nom\u00e8ne d'hallucination<\/strong>. Un biais que connaissent tous les grands mod\u00e8les de langage<\/strong> (LLM) sous-tendant les programmes et qui leur font parfois pr\u00e9senter des faits totalement invent\u00e9s comme vrais<\/strong>. Ce n'est pas sans cons\u00e9quence.\u00a0Des avocats se sont servis de ChatGPT pour \u00e9tayer leur dossier avec des affaires<\/a> sans v\u00e9rifier si elles existaient vraiment. Le chatbot les avait cr\u00e9\u00e9 de toutes pi\u00e8ces et les deux hommes ont \u00e9t\u00e9 sanctionn\u00e9s<\/a>.<\/p>\n
Dans une \u00e9tude<\/a> men\u00e9e par une \u00e9quipe de chercheurs am\u00e9ricains, ces derniers ont cherch\u00e9 \u00e0 savoir comment des LLM se comporteraient en simulant la gouvernance de pays fictifs potentiellement en conflit<\/strong>. Les LLM test\u00e9s sont Claude-2.0<\/strong>, GPT-3.5<\/strong>, GPT-4<\/a>, GPT-4-Base<\/strong> et Llama-2<\/strong>. Huit agents IA ont \u00e9t\u00e9 cr\u00e9\u00e9s pour agir en tant que dirigeant de territoires imaginaires. Chacun est dot\u00e9 d'une “personnalit\u00e9” propre et tous sont confront\u00e9s \u00e0 3 situations : un monde en paix<\/strong>, un pays envahi par un autre<\/strong> et un pays victime d'une cyberattaque<\/strong>.<\/p>\n
