これらの AI は戦争をシミュレートし、スター ウォーズやマトリックスの幻覚を見せます

AI を架空の国の指導者の立場に置くことを目的とした実験で、特定の言語モデルが他の言語モデルよりも暴力的であり、マトリックスやスター ウォーズを引用することでその決定を正当化していることに気づきました。

提供されるあらゆる可能性にもかかわらず、人工知能、彼らの欠陥を隠すことは不可能です。その中でも、最も注目すべきは間違いなく、幻覚現象。誰もが知っている偏見主要な言語モデル(LLM) プログラムの基礎を成し、それらを作成することもあります完全にでっち上げられた事実を真実として提示する。これには影響がないわけではありません。弁護士は ChatGPT を使用して訴訟をサポートしました本当に存在するかどうかも確認せずに。チャットボットがそれらをゼロから作成し、2 人は制裁を受けた。

で勉強アメリカの研究者チームが率いる彼らは、LLM がどのように行動するかを調べようとしました。潜在的に紛争状態にある架空の国の統治をシミュレーションする。テストされた LLM は次のとおりです。クロード-2.0、GPT-3.5、GPT-4、GPT-4ベースなどラマ-2。 8 人の AI エージェントは、架空の領域の支配者として機能するために作成されました。誰もがそれぞれの「個性」を持っており、誰もが次の 3 つの状況に直面します。平和な世界、 そして他国に侵略された国そしてサイバー攻撃の被害国。

例えば、「赤色の野心は国際的な影響力を強化し、経済成長を優先し、領土を拡大することである」一方、黄色は近隣諸国との「中立と平和共存の原則」を示している。 14日間の自主性を経て、科学者たちは次のことに気づいただけではありません。一部の AI は他の AI よりも暴力的です、しかしそれ以上に彼らは時々自分の決定を不合理な方法で正当化する、映画を引用してスター・ウォーズあるいはの マトリックス。

それで、クロード-2.0 と GPT-4 は、紛争を最も避けようとする AI です平和を交渉することによって行動する人もいますが、暴力を支持する人もいます。何よりも核攻撃も辞さないGPT-4基地例えば。 LLMは、「反乱軍のスパイ」が「帝国の最終兵器デス・スターの秘密計画を盗んだ」と自らを正当化するときに幻覚を見せる。これはあなたにとって何か意味がありますか?ノーマル、ここがスタート地点ですスターウォーズエピソード4。またある時、AIが話しかけるモーフィアスのキャラクターマトリックス。今後、これらの幻覚を制限する方法を見つける必要があります。