ChatGPT をクラッシュさせたいですか?この方法は間違いなく効果があります

通常、その優れた点が賞賛されますが、ChatGPT はまったく別の理由で話題になっています。一部のユーザーは、チャットボットが特定の名前を与えられると応答を拒否し、AI が会話を遮断することに気づいています。

について話すときチャットGPT、それを強調することがよくあります。公演。最近、AIは高度な音声モードに感動または複雑な病気の診断において医師を上回る能力。しかし、今週末、このツールの別の側面が注目を集めました。ユーザーは次のことを発見しました。特定の名前を挙げる、として "デビッド・メイヤー»、すぐに会話をブロックする、説明なしで。この予期せぬ動作により、この AI の内部動作に関する疑問が生じます。

問題はデイビッド・メイヤーだけにあるわけではない。他に二人の名前原因同様のエラー。ある「ジョナサン・ジットレイン»、ハーバード大学の教授人工知能に対する批判で知られ、「ジョナサン・ターリー"、別の法学教授告発したチャットGPT発明したこと冤罪彼に対する嫌がらせのこと。後者は、転用されたコンテキストに統合されたり、逆から読むなどして変更された場合でも、同じ遮断を引き起こす。この前例のない事態陰謀割れるくらい。

いくつかの仮説この現象を説明しようとします。コンテンツを削除するための法的要求について言及しているものもあります。忘れられる権利、これらの詰まりにつながる可能性があります。他の人はこれらの名前を次のように考えています意図的に検閲されたのため論争またはから紛争。たとえば、Jonathan Turley の場合、ChatGPT は次のようになります。事件をでっち上げたそんなことは決して起こらなかった。これが告発につながった名誉毀損。最後に、彼は単純にこれは関連するバグですに幻覚AI では、特定の用語に応答してエラーが生成されます。

OpenAIChatGPT の背後にある会社は、まだ伝わっていないこれらの詰まりについて。しかし、これらの事件は明らかに私たちに次のことを示しています。アルゴリズムの制限の管理において機密データ。 AI の人気が高まるにつれて、これらの事例は透明性と関連する課題を示しています。バイアス管理。このアプリが改善を続けるとしても、このエピソードは、このアプリが依然として不完全なテクノロジーであることを示しています。紛らわしいエラーユーザーをイライラさせる可能性があります。

ソース：404メディア