OpenAI は大統領候補を模倣する ChatGPT を作成することを望んでいません

OpenAIは今週末、民主党の米国大統領候補ディーン・フィリップスになりすましたChatGPTベースのチャットボットを禁止した。同社と数人の研究者は、このツールが規定に違反しており、選挙そのものを脅かす悪用につながる可能性があると判断した。

最近、ChatGPT を使用すると、ユーザーはパーソナライズされたチャットボットを作成できます、プログラミングスキルを必要としないプラットフォームから。このツールはいくぶん革命的ですが、リスクがないわけではありません。しかし、米国では大統領選挙が近づいており、OpenAI は何としてでも問題を回避したいと考えていました。そうすることで、Dean.Bot という名前の最初のチャットボットが禁止されました。

Dean.Bot は ChatGPT と同じように機能しましたが、1 つ異なる点がありました。それは、民主党予備選の現在の候補者であるディーン フィリップスを模倣して話したことです。このAIは、候補者を支援する政治活動委員会「We Deserver Better」の背後にある2人の起業家、マット・クリシロフ氏とジェド・サマーズ氏によって作成された。 OpenAI がクリエイターのアカウントを禁止するまで、数日間オンラインに留まっただけでした。

同じテーマについて —ChatGPT: 驚いたことに、この受賞歴のある著者は、最新の著書に AI を使用したことを認めています

チャットボットの起動時に、これが候補者本人ではなくディーン・フィリップスの模倣であることを思い出させる警告メッセージが表示されたにもかかわらず、OpenAIと数人の研究者は、多くの悪用が行われるのではないかと懸念している。たとえば、このツールを乗っ取って、ディーン・フィリップスの声を真似て、ディーン・フィリップスへの投票を呼びかける大規模な虚偽電話キャンペーンを開始することが可能だろうと想像する人もいる。偽の広告、偽のサイトなどは言うまでもありません。

一方、We Deserve Better は、そのツールには逆に真の教育的価値があり、候補者とそのプログラムをより深く理解できるようになると考えています。そこで委員会はチャットボットを開発した企業であるデルファイに対し、今回はOpenAIに属さないオープンソース技術を使ってチャットボットを復活させるよう要請した。 Dean.bot は、政治的理由によりサム アルトマンの会社によって禁止された最初のチャットボットです。

ソース ：ワシントン・ポスト