この航空会社の AI は顧客から幻覚を見せて「ぼったくった」、会社は代金を支払わなければならない

航空会社の AI が顧客の反応を幻覚にして誤ったアドバイスを行った。法廷で訴えられた彼女は、チャットボットはそれ自体が独立した存在であり、したがってその行為に責任があると信じていた。失った。

2022 年、ジェイク モファットはエア カナダに旅行するために航空券を取得する必要があります。家族の葬儀。この種のケースでよく示唆されるように、男性は次のことを知りたいと尋ねます。死亡率を求めるための条件。彼は次のように質問します人工知能の形をとるチャットボットエア・カナダのウェブサイトで。後者は、「航空券の発行日から 90 日以内に」フォームに記入する必要があると伝えています。その後、正規価格と特別価格の差額を受け取ります。

この情報を武器に、モファットはチケット代を全額支払い、帰国後に申請を行った。航空会社が拒否それを示しているもう手遅れですこれは、旅が行われた限りにおいてです。死亡率に関する質問専用のサイトのページに顧客を誘導します。男性がAIとの会話のスクリーンショットを見せると、エア・カナダはチャットボットが応答で「誤解を招く言葉」を使用したことを認め、内容を更新すると約束した。言い換えると、人工知能は死亡率を求めるための条件を幻覚した。

この現象は新しいものではなく、2023年に弁護士2名に有罪判決。それでもジェイク・モファットはエア・カナダを訴えている。後者には、控えめに言っても独自の抗弁があります。AI は企業とは「別個の法人」であるため、AI は企業とは「別個の法人」であると主張しています。自分の行動に責任を持つ。

この議論は法廷メンバーのクリストファー・リバーズによって一掃された。 「チャットボットにはインタラクティブなコンポーネントがありますが、それはエア カナダのウェブサイトの一部にすぎません。エア・カナダにとって、ウェブサイトに含まれるすべての情報に対して責任があることは明らかです。静的ページから来たのか、チャットボットから来たのかは関係ありません。」

こちらもお読みください –これらの AI は戦争をシミュレートし、スター ウォーズやマトリックスの幻覚を見せます

死亡率に関する情報が自社のサイトで入手できると同社が指摘したときも同様の話だ。 「モファット氏がエア・カナダのウェブページのあるセクションが正確で、別のセクションが正確ではないことを知る理由はありません」と彼は答えた。その会社は650.8ドルの支払いを命じられる、これは正規料金の航空券の価格と死亡率の差であり、合計で 161.14 ドルの手数料が加算されます。

ソース ：ガーディアン