人工知能が制御不能になる可能性、AI創始者の一人が警鐘を鳴らす

AI の先駆者の 1 人であるジェフリー・ヒルトンは、ノーベル物理学賞受賞後のインタビューで、その潜在的な危険性について警告しています。人工知能は私たちが思っているよりも早く、私たちの制御から外れてしまう可能性があります。

L'人工知能それは人類にとって利益ですか、それとも危険ですか？紙とペンを取り出さないでください。それは哲学バカロレアの次の主題ではありません。この質問は依然として非常に重要です。私たちが好むと好まざるにかかわらず、AIは私たちの日常生活の一部ですそしてそれはすぐに消えることはありません。その非常に現実的な影響は、特に雇用の面で人々を幸せにするだけではありません。多くの従業員は自律型ロボットに取って代わられることを恐れている。

ある人はこれらすべてに特に気づいており、それには正当な理由があります。彼は次のような人物の 1 人とみなされています。AI のパイオニア。それは約ですジェフリー・ヒルトンを受け取ったばかりの人は、ノーベル物理学賞ニューラル ネットワークに関する研究で John J. Hopfield と共同研究。インタビュー中に、勝者は人工知能についてのビジョンを共有する機会を得ましたが、すべてがバラ色ではありませんでした。

AI は急速に進化しており、その創設者の 1 人にとってリスクがないわけではありません。

人間が恐れていることはただ一つ、それです。AIは私たちから遠ざかりつつある。 「私が心配しているのはそれです【AIの進化】特に私たちが自分よりも賢く物事を進めた場合、悪いことにつながる可能性もあります。私たちがそれらを制御できるかどうかは誰にもわかりません”。

ジェフリー・ヒルトンはAIが人類を滅ぼす可能性は10～20％あると推定。割合イーロン・マスクたとえば、ただし、モデルの開発と改善を継続することを妨げるものではありません。。

こちらもお読みください –この AI は、自身のコードを書き換えて機能を拡張することで研究者の制御を逃れます。

の従業員によると、次のことも忘れないでください。OpenAI、後ろの会社チャットGPT、私たちはすでにその瀬戸際にいます。汎用人工知能を作成する、つまり機能しています人間の脳のように。

ジェフリー・ヒルトンもインタビューを利用して次のことに取り組みましたサム・アルトマン、OpenAIの先頭にいます。彼は、もともとこの会社は次のような目的で設立されたと回想しています。安全性を確保しながら汎用人工知能を作成する。しかし教授によると、この概念は時間の経過とともに背景に消えていき、利益を重視したと彼は嘆いている。

リスクを防ぐ方法について尋ねられた科学者は、次のように答えました。危険は個人によるAIの使用から来るものではない、しかしその上流開発の。今日は考慮しなければならない点です。ヒルトンはこう考えています5年から20年以内に、AIシステムは人間の知能を超えるでしょう。

そして、「よりインテリジェントなものが、よりインテリジェントではないものによって制御される例はほとんどありません。「、機械が支配する世界はもはや単なるSFではない。

こちらもお読みください –AIは人間と同じように自分で考えて学習することができます

この観察に沿って、彼は各国政府に対し、AI に特化した企業を次の点で奨励するよう呼びかけています。AI モデルのセキュリティにさらに投資する。暗黙的に、これらから人類を守るために。現在、資金の大部分はモデルの改良に費やされています。ノーベル賞受賞者は、AI セキュリティにおける経済的努力は次のとおりであると信じています。1%を超えなければなりません。 3分の1くらいに達するはずだ[総支出のうち]」。

しかし、運命論に屈することに疑問の余地はありません。ジェフリー・ヒルトンは人工知能の利点を十分に認識しており、人工知能が人工知能によって実現されることを望んでいます。大きな利益をもたらし、生産性を向上させ、すべての人の生活を改善します”。すでにこの分野ではそうなっている薬、 またはAIは多くの病気を非常に効果的に検出できる、そしてこれ侵襲的な方法に頼らずに。