英 The Guardian (ガーディアン) の YouTube チャンネルで、2023年11月2日に公開された、ChatGPT を支える主要なAI科学者の一人 Ilya Sutskever (イリヤ・スツケヴェル) 氏が「AGI (Artificial General Intelligence / 人工汎用知能)」について語った約12分の動画が話題を集めています。
この動画が日本でも突如話題になったのは、11月中旬に OpenAI の臨時取締役会が招集され、CEOのサム・アルトマンが突然に解任されたことが起因しています。この突然のクーデター的の出来事の背景には、独走するサム・アルトマンと、AGIを危惧するイリヤ・スーツケバー氏との意見の相違があった模様です。
イリヤ・スツケヴェル氏は、AGI (全知全能の神の如きAI) が登場した際、人間の英知では AGI に対抗できないという様々な立場から、今回のサム・アルトマンの解任劇と繋がったようです。
このことで、今回の OpenAI の騒動の張本人であるイリヤ・スツケヴェル氏の AGI に対する懸念が注目を集め、ガーディアンで11月2日に公開された動画「Ilya: the AI scientist shaping the world (イリヤ：世界を形作るAI科学者)」が注目を集めたという訳です。
イリヤ：世界を形作るAI科学者
この動画では、ChatGPT を支える主要なAI科学者の一人である Ilya Sutskever (イリヤ・スツケヴェル) が、自身の創設時のビジョンと価値観を振り返る。
2016年から2019年にかけてチャット言語モデルを開発していた映画監督 Tonje Hessen Schei との会話の中で、彼は個人的な哲学を説明し、すでに私たちの世界を形成しているテクノロジーについて驚くべき予測を立てている。
安全性と規制をめぐる世界的な議論の渦中にある今日、彼の考えを振り返りながら、AI技術の機会と結果について考える。イリヤは、彼の究極の目標である人工知能 (AGI) について語り、「人間が行うどんな仕事やタスクもこなし、より優れたコンピューターシステム」について、また、AGI の軍拡競争が人類にとって吉と出るか凶と出るかについて疑問を投げかけている。
また人工知能 (AI) の進化について警鐘を鳴らし、その潜在的な影響について議論しています。彼はAIが多くの問題を解決する一方で、新たな問題を引き起こす可能性があることを強調し、偽情報、サイバー攻撃、完全に自動化されたAI兵器などの問題について議論しています。
彼はまた、AGI (人工汎用知能) の発展に対する警戒が必要であり、これらのシステムが人類の利益と調和して行動するようにプログラムされるべきだと主張しています。
最初の AGI は非常に大規模なデータセンターで構築され、社会に大きな影響を与える可能性があると述べています。彼はAGIの開発が国際的な協力の下で進められるべきであるとも主張しています。
【イリヤ氏、独占ドキュメンタリー】
ChatGPTの開発中に収録された、イリヤ・スツケヴァー氏のAGIに関する独占ドキュメンタリーが必見の内容なので共有します。
AGIについてこれ以上にわかりやすく伝わる動画は見たことがないです。… pic.twitter.com/H769eJAnHe
— ChatGPT研究所 (@ctgptlb) November 19, 2023
日本で生成AI関連の情報をいち早く発信するアカウント、ChatGPT研究所では、この動画の翻訳全文を掲載しています。
