DeepMind は、2010 年に設立され、英国ロンドンに本社を置く AI 研究会社です。同社は、コンピューターが人間と同じように学習し推論できるようにすることを目的とした汎用人工知能 (AGI) システムの開発と研究を行っています。
DeepMind の最もよく知られた成果の 1 つは、2016 年に開発された AlphaGo プログラムで、囲碁の世界チャンピオン イ セドルを破り、広く注目を集めました。この成果は、複雑な問題に対する AI の可能性を実証し、DeepMind を AI 分野の主要企業の 1 つとしました。
2014 年に DeepMind は Google に買収されましたが、比較的独立した運営を維持し、最先端の人工知能の研究を続けています。
画像ソース: Unbounded AI によって生成
DeepMind の共同創設者であるムスタファ スレイマン氏は、チャット以上の用途に使用できるチャットボットを構築したいと考えていました。彼との最近の会話の中で、生成 AI は単なる段階にすぎないと彼は言いました。次は対話型 AI です。他のソフトウェアや他の人を呼び出すことで、設定されたタスクを完了できるロボットです。同氏はまた、AI規制の強化を求め、これを達成するのは難しくないと主張した。
より自律的なソフトウェアで満たされる未来について語っているのはスレイマン氏だけではない。しかし、ほとんどの人と異なり、彼は、DeepMind、Meta、OpenAI から選ばれたトップ AI 人材のグループを擁する数十億ドル相当の新会社 Inflection を所有しており、AI チップの最大メーカーである Nvidia とも合意に達しています。 。スレイマンは彼の説いたことを実践し大金を投資しました。
スレイマン氏はディープマインドを退職し、その後グーグルに移り、AI政策専門チームを率いた。 2022 年、彼は最も注目を集めている新しい AI 企業の 1 つである Inflection を設立しました。同社は Microsoft、NVIDIA、ビル ゲイツ、LinkedIn 創設者リード ホフマンからの 15 億米ドルの投資を受けて、最大の資金調達規模を持つ唯一の企業となりました。 OpenAIへ。今年の初めに、彼は ChatGPT の競合となる Pi をリリースしました。彼は作家で研究者のマイケル・バスカーと共著で、『The Coming Wave: Technology, Power, and the Greatest Dilemmas of the 21st Century』という AI の将来に関する本を執筆したところです。
たとえば、今では信じられないほど制御しやすい Pi のようなモデルがあります。パイを人種差別主義者、同性愛嫌悪者、性差別主義者など有害なものにすることはできません。生物兵器や化学兵器の製造をそれに誘導させたり、隣人の窓からレンガを投げ込みたいという願望を支持したりすることはできません。あなたはできません-
しかし、それは信じられないほど敬意を払うことになるでしょう。あなたが自分のコミュニティの移民に仕事を奪われていることについて不平を言い始めても、パイはあなたに怒鳴りつけたり、指を振ったりはしません。 Pi は、この情報がどこから来たのかを理解しようと尋ね、サポートを提供し、共感するよう優しく促します。これは私が 20 年間考えてきた価値観です。
人間が常に指揮を執り続けるという考えです。本質的には、AI が越えることのできない境界線を設定することです。そして、これらの境界を確保することで、実際のコードから他の AI (または人間) とのやり取り方法、テクノロジーを開発する企業の動機やインセンティブに至るまで、証明可能なセキュリティが作成されます。私たちは、これらの一線を越えないようにするために、独立機関や政府さえも直接介入できる方法を見つけ出す必要があります。
DeepMind 創設者への独占インタビュー: 生成 AI は単なる段階、次のステップはインタラクティブ AI
出典: AGI イノベーション ラボ
DeepMind の共同創設者であるムスタファ スレイマン氏は、チャット以上の用途に使用できるチャットボットを構築したいと考えていました。彼との最近の会話の中で、生成 AI は単なる段階にすぎないと彼は言いました。次は対話型 AI です。他のソフトウェアや他の人を呼び出すことで、設定されたタスクを完了できるロボットです。同氏はまた、AI規制の強化を求め、これを達成するのは難しくないと主張した。
より自律的なソフトウェアで満たされる未来について語っているのはスレイマン氏だけではない。しかし、ほとんどの人と異なり、彼は、DeepMind、Meta、OpenAI から選ばれたトップ AI 人材のグループを擁する数十億ドル相当の新会社 Inflection を所有しており、AI チップの最大メーカーである Nvidia とも合意に達しています。 。スレイマンは彼の説いたことを実践し大金を投資しました。
スレイマン氏はディープマインドを退職し、その後グーグルに移り、AI政策専門チームを率いた。 2022 年、彼は最も注目を集めている新しい AI 企業の 1 つである Inflection を設立しました。同社は Microsoft、NVIDIA、ビル ゲイツ、LinkedIn 創設者リード ホフマンからの 15 億米ドルの投資を受けて、最大の資金調達規模を持つ唯一の企業となりました。 OpenAIへ。今年の初めに、彼は ChatGPT の競合となる Pi をリリースしました。彼は作家で研究者のマイケル・バスカーと共著で、『The Coming Wave: Technology, Power, and the Greatest Dilemmas of the 21st Century』という AI の将来に関する本を執筆したところです。
多くの人はスレイマンの技術的な楽観主義、さらには世間知らずを嘲笑するだろう。たとえば、オンライン警察の成功に関する彼の主張には、違和感を覚えるものもあります。しかし、彼は自分の信念が誠実で福音的であると確信し続けました。
実際、スレイマン氏はハイテク大富豪という珍しい経歴の持ち主だ。 19 歳で大学を中退し、電話カウンセリングを提供するムスリム青少年ホットラインを設立しました。彼は地方自治体でも働いていました。彼は、これらの取り組みから得た多くの価値観を Inflection にもたらしていると述べました。違うのは、良くも悪くも、彼がずっと望んでいた変化を今は実現できるかもしれないということだ。
次のインタビューは、長さと明瞭さのために編集されています。
***あなたの初期のキャリアには、青少年向けヘルプラインや地方自治体での仕事も含まれていましたが、シリコンバレーの精神とは相容れないように思えました。明らかに、これらの経験はあなたにとって重要です。それ以来、あなたは AI 分野で 15 年間働いてきましたが、今年 2 つ目の 10 億ドル規模の AI 企業を共同設立しました。これらの経験の間の点を結びつけることができますか? ***
スレイマン: 私は常に権力や政治などに興味がありました。ご存知のとおり、人権原則は基本的にトレードオフであり、これらすべてのさまざまな紛争緊張の間で絶え間なく交渉が行われます。人間がこれに苦しんでいるのがわかります。私たちは自分自身の偏見と盲点でいっぱいです。活動家、地方政府、国家政府、国際政府などの仕事はすべて時間がかかり、非効率で、間違いが発生しやすいものです。
人間が犯す間違いが自分になかったらと想像してみてください。私たちの最善の集合体を真に反映し、最終的には私たちに代わってより適切で一貫性のあるより公平なトレードオフを実現する AI を構築することは可能だと思います。
***これはまだあなたのモチベーションですか？ ***
**スレイマン:**もちろん、DeepMind の後、私は二度と働く必要がなくなったということです。確かに本などを書く必要はありません。お金がモチベーションになったことは一度もありません。ご存知のとおり、お金は常に副産物にすぎません。
私にとって、目標は、どのようにして世界で良いことを行うか、そしてどのようにして世界を健全で満足のいく方法で前進させるかということだけでした。私がテクノロジー分野への参入を考え始めた 2009 年当時でさえ、AI が世界中にサービスを提供する公平かつ正確な方法であることがわかりました。
*** このテクノロジーの多くの欠点が明らかになる前、10 年か 15 年前であれば、もっと簡単にこれを言うことができただろうと思わずにはいられません。どうすれば楽観的でいられるでしょうか？ ***
スレイマン: 私たちは、あなたが楽観主義者か悲観主義者かを非常に気にしていると思います。これは完全に偏見に満ちた物事の見方です。私もそんな人にはなりたくないです。メリットと脅威を冷静に見ていきたいと思います。私の立場からは、これらの大規模な言語モデルの規模がステップごとに増大し、より制御可能になっていることが非常にはっきりとわかります。
それで 2 年前、そのときは間違っていると思っていましたが、そのときの会話は、「ああ、彼らは有毒で胃が痛むような偏見に満ちた人種差別的な暴言を続けるだけだ」というものでした。間に合います。人々が見落としているのは、毎年の進歩とその進歩の軌跡だと思います。
たとえば、今では信じられないほど制御しやすい Pi のようなモデルがあります。パイを人種差別主義者、同性愛嫌悪者、性差別主義者など有害なものにすることはできません。生物兵器や化学兵器の製造をそれに誘導させたり、隣人の窓からレンガを投げ込みたいという願望を支持したりすることはできません。あなたはできません-
***持続する。これは未解決の問題であると考えられていることが多いため、どのようにしてこれを達成したのか教えてください。大規模な言語モデルが言いたくないことを言わないようにするにはどうすればよいでしょうか? ***
スレイマン: ええ、もちろんそのようなお願いはしたくありません - そうですね、ぜひ試してみてください! Pi はオンラインなので、考えられるすべての攻撃を試す必要があります。脱獄、インスタントハッキングなどは Pi では機能しません。主張はしません。これは客観的な事実です。
その方法については、機密事項なので、あまり詳しくは述べません。しかし最も重要なことは、私たちは過去 3 ～ 4 年間で最大の言語モデルをすべて作成した世界最強のチームの 1 つを持っていることです。非常に勤勉な環境で多くの計算を行う素晴らしい人々。最初から安全性を第一に考えているため、Pi は他社モデルほど辛くありません。
Character.ai をチェックしてください。 [Character は、ユーザーがさまざまな「パーソナリティ」を作成し、他の人がチャットできるようにオンラインで共有できるチャットボットです。 ] これは主にロマンチックなロールプレイ用です、そして私たちは最初からこれは不可能だと言いました - 私たちはそれをしません。もしあなたがパイに「ねえ、ハニー」または「ねえ、かわい子ちゃん」と言おうとすると、それは起こりますすぐにあなたを拒否してください。
しかし、それは信じられないほど敬意を払うことになるでしょう。あなたが自分のコミュニティの移民に仕事を奪われていることについて不平を言い始めても、パイはあなたに怒鳴りつけたり、指を振ったりはしません。 Pi は、この情報がどこから来たのかを理解しようと尋ね、サポートを提供し、共感するよう優しく促します。これは私が 20 年間考えてきた価値観です。
*** あなたの価値観について話し、世界をより良い場所にしたいという願望について話してください。他の人も自分のモデルを改善できるように、あなたのやり方を共有してみませんか? ***
スレイマン: そうですね、私も現実主義者で、お金を稼ごうとしているからです。ビジネスを始めようとしています。 15 億ドルを調達したので、それらのチップの代金を支払う必要があります。
オープンソース エコシステムは活況を呈し、素晴らしい成果を上げており、人々は同様のトリックを発見しています。私はいつも、まだ半年しか進んでいないと思っています。
***達成したいことに戻りましょう。大規模な言語モデルは明らかに現在のテクノロジーです。しかし、なぜまだ彼らに賭けるのでしょうか？ ***
**スレイマン:**AI の最初の波は分類に関するものでした。ディープラーニングは、画像、ビデオ、オーディオ、言語など、さまざまな種類の入力データを分類するようにコンピューターを訓練できることを示しています。ここでは、入力データを取得して新しいデータを生成する生成ウェーブに入ります。
3 番目のウェーブは インタラクティブ フェーズ になります。これが、会話が未来のインターフェースであると私が長年信じてきた理由です。ボタンをクリックして入力するだけではなく、AI と対話することになります。
これらのAIは行動を起こすことができるようになります。全体的な高レベルの目標を与えるだけで、その目標を達成するために自由に使えるすべてのツールが使用されます。彼らは他の人々や他の AI と会話します。これがPiを使ってやることです。
これはテクノロジーが可能にする大きな変化です。これはテクノロジーの歴史において非常に重大な瞬間ですが、多くの人が過小評価していると思います。今日のテクノロジーは静的です。大まかに言えば、指示されたことを実行します。
しかし今、テクノロジーが生き返ろうとしています。あなたがそれを与えると、行動する潜在的な自由が得られます。私たちはこの種の機関を使ってツールを作成していますが、これはまさに人類の歴史における大きな変化です。
***これはまさに多くの人を心配させる発言です。あなたは世界に影響を与えるために機械に自律性、つまり代理権を与えたいと考えていますが、同時に私たちは機械を制御できるようにしたいと考えています。この 2 つのバランスをどのように取っていますか?このままでは関係がギクシャクしてしまうような気がします。 ***
スレイマン: ええ、それは良い指摘ですね。それが人々を緊張させるのです。
人間が常に指揮を執り続けるという考えです。本質的には、AI が越えることのできない境界線を設定することです。そして、これらの境界を確保することで、実際のコードから他の AI (または人間) とのやり取り方法、テクノロジーを開発する企業の動機やインセンティブに至るまで、証明可能なセキュリティが作成されます。私たちは、これらの一線を越えないようにするために、独立機関や政府さえも直接介入できる方法を見つけ出す必要があります。
***これらの境界線を設定するのは誰ですか?国内レベルまたは国際レベルで設定する必要があると思います。彼らはどのようにして合意に達したのでしょうか? ***
スレイマン: つまり、現在、国際レベルで新しい監視機関に関するあらゆる種類の提案が提起されています。しかし、境界はミクロレベルでも影響します。 AI に個人データを処理するための限定的な権限を与えることにより、一部の質問には回答が提供されますが、他の質問には回答されません。
全体として、予見可能な将来においては、特定の機能については非常に慎重になるか、除外する必要があると思います。
***例えば？ ***
スレイマン: 再帰的な自己改善のようなものだと思います。あなたの小さな AI が、あなたの監督なしに起動して独自のコードを更新することは望ましくありません。もしかしたら、炭疽菌や核物質を扱うのと同じように、認可された活動にすべきかもしれません。
あるいは、公共の場所でのドローンの使用は禁止されていますよね?これは認可された活動です。人々のプライバシーを脅かすため、好きな場所に持ち運ぶことはできません。
これを規制することはできないとみんながパニックになっていると思います。しかし、これは単なるナンセンスです。私たちはそれを規制する能力を十分に備えています。以前に成功したのと同じフレームワークを適用します。
***しかし、ドローンが空にいるときは見ることができます。企業が自分たちが作っているものだけを明らかにすると考えるのは素朴に思えます。そうなると規制が難しくなりませんか？ ***
私たちはオンラインで多くのことを取り締まりますよね?オンライン詐欺や犯罪行為の量は少ないです。私たちはスパムに対して非常に良い仕事をしています。ご存知のとおり、リベンジポルノに関する[問題]は、3年か5年前はかなりひどかったにもかかわらず、一般的には改善されています。過激なコンテンツやテロリストの内容をオンラインで見つけるのは非常に困難です。武器や麻薬をオンラインで購入するのは非常に困難です。
[スレイマンの主張のすべてがデータによって裏付けられているわけではない。サイバー犯罪は依然として世界的な大きな問題です。いくつかの試算によると、米国だけでも過去 10 年間で金融コストが 100 倍以上に増加しました。報告書は、同意のないディープフェイクポルノの経済が好況であることを明らかにしています。麻薬や銃はソーシャルメディアで販売されています。一部のオンライン プラットフォームでは、有害なコンテンツをより適切にフィルタリングすることが求められていますが、さらに多くのことができるはずです。 ]
したがって、インターネットは規制のない、手に負えない空間ではありません。それは統治されています。 AI はガバナンスのもう 1 つの要素となるでしょう。
これには、文化的圧力、制度的圧力、政府規制の組み合わせが必要です。しかし、私たちは以前にもそれをやったことがあり、またそれができると楽観的に思います。
***AI の制御はインターネット規制の派生となるでしょう。これは、最近一部の著名な予言者から聞いている内容よりもはるかに楽観的です。 ***
スレイマン: 私はリスクについて非常に楽観的です。私の本には暗い内容がたくさんあります。私も確かにそれを見ました。ただ、完全に気を散らすような危険な点があると思います。プライバシーから偏見、顔認識からオンラインモデレーションまで、私たち全員が議論すべき 101 のより現実的な問題。
私たちは、非常に複雑なものを規制するという点で本当にうまくやっているという事実にもう一度会話の焦点を合わせるべきです。連邦航空局を見てください。高度 40,000 フィートで規制が適用されるのは信じられないことです。これは、これまでに作成された中で最も安全な交通手段の 1 つです。お祝いしませんか？あるいは、車のことを考えてみましょう。寿命が来るまでにすべての部品のストレステストが行われますが、そのテストを行うには運転免許証が必要です。
航空会社などの一部の業界は、そもそも自社規制にうまく取り組んできました。彼らは、物事を安全に保たなければ、誰もが恐れ、ビジネスを失うことを知っています。
しかし、トップダウンの規制も必要です。私は公益を信じており、課税と再分配の利益を信じており、規制の力を信じています。私が求めているのは、国が問題を解決するために行動を起こすことです。どれほどの危機が迫っているかを考えると、今こそ行動を起こす時です。
参考文献: