■『人間を超える囲碁AIを作った「Deep Mind」の正体』

　今回は「本」ではありませんが、AI(人工知能)に関するネットの記事を取り上げてみました。
　「News Picks」というニュースサイトよりの抜粋です。　（http://wired.jp/special/2016/inside-deepmind）

　この記事は先日、世界最強の棋士のひとりと目されている、韓国の李 世乭(イ・セドル)九段との5番勝負で、4勝1敗で勝った、「AI（人工知能）Deep Mind」について書いたものです。

　内容を要約すると次のようなことが書かれています。
　1、 「DeepMind」はどのようにして産まれたのか？
　2、 天才開発者3人のプロフィールと天才度。
　3、 AI（人工知能）は人類の脅威になりうるか？

　そして、多くの科学者も我々のような素人も心配している、3番目の「近い将来、人工知能が人類を支配するのでは？」という問いに最終章で明確に答えています。

　そこでは、人工知能の得意なことと、簡単にできないことが述べられています。そして、人工知能を実際に開発している天才たちは皆、「機械が近い将来、感情をもつようなことはない。」 と言い切っています。

　AIに支配されるのではないかと、心配な方は先に最後の章を読んみて下さい。(笑)
 　　
「左端がDeepMind創業者のDemis Hassabis氏」「対局前中の李世ドルさん」
　
以下、NewsPicksの記事からの抜粋

＜副題＞
　グーグルが4億ドルで買収をしたロンドンの人工知能スタートアップ、「DeepMind」ついに人間を破った囲碁AIをも生み出した彼らは、いかにして生まれ、何を目指しているのか？
　AI研究のために生まれてきたような3人の天才創業者の、半生とヴィジョンに迫る。
　（20015年12月1日発売『WIRED』VOL.20より転載）　

　あっという間にゲームオーヴァーだ。しかし30分もすると、その弱々しいプレイヤーは、いつ撃ち返せばいいか、いつ隠れればいいかといったゲームのリズムをつかみ始める。

　そして、一晩ぶっ通しでゲームを続けたあとはついに1発の弾も無駄にしないほどゲームに熟達してしまった。
　エイリアンを撃退しながら、合間に現れる敵の母艦をやすやすと破壊して高得点をたたき出す。もはや、世界中の誰も敵う者はいない。

　実はこのプレイヤーは、人間ではない。DeepMind（ディープマインド）という企業が開発した、コンピューターアルゴリズムなのだ。

　ディープマインドの共同創業者兼最高経営責任者（CEO）、そして人工知能研究者でもある39歳の「デミス・ハサビス」は説明する。

「1時間で得点は上がってきますが、まだそんなに賢くはありません。でも2時間経てば、ほぼ完璧にゲームをマスターし、高速で向かってくるボールにも対応できるようになります。

　4時間後には、新しい技を自分で考え出すようになります。例えば壁の両側に穴を開けて、人間をはるかに超える正確さでボールがその穴を通るように打ち返すんです。
　アルゴリズムの開発者もそんな技は知りませんでした。」

　グーグルは2014年1月、イーロン・マスクやピーター・ティール、李嘉誠（リ・カシン）といった投資家の支援を受け、ロンドンに本拠を置くディープマインドを買収した。

　4億ドルという買収額は、グーグルにとってヨーロッパ地域での過去最大の投資となった。

＜21世紀のアポロ計画＞
　ディープマインドのウェブサイトには、「知性を解明すること」というシンプルな企業ミッションが掲げられている。

　ハサビスは、汎用人工知能（Artificial General Intelligence：AGI）を実現するプロセスは、数十年にわたるアポロ計画のようなものになると言う。

　「人工知能開発の究極の目標は、機械に知性をもたせることです」。150人のスタッフが働くキングス・クロスの6階建てのオフィスビルで、彼はそう説明する。

　「現在の人工知能のほとんどは、プログラムされた通りに動くコンピューターにすぎません。ぼくたちが目指しているのは、自分自身で学ぶ能力をプログラムに組み込むことです。

　それは生物が学習するプロセスであり、いまある人工知能よりもはるかに強力なものです」

　「このプロジェクトは、アポロ計画やマンハッタン計画に匹敵すると思います。世界トップクラスの科学者や技術者を集めて、どこまで行けるか見極めようとしているのです。」とハサビスは続ける。

≪天才 1≫　AIの申し子「テミス・ハサビス」の生い立ち

　　
　　＜Demis Hassabis ＞ (ディープマインド共同創業者兼CEO)

　デミス・ハサビスが父親と叔父が興じていたチェスに興味をもったのは、4歳のときだった。

　地中海のキプロス島生まれのシンガーソングライターだった父親は、中国系シンガポール人の母親と、フィンチリー・セントラルでおもちゃ屋を営んでいた。

　父親はデミスが喜ぶだろうと思って彼にチェスをやらせてみたが、2週間も経たないうちに、デミスは大人たちを負かすようになった。

　彼は6歳でロンドンのU-8大会のチャンピオンになり、9歳で英国のU-11チームのキャプテンを務め、英国をソ連（当時）に次ぐ世界第2位の座に導いた。

　「内向的な少年でした。いつも何かを考えていたように思います」。彼は子どものころをそう振り返る。

　「ぼくの脳は、いったいどうやってこの駒の動きを思いついたのだろう。自然にそんな疑問をもち始めました。そのようにしてぼくは、『考えること』について考え始めたのです」

　8歳のとき、彼は初めてコンピューターを手に入れた。米国人のライヴァル、アレックス・チャンとの4ゲームマッチで彼を3対1で下して獲得した賞金200ポンドで買った、ZXスペクトラムだ。

　「当時のコンピューターのすごいところは、すぐにプログラミングを始められたことでした。

　父とフォイルズ（ロンドン・ソーホー地区の老舗書店）に行って、プログラミングの棚の前にしゃがみこんで勉強したものです。

　やがて、コンピューターは自分の創造力を解き放つ魔法の機械だとわかってきたのです」

（以下、ハサビスが子供の頃からいかに天才であったか、が描かれている。）
　・
　・
　・
　1年後、ハサビスは自身のスタジオ、エリクサーを立ち上げ、会社は60人が働くまでに成長する。

　「政治系シミュレーションゲーム『Republic』をつくりたかったんです。何とかして独裁者を倒すゲームですが、国全体の、膨大な数の国民のシミュレーションを開発するのに5年かかりました。ぼくたちは時代の先を行きすぎていたのです」

　ハサビスは認知神経科学の博士号を取ろうと思いたち、ロンドン大学ユニヴァーシティカレッジで記憶と想像に関する研究に取り組んだ。

　「コンピューターはエピソード記憶をうまく扱えなかったので、その研究をやろうと思ったんです。人間は未来のことをどのように頭のなかで可視化しているのか、といった想像のプロセスを調べました」

　彼は脳の海馬の損傷で記憶を喪失した患者の想像活動を調べ、彼らには例えば「海辺にいること」を描写するような力がとても貧弱であることを発見した。

　それは、海馬が可視化の役割を担っていることを示唆するものだ。彼の論文は2007年、『Science』誌が選ぶ10大ブレイクスルーに選ばれている。

　その後、ハサビスはロンドン大学ユニヴァーシティカレッジのギャツビー計算神経科学ユニットで計算神経科学を学びながら、MITとハーヴァード大学で客員研究員として働いた。

　彼はまた、毎年英国で開催される頭脳スポーツの総合競技大会「マインド・スポーツ・オリンピアード」で5度優勝した記録をもっている。
　　
＜Googleによる買収＞
「あの招待は断れませんよね」　
　2011年には、ハサビスがディープマインドを設立する準備は整っていた。彼はピーター・ティールに、設立時の筆頭投資家になってほしいと考えていた。
　問題は、どうやってティールに接触すればいいのかがわからなかったことだ。

　「ティールが支援している人工知能カンファレンスで話せばいいんだ、と思いつくまでに1年かかりました。
　そのプレゼンイヴェントで、彼に1分間のピッチをするチャンスがあるはずだと」。

　ティールについて調べたハサビスは、彼もチェスの愛好家であることを突きとめた。
　彼にピッチをする100番目の人間になるより、チェスの話題をしたほうが彼の興味を引くに違いないと考えました。

　そこで会話のなかにそれとなく、「なぜチェスが生き延びてきたのかわかりますか？」という質問を入れたんです。

　彼は興味をそそられたようでした。
　「その理由は、ナイトとビショップのバランスが完璧で、そこから多様で独創的で、非対称な緊張が生まれるからです」とぼくが言うと、ティールはこう返しました。
　
　「明日、もう一度正式なピッチをやらないか？」

　ティールはディープマインドに投資した。

　彼だけでなく、イーロン・マスクや、スカイプの共同創業者ジャン・タリン、ホライゾン・ヴェンチャーズの李嘉誠、そして、1億4,300万ドルの資金を集めたAIスタートアップ、センティエントの共同創業者アントン・ブロンドなどがこぞってディープマインドに投資をしたのだ。

　センティエントは、ホライゾンからディープマインドの調査を依頼された会社でもある。
　「複雑な科学問題を解くための、迅速かつ実践的な方法に特化していることに強い印象を受けました」とブロンドは言う。
　「なによりチームの質の高さに惹かれましたね」

　汎用人工知能を開発しようとしている会社がある、とラリー・ペイジに伝えたのはイーロン・マスクだった。数カ月後、グーグルのナレッジ担当上級副社長のアラン・ユースタスが、『ペイジと会わないか』とハサビスにメールを送ってきた。

　「あの招待は断れませんよね」とハサビスは言う。

　「交渉には1年かかりました。グーグルを選んだ理由のひとつは、企業カルチャーが似ていると感じたことです。そしてなにより、ラリーが人工知能にとても強い関心をもっていたことです。」

　しかし、なぜ彼らは会社を売却したのだろう？ 「もともとその計画はなかったんです。
　でもこの3年間、資金集めを懸命に行ってきたため、研究に使える時間は10%ほどしかありませんでした」。

　ハサビスは言う。
　「人生のなかで、グーグル級の会社をつくることと、究極の人工知能を開発することの両方を行う十分な時間はない、とわかったんです。

　それから、ラリーはぼくにこう言ったんです。『わたしはいまのグーグルをつくるのに15年かかった。
　なぜ、ここに来て、わたしたちがつくりあげた機会を利用しないんだい？』。その問いに、ぼくはうまく答えられなかったのです。」

　投資家の間にさえ、このロンドンのスタートアップは売却を急ぎすぎているのではないかという疑問があった。

　ハサビスはこの考えを「馬鹿げたことだ」と一蹴する。

「重要なのは、その仕事に主体的にかかわれているか、ということです。

　ぼくたちは自分たちの仕事を完全にコントロールできています。それにグーグルが英国に投資するということは、英国の科学にとっても素晴らしいことです。

　誰が会社を所有しているかなんて、取るに足らない問題です。ぼくたちの仕事は研究開発なのですから」

≪天才2≫『もうひとりのブレイン』

　　　
　＜ムスタファ・スレイマン＞ (ディープマインド共同創業者兼人工知能応用部門のヘッド)

　「ムスタファ・スレイマン」は11歳のとき、アイアンブルー・バー（スコットランドの飲料アイアンブルー味の菓子）とリフレッシャーズ（果物風味の発泡菓子）を卸問屋で1パックあたり7.5ペンスで購入し、クイーンエリザベス・スクールで25ペンスで売っていた。

　もっとも、教師たちが禁止するまでのことだったが。

　その後スレイマンは、病院の車いすを借りて、若い障がい者にロンドンを案内するビジネスでヤング・エンタープライズ賞を受賞した。

　スレイマンはデミス・ハサビスの弟と親友だったが、ビジネスよりも社会的影響により強い関心をもっていた。

　「デミスとわたしは、どうすれば世界に影響を与えられるかを話し合ったものです。

　彼は将来、複雑でダイナミックな金融システムをモデル化し、難しい社会問題を解決できるようなシミュレーションプログラムを開発する必要がある、と主張したんです。

　でもわたしは、もっと目の前の社会とつながったものでないとダメだ、と言っていました」

　スレイマンは、シリア生まれのタクシー運転手の父と英国人の看護師の母の間に生まれ、オックスフォード大学で哲学と神学を専攻した。

　しかし2年次に大学をドロップアウトし、ムスリムの若者専用ヘルプダイヤルの立ち上げを手伝うようになる。

　22歳のころにはロンドン市長ケン・リヴィングストンに人権政策について助言する仕事を得たが、政治によって社会システムを改革することはできない、と見切りをつけた。

家庭では父親の片言の英語を通訳するなど、常に「よき対話相手」だったという。

　30歳になったスレイマンは、ディープマインドの共同創業者兼人工知能応用部門のヘッドとして、ディープマインドの技術をグーグルの製品に統合する仕事を担っている。

　彼はまた、トップエンジニア同士のコミュニケーションを促す役目も果たしている。

　彼は、収益面ではわたしたちは何も期待されていません。わたしたちに求められているのは長期的な研究なのです。と語っています。

≪天才3≫『３人目のブレイン』

　　　　　
＜Shane Legg＞ (ディープマインド共同創業者兼チーフサイエンティスト)

　ニュージーランドの小さな町、ロトルアに住んでいた「シェーン・レグ」は、小学校で落第し、留年した。
　9歳のとき、彼はディック・スミスのVZ200コンピューターでプログラミングを始めたが、読み書きはほとんどできなかった。

　心配した両親は、彼を教育臨床心理士のもとに連れていった。
　はっきりと覚えていますが、知能テストの終わりに近づくと、先生が困ったような顔をし始めたんです。

　そしてわたしの母に「いったいどういうことなんだ。こんなものはまったく時間の無駄です」と言いました。

　先生は大きく深呼吸をして、「彼の知能はまったく劣っていません。それどころか、彼の知能は測ることができないくらいずば抜けています。評価チャートを超えているんです。」と続けました。

　本当なの？と、わたしは驚いたものです。
　だって、それまでずっと馬鹿呼ばわりされていたんですから。

　レグは失読症と診断され、キーボードを使う訓練を受けた。まもなく彼は、学年成績優秀者の上位1パーセントに入るようになった。

　友達を負かすようなチェスゲームをつくろうと思いついて、ロトルアの図書館に行きました。
　ブリタニカ百科事典でアルファ・ベータ法（探索アルゴリズムのひとつ）というのを見つけて、これでチェスのプログラムを書けると思ったんです。
　12歳のときのことでした。

　レグは、ニュージーランドの大学で複雑系理論を学んだあと、スイスのIDSIA（Dalle Molle Institute for Artificial Intelligence Research）に入り、機械知能の計測方法に関する研究で博士号を取得した。

　その後、神経科学を学ぶためにユニヴァーシティカレッジのギャツビー計算神経科学ユニットに移り、デミス・ハサビスと出会う。

　2011年のある日、彼らは昼食をとりながら「ビジネスを始めるならいましかない」と決意する。レグは、ディープマインドのチーフサイエンティストに任命された。

　「学会に出席して、『わたしたちは人工知能の開発を行おうとしている小さな会社です』と言うと、みんなに笑われたものです」。
　
　レグはかつてのことをそう思い出す。

　「でも、10人に1人はおもしろいと言ってくれましたね。トップクラスの研究者が加わるにつれて、わたしたちの信用は高まっていきました。」

　キングス・クロス駅裏のオフィスの、「アラン・チューリング」「レオナルド・ダ・ヴィンチ」「ニコラ・テスラ」といった名前がつけられた部屋で、ディープマインドのメンバーは「20年ロードマップ」に従って、黙々とプログラム開発と開発作業の優先付けを行っている。

　20年後、われわれの社会はどうなっているのだろうか？
　Siriのようなオペレーティングシステムと恋に落ちる映画『her』のようなことも現実に起こりうるのだろうか？「それはSFですよ」とレグは言う。

　「いつかはそこへ行き着くのか？　そうであればいいとわたしも思います。

　でも、ほとんどの人工知能は人間のようにはならないでしょう。言語とは極めて洗練されたものだからです。

　わたしたちがいまつくっているのは、昆虫程度のものだと考えてください。
　数年後には、ネズミをつくれるようになるかもしれません。

　わたしたちの人工知能はスペースインベーダーをマスターし、ブロック崩しもこなしますが、パックマンにはまだ苦戦しています。

　現在の技術レヴェルと、哲学についてじっくり議論できるような人工知能との間には、まだまだ大きなギャップがあるのです。」

ハサビスも同意する。

　「人間と同等の汎用人工知能ができるのは、まだ何十年も先の話です。　
　でも5年か10年後には、何かしら役に立つものはできると思います。
　ぼくたちはいま、梯子の1段目に上ったところです。

　この先、10や20のブレイクスルーを起こさなければ、その梯子が全部でいったい何段あるのか、そして『知性とは何か』を解明することはできないでしょう。」

≪AI（人工知能）は人類の脅威になりうるか？≫

　「人工知能（狭い人工知能のことを言っているのではない）の進化のペースは、驚くほど速い。
　ディープマインドのような企業を知らない人には、どれくらい速いのか検討もつかないだろう──それは指数関数的な速さで進化しているのだ。

　そして何かしら深刻な危険が、5年以内に起こるだろう。遅くとも10年以内だ。
　これは、わたしが理解していないものについて単なる憶測で言っているわけではない。

　そして懸念をもっているのは、わたしだけではない。先進的な人工知能企業は、安全性を確保するための方策を講じつつある。

　彼らは危険を認識してはいるが、超知能はコントロールでき、害悪をもたらすものがインターネットを通じて拡散することはないと信じている。　
　それが本当かどうか、わたしたちは見守っていく必要がある…」

　マスクは以前、人工知能は「潜在的に核兵器より危険」であり、「悪魔を召還するものだ」と警告を発している。

　彼はまた、ディープマインドへの投資 は金儲けのためではなく、純粋に「人工知能分野で起きていることを監視するためだ」と説明している。

　2015年5月、理論物理学者のスティーヴン・ホーキング博士も映画『トランセンデンス』を引用して、人工知能による脅威を単なるSFと片づけるのは「間違いかもしれない」と述べ、「人類史上最悪の過ちになる可能性がある」と警告した。

　「このテクノロジーは金融市場を支配し、人間の研究者をはるかに超え、人間のリーダーたちを惑わせ、わたしたちの理解できないような武器をつくり出すかもしれない」

　アップルの共同創業者、スティーヴ・ウォズニアックもまた、最近懸念の声を上げている。

　健全な意思をもち、聡明で思慮深い人々が、社会の善のためにとてつもない力をもったものをつくりたいと思っている。
　ぼくが言えるのはそれだけです。

　スカイプの共同創業者でディープマインドの初期投資家であるジャン・タリンは、人工知能の倫理問題に関する独立諮問委員会の設立にかかわった。

　「わたしがディープマインドを支援するのは、人工知能の研究者コミュニティーと安全性を検討するコミュニティーの間をつなぐのが、自分の役割だと思っているからです」とタリンは言う。

　「グーグルとディープマインドは買収の要件として、倫理と安全についての委員会を設置することに合意しています。

　今年初めに開かれた委員会では、人工知能の長期的影響について大きな合意が得られました。

　それに基づいて、イーロン・マスクが1,000万ドルを寄付するフューチャー・オブ・ライフ・インスティテュートが、公開書簡に関連する研究プログラムをとりまとめました」。

　マスク、ホーキング、そしてディープマインドの創業者たちは、この公開書簡に署名をした。

　スレイマンは、ディープマインドが用途の限定された「狭い」人工知能を設計している限り、「潜在的なリスク」という言葉にとらわれるのは杞憂にすぎないと語る。

　「人工知能には、『役に立たない』というSF的なミームがあります。

　わたしたちがつくろうとしているのは人間と同等の人工知能などではなく、わたしたちが自然に話したり、グーグルで検索するのを助けてくれたりするようなものです。

　わたしたちは、そこら中を動き回って人を殺すような、いかなる種類の自律兵器の開発にも明確に反対しています。

　だからこそ、この対話を始めたのです。わたしたちの人工知能の能力に、どう制限を加えるかが重要なのです」

　ハサビスは、もっとストレートに人工知能脅威論者を批判する。「それぞれの専門領域では優秀でも人工知能研究に携わったことのない多くの人が、イーロンのように根拠に乏しい主張をしています。

　でもぼくは、ヒステリックになることが健全な議論につながるとは思いません。それはただ、不必要な恐怖をあおるだけです。」

　ホーキングとウォズニアックについてはどう考えるのだろう。「彼らは実際に何かをつくっているわけではありません。

　つまり、人工知能の能力についてほとんど知識をもたずに、哲学的、あるいはSF的な懸念から語っているだけです。」

　しかし、人工知能が自律した道徳感情をもつことに、本当にリスクはないのだろうか？

　「もちろん、人工知能が感情をもたないようにすることは可能です。実際、ぼくたちはそういう設計をしているところです」。

　そこでハサビスは、苛立ったようにため息をついた。

　「ぼくたちは、人々が口にするような危険なものをまったく望んでいません。軍事や諜報活動を目的とするものに、この技術を使うことを禁止しているのです。

　研究開発を安全に進めるために、ほかにどんな方法があるというのですか？　
　危険だからといって、あらゆる人工知能の開発をやめてもいいんですか？
　とても健全な意思をもち、聡明で思慮深い人々が、社会の善のためにとてつもない力をもったものをつくりたいと思っている。

　ぼくが言えるのはそれだけです。でもたしかに、『人工知能には携わりたくない、理解できない』と言う人も数多くいます。

　同じようにぼくは宇宙について何ひとつ知りませんが、スティーヴン・ホーキングにブラック・ホールについて講義をしたりはしません。

　『インターステラー』は観ましたよ。だけどぼくには、黒体放射について専門家ぶってメディアに語るほどの知識はありません」

　人工知能についての議論は誤解されている、と考える開発者はほかにもいる。グーグルのディープラーニング部門を創設し、現在はバイドゥの研究部門を率いるアンドリュー・ングは、人工的な「超知能」についての議論は混乱していると言う。

　「本当のリスクはテクノロジーによる失業の方ですよ。そして知性と感情には大きな隔たりがあります。

　われわれの人工知能はどんどん賢くなっていますが、それが感情的になるということはありません。人工知能研究者のほとんどは、近い将来、機械が感情をもつようなことはないと考えています」

　(おわり）