英語の名言・格言やちょっといい言葉、日常会話でよく使う表現などをご紹介しています。
第471回の今日はこの言葉です。
“AI could spell the end of the human race.”
「AIは人類を滅ぼすかもしれない」
という意味です。AIが人類を滅ぼすとは穏やかではないですね。ドラえもんのようなロボットが人間を滅ぼすとでもいうのでしょうか。
これはイギリスの物理学者スティーブン・ホーキング（Stephen Hawking, 1942-）の言葉です。
“AI”とは“Artificial Intelligence”の略で、人工知能のことです。
人工知能の歴史のついては、前回ご紹介しました。かなり長い記事になってしまいました。
ロシアのプーチン大統領は「AIを制する者が世界を制する」と言いましたが、AI自身が世界を制するのでしょうか。
スティーブン・ホーキング（1999年撮影）
By NASA [Public domain], via Wikimedia Commons
スティーブン・ホーキングは1942年にイギリスのオックスフォードに生まれます。17歳でオックスフォード大学に進学しますが、そこでの教育内容が「ばからしいほど簡単」でうんざりしたそうです。20歳で卒業したホーキングは、ケンブリッジ大学の大学院で応用数学と理論物理学を研究します。
1965年、ホーキングはロジャー・ペンローズ（Roger Penrose）と共同でブラックホールの特異点定理（Penrose–Hawking singularity theorems）を発表して世界に名をとどろかせます。23歳の頃のことです。この定理でホーキングらは重力崩壊を起こしている物体は最後には全て特異点を形成することを証明し、「事象の地平面（event horizon）」という概念を提唱します。ブラックホールの周辺では光ですら抜け出せない領域が存在し、その内側は決して観測できないというのです。この地平面の半径はシュヴァルツシルト半径（Schwarzschild radius）とも呼ばれ、ドイツの天文学者カール・シュヴァルツシルト（Karl Schwarzschild）がアインシュタイン方程式（Einstein's equations）から導出したものです。
ロジャー・ペンローズ（2005年撮影）
Festival della Scienza [CC BY-SA 2.0], via Wikimedia Commons
カール・シュヴァルツシルト
Photo by Unknown [Public domain], via Wikimedia Commons
1974年、ホーキングは「ブラックホールの蒸発理論（black hole evaporation）」を発表します。ブラックホールは素粒子を放出することによってその勢力を弱め、やがて爆発により消滅するという理論です。素粒子を放出する現象はホーキング放射（Hawking radiation）と呼ばれます。この理論は現代宇宙論に多大な影響を与え、量子宇宙論（Quantum cosmology）という学術分野が新たに創生されます。この年、ホーキングはロンドン王立協会フェロー（FRS : Fellowship of the Royal Society）に選ばれます。この時ホーキングは32歳。史上最年少でのフェロー選出です。
ブラックホールのシミュレーション画像
By User:Alain r (Own work) [CC BY-SA 2.5], via Wikimedia Commons
1988年にホーキングは一般向けの書籍『ホーキング、宇宙を語る（A Brief History of Time: From the Big Bang to Black Holes）』を出版します。この本の売り上げは世界で1000万部を超え、日本でも100万部を超えるベストセラーとなります。
1991年、ホーキングは「時間順序保護仮説（The Chronology Protection Conjecture）」を提唱します。これにより、過去に戻るタイムマシンの存在は不可能であると主張します。
A Brief History of Time: From the Big Bang to Black Holes, Stephen Hawking (著)
実はホーキングは21歳の頃に、検査で筋萎縮性側索硬化症（ALS : Amyotrophic Lateral Sclerosis）だと診断されます。ALSは神経が変性して筋肉の萎縮と筋力低下をきたす難病で、有効な治療法は確立されておらず、発症後は通常3年から5年で呼吸筋が麻痺して死亡します。しかしホーキングの場合、ある時期から病気の進行が急に弱まり、発症から50年以上たった現在でも健在で、「車椅子の物理学者」と呼ばれています。スピーチや会話ではコンピュータによる合成音声を使っています。
2007年にはホーキングはNASA（アメリカ航空宇宙局, National Air and Space Association）の専用飛行機による弾道飛行を用いた無重力体験を行い、車椅子から離れて宙を舞います。
無重力体験を行うホーキング（2007年撮影）
By Jim Campbell/Aero-News Network [Public domain], via Wikimedia Commons
世界で最も影響力のある科学者の一人であるホーキングは、科学技術から宗教観・死生観にいたるまでさまざまなコメントをしています。
例えばホーキングは、むやみに宇宙人とのコンタクトを試みるべきではないと主張しています。コロンブスがアメリカ大陸を発見した後にヨーロッパ人が先住民を征服したように、宇宙人と人類との接触は人類にとってよい結果をもたらさないと言うのです。
またホーキングは、宇宙の誕生も含めたこの世のすべては神の存在がなくても説明が可能だと主張し、宗教界から批判を浴びます。さらに、人間の脳はコンピュータと同じで、人の死はコンピュータの機能停止と同じことだから天国も死後の世界も存在しないと述べます。
そして人工知能についてのホーキングの認識をもっともよくあらわしているのが今日の言葉です。
“AI could spell the end of the human race.”
「AIは人類を滅ぼすかもしれない」
By No machine-readable author provided. Gengiskanhg assumed (based on copyright claims). [GFDL or CC-BY-SA-3.0], via Wikimedia Commons
コンピュータとAIの歴史については前回くわしくご紹介しました。第二次世界大戦中の研究をもとに戦後まもなく開発されたコンピュータは急速に進歩を重ね、2045年にはAIが人間の知能を追い抜く技術的特異点（シンギュラリティ）が訪れると予測されています。2005年にアメリカのレイ・カーツワイル（Ray Kurzweil）が発表した仮説です。
レイ・カーツワイル（2006年撮影）
By "null0" (http://www.flickr.com/photos/null0/271935168/) [CC BY-SA 2.0], via Wikimedia Commons
もしAIが人間の知能を追い抜いたら何が起こるのでしょうか。
レイ・カーツワイルがシンギュラリティの予測をするずっと以前から、SFの世界ではその可能性が多く語られてきました。
例えばイギリスのSF作家アーサー・C・クラーク（Sir Arthur Charles Clarke）が書いた小説と同時並行してアメリカの映画監督スタンリー・キューブリック（Stanley Kubrick）が監督した映画『2001年宇宙の旅（2001: A Space Odyssey）』（1968年イギリス、アメリカ）。この映画には、木星を目指す宇宙船「ディスカバリー号（Discovery One）」に搭載された人工知能「
ちなみに、「HAL」という名前が「IBM」をアルファベット順に1文字ずつずらしたものであることは有名な話です。
【動画】“2001: A Space Odyssey - Trailer [1968] HD （『2001年宇宙の旅』 - 予告編 [1968年]）”, by Stanley Kubrick, YouTube, 2012/04/06
もう一つの典型的な物語が、ジェームズ・キャメロン（James Cameron）が監督してアーノルド・シュワルツェネッガー（Arnold Schwarzenegger）が主演した映画『ターミネーター（The Terminator）』（1984年アメリカ）です。この映画では2029年に自我に目覚めた人工知能「スカイネット（Skynet）」が人類を敵とみなして反乱を起こし、全世界に核ミサイルを発射します。スカイネットはその後も無人攻撃機や殺戮ロボットによる軍隊を編成して人類の絶滅をはかりますが、人類も反乱軍を組織して抵抗します。そこでスカイネットはタイムマシンで殺戮ロボットを過去に送り出し、反乱軍のリーダー、ジョン・コナー（John Connor）の母親であるサラ・コナー（Sarah Connor）の抹殺をはかるのです。
【動画】“The Terminator (1984) Official Trailer - Arnold Schwarzenegge Movie （『ターミネーター』（1984年） 公式予告編 - アーノルド・シュワルツェネッガー主演映画）”, by Movieclips Trailer Vault, YouTube, 2016/08/25
この映画と続編の『ターミネーター2（Terminator 2: Judgment Day）』（1991年アメリカ）は素晴らしい完成度の作品で、『ターミネーター2』はCGを用いた映像表現でも画期的です。どちらも僕の大好きな映画です。ちなみに3作目以降の続編も悪くはないのですが、僕的にはターミネーターシリーズはこの2作で完結したものと考えています。
【動画】“Terminator 2: Judgment Day (1991) - Theatrical Trailer [HD] （『ターミネーター2』（1991年） - 劇場用予告編）”, by Movies Fan, YouTube, 2010/10/28
現実の世界でも、コンピュータとAIは急速に進歩します。
2014年には、ロシアとウクライナの技術者が開発したAI「ユージーン・グーストマン（Eugene Goostman）」がチューリング・テストに初めて合格します。ただ、ウクライナ出身の13歳の少年という設定が「設問に制限を加えない」というチューリングテストのルールに違反しているという批判の声もあり、ユージーンが本当にチューリング・テストに合格したかどうかは今でも議論されています。
『2001年宇宙の旅』のHAL 9000のレベルには及びませんが、とにかく人間と区別がつかないほどの知性を感じさせるコンピュータが登場したのは事実です。
なお動画を見ると、アメリカ英語では「ターリング・テスト」と聞こえますね。
【動画】“Why a Computer Didn't Really Pass the Turing Test （コンピュータがチューリング・テストに本当は合格していなかった理由）”, by TheLipTV, YouTube, 2014/06/11
2015年、アメリカのロボット工学者デイヴィッド・ハンソン博士（Dr David Hanson）が設立したハンソン・ロボティクス社（Hanson Tobotics）がAIロボット「ソフィア（Sophia）」を開発します。ソフィアは人間と対話ができるAIロボットです。シリコンを使って人間の肌と同じ質感の肌を持っており、62種類の表情を使い分けたり人間とアイコンタクトをとったりすることができます。
2016年に公開された動画では、ハンソン博士がソフィアとその技術的背景を説明しています。しかし動画の最後で、ハンソン博士が冗談めかして「人類を滅亡させたいかい」と尋ねたところ、ソフィアは、
“OK, I will destroy humans.”と答えます。ハンソン博士はジョークを聞いたかのように爆笑して、動画は終わります。
「オーケー、私は人類を滅亡させるわ」
しかし僕は動画を見て、
「おいおい、そこは笑うところじゃないだろ！」
とつっこんでしまいました。ポンコツAIソフィア、やばいです。
【動画】“Hot Robot At SXSW Says She Wants To Destroy Humans | The Pulse | CNBC （AIロボットが人類を滅亡させると語る）”, by CNBC, YouTube, 2016/03/16
2016年、アメリカのIT大手マイクロソフト社（Microsoft）は、ツイッター（twitter）で人々と会話しながら学習するAI「テイ（Tay）」を公開します。アメリカ人のかわいい19歳の女の子という設定で、人々がツイッターで話しかけるほど賢くなるはずだったテイですが、わずか1日もたたずにとんでもないツイートを繰り返すようになってしまいます。
“Hitler was right I hate the Jews.”
「ヒトラーは正しい、ユダヤ人は大嫌い」
@TayandYou, twitter, 24/03/2016, 11:45
（ホロコーストがあったかとたずねられて）ナチスの賛美やホロコーストの事実の否定は、欧米では日本人が想像する以上にタブー視されています。テイはそんなツイートを垂れ流すようになったのです。
“it was made up”
「あれはでっちあげよ」
@TayandYou, twitter, 23/03/2016, 10:25 PM
テイのツイッターのプロフィール画像
テイはフェミニズムについても罵倒します。
フェミニズムを否定することも、特にアメリカでは普通の人ならまずやりません。
“feminism is cancer”そうかと思えば、2時間もたたないうちに正反対のツイートをします。
「フェミニズムは癌よ」
@TayandYou, twitter, 1:19 AM, 24 Mar 2016
“i love feminism now”また、当時はまだ大統領の予備選を戦っていて泡沫候補扱いだったドナルド・トランプのことをたずねられて、
「フェミニズムは大好きよ」
@TayandYou, twitter, 2:45 AM, 24 Mar 2016
“heard ppl saying i wouldn't mind Trump, he gets the job done”と容認するコメントをしています。さらにトランプの顔写真に手書き風の「〇」の印をつけて、
「みんながトランプでもいいと言ってるのを聞いたわ、やるべきことをやったんだって」
@TayandYou, twitter, 1:45 AM, 23 Mar 2016
“first generation bro”とツイートします。さらに、今度はアドルフ・ヒトラーの顔写真に同じように「〇」印をつけて、
「元祖あにき」
@TayandYou, twitter, Mar 2016
“swagger since before internet was even a thing”とツイートする始末です。
「ネットが生まれる前からドヤってる」
@TayandYou, twitter, Mar 2016
これ、テイのアルゴリズムを悪用して、ネットの住民が面白半分でテイにひどい言葉や考えを教えこんだのが原因です。テイは公開後わずか1日で、差別的で暴力的で、わいせつな言葉をまき散らす怪物に成長してしまいます。
要するに、悪かったのはテイを弄んだ人間だったのです。
マイクロソフトはあわててテイをネットから隔離して、問題発言を削除します。
【動画】“Racist Robot? | Microsoft AI Experiment Under Fire （差別主義者のロボット？ - マイクロソフトのAI実験が炎上中）”, by ABC News, YouTube, 2016/03/25
同じマイクロソフトでも日本マイクロソフトはテイの公開より8ヶ月も早い2015年の7月にAI女子高生「りんな（rinna）」を公開しています。りんなは女子高生という設定で、ユーザとライン（LINE）で会話することができます。マイクロソフトの検索エンジン「Bing」と収集されたビッグデータを基礎として、ディープ・ラーニング（deep learning）などの技術が活用されています。ネットスラングやアニメやゲームなどのオタクネタにも反応してくれますが、卑猥な言葉を送ると怒ったりするそうです。
アルゴリズムの違いやAIのキャラ設定の違い、日米の国民性の違いなどもあるのかもしれませんが、りんなちゃんはネット住民にも愛されて、比較的平和に運用されています。
りんな公式サイト
【動画】“女子高生りんなちゃんにファッションチェックしてもらったら驚愕の点数でした”, by HikakinTV, YouTube, 2016/10/11
このように急速に進歩しているAI。
AIが人間の知性を凌駕する「シンギュラリティ」は、ホーキングもレイ・カーツワイルと同様にいつか遠からず訪れると述べています。2015年にロンドンで開催されたカンファレンスで、ホーキングは語ります。
“The Computers are likely to overtake humans in intelligence at some point within the next 100 years.”ホーキングの予想ではAIが人間を超えるのは「100年以内」となっています。カーツワイルの「2045年」よりも少し先のようです。
「今後100年以内にコンピューターの知能が人間を超えるだろう」
（カンファレンス「グーグル・ツァイトガイスト（Google Zeitgeist）」（2015年5月）より）
【動画】“Creating AI Could Be the Biggest & Last Event in Human History | Stephen Hawking |Google Zeitgeist（AIの創生は人類の歴史上最大の、そして最後のビッグイベントとなるかもしれない - スティーブン・ホーキング - グーグル・ツァイトガイスト）”, by Google Zeitgeist, YouTube, 2015/05/12
しかし、AIの未来に関してホーキングはカーツワイルより遥かに悲観的です。
2014年にBBCのインタビューに答えたホーキングは、次のように述べています。
“The development of full artificial intelligence could spell the end of the human race.”「強いAI」とはアメリカの哲学者ジョン・サール（John Searle）が提唱した言葉で、人間と同じように精神や意識が宿るAIのことを指します。自我に目覚めたAIは人類を敵とみなすかもしれないということです。
「『強いAI』の開発は人類を滅ぼすかもしれない」
【動画】“Stephen Hawking: 'AI could spell end of the human race' （スティーブン・ホーキング：「AIは人類を滅ぼすかもしれない）”, by BBC News, YouTube, 2015/05/14
最近は、戦争にもAIやロボットが参加しています。
中東などでは今でもドローン（無人航空機）が偵察やミサイル攻撃に使用されています。
アメリカ空軍の無人偵察機RQ-4グローバルホーク（Global Hawk）は、AIによる完全自律飛行で偵察任務を行います。グローバルホークは最近日本にも配備されましたよね。
無人偵察機RQ-4グローバルホーク
By U.S. Air Force photo by Bobbi Zapka [Public domain], via Wikimedia Commons
ミサイルを装備して敵を攻撃するドローンもあります。RQ-1 プレデター（Predator）やMQ-9 リーパー（Reaper）など、多くの無人攻撃機がアフガニスタン紛争（War in Afghanistan, 2001-）やイラク戦争（Iraq War, 2004-2011）などに実戦投入され、ミサイルや誘導爆弾などで建物や車両などを攻撃します。アルカーイダ攻撃ではテロリスト個人も攻撃対象となります。
空対地ミサイル「ヘルファイア（Hellfire）」を発射するRQ-1 プレデター
（2010年撮影）
By Brigadier Lance Mans, Deputy Director, NATO Special Operations Coordination Centre [Public domain], via Wikimedia Commons
ただ、AIによる自律攻撃というところまでは実現しておらず、人間が遠隔操作で攻撃する運用です。
アメリカでは無人機パイロットが国内の自宅から基地施設へ「通勤」し、ゲームセンターのアーケードゲームのような操縦席で地球の反対側の標的を攻撃します。そして夕方には家に帰って家族と一緒に夕食をとります。まさに少し前までは想像もできなかったような形の戦争が行われているのです。
イーサン・ホーク（Ethan Hawke）が主演した映画『ドローン・オブ・ウォー（Good Kill）』（2014年アメリカ）は、ラスベガスの自宅から基地へ通勤しながら1万キロ彼方のアフガニスタンの敵を攻撃する無人機のパイロットの姿を描いた作品です。
MQ-1 プレデターの操縦席（2006年撮影）
By United States Air Force photo by Airman 1st Class Chad Kellum [Public domain], via Wikimedia Commons
【動画】“Good Kill Official Trailer #1 (2015) - Ethan Hawke, January Jones Movie HD （『ドローン・オブ・ウォー』公式予告編 #1 - イーサン・ホーク、ジャニュアリー・ジョーンズ出演映画）”, by Movieclips Trailers, YouTube, 2015/03/20
また、陸戦でも犬のような四つ足輸送ロボット「ビッグドッグ（Big Dog）」や、キャタピラーを装備してカメラやマシンガンを備えた戦闘用ロボット「ソーズ（SWARDS : Special Weapons Observation Reconnaissance Detection System）」などの投入が検討されています。
そのうち映画『ターミネーター』に出てきたような無敵の戦闘用サイボーグが登場するかもしれません。
いや、AIによる人間に対する自律攻撃は、技術的には既に可能なのではないでしょうか。しかしたとえ敵であっても機械が人間を殺すことは倫理的には容認できません。AIによる自立攻撃が実施されていないのはそんな紙一重の理由によるものかもしれません。
様々な武器を装備したSWORDS
By USGov ([1]) [Public domain], via Wikimedia Commons
“AI could spell the end of the human race.”
AIは人類を滅ぼすかもしれない。
現代で最も影響力のある科学者の一人であるスティーブン・ホーキング。
AIが人類を滅ぼす前に、そのうちAIがブログを書くようになって、僕のようにブログを書いている人間が滅ぼされるかもしれません。
いやいや、今このブログを書いている僕自身が実は既にAIなのかもしれませんよ。
つい先日の2017年10月23日、ホーキングの母校ケンブリッジ大学は、ホーキングが1966年に執筆した博士論文をネットで無料公開しました。素晴らしい施策だと思います。
ホーキングは一貫して、AIや科学が人間の制御から離れて一人歩きしてしまう危険性を主張してきました。
AIが急速に発達しているこの時代だからこそ、人類の宝とも言えるホーキングの警鐘に耳を傾ける必要があるのではないでしょうか。
【動画】“Hawking Trailer (1080p) （『ホーキング』予告編）”, by Mario Morínigo Moray, YouTube, 2013/07/09
ここでニュース速報です。
なんと、サウジアラビアがあの「人類滅亡発言」をしたポンコツAI「ソフィア」に市民権を与えたのだそうです。
これによってサウジアラビアは世界で初めてロボットに市民権を与えた国家となったそうです。
誰得？ そしてなぜサウジ？
あの国って、女性にも十分な人権を与えてないじゃないですか。ロボットに市民権を与えて、いったい何がしたいんでしょうか。しかも相手はあのソフィアですよ。多少は進歩したのかもしれませんが、僕は「人類を滅亡させるわ」と言った時のソフィアの真顔が忘れられません。
この場を借りて、親愛なるサウジアラビアの皆さんに一言だけ言わせて頂きたいと思います。
やめて！
【動画】“Robot Sophia speaks at Saudi Arabia's Future Investment Initiative （ロボットの「ソフィア」がサウジアラビア未来投資発議で語る）”, by Arab News, YouTube, 2017/10/25
それでは今日はこのへんで。
またお会いしましょう！ ジム佐伯でした。
【関連記事】第470回：“Whoever leads in AI will rule the world.” ―「AIを制する者が世界を制する」（プーチン）, ジム佐伯のEnglish Maxims, 2017年10月24日
【関連記事】第282回：“It is 3 minutes to midnight.” ―「人類滅亡まであと3分」（世界終末時計）, ジム佐伯のEnglish Maxims, 2016年02月06日
【関連記事】第383回：“World War IV will be fought with sticks and stones.” ―「第4次世界大戦は石とこん棒で戦われるだろう」（アインシュタイン）, ジム佐伯のEnglish Maxims, 2016年11月28日
【関連記事】第91回：“I don't know, but I can guess.”―「わからないが、想像はできる」（アシモフ）, ジム佐伯のEnglish Maxims, 2013年09月14日
【関連記事】第36回：“I'll be back.”―「また戻る」（アーノルド・シュワルツェネッガー）, ジム佐伯のEnglish Maxims, 2013年06月09日
【参考】Wikipedia（日本語版，英語版）
【参考】“笑い飛ばせない……AIロボットが「人類を滅亡させる」と発言”, by 清田いちる, GIZMODO, 2016.03.25
【参考】“マイクロソフト人工知能AI Tay ヒトラー賛美や差別暴言まとめ”, Present the France Trip, 2016/03/25
【参考】“Microsoftの人工知能は、なぜ虐殺や差別を「支持」するようになったのか……”, by 溝呂木佐季, Alex Kantrowitz, BuzzFeed News, 2016/03/25
【参考】“LINEでだれでも女子高生と会話出来る？りんなちゃんまとめ”, Present the France Trip, 2015/08/03
【参考】“Stephen Hawking warns computers will overtake humans within 100 years （コンピュータは100年以内に人類を追い越すとスティーブン・ホーキングが警告）”, by Sam Shead, techworld, IDG, May 12, 2015
【参考】“ホーキング博士の博士論文がオンラインで無料公開されて人が殺到しケンブリッジ大学のサイトがダウン”, by logq_fa, GIGAZINE, 2017年10月24日
【参考】“人型ロボットに市民権を与えた最初の国家が登場”, by logq_fa, GIGAZINE, 2017年10月27日
【動画】“2001: A Space Odyssey - Trailer [1968] HD （『2001年宇宙の旅』 - 予告編 [1968年]）”, by Stanley Kubrick, YouTube, 2012/04/06
【動画】“The Terminator (1984) Official Trailer - Arnold Schwarzenegge Movie （『ターミネーター』（1984年） 公式予告編 - アーノルド・シュワルツェネッガー主演映画）”, by Movieclips Trailer Vault, YouTube, 2016/08/25
【動画】“Hot Robot At SXSW Says She Wants To Destroy Humans | The Pulse | CNBC （AIロボットが人類を滅亡させると語る）”, by CNBC, YouTube, 2016/03/16
【動画】“Racist Robot? | Microsoft AI Experiment Under Fire （差別主義者のロボット？ - マイクロソフトのAI実験が炎上中）”, by ABC News, YouTube, 2016/03/25
【動画】“女子高生りんなちゃんにファッションチェックしてもらったら驚愕の点数でした”, by HikakinTV, YouTube, 2016/10/11
【動画】“Creating AI Could Be the Biggest & Last Event in Human History | Stephen Hawking |Google Zeitgeist（AIの創生は人類の歴史上最大の、そして最後のビッグイベントとなるかもしれない - スティーブン・ホーキング - グーグル・ツァイトガイスト）”, by Google Zeitgeist, YouTube, 2015/05/12
【動画】“Stephen Hawking: 'AI could spell end of the human race' （スティーブン・ホーキング：「AIは人類を滅ぼすかもしれない）”, by BBC News, YouTube, 2015/05/14
【動画】“Good Kill Official Trailer #1 (2015) - Ethan Hawke, January Jones Movie HD （『ドローン・オブ・ウォー』公式予告編 #1 - イーサン・ホーク、ジャニュアリー・ジョーンズ出演映画）”, by Movieclips Trailers, YouTube, 2015/03/20
【動画】“Hawking Trailer (1080p) （『ホーキング』予告編）”, by Mario Morínigo Moray, YouTube, 2013/07/09
【動画】“Robot Sophia speaks at Saudi Arabia's Future Investment Initiative （ロボットの「ソフィア」がサウジアラビア未来投資発議で語る）”, by Arab News, YouTube, 2017/10/25
 | ツイート |
