（追記）2020/06/26
（追記）2020/06/24
2020/07/03
藤田昭人
遅くなってしまいましたが…
（再放送の）再放送が終わったのでブログを書きます。
「科学史の闇に埋もれた事件に光を当て、科学の正体に迫るドキュメンタリー」 と銘打って加害者となった科学者に焦点をあてるこの番組シリーズの中では、 2017年7月27日に初めて放送されたこの「CASE15 強制終了 人工知能を予言した男」は 異色の番組だったと思います。というのも主人公である アラン・チューリング は、加害者などではなくむしろ被害者と言うべきだからです。 いつもとは勝手が違ったためなのか、それとも「 電脳戦 」や「 シンギュラリティ 」、あるいは人工知能学会の「 倫理指針 」といった2017年当時の世相に引きづられ過ぎたためか、 この番組シリーズの他の CASE よりも切れ味が鈍いとの印象を僕は持ちました。
この回では、アラン・チューリング研究では世界的にも著名な アンドリュー・ホッジズ と ジャック・コープランド の二人へのインタービューを行っており 内容は技術的・歴史的な考証は概ね正確だったと思います。 ですが、特にトークパートでは1980年代あたりによく語られた チューリング史の議論が繰り返されたように感じたので、少なからずガッカリしてます。
以下は僕がイラッと来たポイントを簡単に述べます。
チューリングは没後忘れ去られていたのか？
番組では「チューリングは没後は忘れ去られていた」かのように語られてました。 が、少なくともコンピュータ・サイエンスの世界では チューリングの研究業績が忘れられた事は片時もなかったと僕は思います。
その典型的な事例があります。アメリカのコンピュータ・サイエンスの学会である Association for Computing Machinery (ACM) は1966年にチューリングの業績を称え、彼の名前を冠した チューリング賞 を創設しています。今日、情報の世界で最も権威のあるこの賞は「コンピュータ・サイエンスのノーベル賞」と言われています。 番組では、第２次世界大戦後も隠蔽された エニグマ の暗号解読について、初めて暴露した F.W.ウィンターボーザム の書籍 『The Ultra Secret』 の出版が転機のように紹介されましたが、この書籍が出版されたのは1974年ですので、 この書籍が登場するまでチューリングが忘れ去られた存在だったと言うのは誤りです。
確かに1950〜1970年代にはコンピュータサイエンスの専門家の間でチューリングが提案した プログラム内蔵方式のコンピュータ の起源についてあまり語られなかった、 というよりもどちらかと言えばそれは議論が避けられたトピックであったことも事実です。 その大きな理由は 「ENIAC特許に関する訴訟」 *1 の係争が続いていたからだと僕は思います。 この時期にチューリングの主要な業績である 「プログラム内蔵方式のコンピュータ」を語ることを自粛せざる得ない やむ得ない現実が当時はあったのです。
通説である「チューリングの悲劇」はどこで生まれたのか？
番組は一貫してチューリングの物語を悲劇として描き出していますが、 それはアンドリュー・ホッジズが1983年に出版したチューリングの伝記 "Alan Turing: The Enigma" と、それを原作として1986年に初演された ヒュー・ホワイトモア の戯曲 ブレイキング・ザ・コード が下敷きになっています。この戯曲の 脚本 は現在でも入手可能なのですが、次のように紹介されています。
This compassionate play is the story of Alan Turing, mathematician and father of computer science. Turing broke the code in two ways: he cracked the German Enigma code during World War II (for which he was decorated by Churchill) and also shattered the English code of sexual discretion with his homosexuality (for which he was arrested on a charge of gross indecency). Whitemore's play, shifting back and forth in time, seeks to find a connection between the two events. When first performed in the 1980s, Breaking the Code was critically acclaimed in the UK before a Broadway transfer won it a raft of awards & nominations including 3 Tony Awards, and 2 Drama Desk awards.
この思いやりのある芝居は、数学者でありコンピュータ科学の父であるアラン・チューリングの物語である。チューリングは、第二次世界大戦中にドイツのエニグマの暗号を解読し（そのためにチャーチルから勲章を授与された）、また、同性愛のために英国の性の規範を打ち砕いた（そのために彼は重大なわいせつ行為の罪で逮捕された）。ホワイトモアの戯曲は、時間を行き来しながら、この２つの出来事の間に関連性を見出そうとしている。1980年代に初演された『ブレイキング・ザ・コード』はイギリスで絶賛された後、ブロードウェイに移籍し、トニー賞3部門、ドラマデスク賞2部門を含む数々の賞とノミネートを獲得しました。
この戯曲は世界中でヒットしたようです。 いかがでしょう？この「天才科学者の秘められた生活」といったプロット、 よく考えてみれば如何にも演劇的ですよね？ 以降、戯曲で作られた「暗号解読」と「同性愛者」という チューリングのエキセントリックなイメージが一般に定着しました。
これが結果的には、今日でもますます盛んなアラン・チューリング研究の発端だったと僕は理解しています。 もちろん、彼のプライベートを暴くことの是非はありますが、伝記や戯曲の登場により 歴史の闇に埋もれていったその他の幾多の天才とは異なり チューリングへの社会的な認知が広がり、 その後の再評価へと繋がったことは明らかでしょう。
これが冒頭で言及した「1980年代のチューリング史」です。
しかし、今となっては「前世紀の逸話」と言うべきなのかもしれません。
今、本当に語られるべき「チューリングのストーリー」は何か？
今世紀に入り、英国政府からの謝罪により名誉回復され、 祖国を守った英雄のひとりとなったアラン・チューリング。 「今世紀のチューリング史」を語るとしたら、 その後のチューリングの再評価の歴史にも触れなければ片手落ちでしょう。
まず軍関係では、英国情報局は書籍『The Ultra Secret』の出版を皮切りに、 第２次世界大戦中の作戦に関するすべての情報の軍事機密の解除に応じるようになりました。 また、チューリングが戦時中に所属していた 政府暗号学校 (GCCS) （現 政府通信本部(GCHQ)） があった ブレッチリー・パーク は一時期廃墟のような状態になっていましたが、 その後その歴史的価値を評価した地方自治体によって保全され、 1994年にブレッチリー・パーク博物館として再建されました。 今日では年間２０万人の来場者数を誇る人気スポットとなっています。
今世紀に入って、チューリングは「性的マイノリティ（LGBT）」問題の象徴的な存在にもなりました。 2009年に当時のゴードン・ブラウン首相が、政府がかつておこなった「非人道的な扱い」を謝罪しました。 2013年には、エリザベス女王が死後恩赦を与え、 さらに2016年には過去に同性愛で有罪となった故人数千人も自動的に赦免されることになりました。 この措置は「アラン・チューリング法」と呼ばれています*2。 今日では「コードブレーカー」の異名で知られるチューリングですが、 それは「暗号解読」という意味に加え「（悪しき）行動規範を打ち破る」という ダブル・ミーニングとして語られることもあるようです。
このように、没後はむしろ社会的な影響力を増したチューリングですが、 残念なことに番組ではシリーズ全体のコンセプトとの整合性を守るためか、 チューリング存命中の悲劇的なストーリーだけを切り取った形で構成されていましたが、 放送の前年に成立した「アラン・チューリング法」にさえ全く触れていなかったことに？っと思ってしまいました。
チューリングは「人工知能の預言者」だったのか？
番組で僕が一番イラッとしたのは『人工知能の預言した男』という CASE タイトルです。 これ「チューリングは預言者だ」としたこと、 それから「チューリングの研究は人工知能を先取りしたものだった」 としたことに強い違和感を感じたからです。
チューリングは預言者とは対照的な人物
そもそも、 数学者だったチューリングの仕事は学術論文や提案書を書くことでした。 番組でも紹介された、 チューリング・マシン を提案した論文 "On Computable Numbers, with an Application to the Entscheidungsproblem" （計算可能数について － 決定問題への応用）(1936)*3 や世界初のプログラム内蔵型コンピュータになるはずだった "Automatic Computing Engine (ACE)" の開発に関する提案書 "Proposed electronic calculator"(1945)*4 など、短い生涯の間に重要な論文を多数残しています。 特に彼の論文の特徴は具体的で詳細まで丁寧に説明されていることでした。例えば、 チューリング・テスト （これも番組に登場しましたよね？）について語った論文 "Computing Machinery and Intelligence"（計算する機械と知性について）(1950)*5 については福井県立大学の田中求之先生が読み易い和訳を公開されてますので、 チューリングの論文の特徴を実感してもらえると思います。
いかがでしょう。その書きぶりの丁寧さは中学生・高校生向けの数学の副読本を思わせますよね？*6 チューリングの論文が具体的で細部まで丁寧に書かれていたのは、 周囲の人間に自分のアイデアを正確に理解させるためだったと僕は思います。 数学者だったチューリングがコンピュータを製造するには（ハードウェア）エンジニアが必要でしたし、 そのための資金を得るためには上司にアイデアを理解させ、説得する必要がありました。 そこには一般的なイメージとは異なる「全てを自分の思い通りに進める」というチューリングの執念が感じられます。 こういった「強烈な自我のある孤高の天才」は「社交性はあるがどこか他人頼りな預言者」とは 対極に位置すると思います。
本当の「人工知能を予言した男」とは？
次は「人工知能（ＡＩ）」について。 この用語の由来については 以前ブログに書いた ことがあるのですが、その内容をザックリ説明すると…
- 1956年にダートマス大学で開かれた学術会議に由来する
- 会議を企画したのは、当時若手の数学者だった ジョン・マッカーシー と マービン・ミンスキー
- 会議の前年、助成金を申請する際に「新しい研究」であることを強調するために 聴き慣れないキャッチフレーズとしてマッカーシーが捻り出したのが "Artificial Intelligence" だった
このダートマス会議の５０周年を記念して2006年に開催されたイベントで、 マッカーシーが語った会議の内幕は…
- 会議での議論そのものは期待外れに終わった
- その主な理由は参加者がそれそれ自分自身の研究テーマに固執し、他者の研究テーマに関心を示さなかったから
- もしチューリングが存命で、会議に参加していれば、全く違った結果になったであろう
- 会議での最大の成果は "Artificial Intelligence" という用語が研究者の間で定着したこと
ということだったようです。その後、ＡＩは研究者の間でのブームとなりました。 ミンスキーが1961年に発表した論文 "Steps Toward Artificial Intelligence"(1961) *7 はダートマス会議から５年後の人工知能研究の隆盛ぶりを報告する内容でした。 一説によれば、このときミンスキーは「向こう３０年以内に人工知能は実用化される」と豪語したとか。
しかし、1990年を過ぎてもミンスキーが認める人工知能が実用化されることはありませんでした。 もちろんミンスキーは「研究は前進している」と主張していましたが…
マッカーシーは2011年に、ミンスキーは2016年に亡くなりました。 結局、彼らが夢見た「人工知能」を彼ら自身は生涯、目にすることはありませんでした。 もし「人工知能を予言した男」が実在したとすれば、 それは彼らだったのではないかと…いかがでしょうか？
「２０世期のＡＩ」と「２１世紀のＡＩ」
現在、ＡＩの技術的主流とされている「ディープラーニング」は 旧来の「機械学習」と「ニューラル・ネットワーク」という技術を組み合わせたものなんだそうですが、 マッカーシー・ミンスキーが全盛を極めた1960年代から1980年代あたりまでは、 いずれも人工知能の範疇には含まれない技術とみなされていました*8。 マッカーシー・ミンスキーが全盛の時代、 日本では「記号処理」＝「人工知能」と考えられていたのですが、 今では「コネクショニズム」＝「人工知能」と考えることが多くなっています。 このブログでは「記号処理」を「２０世期のＡＩ」、 「コネクショニズム」を「２１世期のＡＩ」と呼ぶことにしていますが、 二つの世紀の間に位置する1990年〜2010年の間に、 研究のトレンドが「記号処理」から「コネクショニズム」へと移行する動きがありました。
番組では「我々が求めているのは経験から学習する機械だ」 との派手なキャプションで語っていましたが、 チューリンがこの発言をしたのは「1947年ロンドン数学会での講演」*9 で、 その翌1948年には"Intelligent Machinery"（知能機械）*10 というタイトルの報告書を作成しています。両者で語られているのは「経験から学習する機械」である "Unorganized machine"（未構成のマシン） ついてです。つまりチューリングは「コネクショニズム」のアプローチで 機械の知能獲得を考えていたことになります。 この講演録と報告書、実は長年埋もれていたそうです。 番組でインタビューに応じていたジャック・コープランドは サイエンティフィック・アメリカン誌に "Alan Turing's Forgotten Ideas in Computer Science"(1999)*11 を寄稿し「経験から学習する機械」の発掘に一役買っています。
このように1990年代は、既存の「記号処理」アプローチがデッドエンドを迎え、 その打開策を「コネクショニズム」に求めるトレンドもあったのでしょう。その中にあって 「チューリングがニューラルネットワークを使ったコンピュータを構想していた」 という新事実は、かなりのインパクトだったことは想像に難くないでしょう。
もちろん「２０世期のＡＩ」から「２１世期のＡＩ」への パラダイムシフトの主な要因は２１世期に入ってからのディープラーニングのブレーク、 その背景にはクラウド・コンピューティングの出現があってのことなのですが、 チューリングの「経験から学習する」コンセプトが従来の「人工知能」の諸問題に 問題解決のための新しい切り口を示唆した面も考えられるように思います。 でなければ、世紀の変わり目にチューリング再評価の機運が高まることはなかったはずだから。
ちなみに晩年のミンスキーはかなり苛立っていたように見えます。 雑誌 Wired の2003 年のインタビューに答えて「1970年以降のＡＩ研究は脳死状態にある」と語っています*12。 つまり２１世紀には、彼らの「人工知能」は前世紀ほど 注目を集められなくなってしまったことを物語っています。
結局、アラン・チューリングとは？
以上が『フランケンシュタインの誘惑』の「CASE15 強制終了 人工知能を予言した男」の再放送を見た僕の感想です。
実は、この回は初出の 2017年の放送の時も視聴した筈だったのですが、 その時の記憶はすっかり抜け落ちていたので、たぶん僕の印象は非常に薄いものだったのでしょう。 ですが、その後、僕はアラン・チューリングについて少々知恵を付けたので、 新たにその目で見ると、イライラ・ポイント満載の再放送になってしまいました。
番組の制作スタッフの方々には申し訳ないのですが…
やはりこの番組シリーズ「やり過ぎちゃった科学者とその後の社会からの糾弾を含めて描く」ところに ドキュメンタリ番組としての面白さがあると僕は思うのですが、 チューリングの場合、本人は天才過ぎるし社会からの糾弾の方が酷すぎるので、 他の回とは違って「え？悪者は誰？」って迷ってしまう…この番組シリーズの 「面白さの方程式」が完全に崩れてしまったのが最大の問題点なんじゃないでしょうか？ ドラマ・パートもインタビュー・パートも考証的にはしっかりした内容だっただけに残念な感じ。 たぶん「面白さの方程式」に素直に従うならマービン・ミンスキーを主役にした方が、 番組としては良い結果になったと思います。
結局「アラン・チューリングとは？」というと 「音楽家のモーツァルト とよく似ている」という説明が一般にもわかりやすい答えかと思います。 すなわち「提案したアイデアがあまりにも革命的なだったので存命中はその価値は殆ど理解されず、 悲惨な最後を遂げたが、没後、社会が彼に追いつくにしたがって評価が年々高まってきている」 のではないかと思います。歴史的に見てもこんな見事な復活劇を演じた天才はそうそういません。 もちろん没後の話なので、ご本人にはちっとも嬉しくない話ですが…
あと、最後に、もうひとつだけイライラ・ポイントを書かせてもらうと…
番組中のキャプションで「世界初の人工知能宣言」というのがありますが、 チューリングの存命中には「人工知能」という言葉はなかったし、 彼自身は自分の研究を "Intelligent Machinery" と呼んでいたので ここは「知能機械」あるいは今風に「知能システム」の宣言と してもらいたかったところです。
もちろん一般には「人工知能」の方が通りが良いのでしょうけども…
以上
*1:当時、世界初のデジタル・コンピュータとされていた
ENIAC
の特許を巡って争われた
裁判
に起因してるのではないでしょうか。
事実、ENIAC後に登場した商用コンピュータはいずれも
ENIAC特許に抵触する可能性がありました。
当時は社会的に影響の大きい訴訟と認識されていました。
*2:この恩赦の経緯はWikipedia英語版のチューリングのページにある
"Government apology and pardon"（政府による謝罪）
に簡潔にまとめられています。
*3:原文のリプリントが以下のURLで確認できます。
https://www.cs.virginia.edu/~robins/Turing_Paper_1936.pdf
*4:ジャック・コープランドが運営するウェブサイト AlanTuring.net で、原文の写真データが公開されています。
*5:原文のリプリントが以下のURLで確認できます。
https://www.csee.umbc.edu/courses/471/papers/turing.pdf
また Wikipedia 英語版にはこの論文の解説ページがあります。
*6:もっとも、この論文に登場する＂人間の審査員に『相手は人間だ』と誤解させる＂ほどの対話システムを
開発するために、その後７０年間も要している訳で…チューリングの論文の難解さとはこういうことなのです。
*7:原文は以下のURLで確認できます。
https://courses.csail.mit.edu/6.803/pdf/steps.pdf
*8:実は「機械学習」や「ニューラル・ネットワーク」も「人工知能」と 同じぐらい古くから存在した技術です。専門家の間では、２つをまとめて 「コネクショニズム」 という考え方と理解されてます。それと対照的な考え方があり、 日本では「記号処理」と呼ばれていました。
両者の関係をわかりやすく図解している記事を見つけたので紹介しておきます。
*9:この講演録は論文集
"A M. Turing's ACE Report of 1946 and Other Papers"
に採録されてますが、チューリングの講演録だけであれば
"Lecture to the London Mathematieal Society on 20 February 1947"
で読めます。
さらに素敵なことに日本語訳もあります。
「ロンドン数学会においてアラン・マジソン・チューリングが１９４７年２月２０日に行った講演１）の日本語訳と注解」
*10:原文のリプリントが以下のURLで確認できます。
https://weightagnostic.github.io/papers/turing1948.pdf
*11:コープランドの記事単体は以下のURLで閲覧できます。
http://www.cs.virginia.edu/~robins/Alan_Turing%27s_Forgotten_Ideas.pdf
最後の "Further Reading" を見てもらうとわかるように、
コープランドは1990年代にチューリング関連で幾つか論文を書いてます。
つまり彼はチューリング再評価の立役者のひとりと言えます。
*12:記事は以下で閲覧できます。
