藤田昭人
緊急事態宣言は延長されましたが、コロナ感染のピークは過ぎたような…
みなさんいかがお過ごしでしょうか？
前回の最後で『人工知能（ＡＩ）』という用語について 「21世紀の今日、どうやらこの用語は前世紀の遺物として扱わなければならないのかもしれません」 などと言い放ってしまったことが内心ずーっと気になってました。 そこで今回は「ＡＩは前世紀の遺物」と考えるに至った Salon.com のニュース記事『Artificial stupidity』について軽〜く紹介したいと思います。
オンライン・ニュース・サイト「Salon.com」
Salon.com は1995年に デビッド・タルボット によって作成されたアメリカのリベラルなニュースとオピニオンのオンライン雑誌サイトです。 アメリカの政治、文化、時事問題に関する記事を公開し、政治的に進歩的・自由主義的な編集スタンスを持っているそうです。 典型的なアメリカのメディアなんですけども、ＩＴやその業界に非常に強いところが他のメディアにはない魅力です。 反面、記事が無茶苦茶長い・・・この分量の英語を読むのはなかなか骨が折れます。 が、読むだけの価値のある内容があります。
実は『Unix考古学』を書いてる時にも、僕はこのサイトには大変お世話になりました。
そもそもオリジナルの研究版 Unix は1970年代前半に全米の多数の大学には配布されていました。 にも関わらず UCB だけが Berkeley Software Distribution (BSD) という影響力のある配布キットを作り出しました。 もちろんサバティカルの際、母校で教鞭を取った Ken Thompson の存在は大きかったでしょうが、でも彼が先生として UCB にいたのは１年間だけ。 それだけでディストリビューションを作ろうと思った Bill Joy は余程思い上がった学生だったに違いない・・・と当初は想像したのですけども、 この記事を読むと彼とその仲間の思い入れ、つまり BSD Unix 誕生のバックストーリを非常に明確に示してくれました。 しかし "Power to the people, from the code" だなんて・・・時代を感じさせますね（笑） *1。
ニュース記事『Artificial stupidity』
さて、本稿の本題であるニュース記事『Artificial stupidity』を紹介します。
2003年２月に公開されたこの記事は、前後編に別れていてかなりボリュームがあります。
テーマはチューリング・テストのコンテスト「ローブナー賞」、その内幕を取り上げてます。 稀に話題に登ることがあるわりには実態がわからないこのコンテスト。 スンドマンは創設者のヒュー・ローブナーを始めとする多数の当事者に徹底したインタビューを敢行し、 その真相を炙り出しているところが Salon.com らしい記事です。
著者の John Sundman は本来テクノパラノイド小説？を書く小説家なんだそうです。 Salon.com への寄稿は全部で４本。どうやらフリーライターのようですね。記事の中で 「1990年代にサンマイクロシステムのユーザビリティ・エンジニアリング・グループのメンバーだった」 と語っているのでＩＴ業界のＯＢでもあります。そのせいか、記事を読む限りＩＴに関する専門知識は正確だと感じました。
ローブナー賞の真相・・・をちょこっとだけ
さて、そのスンドマンが語る「ローブナー賞の真相」・・・を全部語り始めると 途方もなく長くなりそうなので、ここではハイライトのひとつ「マービン・ミンスキーとの確執」を紹介します。
一般にはあまり知られていない「ローブナー賞」、 チャットボットに関心の方々でも「名前を聞いたことがある」ぐらいでしょう。 もちろん Wikipedia ページは存在しますが、その内容はあまり長くありません。
さまざまな情報を網羅的に書いてあることの多い Wikipedia ページにしては、 1991年から現在も継続中の実に３０年間も続く歴史あるコンテストの紹介としてはちょっと簡素過ぎるぐらい。
この Wikipedia ページの中で一番気になる文言と言えば、冒頭の次のフレーズでしょう。
Within the field of artificial intelligence, the Loebner Prize is somewhat controversial; the most prominent critic, Marvin Minsky, called it a publicity stunt that does not help the field along.
人工知能の分野では、ローブナー賞は物議を醸している。批判の急先鋒であるマービン・ミンスキーは、ローブナー賞が単なる売名行為であって研究には何の寄与もしていないとした。
何やら、ページの冒頭から釘を刺されているような感じです。 これが本当に人工知能の父として名高いマービン・ミンスキーの発言だとしら、 人工知能に関わりのない人でもローブナー賞から腰を引いてしまいそうですね。 スンドマンの言う「何かと物議を醸す」が窺い知れます。
ローブナー賞はニューヨークの企業経営者の ヒュー・ローブナー が創設しました。ローブナーは社会学の博士号を取得し、 修了後しばらくは大学周辺で職を得ていましたが、 結局家業のハードウェア（コンピュータではなく本来の意味のハードウェア）製造メーカーの経営を継いだようです。
ローブナーがチューリングテストのコンテストを思いついたのは 1985 年のことだったそうですが、 専門的な知識を持たないことから、企画・運営を進めるため、大学時代の旧友 ロバート・エプスタイン に相談を持ちかけたのがローブナー賞の始まりだったとのことです。 これに対しエプスタインは自らが設立したＮＰＯ法人 ケンブリッジ行動研究センター the Cambridge Center for Behavioral Studies で運営することを提案しました。
ローブナーから委託を受けたケンブリッジ行動研究センターが ローブナー賞委員会を立ち上げたのが1990年のことでした。この委員会は議長に就任した ダニエル・デネット を始め、当時のＡＩコミュニティの重鎮がずらっと並ぶ豪華なメンバーでした。
約１年間の準備期間を経て第１回ローブナーコンテストの開催にこぎつけましたが、 その結果は惨憺たるものだったようです。スンドマンの記事では、観客として見ていたハーバード大学の教授 スチュアート・シーバー が書いた論文 "Lessons From a Restricted Turing Test" を引用してその時の様子を説明しています。
Perhaps the most conspicuous characteristic of the six computer programs was their poor performance. It was widely recognized that computer experts could readily distinguish the contestants from the confederates. Indeed, many of the techniques being used by the programs were easily spotted by those familiar with the ELIZA program that prize committee member Weizenbaum developed in 1965. The repetition of previous statements verbatim (subject only to pronominal adjustments, sometimes wrong), answers transparently keyed to trigger words, and similar tricks of the ELIZA trade were ubiquitous. For example, the following example from the whimsical conversation program is illustrative of the regurgitation technique:
おそらく、６つのプログラムの最大の特徴は、性能の悪さだろう。コンピュータの専門家は、出場者をコンフェデレーション（チャットボットのフリをして応答を返す人間）から容易に見分けることができると広く認識されていた。実際、プログラムで使用されているテクニックの多くは、1965年にローブナー賞委員会メンバーのワイゼンバウム氏が開発したELIZAプログラムに精通した人なら容易に見つけることができる。これまでの発言をそのまま繰り返し（代名詞の調整だけで済むが、時には間違っていることもある）、トリガーとなる単語を明らかにキーにした回答をしたり、ELIZAの取引と同様のトリックはどこにでもあった。
当日、イベントの司会を努めたエプスタインは締めの挨拶で「この25年間ほとんど進展がなかった」と述べたそうです。つまり ジョセフ・ワイゼンバウム の ELIZA から全く進展がないと嘆いたとか。
その後、エプスタインと委員会は気を取り直して第２回と第３回を開催したものの、 状況は全く変わらなかったようです。1994年にシーバーの論文が Communications of the ACM（CACM） に掲載されると、世間からの圧力が増していると感じるようになった委員会は チューリング・テストそのものを封印して独自ルールへと移行することを強く主張しました。 しかし、スポンサーであるローブナーはチューリング・テストに固執したことから、 結果的に委員会は全員辞任することとなりました。
ところが・・・
ここまではまったく外野にいたはずの マービン・ミンスキー が1995年３月３日に Annual Minsky Loebner Prize Revocation Prize 1995 Announcement との Subject のついたメッセージを USENET のニュースグループ comp.ai と comp.ai.philosophy にポストしました。
１７． The names "Loebner Prize" and "Loebner Prize Competition" may be used by contestants in advertising only by advance written permissionof the Cambridge Center, and their use may be subjecttoapplicableicensingfees. Advertising is subjecttoapprovalbyrepresentativesoftheLoebner Prize Competition. Improper or misleading advertising may result in revocationoftheprizeand/or other actions.
[Some words concatenated to enforce the 80-character line length convention.]
I do hope that someone will volunteer to violate this proscription so that Mr. Loebner will indeed revoke his stupid prize, save himself some money, and spare us the horror of this obnoxious and unproductive annual publicity campaign.
In fact, I hereby offer the $100.00 Minsky prize to the first person who gets Loebner to do this. I will explain the details of the rules for the new prize as soon as it is awarded, except that, in the meantime, anyone is free to use the name "Minsky Loebner Prize Revocation Prize" in any advertising they like, without any licensing fee.
１７．「Loebner Prize」 および 「Loebner Prize Competition」 の名称は、ケンブリッジセンターの事前の書面による許可を得た場合のみ、競技者が広告に使用することができ、適用されるライセンス料がかかる場合があります。広告はローブナー賞コンクールの代表者の承認を必要とします。不適切な広告や誤解を招くような広告は、賞品の取り消しやその他の行為につながる可能性があります。
[一部の単語を連結して、80文字の行の長さ規則を適用する]
Loebner氏が実際に愚かな賞を撤回し、お金を節約し、この不愉快で非生産的な毎年の宣伝キャンペーンの恐怖を私たちに与えないために、誰かが自発的にこの規定に違反することを望んでいます。
実際、私はここにLoebner氏にこれをさせた最初の人にMinskyの賞金$100.00を提供します。新しい賞品が授与され次第、ルールの詳細をご説明しますが、その間、ライセンス料なしで、誰でも好きな広告に「Minsky Loebner Prize Revocation Prize」という名前を自由に使うことができます。
ミンスキーがどういうつもりだったかは定かではありません。
もっとも、確かに人工知能研究に関しては無知ではあったけれども、 決して頭は悪くないローブナーに巧みに切り返され、結局 ローブナー賞のスポンサーのひとり として祭り上げられることになりました。 ミンスキーがローブナー賞を酷評するのは、 どうやら特別の訳ありだったようですね。
ちなみに、スンドマンの記事のパート２ではミンスキーのこの件での後日談が紹介されています。
"I was caught in a bitch fight between Loebner and Minsky," recalled Neil Bishop. "We wanted to recognize Minsky for his work in the field on decision sciences. We know of the past baggage between the two, so I contacted Minsky to request permission to do so. I think he was flattered in some weird way by this request and ultimately gave us permission but not before blasting me for working with Loebner and wanting me to pass on to Loebner that Minsky would be contacting his lawyer to begin a libel and defamation action if his name was not removed from Loebner.net immediately."
「私はローブナーとミンスキーの口論に巻き込まれました」とニール・ビショップは回想する。「私たちは決定科学の分野でのミンスキーの業績を認めたかったのです。２人の間に過去のお荷物があることを知っていたので、ミンスキーに連絡して許可を求めました。彼はこのリクエストに奇妙な方法でお世辞を言って、最終的には私たちに許可を与えてくれたと思いますが、その前に私がローブナーと仕事をしていて、ローブナーに彼の名前がすぐに Loebner.net から削除されなければ、彼の弁護士に連絡して名誉毀損と名誉毀損の訴訟を始めると伝えてほしいと強く要求したのです」
ビショップがローブナー賞の主催者だったのは2002年ですから、 ミンスキーは７年経っても水に流せなかったようです。 この件、もはやミンスキーが意固地になっていたとしか思えません。
人工知能に関わる研究開発トレンドの変化
さて、ニール・ビショップが再登場したところで、 前回 引用したパート２での彼の発言を範囲を広げて再掲します。
"In the professional and academic circles the term Artificial Intelligence is passé. It is considered to be technically incorrect relative to the present day technology and the term has also picked up a strong Sci-Fi connotation. The new and improved term is Intelligent Systems. Under this general term there are two distinct categories: Decision Sciences (DS) and the human mimicry side called Mimetics Sciences (MS)."
Decision sciences, by the simplest possible definition, refers to computerized assistance in resource allocation. An example provided by a press release from MIT announcing the creation of a decision sciences program was "complex computer-based 'passenger yield management' systems and models that the airlines use to adjust pricing of each flight's seats in order to maximize revenue and profitability to the airline."
専門家や学術界では、人工知能という言葉は時代遅れのものとなっています。それは現在の技術に関連して技術的に正しくないと考えられており、また、この用語は強いＳＦ的な意味合いを持っています。新しい改良された用語は、インテリジェント・システムです。この一般的な用語の下では、Decision Sciences（DS: 意思決定科学）と Mimetics Sciences（MS: 擬態科学)と呼ばれる人間を真似る２つの異なるカテゴリがあります。
意思決定科学とは、可能な限り単純な定義では、資源配分のコンピュータ化された支援のことを指します。意思決定科学プログラムの設立を発表したＭＩＴのプレスリリースで提供された例は「航空会社が航空会社の収益と収益性を最大化するために、各フライトの座席の価格設定を調整するために使用する複雑なコンピュータベースの『旅客の歩留まり管理』システムとモデル」でした。
彼のいう「インテリジェント・システム」が「人工知能」に置き換わる用語なのか？否か？はよくわかりませんが、 ビショップのこの発言に限らず、スンドマンの２つの記事全体を通した 彼の主張は従来の人工知能研究（特にミンスキー）に対して総じて批判的です。 それはパート１に登場する以下の記述からもよくわかります。
Loebner contests are often farcical and Hugh Loebner does act foolishly. But the closer one looks at the history of the Loebner Prize, the more it appears that Loebner’s real offense was showing up the biggest stars in “real” artificial intelligence as a bunch of phonies. Thirty years ago, Minsky and other A.I. researchers were declaring that the problem of artificial intelligence would be solved in less than a decade. But they were wrong, and every year the failure of computer programs to get anywhere close to winning the Loebner Prize underlines just how spectacularly off the mark they were.
ローブナー賞のコンテストはしばしば茶番劇であり、ヒュー・ローブナーは愚かな行動をとる。しかし、ローブナー賞の歴史を見れば見るほど、ローブナーの真の攻撃は、「本物の」人工知能分野の最大のスターたちを、インチキの集団として見せつけることだったように思えてくる。30年前、ミンスキーをはじめとする人工知能の研究者たちは、人工知能の問題は10年以内に解決されると宣言していた。しかし、それらは間違っており、毎年、コンピューター・プログラムがローブナー賞に近づくことができなかったことは、それらがいかに的外れであったかを示している。
人工知能はという研究分野では僕は明らかに門外漢なのですけども、 僕と同じような立場の情報系エンジニアだったスンドマンの指摘 （特にパート２で展開されている従来の人工知能研究への批判的な指摘） には肯かざる得ない印象を僕も持っています。
そういう視点でローブナー賞の３０年に渡る歴史を俯瞰してみると、ちょうど2000年ぐらい、つまり リチャード・ウォレス が ALICEbot を引っ提げてローブナー賞に登場し、優勝をかっさらったあたりに、 従来の人工知能研究は新しい研究の枠組へと移行した時期があったのかな？などと考えています。
記事には何度となく登場しますが、２０世期の人工知能研究ではチューリング・テストを どちらかというと否定的な方向の研究がなされていたそうですが、 しかし「ＳＦ的な意味合いの呪縛から逃れた２１世紀のインテリジェント・システム研究の視点が見た場合、 むしろチューリング・テストは肯定的に理解できる」とのように僕はこの記事を読めてしまうのです。 スンドマンはパート２で「結局、ローブナーが正しかったのではないか？」と主張しています。 前回 紹介したアラン・チューリングの再評価が起こった原動力は、 案外この研究開発トレンドの変化なのかもしれませんねぇ。
言い換えると「人工知能（ＡＩ）」という言葉を発明したマッカーシ＆ミンスキーは アラン・チューリングの研究を非常に表層的にしか見てなかった？ そう考えると「人工知能（ＡＩ）」という言葉は今日では究極のマーケティング用語と理解すると 個人的には何故かしっくりくるような気がします（笑）
以上
*1:２０代の若い方々にはピンと来ない話ですいません。
元々、政治的にはリベラルが強いアメリカ西海岸の中でも、 カルフォルニア大学バークレイ分校（UCB）の周辺は過激な政治思想で知られる地域です。 特にベトナム戦争の最中には「アメリカ国内にある社会主義の独立国」を意味する「バークレイ共和国」と揶揄される有様でした。 1970年代の半導体技術の進化（カルフォルニアにはそういう企業がたくさんありました） と過激な学生の革命指向が結びついて、初期のハッカー文化が形成されたというのが僕の理解です。
当時の Unix オタクもご多分に漏れず、
巨大企業 AT&T の向こうを張って Unix で社会革命を果そうと考えたことがこの記事を読むとわかります。
