「A.I.は新たなマッキンゼー・アンド・カンパニーになるのだろうか？」テッド・チャンが問うA.I.驚異論。「私たちは誰もがラッダイトになるべきだ」
人工知能について語ろうとするとき、私たちは比喩に頼りがちです。新規なものや馴染みの薄いものを扱うときは大体そうなります。比喩は本質的に不完全なものですし、選択は慎重にする必要があります。良くない比喩は私たちを惑わせるからです。たとえば、強力なA.I.は、よくおとぎ話に出てくる魔法のランプの精霊に例えられます。この比喩は、強大な存在を自分の命令に従わせることの難しさを強調しています。コンピュータ学者のスチュアート・ラッセルは、触れたもの全てを黄金に変えるよう要求したミダス王のたとえ話を引き合いに出して、A.I.が自分の望んだことではなく命令通りに動いてしまうことの危険性を説いています。この比喩にはいくつかの問題があるのですが、ひとつは、この比喩が参照するストーリーから間違った教訓を導き出している点にあります。ミダス王のたとえ話のポイントは、強欲は我が身を滅ぼすこと、そして富を求めていると本当に大切なものをすべて失ってしまうということです。もし、このたとえ話を、神様にお願いをする際は言葉選びはとても慎重にしなければならないと読み取っているのなら、それはポイントがずれているのです。
そこで、人工知能がもたらすリスクについて、別の比喩を提案してみましょう。人工知能を、マッキンゼー・アンド・カンパニーのような経営コンサルティング会社として考えてみてはどうでしょうか。マッキンゼーのような企業は、さまざまな理由から雇用されていますし、A.I.システムもさまざまな理由から利用されています。そして、Fortune 100（総収入ランキングトップ100社）の9割と取引のあるコンサルティング会社であるマッキンゼーとA.I.の類似性は明らかです。ソーシャルメディア企業は、ユーザーをフィードに釘付けにするために機械学習を利用しています。同じように、パデュー・ファーマ社は、オピオイドが流行っていた頃にオキシコンチン（半合成麻薬）の売上を「ターボチャージ」させる方法を作り上げるために、マッキンゼーを利用しました。A.I.が経営者に人間の労働者の代替を安く提供することを約束するように、マッキンゼーのような企業は、株価と役員報酬を上げる手段として大量解雇の慣行を正規化し、アメリカの中産階級の破壊をもたらしたのです。
あるマッキンゼーの元社員は、同社を 「資本に従う処刑人」 と表現しています。やりたいことがあるが手を汚したくないときは、マッキンゼーが代わりにやってくれます。このような説明責任からの逃避は、経営コンサルタントが提供する最も価値あるサービスなのです。重役たちはある目標を持っているが、その目標のためにやるべきことをしたからといって批判は受けたくない。コンサルタントを雇えば、経営者たちは独立した専門家のアドバイスに従っただけだと釈明できるわけです。A.I.は現在の原初的な形においても、そもそもアルゴリズムを委託したのは企業であるにもかかわらず、アルゴリズムの言いなりになっただけだと企業の責任を回避する言い訳に使われているのです。
問われるべきは、A.I.がより強力で柔軟になっていく中で、それがマッキンゼーの別バージョンにならないようにする方法はあるのか、ということです。この問題は 「A.I」 という用語の持つさまざまな意味にわたって検討する価値があります。A.I.を、企業のコスト削減のために企業に売り込みされている広範な技術の集合体と捉えるのであれば、問題は、それらの技術が 「資本に従う処刑人」 として機能しないようにするにはどうすればよいかということになる。あるいはA.I.を、人間から依頼された問題を解決するための半自律的なソフトウェア・プログラムとして想像するのなら、問題は、そのソフトウェアが人々の生活を悪化させるような手段で企業を支援するのをどう防ぐかということになる。たとえば、人間に完全に従う半自律型の人工知能を作ったとします。このA.I.は、受け取った指示を誤って解釈していないかを繰り返しチェックします。これは多くの人工知能研究者の夢でしょう。しかし、そのようなソフトウェアは、マッキンゼーと同じような害を容易に生み出す可能性があるのです。
断っておきますが、これは、質問された問題に対して社会性のある解決策のみを提示するA.I.を構築すればよいという単純な話ではありません。それでは、マッキンゼーの脅威に対して、そのような解決策だけを提供するコンサルティング会社を設立することと何ら変わらないのです。現実的には、Fortune 100に入るような企業であれば、社会貢献をめざす会社よりもマッキンゼーを選ぶでしょう。マッキンゼーの策は、あなたの会社の策よりも株主にとっての価値を高めてくれるからです。株主価値を優先するA.I.を構築することはいつでも可能であるし、多くの企業は、あなたの理想によって制約を受けるA.I.よりも、そうしたA.I.を使いたいと望むはずです。
A.I.が資本主義というナイフの刃を研ぎ澄ます以外に何かできる方法はないのでしょうか。ここで誤解のないように言っておくと、私の言う資本主義とは、主な経済システムの特性である、市場が決定する価格によって商品やサービスを交換することではありません。資本主義とは、資本と労働の具体性のある関係のことであり、すなわち、資産を持っている個人が他人の努力によって利益を得ることができるということです。つまり、ここでの議論において資本主義を批判するとき、私は物品を売るということを批判しているのではなく、資産をたくさん持っている人が実際に働いている人に対して権力を行使できるという考え方を批判しているのです。わかりやすく言うと、資本主義の本質的な性質であるかどうかは別にして、今日の資本主義を決定的に特徴づけている、かつてなかったような、少数の人々に資産が集中している点を批判しているのです。
今開発されているA.I.は、人間が行う作業を分析して人間に取って代わる手段を考えようとするものであることが大半です。偶然でしょうが、これこそがまさしく経営者が解決したい問題なのです。結果として、A.I.は労働者を犠牲にして資本を支援することになります。労働者の利益を促進させるコンサルティング会社といったものは、現実には存在しないのです。では、A.I.がその役割を担うことは可能なのでしょうか。A.I.が経営者ではなく労働者を支援するために何ができるのでしょうか。
資本主義に反対するのはA.I.の仕事ではない、と言う人がいるかもしれません。それは正しいのかもしれませんが、資本主義を強化することだってA.I.の仕事ではないでしょう。しかし現在のA.I.はそれを行っているのです。もし、A.I.が資産の集中を抑える方法を考え出せないのであれば、A.I.が中立的な技術であるとも、まして有益な技術であるとも言い切れないと私は思います。
***
多くの人は、A.I.が失業者を増やすと考えており、その解決策としてユニバーサル・ベーシック・インカム（政府が市民に生活のための資金を支給する制度）を持ち出しています。基本的に私はベーシック・インカムのような考え方を好んでいますが、しかし、A.I.に携わる人々が、A.I.による失業の対策としてベーシック・インカムを提案するやり方には懐疑的なのです。それがすでに存在するのであればともかく、そうではないのだから、ベーシック・インカムの支持とは、A.I.開発者たちが政府に責任を転嫁するようなものでしょう。実のところ、彼らは資本主義が生み出す問題を悪化させることで、政府が介入せざるを得なくなることを期待しているのです。世界をより良い場所にするための戦略としては疑問符がつきます。
2016年の選挙の際に、バーニー・サンダースの熱烈な支持者であった女優のスーザン・サランドンが、ヒラリー・クリントンよりもドナルド・トランプに投票した方が革命が早く起きるから良いと言っていたことを覚えているでしょうか。サランドンがどの程度まで深く考えていたかはわかりませんが、スロベニアの哲学者スラヴォイ・ジジェクもほぼ同じことを言っており、この問題についてかなり熟考した上でなのでしょう。彼は、トランプの当選はシステムに大きな衝撃を与え、変化をもたらすと主張したのです。
ジジェクの主張は、政治哲学における加速主義という考え方の典型例です。加速主義にはさまざまな種類がありますが、左翼の加速主義者に共通するのは「事態を改善する唯一の方法は事態を悪化させることだ」という考え方です。資本主義に反対したり改革しようとするのは徒労であり、その代わりに、システム全体が瓦解するまで資本主義の最悪な傾向を加速させるべきだと言うのです。資本主義を超克するには、エンジンが爆発するまで新自由主義というアクセルを踏むのが唯一の手段であるというわけです。
これはより良い世界を実現するための手段のひとつではあるのでしょう。しかし、それがA.I.業界が採用しているアプローチだと言うのであれば、彼らがいったい何を目指しているのか明確にしておきたいと思います。人工知能の研究者たちは、それまで人々が行っていた仕事をする人工知能を構築することで、資本の集中を極端な水準にまで高めており、社会の崩壊を避けるには政府が介入するしかないと考えています。これは、より良い世界の実現を目指してあえてトランプに投票することと意図はともかく似通っています。そして、トランプの台頭は、戦略としての加速主義が孕むリスクを物語っています。物事は悪化し、改善するまでとても長くその状態が続くことになります。実際、事態が収拾するのにどれくらいの時間がかかるのか見当もつきません。わかっているのは、短期的にも中期的にも大きな痛みと苦しみがともなうという点だけです。
私は、A.I.が人類に危険をもたらすという主張にはあまり納得していません。人工知能は独自の目標を設定して私たちが無効にするのを拒否するようになる可能性がありますが。しかし、A.I.は資本主義の力を増大させるという点では危険であると思います。終末のシナリオは、とある有名な思考実験が想定したように、地球全体がペーパークリップで埋め尽くされるといったものではありません（訳注：人工知能にペーパークリップの生産量を上げるよう指示すると、誤って機械のスイッチを切る可能性のある人間を排除するようになるだろうという哲学者ボストロムの思考実験）。A.I.を擁した企業が、株主の価値を追求するために環境や労働者階級を破壊することです。資本主義は、私たちがスイッチを切れなくするためならどんなことでもする機械なのです。なかでもっとも成功した武器は、私たちが代替案を検討しないようにするキャンペーンでした。
新技術を批判する人々は、よくラッダイトと呼ばれるのですが、ラッダイトが実際に何を求めていたのかを明らかにすべきです。彼らが声を上げたのは、工場主の利益が増え、食べ物の価格も上昇しているのに、自分たちの賃金が下がっていた事実でした。彼らはまた、危険な労働条件、児童の労働使役、繊維産業の信用を失墜させる粗悪品の販売にも抗議していました。ラッダイトたちは手当たりしだいに機械を壊して回ったわけではありません。機械の所有者が労働者に十分な賃金を払っていれば見逃したのです。ラッダイトたちは反テクノロジーだったのではなく、求めていたのは経済的正義でした。彼らが機械を破壊したのは、工場主の関心を引くためです。ラッダイトという言葉が、現在では非合理的で無知な人を指す侮辱語として使われているのは、資本主義側の勢力による中傷キャンペーンによるものと言えます。
誰かが誰かをラッダイトだと非難するとき、非難された人は単にテクノロジーに反対しているのか、それとも経済的正義に賛同しているのかを問う意味はあります。そして、非難する側の人間は、実際には人々の生活を向上させようとしているのでしょうか？ それとも資本の私的独占を増やそうとしているだけなのでしょうか？
今日、私たちは、テクノロジーが資本主義と混同され、さらにそれが進歩という概念と混同されるという状況に置かれています。資本主義を批判しようとすれば、テクノロジーと進歩の両方に反対していると非難されるわけです。しかし、進歩が労働者たちの生活を向上させることでないのなら、いったい何の意味があるのでしょうか。蓄積された資産が株主の銀行口座にしか流れないのであれば、効率化は何のためにあるのでしょうか？ 私たちは誰もがラッダイトになるよう努力すべきなのです。なぜなら、私的な資本の独占を許すよりも、経済的な正義にもっと関心を持つべきだからです。テクノロジーの有害な利用 ーー労働者よりも株主の利益になるような利用も含みますーー に対して、テクノロジーの反対者と謗られることなく批判できるようになる必要があるでしょう。
百年後の理想的な未来を想像してみてみましょう。そこでは、誰もが嫌な仕事を強制されず、自分がいちばん充実していると思えることに時間を費やすことができます。もちろん、今ここからどうやってそこに到達するかはわかりません。しかし、これから数十年の間に起こり得る二つのシナリオを考えてみましょう。ひとつは、経営と資本の力がもっと強大になる。もうひとつは、労働者の力がもっと強力になる。どちらが理想的な未来に近づく可能性が高いでしょうか？ そして、今そこにあるA.I.は、私たちをどちらの方へ向かわせようとしているのでしょうか？
***
もちろん、新しい技術は長期的には生活水準を向上させ短期的にも失業を補うのだという議論もあります。この議論は、産業革命後の長い期間において重宝されてきましたが、ここ半世紀において力を失いました。アメリカでは、一人当たりのGDPは1980年以降にほぼ倍増していますが、世帯所得の中央値は大きく低下しています。この時期は、情報技術革命の時期と重なっています。つまり、パソコンやインターネットが生み出した実利的な価値は、アメリカ国民全体の生活水準を上げるのではなく、上位1％の富裕層を富ませることにほとんど費やされたのです。
もちろん、今や誰もがインターネットを使っていますし、インターネットは素晴らしいものです。しかし、不動産価格も、大学の授業料も、医療費も、すべてがインフレ率を上回るペースで上昇しているのです。1980年には、一人の収入で家族を養うことが一般的でしたが、今ではほとんど見受けられません。いったい、この40年間でどれだけの進歩があったのでしょうか。確かに、ネットショッピングは速くて簡単ですし、自室での映画配信はクールです。しかし、多くの人は、そうした便利さと引き換えに、マイホームを持ち、借金せずに子供を大学にやり、破産せずに病院に行けるようになりたいと思っているのではないでしょうか。所得の中央値が一人当たりのGDPに追いつけないのは、決してテクノロジーのせいではなく、もっぱらロナルド・レーガン（第40代大統領）とミルトン・フリードマン（経済学者）のせいなのです。そして、1981年から2001年にかけてゼネラル・エレクトリックを経営していたジャック・ウェルチのようなCEOや、マッキンゼーのようなコンサルティング会社の経営方針にも責任があります。別に私は貧富の格差増大をパソコンのせいにしたいわけではありません。単に、テクノロジーが進歩すれば自動的に人々の生活水準も向上するという主張は今や信じるに値しないと言っているのです。
パーソナルコンピューターが所得の中央値を上昇させなかったという事実は、A.I.の可能性を考える上で特に重要でしょう。しばしば、A.I.は労働者に置き換わるのではなく、労働者の生産性を向上させる方法に焦点を当てるべきだと指摘されています。それはそれで価値のある目標ではありますが、それだけでは人々の金運は高まりません。わかりやすい例ですが、パソコン上で走る生産性向上のためのソフトは、オートメーション化ではなく増強のためにあります。ワープロソフトはタイピストではなくタイプライターの、表計算ソフトは会計士ではなく紙の会計表の替わりになりました。しかし、パソコンによる個人の生産性の向上が、生活水準の向上をもたらすことはなかったのです。
テクノロジーが生活水準を向上させる唯一の道は、テクノロジーの恩恵を公平に分配するような経済政策がある場合に限られます。過去40年間、そのような政策は存在していませんし、それが実現しない限り、仮にA.I.が個々の労働者を増強する方法を生み出すとしても、いつかA.I.の進歩によって所得の中央値が上昇する理由にはならないでしょう。おそらく、A.I.は人件費を削減し企業の利益を増やしますが、それは私たちの生活水準を向上させることとは全く別の話なのです。
ユートピアのような未来がまもなく来ると仮定します。その未来で使うための技術を開発しておけば便利でしょう。しかし、その技術がユートピアで役に立つからといって、今それが役に立つとは限りません。有毒廃棄物を食品に変える機械があるユートピアなら、有毒廃棄物の発生は問題にはなりませんが、今ここで、有毒廃棄物の発生が無害だと主張する人はいないでしょう。加速論者であれば、有毒廃棄物の発生こそが廃棄物から食品への変換装置の発明を促すと主張するかもしれませんが、あまり説得力はありません。私たちは、テクノロジーが環境にもたらす影響を、現在利用可能な対応策との関連で評価するのであって、未来の仮想的な対応策との関連では評価しません。同様に、ベーシックインカムのある世界でA.I.がどれだけ役に立つかを空想して評価とすべきではありません。資本と労働の不均衡を考慮した上で評価する必要があり、その文脈において、A.I.は資本をアシストする手段であり脅威となるのです。
***
あるマッキンゼーの元社員は「私たちは政策を決めているのではなく、ただ遂行しているだけだ」と同社の行動を擁護しました。しかし、これは実に空虚な言い訳でしょう。というのも、有害な政策が決定される可能性が高まるのは、コンサルティング会社や新しいテクノロジーがそれを実現する手段を提供するからです。現在開発されているA.I.の種類は、企業によるレイオフを容易にするものです。では、それを難しくするようなA.I.を開発する手段はあるのでしょうか？
著書『21世紀において反資本主義者になるために（How to Be an Anticapitalist in the 21st Century）』の中で、社会学者のエリック・オーリン・ライトは、資本主義の弊害に対処するための戦略を分類しています。そのうちの二つは「資本主義の破壊」と「資本主義の解体」ですが、これらはおそらく今回の議論の範疇にはありません。より関連性が高いのは、「資本主義の抑制」と「資本主義への抵抗」でしょう。大まかに言えば、前者は政府による規制のことであり、後者は市民運動や労働組合のことです。A.I.が規制を強化したり、労働組合、つまり労働者による協同組合の力になるような手段はあるのでしょうか？
1976年、イギリスのバーミンガムにあるルーカス・エアロスペース社では、従業員たちが国防費削減によるレイオフに直面していました。対策として、工場の管理者は 「ルーカス・プラン」 として知られる文書を作成しました。ここには、透析装置から風力タービン、自動車用のハイブリッドエンジンに至るまで、労働者をレイオフせずとも既存の技術や設備で生産できる「社会に有益な製品」 が150種載っていました。会社の経営陣はこの提案をはねのけましたが、現代において労働者が資本主義をより人間らしい方向に導こうとした代表的な例として語り継がれています。きっと、現代のコンピューター技術においても、同じようなことができるはずなのです。
資本主義は今あるように有害でなければならないのでしょうか？ そうではないかもしれません。第二次世界大戦後の30年間は、資本主義の黄金時代と呼ばれることがあります。この時代は、政府の政策が良かったこともありますが、政府だけが勝手に黄金時代を作ったわけではなく、この時代の企業文化は違っていました。1953年のゼネラル・エレクトリック社の年次報告書では、彼らは税金をどれだけ納め、どれだけ給与を払ったのかを自慢していました。さらに「雇用の安定を最大化することが主な企業目標である」と明記してたのです。ジョンソン＆ジョンソンの創業者は「株主に対する責任よりも、従業員に対する責任の方が重い」と語っています。当時の企業は、社会における自らの役割について、現在の企業とはまるで異なる考え方を持っていたのです。
そうした価値観に戻る方法はないのでしょうか。可能性は低いのでしょうが、ここで、資本主義の黄金時代は、金メッキ時代（訳注：南北戦争終戦から世界恐慌までの30年弱の期間）における著しい資産の不平等の後に到来したことを思い出してください。今、私たちは第二の金メッキ時代に生きており、資産の不平等さは1913年の頃とさして変わりません。ですから、現在の場所から第二の黄金時代に移ることは決して不可能ではないのです。もちろん、最初の金メッキ時代と黄金時代の間には大恐慌と二つの世界大戦がありました。加速主義者なら、これらの出来事は黄金時代をもたらすために必要だったと言いそうですが、私たちのほとんどはそうしたステップはスキップしたいと思うでしょう。私たちの当面の課題は、テクノロジーを用いて、大恐慌を引き起こすことなく私たちを黄金時代に導くような方法を模索することです。
私たちは皆、資本主義というシステムの中で生きているわけですから、好むと好まざるとにかかわらず資本主義に参加していることになります。ですから、一個人としても何かできないのかと考えるのは自然なことです。仮にあなたがフリトレーで食品学者として働いていて、新しいポテトチップスの味を開発しているとします。私は、あなたが消費主義というエンジンの一部だから仕事を辞める倫理的な義務があるなどと言うつもりはありません。食品学者としての実績を活かして顧客に快適な体験を提供しようとするのは、生計を立てるための完璧に合理的な手段だと言えます。
しかし、A.I.を仕事にしている人たちの多くは、新しい味のポテトチップスを開発することよりも、A.I.の方が重要だと考えています。世界を変える技術だと言うわけです。もしそうであるのなら、彼らにはまず世界を悪化させることなく、A.I.が世界をより良くする手段を見つける義務があります。人工知能は私たちの社会崩壊の危機に追いやる以外に、世界の不平等を改善することができるのでようか？ もしもA.I.が、その支持者たちが主張するような強力なツールであるのなら、資本の冷酷さを補強する以外の使い道を見つけることができるはずです。
願いを叶えてくれる精霊の話から学ぶべき教訓とは、努力せずに何かを手に入れたいという欲望こそが真の問題だという点です。例えば『魔法使いの弟子』では、弟子が魔法をかけたホウキに水を運ばせるがホウキを止められなくなってしまいます。この物語の教訓は、魔法の制御は不可能だということではありません。物語の結末では、帰ってきた魔法使いによって弟子のやらかしによる混乱はすぐに解決されます。ここでの教訓とは「大変な仕事からは逃げられない」ということです。弟子は雑用はしたくないと思って近道を探したあげくにトラブルを起こしたのですから。
A.I.は魔法のように問題を解決してくれると考える傾向は、より良い世界を築くためには欠かせない苦労から逃げたいという願望を示しています。その苦労には、資産の不均衡の解決や資本主義の抑制なども含まれています。テクノロジーを手がける人々にとって、なによりも困難でもっとも避けたい作業は、テクノロジーが増えれば増えるほど良いという先入観や、これまで通りのビジネスを続ければすべてが丸く収まるという思い込みに疑問を持つことです。この世の不正に自分が加担していると認めるのは誰にとっても楽しいことではありませんが、世界を震撼させるようなテクノロジーを構築する人たちには、こうした批評的な自問自答が必要不可欠なのです。A.I.がより良い世界をもたらすか、より悪い世界をもたらすかは、その方向を決めるシステムの中で自分の役割を冷静に見つめられるのか、彼らの覚悟にかかっているのです。
