GALA 2022 客観主義・技術動向パネル

オリジナルビデオ： https://www.youtube.com/watch?v=4zswRE-iM6E

自動化、ロボット、人工知能などの技術革新が加速度的に進み、無限の豊かさという荒唐無稽なテクノオピニオンと、失業やプライバシー侵害という暗いテクノペシミスティックな恐怖の双方が生じています。 このような変革的なテクノロジーがもたらす機会と課題を客観的に評価するには、どうすればよいのでしょうか。 アトラス・ソサエティ上級研究員のスティーブン・ヒックス博士と上級研究員のロバート・トラシンスキーが、第6回年次ガラでCEOのジェニファー・グロスマンと45分間のパネルディスカッションを行いました。ぜひお聴きください。 HEREまたは、以下の記録をお読みください。

‍Line-up of Speakers (panelists): AF-Ana Freund; JAG-Jennifer Anju Grossman; SH-Stephen Hicks; RT-Robert Tracinski

AF: 次は、「目的論と技術トレンド」です。人工知能、ロボット工学、ブロックチェーン、バーチャルリアリティなど、今日の画期的なテクノロジーは、すべて指数関数的な変化を促すために収束しており、希望と恐怖の両方を掻き立てています。今日の奨学生たちは、どの反応が最も合理的なのか、今日どのように準備すればいいのか、そして明日の世界で成功するためにはどうすればいいのかを探求します。CEOのJAGがモデレーターを務め、ロックフォード大学哲学科教授で6冊の著書を持ち、ポストモダニズムのエキスパートとして知られるスティーブン・ヒックス氏。また、有名な「トラシンスキー・レター」のロバート・トラシンスキー氏、そして「So Who is John Galt, Anyway?ようこそ、ステージへ。 

The Triumph and Glory of Air Conditioning‍

JAG: さて、視聴者の皆さんから、「希望が持てるような理由が欲しい」「モチベーションを上げたい」というご意見をいただきました。 このパネルはそのために作られたものだと思います。今夜はピーター・ディアマンディスからも話を聞く予定です。The Future Is Better Than You Think」だけでなく、「The Future Is Faster Than You Think」も書いています。そしてもちろん、マイケル・セイラーも、『モバイルウェーブ』で多くの変化を予測し、金融システムに合理性を取り戻し、人類に自由と財産権を取り戻す可能性を秘めたテクノロジーを提唱し伝道しています。では、スティーブンさんは、テクノロジーに対する悲観と楽観の尺度から、私たちをどのように見ていますか？

SH：その判断基準について、もう一度温めておきたいと思うんです。私が大学時代に初めてランドを読んだとき、小説の中で特に私を惹きつけたのは、創造的な革新というテーマでした。ハワード・ロアークのキャラクターは、エンジニアリングの劇的な変化と、それを組み合わせた新しい形の建築に対する創造的なビジョンで、私を驚かせたものです。そして「 アトラス・シュラッグド」。リアデン・メタル、アンコニアが取り組んでいる新しい製錬所。ジョン・ガルトのモーター。新しいテクノロジーの可能性には驚かされました。さて、もちろん、どちらの小説にも、多くの暗い課題を抱えた周辺文化が存在します。中古品業者、さまざまな種類の取り巻き、ひどい政治家、などなど。私たちはそのようなタイプの人たちをすべて知っている。しかし、それにもかかわらず、若い頃の私に語りかけてきた包括的なテーマは、自分の内なるハワード・ロアークやダグニー・タガートを使い、自分の人生の中で最も創造的で革新的な人間になることで、自分自身の利益につなげるというものだった。 そして、もっと広く、社会的に。

SH：『泉源』が出版されてから来年で80年、『 アトラス』が出版されてから半世紀以上、そう、半世紀が経ちますね。ランドが書いた啓蒙主義、アメリカンドリーム、約束のようなものは、今も私たちの中にあります。そして、私の生涯、私たちの生涯を考えてみても、人々がその過程で戦わなければならなかったあらゆる闇や敵にもかかわらず、どれだけの技術的変化がもたらされたことでしょう。そこで、このパネルで私たちを動かしているのは、目前に迫っている技術革新のいくつかを予想することです。いくつか挙げてみましょう。しかし、どのような技術革新が変革につながるかを考えることもできます。例えば、250年から300年の間に、蒸気機関や産業革命が起こりましたね。

SH：電気があり、通信の革命があり、自動車や飛行機械による革命がある。そしてトランジスタ、パーソナルコンピューター、インターネット。まさに驚きの連続です。そして、私はまだ、空飛ぶ車がかなり、かなり早く登場することを望んでいます。しかし、ここに私たちの世代だけのリストがあります。デジタル通貨、ですね。人工知能と様々な形態、ですね。機械学習、個別知能、そしてより一般的な知能への取り組み、各人のDNAに合わせてカスタマイズされる医薬品。バイオテクノロジー、幹細胞から作られる代替部品、もちろんロボット工学との組み合わせ、あらゆる分野のロボット工学ですが、手術に関するロボット工学、ナノテクノロジー、テクノロジー、複数の用途。監視は、もちろんプラスにもマイナスにもなりますが、個人の安全保障を強化し、私たちの環境と潜在的な脅威や機会を認識するためのツールを提供するものです。

SH：バイオ燃料のエネルギー開発、核融合に関する開発、核分裂がより良い形でカムバックするかどうか、輸送技術。実は、私たちは今、その入り口に立っているのです。すでに自動運転車はかなりの頻度であちこちに走っています。これは変革になるのでしょうか？人間の強化、遺伝子、デジタル、私たち自身よりも私たちと密接に働くもの。そして、第二世代のソーシャルメディアですね。すでにソーシャルメディアは私たちの文化を変容させましたが、それは25年、30年後の話です。あと25年後にはどうなっているのでしょうか。また、さまざまな形のバーチャルリアリティと組み合わせることで、個人の娯楽空間や手術の方法などを変える力があります。さて、これがリストアップされたものです。

SH：私はただの哲学者で、これらのことについて読み、興奮したり、悲観的になったりと、いろいろな意味で、これらすべてについて、そうですね。しかし、いくつか疑問があります。この3つの疑問が、今回のパネルディスカッションの参考になればと思います。1つは、私はもう十分な年齢で、この歴史について十分な知識を持っていますが、新しい技術が登場するたびに、すぐに意見が二極化することです。これはすごい、かっこいい、これでどんなことができるのか想像してみよう、という人たちがいます。そして、少なくとも公の場では、そのマイナス面にはほとんど気づかないのです。しかし、その一方で、「これはひどい」と言う人もいます。これはひどい。これは人類にとって破滅を意味する。そして、その人たちは上向きな部分にはほとんど気づいていないのです。もちろん、コスト／ベネフィットやリスク分析などを行う必要がある、と自らを訓練してきた人たちも大勢います。  

SH：しかし、それはより洗練された立場です。しかし、問題は、すぐに楽観的になったり、すぐに悲観的になったりする背景に何があるのか、なぜ多くの人が、絵に描いた餅のようなテクノ・オプティミスト陣営と、どん底のテクノ・ペシミスト陣営に分かれるのか、ということです。これは、人間の条件として普遍的なものなのだろうか。新しい技術が登場したときに、必ずしもドゥームスターやアウトライトなどではなく、より健全で効率的な議論ができるように、私たちはそこから学ぶことができるのでしょうか。これが1つ目です。2つ目の質問は、水晶玉を眺めるということについてです。私たちの仕事は、特に新しい技術に関わる価値観の問題などについて、ある種の視点と、できれば知恵を提供することなのです。

SH：しかし、一般的に、人文科学や、もっと広く言えば社会科学や政策の分野で学んだ人たちは、あまりテクノロジーに明るくない。そして、彼らは非常に反応的なのです。新しい技術が登場しても、その技術について何らかの見解を示すことができるようになるまでに、10年、15年と時間がかかるのです。では、私たち目的論者は、今後10年ほどの間に、どの技術が変革的なものになりそうかを予測できるでしょうか。どの技術も漸進的な改善を遂げるとは思いますが、変革の可能性が高いものはあるのでしょうか。それを見極め、公共政策の議論や公共価値の議論が始まったときに、それについて何か言えるような立場になれるよう、自分たちのスピードを上げていくことができるのです。そして、この質問と密接に関連するのですが、これは目的論者のグループ、あるいは目的論者に適したグループであるため、その議論において目的論者独自の付加価値はどのようなものになるのでしょうか？ということで、ロブに考えを聞いてみたいと思います。まず、水晶玉を眺めるような質問をしたいのですか？

RT：私は水晶玉を眺めるような質問が好きです。なぜなら、この質問とこのパネルに参加した理由の一部は、2016年の選挙中に正気を保つために、私はReal Clear Futureというウェブサイトを立ち上げ、売り込みました。しばらくは、その仕事に取り組んでいました。テクノロジーについて書くと、未来に対してより楽観的になれるのがいいところです。政治について書くと、いつもすべてがうまくいかず、どうして人々は学ばないのだろうということになる。そして、テクノロジーについて書くとなると、「これはすごい新機能ではないか、この新機能はすごいぞ。 そして、もうひとつは、おそらくこれから登場するであろう、このパイクの中にあるものです。

RT: しかし、同時に、水晶玉を見ることの問題点も見えてきましたね。まだ誰もやっていないことだからです。2015年、2016年頃、彼らは「2018年までに自動運転車が登場する」といっていました。しかし、今は2022年です。あちこちで小さな実証実験が行われていますが、まだ定着していません。これは楽観的な見方です。人々はそれを誤解しています。悲観的な人は、その頃、「今から2年から10年の間に、自動運転トラックが登場するので、国内のトラック運転手は全員失業するだろう」という記事を書いた人がいました。しかし、それもまだ実現していませんし、実現しそうにもありません。

RT：つまり、まだ生まれていない技術の話なので、本質的に予測不可能なのですが、時には、あなたのレーダースクリーンにはないものが、引き継ぐために非常に重要になることがあります。また、「来年はこうなる」と思っていたものが、そうならないこともあります。昨晩、核融合エネルギーの研究をしている人と議論をしていたのですが、核融合については、15年先の話であり、これからもずっとそうだ、という古いセリフがありますね（笑）。しかし、核融合は非常に難しく、複雑で、さまざまな専門家が関わっているため、いつ実現するかを正確に予測するのは非常に難しいのです。ですから、哲学的な観点から水晶を眺めると、イノベーションと進歩は、多くの個人が協力して行う努力から生まれるものであり、トップダウンで計画されるものではないという事実に由来していると思います。

RT：さて、核融合についてですが、私が好きな例のひとつに、1992年にビル・クリントンが当選したとき、彼はアイラ・マガジナーという、産業政策の大きな提唱者を政権に迎え入れました。これは、「中央計画」とは呼ばないが、政府が介入して、誰が勝者で誰が敗者か、どのような技術を支援すべきかを決定しようというものです。その1年前、アイラ・マガジナーという男が、議会でロビイストとして働きながら、冷温核融合に大規模な資金援助が必要だと議会で証言しています。彼はユタ大学で働いていたのですが、覚えている人もいるかもしれませんが、「室温で動作する卓上装置があり、核融合ができる」と大騒ぎしていました。

RT：そして、それは再現性のない実験であることが判明し、失敗に終わり、実現しなかったのです。しかし、このことは、もしあなたが計画を立てたり、新しい偉大な新技術を予測しようとしているならば、「私たちは皆、冷温核融合が実現すると思っていたが、それは完全に失敗だった」という教訓を与えるものです。つまり、哲学的な側面は、個人が外に出て問題を解決し、現実に立ち向かい、この複雑さを引き受けるという行動から生まれるものなのです。だから、何がうまくいくのか、どこからやってくるのか、わからないのです。さて、私が言いたいのは、最初のポイントである「技術的悲観主義」です。

RT：そしてそれは、今日、本当に蔓延していると思います。 数週間前にSymposiumというサブニュースレターで、The Pessimist Archiveという素晴らしいウェブサイトとTwitterフィードを運営するLouis Anslowという人物にインタビューしました。彼は、「The Pessimist Archive」という素晴らしいウェブサイトとTwitterフィードを運営しています。彼は、テクノロジーが世界を破滅させるという、今日のあらゆるテクノパニックが新しいものではないことを発見し、それを遡り、とても面白いです。それは再来か何かです。100年、150年前に自転車やペーパーバック小説について言われましたが（笑）、すべてです。彼は、ニューヨークタイムズがWordleを買収したという素晴らしい話をしました。 ニューヨーク・タイムズ紙はクロスワードパズルで有名です。 彼は、100年前のニューヨーク・タイムズ 紙に、クロスワードパズルがいかに人々の心を破壊しているかという記事を掲載していることを発見したんです（笑）。 

RT：だから、テクノロジーが世界を破滅させるという技術的なパニックは、文字通り、以前のものから塗り替えられたものではないんです。ルイス・アンスローは、新しいテクノロジーが、世界を破壊する恐ろしいものから、当たり前の日常的なものになる、ということを話しています。そして、第三の段階として、「新しいテクノロジーに脅かされる、大切な歴史的伝統になる」ということを付け加えています。(ということです（笑）。アダムとイブがリンゴを食べ、知識の木の実を食べたように、理性に対する偏見からきているのだと思うのです。

RT: また、テクノロジーが何をするかということを考えると、それは破壊的であり、物事を変えるものです。しかし、それはゆっくりとしたスケールで起こり、70年、あるいはもっと現実的には50年の生涯を通じて、（笑）長寿の変化を考えると、人生においてあまり変化はないでしょう。人々の生き方はあまり変わりません。それが、ここ200年ほどの間に、幾何学的な飛躍を遂げ、子供の頃から大人になるまで、物事が劇的に変化する時代になったのです。そして、自分の頭を使って世界を理解し、変化に適応し、物事がどのように変化しているのかを理解し、それにどのように対応すればいいのか、という自信を持つことに同調していない人は、そのような反応を示すと思います。

RT。 テクノロジーに対する適切な反応とは何かということですが、私たちが植え付けなければならないのは、自分自身の人生を所有し、コントロールするという感覚だと思います。それが、私たちに必要なメンタリティーなのです。最後に、スティーブンが言ったアイン・ランドの小説について、私が気に入った点を挙げます。それは、彼女が『泉の頭』を書いたとき、長い間、そのタイトルは『Second Hand Lives』だったということです。 

エルズワース・トゥーヒーやピーター・キーティングのような人たちのセカンドハンドの生き方について言及しているのですが、彼女は小説のタイトルを『泉源』に変えたんです。なぜ、そうしたのでしょうか？この小説は、エルズワース・トゥーヒーやピーター・キーティングの話ではなかったからです。悪者でもなければ、中古品業者でもない。起こっているすべてのこと、ひどい悪事についてではなかったのです。ハワード・ロアークについてです。ハワード・ロアークという男が外に出て、新しく革新的なことをし、誰も考えたことのないようなことを考えるという話です。そして、それがこの小説の中心だったのです。アトラス・シュラッグドダグニー・タガートという女性が、期限内に鉄道を敷設しなければならないのに、常に問題を解決し、障害を克服していく姿は、私が「達成の文化」と呼んでいるものです。アイン・ランドと彼女の小説、そして彼女の哲学が世界にもたらす本質とは、達成の文化という考え方であり、あなたの志向は常に外の世界に向けられているのだと思います。「私にはそれを理解し、新しいことを行い、ものを創造する能力がある」、それが人生の中心であり、焦点であるべきなのです。だから、私はそこに立ち止まりたかったんです。

SH：水晶玉を眺めるという質問に対する私の答え：人工知能とロボット工学から始めようと思います。この2つの境界線は、まさにこれらすべての問題がテーブル上にある非常に明確な例だと思いますが、ある種の具体性を与えることができます。すでに200年前から、事実上、ロボット工学が私たちの文化を変え、携帯型計算機や組み込みチップからますますインテリジェントな機械が登場してきました。そして今、私たちはこの分野で新たな革命の頂点に立ちつつあります。チェスプレイヤーを打ち負かしたり、従来は10万ものアルゴリズムを個別に計算する必要があった数学の問題を、機械学習プロセスにかけると、機械が計算する必要のあるアルゴリズムを4つに減らすなど、その進歩には目を見張るものがあります。

SH：だから、そこから得られる利益や知識、生産性はすべてそうなのですが、それでもAIやロボットに関しては、同じような問題が出てくるんです。そして、その問題のひとつが、今回は異なる 反応であるということです。そのため、私の疑問の1つは、今回は本当に違うものになるのか、それとも、2000年前から見てきたような漸進的なものになるのか、ということです。人間とは何か、仕事とは何か、政治とは何かなど、質的な問題だけでなく、変化のスピードも速くなるのでしょうか？ということを暗示していましたね。

SH：私たちは新しい技術に慣れるのに70年、40年、15年、そして今は4カ月、新しいものに対応しなければなりません。そして、そのための認知的な準備はできていないのかもしれません。今回は、公共政策の観点から、経済的な影響が重要であり、人々はすぐに自分の仕事のことを心配します。従来のブルーカラーの仕事だけでなく、マクドナルドでフライドポテトを揚げたり、ポテトを切ったりする人たちもそうですよね？ロボットにやらせるだけでなく、伝統的なホワイトカラーの仕事、秘書の仕事、翻訳者、医療記録係、保険請求書の提出や手続きをする人など、機械が解析する仕事もありますし、何十万人もの新人弁護士が、初期の司法研修で判例をすべて読み、判例をすべて見つけるなどしています。

The Message of Alexander Graham Bell‍

SH: そうすると、それらの仕事はすべてなくなってしまうんですね。そうなるとどうなるのでしょうか？これもまた、別のカテゴリーです。さらに、政治的な意味合いとして、これらの新しいAIロボティクス技術はすべて、悪政によって国内で利用され、私たち一人ひとりにとって重要な権利を脅かす可能性があります。しかし、さらに外交的な文脈では、これらの技術はすべて外国の悪者によって使われ、私たちの生活様式を損ない、さまざまな形で脅威となる可能性がある、といった具合にです。それから、これはまだ少しSF的ですが、すべての離散的なインテリジェンスの段階を乗り越えれば、自分の問題を解決してくれる人にたどり着こうとするときに、自分の電話やアレクサと話したり、フォーンツリーを通り抜け、できればスマートなファッション（笑）で仕事ができるようになることですね。この新しいAIの世界では、人間の地位が変わるのでしょうか。 さて、私はそれぞれについて考えていますが、AIとロボティクスについてのあなたの考えを聞かせてください。

というのも、ある人が汎用技術というアイデアを思いつき、経済成長と技術革新の歴史を調べたんです。そして、生産性の大きな向上や飛躍は、汎用的な技術から生まれると言いました。つまり、技術の進歩は、ある分野だけに影響を与えるのではなく、経済全体、社会全体に及ぶということです。そして、さまざまなものを変化させるのです。つまり、広く一般に影響を与えるのです。そして、私が見ていた資料では、そのような本物のものがいかに少ないか、最後の1つを特定した人が電化であったということをご理解いただけると思います。1880年代に始まったこのプロセスが、1920年代には完成し、電力が広く利用できるようになり、家電製品から工場の運営方法まで、あらゆるものが変わり、ラジオを接続できるものができたことでラジオとその通信が変わった、などなど。

RT：新しい汎用技術とは何かということを考えるとき、私が思うに、AIは自動化を飛躍的に進めるので、汎用技術になりうるという説があります。産業革命の頃から、蒸気機関を動力源とする織機を動かして布を織ることができる機械を設計するという形で、自動化が始まりましたよね。これは産業革命の大きなイノベーションの1つです。このように、ある作業をするために特別に機械を設計し、それを蒸気や他の種類の動力で動かすのです。そして、デジタルコードをプログラムし、コードを更新すれば、どんな形でも作ることができるCNCマシンが完成します。 形状をプログラムするだけで、ビットがその形状を切り出してくれますし、カスタマイズも可能で、より柔軟性があります。

RT: つまり、ある特定の部品を作るためにカスタム開発された1台の機械ではなく、さまざまなことができる1台の機械なのです。その次の段階として、AIが約束するのは、プログラム可能な、より高度な自動化だと思います。新しいタスクをこなすために自らをプログラムし、その方法を理解し、独自のコードを作成し、タスクを実行する方法を学習するマシンを持つことができます。これは本当に面白いことだと思います。これは本当に魅力的です。このような汎用的な技術は、さまざまな分野に大きな変化をもたらす可能性を秘めています。自動運転車のようなものは、予定より遅れていますが、まだ進行中です。

RT：そして、車に乗ってドライブする代わりに、ある場所から別の場所に行くのに何時間もかかってしまうという考え方もありますね。車に乗っている間、後部座席で本を読んだり、昼寝をしたり、やりたいことができるんです。さて、怖い話ですが、雇用はどうなるのでしょうか？というのも、人々はまだラッダイト的な考えを持っていて、「機械が布を織るようになったら、どうするんだ？私たちは皆、職を失うことになる。ネッド・ラッドは、伝説によると、力織機を壊したそうです。力織機は私たち織物職人の仕事を奪ってしまうからです。もちろん、この200年間で起こったことは、人々の仕事を奪うものではありませんでした。

一度に1枚の布を織るのではなく、何百枚もの布や何百本ものボルトを一度に織る人がいて、その人が機械を管理しているのです。つまり、人々の仕事を奪うのではありません。その分、仕事の生産性が上がるのです。AIは違うのでしょうか？それは、私が思うに、ざっくりとしたことですが、これから起こることは、そうですね、間違いなく、今のブルーカラー、ホワイトカラーの仕事を大量に食い潰すことになるでしょうね、ということです。例えば、リーガル・ズームはその好例と言えるでしょう。このウェブサイトでは、従来は弁護士に依頼しなければならなかったような書類作成や記入など、さまざまな法的なことを行うことができます。

RT：このサイトにアクセスするだけで、自分で何が正しいかを選択できるようになっています。高度な技術を使っているわけでもないのに、そういうことが起こりそうなんです。しかし、私が考えるに、AIは人間の意志を増強し、産業革命以来と同じパターンになると思います。AIは人間の活動を補強します。通常であれば、多くの雑務や暗記を必要とする作業をAIが代わりに行ってくれますが、AIはそれを自動化することができます。全体的な戦略や計画はどうなっているのでしょうか？しかし、その意味するところは、人間にはより多くのことが要求されるということだと思います。なぜなら、書類整理は機械がやってくれるからです。あなたは、より高度な概念的思考をする人でなければなりません。ですから、人々の仕事を奪うのではなく、より生産性の高い仕事を提供するものになると思います。しかし、同時に、概念的思考や創造性といった人間特有の能力を実際に発揮しなければならないという点で、より要求の高い仕事にもなるのです。

JAG：それでは、あと15分ほどお待ちください。もしそうでなければ、この後昼食に入りますので、この中の一人をボタン留めにして、質問を受ける機会を設けてください。

SH：人工知能やロボティクスについて、私なりのコメントをいくつかさせていただきます。政策立案者や技術的悲観論者の妨害に対処するだけでなく、技術革新の飛躍に伴う真の問題にも直面すると思います。そのような問題には、客観主義のような優れた哲学が付加価値を与える役割があると思います。例えば、新しい種類の雇用が生まれるという問題です。1カ月前、マッキンゼーの調査を見ていました。1880年までしか遡れないと思いますが、過去に登場したすべてのテクノロジーを追跡調査したところ、新しいテクノロジーによって創造的に破壊された仕事1つに対して、2.6つの新しい仕事が生み出されたということです。

SH：そして、それが普遍的な定数であるとまでは言いませんでしたが、過去1世紀半の間の平均値でした。ですから、かなり印象的です。しかし、創造的に破壊される仕事というのは、ロボットができるような仕事です。機械ができる中国の仕事。機械ができる中国の仕事は、退屈で繰り返しの多い仕事で、最初に取って代わられます。そして、一方では、人々は、私はこの仕事を持っていて、その仕事を失いたくないと保護しています。しかし、人間には文化的な慣性があり、自分の仕事が非人間的なものであることを認識しながら、非人間的な仕事にとどまることがあります。

SH：それは価値観の問題です。個人的な人生に対する野心の欠如はどこにあるのでしょうか。それは、不確実な世界に出て、新しい課題に直面し、問題を解決する方法を見つけることができると考えるような認知習慣が身についていないことが原因なのでしょうか。その自信がないのは、適切な教育を受けていないからなのです。もし、これらの技術が変革的なもので、ロブがここで定義しているような一般的な技術になると考えた場合、社会的認知の問題が発生します。なぜなら、楽々とではなく、スムーズに移行できる人はかなりの少数派だからです。しかし、そのような移行ができない人が大量に存在することになるのです。

SH：そして、彼らは文化的な力を持つようになるでしょう。そのため、私たちはそれについて何か言える立場にいる必要があります。というのも、教育制度は、10年後、12年後を見据えた大人の環境に入るための準備をするものでなければならないからです。しかし、現在の教育制度は、その点で非常に大きな失敗をしています。ですから、これは教育の問題に戻ってしまうのですが、それならば、教育においてより良い哲学的な議論をする必要があります。もうひとつは、価値観の領域で新しいテクノロジーがもたらす真の問題があるのではないかということです。これは、より認知的な認識論のような問題だと思います。しかし、自動運転車を例に考えてみましょう。私の理解では、この技術はかなり進んでいると思います。自動運転トラックは、クアーズが製造されているコロラドスプリングスからデンバーまで、かなり定期的に重要なビールを配達していますね。そして、それはすべてうまくいっています。グーグルカーは、あらゆる場所をくまなく回っていますね。あらゆるものをマッピングしています。だから、重要なんです。

RT: John Deereが自動運転トラクターを発表しました。

SH：ええ、その通りです。しかし、これには哲学的な問題があります。というのも、自動運転車が道路を走れば、必ず事故が起こるからです。しかし、事故が起きたとき、誰が保険に責任を持つのでしょうか？自動運転車が道路を走るためには、さまざまなシナリオを想定した判断がアルゴリズムに組み込まれていなければなりません。だから、彼らは道路を走っているだけなんです。私は今、1つだけ作ってみようと思っています。こっちで花火が上がって、こっちの小さな子供が驚いて道路に飛び出し、あっちの小さなおばあさんが3人、道路に飛び出してきたとするんですが、そのとき車は小さなおばあさんを轢くんでしょうか？

SH：まあ、3人いるんですけど、年寄りでしょう？(笑)、車がこっちに曲がって小さい子にぶつかったりするんですか？一人しかいないけど、若いんだよ。で、すぐにネットで話題になっているトロッコ問題に突入するわけですよね？もちろん、これは抽象的な演習の楽しいセットですが、現実の世界に応用できます。なぜなら、価値の問題はすべて哲学者によって整理される必要があり、ソフトウェアエンジニアはそれをアルゴリズムにプログラムして、保険会社や規制当局が満足するようにする必要があるからです。そして、自動運転車が道路を走るようになるのです。倫理学に携わる哲学者たちは、あまり良い仕事をしていませんよね？もし私たちが優れた倫理体系を持ち、その分野で牽引することができれば、私たちに価値ある提案ができるかもしれません。

JAG: そうです。第二に、もしCDCが車をプログラムしているならば、誰に向かってハンドルを切るのかが分かります、だから...

RT：しかし、私は、精神認識論的な問題についてのことを支持したいのですが、私たちは持っているもので質問に行くべきだと思うのです。 

JAG：そうですね、そうしましょう。わかったよ。イエーイ。私たちは8分を持っています。では、早撃ちラウンド。誰か質問ある？

質問です。 まずもう一度。今、あなたが触れた倫理的な部分ですが、これが私を魅了し、懸念させるものです。人工知能の話をすると、誰もが知能の部分について話し、人工の部分については話しません。というのも、客観主義的な倫理観を持つプログラマーがいるのでしょうか？そうではないでしょう。そして、もしこれらのものが、人間が学習するように、倫理体系や私たちの行動を見て学習することができるのであれば、破壊の仕方を学習するものが出てこないと言えるでしょうか。そして、なぜ、他者に害を与えず、自分にとって有利な、素晴らしい、楽しい、倫理体系を開発すると一瞬でも思ったでしょうか。なぜなら、私が言いたいように、ホッブズは正しかったからです。

SH：では、差し支えなければそちらを先にお願いします。人工知能やロボティクスに対する価値観の要素は、基礎的なものだと考えています。つまり、認知的な問題や技術的な問題がありますが、その多くは恐怖心の背後にあります。そして、その不安の多くは、価値に対する不安です。つまり、私たちが今よりずっと賢いコンピューティングマシンを手に入れたとします。それは良いことなのか悪いことなのか？それは、あなたの価値観の枠組み次第です。また、人間の例に戻ると、例えば、アルバート・アインシュタインが私の2.3倍の知性を持っているとします。それは良いことなのか悪いことなのか。それは、アインシュタインが善人か悪人かによって決まりますよね？

SH：つまり、彼の知性であり、それは善にも悪にも使える力なんです。それ自体が力なのではありません。同じことが、私たちの何倍もの知能を持つかもしれない機械の場合にも、機械が正しい価値観の枠組みを持っている限り、起こるでしょう。その価値観の枠組みとは？また、ロボット工学の側面から見ると、私はいつも『ターミネーター』に行き着くんですね。で、アーノルド・シュワルツェネッガーですよね？そういうことです。そして、ロボットはより速く、よりパワフルになるのです。私たちよりも疲れない。それは良いことなのか悪いことなのか？しかし、それはまた、まったく同じ質問を平行して行っているのです。アーノルド・シュワルツェネッガーのような人は、全盛期には私の4倍もの強さを持っていました（笑）。

SH：それは良いことなのか悪いことなのか？まあ、アーノルド・シュワルツェネッガーが良い人なら良いことだし、ある意味私にとって価値のある脅威なら悪いことです。つまり、ロボット技術そのものが良いとか悪いとかではないのです。ロボットにコード化される価値観の枠組み次第なのです。もちろん、それらを組み合わせることも可能です。つまり、私たちよりも賢いだけでなく、物理的にも私たちよりも能力の高い機械が登場するわけです。そして、まったく同じ問題をベン図で表現することになるのです。ですから、倫理や価値観の部分を理解し、それを技術開発の一部とすることが、あなたの言う通り、まさにそこにアクションがあるのだと思うのです。

JAG：1つ、もう1つ質問です。

RT: ちょっと待ってください。というのも、あまりに多くのことがハリウッドに毒されていると思うからです、そうでしょう？芸術、特に芸術や映画は、新しい技術がどのようなものになるかのモデルを作る手助けをしてくれるものです。では、AIはどのようなモデルになっているのでしょうか？ハル9000：「申し訳ありませんが、それはできません」。そうですね。ある年代の人ならわかると思います。 ターミネーターもそうだし、最近のマーベル映画を見るような子供にはアルトロンもそうだろう。そうでしょう？つまり、私たちが持っているモデルは、AIが支配し、悪意あるものになるというものです。哲学的には、AIには自分の意志がないということが大きなポイントだと思います。それが私たちが開発している目的なのです。それは、私たちのために何かをするためですよね？

RT：自分の意志がない、モチベーションがない。ロボットには何が必要なんだろう？私のロボットにはニーズがなく、モチベーションもない。だから、ロボットが私たちよりも賢くなることはないのだと思います。しかし、ロボットが私たちを支配し、コントロールし、私たちと競争するという考え方も、この理由からです。私は、ロボットは私たちのための道具になると思っています。つまり、既存のテクノロジーと同じように、テクノロジーを開発・使用している人々やその動機を恐れるべきだということです。恐れるべきは、それを望むことです。しかし、機械そのものが問題なのではありません。

JAG：それでは、アマー、後ろでうなずいているのが見えますが、アマーから意見をお願いします。  

質問です。 私も同意見です。私のバックグラウンドはロボット工学とAIなので、完全に同意します。それは同感だと頷きました。AIやロボット工学の話題の多くは、今、ハリウッドが握っています。そして、これらの技術について多くの恐怖が生み出されています。これらのテクノロジーは、私たちに豊かな未来をもたらすものであり、私たちはそれを受け入れ、形にしていかなければならないのです。というわけで、以上です。 ただ、付け加えておきたいことがあります。

質問です。 超短期間でも大丈夫です。

Jennifer Grossman: Here is the Defiant Speech Mark Zuckerberg Should Give to Congress‍

JAG：よし、あと3分だ。

質問です。 私の名前はファルサムです。私はシリコンバレーでテクノロジーインキュベーターを経営しており、2日前にシリコンバレーに行き、このイベントに参加しました。2日前にシリコンバレーに行き、このイベントに参加したのですが、私は、今起きているような、社会が広くダブることをとても心配しています。そして、残念ながら、多くのテクノロジーが不適切に乗っ取られていると考えています。価値観のスキーマについてのご指摘ですが、私たちが行っている仕事は、客観主義者のグループとして唯一、応用客観認識論を実際に使用していることは間違いありませんし、人工知能やセルフナビゲーションなど、私たちが行う仕事の設計の一部もあります。しかし、これは非常に厄介なことなのです。ランドが提唱した「反概念」という言葉を使えば、文化的にカジュアルなAIという概念ほど大きな反概念はないと思います。

質問です。 つまり、AIによるウォークイズムのようなものが生まれ、奇妙に聞こえますが、これはステータスのある文化的慣習と融合していくのでしょう。私たちはその序章を見ただけだと思います。ここにいるほとんどの人は、『ソーシャル・ジレンマ』を見たことがあるでしょう。私は、『社会のジレンマ』に対して原則的な考えを持っている人たちと仕事をしていますが、彼らは不正確で、立法国家主義に訴えるという点では、そのような考えを持っています。人工と知能の混同について、今、本当に懸念があります。そして、私たちが大切にし、哲学の中心にしている範囲では、自由意志という概念と、私たちがどのように概念形成し、どのように意志を活用するかということです。平均的な人々の知能が徐々に削られ、自由意志を行使することが難しくなっているのが、私たちが観察していることです。その証拠に、今現在、多くの心理学的根拠があります。そして、このような文化装置に対して主観主義や権利主義が入り込み、何が損なわれているのかを特定し、確認するには、世代間の分析が必要です。人工知能や機械学習は一つのものですが、人工知能システムは決して価値観を持つことはできません。人工知能がどのように機能するかを決めるのは、100％設計者の責任なのです。

RT：そうですね。「ロボットが台頭して我々を滅ぼす」というテクノペシミズムの裏返しでもありますね。ロボットが私たちの仕事をすべて代行してくれるから、ユニバーサル・ベーシック・インカムで暮らせるようになる」というテクノ・ユートピア主義があるのです。政府が小切手をくれるから、みんな豊かな暮らしができる。そして、ある人は「全自動贅沢共産主義」と呼びましたが、これは機械がすべての仕事をこなすようになるため、私たちが手にすることになるのです。ところで、その最初の提唱者はカール・マルクスだと思います。彼はこう考えました。定職につく必要はない。午前中は農家で、午後は評論家、音楽評論家になればいい。

RT: そして、工場は基本的にあなたのためにすべてを生産します。そのようなユートピア的な夢は常に存在していたのです。しかし、その答えは、スティーブンの言う通り、自動化の時代に向けて、教育へのアプローチを変えなければならないということです。18歳までスキルを詰め込んで、大人になる前に学んだことを使って一生働き続けるのではなく、常に新しいことを学び、新しい仕事のやり方や技術を吸収し、コンセプトレベルの思考や機械ができないことをすることに全力を尽くさなければならないのです。

AF: この話は、30分の昼休みにでも続けましょう。 

JAG：それから、クラブハウスに登録していない方のために言っておきますが、私たちはこのような会話を続けていますよ。クラブハウスに登録していない方は、アトラス・ソサエティのスタッフに相談して、どうすれば招待してもらえるか相談してください。デヴィッドとスティーブンは昨夜、哲学について90分にわたって実にパワフルな講義を行いました。そこで、私たちはこの会話を続けることができるのです。

‍