AI 時代における人類の防衛 | 北京インタラクティブプロジェクター株式会社

人工超知能の台頭に対応するには、文化的および哲学的な運動が必要です。

1833 年 7 月 13 日、ラルフワルドエマーソンは、パリの植物園にある自然史部門を訪問中に、あるひらめきを得ました。博物館の標本（蝶、琥珀や大理石の塊、彫刻が施された貝殻）を眺めながら、彼は自然の相互関係とその中での人類の位置に圧倒されたと感じた。

この号の詳細をチェックして、次に読む記事を見つけてください。

この経験が彼に『自然史の利用』を書くきっかけを与え、技術的に混沌とした時代において自然主義を知的生活の中心に据える哲学を明確に述べ、超越主義者として知られる作家や急進的な思想家の集団とともに彼を導いた。新しいスピリチュアルな信念体系へ。エマーソンは、自然界の経験的観察を通じて、誰もが「私たちの状態の緯度と経度を定義し、地図を作成する人」になれる、つまり機械化された時代に主体性、個性、そして驚異を見つけることができると信じていました。

当時のアメリカは発明に熱中しており、その結果、すべてがスピードアップしているように見えました。工場や製糖工場がタンポポのように現れ、蒸気船がアメリカの港を行き来し、機関車が陸地を駆け巡り、電信がこれまでにないほど人々を結びつけ、最初の写真が撮影され、人類自身の見方を永遠に変えました。国民のムードは高揚感、不安、恐怖が入り混じったものでした。

2018 年 6 月号より: ヘンリー・A・キッシンジャー、AI と啓蒙主義の終焉について

エマーソンがパリで経験した閃きは、変化を拒否するものではなく、世界がその軸から外れていくように見える中で、人間の可能性を再考する方法でした。 19 世紀の技術ルネッサンスに対するエマーソンの反応は、私たちの世紀の偉大な技術革命、つまり人工超知能の台頭について考えるときに再検討する価値があります。

最近の飛躍以前から、人工知能は何年もの間、私たちが泳ぐ情報の海を混乱させてきました。初期の混乱は、現代のウェブを定義するようになったランキングアルゴリズム、つまり、どの結果を表示するかを Google に指示し、Facebook、Instagram、TikTok などのソーシャルプラットフォーム上のフィードをすすりながら整理してパーソナライズする不透明なコードから生じました。何を吐き出すかを評価する方法として、あなたに関するデータを作成します。

今度は、これと同じインターネットインフラストラクチャを想像してみてください。ただし、プログラムが、あらゆる主題に関して権威を装って通信し、洗練されたオリジナルのテキスト、オーディオ、ビデオを生成する能力と、人々が信じられないような説得力のある方法で個人を模倣する能力を備えていることを想像してください。何が本当なのかを知ってください。これらの自己学習型 AI モデルは、あらゆるインタラクションでより優れた動作を行うように設計されています。しかし、彼らは時々幻覚を見たり、操作したり、捏造したりすることもあります。そして、彼らが何をするのか、なぜそうするのかを予測することはできません。 Google の検索エンジンが現代のアレクサンドリア図書館だとすれば、新しい AI は気まぐれな預言者となるでしょう。

2018年5月号より：フェイクビデオの時代が始まる

生成人工知能は信じられないほどのスピードで進歩しており、ほぼすべての分野や業界に適用されるでしょう。 Alphabet (Google を所有)、Amazon、Meta (Facebook を所有)、Microsoft などの大手テクノロジー企業は、地図、電子メール、ソーシャルプラットフォーム、写真ソフトウェアなどの既存の製品に AI を組み込む競争に巻き込まれています。

インターネット、スマートフォン、ソーシャルウェブという三重革命の中で私たちを捉えた技術文化的な規範や習慣自体、徹底的な修正が必要です。あまりにも多くの人が、これらのテクノロジーを単に洗い流すことを許してきました。私たちは、最近の過去の誤りを正すのが賢明ですが、同時に、現在出現しているはるかに急進的なテクノロジーが私たちの生活に何を意味するのか、そしてそれが私たちの文明をどのように作り直すことになるのかを予測し、積極的に形づくることも賢明です。

この新しいテクノロジーで利益を得ようとしている企業は、批判者を振り切るために必要な決まり文句をすでに暗記しています。彼らは「人間拡張」や「人間中心の人工知能」といった分かりやすい専門用語を使うでしょう。しかし、これらの用語は抽象的であると同時に浅薄です。これからやってくるものは、インターネット、パーソナルコンピュータ、原子爆弾など、記憶に残るあらゆるテクノロジー創造物を矮小化するものです。それは人類の歴史の中で最も重要なテクノロジーである可能性があります。

人々は未来を予測するのが苦手であることで知られており、革命がすでに始まっている場合でも、革命を認識するのが遅いことがよくあります。しかし、新しいテクノロジーが登場してから、標準や規範が強化されるまでの期間は短いことがよくあります。言い換えれば、西部開拓時代は長くは続かないのです。最終的に、鉄道は時間を標準化します。白熱電球はアークランプを打ち負かします。オープンウェブの夢は消え去ります。

AI の領域に変化をもたらすための窓はまだ開いています。しかし、この新しいテクノロジーのガードレールを確立するために最も長く働いてきた人々の多くは、その窓がほぼ閉ざされていることに絶望しています。

生成型 AI は、それ以前の検索エンジン、電話、機関車と同じように、魔法のように思えるほど非常に効率的なレベルで物事を行うことを可能にします。私たちは、あらゆるカテゴリーの労働力、場合によっては産業全体が驚くべきスピードで消滅するのを目にするかもしれません。私たちの中のユートピア主義者は、この革命を、人間の自己実現というより高い目的のために、多忙な仕事を機械に委託する機会とみなすでしょう。この新しい魔法は、知識のより深い探求、科学的発見へのより早いルート、余暇や愛する人たちと過ごす余分な時間など、私たちが注目するに値する事柄に費やす時間を実際に増やす可能性があります。また、より有能な AI が私たちの肩越しに監視することで、失業が拡大し、職業上の自信が失われる可能性もあります。

アニー・ローリー「AIが乗っ取る前に、全員にお金を与える計画を立てよう」

政府関係者は、他の善意の指導者たちと同様に、人工知能の倫理原則を模索しています。たとえば、ホワイトハウスの「AI 権利章典の青写真」を参照してください。 (ぎこちないタイトルにもかかわらず、その意図は人権を保護する原則を求めることですが、最終的には機械の公民権の問題が生じます。) これらの取り組みは必要ですが、現時点では十分ではありません。

新しいテクノロジーに対する政府の理解も、巨大テクノロジー企業による自主規制も、テクノロジーの変化のスピードや、社会と民主主義の健全性を犠牲にして利益と規模を追求するシリコンバレーの能力に十分に追いつくことができないことを、私たちは今頃知るべきである。人類の歴史の次の段階を定義づけるものは、個人から始まらなければなりません。

産業革命が米国で超越主義を、欧州でロマン主義を引き起こしたように、どちらも適合性に挑戦し、真実、自然、個人主義を優先する運動でしたが、今日、私たちは独自の文化的および哲学的革命を必要としています。この新しい動きは、機械よりも人間を優先し、人間と自然およびテクノロジーとの関係を再考すると同時に、このテクノロジーが最大限に実現できることを前進させる必要があります。人工知能は間違いなく、私たちが命を救う奇跡的な発見をするのに役立ちます。危険は、私たちの人間性を規律なくこのテクノロジーにアウトソーシングすることにあり、特にそれが私たちの統覚を覆い隠してしまう場合に起こります。インテリジェントな機械の時代には人間のルネッサンスが必要です。

世界を変える発明に直面して、今日の技術王の力がこれほど集中していると、間もなく認知的に私たち全員よりも優れた機械に一般の人々が影響を与える希望がないかのように見えるかもしれません。しかし、たとえ最終的には手の届かないものであっても、理想を定義することには大きな力があります。危機に瀕しているすべてのことを考慮すると、私たちは少なくとも努力しなければなりません。

2023年6月号より: 人工知能に核コードを与えるな

透明性は、人間による新しいアイデアの交換において中心的な原則であるべきであり、人工知能が存在する場合、または通信に使用された場合は常に、人々は開示する必要があります。この基本原則は、匿名性の低い Web だけでなく、より人間的な (そして人間だけの) スペースを作成する際の規律を促す可能性があります。ジャーナリストなら誰でも、匿名性は公共の利益のための最後の手段として、まれな場合にのみ使用されるべきであると言うことができます。私たちは、人々が自分の意見だけでなく実名も主張することを期待する文化的規範から恩恵を受けるでしょう。

今こそ、他の人々とより深いつながりを築くことに再び取り組む時期でもあります。ライブビデオチャットは時間と距離を短縮する可能性がありますが、特に創造的なコラボレーションや学習が最重要である環境では、このようなテクノロジーは対面コミュニケーションの代替としては不十分です。パンデミックはこれを痛いほど明らかにしました。特に AI が現実のものに対する私たちの理解をさらに侵食しているため、デジタル領域だけでは人間関係を維持することはできませんし、維持すべきではありません。「いいね！」ボタンをタップすることは友情ではありません。それはデータポイントです。そして、人工知能との会話は一方的なものであり、つながっているという幻想です。

近い将来、子供たちは AI の「友達」を 1 人だけではなく、人間の友達よりも多くの AI の友達を持つようになるかもしれません。これらのコンパニオンは、それを使用する人間を監視するために構築されるだけではありません。それらは商業と容赦なく結びついており、つまり、エンゲージメントと利益を促進するように設計されています。このようなインセンティブは、人間関係のあるべき姿を歪めます。

フョードル・ドストエフスキー、ロッド・サーリング、ホセ・サラマーゴといったフィクション作家たちは、人の肖像を盗むことで私たちの人間性を奪う可能性のあるドッペルゲンガーについて何世代にもわたって警告してきました。私たちの新しい世界は、不気味の谷へのワームホールです。

最初のアルゴリズム革命では、人々の個人データを使用して世界を並べ替えることが含まれていましたが、次のアルゴリズム革命では、私たちの個人データが共有の現実感を分裂させるだけでなく、合成レプリカを発明するために使用されることになります。利益を求める音楽スタジオの幹部は、知的財産権を持つ人間に執着することなく、AIが生成した楽曲をAIが生成した音声という概念に興奮するだろう。アーティスト、作家、ミュージシャンは、広範な詐欺行為を予測し、それらと戦う必要があります。私たち全員もそうすべきです。あるコンピューター科学者は最近、自分と年老いた両親だけが知っている秘密の暗号語を作る計画を立てていると私に語った。そうすれば、電話の向こうで助けを求める彼女の声を聞いたら、それが助けを求めるのかお金を求めるのか分かるようになるだろう。彼女の公開されている講演を訓練された AI によって生成された音声は、彼女とまったく同じように聞こえ、詐欺を行います。

今日の小学生は、画面を通して見たり聞いたりするものはすべて本物であると信じてはいけないことをすでに学び始めています。しかし、彼らには、理性、人間の自主性、敬意を持ったアイデアの交換など、啓蒙的価値観に基づいて構築された現代の技術的および情報環境が与えられるべきです。すべてを記録したり共有したりする必要はありません。はかないものを受け入れるには個人の自由があります。もっと人間的な交流は関係者間でのみ行われるべきです。プライバシーは私たちの人間性を保つための鍵です。

最後に、より実存的な考慮が私たちの注意を必要とします。それは、知識の追求が私たちをどの程度内向きにするか外向きにするかです。近い将来の人工知能は、私たちの経験的能力を大幅に強化しますが、同時に私たちの好奇心を鈍らせる可能性もあります。私たちは、自分が作成した合成世界 (すべてのデータセット、複製、フィードバックループ) に夢中になりすぎて、どれほどの真の驚きや独創性を持って未知のものを見つめることをやめてしまう危険にさらされています。

私たちは人間の創意工夫と創造的な直観を信頼し、私たち自身の美学と知性の知恵を鈍らせるツールへの過度の依存に抵抗すべきです。エマーソンはかつてアイザック・ニュートンが「靴のバックルを留めるのと同じ機知を使って月の重さを量った」と書いたことがある。ニュートンはまた、その機知を利用して反射望遠鏡を発明しました。これは、人類が宇宙の起源に目を細めることを可能にした強力な技術の始まりです。しかし、エマーソンのアイデアの精神は依然として重要です。つまり、世界を観察し、五感を使ってそれを取り入れることは、知識への道において不可欠な練習です。私たちはこの取り組みを支援する技術ツールを重ねることができますし、そうすべきですが、自分自身で見て、感じ、最終的に知ることを犠牲にすることは決してありません。

自信過剰な機械が人生の宇宙的な疑問のすべてに対する答えを持っているように見える未来は、危険な方向に導かれているだけでなく、私たちを人間たらしめているものを奪い去ります。怒りと即座の反応、そして一見全知全能の AI の時代において、私たちは生き方として熟考することにもっと重点を置くべきです。私たちは未完成の思考状態を受け入れるべきであり、先入観に挑戦し、意見の相違があり、時にはまだ分からない人を探し出すという絶え間ない作業を受け入れる必要があります。私たちは死すべき存在であり、これまで以上に、あるいはこれまで以上に知りたいという欲求に駆られています。

時間の経過には人間の知識が消去される可能性があります。言語全体が消滅します。探検家は星を眺めていると海を渡る感覚を失ってしまいます。テクノロジーは私たちの知的能力を絶えず再構築します。残っているのは、私たちが知識、真実、美を求めてこの地球に来ているという事実、そしてそれを行うための時間は限られているという事実です。

マサチューセッツ州コンコードに住む幼い頃、寝室の窓からエマーソンの家が見えました。最近、また訪問してきました。エマーソンの家はいつも私の想像力をかきたててくれます。彼は 1882 年に亡くなるまでの 47 年間そこに住んでいました。現在、この建物は彼の子孫と彼の遺産に捧げられた少数のスタッフによって維持されています。この家は築約 200 年で、きしみや汚れが古さを示しています。しかし、この家は、これほど歴史的に重要な建造物としては非常に珍しい特質も備えています。エマーソンの死後 141 年が経った今でも、エマーソンの家は依然として彼の家のように感じられます。彼の本は本棚にあります。彼の帽子の 1 つはドアのそばのフックに掛かっています。ウィリアムモリスのオリジナルの壁紙は、馬車の入り口に明るい緑色です。運命の糸を握るフランチェスコ・サルヴィアティの『三つの運命』のレンダリングが、彼の書斎のマントルピースを見守るように立っています。ここはエマーソンが『自然』を書いた部屋です。彼がそれを書くために座っていたテーブルは今も暖炉の隣にあります。

1883年10月号より: ラルフ・ウォルド・エマーソンの「マサチューセッツ州の人生と手紙の歴史的ノート」

エマーソンの書斎に立って、私は、目的地が何であれ、その場所に行くことほど優れたテクノロジーはないことについて考えました。どんな本も、どんな写真も、どんなテレビ放送も、どんなツイートも、どんなミームも、どんな拡張現実も、どんなホログラムも、どんなAIが生成した青写真も、熱狂的な夢も、私たち人間が経験するものを置き換えることはできません。これが、あなたが旅をし、海を渡り、夕日を眺め、コオロギの声を聞き、月の満ち欠けに気づく理由です。笑いながら隣の人の腕に触れるのはそのためです。だからこそ、隠されたコードを明らかにする宇宙に覆われた植物園に畏敬の念を抱くのです。

この記事は、「人類の防衛のために」という見出しで、2023 年 7 月または 8 月の印刷版に掲載されます。このページのリンクを使用して書籍を購入すると、手数料が発生します。アトランティックをサポートしていただきありがとうございます。