AI 論争を形成する「危険な」イデオロギーをめぐる戦い

パリ（AFP） – シリコンバレーで人気の哲学であるロングターミズムは、人工知能に関する議論を人類絶滅の考えを中心に組み立てるのに役立っている。

発行日: 2023/08/28 - 11:13

しかし、この哲学は危険であり、絶滅への執着がデータ盗難や偏ったアルゴリズムなどのAIに関連する実際の問題から目を逸らしていると、批判者の声はますます高まっている。

元長期主義者でこの運動の批判者となった作家エミール・トーレス氏はAFPに対し、この哲学は過去に大量殺人や大量虐殺を正当化するために使われた種類の原則に基づいていると語った。

しかし、トランスヒューマニズムや効果的な利他主義などの運動とそれに関連したイデオロギーは、オックスフォードからスタンフォードまでの大学、そしてテクノロジー業界全体に大きな影響力を持っています。

ピーター・ティールやマーク・アンドリーセンのようなベンチャーキャピタリストは、この運動に関連する延命会社やその他の関連プロジェクトに投資している。

イーロン・マスク氏とOpenAIのサム・アルトマン氏は、AIが人類を滅亡させる可能性があると警告する公開書簡に署名したが、彼らは自分たちの製品だけが私たちを救えると主張することで利益を得られる立場にある。

最終的に批評家らは、この非主流派の運動が人類の将来に関する公の議論にあまりにも大きな影響力を及ぼしていると主張している。

長期主義者は、私たちには最大多数の人類にとって最良の結果を生み出すよう努める義務があると信じています。

これは 19 世紀の多くのリベラル派と何ら変わりませんが、長期主義者はもっと長い時間軸を念頭に置いています。

彼らは遠い未来に目を向け、何兆もの人類が宇宙を漂い、新しい世界に植民地を形成しているのを目にします。

彼らは、私たちは今日生きている他の人々に対して負っているのと同じ義務を、これらの未来の人類の一人一人に対して負っていると主張します。

そして、それらの数が非常に多いため、今日の標本よりもはるかに重い重量があります。

この種の考え方はこのイデオロギーを「本当に危険」なものにする、と『人類絶滅：絶滅の科学と倫理の歴史』の著者であるトレス氏は述べた。

「ほぼ無限の価値によって特徴付けられるユートピア的な未来のビジョンを持ち、それを目的が手段を正当化する一種の功利主義的な道徳的思考と組み合わせると、それは危険になる」とトレス氏は語った。

人類を滅ぼす可能性を秘めた超知能機械が今まさに誕生しようとしているとしたら、長期主義者は結果がどうであれそれに反対するに違いない。

3月にツイッター（現在はXとして知られるプラットフォーム）のユーザーから、この事態を阻止するために何人死ねばよいかとの質問に対し、長期主義者の思想家エリーザー・ユドコウスキー氏は、「生存可能な再生産人口を形成する」のに十分な数の人々さえいればよいと答えた。

「それが真実である限り、いつか星に到達する可能性はまだある」と彼は書いたが、後にそのメッセージは削除された。

長期主義は、1990 年代と 2000 年代にスウェーデンの哲学者ニック・ボストロムが実存的リスクとトランスヒューマニズム、つまり人間はテクノロジーによって強化できるという考えをテーマにした研究から生まれました。

学者のティムニット・ゲブル氏は、トランスヒューマニズムは最初から優生学と結びついていたと指摘した。

トランスヒューマニズムという用語を作った英国の生物学者ジュリアン・ハクスリーは、1950年代と1960年代に英国優生学会の会長も務めた。

「長期主義は名前を変えた優生学だ」とゲブル氏は昨年X誌に書いた。

ボストロム氏は、本質的に知性の低い人々がより賢い仲間よりも早く子供を産むことである「異生的圧力」を実存的リスクとして挙げた後、優生学を支持しているという非難に長い間直面してきた。

オックスフォード大学で人類の未来研究所を運営する哲学者は、1990年代にインターネットフォーラムに人種差別的な投稿をしたことを認め、1月に謝罪した。

「私は優生学を支持しますか？いいえ、この用語が一般的に理解されているようには違います」と彼は謝罪の中で書き、それが「前世紀の最も恐ろしい残虐行為のいくつか」を正当化するために使用されていたと指摘した。

こうした問題にもかかわらず、ハリー・ポッターのファンフィクションを執筆し、ポリアモリーを推進したことで知られる高校中退者のユドコウスキーのような長期主義者は、依然としてもてはやされ続けている。