技術を担う人は「善悪の曖昧さ」にどう向き合い続けるか

宇宙ゴミ問題から考えるイノベーションの副作用

※本稿は、SSIR Japan 編『スタンフォード・ソーシャルイノベーション・レビュー 日本版 03 科学技術とインクルージョン』のシリーズ「科学テクノロジーと社会をめぐる『問い』」より転載したものです。

岡田 光信 Mitsunobu Okada

技術者はイノベーションの「副作用」にまで手が回らない

私は宇宙ゴミ（スペースデブリ）の除去サービス事業に取り組んでいる。あらゆる宇宙技術はもともとデュアルユースであるため、私は普段から技術には平和的な利用と軍事的な利用という2つの側面があることを意識してる。たとえば、ロケットはミサイル技術の転用であるし、人工衛星による地球観測もスパイ技術と紙一重のようなものと捉えることもできる。

私たちの会社が開発した宇宙ゴミを除去する技術も、軍事目的に使用することは論理的には可能だろう。しかし、民間企業が宇宙ミッションを行うにはさまざまな国の許可を得る必要があるので透明性が必要であるし、そもそもアストロスケールのミッションは宇宙の持続的な利用、宇宙環境の改善である。

遺伝子組み換えや人工知能など、新たな技術が生まれると、必ずベネフィシャル（有益）な用途の裏にハームフル（有害）な用途が生まれる。技術者の多くは、自分が生み出す技術は世の中で役に立つものになると信じている。そして、自分が携わっている技術にどんな潜在的な課題があるのか、恐らく認識はしている。しかし、そうした副次的な課題の解決には、膨大な時間とお金を必要とするため、未解決のまま実用化が進んでしまうことは珍しい話ではない。その結果、副作用が生じたり悪用されたりする可能性がどうしても生まれてしまう。こうした科学技術の二面性にどう対たい峙じしていくのか。私たちはこのことをもっと認識し、考えるべきではないだろうか？

なぜ、ハエにできる実験が人間にはできないのか

私はもともと東京大学農学部で集団遺伝学の研究をしていた。生物がいつ分化したのか、フィールドワークに加えてDNA配列の差異分析を行うものだ。折しもDNAの配列を研究して解読できる時代が到来。分化のプロセスをDNAの配列から逆算して推測できるようになった。

当時、研究論文を書くために、私はハエで実験をしていた。世代交代が速い生物のほうが実験データを集めやすい。大量にハエをすりつぶしてDNAを抽出する作業をしていたが、それに対して倫理を問われることはない。なぜならば、ハエだからだ。遺伝子を抽出し、配列が読めるということは、組み換えも可能ということなのだが、昆虫ゆえに何とも思われないのだ。

これがネズミや犬などのほ乳類ならば、動物実験だと受け取られる。さらに人間の場合は、どうだろうか。DNAを選別して遺伝子を組み換えることに対して、倫理的な疑問がたくさん出てくる。なぜ、ハエには実験できるのに、人間にはダメなのか？

これは単なるグラデーションにすぎない。人間が人間に近いと感じるかどうかで判断しているだけで、どんなロジックがあろうと、その裏には「快」「不快」しかない。犬を飼ったことがあるから、犬で実験するのはダメだと。人間との距離感は、どこで人が「快」と思うか、「不快」と思うかの差分で決まっていく。

大学卒業後、私は大蔵省主計局やマッキンゼーを経て、ITビジネスの世界に飛び込んだ。1999年に私がアメリカで暮らしていた頃は、Napstar（P2P 方式による音声ファイル共有サービス）が大流行。「ナップスター・モーメント」といわれる現象が起きていた。インターネット黎明期には、テックギーク（テクノロジーに卓越した知識を持つ人たち）だけがネットを使いこなしていたが、1998年にNapstarが登場。一般の人たちもネットの世界でつながることができるようになった。

「デジタルデバイド」の問題が出てきたのもこの頃からだ。インターネットの普及にともない、この新たな情報通信技術を利用できる人と、できない人との格差が生まれた。インターネットという新しい世界（当時はまだ無法地帯）のなかで、情報収集やコンテンツの発信ができる人たちは、水を得た魚のようにどんどん動いていく。一方で、インターネットにアクセスできない人たちは、自分の情報がネット上に出ていることすらわからない。個人情報がさらされて消せないなど、これまで想像しなかった新たな問題も起きた。現在は法律が変わって削除することも可能になったが、当初は削除するための裁判すらなかったのだ。2007年以降にスマートフォンが使われるようになり、デジタルデバイドはさらに加速している。

技術の大衆化がもたらすジレンマ

このように技術がもたらす二面性の問題はどこにでも存在する。エネルギー問題もベネフィットとリスクの間でいつも揺れ動いている。石炭はCO2を排出するから環境に悪いと言われたが、現在の見方は異なる。世界中にまんべんなく存在する石炭こそ、サプライチェーンリスクが少ないのだと。かつては絶賛された原子力発電も、一度事故が起きると稼働中止となり、安全性のリスクが露呈した。その時々の状況や価値観によって選択肢は変わるのだ。

自動車の運転もしかりだ。自由に移動できる利便性を享受する一方で、毎年日本国内で3000人が交通事故で亡くなっている。問い始めたら、かなり重い問題だろう。どんなに役立つ技術でも、必ず別の側面があることを私たちは心にとめておかなければならない。

こうした技術の二面性にどう対処すべきだろうか。組織の場合は収益を生み出し、顧客の信用を得なければならない。それゆえに、技術の開発や使用についても透明性の確保が求められる。事業の透明性を高めることで有害な使い方は淘とう汰たされ、リスクを防ぐことが可能になる。副作用についてもステークホルダーを含めて広く議論をすることで、ガバナンスが醸成されていく。

一方で、個人の場合は個々の意図に委ねられているため、技術を何のためにどう使うのか、組織のような透明性がない。いまの時代は24時間、インターネットで「情報」「資金」「技術」「人材」が入手可能だ。電気や機械などの専門知識があれば、個人レベルでも情報や技術を分析して高度な技術開発やアセンブリができてしまう。さすがに人工衛星レベルになると、総合格闘技のような複雑な技術分野で、かつレギュレーションも絡んでくるため、大衆化（コモディタイズ）できない領域だが、もはやどんな技術も特別なものではない。遺伝子操作や武器の製造ですら個人でできる時代だ。技術のコモディタイズにともなうジレンマに、どう向き合うか。これは本当に難しい問題だと思う。

法規制ですべて解決できるのか

最近、ドローンに製造番号の登録が義務化された。2022年6月20日以降、100g以上のドローンは個体番号を国土交通省に申請しなければならず、登録料が必要となった。自動車の車体番号のようなもので、登録して初めて飛ばせることになる。しかし、もし私がドローンを開発する側ならば困るだろう。試作したドローンを飛ばしながら改良したくても、モーターやアルゴリズムを変えるたび新しい番号に変更していたら開発が遅れるからだ。ところが国交省はまったく違う角度から見ている。なぜ、自動車や自転車は番号が登録されているのにドローンにはないのかと。

この件に関して、パブリックコメントの募集があったことを多くの人は知らなかったという。ホビー用のドローンまで突然義務化されたことに対する反発の声もあり、ネット上で議論になっている。この事例のように、法的拘束力がある規制が実施されるというシグナルは、大きな議論を巻き起こす。なぜならば、「損得」が生じるからだ。そういうショック療法を与えながら関係者を議論に巻き込んでいくのも、議論の裾野を広げる1つの方法だといえるだろう。

ただ、日本が残念なのは、この議論をパブリックにやりとりしないことだ。パブリックコメントを実施しても、「検討します」とか、「良いご意見ありがとうございました」という回答だけで終わってしまうのだ。たとえばアメリカでは、政府の公式サイト上に政府の返答や声明を発表し、ドキュメントのリンクを貼って意思決定のプロセスを公開している。

議論から形容動詞や副詞を減らす

意思決定プロセスをアメリカのように詳つまびらかに公開することは、日本人の特性上難しい。そもそも、議論慣れしていないためだ。しかし、非公開の議論は、議論を未熟にし、また将来、意思決定を修正するのを困難にする。

サイエンス（科学）とテクノロジー（技術）は異なる。そしてギャップがある。サイエンスとは自然科学、社会科学、人文科学といった、幅広く体系化された知識や経験である。テクノロジーとは医療技術、エネルギー技術、金融技術といった、科学で得られた知識や経験を用いて実践・実現するための方法や道具だ。数値化はそのギャップを埋める１つの助けになる。

議論をする際は、形容動詞と副詞を極力なくしたほうがいい。よく聞く言い回しに、「きわめて深刻な悪影響が考えられる」というものがあるが、「きわめて」という副詞と「深刻な」という形容動詞では、何がどう深刻なのか不明だ。具体的な数字を提示しなければ、ベネフィットとリスクが評価できない。どんな論点にも複数の解の方向性があり、それぞれプロコン（メリットとデメリットを比較検討する材料）がある。どんな分野の技術でも、ベネフィットとリスクを総合的に判断するために、議論は極力数値化すべきだ。

アストロスケールが開発する技術やサービスは、技術内容、リスク、サービス提供で得られる効果など、幅広く数値化しなければ納得してもらえないビジネスだ。事業説明をするとき、私はいつもその点に気をつけている。

「善悪」を問い続けるためには

結局、すべてはその技術を担うことができる人々の意図（インテント）によるものだ。その人がどうしたいのか、その意図はどこからくるのか。組織でしか実現できない複雑な技術もあれば、個人で実現しうるが社会への影響の大きい技術もある、という時代になっている。

人間は、子どもの頃は「快・不快」で動く。小学生になって物心がつくと「善悪」という概念を学び、仕事をすると「損得」を考えるようになる。大人はこれら3 つを組み合わせて生きている。そのなかでやはり「善悪」が一番難しい。「快・不快」は痛みなど、生理的な感覚に落とし込めるので理解しやすい。「損得」も明確だ。しかし、「善悪」に対する価値観や判断基準は人によってまったく異なる。私の中にも「解」はない。だが答えは出なくても、少なくとも情報の透明性を高めて問題を認識し、議論を漸進させることならばできるのではないだろうか。だから、常に問い続けるしかない。科学技術がもたらす「善悪」の両面に、どうしたら私たちは自覚的であり続けることができるのだろうか、と。

【構成】高崎美智子