「最適化至上主義」から民主主義的価値を守れるか

「テクノロジスト」に未来を委ねる危険

※本稿は、『システム・エラー社会』（2022年12月、NHK出版より発売）からの抜粋です。また、SSIR Japan 編『スタンフォード・ソーシャルイノベーション・レビュー 日本版 03 科学技術とインクルージョン』のシリーズ「科学テクノロジーと社会をめぐる『問い』」より転載したものです。

ロブ・ライヒ｜Rob Reich
メラン・サハミ｜Mehran Sahami
ジェレミー・M・ワインスタイン｜Jeremy M. Weinstein

巨大テック企業やIT技術者は、実社会に対して今や政治家や経済学者よりも大きな影響力を持っている。彼らを動かす根本原理である「最適化」が公平・プライバシー・個人の尊重といった民主主義的価値と対立するとき、私たちは何ができるだろうか。　

本書『システム・エラー社会』では、倫理とテクノロジーに関するさまざまな問いかけを行う。よりはっきりと言うなら、倫理とテクノロジスト［^訳注／高度な工学系の科学知識と応用能力のもとに企画・開発・設計力が求められるエンジニア（技術者）と、マニュアルなどにより定められた経験的な実務能力が求められるテクニシャン（技能者）の中間的な職能］に関する問いかけである。テクノロジストによる「最適化」の追求は、しばしばそれ自体が善と見なされるものだが、ひとりひとりの人間のウェルビーイングや民主主義社会の健全性を損なう可能性があることを理解してもらうためだ。

テクノロジーにおける倫理的な問題は三つのグループに大別される。一つめは、個人の倫理に関わる問題と呼ぶべきもので、エンジニアは善良な人間になる努力を惜しんではならないと考える。規則に違反してはならないし、嘘をついたり、盗んだりすることは許されない。

もちろんこの要求は、テクノロジストやエンジニアだけに向けられたものではない。あらゆる人がそれぞれの仕事のなかで、善良な人間になることを目指さなければならない。

悪名を馳せたエリザベス・ホームズの事例を考えてみよう。彼女は19歳でスタンフォードを中退し、生物医学関連スタートアップ企業であるセラノスを創業した。同社は、革命的な血液検査技術を開発したと発表した。