イノヴェイションが「倫理的」であるためには、3つの解決策がある

空飛ぶクルマ、ファッションをチェックしてくれる人工知能、脳内の思考をそのままPCに入力する技術──。科学技術が進化して夢のような商品やサーヴィスが実現するにつれ、それが「エシカルかどうか」、つまり倫理的に正しいかどうかが問われるようになった。そのために必要な3つの解決策とは。
イノヴェイションが「倫理的」であるためには、3つの解決策がある
IMAGE: GETTY IMAGES

All products are independently selected by our editors. If you buy something, we may earn an affiliate commission.

シリコンヴァレーから届くニュースの見出しは、時として神話かファンタジー、はたまたSF小説のタイトルではないかと思えることがある。

史上初、ヒトとブタの胚を掛け合わせた胚“キメラ”が誕生」と聞けば、ライオンの頭と山羊の胴体、毒ヘビのしっぽを持つギリシャ神話の怪物が思い浮かぶ。「もはや夢ではない:空飛ぶクルマが誕生」という記事では、ライト兄弟が初めて飛行に成功した際の記念となる町キティホークの名を冠したクルマが紹介されている。そして、「アレクサはコーディネートまでチェックするってよ」という記事は、アマゾンの人工知能(AI)を使った音声アシスタント、アレクサとカメラ機能の組み合わせで、個人のファッションのよし悪しを判断する機能について伝えている。

このような“ぶっ飛んだ”見出しの記事を読むと、2016年に登場した無人の自律走行車や、AIを活用したボットとのチャットだけでオンラインショッピングできるサーヴィスなどは色あせてみえる。

イノヴェイションは、われわれにとって必要不可欠なものだ。テクノロジー科学についての話がどれほど理解の範疇を超えていようとも、この事実は変わらない。そして、倫理的に正しい(エシカルな)意思決定が行われれば、健全なイノヴェイションが促進され、発展を妨げる規制の壁も乗り越えられるだろう。

テクノロジーが進化すると「人間らしさ」が問われる

一方で、イノヴェイションを消費者や社会がどこまで、どのように活用すべきかについては、注意深く考えなければならない。テクノロジーは「人と機械」や「人と動物」との境界を、どんどん曖昧にしつつある。世の中は法整備もせずに、“人間らしさ”とは何かを問うようなイノヴェイションを推し進めているといってもいい。

新しい商品やイノヴェイションを生む技術をもった人や企業が、人の安全や社会への影響を及ぼすような決断を下すことも増えている。こうした決定の多くは開発者の意志が反映されており、潜在的なリスクや、思いもよらない意図で使われるリスクなどは必ずしも考慮されていない。

もし、遺伝子を自在に改編するゲノム編集の技術がテロリストに悪用されたら? ヒトとブタの胚から生まれたキメラ同士が交尾をしたとしたら? 窓の外に見えるものは、空飛ぶクルマではなく鳥のほうがいいと人々が望んでいるとしたら?(どうやらこのリスクは現実のものになりつつある。Uberは2020年までに「空飛ぶクルマを呼べるアプリ」をリリースするとしている)

異なる服装をした2つの写真を比べ、似合うほうを教えてくれるAmazonの「Echo Look」で、ティーンエイジャーが精神的に問題を抱えてしまったら? 誰が責任をとるというのだろう。全人類に多大なる影響を及ぼすかもしれない決断を誰が下すべきかという問題が、テクノロジーのすごさや科学の光輝を前にないがしろにされていいのだろうか。

誰がイノヴェイションの“管理人”になるべきか

そのイノヴェイションを進めていいのか、いつどのように進めるのかといった責任の所在は議論されていない。何をもって「倫理的かどうか」を決めるのだろう? どのようなチェックやバランスが重要なのだろう?

大切なのは「誰がイノヴェイションを管理すべきか」であろう。学術研究機関では、科学者たちの研究方法ついてガイドラインを設けている。例えば、研究機関の審査会は人体実験を監督する。複数のステークホルダーが存在する研究機関では、政府から民間組織、非政府組織(NGO)に至るまで多様な声を集約し、方針を決定する。世界の子どもたちに予防接種を提供することを目的とした官民合同団体GAVIが一例だ。

カリフォルニア大学バークレー校教授のジェニファー・ダウドナと、スウェーデンのウメオ大学教授のエマニュエル・シャルパンティエの2人の生化学者は2014年、サイエンス誌に論文「CRISPR-Cas9(クリスパー・キャス9)によるゲノムエンジニアリングの新境地」を発表した。CRISPR-Cas9は生物の遺伝子を自在に改編できるゲノム編集の技術で、「遺伝子工学の革命的な新技術」と評価されている。

論文では、科学技術の責任ある使い方を考えるために、科学者と世間一般により幅広い議論を求めた。第一線で活躍するこうした科学者たちのなかにも、科学技術によってヒトの生殖細胞系が意図的に改編される前に、注意を喚起すべきと考える人々がいるのだ。

CRISPRが倫理的かどうかを議論する際には、遺伝子治療で用いられているのと同じ枠組みを適用すべきとする報告を、米国科学アカデミーと米国技術アカデミー、米国医学研究所の3つの組織は最近発表した。科学の輝かしい業績によって、人類の未来を左右する決定がなされていいのか、疑問が残るからだ。

CRISPRによって、難病とされる遺伝性の神経変性疾患ハンチントン病を予防できるかもしれない。ガンを治すこともできるかもしれない。しかし万が一、突然変異のような“エラー”が発生した場合、その結果がどうなるのかは予測がつかない。また、ひとたび技術が世に出たあとは、それが思慮深く有能な人々に“正しく”利用されるにしても、悪意をもった人物に“悪用”されるにしても、用途や使用範囲などをコントロールするのは難しい。

次々に疑問が浮かび上がる。CRISPRの活用方法を誰が決めるべきだろうか。科学者なのか、専門の調整機関なのか、あるいはその間をとって学術研究機関や医療研究施設、専門の審査機関、産業協会なのか。それとも一般市民なのか。全世界に影響を与える決定を、どの国の一般市民に委ねるのか。だいたい、このように技術的に複雑で、倫理的かどうかを求められる決定を下す能力を備えた“一般市民”がいるのか。予測しうるリスクやメリットを決定権を持つ者に伝えるのは、誰なのか──。

ツイッターはフェイスブックより「倫理的」か

テスラとスペースXのCEOであるイーロン・マスクと、フェイスブックで製品開発や研究を担う部門「Building 8」の責任者であるレジーナ・デューガン。テクノロジーのスペシャリストともいうべき2人は、それぞれにヒトの脳とコンピューターとをつなぐシステムの構築に取り組んでいる。

彼らの提案にはどれも、耳を傾けたくなる魅力がある。しかし、マスクのつくった宇宙船で火星へ向かうとき、倫理的な決断を下すためのツールをどう運んだらいいのか。頭で考えたことがタイピングせずともPCの画面に表示されるようになったとき、脳に何を埋め込めば倫理的な判断を下せるのだろうか。一般市民はこうした点を議論すべきだ。

自律走行車には、まだ判断能力が搭載されていない。老女を1人ひくか、子どもを3人はねるか、いずれかを迫られるという恐ろしい事態に直面したとき、どちらも選ぶことはできない。しかし、人間はいずれかの選択を自律走行車にプログラミングすることができる。飛行機の操縦免許を持たずに「空飛ぶクルマ」を運転する“パイロットたち”にも判断能力はあるだろう。だが、空の安全や環境を保護する者は誰もいない。

自社のテクノロジーが抱える倫理的な問題について、きちんと議論を重ねている奇特なイノヴェイターもいる。ツイッターの共同創業者であるビズ・ストーンは、倫理的な社風を生み出す努力について、著書『ツイッターで学んだいちばん大切なこと──共同創業者の「つぶやき」』で述べている。マイクロソフトやグーグルといったテック大手によって創設されたAI研究団体「Partnership on AI」も、「批判とそれを反映するための開かれた場所」を創造すること、また「AIの探求に興味をもつすべての人をつなぐ」ことを目的としている。ただ、まだ社会全体を巻き込むには至っていない。

より賢く、注意深い消費者になれ

ここで倫理的なイノヴェイションを進めるための解決策を3つ、提案したい。

第1に、イノヴェイションを行うときは、進行過程で実際に起きた結果、またこれから予想される結果について、よりクリエイティヴかつ徹底的に分析すべきだ。それも、短期、中期、長期的な視点が欠かせない。

ダウドナとシャルパンティエが言うように、ある種のイノヴェイションを行う前には広く社会に開かれた対話が必要になる。その場所がフェイスブック上だろうと、役所の会議室だろうと、消費者と専門家、調整機関の三者の参加が望ましい。

第2に消費者は、テクノロジーの影響とそのリスクをもっと深く理解すべきだ。例えば、アマゾンの「Echo Look」。ファッションをチェックするというアルゴリズムの裏にある理論は開示されていない。消費者は潜在的なリスクについて理解しないまま、しかし同意したものとして製品を使っていることになる。そのアルゴリズムは、ファッション誌『VOGUE』の編集者や、多種多様な嗜好をもつ2,000人のティーンエイジャーの意見を反映するようになっているだろうか?

企業も責任を全うしてほしい。アマゾンは企業の機密事項を公開せずとも、アルゴリズムについてもっと多くの情報を開示し、プライヴァシーの保護を進められたはずだ。ソーシャルメディアを運営する企業も、より自覚をもって説明責任を遂行してほしい。イノヴェイションにつきもののリスクについて、サーヴィス利用規約のなかで、英語で分かりやすくはっきりと簡潔に説明できるはずだ。

第3に、テクノロジーは「倫理的であること」と常に一体であるべきだ。多くの企業が努力してはいる。フェイスブックは犯罪のライヴ配信を阻止すべく戦いを繰り広げている。囲碁AI「AlphaGo」を開発したグーグル傘下のディープマインドは、メンバーこそ公表していないものの、内部倫理審査会を設置している。

イノヴェイションが「倫理的かどうか」という問題は、イエスかノーかの二択で答えられるものではない。いまこの瞬間だけを切り取って評価すべきではないし、そのうち何とかなるだろうと放置してもいけない。どの程度、どのような状況下で、誰が判断を下すのか、という点を検討したい。

これからは意思決定や情報開示の改善、科学技術の活用など、どのようなシーンにおいても「倫理的」(エシカル)という概念をより迅速かつ厳密に適用すべき時代になるといえるだろう。


RELATED ARTICLES

TEXT BY SUSAN LIAUTAUD