NTTセキュアプラットフォーム研究所でチーフ・セキュリティ・サイエンティストを務める高橋克巳氏とクロサカタツヤの対談の後編は、5年先、10年先にあるべき多様性を持ったコミュニティーについて議論した。実現へはコストをかけてでも、「節度ある共有」を進めることがカギだという。

NTTセキュアプラットフォーム研究所 チーフ・セキュリティ・サイエンティスト 高橋克巳（たかはし・かつみ）氏

［画像のクリックで拡大表示］

クロサカ：（複数社が別々に持つ）個人情報を束ねて扱ううえで、高橋さんはそこに何か技術的ソリューションが見えているんですね。

高橋：注目しているのは暗号技術です。データの機密性、すなわちデータを漏らさない性質をとことん追求できるコンピューター処理ができるようになっていることです。

　「秘密計算」という技術があります。暗号というのはデータの中身を見えないようにするものなのですが、従来の暗号は単純に、データを暗号化して見えなくする、復号して元に戻すというものでした。秘密計算は、暗号化したままでいろいろな計算ができる技術なんです。

　秘密計算によって、暗号化したデータをドサッと詰め込んで、そこから統計処理した結果だけを取り出すことができるようになりました。すると、コミュニティー内で、例えば個人情報の細かい中身を共有することなく、統計情報だけを取り出すことができます。こういうものを使って、節度ある共有を実現できるのではないかと考えています。

「節度ある共有」とは何か

クロサカ：今、「節度ある共有」という言葉が出ました。この「節度」って何を指すと考えられていますか。というのは、このことが正しくCode as Law（ソフトウエアがデータを取り扱うための規律）となるために、最も明確にすべきところかもしれないと思えるのです。

　技術が社会の中に受け入れられるためには、技術の仕組みそのものの話より前に、エンジニアが「なぜこういうものがいいと思ったのか」ということを、多くの人に知ってもらうことが大切でしょう。秘密計算に限らず、ディープラーニングのアルゴリズムを作るところでも、それが問われていると思うんですね。

　「私はこういう人間で、こういう価値観の下にこれは良いと判断した。その判断に基づいてこういう実装をした」と言語化されることが、この先すごく大事になってくると考えています。それをもって我々は（その技術に）依存するのか、離れていくのかをユーザーとして決められるようになる。今のお話でいえば、高橋さんの考える「節度」が、それに当たると思うんです。

高橋：コンピューターシステムの話でいうと、プログラムは何をすれば何が出力されるか、設計者はおおむね確定的に分かっています。その動作を設計者はうまく伝える必要があるし、作りこむときにはいろいろな人と対話することで、一定の節度が出てくると思っています。

　でも例外はあって、例えばAI（人工知能）を使ったシステムは「何が出てくるか分からない」ところがあります。そういう確定的に答えが出ないシステムは、恐怖が生まれるかもしれない。だから、分かるものはできるだけ分かるようにしたうえで、それでも分からないものについては「これは何が出てくるか分からないもの」とまずは合意する。そのうえで、何が出てくるかを誰かが見ていなくてはいけない。

　そういうものは誰かが何らかの手段でチェックする必要があると思います。結局、そこにはそれなりのコストがかかることも含めて理解する必要がある。

クロサカ：そこにミスリードがあると思っています。AIがすごい低コストで、だから人の仕事を奪う、みたいなことが言われています。でもそれは、むしろ幸せな結末なのかもしれない。実際は高橋さんのおっしゃる通り、プロセスが分からない以上は、アウトプットとインプットをチェックすることが必要になる。これってすごい手間なので、やっぱりお金がかかる。少なくとも導入時において、当面のAIは全然低コストじゃない、というか予算をケチってマーケティングに踊らされると導入に失敗する。

　本当のところ何が必要で、それにはどのくらいコストがかかるのか、っていうことを抜きにした議論をしたり、とりあえず使ってみたりするという時代は、ユーザー側への浸透によってもう過ぎてしまいました。だから、何らかの規範、あるいは基準をもって、節度を保つために一定のコストがかかるのだから、それをきちんと負担しよう、というのがメタ的な意味での「節度」なのかもしれません。メタ的ではない節度については、エンジニアそれぞれの効用関数であると捉えることもできると思うので、本質的に「私はこう思う」「思わない」ということにしかならないのかもしれない。