数学的、理論的に正しいと思われたアルゴリズムが、人の不利益になるケースは少なくない。データ活用には、法律やルールを守ることだけでなく、モラルの問題が常につきまとう。データドリブンを推進する上で避けては通れないこの問題を、東日本旅客鉄道（JR東日本）でデータマーケティング部門を率いる渋谷直正氏が解説する。
データを使ったサービスを提供しようとする場合、手続きや法律的な正当性だけではなく、モラルの問題に気を配らなければならない。
内定者の辞退予測情報を他企業に販売し炎上した事例が記憶に新しいが、この問題で現場担当者はあれほどの騒ぎになると想像していなかったのではないだろうか。この問題が起きたときに、私はデータサイエンティストの何人かにどう思うのかを聞いてみた。
- 「データに基づいて1つの知見を提供したにすぎないので問題ないだろう」
- 「正しい予測モデルをつくったのだからデータサイエンティストとしては間違ったことはしていない」
- 「部下のデータサイエンティストから『何でこれをやってはだめなのか？』と問われたら、どう答えたらいいのか分からない」
というような意見があった。
この問題はデータに強いとか、良い予測モデルがつくれるというような次元を超え、道徳的にやっていいのか、人間として何が正しいか、という極めて哲学的な正解のない問題が根底にある。こうした判断を現場のシチズンデータサイエンティストに任せるのではなく、企業の社会性、公益性も考慮し、より高度な視点で経営陣が決断すべき点なのだ。データドリブンな企業になればなるほど、このモラルの問題はリスクにも直結するため、今一度その本質を理解しておこう。
顧客にとっての「気持ち悪さ」を常に意識
個人情報保護法やGDPR（EU一般データ保護規則）など、法律や規則で規定されているものを順守するのは当然のことであり、これは多くの企業で適正に行われているだろうから、あえてここでは触れない。1点、加えるとすると、保守的になりすぎて逆にデータの利活用を妨げている問題のほうが、データドリブンの障害となっていることもあるだろう。この点については、新しい技術やアイデアで解決できる可能性があるため、回を改めて紹介する。
今回取り上げるモラルの問題は、ルールや法律に基づけばOKであるにもかかわらず、それをやってもいいのか、というものである。これは機械的に可否を判断できるものではなく、ケースごとに考えて、ときには経営陣を加えて議論すべきテーマだ。
判断基準の1つは、データを使ったサービスが、顧客にとって「気持ち悪い」「怪しい」「信用できない」と思われるかどうか、である。
昨今は過剰なターゲティング広告やリコメンドにより、顧客個人のプライバシーに深く踏み込んでしまう施策が、顧客側から嫌悪されるようになってきた。「気が利いているね」と思われるところまでが限度で、それを超えると「やりすぎ」「気持ち悪い」ととらえられてしまう。
この記事は会員限定（無料）です。
