数学的、理論的に正しいと思われたアルゴリズムが、人の不利益になるケースは少なくない。データ活用には、法律やルールを守ることだけでなく、モラルの問題が常につきまとう。データドリブンを推進する上で避けては通れないこの問題を、東日本旅客鉄道(JR東日本)でデータマーケティング部門を率いる渋谷直正氏が解説する。

データをいくら法律やルールにのっとった形でサービスに活用しても、消費者に受け入れられない場合も。それはデータサイエンティストだけが考えるべき問題ではない(写真/Shutterstock)
データをいくら法律やルールにのっとった形でサービスに活用しても、消費者に受け入れられない場合も。それはデータサイエンティストだけが考えるべき問題ではない(写真/Shutterstock)
本日の「データドリブン」のツボ!
  • データの活用時には、法律やルールを守ることだけでなく、モラルの視点が必須
  • 数学的、理論的に正しいアルゴリズムでも、人を不幸にする可能性はある
  • 予測ロジックの基となっているデータの偏りや社会構造にも目を向けるべきだ

    前回(第9回)はこちら

     データを使ったサービスを提供しようとする場合、手続きや法律的な正当性だけではなく、モラルの問題に気を配らなければならない。

     内定者の辞退予測情報を他企業に販売し炎上した事例が記憶に新しいが、この問題で現場担当者はあれほどの騒ぎになると想像していなかったのではないだろうか。この問題が起きたときに、私はデータサイエンティストの何人かにどう思うのかを聞いてみた。

    • 「データに基づいて1つの知見を提供したにすぎないので問題ないだろう」
    • 「正しい予測モデルをつくったのだからデータサイエンティストとしては間違ったことはしていない」
    • 「部下のデータサイエンティストから『何でこれをやってはだめなのか?』と問われたら、どう答えたらいいのか分からない」

     というような意見があった。

     この問題はデータに強いとか、良い予測モデルがつくれるというような次元を超え、道徳的にやっていいのか、人間として何が正しいか、という極めて哲学的な正解のない問題が根底にある。こうした判断を現場のシチズンデータサイエンティストに任せるのではなく、企業の社会性、公益性も考慮し、より高度な視点で経営陣が決断すべき点なのだ。データドリブンな企業になればなるほど、このモラルの問題はリスクにも直結するため、今一度その本質を理解しておこう。

    顧客にとっての「気持ち悪さ」を常に意識

     個人情報保護法やGDPR(EU一般データ保護規則)など、法律や規則で規定されているものを順守するのは当然のことであり、これは多くの企業で適正に行われているだろうから、あえてここでは触れない。1点、加えるとすると、保守的になりすぎて逆にデータの利活用を妨げている問題のほうが、データドリブンの障害となっていることもあるだろう。この点については、新しい技術やアイデアで解決できる可能性があるため、回を改めて紹介する。

     今回取り上げるモラルの問題は、ルールや法律に基づけばOKであるにもかかわらず、それをやってもいいのか、というものである。これは機械的に可否を判断できるものではなく、ケースごとに考えて、ときには経営陣を加えて議論すべきテーマだ。

     判断基準の1つは、データを使ったサービスが、顧客にとって「気持ち悪い」「怪しい」「信用できない」と思われるかどうか、である。

    リコメンドをやりすぎれば「気持ち悪い」といった声も。個人のプライバシーにどこまで踏み込むか、企業としての姿勢が問われる(写真/Shutterstock)
    リコメンドをやりすぎれば「気持ち悪い」といった声も。個人のプライバシーにどこまで踏み込むか、企業としての姿勢が問われる(写真/Shutterstock)

     昨今は過剰なターゲティング広告やリコメンドにより、顧客個人のプライバシーに深く踏み込んでしまう施策が、顧客側から嫌悪されるようになってきた。「気が利いているね」と思われるところまでが限度で、それを超えると「やりすぎ」「気持ち悪い」ととらえられてしまう。

    このコンテンツ・機能は会員限定です。

    有料会員になると全記事をお読みいただけるのはもちろん
    • ①2000以上の先進事例を探せるデータベース
    • ②未来の出来事を把握し消費を予測「未来消費カレンダー」
    • ③日経トレンディ、日経デザイン最新号もデジタルで読める
    • ④スキルアップに役立つ最新動画セミナー
    ほか、使えるサービスが盛りだくさんです。<有料会員の詳細はこちら>
    14
    この記事をいいね!する