■山本龍彦『おそろしいビッグデータ』朝日新聞出版, 2017年.
会社の図書室みたいなところにある新着本の棚から、まだ誰も借りてない本をかっさらってくるのが弊管理人の最近の趣味です。
本書、小さな新書だけに明快です。ビッグデータ／AI万歳とかマジ大丈夫ですかというのは、やはり技術職以外の人に言ってもらわないとかんのでしょうね。
【プライバシー権の限界】
・私生活をのぞき見られ、暴露されないという「古典的プライバシー権」。ここには「更正を妨げられない（人生を再出発する）利益」＝「時の経過」論≒適度に忘れられる権利、が含まれている
・そもそも、プライバシー権で守られるのは、自分で自分の人生をデザインするため
→常に見られているという感覚があると、行動を萎縮させ、民主主義にも悪影響を及ぼしうる
→一つ一つは些細な情報が統合されることで、その人全体を描き出す「プロファイリング」ができてしまう
→自分の情報の行方をコントロールする権利という「現代的プライバシー権」に発展（最高裁は正面から認めてはいないが、改正個人情報保護法には入っている）
・現代的プライバシー権が保障されていたとしても、個人情報を提供する際のプライバシーポリシーへの「同意」は危うい
・ポリシーはいちいち全部読まない
・同意しないとサービスを受けられない
・プロファイリングの材料になる「普通」の情報入手に対する規制が緩い
※EUの一般データ保護規則GDPRはプロファイリングの中止請求権を認めている
・一つ一つは特徴のない属性を寄せ集めていくと、個人が立ち現れてしまう
これが要配慮個人情報入手の抜け道になってしまう
←なのに、日本の個人情報保護議論は情報セキュリティの話ばかり
・予測精度の向上のため、個人の履歴がどこまでも記録され、遡られる
・忘れられる権利、人生を再構築する自由（憲法13条、個人の尊重原理）の侵害
・データ・スティグマを恐れるために萎縮した人生を送ることになる
・親の人生や遺伝的特徴との相関が見えると、「血」による判断が有用に
→個人の尊重原理がここでも侵害
【バーチャルスラム】
・（寓話）ビッグデータ解析で、大学時代に就活に失敗した履歴、ファストフード店での低賃金バイトの履歴などから「信用力が低い」と判断。融資拒否。それがさらに同様のプロファイリングをする組織からの連鎖的な排除につながる。SNSで同じ境遇の人と悩みを交換するとさらに信用力が低くなるとして交流を避け、孤立
・だが、既に導入されつつある――ソフトバンクなどが採用活動へのAI導入方針／みずほ銀行は個人向け融資判断にAIプロファイリングの導入を発表／中国のアリペイも信用力の査定サービスを開始
・AIの誤謬（うわべだけの相関関係を判断に取り入れてしまう可能性、集積データの偏りを排除できない、現実に存在しているバイアスが再生産される）のリスクが残る
・いずれにしてもやっているのは「あなたのようなセグメントへの評価」であって、「目の前のあなたへの評価」ではない
・しかも、高精度とされるAIの判断は疑われにくい
・AIの判断過程が不明、あるいは知財や「裏をかく」恐れを理由にアルゴリズムが開示されない
・プロファイリングにより、原因はよくわからないが排除されるという「新たな被差別集団」が誕生する（しかも誰がそこに落ちるかは予測しがたい）恐れ
【差別の助長】
・再犯リスクを評価するアルゴリズムにより、黒人の再犯リスクが高く見積もられ、裁判所でより重い刑罰が言い渡される→米国の裁判所で実際に再犯リスクの評価システムを導入
・もともとは刑務所の満杯を受けて、再犯リスクの低い人を社会で更正させる目的
→ところが、黒人の再犯リスクが白人の2倍と見積もられてしまった
→裁判官には「最終判断に使わないように」との警告（ルーミス判決）
・将来の犯罪を予測する「予測的ポリシング」による人種差別の助長も
→米FTCの懸念表明(2016.1)
【個別化マーケティング】
・「個人の尊重」の4層
(1)生命の不可侵
(2)身分制からの解放
(3)人格の自律（自分の人生をデザインできる）
(4)個人の選択と、その多様性の尊重
・セグメントに基づく評価を個人に押しつけることは(2)に抵触
・選択肢やニュースのカスタマイズ、不安に基づくマーケティングは(3)に抵触
・カスタマイズされた情報が意思決定を誘導することも考えられる
→便利だが、逸脱や愚行の自由が剥奪される
【民主主義の危機】
・個人の政治的信条に関するデータ集積をもとに、おすすめニュースをカスタマイズ。その信条が強まる＝フィルターバブル（パリサー）、デイリーミー（サンスティーン）
→集団分極化（仲間だけで話しているうちに過激な方向にシフトする現象）
→政治的分断
・対抗手段＝バブルを崩すこと：伝統メディア、否応なく目に入るデモ行進
→ポータルサイト、ネットニュースにも反対意見へのリンク義務づけ？
・投票行動も操作できる可能性（FBによる実験＝デジタル・ゲリマンダリング）
・ビッグデータ解析に基づいた選挙キャンペーン（オバマ）
・しかし、個別化選挙で勝った政治家は個別有権者の思い通りにはならない
→選挙で政治の正統性が調達できないかも
【対抗策】
▽GDPR
・プロファイリングに対する中止請求権
・自動処理のみによって重要な決定を下されない権利
・透明性の要請（アルゴリズム開示ではなく、何を判断に用いたか・その理由の開示）
▽米FTC
・ビッグデータ解析により不利な決定を行う際の理由開示
・人種・国籍・性別を理由にしていないかのチェックを企業に要求
・予測精度と公正さのバランスを要求
（特定区域に特定属性が固まっていることがあるため、居住地を使わない判断も）
▽日本でやりうること
・プロファイリング「結果」へのコントロール権
・一定の時間を経過した過去を「ほどよく忘れてもらう」権利
・つながるネットワークを自分で選ぶ権利（≒データ・ポータビリティ）
・データに適度なノイズを混ぜるなど、匿名性を担保する技術
・データ提供者への直感的な告知
・データ提供を拒否してもサービス利用を拒否しないこと