TEDのプレゼンを観ました。感想を書いておきます。やや硬い内容になるよ。
これを観ました。
TED日本語 - キャシー・オニール: ビッグデータを盲信する時代に終止符を
ちょっと早口でハードルが高いと思ったら、
http://digitalcast.jp/v/25903/
日本語字幕で観ることができた。
ビッグデータの収集と解析が大きなビジネスになっています。
このプレゼンテーションで主張されている内容を要約は、こんな内容。
まず、ビッグデータ解析のアルゴリズム(方程式のようなもの)には
バイアス(かたより)があるので公平さを欠くと主張している。
また、アルゴリズムとしてプログラミングされることによって、
誰でも見ることが出来にくくなっていて、透明性を欠いていると主張している。
「バイアス(かたより)」ってどんなことがあるかというと、例えば、
人事で「昇進しそうな人」を評価するアルゴリズムを作ったとする。
その評価基準は、現在すでに出世している人をサンプリングして、
その人と共通項を持った人を採用するようなアルゴリズムになるだろう。
そうすると、現在のように社会に女性が進出しきってない、
男性に有利な出世モデルを踏襲してしまうことになるのだ。
アドラー心理学では、人間は偏見を改めることはできるが、
偏見から自由になることはできないという。
あなたができるのは、偏見から別の偏見にシフトチェンジすることだけだ。
偏見を持っていることを自覚しながら、なるべく社会に貢献するような、社会とうまくやっている考えにシフトしていくことを教えたり、体験してもらったりするのが、
われわれ心理カウンセラーの仕事ということになる。
統計学を学んだことがあれば、わかると思うけど、
あれは、プレゼンテーションのために都合がよくなるような結果のねつ造だ。
利用する側のあからさまな意思が介入するのだ。
ビッグデータと解析アルゴリズムも、人間たちの過去の思考を参考にするので、
公平さを欠いた偏見が入り込む。
人間が持つ、認知の歪みからは自由になれないんです。
これは、AIについても同じことが言えるだろう。
機械学習やディープラーニングも、自己学習をするための基準があり、基準があるということは、
人間と同じようにバイアスがかかるのだ。
AIやビッグデータ解析を使用する社会は、人間がアイデアだけ考えてればいいユートピアじゃなくて
それによって、固定観念にがんじがらめにされた窮屈な社会になる可能性もあるのだ。
スーパーインテリジェントなアルゴリズムの出現による危機は、人類存亡の危機ばかりじゃない。
だから、ビッグデータ解析やAIについては、公平性と透明性をチェックする仕組みが必要となると考える。
私は、会計監査と同じようにAIやビッグデータ解析のアルゴリズムを監査する仕事が生まれるだろうと予想します。それは、高度な数学者によって行われるんじゃないかな。
そしてその登場を、2030年ぐらいと予想します。
仕事をAIに奪われていく会計監査法人が、代わりの仕事としてやることになるのではないかな。