IT

AIを監査する国家資格の登場を予想しています

TEDのプレゼンを観ました。感想を書いておきます。やや硬い内容になるよ。

これを観ました。
TED日本語 - キャシー・オニール: ビッグデータを盲信する時代に終止符を

ちょっと早口でハードルが高いと思ったら、
http://digitalcast.jp/v/25903/
日本語字幕で観ることができた。

ビッグデータの収集と解析が大きなビジネスになっています。
このプレゼンテーションで主張されている内容を要約は、こんな内容。
まず、ビッグデータ解析のアルゴリズム(方程式のようなもの)には
バイアス(かたより)があるので公平さを欠くと主張している。
また、アルゴリズムとしてプログラミングされることによって、
誰でも見ることが出来にくくなっていて、透明性を欠いていると主張している。

「バイアス(かたより)」ってどんなことがあるかというと、例えば、
人事で「昇進しそうな人」を評価するアルゴリズムを作ったとする。
その評価基準は、現在すでに出世している人をサンプリングして、
その人と共通項を持った人を採用するようなアルゴリズムになるだろう。
そうすると、現在のように社会に女性が進出しきってない、
男性に有利な出世モデルを踏襲してしまうことになるのだ。

アドラー心理学では、人間は偏見を改めることはできるが、
偏見から自由になることはできないという。
あなたができるのは、偏見から別の偏見にシフトチェンジすることだけだ。
偏見を持っていることを自覚しながら、なるべく社会に貢献するような、社会とうまくやっている考えにシフトしていくことを教えたり、体験してもらったりするのが、
われわれ心理カウンセラーの仕事ということになる。

統計学を学んだことがあれば、わかると思うけど、
あれは、プレゼンテーションのために都合がよくなるような結果のねつ造だ。
利用する側のあからさまな意思が介入するのだ。

ビッグデータと解析アルゴリズムも、人間たちの過去の思考を参考にするので、
公平さを欠いた偏見が入り込む。
人間が持つ、認知の歪みからは自由になれないんです。

これは、AIについても同じことが言えるだろう。
機械学習やディープラーニングも、自己学習をするための基準があり、基準があるということは、
人間と同じようにバイアスがかかるのだ。
AIやビッグデータ解析を使用する社会は、人間がアイデアだけ考えてればいいユートピアじゃなくて
それによって、固定観念にがんじがらめにされた窮屈な社会になる可能性もあるのだ。

スーパーインテリジェントなアルゴリズムの出現による危機は、人類存亡の危機ばかりじゃない。
だから、ビッグデータ解析やAIについては、公平性と透明性をチェックする仕組みが必要となると考える。

私は、会計監査と同じようにAIやビッグデータ解析のアルゴリズムを監査する仕事が生まれるだろうと予想します。それは、高度な数学者によって行われるんじゃないかな。
そしてその登場を、2030年ぐらいと予想します。
仕事をAIに奪われていく会計監査法人が、代わりの仕事としてやることになるのではないかな。

よく読まれている記事

1

こんにちは、IT行政書士の坂本倫朗(@sakamotohitori)です。今回は、個人事業主に向けた、お金のやりくりを向上させる話です。 もくじ 5年後に笑って振り返れるように資金繰りをしよう資金繰り ...

2

こんにちは、IT行政書士の坂本倫朗(@sakamotohitori)です。今回は、「経営難に陥る会社には共通点がある」という話です。資金繰りを良くしたいとお考えであれば、この記事で紹介していることとは ...

3

もくじ 契約書に数字を書くときのお作法 契約書の日付をあいまいにしない 契約書に記載する金額の正しい書き方 手書きで金額を書くときは、漢数字と大字を使う 契約書の条項号の数字は? 条 項 号 構成の見 ...

4

契約書の書き方で難しい、「契約書のあそこの部分について」を指し示すときの書き方をまとめます。 法律は条、項、号、という順番になっています。契約書もそれに合わせて書きます。 この辺の話は以下の記事にまと ...

-IT