社会保障デジタル化の懸念 - 世の中の新しいを伝えたい日記

今日はこちら。

イギリスで検討されている社会保障のデジタル化について、

警鐘を鳴らしているお話。

そもそも貧困層はデジタルが使えないじゃないかって部分と、

アルゴリズムのミスのカバーに時間がかかることが、

貧困層には致命的になりうるってのが批判の内容。

２点目はまだしも、

1点目はよく検討する必要があるね。

自動化というよりAIの話に近くなるけれども、

結局どんなに優れたAIであっても使用しているデータは

過去のデジタル化された情報である点も気になる。

つまり、デジタル化せずに過ごしてきた人たちにとっては、

自分以外の人のデータによって自分が判定されてしまうのです。

社会保障に限った話ではなく。

ってことは使われているAIが使用しているデータにも当然偏りがあるし、導き出された判定が間違えている可能性は高い。

そのことを意識せずにコンピューターがそう言っているからと結論を出してしまうのはとても危険な思考だと思います。

使用するデータの偏りはないか、

あるとしたらコンピューターの回答をどう捉えるべきか。

この辺は今後自動化される世界の中で常に意識しておくべき視点ですね。

ちなみにマイノリティレポートの世界にかなり近づきつつあって、ドキドキします。笑