News Release 

機械学習の説明可能性により公共政策の課題が明らかに

American Association for the Advancement of Science

機械学習(ML)システムの「説明可能性(explainability)」は、多くの場合、人工知能システムをデザインする地域社会にとって技術的な課題とされている。しかし、Policy ForumでDiane CoyleとAdrian Wellerは、説明可能性の課題は、MLシステムを用いる政策決定者にとっても、少なくとも意思決定のための情報を得る上で重要である、と主張している。CoyleとWellerによれば、こうした課題に取り組むことは、自らの意思決定にMLを用いる組織にとってより広範な説明責任に関する重要な問題を提起することになり、隠れて見えないが潜在しているバイアスを明らかにしてくれる可能性がある。MLを使用している場合、説明可能性とは、当該システムの内部にある複雑な数学的構造を人間の言語によってどの程度説明できるかを意味する。言い換えると、あるモデルが、与えられた情報に基づいてその結論を導き出す根拠ということである。幅広い強力なアプリケーションの使用が増加しているが、現行のほとんどのMLシステムはいわばブラックボックスであり、その中で複雑なアルゴリズムがどのように働いているのかについて、一般の人々はしかたないとしても、開発した当人にとってさえほとんど分からない。こうして、MLシステムに説明可能性を求める要望は、特に公共部門におけるMLシステムの使用において増大している。公共部門では、データにおける未検出のバイアスと不正確のために、政策決定がなされた場合に、その対象となる人々に重大な影響を及ぼすことになる可能性がある。CoyleとWellerは、MLの使用が増えると、政策決定者や組織は自分たちの目的について、またその延長線上で自分たちの価値観や政治的選択についてより具体的にし、明明確にすることを余儀なくされる、と示唆している。著者らによれば、MLの使用が説明可能で透明性のあるものへと進歩していけば、これまで社会システムや経済システムに存在するバイアスを明らかにする助けとなってきたように、政策決定において対立し合う目的や潜在的な二律背反を明らかにする助けとなるであろう。

###

Disclaimer: AAAS and EurekAlert! are not responsible for the accuracy of news releases posted to EurekAlert! by contributing institutions or for the use of any information through the EurekAlert system.