News Release 

「好ましくない行動」を防ぐアルゴリズム、ジェンダーの公平性と健康チェックで機能

American Association for the Advancement of Science

研究者らの報告によると、機械学習のアルゴリズムを設計するための新しいフレームワークは知能機械が好ましくない行動を起こさないようにするのに役立つという。判断の不公平性と健康チェックでテストを行ったそのフレームワークは、好ましくない行動を回避する責任をユーザー(ほとんどの場合はコンピューター科学者ではない)からアルゴリズム設計者に移行することで、これに成功した。新しいフレームワークを使って「好ましい行動をする」アルゴリズムを設計することによって、機械学習ツールが広く向上するだけでなく、新たな使用機会への道もとりわけこれまでは機械学習にはリスクが大きすぎると考えられていたアプリケーションにおいて開くと考えられる。医療診断から財務予測まで、機械学習(ML)アルゴリズムというツールはかつてないほどに普及が進んでいる。様々なタスク ―― それらの大半は生活の質に直接影響すると考えられる ―― をこなすようになって来ていることを考えると、重要なのは人に害を及ぼす可能性のある行動などの好ましくない行動は絶対に起こさないことである。差別的な不公平な判断を下したり、医療診断が遅れたりといったアルゴリズムの例は知られている。標準的MLアプローチが求めるのは、好ましくない行動が起きないようにユーザーがアルゴリズムに制約を定め、符号化することである。しかし多くのユーザーは、それを行うのに必要なMLと統計の知識が不足している。このため一部の重要なアプリケーションではMLの安全で責任ある使用が難しい。この問題に対処するために、Phillip Thomasらはその責任をユーザーから設計者に移行するMLアルゴリズム設計のためのフレームワークを提示した。ユーザーはアルゴリズムの行動に制約を符号化しなければならないが、これは幅広い専門知識やさらなるデータ分析を必要とする作業である。Thomasらの方法を使うとユーザーはこの作業を複雑なデータ分析の必要なしに、もっと簡単に行える。Thomasらはこの方法のメリットを、MLアルゴリズムを設計してジェンダーの公平性と糖尿病管理の例で応用することで実証した。これらの状況下で自分たちのアルゴリズムは標準的な機械学習アルゴリズムに起因する危険な行動を排除したとThomasらは述べている。

###

Disclaimer: AAAS and EurekAlert! are not responsible for the accuracy of news releases posted to EurekAlert! by contributing institutions or for the use of any information through the EurekAlert system.