Fairness入門 ~AIに倫理観を教える~ | AI-SCHOLAR

Fairness入門 ~AIに倫理観を教える~ | AI-SCHOLAR

AIを勉強している皆さんこんにちは。 皆さんはFairnessを知っていますか? FairnessはAIの分野の一つで、近年とても注目されています。そこで、A Survey on Bias and Fairness in Machine LearningというFairnessのサーベイ論文を軸にしてFairnessの入門記事を書くことにしました。 2011年から2017年までのFairnessの論文数 引用元: Fairness(公平)とは AIにおけるFairnessという分野とは、「AIの判断を出来るだけ公平なものにしよう。」という分野です。公平なAIとは何でしょうか。例えば、人間に関する情報を入力とし、その人間が今後犯罪を犯す確率を出力するAIを考えましょう。人間に関する情報は年齢、性別、出身地、過去の犯罪歴などとしましょう。AIがそれらの情報を元に今後犯罪を犯す確率を計算するわけですが、当然学習にはデータセットが必要になります。そのデータセットにとてつもなく犯罪率が高い都市Aがあったとします。すると、AIは出身地の情報をとても重要視することになります。 AI「あ、この人の出身地は都市Aか。じゃあ犯罪する確率高めにしよう。」 という風になります。どうでしょうか。これって不公平じゃないでしょうか。 確かに、都市Aの犯罪率がとてつもなく高いならば、都市Aに住んでいる人は犯罪を犯す確率は高くなるかもしれません。しかし、まだ犯罪を犯していない好青年が、ただただ自分の生まれた土地のせいで犯罪を犯す確率を高く予想されてしまうというのは公平ではありません。だからと言って出身地情報を全く使わないで判断すると予測精度が著しく落ちてしまいます。ここら辺をきっちり議論しようという分野、それがAIにおけるFairnessです。 センシティブ属性 Fairnessには重要な概念としてセンシティブ属性というものがあります。(センシティブ属性のことをprotected

12 mentions: @ai_scholar@esXFdfOJxiGBFLx@tmczs@tabizuki__p@nemo73
Keywords: fairness
Date: 2019/10/10 08:40

Referring Tweets

@ai_scholar 倫理的に公平なAIを作るための「Fairness」という分野を網羅的にまとめた記事を公開しました! t.co/Ong9BBY9J8
@esXFdfOJxiGBFLx めっちゃ面白い。 少し前にAIの間違えを人間らしくするって研究したからこの辺りは興味がある。 t.co/M4yvpJ8KG2
@tmczs 良まとめ。Fairness(公平さ)という表現を使うかはともかく、社会科学の世界ではとにかく古い問題。明らかに価値判断を含む部分があるので唯一の正解はなく、おそらくは議論し続けることに価値があるタイプのやつ。 t.co/cvIbhlcXd3
@nemo73 精度を棄ててでも、公平に扱うのが現代の「人間の願い」なんだろうな。 哲学と科学が融合してる感が面白い。 Fairness入門 ~AIに倫理観を教える~|AI-SCHOLAR t.co/Cdj47naUY7

Related Entries

Read more Building ML models for everyone: understanding fairness in machine learning | Google Cloud Blog
0 users, 13 mentions 2019/09/25 18:49
Read more [1907.06430] A Causal Bayesian Networks Viewpoint on Fairness
0 users, 3 mentions 2019/10/05 09:48
Read more GitHub - algofairness/fairness-comparison: Comparing fairness-aware machine learning techniques.
1 users, 1 mentions 2019/01/31 20:17
Read more Fairness and machine learning
0 users, 3 mentions 2019/09/12 21:48