【超絶悲報】「AI裁判官」は黒人に死刑を宣告しがち…AIの差別・偏見問題の解決の難しさが浮き彫りに
masa1208【超絶悲報】「AI裁判官」は黒人に死刑を宣告しがち…AIの差別・偏見問題の解決の難しさが浮き彫りに
1: ゆううつちゃん 2024/03/29(金) 10:29:13.67 ID:??? TID:ayukawa
いまや企業のみならず、社会全体に大きな影響をおよぼすようになったAI(人工知能)。しかしそれは万能というにはほど遠く、日々さまざまな問題が報じられている。
中でも大きく懸念されている点のひとつが、AIの「差別意識」である。もちろん現在のAIは「意識」と呼べるようなものを持っておらず、単にこれまでの人間の行動を学習して、それを真似してさまざまな判断を下しているに過ぎない。しかし、だからこそ、過去に人間が意識的あるいは無意識のうちに行っていた差別や偏見が反映されてしまい、差別的な行動を取るAIが登場してしまっているわけだ。
この問題は早くから注目されており、たとえば2019年に発表され、42か国が同意したOECD(経済協力開発機構)の「人工知能に関するOECD原則」では、AIが「多様性を尊重」し、「公正公平な社会を確保する」ようにすべきであるとの宣言がなされている。しかしそれから5年が経過した現在でも、AIの差別・偏見問題は解決されておらず、むしろそれを解決することの難しさが浮き彫りになっている。
たとえば国連のユネスコ(国際連合教育科学文化機関)は今年3月、
続きはこちら
https://news.yahoo.co.jp/articles/cc019105250b3d1b33335cdde27dce5ae87c915e
2: ゆううつちゃん 2024/03/29(金) 10:32:09.19 ID:TNhvA
AIがそもそも判断を下すには学習する為の情報が必要で
その情報を提供すると
恣意的に黒人を裁く例が過去に多かったことから
それが当然の判断としてAIが黒人有罪にしがちってことだろこれ
その情報を提供すると
恣意的に黒人を裁く例が過去に多かったことから
それが当然の判断としてAIが黒人有罪にしがちってことだろこれ
6: ゆううつちゃん 2024/03/29(金) 10:36:53.82 ID:XFoPI
>>2
それだと統計の結果でしかないな
それだと統計の結果でしかないな
10: ゆううつちゃん 2024/03/29(金) 10:41:18.30 ID:TNhvA
>>6
統計の結果に基づいて判断下すからAIっていいよね、って話だったんだよ元々
問題はその統計自体が人間や各地域の主観性が混じったもので
その悪質性も一緒にそのまま学習して出力してしまう、という点で
統計の結果に基づいて判断下すからAIっていいよね、って話だったんだよ元々
問題はその統計自体が人間や各地域の主観性が混じったもので
その悪質性も一緒にそのまま学習して出力してしまう、という点で
まぁだから規制云々って話になっとんのよな世界では
例えば人類が増えすぎて食料が足りませんどうしましょうか、という問いかけをすると
「人間は過去に戦争をして人口を減らしました。同じように殺処分すべきです」とかってなる
人間がAIに求めてる答えは効率的な農産物の育成方法や
あるいは他の星を植民地にする方法とかなのだが、みたいな
