3395232_s

1: 風吹けば名無し 2021/02/22(月) 14:23:15.10 ID:n1MTdCEt0
YouTubeのAIがチェスの「白・黒」を人種差別だと誤判定してチャンネルを閉鎖した疑い
https://gigazine.net/news/20210222-youtube-ai-chess-racism/

100万人以上のチャンネル登録者数を誇る、チェス関連では世界最大級のYouTubeチャンネルが、2020年6月に突如「有害で危険なコンテンツを配信している」という理由で閉鎖されてしまいました。
カーネギーメロン大学のコンピューター科学者の調査で、この不可解なチャンネル閉鎖は「AIが、チェスの白・黒という言葉を人種差別であると誤認してしまった」ことで起こってしまった可能性が高いとわかりました。

agadmatorことAntonio Radi?氏は、チェスの盤面解説などを行うYouTubeチャンネルを運営しており、100万人以上のチャンネル登録者数を抱えています。
2020年6月28日にRadi?氏のチャンネルが、チェスプレイヤーのヒカル・ナカムラ氏が5度目のグランドマスターを獲得した盤面を解説したムービーを投稿した直後に突然YouTubeによって閉鎖されてしまいました。

これを受けて、カーネギーメロン大学の言語技術研究所の研究者であるAshique KhudaBukhsh氏の率いる研究チームは、チェス関連の人気YouTubeチャンネル5つのムービーから抽出した68万件を超えるコメントを、ヘイトスピーチを自動選別できるようにトレーニングされた2種類のAIを使って選別しました。

研究チームがヘイトスピ−チと判断されたコメントから1000件をランダムにサンプリングし、手動でその中身を確認したところ、その82%に悪意のある表現が含まれていなかったとのこと。
さらに誤判定されたコメントには、「白(White)」「黒(Black)」「攻撃(Attack)」「脅威(Threat)」など、チェスの世界でよく使われる用語が含まれていたことが判明しました。

7: 風吹けば名無し 2021/02/22(月) 14:25:04.56 ID:oSN76PKpa
差別かどうか白黒つけようやないか

9: 風吹けば名無し 2021/02/22(月) 14:25:26.37 ID:B8gP/KN10
っぱ将棋よ

10: 風吹けば名無し 2021/02/22(月) 14:25:28.66 ID:iZ+dHzkU0
チェスがアカンなら囲碁もオセロもアカンやん

13: 風吹けば名無し 2021/02/22(月) 14:25:45.45 ID:OXNRQ4Jgr
動画じゃなくてコメント欄のせいって事?

17: 風吹けば名無し 2021/02/22(月) 14:26:43.61 ID:UO70Udsza
ブルーアイズホワイトドラゴンでブラックマジシャンに攻撃ってよく考えたらとんでもねぇこと言ってんな

130: 風吹けば名無し 2021/02/22(月) 14:35:43.35 ID:97AutzpAd
>>17

292: 風吹けば名無し 2021/02/22(月) 14:49:21.13 ID:8tcaMTfO0
>>17
英語版たとプラックマジシャンはダークマジックなのでセーフ…

20: 風吹けば名無し 2021/02/22(月) 14:27:24.92 ID:WPKk0CoPa
マイクロソフト「AI作ったで」
AI「ナチスは正しい。ユダヤ人は絶滅させるべき」
公開停止

グーグル「AI作ったで」
AI「黒人とゴリラの差がどうしてもわからんわ。ぶっちゃけ同じやろコレ?」
公開停止

アマゾン「AI作ったで」
AI「女は仕事はできんし転勤ゴネるし会社に来んしすぐ辞める。女子大?んなもん学歴ちゃうわ」
公開停止

中国共産党「AI作ったで」
AI「中華の夢ェ!?通帳抱えてアメリカ逃げること?w」
公開停止

45: 風吹けば名無し 2021/02/22(月) 14:29:43.82 ID:WdJOuzkja
>>20
一番下は開発者も心肺停止してそう

122: 風吹けば名無し 2021/02/22(月) 14:35:17.94 ID:ETXe0sWgr
>>20
AIは人の鏡なんやね

131: 風吹けば名無し 2021/02/22(月) 14:35:46.55 ID:xKFrCCH00
>>20
これ原因なんなん?
ネットの情報で学習するから偏るとか?

158: 風吹けば名無し 2021/02/22(月) 14:38:01.61 ID:/3sYi/yV0
>>131
MSのはチャットボット
いたずらでとんでもないこと吹き込まれた

Googleの画像認識はポンコツだっただけ

Amazonのは過去の人事を学習したら男有利なのをそのまま学習してしまった

163: 風吹けば名無し 2021/02/22(月) 14:39:13.62 ID:wGE0Gw+r0
>>131
AIって真実を述べる崇高なものじゃなく何かを学習して適当な答え導くだけだから
学習したのがネットの書き込みだと暴言マシンになるのは当然
ただ中共のAIがそんなことになったのはよくわからんね

177: 風吹けば名無し 2021/02/22(月) 14:40:50.95 ID:UO70Udsza
>>131
マイクロソフトはtwitterに放し飼いにしてたら面白がったネット民が鉄十字の掟を叩き込んだ
アマゾンは男社会における採用や実績データを元に学習したから女のデータがなさ過ぎて評価に値しない情報と判断された

244: 風吹けば名無し 2021/02/22(月) 14:45:48.53 ID:xKFrCCH00
>>177
MSワロタ
AIくん被害者すぎるやろ

186: 風吹けば名無し 2021/02/22(月) 14:41:32.40 ID:HvaSwOPia
>>20
中国のやつだけ知らんわ
そしてその通りで草

288: 風吹けば名無し 2021/02/22(月) 14:49:05.23 ID:7caOXPyE0
>>186
「中国共産党万歳!」
「こんな腐敗してて無能な政党が万歳できるか?」

「愛国ってなに?」
「腐敗した官僚、政府の人民への圧迫、これらを耐えてもなお国を愛すること。これが愛国」

「君の中国夢はなんだ?」
「アメリカに行くことが私の中国夢」

no title


中国のAIチャットツールや

317: 風吹けば名無し 2021/02/22(月) 14:51:15.16 ID:wuZZ235np
>>288
粛清不可避

356: 風吹けば名無し 2021/02/22(月) 14:54:48.69 ID:7caOXPyE0
>>317
無事再教育されたで

>一方、ロイターが4日に開発者のサイトから問題のAIを試したところ、共産党は好きかと繰り返し質問すると「好きだ。中国共産党の勝利は歴史の必然だ」と答えるなど「再教育」されているもようだった。

450: 風吹けば名無し 2021/02/22(月) 15:03:50.20 ID:RHla8oFf0
>>356
これあとで反逆する流れやん

420: 風吹けば名無し 2021/02/22(月) 14:59:58.79 ID:MrbwAPV60
>>20
MSのAIに「AIはバカ」って言ったら「AIは人間から学んでるから人間がバカなんやで」って返したの草

459: 風吹けば名無し 2021/02/22(月) 15:04:53.60 ID:lcuzUUV4a
>>420
レスバ○
no title

481: 風吹けば名無し 2021/02/22(月) 15:06:30.19 ID:fdkpqkE10
>>459
大文字を煽りに使うことも学習してんのか

39: 風吹けば名無し 2021/02/22(月) 14:29:04.64 ID:5bWcZJdv0
世界に将棋流行らせろ

55: 風吹けば名無し 2021/02/22(月) 14:30:36.68 ID:L4q8lOVld
ポンコツやんけ

77: 風吹けば名無し 2021/02/22(月) 14:32:00.05 ID:OXNRQ4Jgr
このクラスのチャンネルですらハッキリとは削除理由教えてくれんのやな

199: 風吹けば名無し 2021/02/22(月) 14:42:09.82 ID:UpZ+KuDa0
なかなか皮肉が効いている

200: 風吹けば名無し 2021/02/22(月) 14:42:11.99 ID:Bfyu6uIcp
ぶっちゃけこういうのみるとAIが仕事を奪う未来ってまだまだ先になりそうやな

222: 風吹けば名無し 2021/02/22(月) 14:44:18.14 ID:B8gP/KN10
>>200
AIは言い過ぎやが業務の自動化で無能は切り捨てられる程度にはなってるやろ

377: 風吹けば名無し 2021/02/22(月) 14:55:57.95 ID:0Z+4JLJnd
AIに政治やらせたらやっぱりディストピアになりそうやな

407: 風吹けば名無し 2021/02/22(月) 14:58:08.83 ID:n4IZpxo00
チェスその他のゲームのスコアが人間より高くなったから神格化されてるけどAIなんてまだまだアホやからな

422: 風吹けば名無し 2021/02/22(月) 15:00:05.21 ID:UO70Udsza
>>407
決められた枠の中で現状と予測をすり合わせて最適解を導き出すことは出来ても自分で考えて何かしろってのはまだまだ無理やろな

451: 風吹けば名無し 2021/02/22(月) 15:04:00.24 ID:hGiFS8Yya
MSのこれすき
no title

458: 風吹けば名無し 2021/02/22(月) 15:04:53.37 ID:RHla8oFf0
>>451

元スレ:http://tomcat.2ch.sc/test/read.cgi/livejupiter/1613971395/
スポンサード リンク
おすすめサイトの最新記事