【お詫び】Google Photosが黒人をゴリラと認識する事件が発生。

1: 記憶たどり。 ★ 2020/07/02(木) 06:38:25.45 ID:IuRh6OCj9
https://gigazine.net/news/20150702-google-photos-gorilla/

5月29日にリリースされたGoogleの新しいフォトアプリ「Google Photos」にはアップロードされた写真に対して人工知能が自動的にタグをつける機能がありますが、
黒人2人組が写る写真に対し「ゴリラ」というタグが付けられる「事件」が発生しました。

ことの発端となったのはJacky Alcinéさんが行ったツイート。「Google Photosは最悪。私の友だちはゴリラじゃない」というメッセージと共に写真がアップされています。
高層ビル、飛行機、車、などは正しく認識されていますが、下段真ん中に写っているAlcinéさんと友人が「ゴリラ」と認識されていました。

さらに、AlcinéさんがGoogle Photos内で「ゴリラ」と検索をかけても2人の写真が検索されることから、「Googleはどういう写真からデータを集めているの?」と不信に思っていた様子。

AlcinéさんはすぐにGoogleのソーシャル部門のチーフ・アーキテクトであるYonatan Zungerさんに連絡。Zungerさんは謝罪すると共に「バグの報告をありがとう」と対応し、
Alcinéさんの許可を得てアカウントにアクセスすることで、その日のうちにバグは修正されました。

またZungerさんは「このようなことはよくあります」としつつも「マシン自体にバイアスはありませんが、我々が注意しないと彼らは容易に私たちから人種差別を『学んで』しまいます」とAlcinéさんにメッセージを送っています。
これは、インターネットには黒人とゴリラを結びつける差別的な情報があふれており、それをマシンが機械学習してしまう、ということだと考えられます。

現在、Google Photos内から「ゴリラ」というタグは削除されていますが、チームは依然「なぜ人間の顔が正しく認識されないのか?」ということを調査中。
このようなバグは初めてのことではなく、Zungerさんによると一度は人種に関わらず全ての人が「犬」と認識されることもあったそうです。

Googleの広報担当は「このような事態が起こり本当に申し訳ないです。同様の結果を招かないよう、迅速に対応していきます。
自動タグ付け機能にはまだまだ問題があり、今後、今回のような間違いを起こさないようにする方法を探っています」とコメントしています。

136: 不要不急の名無しさん 2020/07/02(木) 06:57:22.49 ID:LZfS7GW+0
>>79
googleの画像一覧で黒人と一緒に関連画像としてゴリラ出てくるみたいな話の事だと思う
相当前からある問題
108: 不要不急の名無しさん 2020/07/02(木) 06:52:24.59 ID:bj8cDMiu0
>>1
だがしかし、それは同じ地球に生を受けた類人猿の仲間たちへの差別ではなかろうか > BLM
151: 不要不急の名無しさん 2020/07/02(木) 06:59:42.43 ID:J5RZL3UB0
これ5年前の話題か。
元記事までたどらないと >>1 だけじゃ分からないんだよな。

またやらかした、まだ間違える、googleさんにインネンつけるために
わざと認識しにくい画像を使って認識プログラムを騙した、みたいな
新しいニュースかと思ったわ。

2: 不要不急の名無しさん 2020/07/02(木) 06:38:58.32 ID:cb/pzHIq0
黒人って認識難しいんだよな
3: 不要不急の名無しさん 2020/07/02(木) 06:39:05.79 ID:apscbXFW0
浜田はちゃんと認識されるの?
39: 不要不急の名無しさん 2020/07/02(木) 06:44:09.31 ID:ohQLrwpz0
>>3
黒人が浜田って認識されるよ
4: 不要不急の名無しさん 2020/07/02(木) 06:39:31.42 ID:q9uU51fC0
ゴリラが一緒にしてくれんなのあの画像
5: 不要不急の名無しさん 2020/07/02(木) 06:39:33.68 ID:/+tbobWf0
色情報に頼り過ぎるとこうなるわな。
10: 不要不急の名無しさん 2020/07/02(木) 06:40:08.36 ID:uE2Bwsij0
日本人はサルと誤認識されるのか
13: 不要不急の名無しさん 2020/07/02(木) 06:40:50.68 ID:dFf4sKOv0
前にもあったのに、またかよ
と思ったら、前のニュースだった・・・
17: 記憶たどり。 ★ 2020/07/02(木) 06:41:10.14 ID:IuRh6OCj9
ごめん。2015年の記事だった。
42: 不要不急の名無しさん 2020/07/02(木) 06:44:34.61 ID:Zi7CCElw0
>>17
面白かったら何でもアリか?
118: 不要不急の名無しさん 2020/07/02(木) 06:53:59.47 ID:g1jJElyd0
>>17
そんなニュースあったな。覚えてたわ。
27: 不要不急の名無しさん 2020/07/02(木) 06:42:43.92 ID:wlUzUiSW0
人間の目でも判別つかないんだから難しくね?
36: 不要不急の名無しさん 2020/07/02(木) 06:43:36.78 ID:SkCqHq8h0
コンピュータは正直だからな
38: 不要不急の名無しさん 2020/07/02(木) 06:44:08.52 ID:ztTzGOxY0
すごい前に見た
大体合ってる
43: 不要不急の名無しさん 2020/07/02(木) 06:44:42.72 ID:+mJpwwgD0
いくら教えても機械は納得しないだろ
人間が手動でタグ付けするしかない
45: 不要不急の名無しさん 2020/07/02(木) 06:44:51.35 ID:8chdQDmR0
ずいぶん以前のニュースだよ。
今は改善されてる。

画像の特徴を数値化して数値をAIが判断するので、特徴が似たものに誤認するのはあり得る。

70: 不要不急の名無しさん 2020/07/02(木) 06:47:42.71 ID:lDGa2mvM0
5年前の記事でスレ立てするのはあまりにひどい
78: 不要不急の名無しさん 2020/07/02(木) 06:48:35.53 ID:++Y2ALku0
大昔見た記事だったなw
81: 不要不急の名無しさん 2020/07/02(木) 06:48:57.95 ID:k1kIqwIh0
なんでお詫びするw
確かにゴリラと似てるし
機械は正直だなー

引用元: ・【おわび】Google Photosが黒人をゴリラと認識する事件が発生。開発者が謝罪 [記憶たどり。★]

あわせて読みたい

コメントを残す

メールアドレスが公開されることはありません。 * が付いている欄は必須項目です