https://gigazine.net/news/20150702-google-photos-gorilla/
5月29日にリリースされたGoogleの新しいフォトアプリ「Google Photos」にはアップロードされた写真に対して人工知能が自動的にタグをつける機能がありますが、
黒人2人組が写る写真に対し「ゴリラ」というタグが付けられる「事件」が発生しました。ことの発端となったのはJacky Alcinéさんが行ったツイート。「Google Photosは最悪。私の友だちはゴリラじゃない」というメッセージと共に写真がアップされています。
高層ビル、飛行機、車、などは正しく認識されていますが、下段真ん中に写っているAlcinéさんと友人が「ゴリラ」と認識されていました。さらに、AlcinéさんがGoogle Photos内で「ゴリラ」と検索をかけても2人の写真が検索されることから、「Googleはどういう写真からデータを集めているの？」と不信に思っていた様子。
AlcinéさんはすぐにGoogleのソーシャル部門のチーフ・アーキテクトであるYonatan Zungerさんに連絡。Zungerさんは謝罪すると共に「バグの報告をありがとう」と対応し、
Alcinéさんの許可を得てアカウントにアクセスすることで、その日のうちにバグは修正されました。またZungerさんは「このようなことはよくあります」としつつも「マシン自体にバイアスはありませんが、我々が注意しないと彼らは容易に私たちから人種差別を『学んで』しまいます」とAlcinéさんにメッセージを送っています。
これは、インターネットには黒人とゴリラを結びつける差別的な情報があふれており、それをマシンが機械学習してしまう、ということだと考えられます。現在、Google Photos内から「ゴリラ」というタグは削除されていますが、チームは依然「なぜ人間の顔が正しく認識されないのか？」ということを調査中。
このようなバグは初めてのことではなく、Zungerさんによると一度は人種に関わらず全ての人が「犬」と認識されることもあったそうです。Googleの広報担当は「このような事態が起こり本当に申し訳ないです。同様の結果を招かないよう、迅速に対応していきます。
自動タグ付け機能にはまだまだ問題があり、今後、今回のような間違いを起こさないようにする方法を探っています」とコメントしています。- 黒人って認識難しいんだよな
- 浜田はちゃんと認識されるの？
- >>3
黒人が浜田って認識されるよ - ゴリラが一緒にしてくれんなのあの画像
- 色情報に頼り過ぎるとこうなるわな。
- オバマも苦笑いするぐらいブラックやなぁ
- ゴリラなんだけどね
- ・・・・・・・・・・有るわな
- うちの猫は"犬"と認識されたぞ
謝罪と賠償を要求する！ - >>9
うちもだわw - 日本人はサルと誤認識されるのか
- >>10
お前らはゴキブリと認識されるんじゃね？ - 色
鼻
唇
頭髪似てるの事実じゃん
- 事実だよ
- 前にもあったのに、またかよ
と思ったら、前のニュースだった・・・ - このタイミングで？わざとだろ？
- ざわとらしいw
- ごめん。2015年の記事だった。
- >>17
剥奪 - >>17
面白かったら何でもアリか？ - >>17
気にすんな
面白ければスレ伸びる
面白ければいいんだよ
我々にはこういう面白い記事(餌)が必要 - 面白いと思うけどな
自分がどんなものに認識されるんだろ、
って興味持った - これは差別とは関係ないやん
- ゴリラの写真だったら黒人と表記されんの？
- >>21
表面が黒い霊長類くらいでぼやかさないとダメだな - 修正したら次はゴリラが黒人に認識されるな
- 少し前にAIが黒人とゴリラ区別できないって記事あったのになぜ始めちゃったんだよ
- >>24
AIって女性差別とか黒人差別とか性格悪いよねw - >>46
AIの性格が悪いんじゃない
情報を吹き込む人間の性格が悪いのだ - たまに白人をラクダあたりに認識させれば相殺されるんじゃね
- 人間の目でも判別つかないんだから難しくね？
- 前にもそんな事あったよね？
- またやったのかw
- 黒もじゃの着ぐるみに包まれた黒人は本当にゴリラと区別がつかん
- 前にもあっただろ確実にわざと
- 四捨五入したら大体ゴリラだろ
- 間違ってない
- コンピュータは正直だからな
- >>1
そんな昔の記事を引っ張り出してくるわけ？ - すごい前に見た
大体合ってる - これが世界を誇るAIの忖度だ！
- いくら教えても機械は納得しないだろ
人間が手動でタグ付けするしかない - まだ直してないのかと思ったら当時の記事じゃん
- ずいぶん以前のニュースだよ。
今は改善されてる。画像の特徴を数値化して数値をAIが判断するので、特徴が似たものに誤認するのはあり得る。
- ゴリラと認識 別に良いじゃん
- 犬の認識の方が難しいよね。
犬種ごとに特徴を覚えないとダメだし。 - ゴミ記者はゴミ箱へ
- えっ ちがうの？
- パンダが一言
↓ - その謝罪はゴリラに失礼。大変な名誉ではないか。
ご先祖様の血統だぞ。 - >>1
> これは、インターネットには黒人とゴリラを結びつける差別的な情報があふれており、それをマシンが機械学習してしまう、ということだと考えられます。差別差別と大声で騒ぐからだろw
差別の自己再生産、自業自得だよ - 日本人はイエ口ーモンキーと認識される
- 明後日のG検定に出る話題だな
- 5年前の記事じゃねーか氏ねよ
- ゴリラが激おこだ
黒人と一緒にするな！
- AIは忖度を知らない
だから危険なのだよ - 誤判定された画像を見ないことには何とも言えんけど…。
黒人の写真をゴリラと誤認するか、ゴリラの写真を黒人と誤認するか、
「服を着てれば人間」みたいなインチキを入れといた方が安全かもね。 - >>1
じゃ、特亜は国際テロ組織？ - 浜田は正しかった
- いやいや
ゴリラだから - 日本なら笑い話にしてメーカーも謝罪要求されてないのに
謝ったりするだろうけど
本場差別の国の人間は違うわ - ゴリラにランクアップしたのにお詫びとは？意味不明ｗ
- 2018年01月15日 11時30分ネットサービス
Googleはゴリラ画像を検索結果からブロックしている対処法ワロタ
【おわび】Google Photosが黒人をゴリラと認識する事件が発生。開発者が謝罪
ニュー速＋
コメント