8年前の2015年、テクノロジーの巨人であるGoogleは、写真に描かれている個人、場所、アイテムを分類してタグ付けできる独立した写真アプリケーションを立ち上げました。
、アフリカ系のソフトウェアエンジニアであるジャッキーアルシネは、同社に宛ててツイートし、写真アプリケーションでハイテク巨人が採用している画像識別ソフトウェアが、彼自身と彼の仲間の写真を一貫して「ゴリラ」と誤認していることを強調しました。
ニューヨークを拠点とするエンジニアは、ツイッターで懸念を表明し、これらのひどい結果につながった会社が使用したテスト写真に疑問を呈しました。
Googleは、この誤りに対する深いショックを表明し、Alcinéに謝罪した。彼らはまた、問題を解決するために働くことを保証しました。
Googleの代表者の1人は、「ゴリラ」という用語は写真の分類には使用されないことを明らかにしました。さらに、彼は同社が問題の恒久的な解決に焦点を合わせると述べた。同社は、8年前にGoogleフォトアプリを導入したときにこの不幸な間違いに最初に遭遇し、サンプリングコンテンツが有色人種の十分な表現を欠いていることを認めました。驚いたことに、これらの年と人工知能(AI)技術の分野における大幅な進歩の後でさえ、技術の巨人はまだ強調されている問題を修正していません。
同社は、別の有害な誤分類の可能性をつかむ代わりに、写真識別システムを無効にして、同じ種のゴリラなどを発見しないようにし、それによってサービスの機能を制限することを決定しました。
さらに調査するために、通信社は、認識アプリケーション内の人間、動物、およびアイテムを含むいくつかのサンプルコンテンツを調べました。システムは、さまざまな動物に対する質問の画像を指摘することに成功しました。しかし、ゴリラにクエリが設定されたとき、システムは関連する画像を指摘できませんでした。この調査により、Apple Photosは同じ動物のコンテンツを特定しようとしたときにも問題に直面したことが明らかになりました。Apple Photosも同様に、エラーの懸念から霊長類を視覚的に検索する機能を無効にしています。
このレポートは、テクノロジー企業が画像分析技術を改善する際に直面する困難な障害と、AIに存在する偏見、特に暗いトーンの人々の識別において明らかになりました。
Appleは研究について何の回答も拒否したが、Googleの代表者は、彼らの写真アプリは何かをゴリラとしてマークすることを控えたと述べた。