大手テクノロジー企業は、多くの場合、生成されたアルゴリズムのバイアスにつながるAIを訓練するために白人男性を使用しています。AIモノリスグーグルは、このバイアスを排除するための努力を披露します。
何年も働いた後、同社はコンセプト活性化ベクトル(TCAV)でのテストとして知られている彼の方法の1つを導入しました。グーグルの最高経営責任者(CEO)、スンダル・ピチャイは、 .
この分析ツールを使用すると、開発者はサンプルが AI によってどのように推論されるか、アルゴリズムがどのように評価されるか、および AI の概念をサンプルとリンクするかを判断できます。グループpfピクセルは、ニューラルネットワークによって分析され、画像を研究します。TCAVはそれからネットワークが好む人間に従ってそれの最も関連性があり、最も近い概念を見るためにそれの深さに行く。
TCAVは分析と検出のみ可能ですが、開発者自身はTCAVに依存して修正するのではなく、AIの問題を修正する必要があります。しかし、正しく使用すれば、進歩に向けた重要なステップです。
バイアスを減らすためにもう一つの開発が.これは、専門用語、一般的ではないが、ユーザーの一部がそれを使用する単語について他のユーザーを示唆するGboardに適用されます。
Googleは携帯電話にマスターワードデータベースモデルを提供し、Gboardを使用して珍しい単語が入力されるたびに、デバイスのトレーニングデータに送信されます。文全体は取得されず、その一意の単語だけがデバイスによってGoogleに送信されます。
ユーザーからフォトネガティブを収集することは、開発者がサンプリングにマスデータを使用するのに役立ちます。
AIの潜在的なバイアスを克服するためには、他の政府当局など、ますます一般的になっているため、さらに多くの努力が必要です。