Googleのような検索エンジンに無害な検索クエリを入力しても、ポルノなど、本質的に性的に露骨な膨大な量の結果が出ることがあります。2019年、ナタリー・モラレスという名前のアメリカの女優が「ラテン系のティーンエイジャー」をGoogleで検索しようとしましたが、これは必ずしもそのタイプのコンテンツでのみ使用される検索用語ではありませんが、彼女が見た結果はすべてポルノであることが判明しました。
これらすべてが言われ、今では邪魔にならないように、BERTと呼ばれる新しいAIを介して、さまざまな用語の明示的な検索結果を約で削減することに注意することが重要です。このAIは、誰かが明示的な検索結果を探しているのか、それとも通常の検索結果だけを探しているのかを把握しようと試み、前述の「Latina Teenager」のような検索クエリや「大学の寮の部屋」のような他のクエリは、主に通常の検索結果も備えています。
ここで注意すべき興味深いことは、追加の記述子なしで「ティーン」だけを検索すると、メンタルヘルスに苦しんでいるティーンエイジャーのためのリソース、ティーンエイジャーの生活に関する一般的な記事など、期待される通常の検索結果が表示される可能性が高いことです。ラテン系のティーンエイジャーにとって過度に性的に扱われた結果は、これが倫理的少数派を性的に扱うことになりかねない種類のものであり、その少数派の若すぎるメンバーがまだティーンエイジャーであるという事実のために有害であり得る。
Googleは、2013年に「Black girl」の検索結果が主にポルノでなくなるようにするなど、かなり長い間、あまり露骨でないページを表示するように検索結果を改善しようとしてきました。このテクノロジーの巨人は、自殺防止などに焦点を当てたMUMなどの他の形態のAIにも取り組んでおり、これらのステップは間違いなくGoogleをはるかに優れた検索エンジンにし、すべてのことが考慮され、考慮されます。