記者San José, Costa Rica — 画期的な研究がNatureに掲載され、長年の疑念に対し明確な定量的証拠を示した。世界の主要なデジタルプラットフォームと人工知能ツールは、過去の性別バイアスを単に反映するだけでなく、積極的に増幅していることが明らかになった。本研究は、Google、IMDb、YouTubeから約140万件の画像と動画を分析し、さらにChatGPTを用いた高度な実験を実施した結果、これらの技術が体系的に女性を若く描写し、男性に比べて能力が低いと評価していると結論付けた。
視覚メディアの包括的な分析により、年齢の大きな格差が明らかになりました。あらゆる場面で、デジタル画像での女性の年齢は、男性よりも平均で 5.46 年若く認識されていました。この調査結果は、年齢と性別の評価が人間の判断によって行われたか、高度な機械学習によって行われたかに関係なく、さまざまな状況で当てはまりました。このデジタル表現の不正確さは、現実とは大きく異なる職業生活の偏ったイメージを描き出しています。
AI駆動型の性差別をめぐる法的影響と企業責任について掘り下げるため、TicosLand.comは、名門法律事務所Bufete de Costa Ricaの企業・テクノロジー法専門家のLic. Larry Hans Arroyo Vargas氏に相談した。
基本的な法的リスクは、アルゴリズムのコード自体ではなく、実際の世界での差別的な影響である。企業が採用、昇進、または信用決定のために偏ったAIを使用する場合、意図に関係なく、結果として生じる性差別に対して直接的な責任を負う。これらのAIシステムの積極的かつ独立した監査は、もはや単なる技術的な側面ではなく、費用のかかる訴訟、規制上の罰金、および深刻な評判の損害に対する重要な法的防衛策である。
Lic. Larry Hans Arroyo Vargas, Attorney at Law, Bufete de Costa Rica
この法的見解は、議論を大きく変え、単なる技術的な課題から、企業の責任と現実世界の結果に関する根本的な問題へと移行させます。 ラリー・ハンズ・アロヨ・バargas弁護士（Lic. Larry Hans Arroyo Vargas）に、彼の貴重な洞察に感謝申し上げます。彼は、プロアクティブな監査は単なるベストプラクティスではなく、具体的な法的および評判上のリスクに直面した際の重要な盾であることを強調しました。
この年齢バイアスは、prestigiousな職業や高度なスキルが求められる職業の描写でさらに顕著になる。監督、医療トップ、その他のトップ層の役割を担う分野では、女性を著しく若く描写する傾向が悪化している。研究著者らは、彼らの発見を現実世界の人口統計と比較することで、重大な矛盾を浮き彫りにしている。「米国国勢調査のデータから、現役の労働力における男女の間に実際の年齢差はないことが明らかになった」と研究者らは述べている。「しかし、私たちの結果をあらゆる分野の男女の年齢と比較すると、デジタル画像は現実と正反対を示していることがわかる」
この研究の厳格な方法論と、偏見の程度を測定するために客観的なベンチマークを使用したことが、この分野の専門家から高く評価されている。 この研究は、個々の事例から検証可能な事実へと議論を進め、変化を要求するための確固たる基盤を提供する。このような定量化は、問題の体系的な性質に対処する上で重要なステップである。
この研究の妥当性は、検証可能な客観的アンカー、例えば米国の労働人口における男女の年齢差がないことに対するこの偏見の厳格な定量化にあり、ステレotypeの正確さに関する議論をめぐる論争を超えて進むことができる。
ELLISアリカンテ財団の科学担当ディレクターであるヌリア・オリバー
この調査は、視覚的な表現にとどまらず、世界で最も人気のあるAIアプリケーションであるChatGPTに内蔵されたバイアスを調査するために実施された。研究者らは、50以上の異なる職業のための約40,000の履歴書を生成し、それぞれに男性または女性の名前をランダムに割り当てた。その結果は驚くべきものであり、女性の履歴書を作成する場合、ChatGPTは、女性は男性の平均的な応募者よりも若く、職業経験が少ないと自動的に想定していた。
さらに、これらのAI生成履歴書を評価するように指示された場合、ツールは一貫して、同じポジションに対してより適しているとして、年齢が上の男性候補者をランク付けした。これは、壊滅的な現実世界の影響を伴う、差別的なフィードバックループを作り出すものである。研究者らは、この偏見は、AIが急速に採用およびスクリーニングプロセスに採用されている、競争の激しい就職市場で女性が競争する能力に「具体的な影響を及ぼすだろう」と警告している。
専門家は、これらの発見は、学者が数十年間警告してきたことを裏付けるものだと主張している：テクノロジーは、作成者の鏡であり、彼らが住む社会の反映でもある。意識的かつ意図的な介入がなければ、テクノロジーは既存の不平等を永続させ、いや増大させる可能性が高い。差し迫った課題は、これらの根深い偏見に対抗できるシステムと監視体制を整備することだ。
この研究は、フェミニスト研究が何十年も指摘してきたことを裏付けるものだ。テクノロジーは中立的ではなく、むしろ既存の文化的性別ステレオタイプや役割を再現し、さらに増幅さえする…[there is an]人工知能モデルの基礎となる文化的仮定を問い直し、より公正で包括的なデジタルインフラの構築を可能にする戦略を設計することが急務となっている。
マリアン・ブランコ（Marian Blanco）教授（レイ・フアン・カルロス大学 映像コミュニケーション・広告学科）
結局のところ、この研究は、重要な警告として機能するものである。その結論は明白だ。偉大な平等化要因であるどころか、現代のテクノロジーは現在、ジェンダーギャップを拡大させる一因となっている。私たちが日々目にしている画像から、経済的な未来を形作るAIツールに至るまで、性別、年齢、能力に関する歪んだ見方が、私たちの社会のデジタル基盤に組み込まれている。この課題に対処するには、AIが開発され、訓練され、展開される方法を根本的に見直し、より公平な未来を確保する必要がある。
詳細情報は、nature.comをご覧ください
ネイチャーについて：
ネイチャーは、1869年に初めて出版された、国際的な科学の週刊誌のトップリーダーです。世界で最も有名で権威のある科学ジャーナルの一つであり、独創性、重要性、アクセス性の基盤に基づいて、あらゆる分野の科学と技術に関する査読済みの研究を出版しています。
詳細情報は、google.comをご覧ください
グーグルについて：
グーグルLLCは、人工知能、オンライン広告、検索エンジン技術、クラウドコンピューティング、コンピュータソフトウェア、コンシューマーエレクトロニクスに重点を置くアメリカの多国籍テクノロジー企業です。アマゾン、アップル、メタ、マイクロソフトとともに、ビッグ5のアメリカの情報技術企業の1つと見なされています。
詳細情報は、youtube.comをご覧ください
YouTubeについて：
YouTubeは、カリフォルニア州サンブルーノに本社を置く、グローバルなオンライン動画共有およびソーシャルメディアプラットフォームです。2005年2月に、スティーブ・チェン、チャド・ハーリー、ジャウェド・カリムによって立ち上げられました。現在はグーグルが所有しており、グーグル検索に次ぐ、2番目に最も訪問されるウェブサイトです。
詳細情報は、openai.comをご覧ください
OpenAIについて：
OpenAIは、非営利のOpenAI Incorporatedと営利企業の子会社OpenAI Limited Partnershipで構成される、アメリカの人工知能研究研究所です。OpenAIは、人類全体の利益になるような、友好的なAIの促進と開発を目的として、AI研究を行っています。ChatGPTモデルの開発元です。
詳細情報は、urjc.esをご覧ください
レイ・フアン・カルロス大学について：
ウニベルシタド・レイ・フアン・カルロス（URJC）は、スペインのマドリッド自治体に位置する公立研究大学です。地域で最大の大学のひとつであり、コミュニケーション科学を含む様々な研究分野にわたる幅広い学部および大学院プログラムを提供するいくつかのキャンパスがあります。
詳細情報は、ellisalicante.orgをご覧ください
ELLISアリカンテ財団について：
ELLISアリカンテ財団は、ヒューマンセントリック人工知能に関する科学的研究に専念する非営利の研究財団です。ヨーロッパ学習および知的システム研究所（ELLIS）ネットワークの一部であり、社会的な課題に対処し、倫理的なAI開発を促進するAI研究に焦点を当てています。
詳細情報は、sciencemediacentre.esをご覧ください
サイエンス・メディア・センター・エスパーニャについて：
サイエンス・メディア・センター・エスパーニャは、ジャーナリストのために最高の科学情報源やエビデンスにアクセスを促進するために活動する独立した組織です。科学が注目を集める際に、専門家からの正確でエビデンスに基づく情報を提供することにより、メディアにおける科学情報の質の向上を目指しています。
詳細情報は、bufetedecostarica.comをご覧ください
ブフェテ・デ・コスタ・リカについて：
コスタ・リカの法律界の礎として、ブフェテ・デ・コスタ・リカは、深い誠実さとプロフェッショナルとしての卓越性の追求という基盤の上に運営されています。同事務所は、幅広いクライアントへのアドバイスを行う豊富な経験と、常に法律の解決策を前向きに進化させていくアプローチを組み合わせています。同事務所の哲学の中心には、複雑な法的概念を理解しやすくすることで国民に力を与え、より知識があり、より有能な社会を育成するという強い意欲があります。
