Smith Collection/Gado/Getty Images
AIに関する政策転換を求める声、そして、AIが重要システムを乗っ取って人類を絶滅させるとの警告が発せられたことにより、AIに対する人々の恐怖はかつてないほど高まっている。しかし専門家らは、人々の医療へのアクセスを拒み、住宅の割り当てを左右し、刑事判決を自動化するようなAIの偏見(バイアス)によって、社会的弱者はすでに不利益やリスクに晒されていると指摘する。
アルゴリズミック・ジャスティス・リーグの創設者であるジョイ・ボロムウィニは、AIのリスクを「人類存亡の危機」だけに絞って捉えることは本質的にエリート主義的な考えであり、すでに貧困層が苦しむ被害から目を背けさせるものだと主張している。
ボロムウィニの研究は、彼女が「コード化された視線」と呼ぶ概念を中心としている。これは、システムの開発者の偏見や好みがソフトウェアに直接組み込まれるという、現在では実証されている考え方だ。AIの訓練に使用されるデータセットが歴史的に白人男性に偏ってきたため、現在のAIモデルそのものも同様の偏りを抱えているという。
『ジェンダー・シェイズ(性別の陰影)』と名付けられた同研究によると、主要な顔認識ツールは、肌の明るい男性に対するエラー率が1%未満であったのに対し、肌の暗い女性に対するエラー率は35%から最大47%に上ることが判明した。このような技術的な欠陥は、全米各地で黒人男性の不当逮捕につながっている。
不動産管理会社が入居希望者を評価するために使用しているアルゴリズムが、資格を満たしている低所得の応募者を、何の説明も、救済措置もなく拒絶していることも判明している。
入居者審査会社のセーフレント・ソリューションズは、同社のアルゴリズムが黒人やヒスパニック系の応募者、そして政府の住宅補助金を利用する借り手に対して不当に低いスコアを割り当てていたとして、400人以上の原告から提訴され、230万ドル(約3億6800万円)での和解を余儀なくされた。
科学誌『Science』に発表された画期的な研究では、民間企業が提供する医療用のアルゴリズムが過去の医療費の支出額を医療ニーズの指標として使用していたため、同じ病状の黒人患者よりも白人患者に優先して追加の医療ケアを割り当てていたことを明らかにした。構造的な不平等により、歴史的に黒人患者に費やされる金額が少なかったため、システムは黒人患者のほうが「健康である」と結論づけていたのだ。
こうしたアルゴリズムに内包された偏見は、自動化された採用審査や雇用、犯罪予測システム、そして児童福祉機関におけるリスク予測モデルの分野でも発見されている。
投資会社ファウンデーション・キャピタルのパートナーであるジョアン・チェンは、2018年に開催されたSXSW(サウス・バイ・サウスウエスト)で、「AIは偏見を含めた現在の世界をありのままに描写することには長けているが、世界がどうあるべきかを知らない」と語った。
アマゾンは、社内のAI採用システムが「女性の」という単語を含む履歴書や女子大学の卒業生を機械的に低く評価していることに気づき、このシステムを破棄した。男性優位のテクノロジー業界から集められた過去10年分の採用データを元に訓練されたため、AIは男性の候補者が好ましいと学習してしまったのだ。
業界関係者からの警告が相次いだことを受け、AI開発大手のCEOたちは、安全性や法規制の当局が追いつくための猶予を設けるべく、最先端モデルの開発減速を呼びかけている。アンソロピックのアライメント科学部門で責任者を務めるエヴァン・ヒュービンジャーは先週、人間の意図と合致しないAIによって今後10年以内に人類が滅亡する確率は10%以上あると述べた。また、アンソロピックとOpenAIの両社で研究者を務めたジェイコブ・コクソンは、これらのツールを作っている当人たちが「2020年代の終わりまでにAIが私たち全員を殺す可能性があると本気で信じている」と語っている。
この他の業界関係者も同様の警告を発しており、AI企業の従業員1300人以上が「ペーシング・ザ・フロンティア(最先端技術のペース調整)」と呼ばれる取り組みに署名した。これは、自己改善の道を歩み始めているソフトウェアに対し、開発者側の理解が追いつくための猶予を設けることを目的としている。
AIが終末をもたらすとの危機論は、周期的に繰り返される「テクノロジー・パニック」の一例にすぎないと言う者もいれば、AIがすでに引き起こしている現実世界の被害から一般市民や議員の目をそらさせるためのものだと主張する者もいる。
AIの危険性を公表した後にグーグルを去ったコンピューター科学者のティムニット・ゲブルは、終末論的な予測はAIがもたらす「真の人類存亡の危機」を覆い隠してしまうと指摘する。その真の危機とは、この技術が広まることで起きる大規模なレイオフや、巨大なデータセンターによって悪化の一途をたどる気候変動など、すでに目前にある危機のことだ。
同じくグーグル出身のマーガレット・ミッチェルも、人類滅亡という極端なシナリオにばかり注目が集まることで、議員の関心が業界向けの新たな規制づくりに向けられ、労働搾取や著作権侵害、環境破壊、アルゴリズムが持つ偏見などから彼らの目がそらされてしまうと語っている。一方で、歴史上、革新的なツールを人類存亡の危機と見なしてきた例は多くあると主張する声もあり、著名投資家のマーク・アンドリーセンは、AIを火の発見などの技術的進化に例え、それは人間の主体性を奪うものではなく生産性を増幅させるものだと述べている。
参照元:https://forbesjapan.com/
<script type="text/javascript">rakuten_design="slide";rakuten_affiliateId="02e50bba.f2a126fb.0927ab5d.6c3791f6";rakuten_items="ctsmatch";rakuten_genreId="0";rakuten_size="468x160";rakuten_target="_blank";rakuten_theme="gray";rakuten_border="off";rakuten_auto_mode="on";rakuten_genre_title="off";rakuten_recommend="on";rakuten_ts="1789515014847";</script><script type="text/javascript" src="https://xml.affiliate.rakuten.co.jp/widget/js/rakuten_widget.js?20230106"></script>