Issue link: https://trendsintech-japan.mouser.com/i/1540382
断します。AI開発で使用されるさま ざまな標準的なパフォーマンス指標 は互いに矛盾しており、開発者は その決定を倫理的な観点から考慮す ることなく、技術に倫理的な選択を 組み込むことになってしまいます。 公的機関は、採用する技術の意義を 特に考慮する必要があります。警 察は、犯罪の発生確率を予測する 顔認識アプリケーションやシス テムを導入する前に、どのような プロセスを踏んでいるのでしょう か？この技術を使用する前に、職 員はどのような研修を受けていま すか？私たちは、私たちに代わって 業務を行う組織に対して、このよ うな質問をする必要があります。 それでも、AI ブームは続いていま す。雑誌「WIRED」と Lighthouse Reports は、オランダのロッテルダ ム市において、福祉の不正受給を検 出するためのアルゴリズムによる機 械学習システムの活用について調査 しました。 6 WIRED 誌と Lighthouse Reports は、このシステムの分析結 果を分析し、このモデルは、システ ム内の実際の不正行為を特定する上 で、ランダムに推測する程度しか機 能しておらず、アルゴリズムの偏見 により、特定の集団が差別を受ける 可能性があると結論付けました。ロ ッテルダムはその後、福祉詐欺検出 システムを廃止しましたが、同様のシ ステムは世界中でさまざまな政府機 関によって、市民にはほとんど知ら れていない形で利用されています。 7 ノースカロライナ州立大学の家族とコ ミュニティの関与センターも、AI に よる意思決定は、偏ったトレーニン グデータや開発者の無意識の偏見に より差別を永続させ、体系的な不平 等を強化することで、周縁化された コミュニティに害を及ぼす可能性が あることを発見しました。 8 不公正な リスク評価、データプライバシーの 懸念、人間の監視の欠如などの問題 は、深刻な倫理的課題を引き起こし ます。それでも、AI は、事務作業を 効率化し、ソーシャルワーカーのバ ーンアウトを軽減することで、児童福 祉の向上に貢献する可能性を秘めて います。課題は、偏見を防ぎ、脆弱 な人々を保護するための厳格な監督と 安全対策により、AI が倫理的に導入 されるよう確保することです。ノース カロライナ州立大学の「Embedding AI in Society Ethically (EASE)」セン ターのような取り組みは、こうした 懸念に対処し、児童福祉などの社会 制度に AI を責任を持って統合する上 で、重要な役割を果たしています。 倫理的な AI の可能性 責任を持って開発・導入された場 合、AI は、社会が直面する課題のい くつかを解決する可能性があります。 医療分野では、AI は、従来のスクリ ーニング手法と高度なアルゴリズムを 組み合わせることで、ベトナムの結 核の検出に革命をもたらし、より迅 速かつ正確な診断を可能にしました。 9 結核は、多くの遠隔地、特に高価 な医療機器や専門知識が容易に入手 できない地域では、治療が困難です。 数百万件の短い音声記録で訓練され た高度な技術を搭載した標準的なスマ ートフォンが、世界でも最も感染力の 強い感染症のひとつを早期発見する ために活用されています。この技術 は、単に人々の咳を聞くだけです。 10 同様に、AI を活用した創薬ツール は、救命薬の特定を加速させ、公衆 衛生の成果を大きく変革する可能性 があります。 11 抗生物質を開発する 方法のひとつには、細菌の DNA を 非常に複雑に配列決定する方法が あります。 12 ChatGPTのようなエ ージェントで使用されているものと 同様の基礎モデルが、ますます耐 性を持つ細菌に対抗できる可能性 のある有効な薬剤のライブラリを構 築するために活用されています。 教育分野では、AI を活用した個別 学習プラットフォームが、個々の ニーズに合わせた指導を行うこと で、生徒の理解度の格差を埋める役 割を果たしています。人間の監視と 組み合わせることで、このような ツールは、公平性と進歩を促進する AI の倫理的な可能性を実証してい ます。消滅しつつある先住民の言語 の保存というニッチな作業も、AI の 最近の進歩の恩恵を受けることがで きます。これらは通常、解決に必要 な注目や資金を得られない社会問 題です。しかし、AIツールを手にす れば、科学者や活動家は、世界が「 より大きな」問題に直面していると しても、自分たちが重要だと考える 課題に取り組むことができます。 AIの二重の性質に対処する倫理 的義務 本質的に、AI は両刃の剣です。人間 の創意工夫を増幅する一方で、体系 的な不平等を定着させる可能性も秘 めています。開発者、政策立案者、 そして社会全体が、この緊張関係を うまく乗り切る責任があります。AI の開発および導入のあらゆる段階に おいて、その利用がより広範な社会 的価値観と整合性を保つよう、倫理 原則が基盤となる必要があります。 このような形で人々に影響を与える 技術を使用する前に、少なくとも 以下の倫理原則を適用すべきです。 • 透明性と説明責任： AI システム、 特にリスクの高い環境で導入され る AI システムは、監査可能で説明 可能でなければなりません。これら のシステムによる決定は、専門家 以外でも理解できるものでなけれ ばなりません。これにより、信頼と 説明責任が促進されます。 | 26