Issue link: https://trendsintech-japan.mouser.com/i/1540382
AIの倫理的ジレンマの再考 カイル・デント、マウザー・エレクトロニクス 人工知能（AI）に焦点を当てた 「Methods」2021号では、AIがもた らす多大な恩恵の可能性と、危害を もたらすリスクとを、社会はどのよ うに天秤にかけるべきかを考察しま した。この新しい技術を考慮し、そ の影響について大局的な質問を投げ かけ、新しいツールの限界に注意を 払うことを提案しました。 それ以来、 想像を絶するほど大規模なデータセ ットで訓練されたジェネレーティブ AIが登場し、話題を独占するように なりました。この急成長するテクノ ロジーを生活のあらゆる面に適用し ようと躍起になっている現在の状況 は、私たちが想像していたような慎 重なアプローチとは程遠いものです。 AIの最新の発展は、私たちの倫理的パ ラドックスをエスカレートさせていま す。AIの急速な普及は、しばしば思慮 深い考察よりもイノベーショ ンを優先 させ、見過ごすことのできない現実の 結果を招く危険性をはらんでいるた め、慎重かつ倫理的なアプロ ーチがま すます重要になっています。 AI導入の倫理的リスク OpenAI、Google、Anthropicのよう な主要なAI企業が大きな成果を上げ ています。大規模言語モデル（LLM） やその他の生成モデルは、典型的な 音声アシスタントを 明らかに超える 世代です。あなたが何を望んでいるか をプロンプトで伝えれば、ほとんどの 場合、彼らはそれを実現します。質問 をしたり、論文や記事を作成したり、 新しい作品を作ったり、複雑な数学や 論理の問題を解くこともできます。生 成AI（gen AI）は有望であるにもかか わらず、実社会への早急な導入は 問題がないわけではありません。 十分な監視なしにAIを使用すること は、倫理的に重大な問題を引き起こし ます。例えば、OpenAIは音声認識 テープ起こしツール「Whisper」を 「 人間レベルの堅牢性と精度に近づい ている」と宣伝しています。 1 Whisperは印象的な音声テキスト変換 機能を提供する一方で、発話されな かったテキストを単純に発明したこと もあります。 2 このようなAIの幻覚 は、知られているように、LLMとのあ らゆる相互作用で発生する可能性があ ります。問題の程度は明らかではあり ませんが、2023年に行われたコーネ ル大学の研究によると、ウィスパー・ アプリケーション・プログラミング・ インターフェイス（API）を通して実 行された13,140の音声サンプルのう ち、書き起こしの1.4パーセントに幻 覚が含まれていました。 これらの幻覚 のうち38％は、暴力、捏造された名 前、その他の不正確な情報、または音 声サンプルで言及されていないウェブ サイトへの言及を示しました。 3 この ような欠陥が知られているにもかかわ らず、病院をはじめとするミッショ ン・クリティカルな機関は、その結 果 についてほとんど考慮することなく、 この技術を導入し続けています。 ニュース業界も、もうひとつの教 訓を示しています。業務効率の向 上を願って、ジャーナリストや編集 者は驚くほど多くのテクノロジーを 採用しています。それが実際に時 間の節約になるかどうかは定かで はありません。なぜなら、信頼性 の高いニュース機関は、調査と同 じだけの時間を事実確認に費やすか らです。信頼性の低い組織は、AIで 生成した記事を完全に公開しまし たが、その記事に捏造情報が含ま れていたため、後にそれを撤回し ました。 4 倫理的な影響は明らかで す。厳格な監督がなければ、これら のツールは重要な機関に対する国民 の信頼を損なう危険性があります。 一方、従来のAIモデルは、仕事のパ フォーマンス、採用、融資、刑事司 法など、人間の生活に大きな影響を 与える意思決定に引き続き活用され ています。ベントレー大学とギャラ ップが2024年に実施した調査による と、調査対象となったアメリカ人の 56％がAIツールを本質的に中立的な ものと捉えていることが明らかにな りました。 5 しかし、AI モデルを開 発するのは人間であり、そのモデル のトレーニング方法についても決定 を下さなければなりません。トレーニ ングに使用するデータを選択し、結 果に影響を与えるトレードオフを判 23 |