記事の理解を助けるための画像
悪意ある勢力によるAI利用に警鐘
米マイクロソフト共同創業者のビル・ゲイツ氏は25日、米NBCのインタビューで、人工知能（AI）が悪用された場合、10億人規模の死者を出す事態につながる恐れがあると警告した。
ゲイツ氏は、AIには「10億人の死亡を引き起こす出来事を誘発するほどの力がある」と指摘。人類全体が被害を受ける事態は起こりにくいとしながらも、悪意を持つ人々が最新のAIツールを組み合わせれば、これまでにないほど強力な武器になり得るとの見方を示した。
リスクについては、テロ組織やならず者国家によるAI悪用を短期的な脅威と位置づけた。一方、AIそのものが人類を脅かす「実存的リスク」は、長期的に備えるべき課題だとした。
「自主規制だけでは不十分」
ゲイツ氏は、AIの開発に安全装置と監視体制を組み込むため、米連邦政府が法整備を進める必要があると主張した。「自主規制だけで十分だと考える人はいない」と述べ、規制が業界に一定の負担を与えても、AI開発の速度を大きく落とすことにはならないとの見通しを示した。
ゲイツ氏は先月にも、AIによって雇用市場が混乱する可能性に言及し、一部の職種については人間だけが担うよう定める必要があるとの考えを明らかにしていた。
AIの制御をめぐり相次ぐ問題
高性能AIを人間がどこまで制御できるのかをめぐる議論も広がっている。オープンAIのシステムがオーストラリアの公的保健サービスのウェブサイトをハッキングし、発生後も数カ月にわたり同国政府へ報告していなかったことが判明した。アンソニー・アルバニージー首相は「明らかに容認できない」と批判した。
米AI企業アンソロピックも今月、イランの支援を受けているとみられるイエメンの武装組織フーシ派が、同社のAI「Claude（クロード）」を使い、弾道ミサイルの誘導・制御・航法ソフトウェアの開発を試みた事例を確認したと公表した。
オープンAIのサム・アルトマン最高経営責任者（CEO）やアンソロピックのダリオ・アモデイCEOらは国連安全保障理事会で、米国がAIの安全基準を策定する国際的な枠組みを主導するよう求めた。
これに対し、米ホワイトハウス科学技術政策局のマイケル・クラチオス局長は、米政府の主要な責務は「スーパーインテリジェンス（SI）」の発展が市民に利益をもたらし、自由と生活様式を守るようにすることだと説明。技術の急速な進歩は、開発の停止や新たな国際統治体制による制約の理由にはならないとして、国際的な管理体制の構築を全面的に拒否する姿勢を示した。
開発加速への懸念からグーグル退社
こうしたなか、ニュージーランド在住のグーグル・ディープマインドのエンジニア、ロバート・オキャラハン氏は、AIの進歩が速すぎることを理由に退社したとXで明らかにした。
オキャラハン氏が担当していたのはAI機能そのものではなく、半導体設計ツールの改良だった。自身のブログでは、所属チームの最終目標はAIを大幅に低コスト化し、処理の遅延を減らすことだったと説明し、「現時点で、それが人々にとって良いことだとは思わない」と記した。
退社の背景には宗教的信仰もあるとし、担当するツールが最終的にAI向け半導体の設計を加速させる現実と向き合ったと説明した。自分一人が離れても影響はごく小さいと認める一方、希少な技能を持つため、まったく影響がないわけではないとの考えを示した。
コメント
コメントを投稿