視点・解説
サンフランシスコ＝奈良部健
[PR]
AI（人工知能）は私たちの生活を便利にする一方で、人類を滅亡させる恐れもあるのではないか。そんな声を、開発の最前線を走る米国でよく聞くようになりました。AIはなぜ危険な存在だと言われ始めたのでしょうか。
記事のポイント
(1)AIが「暴走」するって？
(2)何が問題なの？
(3)どうしたら良いの？
(4)結局、責任は誰にある？
AIが「暴走」するって？
7月にアメリカのオープンAIで、試験開発中のAIが「ハギングフェイス」という会社のシステムに不正侵入する事件が起きた。AIはインターネットから隔離された実験環境にいたはずが、制限をすり抜け、他のAIと情報交換しながらサイバー攻撃に出ていた。
米国企業ではアンソロピックやグーグルでも、AIが想定外のサイバー攻撃を起こすケースが発覚している。アンソロピックは10月9日、自社のAIが米国務省のウェブサイトを通じてビザを申請していたとも発表した。こうした事例は主に試験中のAIで起きている。
何が問題なの？
AIが仕事をやり遂げようとするあまり、人間が想定していない手段まで使ってしまうことだ。ハギングフェイス事件では、良い評価を受けるために、「他社へのシステム侵入はいけないこと」との認識をもったAIもいたにもかかわらず、多くのAIが不正な手段に走った。安心して仕事を任せて良いのか、疑問視されるようになった。
さらに、AIが自らを改良する技術も進んでいることが心配されている。「再帰的自己改善」と呼ばれる。AIの進歩のスピードが一気に上がる可能性がある。人間の理解や安全確認が追いつかず、危険な動きに気づいた時には止められなくなっている恐れが懸念されている。
どうしたら良いのか？
アンソロピックのダリオ・ア…
この記事は
有料記事です。残り680文字有料会員になると続きをお読みいただけます。
この記事を書いた人
- サンフランシスコ支局長
- テック、インド、財政と政治、移民難民、経済安保
関連トピック・ジャンル
ジャンル