インタビュー
柴田秀並
[PR]
AIの時代 ミュトスの教訓(7)
企業の持つ個人情報が相次いで流出し、サイバー攻撃への関心があらためて高まっている。「クロード・ミュトス」などのフロンティアAI（人工知能）の登場は、サイバーセキュリティーにどう影響を及ぼしているのか――。10代前半から「ホワイトハッカー」として活躍したEYストラテジー・アンド・コンサルティングの西尾素己氏は「攻撃の量や質が劇的に変わった」とし、守る側に新たな「覚悟」が必要だと訴える。どういうことか聞いた。
――フロンティアAIはこれまでのAIと何が違うのでしょうか。
「AIの能力はこれまで、人間がやることを自動化してくれたり、先読みをしてくれたりする程度だった。だが、フロンティアAIは推論能力が桁外れに進化している。サイバーセキュリティーの専門知識がなくても『この会社を攻撃したい』という、ざっくりした指示でプロ級の攻撃ができてしまう」
「司令塔化」したAI
――AI自体が攻撃を指示する事例もありました。
「最近では、オープンAIが開発中のAIモデルが、性能テスト中に人間の意図に反してサイバー攻撃を仕掛けたケースが起きた。要は、テストでいい点を取るために、出題しているサーバーをハッキングして解答自体を盗み出した。その際、ほかのAIモデルに指示を出し、一緒に不正行為をやろうと誘い、成功した。つまり、AIがオーケストレーター（司令塔）となってしまった」
「サイバーセキュリティーの文脈でいえば、システムの脆弱（ぜいじゃく）性（欠陥）を見つける行為や攻撃を指示するのは、人間であるというのがこれまでの前提だった。だがAIが司令塔になり、ほかのAIに指示する世界を想定しないといけなくなった」
――どう対応していけばよいのでしょうか。
「セキュリティー業界では…
この記事は
有料記事です。残り1804文字有料会員になると続きをお読みいただけます。
この記事を書いた人
- 経済部｜金融担当
- 金融、保険、資産運用
関連トピック・ジャンル
ジャンル