IEEEがプレスセミナーを開催　 『AIの進化と脅威　 人工知能が地政学を変える時代のサイバーセキュリティー』

IEEE(アイトリプルイー)は、九州大学情報学部門(兼)サイバーセキュリティセンター・量子計算システム研究センターの櫻井幸一教授を講師に『AIの進化と脅威　人工知能が地政学を変える時代のサイバーセキュリティー』と題したプレスセミナーを開催しました。IEEEメンバーである櫻井教授は、サイバー社会暗号技術の第一人者であり、最近では、人工知能学会にAIセキュリティ研究会を立ち上げ、さらに国際研究集会AI Security and Privacyも発足させ、AIの信頼性と安全性に関する日本の研究の活性化と国際化に活躍しています。

ネットワークセキュリティーは急速に普及し始めた生成AIにとって非常に重要です。櫻井教授が取り組むAIやサイバーセキュリティーの研究は、AIの安全な利活用を支えています。

セミナーで櫻井教授は、AIとサイバーセキュリティーを巡る状況について、四つのトピックスについて解説しました。一つ目はサイバーセキュリティーが、これまでは人間が問題とされてきたものが、AIが主役の時代に入ったということです。

二つ目はハッカーの問題です。AIの内部特性が未解明であることを踏まえ、ゼロデイ攻撃など未知の脆弱性を狙うハッカーの脅威について警鐘を鳴らしました。

三つ目はAIが学術団体や学会に与える影響についてです。AIには恩恵も危険性もあります。ネットメディアを管理しさらに支配する可能性があり、櫻井教授は実際に選挙など社会活動への不正の実態もあると説きます。最後に、現状の技術的限界と今後のAI社会の展望について論じました。

また、櫻井教授は早稲田大学の高橋利枝教授が6年前に行った講演について触れ「当時はAIやロボットが人と共存していくという利活用が重要なテーマだった」と振り返りました。昨今は状況が変化し「サイバーセキュリティーが重要視されている」と話しました。

さらに、海外動向として、7月に米トランプ政権が公表したAI行動計画を紹介しています。これには三つの柱、(1)イノベーションの加速 (2)AIインフラの構築 (3)国際外交と安全保障があり、米国のアカデミーもこの方向で進むとしています。

また、中国では夏に「人工知能＋(AIプラス)行動の実施徹底に関する意見」を出し、2035年までの3段階の目標を掲げたことを紹介しました。中国は10年ほどIoT(モノのインターネット)に注力してきました。櫻井教授はこれが「AIへ大きく転換した」と指摘します。同意見では科学技術、産業、消費、民政、ガバナンス、国際協力とAIを組み合わせることを重点分野に位置付けており、米国と違いAIで社会構造の変革を目指しているとのことです。

さらに、櫻井教授は欧州がガイドライン、AI法を施行する予定だと7月に発表したことに触れました。AI法は「透明性、著作権、安全性の3章構成で、2027年以降、既存モデルにも義務を適用する」といいます。これについて櫻井教授は「欧州でビジネスをする日本にも影響することや、AIは地政学を変えうるものである」ことを指摘しています。

元外交官・宮家邦彦氏の著書『AI時代の新・地政学』では、AIが国家間の距離感を変え、物理的領土や軍事力に加え、情報・技術・アルゴリズムといった非物理的要素が重視される時代になると予見されています。櫻井教授は、豪州の研究者アラナ・モーシャル氏の「1万種以上の対策技術があっても脅威は減らない」という指摘を引用し、ヒューマンエラーの問題を強調。AIが研究者レベルの問題作成にも使われるようになり、悪質化が進んでいると述べました。

さらに、AIが著者・査読者・発表者となる米スタンフォード大学の研究者による学会の事例を紹介。生成AIが事実に基づかない情報を生み出すリスクがあることから、メディアにおけるAIの扱いにも注意が必要だと指摘しました。

AIの開発については、国際競争が活発で、軍事や産業で利活用が進んでおり「地政学に影響を与える状況になっている」とします。サイバー攻撃がビジネスで横行する一方でセキュリティーリスクを評価できる体制が整っていない状況であり、日本も例外ではなく、サイバーセキュリティーは国際政治の一部になっていると解説します。デジタル裏社会ではサイバー攻撃がビジネスモデルになり「傭兵のようにお金をもらってサイバー攻撃をしかけるビジネスが常習化している」と櫻井教授は問題提起します。

AI、サイバーセキュリティーの最新研究としては、米カーネギーメロン大学とマイクロソフトの研究で、AIの信頼性が高いと人間の批判的思考力が減少することが分かったことや、米マサチューセッツ工科大学の研究で、AIの使用で認知機能が低くなるという実験結果が出たことを例示しています。また、櫻井教授は北京大学武漢人工知能研究所で「AIを単体知能から社会知能へと拡張する研究をしている」と中国の事例を紹介しています。櫻井教授はAIの最新研究から問題と可能性を指摘しつつ「AIは人間並みの予測ができないという現状の限界がある」こと、そうした限界を突破する研究開発のタイミングがいつになるかは「非常に重要な課題となる」と主張しています。

■IEEEについて

IEEEは、世界最大の技術専門家の組織であり、人類に恩恵をもたらす技術の進展に貢献しています。160カ国、40万人以上のエンジニアや技術専門会の会員を擁する非営利団体で、論文誌の発行、国際会議の開催、技術標準化などを行うとともに、諸活動を通じて世界中の工学やその他専門技術職のための信用性の高い「知の声」として役立っています。

IEEEは、電機・電子工学およびコンピューターサイエンス分野における世界の文献の30％を出版、2000以上の現行標準を策定し、年間1800を超える国際会議を開催しています。

詳しくは http://www.ieee.org をご覧ください。