IEEEが提言を発表　 AIはメタバースに新たな世界構築における深刻な倫理的問題

IEEE(アイ・トリプルイー)は世界各国の技術専門家が会員として参加しており、さまざまな提言やイベントなどを通じ科学技術の進化へ貢献しています。

AIの進展は、メタバースや、拡張現実(AR)や仮想現実(VR)といった最も一般的なデジタル拡張技術の可能性をさらに広げる扉を開きました。しかし、こうした統合には法的・倫理的な課題が伴い、これらの技術が日常生活の定番となる前に、これらに対処する必要があります。

■デジタル環境の機能の拡大

私たちは今、マルチモーダルな大規模言語モデルが、たった一つのテキストプロンプトから動画を生成できる世界に生きています。この機能が没入型の3D環境に応用されるという構想も、そう遠くない未来の話のように思われます。

「生成AIは、ARを単なる表示デバイスから、現実世界に重ねられた知的なアシスタントのような存在へと、まもなく変えることができるかもしれません」と、IEEEシニアメンバーのヴァイバブ・トゥペ氏は述べています。

しかし、こうした没入型で広範な機能は、難しい問題も提起しています。AIを活用したバーチャルアシスタントは、特に単に情報を提供するのではなく説得するように設計されている場合、ユーザーが本来なら下さないような決断へと誘導する可能性があります。また、没入型環境は、ユーザーの視線、動き、反応、さらには感情状態の推測に至るまで、極めて機微な個人データを収集する恐れもあります。さらに、こうした空間を形成するAIシステムに偏りがある場合、その偏りがARやVR環境における人々の表現、認識、あるいは扱われ方に影響を及ぼす可能性があります。

「法的・倫理的枠組みを構築すべき時期は、普及が始まる前です」と、IEEEシニアメンバーのシャイラ・ラナ氏は述べました。

■バイアスの軽減

AIのバイアスは、AI開発者や研究者にとって長年の課題です。本質的にバイアスのあるデータでAIを学習させると、偏った不正確な結果が生じます。

「AIを活用した没入型環境において最も過小評価されているリスクの一つは、バイアスの増幅です」とラナ氏は述べました。「偏ったコンテンツを読む場合、あなたと情報の間には認知的な距離があります。しかし、VRやAR環境では、バイアスは単にあなたの認識に影響を与えるだけでなく、現実を模倣するように設計された環境において、あなたが見るもの、聞くもの、感じるものを形作ってしまうのです」と彼女は述べました。

■プライバシーとデータセキュリティの管理

人間がAIやVR技術とやり取りする際、各システムと大量の個人データを共有することになります。

「生成AIは、このデータをさらに分析・活用してユーザーの行動を操作したり、高度にパーソナライズされた、潜在的に操作的な体験を作り出したりすることができ、従来のデータ保護法を超えた新たなプライバシーリスクを生み出します」と、IEEE会員の張曼氏は述べました。

さらに、法的枠組みは断片化しています。IEEEシニアメンバーのキーリー・クロケット氏は、ヘッドセットのハードウェアと、その上で動作するソフトウェアが、しばしば異なる法主体によって運営されており、それぞれ独自のプライバシー通知、役割、義務を持っているためだと指摘しています。データガバナンスは混乱しています。

■生体認証に基づく環境への影響

最も目に見えにくい懸念の一つに、生体認証による環境適応があります。没入型システムにおけるAIは、視線、姿勢、心拍数、あるいは感情状態に基づいて環境を適応させることができます。

「AIが周囲の空間を生成する場合、ユーザーにはほとんど見えない形で、感情状態、注意力、意思決定を微妙に形作ることが可能です。これは、ウェブサイトのレイアウトを調整することとは質的に異なります」と、IEEEシニアメンバーのエレノア・ワトソン氏は述べています。

これは、小売店などの環境において、認知操作やナッジングにつながる可能性があります。

「AIは微細な反応に基づいて環境をリアルタイムで適応させることができるため、注意が集中した瞬間に広告やアバターを調整するなど、神経レベルをターゲットにした説得が可能になります」と、IEEEシニアメンバーのアイシャ・イクバル氏は付け加えます。

「既存のプライバシー法は、特定可能な個人データに焦点を当てており、行動誘導に用いられるリアルタイムの心理生理学的推論には対応していません」と彼女は続けました。

■責任ある未来の設計

AIとメタバースは、広大なデジタルの可能性を秘めた未来をもたらしますが、同時にガバナンスに対する積極的な取り組みも求められます。今日、強固な倫理的枠組みを確立することで、デジタル環境が透明性と効果的な規制に基づいて構築されることが保証されます。

■IEEEについて

IEEEは、世界最大の技術専門家の組織であり、人類に恩恵をもたらす技術の進展に貢献しています。160カ国、40万人以上のエンジニアや技術専門会の会員を擁する公的な慈善団体で、論文誌の発行、国際会議の開催、技術標準化などを行うとともに、諸活動を通じて世界中の工学やその他専門技術職のための信用性の高い「声」として役立っています。

IEEEは、電機・電子工学およびコンピューターサイエンス分野における世界の文献の30％を出版、2,000以上の現行標準を策定し、年間1,800を超える国際会議を開催しています。

詳しくは http://www.ieee.org をご覧ください。