総務省の有識者会議は１２日、ＡＩ（人工知能）にかかわる企業や自治体向けの統一的な指針「ＡＩ事業者ガイドライン」の改定版をとりまとめた。自律的に動くＡＩサービスの普及を念頭にリスクを踏まえて「人間の判断を介在させる仕組みの構築」を新たに求めた。

　これまでは明確にしていなかった用語の定義も政府として初めて示した。「ＡＩエージェント」は「特定の目標を達成するために、環境を感知し自律的に行動するＡＩシステム」、「フィジカルＡＩ」は「センサーなどを通じて情報を取り込み、目的達成のための最適策を自律的に判断し、物理的な行動につなげるシステム」などとした。

　開発や提供にあたっての「留意すべき事項」として、「人間の判断を介在させる仕組みの構築」との記述を盛り込んだのは、例えばＡＩエージェントを通じて高額商品を購入する場合、決済前の本人同意を求めたり、重要な経営判断を下す前に経営者の確認を必要としたりすることを想定する。フィジカルＡＩでは、ロボットの動きで人にけがをさせるリスクがある場合、人間による事前の動作許可を必須とすることなどを想定する。

　また、セキュリティー確保のためアカウントごとに付与する権限を必要最小限に設定することや、ハードウエアに残存するデータの取り扱いの配慮なども求めた。

　リスクについては、ＡＩエージェントの自律的行動による注文やファイル削除など人間の意図しない動作▽外部システムとの連携の過程での内部情報漏えい▽入力経路や外部連携先が増えることによる攻撃対象の増加▽複雑な内部構造により制御の難易度が高くなること――などを記載した。【町野幸】