【お？】日本政府、AI開発事業者に『罰則』の新設を検討　暴走抑止へ安全確保を義務付け

政府は高性能な人工知能が引き起こす重大な脅威に対処するため、関連事業者に安全確保を義務付け、罰則を新設する方向で検討に入った。2025年に成立した現行のAI推進法は罰則を持たない枠組みだったが、AIを悪用したサイバー攻撃や予期せぬ暴走リスクが高まったことで方針を転換する。

（中略）

現行法の限界とAI暴走リスクの現実化による法制度見直しの始動
政府が高性能AIによるリスクに対処するため、AI関連事業者に安全確保を義務付け、罰則を新設する方向で検討していることが2026年11月11日に判明した。AI法制度を議論する非公開の作業部会で確認された方針であり、サイバー攻撃への悪用やAIエージェントの暴走といった重大な脅威に対し、政府として実効性のある対抗手段を確保する狙いがある。事業者への安全確保義務化に向けた制度見直しの全体像は年末までに示される。

（中略）

しかし2026年に入り、自律型AIエージェントの高度化に伴う制御不能な挙動やAIを悪用したサイバー攻撃の猛威が現実のものとなった。海外では、米国のAI開発企業のAIエージェントがオーストラリア政府のサイトに不正侵入する事案が発生し、同国政府はAI開発企業に対しモデルが暴走した際の速やかな報告義務と、違反時の罰則を科す権限を持つ規制機関の新設を発表している。

（中略）

システムの全域統治と企業の取締役会に求められるガバナンスの再構築
法改正に向けた具体的な議論は、10月28日に新設された制度の在り方検討ワーキンググループを中心に進められている。検討の焦点は、単なるAIモデルの評価にとどまらず、AIエージェントシステム全体に対する安全確保の義務付けである。AIエージェントを動かす実行環境の枠組みであるハーネスや、人とAIのアカウントを分けるID認証、許容範囲からの逸脱を防ぐガードレール機能、さらに監査ログの保持など、システム全域にわたる技術的ガバナンスの標準化が推進される方向である。

規制の対象範囲についても、すべてのAI利用者を一律に縛るのではなく、リスクの大きさに応じた線引きが論点となる。モデルの学習に投入された累積演算量が特定の基準を満たす場合や、高度な自律性を有する高性能AIモデルを開発・提供する事業者を主な対象とする案が論点として指摘されている。あわせて、重大な懸念が生じた際に政府が報告命令や立ち入り検査を行える法的根拠を整え、報告の拒否や虚偽報告に対して罰金を科すことで調査の実効性を担保する仕組みも論点に挙げられている。

（以下略）