国立研究開発法人
除法通信研究機構AIセキュリティ研究センター
センター長　高橋健志氏

AI時代の安全を支えるサイバーセキュリティ研究

本講演では、先ず生成AIやAIエージェントの普及によって、サイバー攻撃が高品質化・大規模化し、さらに調査、判断、ツール実行を自律的に行う形へ進展している状況が概観された。
その上で、重要アラートの自動抽出やAIエージェントによるファジングなど、NICT AIセキュリティ研究センター（CREATE）が進めるAIを活用したサイバー防御の研究の紹介が行われた。
また、データポイズニング、バックドア、プロンプトインジェクション、モデルからの情報漏えい、エージェントの権限逸脱など、AIシステム自体を対象とする新たな脅威と、その評価・防御に向けた研究開発を取り上げるとともに、ISO/IEC、ITU-T、IETF、ETSI、IEEE、3GPP、ECMA等におけるAIセキュリティの国際標準化動向を整理し、AIを安全に活用するために必要となる技術、評価基盤、運用体制についての展望が発表された。