近年人工智慧（AI）快速发展，国安局指出，AI经由简易编辑、重新利用图像及变造特定人士影音（Deep fake）等方式，可制造难以辨识的争议讯息，并投放至公开网路平台，进而误导民众视听及消耗政府应变与查察能量。

立法院外交及国防委员会十八日将邀请国安局长蔡明彦、数位发展部、调查局、警政署、国家科学及技术委员会报告「AI技术在资安、深伪（Deep fake）影片及错假讯息之影响评估及因应」，并备质询。国安局已将书面报告送至立委国会办公室。

针对AI技术武器化衍生新兴挑战，国安局分析为三个方向，分别为扩增资安威胁风险、产制伪造资讯误导视听、快速传散错假讯息。

对於扩增资安威胁风险，国安局指出，AI可用以自动分析网防弱点，找出软、硬体设备漏洞，并生成变种病毒，强化匿踪躲避侦测；另可优化「分散式阻断服务」（DDoS）攻击强度与模式，并有效调控「僵尸网路」（Botnet），使网路攻击更具自动化、隐匿化及随机化。

至於产制伪造资讯误导视听，国安局表示，AI经由简易编辑、重新利用图像及变造特定人士影音（Deep fake）等方式，可制造难以辨识的争议讯息，并投放至公开网路平台，进而误导民众视听及消耗政府应变与查察能量。

针对快速传散错假讯息，国安局说明，AI工具可依据脚本，杜撰错假讯息，并结合假帐号及机器人，使传散具「超高速」及「无差别」等特性。近期美国国家情报总监办公室即示警，外国敌对势力将利用AI技术於大选期间散布错假讯息，企图影响选举公平及正当性，并试图扩大公众对选举结果的疑虑，足证威胁。

对於应处层面，国安局指出，掌握搜集中共网骇及错假讯息活动，透由国际友盟合作，针对中共网攻手法、攻击组织及错假讯息传散样态等，加强分享相关情（技）资，以强化数位联防及错假讯息跨国应处机制。

国安局并表示，运用公私协力反制AI威胁，将AI技术结合资安防护机制，强化网骇侦防技术，以及提升影音与影片人物真伪辨识能力；另采「AI反制AI」模式，即时发掘未知网骇威胁及厚植错假讯息防制效能，协助政府强化关键基础设施韧性。

国安局指出，统合国安团队预应AI侵扰，另将影响国安、社安等网骇威胁预警情资及错假讯息，即时通报权责机关应处及侦测阻挡，以有效防堵威胁肇生，并配合政府建立AI监管法遵。

国安局表示，除透过国际合作交流AI情搜，也透过多元模式，加强AI支援情报作业能力，以即时掌握相关威胁情资，有效防范潜存国安威胁。