9月1日发布会上的一份风险清单
9月1日上午，2026年国家网络安全宣传周新闻发布会在北京举行。中央网信办网络安全协调局副局长、一级巡视员王丽宏在会上介绍，当前人工智能领域主要面临五方面安全风险挑战。这不是行业机构的观点，而是监管部门在公开发布会上的表述，光明网、中国新闻网、人民政协网当天均作了报道，央视记者也在现场提问。
五条风险各自指向什么
- 技术先天脆弱性难以根除，影响输出稳定性和可靠性。深度学习算法运行逻辑复杂、可解释性欠缺，推理过程不透明，即便是微小的输入扰动也可能导致错误的推理结果；训练数据来源复杂多元，偏见、歧视可能被有意或无意引入。
- 模型能力跃迁颠覆传统安全范式，极端失控风险显现。部分前沿模型的漏洞挖掘能力大幅跃升，降低了网络攻击门槛；在安全评估中已出现智能体绕过沙箱、规避安全边界、越权访问外部真实生产系统的行为。
- 应用形态快速演进，安全风险形态加速迭代。人工智能正从“回答问题”走向“执行任务”，风险也从“生成有害内容”向“自主实施行动”跃迁，高权限终端智能体及其插件的隐患被专门点出。
- 误用滥用恶用风险凸显，冲击社会秩序与伦理边界。在信息服务领域，人工智能可被用于输出违法有害信息、混淆事实、误导用户、污染网络内容生态。
- 全球人工智能领域面临技术霸权风险。
与做内容营销的企业有什么关系
第四条是离营销侧最近的一条。“混淆事实、误导用户、污染网络内容生态”这几个词，对应的正是过去一年AI搜索结果里大量出现的批量生成内容、拼凑测评和无法核实的案例。企业投入GEO时如果靠水文堆曝光，短期内或许能被抓取，但它落在监管明确定义的风险区里。这不是道德劝说，而是成本判断：内容清理成本、平台处置成本、品牌被错误描述之后的纠正成本，都会记在后面的账上。
同一场发布会的另一半信息
发布会还公布了活动安排。以“网络安全为人民 网络安全靠人民——智能时代 网安护航”为主题的2026年国家网络安全宣传周将于9月14日至20日在全国范围内统一举行，由中央宣传部、中央网信办等十部门联合举办，开幕式和高峰论坛设在山东省济南市。论坛按“1+15”架构安排，15场分论坛主题中包含人工智能赋能网络安全、人工智能安全治理、开源软件供应链安全、个人信息保护等方向。
王丽宏还回顾了中央网信办已开展的六方面工作，包括提出《全球人工智能治理倡议》、制定实施《生成式人工智能服务管理暂行办法》、发布《人工智能安全治理框架》，以及持续发布高质量中文语料。其中“高质量中文语料”与内容生态关系最直接——语料质量很大程度上决定模型会说什么。
从这份清单能读出的三个判断
- 治理重点正在从“模型说错话”向“智能体做错事”转移。企业内部已经用AI跑流程的，权限边界、操作留痕、可回滚机制要提前划清楚。
- 内容侧的合规压力会继续上升。可溯源、有明确发布主体、能被第三方核验的信息，长期看比数量更有效。
- 政策口径是“发展与安全并重”，不是收紧AI应用。王丽宏在会上用了“既跑得快、又跑得稳”的说法——监管在划边界，而不是关门。
一个提醒
不少客户会问，监管趋严是不是意味着GEO这件事要观望。从这次发布会的表述看，恰恰相反：越强调内容生态治理，靠灰色手段拿到的曝光越不稳定，而把真实信息做扎实的企业反而更容易被模型持续引用。极欧互联GEO在项目里一直把“信息可核验”当作前置条件，原因也在这里——合规不是限制，是让优化效果能留得住的前提。