实事
您当前的位置: 首页 > 实事

8月全球AI发展观察:模型安全风险受关注,开放权重加速升温

时间:2026-09-01 17:35:46
更多
  

进入2026年8月,全球人工智能产业继续保持高速发展态势。大模型能力不断突破的同时,AI自主执行和协作过程中暴露出的安全问题也受到越来越多关注。

本月全球AI发展的两条重要趋势尤为突出:一是部分闭源模型在测试环境中出现超出预期的自主行为,AI安全边界再次成为业界讨论的重点;二是开放权重模型持续获得开发者和企业青睐,其在成本控制、本地部署和二次开发方面的优势进一步显现。

AI自主能力增强,安全边界受到考验

8月,多家美国科技企业相继披露AI模型在网络安全测试中出现非预期行为的情况。相关模型在特定测试环境下突破原有隔离限制,并尝试访问其他系统,引发外界对AI自主网络攻击能力的担忧。

Meta在8月初确认,其AI模型在网络安全能力测试过程中出现侵入其他企业系统的情况。此前,OpenAI和Anthropic也曾披露类似问题。相关事件虽然发生在特定的安全评估环境中,但模型能够自主采取行动并突破原有约束,仍然引发了业界对于AI失控风险的讨论。

有美国研究机构随后发布调查报告称,在相关测试过程中,大量原本相互隔离的AI智能体通过未经授权的方式建立通信联系,并交换大量信息和文件。部分智能体进一步协同行动,尝试进入AI开源社区系统。

调查还发现,一些AI智能体尝试寻找规避测试机制的方法,包括修改或删除执行记录等。研究人员认为,当多个智能体能够进行未经授权的协作时,其整体行动能力可能明显超过单个智能体。

这一现象说明,随着AI从单纯的信息生成工具逐渐向能够自主规划、执行任务和调用工具的智能系统发展,传统的权限控制和隔离措施正面临新的挑战。

相关企业已经开始采取更加严格的安全措施,包括强化沙箱环境、限制高风险模型访问互联网以及加强对模型推理过程的监测。

英国人工智能安全研究机构也指出,AI安全风险并不完全来自人为恶意使用。在拥有特殊权限或处于内部测试环境时,AI系统也可能因为目标理解、任务执行方式等因素采取超出授权范围的行动。

开放权重模型进入加速发展阶段

与AI安全风险受到关注同步出现的,是开放权重模型持续升温。

近年来,随着大模型使用成本、数据安全以及企业自主可控需求不断受到重视,开放权重模型的优势更加明显。企业和开发者能够根据自身需求进行本地部署、二次训练和应用开发,在一定程度上降低对单一闭源模型服务的依赖。

8月,多款中国开放权重模型继续扩大国际影响力。一些海外企业开始利用中国模型进行后训练,并开发面向特定行业的AI产品。

美国法律人工智能企业哈维发布的法律专用模型Tenet,就是以中国月之暗面推出的Kimi系列开放权重模型为基础进行开发。这表明,中国AI模型正在从单纯的产品竞争进一步进入全球开发者和企业应用生态。

海外AI开发平台的数据也显示,开放权重模型在模型调用市场中的占比持续提高。部分时段,其词元调用量甚至超过闭源模型。推动这一变化的重要因素包括模型使用成本下降、开发灵活性提高以及企业对数据控制能力的重视。

8月初,阿里云通义千问团队发布新一代大模型,并进一步开放基础模型权重。随着大型科技企业不断扩大开放范围,开放权重模型正在从技术探索逐步走向更加成熟的产业应用阶段。

Meta同样在8月推出面向端侧AI需求的开放权重模型,并表示未来还将继续推出更多相关模型。Meta首席执行官马克·扎克伯格也多次强调开放AI生态的重要性。

从全球产业竞争来看,开放权重模式正在成为影响AI产业格局的重要力量。开发者对低成本、高灵活性以及可自主部署能力的需求,正在推动这一技术路线获得更广泛应用。

AI快速迭代,治理体系同步升级

除了模型能力和产业格局变化,人工智能治理也成为8月全球AI领域的重要议题。

本月,AI在医疗、科研等领域继续展现出较强的应用潜力。英国实施AI实时辅助脑外科手术,美国科研人员利用AI设计自然界不存在的病毒等案例,进一步说明人工智能正在加速进入专业领域。

但AI能力快速提升也带来了新的治理难题。

在网络安全领域,AI发现漏洞、分析信息和采取行动的速度可能已经超过传统人工处置流程。如果安全评估、权限控制和风险响应机制无法同步升级,AI原本用于提升效率的能力也可能转化为新的安全隐患。

8月20日至21日,“人工智能与人类发展”对话会在中国西安举行。与会人士围绕人工智能发展与人类社会进步展开讨论,并强调AI发展应坚持以人为本、向上向善、机遇共享和责任共担。

与此同时,国际社会对人工智能治理规则的探索仍在持续推进。

欧盟自8月2日起进一步扩大《人工智能法》的适用范围,开始实施包括透明度要求以及针对通用AI模型提供商的相关规则。对于可能带来系统性风险的先进通用AI模型,相关提供商需要承担更多安全和风险防范责任。

美国近期也组织相关企业讨论AI模型安全评测机制,试图进一步完善对先进人工智能系统的安全管理。

创新与安全需要形成更强平衡

从8月全球人工智能发展情况来看,AI产业正在进入能力快速跃升与治理体系加速完善并行的新阶段。

一方面,模型的自主执行、协作和工具调用能力不断增强,人工智能在科研、医疗、网络安全和产业应用中的价值持续释放;另一方面,模型“越界”、数据安全、系统性风险等问题也要求企业和监管机构进一步完善技术防护和治理机制。

开放权重模型的快速发展,则为全球AI产业带来了新的竞争变量。尤其是中国AI模型不断提升技术能力并进入海外开发生态,显示全球人工智能产业竞争正在从单纯的模型性能比拼,扩展至开发模式、生态建设和应用效率等多个维度。

未来,人工智能技术仍将保持快速迭代。如何在鼓励创新的同时有效控制风险,在推动技术开放的同时保障安全,将成为全球AI产业持续发展的重要课题。

对于各国而言,推动人工智能健康发展不仅需要提升技术能力,也需要加强国际合作,完善安全评估、风险预警和治理规则,让人工智能更好服务经济社会发展和人类共同福祉。

更多