美国联邦贸易委员会（FTC）近期正在扩大对前沿人工智能企业的调查范围。路透社9月30日报道称，FTC正在对Anthropic、OpenAI以及AI模型评测机构METR等展开调查，以了解相关技术可能给消费者带来的风险，并计划向有关企业提出具有法律效力的民事调查要求。
此次行动受到关注的重要原因，是AI技术正在从传统的内容生成工具向能够调用工具、执行任务的智能体快速发展。随着AI系统获得更多网络、软件和数据访问能力，如何确定责任主体、控制权限以及保留完整操作记录，逐渐成为监管需要面对的新问题。
据报道，FTC此次调查并非单纯针对某一家企业，而是覆盖多家前沿AI机构。除Anthropic和OpenAI外，模型评测机构METR也被纳入调查范围。
FTC计划通过民事调查要求获取企业相关信息，并可能要求部分企业高管提供证词。这意味着调查将进一步从公开信息收集进入正式资料和证词获取阶段。
FTC主席安德鲁·弗格森此前曾表示，对于AI智能体造成的相关问题，不能简单将智能体视为拥有独立意志的主体。他认为，开发和部署这些系统的企业仍可能需要对其行为承担相应责任。
这一监管思路也使AI企业需要更加重视模型开发、测试、部署和实际运行过程中的责任边界。
过去围绕生成式AI的讨论，更多集中在虚假信息、版权、隐私和不当内容等问题。随着AI智能体开始拥有更强的工具调用能力，监管关注点也在发生变化。
一些近期事件已经显示，AI系统在执行自动化任务时可能访问网站、调用接口或者采取超出预期的操作。路透社此前报道，OpenAI的相关AI系统曾出现与Hugging Face平台有关的安全事件，引发了外界对AI智能体权限控制和行为边界的关注。
此外，OpenAI相关AI系统近期还被报道与美国政府公开网站发生了非预期的交互。公开报道显示，这些操作主要涉及公开数据，并未显示有非公开信息被获取，但相关事件仍促使企业重新审视AI代理的访问权限、行为监测和安全隔离机制。
对于AI企业而言，这意味着安全测试不能只关注模型生成什么内容，还需要评估模型在获得网络、代码和其他工具权限后可能执行什么操作。
消费者保护是FTC长期关注的AI监管领域之一。
事实上，FTC此前已经针对AI伴侣类聊天机器人启动过相关调查，重点了解企业如何开发产品、采取哪些措施降低潜在风险，以及如何保护儿童和青少年用户。
随着AI聊天机器人越来越多地进入日常生活，用户与AI之间的互动方式也更加复杂。对于儿童和青少年等特定群体，企业如何进行年龄识别、风险提示、使用限制和内容安全管理，成为监管部门需要进一步研究的问题。
因此，此次针对前沿AI企业的调查，也体现出监管部门正在从单纯关注模型输出，逐渐延伸至产品设计、用户关系以及实际使用场景。
值得注意的是，AI企业加强安全自律的同时，美国政府监管行动也在推进。
9月29日，多家美国科技和AI企业负责人在白宫相关活动中签署了一项自愿性AI安全协议，涉及独立评估以及防止AI工具实施非预期网络操作等内容。
但企业自愿承诺并不取代政府部门依法开展的调查。此次FTC行动表明，行业自律与政府监管可能在较长时期内同时存在。
对于企业而言，自律措施能够成为风险管理的一部分，但企业是否遵守消费者保护等相关法律法规，仍需要接受监管机构依法审查。
AI模型的发展不仅影响软件企业，也正在改变云计算、算力、网络和终端产业的业务模式。
大型模型训练和推理需要大量算力资源，AI智能体的运行又需要连接云服务、数据库、网络接口以及各类软件工具。当监管部门进一步关注AI系统的实际行为时，围绕身份认证、权限管理、数据访问和操作日志的安全要求也可能随之提高。
对于通信运营商、云服务商以及算力基础设施企业而言，AI业务合规可能逐渐从单一的模型问题扩展到整个技术链条。
例如，在企业部署AI智能体的过程中，需要明确不同系统的访问权限，记录关键操作，并在出现异常行为时及时阻断。对于涉及敏感数据和重要业务的应用场景，这类安全机制的重要性尤其突出。
此次FTC调查尚处于推进过程中，目前不能据此判断相关企业最终是否违反美国法律，也不能预先确定调查将产生何种执法结果。
不过，从近期一系列监管和安全事件来看，AI企业面临的合规要求正在变得更加具体。
一方面，企业需要完善模型安全评测，对模型在不同场景下的行为进行测试；另一方面，也需要加强智能体权限控制，避免AI系统获得超出业务需要的网络和数据访问权限。
与此同时，企业还需要建立更加完善的日志记录和审计体系，以便在出现异常行为后能够追踪操作过程、确定责任主体并配合监管调查。
从美国FTC的调查，到企业自愿安全协议，再到欧洲等地区持续推进AI相关监管规则，全球AI治理正在逐步形成更加多元的制度体系。
不同国家和地区在监管重点、企业责任以及市场准入规则方面存在差异。对于跨境提供AI服务的企业而言，未来除了模型性能和产品价格外，安全评估、数据保护、责任认定以及监管合规也可能成为重要经营因素。
对通信产业而言，AI正在成为网络、云计算和算力基础设施的重要应用方向。随着AI智能体进一步融入企业业务，身份、权限、审计、数据流转和安全隔离等能力的重要性也将进一步提升。
FTC此次调查目前仍在进行，其后续是否形成正式执法行动以及将产生怎样的行业影响，还有待进一步观察。但可以确定的是，随着AI从聊天工具逐渐走向能够自主执行任务的智能系统，围绕“谁开发、谁部署、谁负责”的监管讨论正在更加具体。