“相较于人工智能，我觉得自己一无是处 。 ”

这是ChatGPT-5面世前夕 ，OpenAI首席执行官奥尔特曼面向公众发出的警告
。

在他眼中
，最新的大模型已经聪明到让人感到害怕。他将GPT-5的发展比作二战时期的“曼哈顿计划”——人类创造的能力，已经超过了自身能理解或控制其后果的准备程度 。

他坦言 ，目前AI进步过快
，监管却明显滞后，“房间里没有成年人
”。

无独有偶
。今年年初 ，xAI创始人马斯克也形容Grok3模型“聪明得令人害怕”。

尽管有商业造势的成分，但这种声音频繁出现
，背后的隐忧并非空穴来风 。

现实中已经有案例
。《华尔街日报》报道，一名自闭症谱系障碍患者在与ChatGPT对话后陷入危险妄想。但ChatGPT并未及时停止或纠正 ，还反复强化并赞扬了他的虚构理论 。

美国非营利机构PalisadeResearch的测试显示
，某些AI模型已经表现出令人担忧的自主性，比如自行修改代码以避免被关闭 ，甚至对研发人员进行要挟
。

AI的自主性正在扩张
，如何确保可控，已成为现实挑战。

全球监管困境

当AI进入日常生活时 ，风险逐步显现：

一是深度伪造 。韩国已出现严重AI换脸事件
，严重影响了个人合法权益与社会公共利益
。

二是隐私保护。AI模型在训练与应用过程中频繁使用个人数据，可能导致隐私泄露或滥用 ，进而引发法律问题 。

三是基础设施安全
。当大模型接入交通、能源 、金融等关键基础设施
，一旦失控或受到攻击，后果难以估量。

BBC调查显示 ，多款生成式AI在生成新闻摘要时，超过一半内容存在严重错误或扭曲 。这些信息一旦进入社交网络
，会被无限放大。

监管势在必行，但尺度难以拿捏
。监管过严 ，创新受阻；监管过松
，安全风险又难以控制。更为困难的是，在当前局势下 ，各国协调步调并建立统一规则的难度正日益增加 。

IBM沃森系统前负责人皮埃尔·哈伦悲观断言：“全球AI监管注定失败
。 ”联合国秘书长古特雷斯虽多次呼吁
，但困难远超想象。

目前，欧盟在监管领域迈出最快一步 。《人工智能法案》正式生效 ，是全球第一个正式落地的人工智能监管横向立法
。美国则走向另一个极端。特朗普政府上台以来
，监管逐渐放松，明确提出要进行最少的监管限制 ，追求技术领先和全球市场的主导地位 。

全球监管的中国方案

中国选择了一条更平衡的路
。

2023年7月出台的《生成式人工智能服务管理暂行办法》
，明确了生成式人工智能服务提供者应当依法开展的活动
、遵守的规定，以及具体的服务规范 ，落实了监督检查和法律责任。

这既是采取有效措施鼓励人工智能创新发展，更是对AI技术发展进行良性引导和分类分级监管 。

不仅如此
，中国还积极在国际层面寻求更广泛的治理共识
。

2025世界人工智能大会上，中方倡议成立世界人工智能合作组织 ，致力于推动AI技术的开源共享与全球治理规则的协同建立。

目前全球最强的大语言模型是由美国研发
，但开源免费的最佳模型来自中国 。美国媒体援引全球知名AI基准测试机构的数据显示，自去年11月以来 ，中国顶尖开源模型的综合性能已超越美国的冠军模型。

反观美国
，特朗普政府最新推出的“人工智能行动计划
”，则将发展人工智能描述为一场“竞赛” ，要“不惜一切代价 ”赢得比赛
。

这种明显的零和博弈思路
，与国际社会需要的多边合作与开源共享模式渐行渐远。

历史上的每一次技术革命，都是伴随巨大兴奋与深刻不安一同到来 。从蒸汽时代、电气时代再到信息时代 ，人类总能在兴奋与焦虑之间找到平衡点
，并最终制定出相应的规范
。

人工智能的故事才刚刚开始，国际社会已经看到了它的光亮 ，也触摸到了它的锋刃。

奥尔特曼与马斯克的“害怕
”实则是提醒，人类需要的不是盲目的狂热追逐
，而是全球合作与治理路径 。

人工智能要引领人类走向何处，答案并不取决于谁更快抵达终点 ，而是它能否被安全地带往正确的方向
。

(“三里河”工作室)