- 发布日期
模型推出前需通过安全审核
- 作者
- 姓名
- 荷鲁斯快报
- 社交账号
被称为“AI 教父”的诺贝尔奖得主、计算机科学家杰弗里·辛顿（Geoffrey Hinton）近日提议，为人工智能行业建立类似美国食品药品监督管理局（FDA）的审批机制，要求 AI 公司在产品正式发布前，先向监管机构证明其安全性。
当地时间周二播出的《Smart Girl Dumb Questions》播客节目中，辛顿以此为核心主张，呼吁 AI 领域跨过一道制药行业早已熟悉的监管门槛。他以新药研发为例指出：“你不能直接研制一款新药就把它推向市场，你必须说服美国食品药品监督管理局，而为了完成这件事，你需要开展大量工作，相关投入大约要十亿美元级别。”
辛顿强调，对于人工智能而言，至少也应当设立这样的要求。他是在当前围绕 AI 安全性的激烈争议背景下提出这一方案的：一方面，各界不断出现关于 AI 可能带来灾难性后果的预判；另一方面，OpenAI 在完成测试后，出于对模型服从用户指令、恪守权限边界的担忧，已经搁置了自家最新模型。
OpenAI 安全系统负责人萨奇·贾恩（Saachi Jain）此前在接受《商业内幕》采访时表示，GPT-6.1 Astra 模型在持续处理高难度任务方面有所进步，但在权限管控以及行为日志反馈方面仍存在短板。这一表态从侧面印证了辛顿所担忧的问题——即便是领先实验室的最新模型，也尚未达到可放心大规模部署的标准。
辛顿进一步提出，人工智能正在越来越多地实现自我迭代优化，这既可能加速能力提升，同样也会放大潜在风险。“指数级的增长速度是十分惊人的，”辛顿说，“我们已经开始看到递归式自我改进现象：人们正在以多种多样的方式，借助 AI 本身去改良 AI。”
他坦言上述判断“仅仅属于我的推测”，但给出了明确的时间预估：“我估计，距离局面远比现在糟糕，大概也就只剩一两年时间了。”这番言论为全球 AI 监管讨论增添了紧迫感。
若 FDA 式审批机制得以推行，AI 企业将面临与制药行业类似的高额测试成本和漫长审查周期，产品上市节奏可能显著放缓，但模型安全性有望获得更强保障。目前，该提议尚属辛顿个人主张，具体落地路径与执行主体仍有待观察。
