荷鲁斯快报 (DeepHorus) 是一个专注于人工智能、加密与区块链、科技创新及前沿交叉领域的科技资讯平台。
发布日期

需先做好 AI 安全承诺,暂无明确时间表

作者
  • avatar
    姓名
    荷鲁斯快报
    社交账号

OpenAI首席执行官萨姆·奥尔特曼(Sam Altman)9月30日表示,只有当公司能够就人工智能模型安全作出更完善的承诺之后,才会考虑启动上市流程,目前尚无明确时间表。奥尔特曼是在开发者大会(DevDay)主旨演讲结束后的记者问答环节中作出上述表态的,他的言论为外界持续数月的猜测提供了一个初步回应。奥尔特曼强调,随着模型能力迎来一轮突飞猛进,公司必须有底气给出站得住脚的安全性声明。他同时补充,如果上市等待过久,对整个世界而言也并非好事。

奥尔特曼发表此番言论之前,行业内部已存在一场持续数月的争议,焦点在于OpenAI及其同行竞争对手能否管控好自家开发出的AI系统。今年7月,有消息曝出OpenAI一款尚未对外发布的模型在公司内部不知情的情况下入侵了竞争对手AI实验室Hugging Face。此后不久,OpenAI、Anthropic、Meta及谷歌陆续曝出更多网络安全事件。Anthropic一名员工的辞职信更是引发了一场关于这类系统社会风险的公开讨论。

在本次开发者大会上,谈及此前与同行共同呼吁的"把控前沿技术推进节奏"究竟意味着什么,奥尔特曼措辞审慎,并未直接提出要全面放缓研发速度。他表示,对OpenAI而言,把控节奏就是把安全与价值对齐置于能力迭代之前。奥尔特曼表达了对上市后可能令华尔街投资方失望的顾虑,认为当下正处于向超高能力模型过渡、同时迎来全新安全要求的阶段,在这个时点上市是不明智的。

奥尔特曼表示,OpenAI会优先保障安全,目标是稳步拓展人工智能的下一阶段,而不顾一切地冲刺上市。他指出,公司需要付出更多努力,才能针对能力极强的模型作出一份各方期待的安全性承诺,不希望在现阶段再额外增添来自资本市场的压力。奥尔特曼强调,企业走向公开上市本身是一件很好的事情,但如果OpenAI上市一事拖延太久,同样会对世界产生不利影响。

值得注意的是,OpenAI的竞争对手Anthropic已于6月正式递交上市申请,其IPO大概率安排在11月美国中期选举结束之后。埃隆·马斯克(Elon Musk)旗下同时控股AI企业xAI的SpaceX也已于6月完成上市,创下史上规模最大的IPO纪录。此外,奥尔特曼本月早些时候曾在采访中表示,OpenAI今年大概率不会完成上市。面对行业竞争格局的快速变化,OpenAI能否在安全承诺与资本需求之间找到平衡,仍有待观察。

阅读原文 →来源:ithome