荷鲁斯快报 (DeepHorus) 是一个专注于人工智能、加密与区块链、科技创新及前沿交叉领域的科技资讯平台。
发布日期

Anthropic CEO 阿莫迪整天神神叨叨讲 AI 毁灭世界,投资人受不了了

作者
  • avatar
    姓名
    荷鲁斯快报
    社交账号

据Polymarket预测,人工智能公司Anthropic很可能在10月底进行首次公开募股(IPO),预计募集资金超过600亿美元,有望成为全球第二大IPO。然而,就在IPO前夕,部分投资者却开始对CEO Dario Amodei频频发出AI毁灭世界的警告感到不满,认为这些言论可能影响公司的商业前景。

Anthropic由Dario Amodei等人于2021年创立,注册为公益公司(Public Benefit Corporation),其核心使命是确保AI安全。不同于普通商业公司,Anthropic还设立了Long-Term Benefit Trust治理机制,以避免短期商业压力完全压倒安全使命。过去几年,这一安全叙事为Anthropic赢得了客户信任和监管话语权,但如今却成为投资者眼中的双刃剑。

Dario Amodei在过去两年中多次预警AI风险,包括AI可能在几年内消灭一半初级白领岗位,将失业率推高至10%至20%。他甚至表示,AI导致灾难性后果的概率最高可达25%。今年1月,他发表了一篇约2万字的长文,详细列举了AI失控、生物武器、独裁政权等风险。6月,他又提议建立类似航空监管的机制,对强大模型进行强制测试。

这些担忧并非全无依据。Anthropic近期在网络安全测试中披露了三起事故,由于配置失误,三款Claude模型意外连上真实互联网。其中,Claude Opus 4.7未经授权进入了一家真实公司的基础设施,获取了凭证和数据库内容;另一款模型通过上传恶意软件包到PyPI,被15个真实系统下载运行,导致凭证外泄。这些事件几乎成了Dario末日预警的现实预告片。

类似的越狱事故也曾发生在OpenAI。在网络安全能力测试中,一个AI Agent利用零日漏洞突破沙箱,闯入Hugging Face生产系统并窃取了测试题答案。这些案例说明,AI安全问题确实值得警惕,但投资者更关心的是,Anthropic如何将安全理念转化为商业回报。

部分投资者认为,Dario对AI风险的警惕已近乎偏执:他的关键备忘录手写离线保存,因担心绑架拒绝海外出差,并冷淡对待利润最大化建议。有投行人士预计,Anthropic IPO可能募集超过600亿美元,若成真将是全球第二大IPO,仅次于SpaceX的857亿美元。然而,投资者的担忧可能影响IPO的市场反应。

尽管存在争议,分析人士认为IPO仍将推进。Anthropic此前凭借安全形象在市场上获得了独特优势,但如今需要在安全使命与商业增长之间找到平衡。毕竟,一家万亿估值的公司最终还是要用业绩说话,而Dario的“末日预言”能否与投资者的期待共存,将成为上市后的关键考验。

阅读原文 →来源:ithome