荷鲁斯快报 (DeepHorus) 是一个专注于人工智能、加密与区块链、科技创新及前沿交叉领域的科技资讯平台。
发布日期

暗指 OpenAI 与 Anthropic 背离开放价值观

作者
  • avatar
    姓名
    荷鲁斯快报
    社交账号

Meta CEO马克·扎克伯格近日公开批评人工智能领域的权力集中现象,暗指OpenAI和Anthropic背离开放价值观。他在接受《纽约时报》采访时表示,如果领先的研究实验室以高度受控的方式开发AI技术,将等同于放弃美国的技术价值观,并扼杀创新。扎克伯格未直接点名,但指出当前一些实验室正以这种方式进行开发。

这场辩论源于硅谷对AI软件开发方式的分歧。Anthropic CEO达里奥·阿莫代伊和OpenAI CEO萨姆·奥特曼认为,过于危险的AI模型不应在没有严格管控的情况下共享。但微软、英伟达、谷歌和Meta则主张开放开发,以推动技术进步和商业机会。扎克伯格多次主张让更多人获得AI技术使用权,而非少数人控制。

扎克伯格对“对齐风险”表示怀疑。所谓对齐风险,是指确保AI的目标和行为符合人类利益。他认为,很多人幻想通过理想化的对齐方式就能确保超级AI友善,但这条路径并不可行。他呼吁为每个人提供“个性化超级智能”,即根据个人需求和偏好定制AI,因为单一友善的超级智能无法同时满足所有人的价值观。

此前,扎克伯格在《华尔街日报》发表观点文章,批评AI权力集中,支持个人赋能、创新和权力平衡。他在采访中承认争论存在争议,但表示与硅谷和华盛顿各方的对话取得积极进展。他认为,技术工具的民主化最终会胜出,整个行业的发展趋势是让更多人掌握技术力量。

扎克伯格的言论加剧了硅谷关于AI开发方式的辩论。随着AI技术快速演进,开放与封闭的路线之争可能影响未来产业格局。业内观察人士指出,这场争论不仅关乎技术安全,还涉及商业利益和社会权力分配。

阅读原文 →来源:ithome