荷鲁斯快报 (DeepHorus) 是一个专注于人工智能、加密与区块链、科技创新及前沿交叉领域的科技资讯平台。
发布日期

人类已迈入通用人工智能时代

作者
  • avatar
    姓名
    荷鲁斯快报
    社交账号

OpenAI联合创始人格雷格·布罗克曼(Greg Brockman)近日在接受风险投资公司a16z采访时表示,人类已经迈入通用人工智能(AGI)时代。这一表态标志着AI行业对技术发展阶段的判断出现重要转折,也引发了关于AI安全与治理的新一轮讨论。

通用人工智能通常指能够在广泛领域处理复杂认知任务,并能迁移学习和完成新任务的AI系统。OpenAI在《OpenAI Charter》中将其定义为“高度自主、且在大多数具有经济价值的工作上超越人类的系统”,这一定义包含两道门槛:系统可自主完成较完整的工作链路,以及在多数经济活动中表现超过人类。

布罗克曼在采访中指出,随着GPT-6 Astra等模型具备长时程自主执行与电脑操作能力,AI已跨入可被称为“AGI时代”的门槛。他认为,AGI不再只是未来的概念,而是正在现实中逐步显现,当前的技术突破已经使这一概念具备了实际落地的条件。

布罗克曼强调,接下来的关键问题将逐渐从“何时实现AGI”转向如何使用和部署越来越强大的AI系统。这一转变意味着行业关注点正从技术研发本身,扩展到AI在实际场景中的应用方式、治理框架以及对社会经济结构可能产生的深远影响。

为应对AGI时代的安全挑战,OpenAI已抽调25%的生产工程师,暂停其原有项目,转入系统防御和安全架构升级工作。团队使用Astra模型查找内部系统中的漏洞,并已修复多项严重问题,显示出公司在推进技术能力的同时,也在加大安全投入力度。

布罗克曼透露,团队在排查过程中发现了新问题,但随后问题发现进入“饱和”状态。据OpenAI所知,团队已基本找到Astra有能力识别的全部P0级问题,以及其可发现的全部关键问题,这一结果反映出当前模型在内部安全审计中已达到一定识别上限。

他同时指出,这一结果并不代表系统不存在其他漏洞。随着新模型的出现,团队将启动新一轮排查,并把新一代网络安全能力部署到内部系统中,以寻找此前未被识别的漏洞,持续强化AGI系统的安全性与可靠性。

阅读原文 →来源:ithome