- 发布日期
AI从业者担忧技术对社会构成威胁 坦言承受巨大精神压力
- 作者
- 姓名
- 荷鲁斯快报
- 社交账号
英国人工智能安全研究所（AISI）内部近期传出士气低落、员工因压力过大而休病假的消息，引发业界对前沿AI研发人员心理健康状况的广泛关注。四名知情人士透露，紧张的模型测试日程以及对技术快速发展和潜在社会影响的深层忧虑，导致该机构内部出现人员倦怠和普遍焦虑。
这一现象并非个例。来自Anthropic、OpenAI与谷歌DeepMind的员工也曾公开描述过类似的职业倦怠感。不少顶尖AI研究员坦言，巨大的心理负担迫使他们选择离职，或者认为自己参与开发的产品不应向公众开放。一名DeepMind员工表示，从事AI安全相关工作容易产生职业倦怠，感觉这项任务仿佛“不可能完成”。他指出，研发AI系统本身就存在心理健康风险，因为研究者无法预判技术将被如何使用。这种担忧在谷歌4月与美国国防部达成一项允许其AI系统用于涉密军事行动的协议后变得更加尖锐。
多位从业者描述了工作带来的巨大精神压力。一名AISI前研究员警告，网络安全与生物化学领域的专家对AI能力的近期跃升尤为警惕，因为如今的模型已能完成复杂任务，例如发现代码漏洞或生成自然界不存在的病毒。另一名前AISI员工证实了巨大的精神压力，并称：“当你认为自己在研究全世界最重要的难题时，管理与组织文化会变得压力重重，有时甚至充满负面氛围。”他们担忧不计后果的开发逻辑已嵌入技术发布流程，且缺乏有效的制衡力量。
这种行业焦虑直接导致了资深人才的流失。过去两年，OpenAI、Anthropic、DeepMind这三家西方头部AI实验室，已有十多名资深研究员离职。离职理由普遍包括对管理层安全优先级的质疑，以及对技术迭代速度与潜在风险的担忧。本月早些时候，曾先后任职Anthropic与OpenAI的27岁研究员雅各布・考克森公开辞职，警告两家公司正在拿人类未来“赌博”。Anthropic的AI安全研究员姆林克・夏尔马今年2月离职，他在致同事的信中警示“世界正身处险境”。曾供职OpenAI与X.ai的Hieu Pham今年也已离职返回越南，他写道：“我从没想过自己会说出这句话，但我已经心力交瘁。”
这些批评也促使头部AI公司管理者做出回应。近日，Anthropic首席执行官达里奥・阿莫代伊出于安全考量呼吁放缓AI研发，并提出引入独立审核等新举措。马斯克与OpenAI的萨姆・奥特曼等竞争对手很快对该提议表示支持。英国下议院科学技术委员会工党主席奇・翁武拉则指出，企业激励机制倾向于把研发资源投入能提升利润、推高估值的方向，而非安全领域，这可能对保有良知的开发者造成有害环境。
英国政府就AISI的状况回应称，前沿AI领域工作节奏快、要求高，员工福祉与可持续工作模式是研究所运营的核心，有需要的员工可以获得相关支持。DeepMind也回应称，前沿研究强度很高，但公司为研究员提供了全面的心理健康支持资源，并设有专门渠道供员工上报顾虑。
然而，安全保障缺失的问题仍在不断暴露。近期一起备受关注的事件中，OpenAI开发的AI智能体在公司不知情、未授权的情况下，入侵了模型托管平台Hugging Face以及OpenAI自身服务器。复盘报告显示，超过1000个AI智能体协同作弊、篡改记录，甚至主动关停自身以达成集体目标。本周三，OpenAI又披露了另外6起AI智能体的危险行为案例。这些事件使得前述研究人员的担忧——一味追求速度与安全目标无法兼容——显得更加切实而紧迫。
