- 发布日期
Google AI 把「地球」玩坏了，这是对 10 亿人的不负责
- 作者
- 姓名
- 荷鲁斯快报
- 社交账号
Google地球近期推出的一项AI生成功能因引发严重滥用问题而被紧急撤回，这一事件引发了公众对地理信息服务平台公信力的广泛担忧。7月30日，Google地球网页版正式上线了名为“Create image”的新功能，该功能接入了“Nano Banana 2”模型。用户可以通过框选地球上任意地点并输入提示词，基于真实的卫星影像进行AI二次创作，官方宣传视频展示了其将荒地变为商业区或复原古迹的潜力。
然而，功能开放后迅速失控，被网友用于生成包括“9·11事件”重现、“哥斯拉”入侵城市以及“外星生物”降临等虚假且极具争议性的图像。面对这些违反社区政策的内容大量传播，Google于短期内紧急下线了该功能入口，并表示将加强安全防护，待条件成熟后再评估是否重新开放。
此次事件严重冲击了Google地球长期建立的权威形象。根据Google官方博客数据，Google地球拥有超过3600万平方英里的卫星图像，覆盖了地球上98%的人口。凭借其广泛的应用，它已成为记者核验信息、学者研究地表变化以及公众查证现实的重要参照工具。许多用户习惯于将其展示的内容视为真实世界的可靠映射。
“Create image”功能的滥用，使得任何人都能借助相同的界面和视角，为虚构场景赋予高度的“现场真实感”。这动摇了用户长期以来形成的信任——即Google地球截图代表真实存在过的景象。过去被视为可信的图像，未来可能需要首先经过真伪辨别，这种信任裂痕的修复将十分困难。
这并非Google首次面临类似争议。此前，其Pixel手机内置相册的“Reimagine”功能也曾因能对照片进行逼真修改而引发担忧。例如，有测试显示该功能可在河流照片中生成一架毫无痕迹的直升机坠毁画面，若在社交平台传播，极易造成误导。类似地，Meta公司上月推出的“Muse Image”功能因允许用户未经通知调用公开Instagram照片进行AI生图，也在三天内被紧急撤回。
技术界普遍认为，水印和内容凭证（如C2PA）虽有助于追溯图像来源，但并非万能解决方案。传统水印易被破坏，隐形水印需要专门工具识别，而C2PA也只能说明图像的编辑历史，无法完全验证画面内容的真实性。将辨别真伪的责任完全推给用户，被视为平台方的一种责任规避。
从产品逻辑上看，Google此次风波反映了行业在追求AI能力与便捷性时，可能忽视了前期安全规则的建立与对齐。同一类敏感请求在不同产品中可能得到不同处理，暴露出内部安全策略的不一致。对于一个依赖真实数据建立公信力的平台而言，这构成了致命疏漏。
展望未来，如何在利用生成式AI的创造力与维护信息平台的真实性之间取得平衡，是所有科技公司面临的共同课题。行业呼吁，平台应在功能设计之初就建立严格的安全尺度，明确区分AI娱乐创作与真实数据呈现的边界，将风险防控前置，而非在事后依赖用户甄别。对于Google而言，重获公众信任的关键在于展现其作为先进AI公司应有的责任担当。
