- 发布日期
垃圾数据终究产出“垃圾答案”
- 作者
- 姓名
- 荷鲁斯快报
- 社交账号
加拿大著名作家、《使女的故事》作者玛格丽特·阿特伍近日在葡萄牙波尔图举办的Babell文学与文化节上，公开表达了对生成式人工智能技术的不满。她批评当前的大语言模型缺乏可靠性，并警告使用者不应将机器输出视为"终极权威"。这一观点引发了文学界与科技界的广泛讨论。
阿特伍在访谈中回顾了自己唯一一次使用AI聊天机器人的经历。她尝试用Anthropic公司的Claude查询英国侦探剧《布朗神父》的相关信息，但发现系统给出了错误结论。她指出，Claude的回答显然是"胡编乱造"，并非有意撒谎，而是因为它仅是一种基于海量文本训练的大语言模型，缺乏人类的理解能力。模型从电视评论和影评中"掠取和拼接"信息，而评论通常不透露剧情结局，导致其被训练语料误导。
针对部分沉迷依赖AI技术的使用者，阿特伍将他们称为"机会主义者"。她认为，这些人试图借助AI走"捷径"，以难以察觉的方式进行"作弊"，而不是投入必要的时间和精力亲自查证或创作内容。在她看来，技术本身不能替代人类的判断和责任，若将内容生产完全交给未经核实的机器，风险最终将由人类自己承担。
阿特伍特别强调，大语言模型严重依赖已发布的网络数据和被抓取的文本，这些信息可能过时、存在偏差甚至错误。她提醒普通用户和商业机构，不应把机器生成的结果视为终极真理，必须进行人工复核和事实核查。许多企业正在将AI融入业务流程，但即便为了效率，也必须接受系统会犯错的事实——输出质量取决于输入数据的可信度与完整性。
谈及生成式AI的根本问题，阿特伍用一句技术俗语概括自己的态度："垃圾进，垃圾出"。她认为，如果训练数据本身存在缺陷，或由未经筛选的网络内容构成，那么再复杂的模型结构和庞大的参数规模也无法解决错误与偏见问题。这不仅是关于技术可靠性的疑问，更是对创造力、原创性和人类写作者角色的广泛反思。
在对话尾声，阿特伍再次提醒听众，机器并非完美的执行者，也不是有道德和经验的人类，而只是一套读取和重组文本的工具。她主张，在创作、批评和知识生产领域，人们需要保持警惕和责任意识，以防在技术承诺的"便利"背后，牺牲了对真实和准确的追求。阿特伍的言论呼应了近年来对AI可靠性的持续质疑，也为文学界在技术浪潮中维护原创性提供了重要视角。
