AI依赖或致专业技能退化 研究者谈责任与应对
驱动中国10月28日消息,一项发表于《人类事务》的研究指出,医生、科研人员与软件开发人员等使用人工智能辅助工作可能引发技能退化,从业者因认知偏差难以察觉,责任归属尚无定论,专业社群需明确核心能力并设置训练边界。
驱动中国10月28日消息,人工智能已在医疗、科研、软件开发等专业领域承担助手角色,但一项研究认为,将工作交给 AI 处理可能导致从业者出现技能退化。
该研究指出,技能退化带来的难题在于,从业者很难在日常工作中察觉自身专业能力下滑。部分原因在于人们对依赖 AI 存在认知偏差;使用者与大语言模型交互时,若获得看似有说服力的回复,容易形成过度依赖,而模型本身同样会出错。
理论哲学方向的研究院研究员凯萨·凯尔基(Kaisa Kärki)在题为《谁应当为应对专业技能退化负责?》的研究论文中探讨了这一问题,该成果发表于《人类事务》期刊。
凯尔基以医疗行业举例称,如果一名医生依赖大语言模型,却没有发现模型给出的错误信息,可能造成医疗事故。一旦出事,责任归属成为难题。一般责任相关哲学理论认为,行为人只需为自己知情情况下做出的行为负责;伴随 AI 使用产生的、不易察觉的认知偏差,对这一观点构成挑战,因为从业者难以发现自身偏差或过度依赖 AI 的倾向。因此,是否需要为悄无声息的能力退化及由此引发的失误承担责任,目前尚无定论。
凯尔基指出,技能退化本身很难被察觉,因此不能把相关问题的责任全部推给从业者个人,这是一个社会性、结构性的问题。各个专业社群需要明确哪些属于本行业核心能力,并必须将这些能力掌握在人类手中。飞行员会反复练习自动驾驶失效后的处置方案,其他行业也应思考在必要情况下,如果没有 AI,从业者能否独立完成工作。
在医学教育领域,已有观点提出基础技能训练应当设置禁止使用 AI 的阶段。诊断推理被视为医疗工作的核心能力,对专业领域和相关业务形成整体性理解同样不可或缺。
该研究认为,如果职场持续扩大 AI 使用,却忽视技能退化隐患,行业可能失去脱离 AI 培养新人的能力;使用者可能对技术和 AI 形成深度依赖,并降低对错误的辨别力。人类社群的抗风险能力,建立在多元的人类技能储备之上。