数十年来,飞行员一直依赖自动驾驶仪,其经验可为日益依赖人工智能的职场人士提供重要借鉴。

伦敦国王学院助理教授、《认知投降》(Cognitive Surrender)研究主要作者之一史蒂文·肖(Steven Shaw)将飞行员对自动化的依赖,与员工将思考和工作外包给AI的行为进行类比。他在近期OxGen峰会小组讨论中指出:“飞机上的自动驾驶仪已存在很久。飞行员首先学习手动飞行,然后才学会战略性地使用自动驾驶仪。”

部分联邦航空指导意见鼓励飞行员偶尔关闭自动驾驶仪,以保持手动飞行技能。这一做法有着长期记录:美国联邦航空管理局(FAA)在2013年的一份安全警告中称,“持续使用自动飞行系统可能导致飞行员在需要迅速从非预期状态中恢复飞机时能力下降。”2017年,该机构再次强调手动飞行的重要性,建议航空公司鼓励飞行员在条件允许时定期练习无自动驾驶飞行。

肖表示,“即使是专家也面临技能退化的风险”,这指向反复将认知任务外包给AI的危险。随着科技领袖、AI研究人员和政治家警告过度依赖AI可能削弱工人的基本认知能力,肖发出了上述警示。

周四,在美国缅因州参加More Perfect University举办的“学生对抗亿万富翁”市政厅会议时,众议员亚历山大·奥卡西奥-科尔特斯(Alexandria Ocasio-Cortez)警告称,“人工智能的目标是夺走你的思想,夺走你的思维能力,让你变得依赖机器。”OpenAI首席执行官山姆·阿尔特曼(Sam Altman)今年7月曾表示,AI最被忽视的风险之一是“认知萎缩”。法国AI初创公司Mistral首席执行官Arthur Mensch去年也指出,该技术最大的风险可能是“技能退化”。

提示前先思考

早期研究表明,人们极易将思考外包给AI。AI研究员兼理论神经科学家薇薇安·明(Vivienne Ming)今年3月透露,一项涉及72名参与者的实验发现,约90%至95%的人要么依赖AI生成答案,要么用它验证假设,而非挑战并深化自己的思考。她说:“压倒性的趋势是替代。”

同样,肖的研究表明,危险在于人们越来越不加批判地接受AI的答案。在涉及1372名参与者的实验中,即使答案被故意设为错误,人们在近80%的情况下仍接受了AI的建议。肖将这种现象称为“认知投降”。

他提出的避免建议非常简单:在向AI求助之前,先形成自己的判断。“先思考,然后再去输入提示词。”肖警告说,以AI为起点可能会缩小人们独立考虑的想法范围。

其他专家也提供了类似建议。普华永道前AI采用负责人吉塔·拉詹(Geetha Rajan)曾表示,她在利用AI核实事实和质疑工作之前,会先撰写初稿。数字营销公司DigitalMarketer首席执行官瑞安·迪斯(Ryan Deiss)则提倡“10-80-10”法则:人类负责任务的前后各10%,AI承担中间80%,人类最后回归以行使判断力并完善结果。