查看原文
其他

哪里跪了?人和 AI 合作,到底有什么危险?

芯芯 极客公园 2023-11-06


任何一种工具,都注定要重塑使用者。

作者 | 芯芯
编辑 | 靖宇

「科技是懒人推动的!」

相信所有人在「摸鱼」或者「躺平」时候,都曾经用这句话为自己找借口。

从蒸汽机的工业革命,到计算机的数字革命,技术的进步确实让人类在某些方面,越来越有躺平的资本。

作为最有潜力成为下一代平台的 AI 技术,会让人类变得「更懒」吗

好像确实是的,但这并不是个好消息。

根据发表在《机器人与人工智能前沿》杂志上的一项最新研究显示,当人类与 AI 和机器合作时,真的会「摸鱼偷懒」。

该研究的第一作者 Cymek 称:「团队合作既可以是一种祝福,也可以是一种诅咒。」

所以,在 AI 时代,人类最大的危机不是被机器取代,而是「懒到退化」


01

机器助手,

让人类「放松警惕」


当有了机器这样一个有力帮手时,会让人类变得比较「心大」。
德国柏林工业大学的研究人员向 42 名参与者提供了模糊的电路板图像,要求他们检查是否有缺陷。其中一半的参与者被告知,他们要处理的电路板已由一台名为「熊猫」的机器人检查过,并已标记出缺陷。
实验:模拟电路板质量控制的视觉搜索任务 |《机器人与人工智能前沿》研究
实际上,机器人「熊猫」在实验过程中检测到了 94.8% 的缺陷。所有参与者都看到了相同的 320 张扫描电路板图像,当研究人员仔细查看参与者的错误率时,他们发现,与「熊猫」一起工作的参与者,在任务后期捕捉到的缺陷较少,因为他们已经看到「熊猫」成功地标记了许多缺陷。
两组参与者几乎检查了整个电路板表面,花时间搜索,自我评价努力程度较高。结果是,与机器人合作的参与者平均发现了 3.3 个缺陷,独自完成任务的人平均发现了 4.23 个缺陷。
两组参与者检测到的缺陷的平均值和标准偏差 |《机器人与人工智能前沿》研究
研究称:「这表明参与者在与机器人伙伴合作时,可能不太专心地检查电路板。我们研究的参与者似乎保持了检查电路板的努力,但似乎检查是在较少的脑力劳动和对采样信息的关注下进行的。」
这意味着,如果他们被告知机器人已经检查了一部分,并体验到机器人的可靠后,他们就会发现更少的缺陷。在潜意识中,他们假设「熊猫」不太会漏掉缺陷,产生「社会惰化」效应
这项研究的影响对于依赖严格的质量控制的行业尤为重要。作者警告称,甚至是短时间内对人类注意力的放松,可能是由于过度依赖机器人的准确性,都可能危及安全。
研究人员 Onnasch 提到:「在更长的轮班时间内,当任务变得例行化,并且工作环境提供的性能监控和反馈较少时,动力的丧失往往更大。在制造业普遍存在,特别是在双重检查常见的与安全相关的领域,这可能对工作结果产生负面影响。」
当然,研究者的测试也有一些限制。比如,样本其实还不够大,而且在实验室中难以模拟「社会惰化」,因为参与者知道他们受到监视。Cymek 解释道:「主要的限制是实验室环境。要了解人机互动中动力丧失问题的严重性,我们需要走出实验室,在实际工作环境中与经验丰富的工人一起测试我们的假设,他们通常与机器人一起工作。」

02

「人机合作危机」早已发生


事实上,在实验室之外,人机合作导致的「堕化」早已经在现实世界中出现。
在自动驾驶领域,有一个与「社会惰化」相似的现象,叫做「自动化自满(Automation complacency)」,典型是由于有了自动化辅助而分心
2018 年 3 月,在美国亚利桑那州,配有安全员的Uber 自动驾驶汽车撞死一位骑自行车的人警方的分析发现,如果安全员一直看着道路,安全员本可以在受害者前方 12.8 米处停下来,并避免悲剧。
2018 年美国自动驾驶致死事件 |CNN
特斯拉常常是美国媒体和监管机构重点关注的目标,原因常常是与自动驾驶有关的事故。一个典型的场景是,特斯拉司机在使用自动驾驶功能时睡觉,或玩游戏,并卷入致命车祸。
在当下的 AI 狂潮中,机器取代人类的预言越来越接近现实。一方认为机器会服务于人类,另一方则认为人类会不小心制造出邪恶之物。
在医疗领域,IBM 研发的 AI 系统「Doctor Watson」曾向癌症患者给出过不安全的用药建议。今年有论文指出,生成式 AI 已经可以通过美国医疗许可考试的三个部分。一个相似的迁移假设是,如果未来由 AI 对人类进行诊治,然后人类医生进行把关,人类医生是否又会出现「社会惰化」和「自动化自满」问题
前述研究的作者指出:「将人类和机器人的能力结合显然提供了许多机会,但我们也应该考虑,人机团队中可能发生的意外群体效应。当人类和机器人在一项任务上工作时,这可能会导致人类团队伙伴的动力损失,并使社交惰化等影响更有可能发生。」
还有人担心,AI 可能会影响人类思维和创造力,并削弱人际关系,从整个现实中分心。硅谷的生成式 AI 明星初创公司 Inflection 推出的聊天机器人 Pi,被设计成一位友善、支持的伴侣。创始人表示,Pi 是帮助人们应对孤独的工具,可以作为一个倾诉的对象。批评者则认为,这会让人逃离现实,而不是与真实的人类互动。
现在,人与工具的关系已经进化到一个新的层次。所有工具的诞生,其实都让人类变懒了,如扫地机让人免于清扫房屋,手机让人不用再记下电话号码。
但 AI 技术和此前的技术区别在于,将更多的思考和选择工作,都交给了 AI,而后者基本上是一个黑箱,这更像一种思考自主权的让渡。当人将开车决策完全交给自动驾驶,将医疗诊断都交由 AI 系统,潜在的代价与记不住电话号码的代价可能完全不同。
开发了历史上第一个聊天机器人的计算机科学家约瑟夫·维森鲍姆,曾将科学比喻成「一种上瘾的药物」,并由于服用剂量越来越大而成为「一种慢性毒药」,如将计算机引入一些复杂的人类活动,可能会没有回头路可走。
当人把思考、判断的权力交给机器,作为一种「参考」,「社会惰化」和「自动化自满」的魔鬼或许也潜伏其中,并可能随任务的重复成为一种慢性毒药。


*头图来源:douban
本文为极客公园原创文章,转载请联系极客君微信 geekparkGO


极客一问
你如何看待
人机合作危机?




 

热点视频

3 纳米 M3 芯片正式发布!北京时间 10 月 31 日,苹果发布了最新产品,M3 芯片家族,以及装载 M3 系列芯片的 Macbook 和 iMac。
点赞关注极客公园视频号观看更多精彩视频
 

更多阅读




继续滑动看下一个

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存