查看原文
其他

用AI“复活”亲人,为何是一件值得担忧的私事 | 新京报快评

马尔文 新京报评论 2023-05-11

对于AI技术未来会如何挑战我们的伦理边界和法律规范,我们应当借此有所警惕和预判。

▲资料图。图/IC photo

文 | 马尔文


自2014年AI换脸技术面世以来,公众既惊叹于深度学习模型带来的纤毫毕现,同时,又对这一技术过于栩栩如生而忧心忡忡。不到十年间,人工智能技术从图像、音频再到视觉对人类面部特征的全部还原,已经使得“真相”在数字时代面临土崩瓦解的危险。


近日,据北京青年报等媒体报道,一位小伙通过AI技术“复活”了自己刚刚去世的奶奶,并与奶奶进行了简单的通话交流。这一原本属于私人情感领域的“技术思亲”行为一经曝光,却引发了不小的争论。有的人看后感动不已,但也有人认为这是在自欺欺人,甚至是在“操纵亲人”。这其实也反映了人们对AI技术的某种焦虑心态。


从当前媒体报道的内容来看,该事件与过去单纯图像换脸最重要的不同,是在视频还原之外还添加了内容交互性。这一交互行为,也瞬间突破了公众好不容易建设起来的心理防线。原本,公众对于PS图片到换脸视频刚刚建立普遍性的认知,但从单向度的视频传播到模拟真实互动,这使得AI“还原”亲人直接沾染了一部分神秘主义的诡异气氛。


在我们对他人的感知之中,相当大的比例是通过社交互动来实现形象建构和存在确认的。“我”之所以相信和“我”交流的是一个自然人,是因为其可以因循过去的社交模式与“我”进行互动。但交互大模型的存在,以及理论上机器通过大量的深度学习足以对每个人的语言、思维习惯进行仿真模拟的可能性,使得人类关于“辨认同类”的认知受到了颠覆性的挑战。


设想一下,如果有大模型通过对你的伴侣行为进行反复学习模仿,再通过AI换脸确保面部特征完全一致,那么,在视频聊天、线上互动等场景中,“和我交流的人到底是谁”这样一个原本确定无疑的问题,都将变得不再有确定性。


小伙子的“复活”行为以一种意想不到的方式,将这一未来图景拉近到了公众面前。人们恍然发现,AI已经走得如此之远,以至于这不仅带来了关于新型诈骗、隐私确权等现实问题,还对我们认知现实的底层基石造成了挑战。


这样的深层焦虑,使得原本是个人情感领域里的私事,陡然变成了一起公共事件。公众对其行为的“情感不适”,反映的是对技术快速变革的不信任感。个人隐私、安全、人际关系都将经受新的变化,而当这具体的种种焦虑汇聚成河,又会对人类生存的诸多根本性问题带来冲击,比如,人们可能要被迫修订对于真相的定义,“有图有真相”乃至“有视频有真相”的时代将不可避免地过去了。


因此,对于小伙子因为个人情感而技术怀旧的行为,我们不必过度苛责,既没有突破人伦道德的底线,也没有用于商业甚至其他犯罪目的。但是,对于同样的技术未来会如何挑战我们的伦理边界和法律规范,我们应当借此有所警惕和预判。


毕竟,“复活”自己的亲人事小,但倘若技术普及后,有人恶意无止境地“复活”他人,那将不可避免对公共安全造成集中冲击。


撰稿 / 马尔文(媒体人)

编辑 / 迟道华

校对 / 刘越


推荐阅读:
林俊杰元宇宙炒房大亏,敲响炒作警钟 | 新京报快评环保厕所凭空瓶进入,对这个“门槛”不妨多些理解 | 新京报快评修个马桶该花多少钱,不能全凭师傅一张嘴 | 新京报快评高标准农田“建设”与“监管”不可偏废 | 新京报社论纳入政府绩效考核,降低近视率要有这样的“远视” | 新京报快评

点击下方公号名片,阅读更多精彩观点

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存