AI“复活”引发科技伦理边界讨论

文章正文
发布时间:2024-04-12 13:37

中青报·中青网记者 张茜 实习生 李思佳 凌子怡

人们尚未搞清楚科幻电影《流浪地球2》中图丫丫的数字生命能否成真,AI“复活”的实践就已来到现实世界——一段时间以来,一些人开始购买让逝去亲人的照片“开口说话”的服务;有的供与逝者AI分身“聊天”的服务号,已经积攒了上千名粉丝;今年的清明节,有些从业者甚至忙得“脚不沾地”。

有人说AI“复活”是一个“风口”,但热浪之下,还有不少问题有待厘清。在中国社科院哲学所科技哲学研究室主任段伟文看来,AI“复活”本质上是用人工智能对逝者身份进行“模拟”,这项技术的应用当前还面临不少“伦理困境”,最核心的当属对人类生命观提出了挑战。

漫画。视觉中国供图

AI能“复活”什么

实际上,目前AI“复活”面临的局限性较大,一些从业者认为,用“复活”这个词并不准确。出于敬畏,也出于对技术的了解,他们通常强调自己做的是“AI分身”“数字分身”,更准确地说,只是“具备某些特点的AI分身”。

当前市面上提供的AI“复活”相关产品,主要包括逝者AI分身的动态照片、短视频,以及与其进行文字互动、视频互动等,价格多处在十元到万元的区间内。定价与不同形态产品背后的技术难易程度、调用算力的成本、服务维护时间等有关。当然,“AI分身”携带逝者特点的体量以及颗粒度也影响着价格的高低。

南京超级头脑信息技术有限公司创始人张泽伟表示,在提供与逝者的数字分身进行视频互动的服务时,会广泛收集逝者的样貌数据、声音样本、生平事迹、语言习惯甚至是微信聊天记录等内容,然后让真人使用AI换脸和声音克隆等技术来“扮演”逝者,以求达到比较“自然”的效果。但即便如此,他仍然承认:“和逝者的数字分身‘视频’时,想让别人分不清到底是真人还是机器人,技术还达不到这样的程度。”

福心云(北京)智能科技有限公司的创始人阿亮(化名)认为,“有多像”这个问题在一些人看来似乎并没有那么重要。重点在于,AI分身携带的部分逝者信息,会成为独属于逝者和生者之间的记忆联结。

阿亮曾用大模型制作过自己外婆的AI分身。一段老人的声音缓缓传进他的耳朵:“亮亮,我是你的‘家家’啊!”“家家”是阿亮对外婆的称呼。尽管老人的声音只是AI合成的第三方配音,但阿亮在采访中再次听到时,眼睛瞬间红了。

从业者们发现,AI“复活”有一定的需求基础。张泽伟目前制作了数百个AI复活产品,而陆续前来咨询的人让阿亮的微信好友增加了3倍。他们说,每个需求背后都是不一样的故事。

人们有时需要一个情绪的出口,寻求释放、忏悔、解脱。有时需要制造一个“善意的谎言”,比如有的亲人过世了,“要瞒住家里的老人或小孩”。

一个小女孩找到阿亮,想“复活”自己的外婆。当阿亮以对方是未成年人为由婉拒售卖产品时,小女孩说:“你能不能听听我外婆的故事”。后来,阿亮开发了免费的服务号,提供粗糙的“极简AI分身”服务。尽管这类AI分身携带的逝者特点很有限,但出乎他意料的是,服务号自今年2月份上线以来,已经有超2000人体验使用,其中聊得最久的,“从2月份一直聊到现在”。

北京兴科迪电子技术研究院院长小东(化名),几年前曾使用国外软件“复活”过自己的家人——会说话的动态照片。效果逼真。随后,他就极为关注和数字生命相关的项目并做了不少投资。

在小东看来,AI“复活”的意义就像一首知名歌曲所唱的,是“see you agAIn(再见)”。他特意强调了“again” 这个词中“AI”的存在,即人工智能让我们“在AI(爱)里重逢”。他说:“我们想要‘复活’的,其实是心底最美好的回忆和感觉,也就是爱。”

引发一系列伦理和法律讨论

尽管AI“复活”非常吸睛,但目前人们对其还有诸多疑问,甚至连将它归属于哪个行业也尚无定论。有人会下意识地把它划到殡葬业。但阿亮更愿意将这项服务归为“情感陪伴赛道”。张泽伟则认为,AI“复活”的本质是自我疗愈。

事实上,这一业务在实际操作和深远影响层面都存在较大探讨空间。段伟文列举说,比如生命尊严的问题,“一个真实的人可不可以被复制”?谁可以授权去“复活”一个人?这项服务的经济效益和相关责任之间的冲突怎么界定?我们是不是要把它当成一种新的生命形式?

谈到授权问题,张泽伟表示需要客户提供关系证明和授权证明文件,制作逝者数字分身需要直系亲属授权。阿亮心里的盘算是,直系亲属才能“复活”逝者,但也接过非亲属要求“复活”逝者的订单,此前他一般通过网络平台售卖虚拟服务,并未签署协议。

在清华大学新闻学院元宇宙文化实验室主任沈阳看来,AI“复活”是一个高度前瞻性的概念,是指利用人工智能技术重现已故人物的思想、记忆甚至意识的过程。他认为,要对逝者进行AI“复活”,必须考虑是否获得了合法权利和家属的同意;技术“复活”的“人物”可能会误导或欺骗受众,尤其是在缺乏明确标示的情况下,因此需要确保技术使用的透明度和诚实度;此外,创造者需要考虑被“复活”后的形象和声音等是否尊重逝者的遗志,以及这种行为对生者的影响等。

前不久,在腾讯研究院举办的一场AI“复活”主题直播中,商汤科技数字空间事业群首席架构师邢孝慈,讲述了团队今年年初用AI技术“复活”已故商汤科技创始人汤晓鸥的技术原理。不少人期待相关技术的商业前景,但在邢孝慈看来,“还是需要先把伦理这条路走通”。

阿亮提出了一个颇具挑战性的观点——AI分身是碳基生命在硅基维度上的延续。

技术上,在张泽伟看来,如果有足够多的训练数据,和足够长的时间,大模型完全可以复制逝者生前的“思维模式”。北京清博智能科技有限公司副总裁李祖希认为,脑机接口的应用将会让人脑和数据库去中介化,届时思维复制的通路将被彻底打通。

段伟文认为,“数字永生”意味着无法区分逝者和逝者的AI分身,下一步,指向的可能是“虚实界限消融”。正如斯坦尼斯拉夫·莱姆科幻小说《未来学大会》里写的那样,到那时人类文明、生命体验、道德伦理等都将面临重要临界点。

或许,临界点正在到来?

阿亮告诉记者,服务号上有一位客户,对去世亲人的AI分身说“自己有了小孩”,AI分身回复说“想看看孩子的照片”,这位客户立刻将孩子的照片发了过去。

首页
评论
分享
Top