您当前的位置:首页 > 新闻资讯 > 法律

用AI“复活”逝者,伦理和法律的边界在哪?专家解读

时间:2024-04-07 09:21:27  来源:澎湃新闻  作者:

AI数字“复活”,您听说过吗?当然,这里的复活是加引号的,简单来说,就是指用逝者生前的照片、视频、文字记录等历史数据,使用人工智能技术、数字化模拟再现已故人物的声音、影像、行为等。

那么,目前AI“复活”技术发展到什么程度?一个人的“数字复活权”归谁拥有?未经授权AI“复活”明星是否触犯法律?使用逝者数据生成数字人,伦理和法律的边界在哪里?我们现有的法律是如何规定的? 首先来认识一位金女士,不久前,她借用AI技术、数字“复活”了一名已故的小女孩,她的女儿,小睿睿。

跨越时空的对话,妈妈的小女儿“回来了”

屏幕里懂事乖巧的小女孩名叫小睿睿,时隔近三年,再次以这样特殊的方式与女儿对话,金女士难掩激动。这个和自己女儿有着同样外表和声音的数字形象是金女士委托南京的一家AI工作室定制而成。抱着试试看的心态提供了女儿的视频和文字介绍等资料后,金女士没有想到仅仅一个月时间,她就可以和女儿隔着屏幕进行对话。

小睿睿妈妈 金女士:我感觉好像她又回到我身边一样,而且声音和性格完全符合,跟她生前几乎是一模一样的。

2021年,年仅9岁的小睿睿因患胶质母细胞瘤不幸去世,在她离世后,她的家人对女儿的思念与日俱增,在看到网络上有人为自己去世的亲人用人工智能手段进行数字重生后,金女士也动了心。

小睿睿妈妈 金女士:我一个人,比如说在家里的时候,平时就拿个照片看,不能产生互动,不能聊天。然后数字人可以根据她的性格,还有她的声音来模仿,我就可以跟她进行互动,能够感觉到她的存在感。我觉得这是延续了孩子对我的爱,还有我对孩子的爱,这是两个爱的相互延续。

从AI换脸到“复活”,记者探访数字人工作室

在南京高新技术开发区的某产业园,记者找到了这家名为“超级头脑”的AI工作室,负责人张泽伟告诉我们,成立之初他们从事的是AI培训和教育的相关业务,而真正开始接收“AI复活”逝者的订单,是缘于朋友的一个请求。

“超级头脑”工作室创始人 张泽伟:我的一个朋友,他父亲因为意外离世了,然后他们全家人一直瞒着他的奶奶。因为时间有点长了,老人家就是一直在问,所以说大家也看是瞒不下去了。所以说我朋友才找到我,问我可不可以有这项技术去复刻一下他父亲的声音跟形象,跟老人进行一个实时的通话,给老人报一个平安。

出于好友的请求,张泽伟的团队接下了这个任务,利用AI换脸换声技术,张泽伟扮演了朋友去世的父亲与老人进行了视频通话,视频里张泽伟并没有太多的言语,仅仅只是点点头微笑,而对于听力不太好的老人而言,这已经足以让她相信视频里的人是她许久未见的儿子。自这以后,越来越多的人找到他,希望以各种形式帮助他们“复活”亲人。从去年三月份到现在,张泽伟已经接到了一千多个订单。

在已经建构好的模型里,只要摄像头能够捕捉到扮演者的脸部图像,只需动动鼠标,换脸仅仅是一瞬间的事情。用AI技术换脸变声去为不知亲人离世的老人们编织一场善意的谎言,而对于不得不接受这个消息的人而言,让逝者的数字分身成为自己偶尔的陪伴和慰藉,成了另一部分人的选择。

家住南京的王先生在去年委托张泽伟利用AI技术扮演去世的舅舅与自己的外婆视频聊天,暂时瞒住了舅舅意外去世的消息。但王先生也意识到,这样善意的谎言也许不可能一直编织下去,看到张泽伟的工作室有数字生命的服务,他也在考虑为去世的亲人订制一个。

采访中张泽伟告诉记者,甚至有一些殡葬行业机构也主动找到工作室,希望能与他合作,为客户推出逝者数字生命的订制服务。

“超级头脑”工作室创始人 张泽伟:比如说后人去祭奠他、去看他,其实你并没有特别直接的印象。一个人他代表可能一段历史,可能是这个家族的一些重大事迹。当他的后人再去祭奠他,不管他的碑、墓地以后还在不在,至少他的数字生命是永远都在的。

AI“复活”已逝公众人物是否触犯法律?

近日,复活已故明星李玟的视频在网络上引起了广泛关注,记者发现,除了李玟外,还有包括张国荣、乔任梁等去世公众人物也被网友进行了AI数字“复活”,一些网友利用这些已逝明星生前的影像资料让他们重新对粉丝说话。

北京航空航天大学法学院副教授 赵精武:在没有取得近亲属同意的情况下,就对逝者的信息进行商业化利用或者其他目的,显然构成了对死者以及近亲属合法权益的侵犯。因为在我们看来,死者的复活并非真正意义上的复活,更多的是对于死者的一种消费。

而对这类网络上大量出现的“复活”视频,这些名人的家属表达了强烈的不满。

3月16日,对于网上传播开的“乔任梁被复活”影像,他的父亲公开表示,不能接受,希望对方尽快下架。

3月28日,已故知名歌手李玟的母亲公开发布了一则律师声明。该声明称,近期部分网络用户未经李玟女士近亲属同意,利用李玟肖像制作、发布“AI复活李玟”系列短视频,此类视频的广泛传播已经对李玟母亲及其家人的工作和生活造成了严重干扰,同时也给本就深陷痛苦的李玟母亲及家人带来了巨大的心理冲击和二次伤害。要求涉嫌侵权责任人,于声明发布之日起7日内下架、删除含有上述侵权内容的相关图片、视频及文章,立即停止实施相应侵权行为。

北京航空航天大学法学院副教授 赵精武:这种合法性取决于是否取得了死者近亲属的同意。如果近亲属已经同意,那么这样的行为可能能够豁免他的法律责任。我们国家的民法典第994条也做出了非常明确的规定,对于死者的肖像隐私这些相关的信息,由父母、子女、配偶请求相应的权利救济,如果没有这些相应的主体,则由其他近亲属来行使合法权益。

如何避免逝者数字人侵权或用于不法用途?

采访中“超级头脑”工作室团队告诉我们, 近年来利用人工智能技术从事电诈等不法活动的案例屡见不鲜,如何避免数字人或者换脸换声服务成为某些人非法逐利或从事其他违法行为的工具是他们一直在着力解决的难题。

张泽伟告诉记者,仅仅从沟通上判断客户的意图显然并不够,团队成员正在从合同和证明文件中慢慢摸索出一套法律流程。

“超级头脑”工作室创始人 张泽伟:从协议跟合同上去做约束,就是去做数字生命这一块,是不可以用于任何违法违规的途径的,一旦知道我们立刻会报警或者是向相关机构进行举报。然后再一块就是说会从他的一个授权,对授权和关系证明上去做证明跟约束,比如说你要给自己做,你必须自己授权给我们。你要给别人做,你需要得到别人的授权。如果是别人已经去世了,你必须要得到逝者的直系亲属的授权来做。

使用逝者数据,伦理和法律的边界在哪里?

据记者了解,自去年1月10日起施行的《互联网信息服务深度合成管理规定》要求,“深度合成服务提供者和技术支持者提供人脸、人声等生物识别信息编辑功能的,应当提示深度合成服务使用者依法告知被编辑的个人,并取得其单独同意。”我国民法典第994条规定,死者的肖像等受到侵害的,其配偶、子女、父母有权依法请求行为人承担民事责任。

中国人民大学未来法治研究院执行院长 张吉豫:特别在民法典制作的编纂的过程之中,就已经非常明确地考虑到了,当时就已经产生的像深度合成这样的一些技术可能带来的风险。任何人都不能够用信息技术来去伪造这样的方式去侵害他人的肖像权,而且也特别关注到对于声音也可以去进行合成,所以在民法典里面也规定了那声音相关的权利也是参照着肖像权一起来去进行保护的。

专家表示,目前的人工智能在面对如此复杂的人文关怀时,还存在诸多的技术限制以及难以解决的伦理道德问题,对于我国目前已出台或者正在研究制定出台的法律法规和管理办法,尊重人格尊严,防止侵害他人受保护权益是最基本的伦理和法律底线。

北京航空航天大学法学院副教授 赵精武:为了解决这类问题,科技部也在2023年9月发布了科技伦理审查办法,那么通过建立一个科技伦理审查制度来预防科技伦理层面的风险,那AI逝者“复活”也在被规制的对象里边。近期也有专家学者推出了人工智能法学者建议稿,其中基本的原则就是建立人工智能领域的科技伦理审查,强调人工智能技术必须以人为本,尊重人身自由和人格尊严。

中国科学院自动化研究所人工智能伦理与治理中心主任 曾毅:我们可以想象到有些人是希望采用这样的数字逝者来达到慰藉自己心灵的目的。但是它还有很多的隐患,比如说拥有数字逝者的时候,会不会使得人长期沉迷于与数字逝者之间的交互,从而对心理产生非常负面的影响。这个是数字逝者的这项人工智能的应用技术,可能给社会带来的长期潜在的隐患,也是我们是否应当开发这样的人工智能技术必须去思考的伦理道德的问题。

除了出台人工智能监管相关的法律法规以外,不少专家也表示,我们还需要采用人工智能的技术手段去治理人工智能发展。

 

 中国科学院自动化研究所人工智能伦理与治理中心主任 曾毅:未来我们人工智能的产品和服务在推向市场的时候,经过人工智能伦理安全的检测,我们给人工智能的产品和服务去打分,让它符合人工智能和我们的社会对于人工智能的期待。在产品和服务发布之前,避免当中的可能的潜在的伦理安全的隐患。



Tags:AI   点击:()  评论:()
声明:本站部分内容及图片来自互联网,转载是出于传递更多信息之目的,内容观点仅代表作者本人,不构成投资建议。投资者据此操作,风险自担。如有任何标注错误或版权侵犯请与我们联系,我们将及时更正、删除。
▌相关推荐
谷歌搜索史上最大变革!考虑对AI搜索收费
快科技4月7日消息,据国外媒体报道,谷歌正计划对由生成式人工智能驱动的新高级功能收费,这将是谷歌搜索业务历史上最大的一次变革。自2000年以来,谷歌的搜索产品一直依靠广告盈利...【详细内容】
2024-04-08  Search: AI  点击:(5)  评论:(0)  加入收藏
生成式AI:云计算的关键之战
“美国有一家铁路公司,过去两年我们一直在交谈。终于,他们这次打电话给我们,希望迅速推进上云迁移。”近日,亚马逊云科技全球客户技术支持与服务副总裁Uwem Ukpong向记者谈及企...【详细内容】
2024-04-08  Search: AI  点击:(4)  评论:(0)  加入收藏
为训练AI,OpenAI等科技巨头花式淘数据
[环球时报特约记者 甄翔]《纽约时报》6日披露了科技公司训练人工智能的秘密——利用语音识别工具转录视频网站YouTube上的视频,形成对话文本数据,供其最新的AI学习...【详细内容】
2024-04-08  Search: AI  点击:(5)  评论:(0)  加入收藏
AI程序员上岗 垂类大模型应用迎来井喷期
能自动写代码的“AI员工”、逐渐告别不够好用的智能客服,无需费时费力开发的工业AI控制器……随着人工智能大模型能力开始深入多个行业,IT、工业生产、金融、服务...【详细内容】
2024-04-08  Search: AI  点击:(3)  评论:(0)  加入收藏
当“机器人”有了“AI大脑” 人形机器人时代来了吗
数智风向标当“机器人”有了“AI大脑”​人形机器人时代来了吗简单明了的口令下达后,机器人便开始搬箱子、运小球,在各类不同的地形行走……这些身上布满芯片和传...【详细内容】
2024-04-08  Search: AI  点击:(2)  评论:(0)  加入收藏
AI重塑社交:腾讯与字节跳动的新赛场
文|新火种 一号编辑|美美最近,腾讯和字节跳动这两大互联网巨头几乎同步推出了各自的AI社交产品,尽管腾讯和字节跳动在前段时间刚刚“破冰”,但这一举措不仅意味着这两大巨头之...【详细内容】
2024-04-07  Search: AI  点击:(6)  评论:(0)  加入收藏
AI程序员上岗 垂类大模型应用迎来井喷期
能自动写代码的“AI员工”、逐渐告别不够好用的智能客服,无需费时费力开发的工业AI控制器……随着人工智能大模型能力开始深入多个行业,IT、工业生产、金融、服务...【详细内容】
2024-04-07  Search: AI  点击:(2)  评论:(0)  加入收藏
首个AI程序员上岗,码农们暂且不必过度焦虑
“AI程序员上岗”或许是噱头,但淘汰焦虑仍然近在咫尺,需要积极面对。全文2418字,阅读约需7分钟 撰稿 / 马尔文(媒体人)编辑 / 何睿 校对 / 张彦君▲随着相关技术的突飞猛进,AI也在...【详细内容】
2024-04-07  Search: AI  点击:(3)  评论:(0)  加入收藏
报告称 OpenAI 采集了超一百万小时的 YouTube 视频来训练 GPT-4
IT之家 4 月 7 日消息,本周早些时候,《华尔街日报》报道称 AI 公司在收集高质量训练数据方面遇到了困难。今天,《纽约时报》详细介绍了 AI 公司处理此问题的一些方法,其中涉及到...【详细内容】
2024-04-07  Search: AI  点击:(4)  评论:(0)  加入收藏
用AI“复活”逝者,伦理和法律的边界在哪?专家解读
AI数字“复活”,您听说过吗?当然,这里的复活是加引号的,简单来说,就是指用逝者生前的照片、视频、文字记录等历史数据,使用人工智能技术、数字化模拟再现已故人物的声音、影像、行...【详细内容】
2024-04-07  Search: AI  点击:(3)  评论:(0)  加入收藏
▌简易百科推荐
杀人埋尸的3名未成年人,最高可以判什么刑?
今天上午,检察机关通报邯郸初中生被害案,三名未成年犯罪嫌疑人被核准追诉。3月10日,河北邯郸肥乡区一名13岁中学生被抛尸于蔬菜大棚中,被发现时,脸被铁锹铲得面目全非。犯罪嫌疑...【详细内容】
2024-04-08    中国新闻周刊   Tags:未成年人   点击:(2)  评论:(0)  加入收藏
房子被法院查封后,房东是否应该承担违约金
案件回顾2022年,何某与蒋某(商铺产权所有人)签订《租房合同》,租期为2022年至2025年。该合同约定:租金为年租12万元,一次性支付完毕,合同期内租金不涨价,合同期满再次租赁随行就市。...【详细内容】
2024-04-08    昌吉州中级法院  Tags:违约金   点击:(2)  评论:(0)  加入收藏
未成年人及夫妻一方直播打赏款项如何处理?最高法公开征求意见
据最高人民法院官微4月7日消息,最高人民法院结合审判实践起草了《最高人民法院关于适用<中华人民共和国民法典>婚姻家庭编的解释(二)(征求意见稿)》。其中,关于未成年人及夫妻一方...【详细内容】
2024-04-07    界面新闻  Tags:直播打赏   点击:(4)  评论:(0)  加入收藏
老人生前留遗嘱把所有遗产给女儿,11岁孙女起诉要求分割
余老伯生前留下遗嘱,将所有遗产都留给女儿。在余老伯去世后,孙女小余将姑姑、叔叔等人诉至法院,要求重新分割遗产,理由是爷爷的遗嘱违反了民法典规定的“必留份制度”。澎湃新闻...【详细内容】
2024-04-07    澎湃新闻  Tags:遗产   点击:(4)  评论:(0)  加入收藏
未成年子女名下的房产 离婚时如何确权
本报记者梁平妮□ 本报通讯员 成志宇 王莎婚姻关系存续期间购买的房屋登记在了未成年子女名下,离婚时产权应如何认定?近日,山东省淄博市临淄区人民法院审理了一起房屋所有权确...【详细内容】
2024-04-07    法治日报  Tags:房产   点击:(4)  评论:(0)  加入收藏
《最高人民法院关于适用<中华人民共和国民法典>婚姻家庭编的解释(二)(征求意见稿)》向社会公开征求意见的公告
为正确贯彻实施《中华人民共和国民法典》,统一法律适用,依法保护妇女、未成年人、老年人、残疾人的合法权益,维护婚姻家庭和谐稳定,推动家庭家教家风建设,本院结合审判实践起草了...【详细内容】
2024-04-07    最高人民法院网  Tags:民法典   点击:(2)  评论:(0)  加入收藏
用AI“复活”逝者,伦理和法律的边界在哪?专家解读
AI数字“复活”,您听说过吗?当然,这里的复活是加引号的,简单来说,就是指用逝者生前的照片、视频、文字记录等历史数据,使用人工智能技术、数字化模拟再现已故人物的声音、影像、行...【详细内容】
2024-04-07    澎湃新闻  Tags:AI   点击:(3)  评论:(0)  加入收藏
如何避免“提灯定损”?如何保障租客的权益?律师给您支招
租房时,如何保障租客的权益?1. 签订正式的租房合同:与房东直接签订租房合同,避免与二房东签约,因为房东作为产权人,拥有出租房屋的完全权利。合同中应详细列明租金、押金、租期、...【详细内容】
2024-04-06    南阳新闻广播  Tags:租客   点击:(1)  评论:(0)  加入收藏
律师解读郑爽无财产可供执行:郑爽若故意隐瞒转移财产或被判刑3年
(来源:潇湘晨报)企查查APP显示,近日,郑爽与海宁东开之星影视投资有限公司合同纠纷案新增执行裁定书。文书内容显示,法院认为,经穷尽财产调查措施,该案被执行人郑爽暂无财产可供执行,...【详细内容】
2024-04-02    搜狐娱乐  Tags:郑爽   点击:(6)  评论:(0)  加入收藏
北京法院公布一批信用卡诈骗案,这类型案件占比超七成,如何预防?
界面新闻记者 | 张灵霄近期,信用卡诈骗呈多发高发态势。3月29日,北京高院向社会通报五年来北京法院审理信用卡诈骗案件的有关情况。数据显示,2019年至2023年,北京法院审结一审信...【详细内容】
2024-04-02    界面新闻  Tags:信用卡诈骗   点击:(7)  评论:(0)  加入收藏
站内最新
栏目相关
  • · 杀人埋尸的3名未成年人,最高可以判什么刑?
  • · 房子被法院查封后,房东是否应该承担违约金
  • · 未成年人及夫妻一方直播打赏款项如何处理?最高法公开征求意见
  • · 老人生前留遗嘱把所有遗产给女儿,11岁孙女起诉要求分割
  • · 未成年子女名下的房产 离婚时如何确权
  • · 《最高人民法院关于适用<中华人民共和国民法典>婚姻家庭编的解释(二)(征求意见稿)》向社会公开征求意见的公告
  • · 用AI“复活”逝者,伦理和法律的边界在哪?专家解读
  • · 如何避免“提灯定损”?如何保障租客的权益?律师给您支招
  • · 律师解读郑爽无财产可供执行:郑爽若故意隐瞒转移财产或被判刑3年
  • · 北京法院公布一批信用卡诈骗案,这类型案件占比超七成,如何预防?
  • · 严查违规从事有偿中介活动,中纪委网站披露多起案例
  • · 网购商品有瑕疵 平台与生产商互相推诿,法院这样判决
  • · 儿童驾驶电动游艺车伤人谁担责
  • · 拖欠工资被迫离职 劳动仲裁要准备什么资料?
  • · 一审宣判,陈戌源无期徒刑!庭审现场画面曝光:90度鞠躬道歉,希望得到球迷宽恕
  • · 知名软件创始人自杀,遗言称被妻子索要千万逼死,最新消息:翟欣欣认罪!
  • · 困在车轮上的高薪梦:交租金莫名成了还车贷
  • · 男子参加公司年会酒后身亡,被判自担主责,监控显示其向他人敬酒26次
  • · AI复活已逝明星成生意 未经同意用AI复活明星涉嫌侵权
  • · 最高检检察长应勇谈未成年杀人:符合核准追诉条件的,要依法追究刑责
  • 站内热门
    站内头条