专业IT科技资讯平台,关注科技、手机、电脑、智能硬件、电脑知识!
当前位置:技术分享网 > 科技 > 互联网 >

用户使用深度合成技术应注意什么?

导读:

(原标题:用户使用深度合成技术应注意什么?)

2022年1月28日,国

(原标题:用户使用深度合成技术应注意什么?)

2022年1月28日,国家网信办在其网站公开发布《互联网信息服务深度合成管理规定(征求意见稿)》(简称《深度合成征求意见稿》),对与元宇宙密切相关的深度合成技术服务提出了相关规范要求,除了明确制定目的依据、适用范围和总体要求外,还明确了深度合成服务提供者主体责任、深度合成信息内容标识管理制度、监督管理相关要求和法律责任。

那么,作为普通互联网用户,使用深度合成技术服务应注意什么?我们结合《深度合成征求意见稿》简要概括一下。

一、深度合成技术包括哪些

根据《深度合成征求意见稿》,深度合成技术是指利用以深度学习、虚拟现实为代表的生成合成类算法制作文本、图像、音频、视频、虚拟场景等信息的技术,包括但不限于:

(一)篇章生成、文本风格转换、问答对话等对文本内容进行生成或者编辑的技术;

(二)文本转语音、语音转换、语音属性编辑等对语音内容进行生成或者编辑的技术;

(三)音乐生成、场景声编辑等对非语音内容进行生成或者编辑的技术;

(四)人脸生成、人脸替换、人物属性编辑、人脸操控、姿态操控等对图像、视频内容中人脸等生物特征进行生成或者编辑的技术;

(五)图像增强、图像修复等对图像、视频内容中非生物特征进行编辑的技术;

(六)三维重建等对虚拟场景进行生成或者编辑的技术。

从定义来看,市场通常所称的深度伪造技术是深度合成技术的一种,其重在对图片、语音、视频,而深度合成则还包括文本、场景等。深度伪造最常见方式是AI换脸技术,此外还包括语音模拟、人脸合成、视频生成等。它的出现使得篡改或生成高度逼真且难以甄别的音视频内容成为可能,观察者最终无法通过肉眼明辨真伪。另外最近市场上出现的一些智能创作工具或机器人,也属于深度合成技术服务。

简要概括,凡是对相关内容进行生成或编辑而形成文本、语音、音乐、场景声、图像、视频、虚拟场景,都属于使用深度合成技术服务的行为。

二、使用深度合成技术服务的基本要求

根据《深度合成征求意见稿》的相关规定,无论是服务提供者还是使用者,都应当遵守法律法规,尊重社会公德和伦理,坚持正确政治方向,在涉及国家主权、领土完整、国家安全、国家尊严等大是大非问题上要坚持正确的政治立场,针对具体事件要坚持正确舆论导向不要以偏概全捕风捉影,针对具体事件要坚持文明健康的正确的价值观,促进深度合成服务向上向善。

如利用深度合成技术制作、复制、发布、传播虚假、违法信息,诋毁、贬损他人名誉、荣誉,仿冒他人身份实施诈骗等,损害人民群众的切身利益,甚至危害国家安全和社会稳定的不法行为,必然承担法律责任,付出相应的代价。

三、使用深度合成技术服务注意事项

一是必须使用真实身份。《深度合成征求意见稿》要求深度合成服务提供者应当依法对深度合成服务使用者进行真实身份信息认证,深度合成服务使用者不进行真实身份信息认证的,深度合成服务提供者不得为其提供信息发布服务。

二是不得制作、复制、传播、发布违法和不良信息。《深度合成征求意见稿》要求在此情形下服务提供者要对相关深度合成服务使用者依法依约采取警示、限制功能、暂停服务、关闭账号等处置措施。针对一些使用深度合成技术产生的虚假信息,《深度合成征求意见稿》要求深度合成服务提供者应当建立健全辟谣机制,发现深度合成信息服务使用者利用深度合成技术制作、复制、发布、传播虚假信息的,应当及时采取相应的辟谣措施,并将相关信息报网信等部门备案。

三是使用者需要尊重相关名誉权、肖像权、隐私权、知识产权和其他合法权益。在使用深度合成技术时,一般均需要收集和使用相关数据和信息,则需要注意在收集使用这些信息数据时不得侵害他人相关合法权益。特别强调的是,深度合成服务提供者提供人脸、人声等生物识别信息的显著编辑功能的,应当提示深度合成服务使用者依法告知并取得被编辑的个人信息主体的单独同意,即涉及敏感个人信息处理的,应取得单独同意,法律、行政法规另有规定的除外。

四是使用者应当依法使用信息标识功能。《深度合成征求意见稿》要求对使用深度合成技术生成的文本信息、音频信息、图像视频信息、虚拟场景信息等,应当进行标识;而对于其他深度合成服务信息的,鼓励使用者使用深度合成服务使用者提供对深度合成信息内容进行显著标识的功能对深度合成信息内容进行显著标识。而使用者对于的深度合成信息内容应当标识而未进行显著标识的,应当立即停止传输该信息,按照规定作出显著标识后,方可继续传输。

五是明确了相关法律责任。尤其需要注意的是,如违反本规定制作、复制、传播、发布违法和不良信息,从事危害国家安全、破坏社会稳定、扰乱社会秩序将要依法承担行政、刑事等法律责任;侵害相关名誉权、肖像权、隐私权、知识产权和其他合法权益,给他人造成损害的,依法承担民事责任;构成违反治安管理行为的,依法给予治安管理处罚;构成犯罪的,依法追究刑事责任。

六是用户有申诉投诉举报的权利。深度合成服务提供者应当设置便捷有效的用户申诉和公众投诉、举报入口,公布处理流程和反馈时限,及时受理、处理并反馈处理结果。

四、NFT 技术在深度合成技术服务产品中的应用思考

深度合成技术服务产品,本质上基于若干数据材料或其他现有作品,根据特定创作目的而形成的一种新型数字产品/作品,可以拓展表达能力、丰富创作体验和产品服务体验,实现更深度的协作与交流。由于深度合成技术服务在一定条件下可以达到高度仿真的效果,有时候甚至以假乱真,如果使用不当可能会滋生危害国家安全、公共安全和公共利益和诈骗、沉迷等不良后果。为此,《深度合成征求意见稿》要求服务提供者备案、使用者实名,并对合成产生的信息产品进行标识,并规定制作、发布、复制、传播、使用时不得违反国家安全、社会公共利益和他人合法权益,这是非常必要的。

深度合成技术服务产品与NFT技术结合,能够对服务提供者、使用者以及作品相关合成过程及其之后的流转、使用均基于区块链记录且可追溯、难以篡改,可以将相关法律规定和监管要求通过与NFT技术的结合贯彻体现于产品服务全过程,既能发挥其改善、深化服务体验的强大功效,又能有效地维护良好的市场秩序和相关合法权益。

作者:张烽,万商天勤律师事务所合伙人、万商天勤数字法律专业委员会主任、上海区块链技术协会智库专家

本文系未央网专栏作者:张 烽 发表,内容属作者个人观点,不代表网站观点,未经许可严禁转载,违者必究!