专家：细化技术标准让“AI数字人”透明化合规化（huà）

　　□ 本报记者（zhě） 　赵 丽（lì）

　　□ 本报实习生 宋昕（xīn）怡

　　“生（shēng）西（xī）红（hóng）柿（shì）和生黄瓜不能一起（qǐ）吃了！黄瓜中的（de）分解酶会破坏维生素C，一起吃（chī）轻则影响西红柿中维生素C的（de）吸收，重（chóng）则可能导致腹泻、肠（cháng）胃不适甚至（zhì）食物中毒。”电话那头，母亲说得头头是道（dào），电话这头的赵女士却听得（dé）一（yī）头雾水。

　　随即，母亲发（fā）来一则视频。赵女士回忆说：“一位（wèi）满头花（huā）白头发、身着白（bái）大褂的‘医生（shēng）’在视（shì）频里（lǐ）侃侃而谈‘养生秘籍’，甚（shèn）至宣称‘清淡饮食就是只（zhī）吃素食，完全不吃（chī）肉’。我妈把这个‘医生（shēng）’的话奉（fèng）为圭臬。”但赵女士仔细查看后，在视频（pín）右下角发现一串几乎透（tòu）明的标注（zhù）——“此视频由AI辅助（zhù）生成”。

　　“后（hòu）来，我（wǒ）妈（mā）戴着（zhe）老花镜，在我的指点下找了一会儿才看（kàn）见那行（háng）字。”赵女（nǚ）士（shì）无奈地说，“这（zhè）也不能怪老人（rén），现在AI生成的‘数（shù）字人’泛滥（làn），还难辨真假，实（shí）在让人防不胜防。”

　　有（yǒu）此困扰（rǎo）的并非只（zhī）有赵女士（shì）一家。《法治（zhì）日报》记者（zhě）近日随机采访（fǎng）了数十名路人，至（zhì）少有七成受访者称曾刷（shuā）到过“AI数（shù）字人（rén）”视频（pín），并且“难以分清到底是真人还是‘数字人（rén）’”，而原因主要在（zài）于“找不到有效提示”。

　　很多人担忧（yōu）：真人“数字（zì）人”傻傻分不清楚，背（bèi）后是肖像权（quán）侵（qīn）权乃至敲诈（zhà）、诈（zhà）骗等违法（fǎ）犯罪的风险隐患。

　　是（shì）否（fǒu）数（shù）字人难辨别（bié）

　　在重庆读大学（xué）的郑媛浏览某（mǒu）社交平台时，刷到（dào）一则帖子——照片里（lǐ）的女生（shēng）外形温婉（wǎn）可人（rén），穿搭（dā）清爽时尚，很夺（duó）人眼球。郑（zhèng）媛点赞并关注了该账号。

　　但不多时，郑媛（yuán）却刷到另一名博主揭露用“AI生成人（rén）”起号的（de）内容，被打假的恰恰（qià）是她先前所关注（zhù）的这个（gè）账号（hào）。“我仔细翻阅了那个女生（shēng）的账号主（zhǔ）页（yè），她并（bìng）未标明使用AI技术，还在评论区（qū）亲切地与其他用（yòng）户互（hù）动（dòng）。”面对这样的局面，郑媛说自己也“糊涂了”。她后（hòu）来观察了一个（gè）多（duō）星期，找到（dào）了该账号图片确为AI生成的证据——有（yǒu）网友在其他（tā）账号（hào）上发现了妆容和衣着（zhe）几（jǐ）乎一样的“数字人”，而人物介绍却完全不（bú）同。

　　习惯在（zài）直播间购物的北京市民李菲说，自己经常误入“数字（zì）人”直播间（jiān），“数字（zì）人”主播侃侃而谈介（jiè）绍商品，手部动作还（hái）能随着她（tā）说话的节奏不断（duàn）变（biàn）动，声音流畅而自然。

　　“要仔细看才能看到直播间左侧一行‘现直播内容为数字人直播，非（fēi）真人直播’的小字提醒（xǐng）。”李菲说，自己现在习惯了进直（zhí）播间“先找小字”，确认主播是（shì）否为（wéi）真人，“但真的‘费眼睛’，不是在（zài）犄角（jiǎo）旮旯，就是字体几乎透明，不注意根本看不到”。

　　袁伟(化名)是（shì）某985高校计算机系研究（jiū）生。他告诉记者：“现在一些AI大模型生成的图，别说中老年人会误以为真，很多（duō）没怎么接触（chù）过AI技术的年轻人都（dōu）不见得能（néng）分辨真假。”

　　他随（suí）即为记者演示，向某（mǒu）AI软件输入指令（lìng）“帮我生（shēng）成图（tú）片：一个容貌姣好的女性，精（jīng）细的（de）皮肤纹（wén）理，室外自然光”，随即生成（chéng）的图片（piàn）与真人照片相差无几，如果不是右下角自（zì）带的（de）水印（yìn），只让人觉得是一（yī）张普通的（de）美女照片（piàn）。“如（rú）果说（shuō）早期的AI软件大多不能生成自然的手指和（hé）人体比例，现（xiàn）在技术进步得很快，生成（chéng）的手指和人体比例已经比较像样了（le），更加大（dà）了（le）分（fèn）辨的难度（dù）。”

　　“这样的AI生成图片或视频，如果不作（zuò）标识提示（shì），会（huì）让很多人信以为真。”袁伟（wěi）说。

　　大量账号未作标识

　　记者在某社交平台上注意（yì）到一名（míng）为“××AI打（dǎ）假人”的账户，其发帖称（chēng）自己将致力于“揪出（chū）纯AI生成的内容博主（zhǔ），帮小白识别真伪”，还表示“关注了很多（duō）AI生成非真实的帅哥（gē）美女”。

　　在其关（guān）注列表里有300多个账号，记（jì）者（zhě）随机选取（qǔ）了其中20个账号浏览发现，若（ruò）没有看到（dào）评论区“这是（shì）AI吧，手指的细节很诡异（yì）”“背（bèi）景里的（de）文（wén）字都是（shì）乱码（mǎ）”等留言，记者第一反应只以为他们是普通的颜值时尚类博主。

　　这20个粉丝（sī）量几百（bǎi）到（dào）几万不等的账号，仅有3个账号在简介中写明“虚拟男友”“AI”“友情提示视频（pín）由虚拟现实技术（shù）制作”，两（liǎng）个账号主页（yè）的内容经平台审（shěn）核后（hòu）被打上（shàng）了“疑似包含AI创（chuàng）作信（xìn）息，请谨慎甄别”的（de）标签。其余账（zhàng）号在（zài）简（jiǎn）介、内（nèi）容中并未提及“AI”字眼（yǎn），平台的监测机制也并未识别到，这（zhè）些账号甚至还在评论区熟稔地与其他用户（hù）互动，让自（zì）己看上去更有“真人感”。

　　在调（diào）查（chá）过程中，有超过一（yī）半的受访者向记者表示（shì）AI生成的“数字（zì）人”和真人难（nán）以分辨，相（xiàng）关（guān）的提示也并不（bú）显眼。

　　此外，记者发现（xiàn），有人还会特意（yì）教人如何（hé）绕过平（píng）台的“AI打标”。据了解，目前，各平台已普（pǔ）遍升级AI内容识别系统，要求对AI生成作品进（jìn）行显著（zhe）标注。但在调查中，有分享经验的博（bó）主表示花费不到千元就可以购买所谓（wèi）的AI工具中预配置的镜像文件，称用这些镜像参数一（yī）键生成的虚（xū）拟（nǐ）人（rén）形象可（kě）以以假（jiǎ）乱真，最大（dà）限度规避平台的AI内容强制（zhì）标注机制。

　　细（xì）化标准加大惩处

　　记（jì）者梳理（lǐ）公开信息发现，实（shí）践中，一些（xiē）有心（xīn）人士利用“数字人”形象行不法（fǎ）之（zhī）事。

　　据报道，张（zhāng）文宏、雷（léi）军等公众人（rén）物形象（xiàng）曾被利用生成“AI数字人”，用来带（dài）货、恶搞。一些（xiē）直（zhí）播间内，“AI数字人”向中老年人群体虚假宣（xuān）传保健品，诱（yòu）导购买。更有甚者，一些（xiē）不法分子利用“AI数字人”进行（háng）敲诈、诈（zhà）骗等犯罪。例（lì）如，山西忻州公安机关工作发现，犯罪嫌（xián）疑人王某某利（lì）用AI技术（shù），制（zhì）作（zuò）合成“数字（zì）人”新闻视频引流（liú），进而进行（háng）有（yǒu）偿发（fā）帖、有偿删帖等敲诈勒（lè）索活动。2024年，江西一名65岁老人到银行办理业务，声（shēng）称要贷款200万元给男朋友“靳东”拍戏（xì），后经（jīng）调查（chá），老人手机里的“靳东”视频（pín）是AI合成的。

　　重（chóng）庆大学网络与大数据研（yán）究院副院长罗（luó）勇认为（wéi），就价值取向（xiàng）而言，AI产业发展不（bú）能凌驾于网络安全之上。对（duì）于利用AI技术生（shēng）成的短视频，网络用户特别是未（wèi）成年人和（hé）老年人由于缺乏（fá）必要的鉴别能（néng）力，往往（wǎng）会信以为真，由此可能（néng）产生负面网（wǎng）络舆情，甚至对网络安全造成负面影响。

　　据（jù）受（shòu）访专家介绍，当前我国已经（jīng）出台了（le）《生成式人工智（zhì）能服务（wù）管理暂行（háng）办法》《互联（lián）网信息服务深度合成管（guǎn）理规定》等法规，对（duì）“AI数字人（rén）”和AI生成内容的标识、数据来源等（děng）提出了具（jù）体要求。

　　今年3月，国家（jiā）网信办等四（sì）部门联（lián）合发布《人工智能生成（chéng）合（hé）成内容标识办（bàn）法》(以下简称标（biāo）识办法)，通过标（biāo）识提醒用户（hù）辨别虚假信息，规（guī）范内容制作、传播各环节标识行为（wéi），为规范AI生成内（nèi）容划定（dìng）红线。该办（bàn）法（fǎ）将于9月1日起施（shī）行。

　　中国政法大学教授（shòu）郑飞指出（chū），相（xiàng）关规定一定程度存在落地难的问题（tí）。一是（shì）监管和技术手段有限，难以彻底发现并（bìng）纠正违（wéi）规行为。例如（rú），一些“AI起号”从业（yè）者通过预（yù）置“镜像（xiàng）参数”生成（chéng）极为逼真的虚拟（nǐ）人像（xiàng），从而逃避（bì）平台的强（qiáng）制标注要求。而监管（guǎn）部（bù）门特别是基层执法（fǎ）部（bù）门，通常面（miàn）临职（zhí）责（zé）不清（qīng）、执（zhí）法手（shǒu）段和（hé）执法力（lì）量不足的问题；二是部分平台在一定程（chéng）度上“管不了”也（yě）“不想管”。“管不了”在于平台管理（lǐ）能力与技（jì）术手（shǒu）段欠缺，尤其是一些小型平（píng）台，缺乏（fá）足够的审核人力和（hé）技术支持。“不想管（guǎn）”则（zé）是背（bèi）后利益驱动。未明（míng）显标识“AI数字人”或合成（chéng）内容，会让受众误以为是真人或（huò）真（zhēn）实事件，从而更容（róng）易引（yǐn）起人们的兴（xìng）趣和好奇心（xīn），吸引更多（duō）的流量和关注，进而带来更多的商业利益。

　　“以网络社交平（píng）台为代表的网络服务（wù）提供者在AI生成内容的应用（yòng）场景中，应（yīng）当进一步完善用户使（shǐ）用AI协议（yì）规定，并强化对AI生成（chéng）内容（róng）的审（shěn）核（hé）。”罗勇说（shuō）。

　　郑飞（fēi）建议，应（yīng）从明确标识要求和加大责（zé）任追究两（liǎng）方（fāng）面发力。标识办法明确要（yào）求，一旦检测到AI生成内容，传（chuán）播平（píng）台应在发（fā）布内容周边添加显著提示标（biāo）识，并（bìng）在（zài）文件（jiàn）元数据中加隐式标识（shí），确（què）保全流程可溯（sù）源。在未来（lái）落实过程中，可进一步（bù）细化技术标准，比如规定标（biāo）识文字的最（zuì）小高（gāo）度、对（duì）比（bǐ）度、展（zhǎn）示（shì）时长等，让标识一目了然。另外，对于不按规定（dìng）标注的行为，需（xū）要严厉处罚：除加大（dà）行（háng）政罚款、暂（zàn）停业务或（huò）纳入不良信用记录等（děng）行政措施外，还要利用（yòng）法（fǎ）律手段加大威慑（shè）。通过明（míng）确、显著的标识标准和更严厉的（de）责任追究，才能（néng）从根（gēn）本上震慑违规不标注行为，实（shí）现（xiàn）“AI数字人”应用的（de）透（tòu）明化、合规化。