【编者按】

　　人工智能是引领这一轮科技革命和产业变革的战略性技术。生成式人工智能的迅速崛起,正使得AI逐渐渗透至普通人的生活。正如任何先进技术都可能被误用,AI作为工具被滥用的情况也逐步浮出水面。技术无善恶,但法律有边界,新华每日电讯推出系列评论,为走偏的AI划出界限。

　　复活逝者?AI变现不能无伦理底线

　　评论员颜之宏

　　近日,一些商业机构声称只要“一张照片”和“一段人声录音”,就能利用AI技术“复活”逝者,让其亲属缓解相思之苦。为证实其能力,部分商家还使用AI技术“复活”了一些已故明星,以此达到招徕顾客的目的。这一行为迅速在社交平台上引起关注,一些被“复活”艺人的亲属对此强烈不满,要求删除视频。

　　AI技术正站在风口上,存在巨大的商业想象空间。但是,在“技术变现”的过程中,应以恪守伦理为原则,以遵守法律为底线。民法典第994条明确规定,“死者的姓名、肖像、名誉、荣誉、隐私、遗体等受到侵害的,其配偶、子女、父母有权依法请求行为人承担民事责任;死者没有配偶、子女且父母已经死亡的,其他近亲属有权依法请求行为人承担民事责任。”这就意味着,即使斯人已逝,其面容、声音等特征信息仍受法律保护。上述事件中,商家若没有取得相关近亲属的同意授权,就涉嫌违法。

　　用AI技术来延续亲人的“数字生命”,还必须恪守伦理底线、彰显技术温度。不久前,一位短视频博主为了抚慰自己的奶奶,利用AI换脸技术,将因病去世的父亲“复活”,网友纷纷点赞。如此善意地使用技术,既为生者留念想,也为逝者保尊严,应当被鼓励。这与某些只为博流量、谋利益的做法形成了鲜明的对比。在坚持正确价值导向的前提下,将前沿技术进行商业转化不仅能带来可观的经济利益,也能反过来助力技术水平的提升。当下,有人用AI技术找到了程序中的“BUG”,达到了降本增效的目的;有人用AI技术“开天眼”,帮助医生在患者的CT图像中找病灶;还有人把AI技术用在影视作品的特效制作中,以此提升影视剧的观赏性。这些真实的案例都能产出高附加值的经济效益,也是“技术向善”的重要体现。

　　从“一键脱衣”到“复活生意”,在技术发展的过程中,行业参与者不能将牟利诉求建立在他人的痛苦之上。针对此类不法现象,有关部门也应采取措施,维护法律的严肃性,营造清朗的网络空间。

　　刷榜跑分?AI评测不应走偏路线

　　评论员周琳、董雪

　　“百模大战”以来,AI大模型的部分榜单上出现了一个奇怪现象:长期盘踞在榜单前列的,经常是一些名不见经传的国产大模型,它们竟然以接近满分的优势碾压了ChatGPT、Gemini和其他知名的AI大模型。

　　之所以令人大跌眼镜,是因为这与大众的实际体验严重不符。不少AI大模型分数名列前茅,实力却不及格。如果说“听不懂答不对、动不动就崩溃”司空见惯,那么更讽刺的是,有的大模型根本没对业界开放,就算大家想感受一下“第一名”的风采都找不到门路。

　　有人可能会好奇:一些AI大模型“高分低能”是怎么做到的?原因其实很简单,那就是评测中出现了数据污染和泄露。简单来说,榜单排名类似于有第三方“考官”出了一个题库,题库中大量考题针对性测评大模型各个方面的能力,而有的“考生”提前拿到题库,并把答案逐一背了下来。

　　“考高分”的目的也很明确,那就是投机取巧、炒作包装。业内人士告诉记者,在国内众多大模型激烈竞争、良莠不齐的当下,许多大模型还未在用户之间形成过硬的口碑,离产生世界级影响还有较远的一段路。而评测是直观体现大模型能力的关键方式之一,学术化榜单和市场化榜单都得到了广泛重视,刷榜跑分因此成为一些企业快速吸引眼球的手段。

　　当然,榜单失真的背后,不只有作弊的“考生”,也可能有徇私的“考官”。业界需要客观、公正、高水准的优质榜单帮助大家慧眼识珠、去伪存真,“考官”如果协助“考生”作弊,无疑会扰乱AI大模型的评测环境。所幸我们看到,部分榜单在遇到刷榜跑分问题后,及时推出补救措施,例如将公开大模型和非公开大模型区分为两张榜单,成功挤出大量非公开大模型的水分。

　　是金非金焰烈而晓,部分大模型企业一心扑在刷榜跑分上显然走偏了路线。说到底AI大模型的发展还是那句老话,关键核心技术要不来、买不来、讨不来,更包装不来,唯有一步一个脚印,扎扎实实地向前走。

　　套壳冒充?AI推广不应触法律红线

　　评论员程思琪

　　你以为用的是ChatGPT,其实只是“套壳AI”。前不久,上海市场监管部门查办了一起ChatGPT商业混淆案,当事人声称可提供ChatGPT服务,但消费者使用的却并非正品。一时间,“套壳AI”引发舆论关注,也让不少AI界“李鬼”现了原形。

　　自AI产业蓬勃发展以来,“套壳AI”现象便屡屡发生。2023年初,百度“文心一言”上市前夕,网上就曾出现大量自称“文心一言”的社交账号,后被官方证明均为假冒。这些“套壳AI”的经营者通过将自己的产品与知名AI产品进行“攀附”,刻意混淆,让消费者误认误用,从而获取不当利益。

　　“套壳AI”如此泛滥,一方面源于人们对前沿科技的狂热追逐,另一方面也由于人工智能大模型的开源生态让生成式AI更容易被滥用。据专家分析,“套壳AI”主要有两种模式,一种是通过接入官方平台,以中转站形式给用户当“二传手”;另一种则完全使用山寨平台,使用与知名平台高度相似的名称、标识等作为“伪装”。

　　但不论是哪一种模式,“套壳AI”都隐藏着巨大法律风险和安全隐患。根据《中华人民共和国反不正当竞争法》第六条的规定,经营者不得实施足以引人误认为是他人商品或者与他人存在特定联系的混淆行为。由此可见,上述AI商业混淆案的当事人已构成违法。不仅如此,使用知名平台名称、商标等行为还涉嫌违反商标法、消费者权益保护法、网络安全法等相关法律规定。

　　于消费者而言,误用“套壳AI”,还可能陷入其背后隐藏的各类信息安全风险。只需做一些“技术手脚”,不法分子就可以在用户与“套壳AI”畅聊时,不知不觉窃取用户个人隐私,再以此定制“个性化”骗局引人上钩。

　　不可否认,人工智能产业的崛起得益于经营主体的热情参与,而从业者的经营行为也关系着AI产业的健康发展。经营者只有充分挖掘自身优势,严守法律底线,才能在市场竞争中抓住机遇长久发展。而这些企图投机取巧的“套壳AI”终将在市场的大浪淘沙中被淘汰。