A07

AI再能 勿踩法律红线

编前:AI技术是把“双刃剑”,既能为生活与创作带来便利,也可能被滥用触碰法律红线。近日,湖北大冶一起利用AI生成色情小说牟利案,以及北京首例AI侵犯著作权案,分别揭开了AI在传播与知识产权领域的违法乱象。两起案件的判决明确:技术中立不代表责任豁免,无论是用AI“生黄”牟利,还是借AI“改画”侵权,只要突破法律边界,终将受到惩处。

AI生“黄”牟利

“95后”网文作家获刑

当AI生成内容与色情牟利挂钩,技术便成了违法工具。近日,湖北大冶市人民法院审结的一起案件中,“95后”男子柯某借助AI生成色情小说并跨境售卖,最终获刑。就此案的核心争议——AI生成内容是否构成“淫秽物品”,法院给出了明确答案:技术手段不影响违法定性,牟利者难逃法网。

“网文作者”转型“黄文写手”

2023年8月,四川绵阳警方在侦破一起特大非法利用信息网络制售淫秽漫画案时,发现某境外黄色网站服务器日志中存在湖北大冶的异常访问记录,锁定该IP地址属于大冶市东岳路街道某小区。

大冶市东岳路派出所迅速介入,侦查员伪装成境外用户潜入网站,锁定了一个名为“Dark×××”的账户:该账户自2022年11月起,利用AI生成中英双语色情小说,在另一关联网站以每篇15元至30元的价格售卖,支持虚拟货币支付。

技术民警追踪资金流向与IP地址,最终锁定犯罪嫌疑人柯某——一名住在大冶市东岳路街道某小区的“95后”网文作者。

2024年8月31日,警方在其住所查获作案电脑、手机,发现在其电脑桌面上仍留存有两份文档:一份是某平台的玄幻小说,另一份是拟投境外网站的色情小说。

在证据面前,柯某对利用AI技术撰写、发布并售卖色情小说的事实供认不讳。

售卖约760篇(次),获利22800余元

27岁的柯某本是“二次元”网文作者,常抱怨创作收入低、负担重,一条读者留言改变了他的人生轨迹:“去境外网站搞颜色,AI一天能产3万字。”

2022年11月,他下载翻墙软件进入境外黄色网站,内容令他震惊:排名榜首的一部小说标价为20元每章,付费人数显示“1.2万﹢”。评论区还有教程:“设定关键词,用AI扩写,月入五位数不是梦。”

柯某产生了写色情小说“捞金”的想法。起初,他用AI生成片段后手动修改,首篇便卖出100多篇次。后来,他直接输入关键词,让AI自动生成3万字内容,仅修改错别字便完成“创作”。

为逃避监管,他将小说拆成“清水版”和“完整版”,前者在该境外黄色网站引流,后者在关联的另一境外网站以15元至30元每篇的价格售卖,并借助AI翻译成外文发布。

2022年11月至2023年3月,柯某用AI“写”出色情小说数十篇,售卖约760篇(次),获利22800余元。

法律定性:技术中立≠免责

审理中,争议焦点集中于在当前法律尚未明确将AI生成内容纳入“淫秽物品”范畴的前提下,如何对利用AI技术制作、贩卖、传播色情内容并牟利的行为进行定性?

承办法官柯劲松表示,“技术中立并不意味着价值中立。技术是刀,握刀的手才决定善恶。”

法官认为,根据《刑法》第三百六十三条,以牟利为目的,制作、复制、出版、贩卖、传播淫秽物品的,处三年以下有期徒刑、拘役或者管制,并处罚金;情节严重的,处三年以上十年以下有期徒刑,并处罚金;情节特别严重的,处十年以上有期徒刑或者无期徒刑,并处罚金或者没收财产。

法院认为,柯某的行为完全符合《刑法》第三百六十三条的构成要件。首先,其行为的主观恶性和社会危害性,与传统手段无本质区别。其次,柯某的行为不仅破坏了网络环境的清朗,还对公众道德观念和社会风气造成了不良影响,不仅腐蚀社会道德,还可能诱发其他违法犯罪行为,尤其是对青少年的身心健康造成严重危害。

AI技术作为一种工具,其本身并不具有违法性,但行为人利用该技术实施违法犯罪行为,则应当承担相应的法律责任。技术中立性并不意味着行为人可以借此逃避法律制裁。

法院最终判决:柯某犯制作、贩卖、传播淫秽物品牟利罪,判处有期徒刑十个月,并处罚金5000元;追缴违法所得,没收作案工具。

AI“改画”侵权

数据非“免费午餐”

AI制图、AI作文、AI“二创”……如今,AI技术为创作领域带来极大变化,甚至有些滥用趋势。近日,北京通州法院审理的北京首例AI侵犯著作权案中,罗某等人借助AI,对原创插画“微调”后制成拼图售卖,最终4人获刑。

不是百分之百复制,就不算侵权?

“我画的画被人盗用了,还在网上售卖。”插画师张某发现,姚某在网络平台售卖的拼图,与自己的作品“如出一辙”。因为拼图与原图看上去“如出一辙”,让许多消费者误以为是正版。

在姚某的供货厂商负责人罗某看来,拼图属于AI“二创”作品,自己聘用的AI画师已经对原作品进行了“微调”,因此拼图不是百分之百复制,就不算侵犯著作权,“就算原作者投诉也没什么风险”“顶多赔千把块”。案发后,检方发现,罗某身背4起类似的民事投诉。

张某发现,姚某的网店在不到3个月的时间里,涉及自己作品的拼图已经销售超过500件,达到了刑法的立案标准,于是向属地公安机关报案。

警方调查证实,罗某等人利用AI技术,将张某等6名作者的作品“去水印”“修边缘”后制成拼图,累计售出3000余件,非法经营额27万余元。

改画时明确要求与原作“基本一致”

一个最为关键的问题是:经过AI技术修改后的图片,是否与原图构成“实质性相似”?检方调取了姚某、罗某的聊天记录等,发现他们聘用AI画师改画时,明确指示要做到与原作品“基本一致”,如果“一眼就能看出差别”就要重新修复。检方还找到了涉案AI工具,从设定来看,姚某、罗某等人就没有主观“创作”的意识,只是追求一种“丝滑”修改。

专家论证认定,改图仅在细节(如六角星变五角星、边缘修光滑)做调整,核心构图、线条、元素排布与原作“实质性相同”。

经比对作品核心构图要素,用AI生成的图片虽存在细节差异,但完整再现了原作品的独创性表达,其行为已构成刑法意义上的“复制发行”,所谓“AI融图技术”实为披着技术外衣的侵权手段。

法院最终判决:罗某、姚某犯侵犯著作权罪,判处二人有期徒刑1年6个月,并处罚金6万元;罗某公司被判处罚金10万元;另二人获缓刑。

追问1:AI生成内容享有著作权吗?

海淀法院法官陈越表示,AI生成内容的可版权性问题,存在较大争议。

“作品是指文学、艺术和科学领域内具有独创性并能以一定形式表现的智力成果。”陈越解释,受著作权法保护的作品只是人类智力成果中的一部分,并且是其中具有较充分独创性的外在表达部分。判断AI生成内容是否具有可版权性,应当着重考察人类的智力及创作在该内容生成过程中的介入程度和贡献大小。“如果内容主要由AI生成,没有体现人类作者独特的个性化选择和判断,那么该内容很难被认定为著作权法意义上的‘作品’。”

追问2:二次创作是侵权吗?

“在未获得授权的情况下大量使用热门影视剧、图片等进行‘二创’,存在极大的侵权风险。”陈越分析,若“二创”后的图片、视频等与原作品构成实质性相似,但未超出原作品表达的范畴,可能侵害原作品著作权人的复制权等相关权项;若“二创”后的图片并非仅系对原作品表达的单纯再现,而是形成了具有独创性的新作品,也可能侵害原作品著作权人的改编权。

陈越介绍,法院在认定“二创”行为是否构成合理使用时,通常会根据著作权法第24条的规定,确认该行为是否属于该条款规定的情形,并结合该行为是否指明了原作者姓名或者名称、作品名称,是否影响了原作品的正常使用,以及是否不合理地损害了原作品著作权人的合法权益等综合判断。

N人民法院报 北京日报客户端 法治日报