网易LOFTER上线AI绘图引发争议,平台内置生成式AI功能的合规边界何在?

新闻 2023-03-16
435

21世纪经济报道记者 蔡姝越,实习生谭砚文 上海报道

生成式AI技术的快速发展与原创作品保护之间的矛盾,在LOFTER这一汇集了大量创作者的同人社区中爆发。

近日,网易旗下博客平台LOFTER平台上线了AI绘图功能“老福鸽画画机”内测版,据悉,用户可以通过输入关键字词生成绘画作品。

然而,该功能上线后,迅速引发了大量来自平台中创作者和用户的争议。

争议的焦点在于,该项功能是否会使用平台内创作者的原创绘画作品作为训练素材,从而侵犯创作者的知识产权。

为回应用户关于AI绘图功能中训练素材的真实来源的质疑,LOFTER官方微博在3月6日至7日连发两条声明,强调“该功能训练集来自于开源,没有使用LOFTER用户的作品数据,并明确注明不得用于商业用途”,并在声明中指出,如AI绘图功能生成的图片确有侵权,将“赔偿原作者一万元”。

3月10日,LOFTER官方在APP内发布了《致广大创作者的一封道歉信》,称将推出“创作者保护计划”,上线并不断完善反AI盗用、反恶意爬取的能力,同时将禁止AI内容作为原创作品发布,并建立AI内容单独分区,与原创作品进行区分。

不过,尽管这项功能遭到了用户的强烈反对,LOFTER并未决定彻底下架该功能,而是计划将“头像生成器”功能测试入口调整到“头像框中心”,生成图片仅可作为平台头像使用,不提供下载和发布功能。截至发稿前,21世纪经济报道记者浏览LOFTER平台时,并未发现该项功能的入口。

争议中心:AIGC冲击UGC生态

事实上,LOFTER并不是唯一一个尝试内置生成式AI的平台,但其特殊的平台属性直接导致了其用户对于AIGC(AI generated content,即利用AI生成内容)模式有着天然的抵触。

LOFTER于2012年2月正式推出,至今已有逾11年的运营周期。官网中,LOFTER对自身的定义是“深受95后年轻人喜爱的泛兴趣社区”,聚集了约1300万创作者,在游戏、二次元、摄影、影视、娱乐等领域提供内容。换言之,LOFTER是一个依靠原创UGC(User Generated Content,即用户生成内容)持续运作的内容社区。

而LOFTER此次试水加入的“老福鸽画画机”这一功能,与Stable Diffusion、Midjourney、DALL-E等AI作画工具运行原理相同,在输入相应的关键词后,AI工具便可在短时间内生成画作。但在该类功能的训练过程中,不可避免地要投入大量已有的画作作为训练素材,这也意味着该类AI作画工具最终生成的图片是以往创作者成果的“融合体”。

在提出质疑的用户中,核心观点均是围绕LOFTER如何证明“老福鸽画画机”这一AI绘图功能没有使用平台内的原创作品进行训练,以及引入AI绘图功能后,平台内的原创生态应如何维护。

3月7日,LOFTER在微博中发布说明称,“老福鸽画画机”仅为满足用户个性化头像需求,无盈利目的,且此功能的训练数据集来自于开源数据,未使用 LOFTER 用户的作品,并且如确有侵权,每张图片将赔偿原作者一万元。

此外,LOFTER进一步表示,后续还将针对平台中AI内容增加更多管理细则:严禁AI生成内容以“原创作品”形式发布,并增加“AI 内容冒充原创”的反馈渠道;上线平台作品反AI爬取功能,尊重和保护创作者不希望被“AI学习、训练”的意愿;平台将设计更合理的产品机制,区分AI内容与原创作品,以免影响原创作品传播。

对于LOFTER的表态,用户@快来吃胡辣汤在LOFTER发布的道歉信下的回复中指出,AI的确是未来大趋势,不可能完全抵制。就算LOFTER没有AI功能,其它软件也会有。有些用户还是会用其它的AI作画应用,所以设置AI分区的做法是可以接受的。

最重要的是,应管理发布AI作品的用户,严厉打击使用AI作品盈利的行为。这就需要来自平台的监管,以及大家共同抵制。”该用户表示。

这也并非是LOFTER第一次因生成式AI功能引发争议。2021年,LOFTER曾上线“人工智能帮你写故事”活动,只要用户输入故事的开头,平台内即会生成完整的文章。一方面,对于普通用户而言AI创作无疑是一种新奇体验,因此大量用户参与到该活动中,但是由于LOFTER上线的AI写作技术尚不成熟,文章常出现人物性别错乱、逻辑线混乱、与作者原意背道而驰的情况,引发大量用户调侃AI生成的文章,网上掀起一波AI写文分享浪潮。

另一方面,由于LOFTER是一款以“原创”立身的同人创作网站,而AI写作与平台的“原创”属性相违背,并且涉及到版权归属、价值判断、逻辑连接等诸多问题,所以部分用户认为不能让AI写作任意发展。

2021年的AI写作活动是LOFTER探索AI功能的一次试水。虽然AI创作的文章难以达到用户预想到的效果,但是由于活动时间和规模有限,且用户的关注点在于AI创作的局限性,因此并未引发大规模的强烈争议。

核心难点:AIGC著作权权属如何认定

21记者梳理后发现,在LOFTER之前,已有不少平台上线了AI绘画功能,如百度“文心一格”、美图秀秀、微信平台中上线的“意间AI”小程序等。

其中,2022年9月上线的“意间AI”小程序,一经问世就受到热烈追捧。仅一个月用户就突破百万,到11月用户数已破千万,排队等待图片生成的人数一度超过8万人。

AI绘画的火爆也引发了业界的争议,首当其冲的就是AI生成作品的著作权归属问题。

据了解,目前国内外大多平台都标注AI生成图片版权属于用户,允许合法合规范围内的商用用途。 如百度“文心一格”的服务协议中便指出,付费用户在合法合规情况下,使用该功能生成图像的知识产权及其上的相关权益将永久归用户所有,且可用于商业用途,平台不拥有该图像的知识产权及其上的相关权益且不对此承担任何责任。

上海申伦律师事务所律师夏海龙在接受21记者采访时表示,目前司法实践中对AI绘画的著作权尚无相关判例明确相关裁判尺度,《著作权法》意义上的“作品”专指由人创作完成的绘画、文字等作品。因此,判断AI产生的画作是否享有著作权就要看人类在这一过程中的干预程度。

“如果AI本质上依然在扮演‘画笔’的角色,在画作产生过程中依赖于人类的具体指令,则其产生的画作性质应当为AI使用者创作的作品,假如AI可以仅靠个别关键词、完全脱离人类的具体指令独立产生画作,则此类画作的法律性质就不属于‘作品’,而属于一种可视化、具有审美效果的图片,AI的使用者虽然不能享有著作权,但依然享有售卖、使用这些图片的经济效益。”夏海龙说。

上海大邦律师事务所高级合伙人、律师游云庭告诉记者,著作权的侵权认定标准是创意表达二分法,如果创意相同,但表达不一样,就不构成侵权,而现在人工智能绘画表达和被人工智能学习的人的绘画是不同的,所以从《著作权法》的认定角度来看,至少就输出的美术作品而言,很难认定著作权侵权。

发展要务:平台内置生成式AI应考虑功能合规与用户权益

前沿技术的快速发展和相继而来的法律空白导致平台上线AI绘画功能存在着一定的侵权风险。夏海龙向21记者指出,AI生成图片可能与他人作品雷同,引发对AI开发者侵权的质疑,也必然会产生大量著作权纠纷。其次,考虑到国内在网络内容监管方面有诸多限制,AI也很有可能生成违法、违规内容。

另一方面,若平台计划内置生成式AI应用,应当如何保证其运行合规?

其关键在于AI开发者。“底线要求应当是AI开发者要遵守所有互联网、算法监管的法规,确保AI生成内容不违规、不被滥用。”夏海龙告诉记者,“其次,考虑到AI生成内容的不可预测和高效率,有必要同步完善侵权投诉、处置机制。”

除了确保制度合规外,“AI开发者还需注意社会伦理道德方面的合规,做好充分的预防性措施,让人工智能遵守人类社会公认的伦理标准和道德准则”,游云庭告诉记者。

同时,平台中的生成式AI功能也需要尊重平台内创作者的著作权。

夏海龙表示,平台内上线生成式AI功能,一方面的确可能出现大量侵犯他人著作权的情况,这一问题目前有比较成熟的机制或直接诉讼索赔;另一方面,AIGC客观上的确会以极低的成本满足大量市场对文字、绘画甚至影音类作品的需求,意味着这些作品著作权的经济价值可能极速贬值,大量内容创作者将被取代恐怕是更重大的问题。

但是,创作者的维权之路也可能存在一定阻碍。游云庭告诉记者,平台内创作者察觉到侵权,的确可以向版权局举报进行行政调查,但即便调查属实,其最终认定也很困难,因为用他人作品训练人工智能是否构成侵权或不正当竞争这个问题还没有定论。

AIGC是未来互联网平台开辟新功能、吸引用户、获取商业利益的趋势。正如本次LOFTER的AI绘画争议,即使用户的反对意愿十分强烈,LOFTER仍未下线AI绘画功能,而是通过边缘化该功能,在缓和用户不满情绪的同时,保留AI技术对平台的介入。固然,AIGC可以为平台带来新的发展机遇,但从长远看来,该项技术也将对一批内容创造者甚至相关法律法规带来挑战。

夏海龙告诉21记者,从《著作权法》角度看,平台类型演变的背后,可以发现大作品被小作品取代、贵作品被低成本作品取代、低成本作品被用户自制内容取代的趋势。而AIGC的出现,无疑意味着很多内容将彻底进入免费时代。

“从经济学的角度看,甚至可以说正是法律对人类作品的大力保护使得人类作品越来越昂贵,因此,AIGC在很大程度上将彻底架空人类的版权法,而部分内容创作者恐怕也不得不面临失业的窘境。这样的现实恐怕大大超出版权法架构者们的预想,但也为我们重新审视经济、法律、技术和人类福利之间关系提供了宝贵的视角和实践机会。”他说。

更多内容请下载21财经APP

相关文章