wuhu专题

文 | Subwater

编辑 | 白白酱

AI绘画的美女涉嫌诈骗？

这可能是史上首起AI绘画诈骗案！？

事情是这样的！有人发布了『女仆之夜：金鸡湖游艇Party』，一个席位售卖3000块钱，可以选一位专属女仆游艇陪玩，附带了43张女仆照片，都是性感美女，客服环节也做的非常逼真…

还有专门的金鸡湖女仆介绍手册

多达43张女仆照

文章仅展示其中几张

仔细看看是不是很眼熟

这不是前段时间用AI绘画生成的写实作品吗？

而且在介绍作品里

还不乏作品暴露出了“AI故障”

但因其太以假乱真

有很多不知情人士容易上当受骗

该事件被曝光到网上之后

眼尖的网友们发现了端倪

甚至有网友曝光了客服的微信

在不到一会的功夫

该组织已经接受到了批评教育！

最后的结果也是太快人心

看到这里

很多小伙伴们肯定会不禁疑惑

如果AI这样发展下去

弄不好会成为犯罪分子不择手段的工具呀

前段时间网上还曝出新型犯罪手法

引发了一波热议

还有更多AI绘画圈事件被曝光

插画家Tomer Hanuka的作品在未经允许的前提下，被AI生成了与其风格相似的图像，有人甚至利用这些图像做成NFT。

另一位艺术家Greg Rutkowski，也遭遇了类似的情况，他的名字在Midjourney上被人输入了九万多次，这使得他Google自己的名字时，找到的更多是AI生成图像......没想到AI生成的作品比艺术家本人还要火....

Tomer Hanuka的社交页面及其作品

Greg Rutkowski的社交页面及其作品

近期“卜尔Q用AI画商稿”

更是激起了圈内有关AI商业应用的担忧

后面作者还特地证明了幕后绘画过程

但是网友们可不买帐

结果最后越描越黑，尴尬收场

面对狂飙的AI

难道人类真的一败涂地？

原创作品的版权到底如何去保护？

如何防止作品被投喂？

如何杜绝AI用已有版权作品生成新图？

...

wuhu为此也邀请律师为大家支招解答

但治标同时还得治本！！

有办法防止AI的滥用吗？

有！

保护作品的正义的AI正在到来的路上！

用AI来打败AI 的方法来了！ 

保护作品免受AI模仿，

这个团队行动中

AI与网民的你来我回并不是什么新鲜事，就拿近段时间来说，当Midjourney、Stable Diffusion这些AI绘图工具可以很快地根据用户的需求算出结果，网民除了看热闹，还在试图找出AI的弱点——你画不好手，也画不好摔倒啦。

另一方面，大量的AI作品涌现，甚至有人因此获奖，去年9月，自称“不是艺术家”的杰森‧艾伦（Jason Allen）凭借Midjourney画作《太空歌剧院》（Théâtre D’opéra Spatial）获得美国科罗拉多州博览会数位艺术首奖，并拿走300美元奖金。

杰森‧艾伦的《太空歌剧院》（Théâtre D’opéra Spatial）

不过伴随而来的其中一个问题是著作权争议（另一个问题是AI生成图像是否为艺术），如果有艺术家主张自己的作品被AI侵权了，那TA该如何维权，AI作品要满足哪些要件，才能拥有著作权？同时，不想被“AI垃圾”影响的艺术创作者，开始采取行动，形成反弹之势。

创作者的此番需求被一组研究团队看到了。芝加哥大学计算机科学学院的SAND Lab开发出一款名为Glaze的工具！

据UCHICAGO CS NEWS称，它将会让创作者的作品免受AI的模仿。Glaze通过“误导”AI的方式，使AI难以真正成功地学习创作者作品中的风格，而风格是艺术工作者的名片，此举旨在挫伤利用AI进行艺术抄袭之行为。

SAND Lab由计算机科学教授Ben Zhao和Heather Zheng领导，团队其他成员还包括芝加哥大学计算机科学助理教授Rana Hanocka以及博士生Jenna Cryan、Shawn Shan、Emily Wenger等。

这家实验室的研究涵盖多个领域，最主要的三个核心领域分别是：无线和移动系统、人机交互和社会行为、安全和隐私。

Ben Zhao获得过不少的科技奖项，如《MIT Technology Review》TR-35奖（35岁以下的年轻创新者）、《ComputerWorld Magazine》前40名科技创新者奖等，其研究成果被《Scientific American》、 《New York Times》、《Boston Globe》、《Wall Street Journal》和《MIT Tech Review》等知名媒体报道。

Heather Zheng也是计算机科技领域十分有经验的学者，在加入芝加哥大学之前，曾于新泽西州贝尔实验室和微软亚洲研究院工作了6年。

进入SAND Lab的团队介绍页面，可以看到不少的，从样貌及名字都很像华人的成员：

2020年，SAND Lab为了研究如何保护人们免受面部识别工具的侵害，开发出一种算法——Fawkes，它主要的原理在于AI的视觉判断方式和人类不完全一样，目前人脸识别的方法，很多是撷取脸部的视觉特征后，再加以比对。

Fawkes之所以能起到效用，是因为它在照片中，增加一些肉眼看不到的小扰动，让AI撷取的照片特征近似于另外一个人，用以混淆人脸识别系统。

经过多家媒体的报道后，Fawkes获得相当程度的知名度，下载量近百万次。2022年，当创作者们面临着AI生成图像技术的冲击时，TA们想到了Fawkes，并希望它能够提供到帮助。

Fawkes

不过，在识别一幅画作的艺术风格方面，Fawkes还是有局限性的，这是由于构成画面风格需要更多的特征，比如笔触、色调、阴影和纹理等。真正做到保护创作者的作品，需要将最为重要的风格特征识别出来。

“我们不需要改变画作中的所有内容来保护创作者，我们只需要改变风格特征，”团队成员Shawn Shan说。“所以，我们必须想出一种方法，将风格特征从画作中提炼出来，并仅尝试扰乱AI对原本的风格特征的判断。”

原创作品（左）与AI生成的模仿作（右）

在做正式开发之前，研究团队调查了1100多名艺术工作者，了解其在面对AI时忧虑什么、有多大的意愿还会上传作品到网上（要知道，网络是众多艺术创作者宣传自己以及作品的重要途径）。

“我们与艺术家们交流时，发现他们已经采取了行动来对抗AI模型，”Shan说，“他们开始撤下自己的作品，或者只上传低分辨率的图像，但这样做对他们的事业非常不利，因为这是他们获得工作的途径。

Ben Zhao教授表示，艺术创作者基本上都已经接受了如此事实——他们将失去工作，整个行业以后会消失......这真的很令人震惊，教授认为我们都没有理解AI模型对人们影响的程度，尤其是它们对创作者产生的冲击。

他也指出，职业艺术家非常担心AI模型会无节制地盗用其作品，而有艺术专业的学生则因为看不到未来而不得不退出课程。

那Glaze的运作机制是怎样的呢？

假设我们想保护一位艺术家在线作品集中的艺术作品不被人工智能公司拿走，用来训练可以模仿该艺术家风格的AI模型。

Glaze的运作机制

首先，艺术家将原本的作品发布到网上之前，Glaze对其进行了非常小的改动，人眼难以觉察到变化，这意味着画作看起来仍然与真正的版本几乎相同。

这一操作被称为“风格掩藏”（style cloak），而被改变的画作则称之为“掩藏的艺术品”（cloaked artwork）。

假如Stable Diffusion要模仿上面提到的艺术家的画作。因为Glaze的掩藏，Stable Diffusion会将作品“解读”为其它风格（例如梵高的风格）。

当有人要求Stable Diffusion 生成那位艺术家风格的图像，那么TA将得到梵高（或某些混合）风格的结果。使用Glaze，图像扰动越大，保护效果越好。

Glaze的运作机制

或许有人会说，“OK啊，那我拿着这些模仿失败的生成品到处唬人好了”，但以开发Glaze的初衷来说，若真的可以有效防止创作者的心血被他人随意抄袭，这确实是好事一桩。

写到这里，我突然想到了一个还蛮有趣的问题：在哆啦A梦的无数宝贝中，有一个叫做“漫画制作箱”的道具，它可以模仿漫画家的技法和画风，进而生成相应的漫画作品出来。那Glaze能打得赢“漫画制作箱”吗？

在测试Glaze的过程中，SAND Lab找来了4位正活跃的艺术家和195位历史上的艺术家的作品来训练它，并专门成立了一个艺术家小组来评价效果。有超过九成的艺术家表示自己会在发布作品之前使用Glaze。

Ben Zhao教授认为，由于图像生成AI需要不断地到网上抓取新的数据，所以“被掩藏的艺术品”的增加会越来越干扰它们模仿艺术家风格的能力。

他还说，“我们能够做的是理解AI模型以哪些维度查看图像，并且我们要扭曲它们里面的东西，而这些扭曲不影响人们观看作品的维度。”

原创作品（左）、AI生成的模仿作（中）、使用了Glaze后AI被“误导”的结果（右）

根据网站公布的信息，研究团队在未来几周内提供Glaze的Mac版本以及Windows版本的下载软件（到时候wuhu会把公开的下载链接分享到评论区，敬请期待），由于这个项目并未打算商业化，所以下载是免费的。

虽然Glaze很有可能在将来迎来新的挑战（或者说是挑衅），不过那是下一轮的人类与AI你来我回的较量了。

而从长远来看，教授认为这需要政策、监管以及法律手段来解决。

面对AI的冲击，

这些人该慌了！？

Glaze要保护的是风格特征，那市面上的创作者，都练成了各自的风格了吗？就我们到网上看插画的经验来说，答案应该是否定的吧。

AI生成作品除了带来抄袭的问题、著作权的问题，它们真的该让一直靠着模仿热门作品，以及靠着旧套路获得人气的从业者感到慌了。

论模仿、学习已经通过市场检验的套路，无论是深度广度还是效率，AI肯定都要比人类出色，或许就连部分热门作品本身，也将要受到威胁吧。

对于此问题，ChatGPT作出以下回应：

“制作工具的普及和进步让越来越多人轻松进入创作领域，但初入行业的创作者可能会受到套路的影响，导致作品缺乏独特性和创新性。他们可能会追求市场流行，盲目模仿已有作品，或者过于关注网络点击率和收益。因此，创作者需要警惕这些套路，专注于提高自己的技能和思维水平，从而创造出更有价值的作品。”

它强调创意和独特性，而有关这些方面的养成，有本书名叫《如何成为艺术家》，作者是普利策艺评奖得主杰瑞‧萨尔兹（Jerry Saltz），他在书中向读者提出了63条建议，其中包括了像是“讲述自己的故事，定会很有趣”、“承袭惯例，但要摆脱束缚”、“懂得观察最重要”、“模仿，然后分离”等等。

除此以外，艺术源自生活这句老话之所以还有启发性，那是因为各式各样的生命体验与阅历确实是创作的宝藏，当你对这一点有所怀疑的时候，请再去回顾宫崎骏的动画生涯。

但在商业社会的现实面前，创作“有价值的”作品，意味着你必须先要问：谁在决定作品的价值？换句话说就是，谁是买主？

有创作者也知道创意和独特的重要性，TA们也努力探索着自己的风格，不过市场（或者潜在买家、潜在消费者）就是希望TA们产出虽旧套路满满但有吸睛点的内容。

而且，当艺术家的正版作品与AI生成的仿制品同时摆在一些买主或者消费者面前，TA们反而会因为后者要价更加低廉，而选择购买它们，艺术家的生存空间就这样被挤压，个别人却抱怨正版作品为什么不能再便宜一些呢？借AI来投机的人因此找到生财之路。

一夜之间，全球画师集体抵制AI绘画！目前已被推上舆论的风口浪尖！

可以对作品或者产品进行“自主”选择的一般大众在这样的链条中，并不全然是无辜的角色。

所以真正的威胁还是AI这项技术本身吗？

原来，AI是一条大鲇鱼，它掀起了竞争，惹得水花激溅，同时，AI又是一面镜子，它映照着人们的能力、道德和私心。

想象未来，

更要活在当下

有意识的人并不仅仅将ChatGPT当作聊天的工具。

这些人正在考虑的事情是如何有底线地活用ChatGPT，不断挖掘它潜在的能力，用以协助自己的工作。

ChatGPT已经可以搭配Excel来使用了，而且在网上，你可以找到相应的教程：

AI生成作品和ChatGPT一起用于网页设计？这想法听上去很不错！

又或者，当你冒出一个“大胆的”想法，并且有冲动要实现它时，ChatGPT可以尽其所能，去推你一把。

“制作简单有趣的短动画可以按照以下步骤进行......”

AI的未来，是由不同的人，以复杂的方式去影响的，并不必然以我、你或者他的想象为蓝本而展开，而它的现在，作为个人，是可以想办法去掌握的。

由于众所周知的原因，并不是所有的国内网民都能够轻松使用ChatGPT，所以......本土化的“业界良心”何时面向大众使用？

Glaze项目主页

http://glaze.cs.uchicago.edu/

Ben Y. Zhao教授的主页

https://people.cs.uchicago.edu/~ravenben/

SAND Lab主页

https://sandlab.cs.uchicago.edu/

本期话题

你认为还有哪些防止AI滥用的手段呢？

参考资料：

1、Glaze Project

2、Shawn Shan, Ben Y. Zhao 等，GLAZE:Protecting Artists from Style Mimicry by Text-to-Image Models

3、UCHICAGO CS NEWS，UChicago Scientists Develop New Tool to Protect Artists from AI Mimicry

4、wttw news，University of Chicago Develops Tool to Protect Artists from AI Threat

5、映CG，AI反被AI误？！芝加哥大学研究团队SAND Lab推出免费工具Glaze，保护艺术家作品免受AI模仿

6、TNL，职业绘师谈AI绘图：艺术家不是因为创作能力低而被AI淘汰，而是因为价格和人心

7、TNL，AI软件Fawkes如何透过生成对抗网络，反制Deepfake换脸歪风？

8、Steam: AInder

—END—

高调碰瓷《黑神话：悟空》！？《黑棉花：悟能》先来了！