|
惊悚慎点！网友用AI画画，不小心造出"赛博女鬼"，无处不在甩不掉?! 本文部分图片可能引起不适，请谨慎阅读 本文部分图片可能引起不适，请谨慎阅读 本文部分图片可能引起不适，请谨慎阅读 这两天，推特网友目睹了一桩诡异至极的怪事，
一个音乐人为了好玩，用AI的“反向关键词加权技术”创造出一个女人， 没想到之后，她在无数照片中反反复复地出现，画面越来越血腥可怖。 无论音乐人如何更改关键词，她总能复现，而且永远是主角。 哪怕更换AI模型，这个女人也会再次到来。  这件事已经成为一个“赛博都市传说”， 网友们开玩笑说，这是用人工智能召唤出了数字恶魔…… 那个倒霉音乐人的网名叫Supercomposite， 为了方便就叫他SC好了。 SC说自己是一个科技爱好者，自从各类AI图片生成器开放后，他就喜欢输入关键词，看看AI会创作出什么画面。 几个月前，SC用到一种叫“反向关键词加权”（negative prompt weights）技术。 这个技术和平常的AI图片生成差不多， 区别只是，AI会尽力创造出和关键词相反的内容。  SC是马龙·白兰度的粉丝，他想知道白兰度的相反面是什么，于是输入“Brando::-1”。 AI生成了一个意义不明的logo，上面有黑色的城市剪影，还有“DIGITA PNTICS”字样（这个词无意义）。  SC心想，如果这个logo是白兰度的相反面，那把logo重新输入AI，会不会输出白兰度的照片？ 出于他也说不清的理由，他没有提交logo图片，而是把那张图用文字描述了一遍，将“DIGITA PNTICS skyline logo::-1”作为关键词输给AI。 然后，事情诡异起来了…… AI创作出4张图片，每张图里都有一个高颧骨、圆鼻头、脸上有红斑痤疮的中年女人。 她神情哀伤，眼睛里似乎含着泪水。  在一张看上去很像唱片封面的图片里，有着“LOAB RSSBON”的字样，SC就把这个女子取名叫Loab。 
为了冲淡那种阴沉的气氛，SC向朋友要来一张图。 它也是AI生成的，正向关键词是“满是天使的超压缩玻璃隧道，韦斯·安德森的风格”。 (注：韦斯·安德森是美国导演，执导过《布达佩斯大饭店》）  SC将天使图和其中一张女子图合并起来，让AI创作出它的相反图。  结果，情况变得更加吓人了！ “出于无法解释的原因，噩梦开始了。” SC在推特上写道， “也许，AI出现了某种突发性的运作事故，总之在它的世界里，这个女人与世界上最血腥、最恐怖的画面联系了起来。” “因为Loab是用反向关键词技术造出来的，所以她实际上是由一堆彼此毫无关联的东西组成的。 但是AI把她当作了一个完整的概念来对待。之后几乎每一张图，都有能让人认出来的Loab。” AI输出的图像是B级惊悚片的截图，充斥着没有眼球、浑身是血的女人，还有很多畸形的儿童。   SC说，更恐怖的儿童残肢图他没放上来，怕大家受不了。 这些图中仍然有Loab，她的高颧骨和红脸颊让人过目不忘。 但奇怪的是，根据“反向关键词加权”技术的特性，创作出的对立面图不应该有相似的角色。  “我被图片里那些怪诞的画面震住了，它们表达出强烈的绝望、恐惧和悲伤。之后，我用Loab图和不相干的图片结合，输入给AI，它输出的图仍然差不多。” SC说的“不相干图片”都有着正常内容，和恐怖血腥没关系。 但只要它们和原始Loab图合并，结果就是可怕的。  除了氛围吓人外，这些图里都有高颧骨、鼻子凸出的女人，身边带着孩子。 也就是说，Loab仍然存在。  SC非常困惑。他试图抹除Loab，将AI生成的二代图和无关照片合并，然后喂给AI。 按道理，此时Loab的影响应该很小了，有太多视觉元素能压过她。 可仍然没有！ AI对Loab异常执着，图片里还是有这个脸颊凸出的女人，看上去和最初的Loab差别不大。  SC不信邪，将它们和其他照片合并，输出一批新的图，然后再合并，再输入。 他反反复复操作了很多次，用了风格差异很大的照片，可Loab就是没法消失。 他试着将图和关键词结合，词汇包罗万象，什么都有。但无论输入什么词，AI做的图里还是有Loab。  SC怀疑是AI坏了，他更换了多个AI模型，将上面的操作重复了一遍。 结果，Loab坚挺地存在着。  “到这里，我已经快疯了。我手头上已经有几百张Loab的图片，我尝试把它和3、4张无关图片结合，但就是没有效果。” SC在推特上写道。 “有些时候，就算红脸颊等重要特征消失了，你仍然可以看出图片里浓浓的‘loab感’。这种相似感是无法被否认的。” “她就像鬼魂一样，出现在一代又一代的图片里，强力压过其他关键词和照片。AI总是喜欢先优化她的脸。”  SC说，他试过给一些奇怪的关键词，故意让AI扭曲Loab。有些时候，Loab确实能消失，但消失了几代后，她又会突然出现。 这很不同寻常，简直无法解释。SC说他怀疑AI的隐秘空间（指信息输入和输出之间，人类不了解的数字空间）对Loab有偏向，将她标记成了重要角色。  SC的推特发出去后，网友们又害怕，又兴奋。 有人将Loab的名字倒着写，发现baol的意思是“丑陋，畸形”。也许可以解释为什么相反图做出来会这样。  有好事者将Loab做成了周边。   短短几天，Loab已经有了粉丝，推特上有人给她画同人图，还给她建了维基百科。  一些人真心相信Loab是恶魔，开始真情实感地担忧起来，另一些相信科学的人认为，Loab证明了AI存在无法理解的偏好。  媒体采访SC，他说自己不能透露用了哪个AI，但他试过很多AI，Loab都存在。 不少人质疑他是炒作，SC的朋友发出今年4月份的截图，证明当时他们就在讨论这个奇怪的现象了。  没有人知道AI到底是怎么想的，为什么它偏好Loab，为什么Loab的图那么可怕。 这些绘图AI是经过数十亿张图片训练后形成的模型，对人类来说，它的思考方式过于复杂，不可能搞懂。 这也就是为什么SC等人把这个过程称为“隐秘空间”，它就像一个无法被观察的黑匣子。  6月份，得克萨斯大学奥斯汀分校的计算机博士詹尼丝·达拉斯（Giannis Daras）有类似的发现，AI似乎有自己的想法，甚至有一套秘密的语言。 达拉斯用的AI是DALLE-2。他先是输入一段文字，“两个农民在谈论蔬菜，带文字”，让AI生成相关图片。  图片里的文字看上去是没有意义的，比如Vicootes，Apoploe vesrreaitars，它们在所有语言里都不存在。 但达拉斯把Vicootes输入DALLE-2后，发现输出的文字相当统一，都是关于美食的。 输入Apoploe vesrreaitars，出来的图里全是鸟儿。  结合那张图，两个农民似乎在用某种不存在的语言，谈论着小鸟偷吃自家的蔬菜。 达拉斯又试了一句关键词，内容是“两条鲨鱼在谈论食物，带文字”。 输出的图片里，鲨鱼在说“wa ch zod rea”， 用这段文字生成的图片，是海鲜！  类似的例子还有很多，达拉斯将它们写成一篇论文，目前还没有被同行评审。  一个叫本杰明·希尔顿（Benjamin HIlton）的学者反驳他的话，说这不是“AI的秘密语言”，而是巧合。 但他反驳的证据不是很有力，实际上，还让人更信了。 比如，他反驳达拉斯说“Contarra ccetnxniams luryca tanniounons”的意思是“虫子”，因为他输出的图有很多其他东西。  但在截图里，确实有很多昆虫。而且，全是动物这件事已经足够奇怪了。 希尔顿在随意的文字后加入“3d render”，发现输出的图都和海洋有关。  他甚至也承认，“Apoploe vesrreaitars”确实很奇怪，出来的图里全是鸟。 希尔顿说，他猜测AI是将这些无意义的字母当成了动物的学名，后者也是一堆又长又怪的字。  真相到底是怎样的呢？没有人知道。 一名AI研究员告诉媒体，在研究深度学习系统时，经常出现这样的怪事。 这让建设AI的人都感到困惑。 “我不是开玩笑。在我们处理AI的时候，我感觉自己不是程序员，而更像是一个微生物学家，或者认知行为心理学家。” “神经网络根本不像代码，它的行为更像是培养皿里的生物。你只能看着它发展，通过不断喂给它东西，尝试理解它的想法。”  AI其实是有偏好和想法的电子生物？ 这个说法有点吓人，但也很有趣。 想要理解它们到底是怎么想的，还需要更多时间。 希望到那时候，人类可以更好地调教这些庞然大物，告诉它们别再生产恐怖的Loab图了…… 事儿君 英国那些事儿 https://mp.weixin.qq.com/s/Ou-143DKpK3wGIWO4NtchA
|
本周最热文章
1633
1