AI生成菜单为何令人倒胃口？同质化问题作祟

第一次遇到这种情况时，你会觉得自己疯了。你走进一家咖啡馆，看着菜单上有各式各样的贝果三明治，但每张插图都完美得令人毛骨悚然，精确对称，平滑得诡异，让你本能地感到哪里不对劲。你可能会觉得自己多疑，但你并没有失去理智。生成式AI菜单已经侵入餐饮业，这些菜单得益于在一种狭隘、“讨喜”的美学上训练的模型，这种美学产生了一种让你即便说不出所以然也感到不对劲的观感。 有时，这些插图假得离谱，比如墨西哥卷饼上的奶酪起泡融化，看起来更像前卫艺术而非午餐。更多时候，它们看起来太过普通，以至于只有你仔细再看一眼时才会发现不对劲。 “这几乎就像外星人在不理解披萨核心原理的情况下尝试做披萨一样，”Reality Defender首席技术官亚历克斯·莱尔（Alex Lisle）对TechCrunch表示。（Reality Defender本身属于一个不断增长的创业公司类别，这些公司销售AI检测和内容验证工具——这个行业的存在部分正是源于此类问题。） 莱尔表示，这些模型的构建方式有助于解释为何插图似乎呈现出如此特定的审美——其中每个冰淇淋球都完美浑圆，虾似乎被基因改造去咬自己的尾巴，创造出新的“洛夫克拉夫特式食物恐怖”。 大型语言模型（LLM）和扩散模型——这类AI模型让看似无所不知的聊天机器人和图像生成器（如ChatGPT和Midjourney）成为可能——在海量数据上进行训练。随后，模型会识别数据集中的模式，以预测当用户提出“给我做一份汉堡餐厅的菜单”之类的要求时，他们在寻找什么。 “这些东西很多看起来像是2015年Chili's的菜单，这是有原因的，”莱尔说。“那是模型获取其功能的语料库。” 新的训练数据对于构建AI模型的公司来说价值连城——甚至发现亚马逊会搜罗稀有书籍进行扫描并加入其训练数据，一旦上传便销毁这些书籍。不可避免地，一些AI生成的内容会渗入这些庞大到难以理解的数据集。但当AI模型在太多自身生成的内容上进行训练时，它们就有模型崩溃的风险。 “模型崩溃几乎就像疯牛病……当你把一个模型的输出重新喂给它自己，最终近亲繁殖过度，整个体系就会崩溃，”莱尔解释说。“我们在这里看到的是趋同，不一定是模型崩溃。” 趋同没有那么极端，它会降低AI输出的质量，但不会让其完全无用。 如果有人让AI模型生成一份快餐店菜单，模型很可能会参考Wendy's、汉堡王、麦当劳或其他热门连锁店的菜单。这些菜单本身风格类似，这意味着AI生成的输出会模仿同样的风格，如果这些AI生成的菜单最终回到训练数据中，这种风格只会进一步加强。 “数据集的优化是为了讨喜，你知道，不冒犯他人，所以这在一定程度上变成了均质化，”伊隆大学“想象数字未来中心”主任李·雷尼（Lee Rainie）对TechCrunch表示。“AI在图像和语言方面公认的做法是去除棱角。” 在更局部的范围内，当你使用AI图像生成器创建菜单并对其进行编辑时，这种图像的平滑化似乎就会发生。在X平台上，一位名叫Labtec的用户展示了在ChatGPT中制作菜单，然后反复编辑100次后，食物看起来越来越不像它本来的样子会发生什么。（我们复制了这个实验，也发现了类似结果。） “最终的结果实际上让我感到不舒服，”Labtec写道。 餐厅很可能正成为这个问题的受害者，它们反复修改AI生成的菜单，以更改价格或菜品名称等小细节。似乎每次编辑，食物图像都会变得更加圆润光滑一点。 “与原本真实的东西相比，人们在看到AI生成的东西时会有一种几乎无法解释的感觉，”雷尼说。“有一种人们有时难以言表的敏感，但他们在看到时能感知到，我认为这就是为什么一些关于（针对使用AI菜单的餐厅的）抵制的最初报道如此引人注目的原因之一。” 我们对这些AI菜单的反感背后有科学依据。德国杜伊斯堡-埃森大学的研究人员发现，AI生成的食物图像表现出“恐怖谷”效应，看起来几乎真实的食物图像比明显假的图像引起更多的厌恶和不安。考虑到围绕AI的文化背景，这种敏感情绪只会加剧。 如果人们对这些图像反应如此负面，那很可能足以让餐厅不再试图让AI菜单奏效。但给我们带来完美烤色汉堡胚的问题远不止于餐桌。 “眼见为实、耳听为实一直如此，以至于我们的司法系统也完全适应了这样的观念：证据的金标准是录音认罪和录像证据，”莱尔说。“但情况已不再如此。世界已发生根本性的转变，无论好坏。”