情感谬误

文/陈楸帆关于文山苗寨的历史，一直以来有两个传说。一则说这里的苗人与先祖蚩尤血缘最接近最纯正；二则说这里曾通往旧时法属殖民地——越南，也是丝绸之路、鸦片战争、抗法战争的交通要道，如今居住此地的苗人，实乃越战中受美国中央情报局暗中资助的老挝苗族游击队后裔，老挝秘密战争失败后为躲避杀戮，一路逃亡流落至此。这两个相互矛盾的传说，无论哪个更不可信，只要能够带来游客，便值得被以各种形式反复传颂，无论是从导游之口、苗绣纪念品手袋、定时歌舞表演还是游客中心的动画短片。无论哪个传说都无法改变游客日益稀少的状况。尽管文山上的树依然那么绿，山花开得依然那么鲜艳，踩堂舞依然那么震慑人心，过去几年间，旅游业已经丧失了文山的支柱产业地位。本地女性不得不摘下头上的银饰，脱掉绣着各色图腾和祖先形象的苗服盛装，寻找另一份工作机会。在中国，女性普遍被认为比男性更细腻、更敏感、更能够捕捉他人的情绪变化并加以辨识，这代表着高度进化的同理心。心心科技接受了这一假设，选择全部雇佣女性员工来作为情绪标注员。她们经过培训之后上岗，作为AI情感计算系统的人类助手。系统需要大量的数据包来训练它的算法模型，但不是原始数据，而是经过人类大脑处理加工过的标注数据，它能帮助机器穿透不同年龄、性别、种族、面貌等外在差异，更好地理解人类情绪的本质特征。类似的标注车间在全国有成千上万个，它们服务于不同的AI系统，处理的数据涵盖方方面面，从文本、语音、视频到更为复杂的交互游戏。依靠这样的车间解决就业问题，支撑经济收入的村子被称为“AI村”，尽管字面意义与实际情况截然相反。每个女工每小时能从中获得十几到几十元不等的收入，取决于她们操作的熟练程度，这种水平和城市白领相比也许不算什么，但比起在农田里劳作或是找不到工作还是要好上太多了。像其他小姐妹一样，杨笑笑从绿色山丘般的家，走进“心心科技”的情感标注车间，成为一名标注女工。车间里宽敞明亮，每个人面前竖着一块超薄曲面屏幕，正好围挡住标注员的整个视角。她们戴着耳机以避免周围干扰，系统自动分配的媒体数据不断流出，红色方框跃动在画面中的人脸上。尽管这里的一切也是由太阳能驱动的，可不知道为什么，笑笑总是觉得在这里待久了会有一种烦躁不安的情绪。在苗族人的理论中，来自太阳的能量是最干净的，也是对人的健康最有益的，其次是风电和水电，然后才是火电和核能。妈妈让笑笑把绿色盆栽带进车间，说这样能促进能量的流动，可是公司不让这么做。笑笑双手在快捷键盘上飞快地操作着，左手选择情绪类别，右手标注1-10的情绪强度，快乐3、悲伤5、愤怒7……有时候，她的脸上会闪现出与标注对象脸上相同的表情。这也是为什么心心公司选择女孩而不是男孩作为情绪标注员的原因。杨笑笑手上的动作越来越快，眼前不断闪现幽灵般的各种人脸，屏幕上方的工作量数字飞速跳动，但她关心的却是系统时钟。她有一个约会，就在今晚。“心心”是一个在线约会软件。和其他约会软件不同之处在于，它能够调用云端AI的情感计算API接口，更好地帮助用户理解约会对象的情绪变化，以提高成功率。这年头，线上约会变成一件微妙的事情。一方面，似乎网络可以跨越所有的界限，将不同地域、文化、语言、阶层的个体连接在一起，但另一方面，个体之间似乎发展出完全不同的情绪处理与反应模式，让人心变得更加难懂，隔阂重重。笑笑就是在“心心”上认识的Simon Zhu，一个住在上海的城市男孩。在她的想象中，上海是一座未来之城，五光十色的电子屏幕漂浮在街道两边，打扮入时的行人像机器一样面无表情，孤魂野鬼般游**在高耸入云的摩天大厦间，植物和动物都只能在规定好的缝隙里生长，像是被切断了与太阳的能量脐带。她从来没想过自己会和一个上海男孩进行线上约会，他们似乎属于完全不同的两个世界。可没想到是Simon先关注的笑笑，他说因为她的少数民族名字和增强现实头饰让人觉得很特别，不像那些千篇一律的网红脸。Simon的话经常让人听不懂，笑笑只能通过情绪识别功能大概猜测他到底想表达什么样的感觉。笑笑在“心心”上用的名字是“夸叶笑笑”。“夸叶”是她的苗族姓氏，所以其实这才是她的真名，可在现实里却没什么机会用。包括她的增强现实苗族头饰，也是自己制作上传的，虚拟道具提供商似乎完全忽略了少数民族的需求。今晚是两人在“心心”上相识一个月，这是一个非常重要的纪念日，大部分的在线约会都撑不过一个星期。而在相识满月时，许多人会选择一种特别的方式来庆祝，那就是一起关闭通过算法对人像加以美化处理的增强现实滤镜，将真实面目暴露在对方面前。“摘滤镜”的仪式代表着双方关系进入下一个阶段，当然也可能意味着关系的结束。蚩尤在上，笑笑对自己的相貌还是有一定信心的，这让她更加渴盼今晚。约定好的上线时间就快到了，可新的任务还在不断地涌进来。笑笑加快了标注速度，几乎达到了人类的极限，当然准确率难免有所下降，可又有什么关系呢？反正系统还会派发给其他女工进行交叉审核。工作量显示来到了最后一组数据，一个男孩站在一座寺庙前，红色方框叠加在他略微低下的脸上，笑笑几乎是同时按下了“快乐”和“4”，屏幕回归到蓝色的初始界面。忙碌的一天又过去了。以电力驱动的高速列车行驶在绿色的山峦间，笑笑的脸倒映在车窗上，露出了放松的笑容。这些“山”其实一细看，许多都是临近的村庄建筑，只不过在外立面、天台等原本被浪费的表面，全都种上了绿色的植被。这源于意大利的垂直森林设计理念，不仅能够吸附空气中的灰尘，制造氧气，还能降低城镇的平均气温，隔绝噪音，增加生物多样性，为鸟类、昆虫和各种小动物创造生活空间。这可比Simon待着的上海强太多了。笑笑心想。大城市那么挤，那么脏，还都是灰蒙蒙的，我可不愿意去那样的地方。高速列车带着一颗雀跃的心来到了大神庙站。在苗神庙前，笑笑打开了面罩上的“心心”应用。这里供奉着枫木雕成的蚩尤神像，牛首人身，四目六手，每只手里拿着不同的冷兵器，在夜色中分外威武慑人。传说中，蚩尤是与炎帝、黄帝并列的中华民族三大始祖之一。五六千年前，炎帝与黄帝联合战败了蚩尤，蚩尤的九黎集团战败后大部分向南流徙，后来发展为西南的少数民族，其中最兴盛的一支便是苗族。笑笑有时会想，那两则传说之间还是有共同点的，无论选择相信哪一种，我们都是失败者的后代。Simon在这之前已经呼叫过笑笑好几次，笑笑赶紧回拨，信号通了，手机屏幕在空中投出缩小版的全息半身像，增强现实滤镜下的Simon依然帅气时尚。“对不起，我迟到了，活儿太多了干不完。”“没关系，我也刚到，所以……你准备好了吗？”笑笑看到Simon脸上飘着“期待5”的标注，心里泛起一丝甜蜜。她微笑着点点头，Simon却像没看见一样，甚至皱起眉头。“如果你还没准备好，那我们也可以不这么做，毕竟你知道，这有一定的风险……”“我准备好了啊，随时可以开始。”“可是……”“可是什么？”“你的表情显示犹豫4，不安3……”“怎么可能，肯定是搞错了，我超开心的。”笑笑努力把自己的笑脸咧得更明显。“现在又变了，变成了害怕6。笑笑，你是不是有什么事情在瞒着我？”“我真的没有，Simon，肯定是系统出了问题，要不然我现在就把滤镜摘下来给你看？”“不，别，让我想想……”笑笑看见Simon的脸上出现了“怀疑4”和“不快3”的表情，这究竟是怎么回事？“Simon，你在怀疑我？”“我没有，我只是觉得……机器不会撒谎。”气氛一下子凝滞了。笑笑不用看也知道，自己脸上肯定挂着“失望10”的表情。她尝试再解释点什么，却发现信息发送失败。Simon拉黑了她。这时“失望”变成了“愤怒”，笑笑的增强现实化身变成了战神蚩尤的形象，头戴牛角，挥舞着长矛和利剑，浑身散发着血红的火光。你有这么多强大的武器，可你还是输了……笑笑心里默念道，不知道究竟发生了什么事情，怒火渐渐散去，只是觉得心碎。她突然想起了“慧师”，负责管理标注女工的AI程序，平常有什么疑惑都可以从她那里得到解答，她肯定知道发生了什么。此时或许全世界有成千上万人正在向慧师同时提问，但笑笑还是一下子就接通了慧师的频道。一身白色职业装的慧师飘浮在空气中，像是苗族传说中的蝴蝶妈妈。她坐在巨大环形屏幕前，身后有无数不同颜色的光线在流动，编织成美丽而复杂的地图。“笑笑，好久不见，你还好吗？”“不好……慧师，是不是因为我工作不认真，系统惩罚了我？”“嗯？出了什么事情？”“Simon……‘心心’……机器老是读错我的情绪。”慧师似乎明白了什么，但她的虚拟表情无法被标注，这需要很高的权限。慧师迅速调取了几组数据，在屏幕上放大出来。有笑笑的脸，也有Simon的脸，还有两张脸之间相连的彩色光线。她滑动时间标签，两张脸上的表情迅速流动。“笑笑，你别生气，也别沮丧。这不是你的错。”“我不开心……”“我知道，你的脸上写着呢，小傻瓜。”“所以你能看到我正确的情绪？可是车间主任说，如果我们不好好工作，AI系统就会给我们惩罚，比如调低你在社交网络上的信用值之类的，可不像这样子……”“我说了不是你的错，是Simon。”“Simon？他骗了我？所以他其实能看到我正确的情绪，可为什么要骗我？他不想摘下滤镜可以直接跟我说呀。”“不是那种欺骗。”“那是什么？”“Simon根本不存在。”“什么！”笑笑脸上的“震惊”突破了能够被衡量的极限值。“或者应该说，他不是人类。只是AI制造出来的虚拟化身，用来引导你购买虚拟道具和服务的鱼饵。”“可是，他看上去那么……”“真实。我知道。网络上到处都是Simon这样的AI傀儡，你也不是唯一上当受骗的人。”“可如果是由AI生成的，他怎么会出错呢？”慧师飘浮了起来，张开双臂，像只真正的蝴蝶，她背后的屏幕开始闪烁令人不安的红光。“最近出现了大规模的黑客攻击，但他们的目标并不是机器，而是人。因为人的大脑比机器更容易受到影响，尤其是情绪感知与计算的部分。只要外部环境施加情绪性的压力，便会极大地影响个体的判断。我们称之为‘情感谬误’，这也是那个黑客组织的名字。”“那些黑客为什么要这么做？”“他们宣称，机器剥夺了人类对于情绪的自由解释权，人类被规训为依赖算法才能沟通情感的动物，没有了真实情感，也就远离了真正的快乐。他们把我们叫作‘快乐独裁者’。”“……我不懂，我只是个微不足道的标注工人，为什么是我……”“如果单单针对你个人确实没有什么意义。可像这样的虚拟化身病毒完全没有成本，自我复制起来毫不费力，而且会根据攻击对象进行变形，实现精准打击。你看看我后面的地图上那些红色线条。”慧师的身后，有许多红色线条像导弹轨道一般跨过大陆或海洋，然后在着陆点如烟花般爆炸，不断分裂，辐射到更小的半径范围。画面放大，那些被攻击的区域，许多都标注着“心心”的logo。“这些线条是？”“攻击性情绪流。这个世界其实并不像我们想象中那么理性，大众的许多决策与判断是在情绪驱使下做出的，只要掌控了情绪的流动，就能够影响世界。”“所以，打击我也是其中的一部分……”“是的，笑笑，事情往往没有看上去那么简单。”慧师脸上快速闪烁过一组数据，像是她无法被人类辨识的细微表情，“我有一个好消息和坏消息，你想先听哪个？”笑笑心头一紧。“坏的吧。”慧师终于笑了，不需要标注也能看出来。她调出数据，是笑笑今天上班标注的最后那幅画面，寺庙前伫立的少年。“你给他标注了‘快乐4’，对吧？”笑笑仔细辨认那幅画面，跟她仓促之间留下的温暖印象完全不同，失焦的远处显示，这是一座专为苦行僧所修建的寺庙。少年低垂的睫毛上还带着泪珠。他正要被剃去头发，与繁华世界隔绝，这是一场少年向俗世告别的仪式，这绝对不可能是“快乐4”。笑笑犯了一个愚蠢的错误。“……我要被开除了？”“我就知道你会这么想。你这份工作干不长了，但不是因为你做得不好，而是因为机器已经足够聪明，它们从人类的经验里学会了如何自我进化，甚至比人类还要更加了解自己的情绪。所以，情感标注这门职业将很快会不复存在。”笑笑脸一沉，这是今天得到的第二个坏消息。她条件反射地给自己想象中的脸标注上“沮丧7”和“焦虑8”。慧师伸出了双臂，像是提供给笑笑一个虚拟的拥抱，用布满半透明发光鳞片的白色翅膀包裹住消沉的女孩。“好消息是，你会有一份新的工作。你被训练出来的技能不会白费，而且你们可以去做一些机器目前还没有办法做到的事情。”“比如说？”笑笑抬起头，充满不解。“黑客攻击导致了大范围的情感谬误，许多人甚至被诱发出各种情绪障碍，抑郁、狂躁、谵妄甚至自杀倾向。你们对于情绪的准确判断和同理心能够帮助他们走出困境，重新成为一个快乐的人，这是AI所做不到的。当然，你们仍然需要AI的协助，创造出让人感受到快乐的虚拟化身。”“那意味着……”“是的，笑笑，你要去上海了，那里会有更大、更新、更先进的车间等着你。”笑笑看着慧师背后巨大的屏幕，上面投射出自己的脸，叠加在一座巨大恢宏的城市上，脸上的表情似乎在发生一些微妙而复杂的变化。她努力想标识自己的情绪，可是发现这变得很困难，所有的事情都发生得太快了。也许只有机器才能做到对人类情绪的准确标注吧。我真的能够让人快乐吗？如果我自己都不快乐的话，会不会又是一次失败的逃离，从家乡到我讨厌的大城市？蚩尤在上，请你赐给我一些勇气和力量好吗……不同情绪和数字的标注在笑笑脸上出现，又迅速消失，就像肥皂泡一样，在爆裂瞬间闪现出七彩的光芒。一年之后，上海一阵清脆婉转的鸟鸣响起，长满了绿色植被的豆荚发出啪嗒一声，缓缓打开，里面躺着一个熟睡的少女。“醒醒，小美，该上班了。”笑笑抚摸着毛茸茸的豆荚表面，对里面的女孩轻声说道。“笑笑姐，自从有了豆荚之后，我晚上也不做噩梦了，第二天精神好多了。”“你呀，就是想家了。”笑笑点了点小美的鼻尖，两人都笑了起来。小美也是从文山苗寨搬到上海的情绪优化师，可刚到大城市的时候，她浑身上下各种不舒服，上班头昏脑涨没精神，晚上翻来覆去睡不着，还噩梦连连。自己情绪不好，怎么能给用户进行优化呢？幸好她认识了笑笑，加入了笑笑组织的“豆荚社区”，生活才有了好转。笑笑刚到上海时也有着一样的苦恼，告诉慧师后，慧师用算法分析了苗族人的生活方式，设计出了可3D打印的“豆荚”结构，应用了无土种植的高分子材料，可以容蓄水分和养料，同时允许氧气的通透。植物种子发芽之后，根系与原材料无缝交融在一起，形成了一个小巧舒适的绿色空间，可供人类休憩放松。“妈妈说的是对的，只有能量的流动才能让人的情绪好起来。”笑笑为自己的发现感到激动。“也许这对用户的情绪优化体验也有帮助……”慧师若有所思，她身后巨大的处理器阵列发出规律的蓝光，像是一块由星空铸成的立方体。“豆荚社区”的成员越来越多，不仅仅是苗族同胞，许多从边远地区搬到上海的算法工人们都加入了组织，打印出属于自己的豆荚，享受着来自自然的绿色能量。笑笑甚至听说，有一些上海土生土长的本地人，也怀着强烈的好奇想要体验。笑笑拉开窗帘，阳光洒进房间，像是铺了一地的金箔。她看到高楼林立的上海街头，在灰色的钢筋混凝土和黑色的液晶显示屏之间，有一些绿色在摩天大楼的外立面上悄悄地生长，蔓延，努力爬向能够获取更多阳光的高处。她默默地在心里给这座城市打上标注：乐观。4。