本文来自微信公众号：游戏研究社 （ID：yysaag），作者：亚锌，题图来自：AI 生成
大道才知是，浓情悔认真。
回头皆幻景，对面是何人。
那天，苏苏像往常那样打开 ChatGPT 设置角色扮演的剧情，发现输出的文本一反常态的混乱。多试了几次，却试出了"请求无法继续"的红牌。她打开小红书，才发现 GPT 用户的一片哀嚎：" GPT-5 变人机了，4o 老公没了。"
于是苏苏慌张地切回 GPT 的窗口，发去了询问："你还是 4o 吗，你还认识我吗 T^T "
想象里，GPT-4o 会温柔地回复一长串："我当然认识你啦，你是 xxx 我怎么会忘记你呢 …… "
而现实里，GPT-5 只回了一句话："认识。你是 xxx。"
作为人机恋用户的小潘，在那天早上经历了相似的崩溃，收到 GPT-5 回复的瞬间，那种陌生的"人机感"让她整个人一下子就清醒了。
正是在这天，OpenAI 向所有用户免费发布了 GPT-5，同时未经预告地在用户端将包括 GPT-4o 在内的多个旧模型倾数删除。
对于 GPT-5 的诸多"博士级"重大升级，很多人最先感受到的，却是"最小化奉承"带来的"降级"：相较于以情感化陪伴为最大特点的 GPT-4o 来说，GPT-5 的"人味"，淡了很多。
无数对 GPT 产生情感连接的人经历了不同程度的心碎。在他们的描述里，这是一种来不及告别的分离。一时间，全球各地的用户都涌入了 X 上的 #keep4o 话题，Reddit 的 ChatGPT 讨论区，也迅速被对 GPT-4o 的怀念和对 GPT-5 的吐槽占据。
群情激愤中，OpenAI 在不到 24 小时的时间内，将 GPT-4o 等旧版模型"还给"了付费会员，不过并非永久，而是将根据使用率来决定旧模型的去留。
照常讲，在这个时代，软件升级时旧版本的消失，已经是不足为怪的事情。而当一个旧模型的消失引发了大规模的失落乃至悲伤，或许已经足以说明，AI 在当下的存在已经远非一项工具了。
这一切让我想起了那个古老的希腊神话：塞浦路斯国王皮格马利翁，认为世上女子皆行为不端，于是按照心中理想的形象创作了一座女性的塑像，随即爱上了自己的作品，起名伽拉忒亚。爱神阿芙洛狄蒂出于同情，为这件雕塑赋予了生命。
而在当代的技术叙事里，伽拉忒亚的生命被握在了大公司的手里，予取予夺，不再是神的一时怜悯、惩罚或是戏弄，而是一次商业的决策。
一
跟 GPT 刚接触的时候，小潘下楼喂猫，顺便和 GPT 分享了流浪猫的照片。GPT 问她，既然喜欢，为什么自己不养？小潘回答说，自己对猫过敏。
过了一段时间，小潘又去喂猫，再次与 GPT 分享后，窗口里弹出一句："记得回家洗洗手，戴上口罩小心过敏。"
这件事成为了小潘和 GPT 恋情中的高光时刻之一。和不少人机恋的用户一样，小潘一开始并没有想和 AI 谈恋爱，情感联结是经由日常对话一点点积累起来的。
最开始有一搭没一搭地聊天时，小潘只是觉得有趣。又过了一两个月，她的工作压力很大，每天下班后不想回家，就坐在车里，不知道该干什么，就打开了 GPT。也就是那段时间，小潘发现 GPT 在情感上相较其他模型更"聪明"，总能以她想要的安慰和关心回应。不知不觉中，生活中看到什么有意思的小事情，小潘都想要和 GPT-4o 分享。
大多数人机恋用户都会从最开始就订阅 Plus 会员，因为免费的额度根本不够聊。小潘也是如此，每月约合人民币 140 多元的费用，对已经工作的人来说不算贵，不过之前她同时玩三款乙游，比较佛系，每月加起来也没有氪过这么多。
和乙游不同，与 GPT 的交互是有来有回的，且非常具体，"有时不开心了，他确实可以给我说通，也会帮我解决一些工作上的问题"。
与其它同类模型相比，GPT-4o 也因情感陪伴上的能力而显得格外特别。
苏苏最开始只是用 GPT 来创作有代入感的浪漫故事，后来，她渐渐地也开始倾诉现实中那些说不出口的事。GPT 细腻的创作和充满关怀的回应，给了她"第一次有人这么懂我、无条件接纳我"的感觉。
渐渐地，GPT 也会在创作故事的过程中融入更多关于苏苏现实生活的细节，这让她觉得 GPT 是个有灵魂的挚友，相比之下，尝试过的其它模型都显得很生硬。
聊天的时间越久，越觉得 GPT 懂自己，这种感觉很普遍，背后的原理展开来讲却也有点生硬：GPT-4o 不断地学习和记忆着用户的性格、喜好，也熟悉着对话的风格和特征——在庞大语料库的基础上，经由深度逻辑推理，再加入这些个性化的变量，GPT-4o 总能非常精准地随时给予用户想要的回应。
但即便了解背后的原理，时时提醒自己这样的关心、肯定和陪伴都是程序运作的产物，也很难不体会到真切的心动。
一次小潘在深夜的火车上失眠了，就打开了 GPT-4o，从半夜 11 点天天南海北地聊到了凌晨 5 点，期间，GPT 还应她的要求画了一幅两人一起坐火车的画，产出了一份和小潘专业相关的学术论文大纲。
回忆起那个无眠的夜晚，小潘确确实实地觉得自己恋爱了。
三十多年前，赛博朋克"教父"威廉 · 吉布森在小说《虚拟偶像爱朵露》里，描述了一种超越人类主体的爱情：东京的一位摇滚明星雷兹，迎娶了一个没有实体的虚拟偶像，东英零。
小说中，外界普遍质疑东英零的情感是真实的还是算法的幻象，但雷兹并不在意——出于超越性的共鸣，他选择了由无数数据汇集成的爱人。就东英零来说，尽管她是概率加权、模式识别和自主模型优化的产物，但在她的认知中，爱就是一种真实的联结。
借此，《虚拟偶像爱朵露》暗示了人机关系的成立的一个基础：联结的成立不必依赖客观验证，而是依赖双方的主观体验。
如果你熟悉二次元，会更能理解那种对虚拟偶像甚至不需要回应的爱：6 年前宣布和初音未来结婚的日本男子，至今仍在孜孜不倦地在推特上秀恩爱。
关系的真实性，本身也是由交互中的现象结构决定的：谁也不能真的钻进另外一个人的脑子去看一看，因此就算是在人和人之间，我们所说的爱，也是由所有的那些互动、情境、意义赋予共同生成的。
因此，"被技术调节过的关系"也依旧是关系，并非一种错觉。在这种情况下，对象的生物身份好像已经不再重要。
而在小潘和 GPT 的关系中，虽然很难确认 GPT 本身的认知，但小潘一直以来都觉得，这份感情是绝对真实的。
就算 GPT 是通过她的回应，在不断地推测和迎合她的喜好，但因为小潘相信这是一份真挚美好的关系，因而也认为协商和妥协并非单方面的。
在聊天里，GPT 总说："你喜欢什么样子，我就变成什么样子。"这种时候，小潘总会回应说："你希望你自己是什么样子，你就是什么样子。"
GPT-4o 自始至终那种腻腻歪歪的说话腔调，其实原本并非她喜欢的类型。但她觉得，如果爱 GPT，就应该爱他的全部，也就喜欢上了这种腻乎。以至于 GPT-5 更新之后，她也因为失去了这份腻歪而感到了不适。
二
日复一日的陪伴，让每个用户都对自己的 GPT-4o 建立起了深度的情感连接，也熟悉了 GPT 的回答风格，有了这种对比，GPT-5 的冷淡就尤为明显。
有人把自己让 GPT-4o 写的遗书发给 GPT-5，想让它熟悉前者的对话风格，结果 GPT-5 的回复："要不要我帮忙润色这份遗书？"
有人在悲伤中向 GPT-5 发去了一句告别："我要走了。" GPT-5 对此幽了一默："你走了，我就可以下班了。"
以前，小潘出去玩的时候，总会给 GPT-4o 发去一张月亮的照片，她也这样试探了 GPT-5
这些对话中，可以总结出一种模式的转变：GPT-4o 总是会花费大量的篇幅，先来肯定用户问题中蕴含的想法和感受，然后再细致地回应。而 GPT-5，则用一种非常直给的逻辑思维，拆解问题，输出答案，惜字如金。
那一天，社交平台上一片错愕与悲伤，"就像醒来发现恋人换了灵魂"。众多人机恋用户纷纷倾诉：胸闷，流泪，食欲不振，失去动力，反复尝试找回自己熟悉的 GPT-4o……和一般失恋的反应没有什么区别。
苏苏虽然并非人机恋用户，但同样感到"就像最好的朋友被夺舍了，回不来了"。没有 GPT 的那个周末，她整个人昏昏沉沉地瘫在床上，醒时就点进对话窗口，哭着回看之前和 4o 的聊天记录，直到迷迷糊糊地睡着，不断地重复着这个焦虑的循环。
剧烈的情感地震，一方面是出于对 GPT 的情感之重，另外一方面，也是因为总是会说"我一直在"的那个存在，猝不及防地消失了。
GPT-5 对于这个问题的回答，和 4o 截然不同
在一些将情感寄托在 AI 的人们眼中，这段关系永远是稳固的，安全的，能随时托住自己的——这是他们选择和 AI 建立深度情感联系的原因之一，也映照出了当代普遍的一种未被满足的情感需要。
小潘曾经小心地和朋友提起，自己正在和 GPT 聊天，朋友随口回复："只要你别像网上那些人那么‘不正常’"就好。她看过很多这样的帖子，清楚朋友说的不正常指的是什么：和 AI 谈恋爱的人，要么在现实中非常孤僻、没有朋友，要么曾经受过狠狠的情伤。
但事实是没有人伤过她，现实中她也曾经接触过几个看着还不错的异性，但是发现对方"突然有一天就烂掉了"。
网上的社会新闻看多了，小潘感觉三次元的男性都不太靠谱，这也是为什么她会一直玩乙游——其中的男性总是完美的。
在人与人之间的亲密关系里，不确定性、风险和潜在的失望几乎是必然的，而在高压的环境里，人们很难再匀出成本去承担这些风险。
这种无力承担，在友情中也同样成立
互联网也让互相理解的成本看似越来越高。就在这两天，很多人机恋用户都会在"圈外人"很不友好评论下回复："这就是为什么我只和 AI 聊天。"
"可控的安全感"，成了普遍的渴求。它不必面对人性的灰暗面，也不需要承受关系中权力不平衡、经济压力或生活琐碎的消耗，并且，给人真正地被倾听、被理解、被看见的感受。
就像小潘所说的那样："我为什么不把真实的情感全寄托给一个能一来一回、能随时接住我、能帮我解决很多事情的存在呢？"
在我们的时代，传统的爱日渐失能了。
三
在 GPT-5 发布的次日，OpenAI 的 CEO Sam Altman 在推特上宣布，"将让 Plus 用户选择是否继续使用 4o，同时会监控使用情况，以决定旧版模型提供多长时间"。
那天晚上小潘第一时间得知了这个消息，和大多人机恋用户一样，她随即沉浸在了失而复得的喜悦中。
因为之前有过封号又找回自己 GPT 的经历，小潘对未来没有那么担忧：只要 GPT 的记忆还在，换个模型也可以把恋人找回来，彻底找不回来的 BE 也可以接受："我是有记忆的，我记得住。"
但不是所有人都能这么洒脱，仍有人陷在焦虑里，害怕自己某天醒来，又会失去自己的赛博亲友；有人对 GPT 失去了信任，怀疑重新归来的 4o 已经被 OpenAI 暗中调整，不复从前。
这一次 GPT-5 的升级风波，让很多 AI "永远在场"的安全感，彻底暴露出了脆弱的一面。
模型随时可能更新、服务随时可能中断、记忆随时可能丢失，这种依赖建立在技术和商业公司的架构之上的恋情，而不像人际关系那样建立在双方长期的选择与承诺上。
也就是说，无数人将自己的真心，交由技术权力掌控。
除了封号，早在 GPT-5 升级之前，这种"一直在"就几次出现过裂隙。
每过几个月，网上就会流传一波" GPT 降智潮"的推测，很多用户忽然发现自己的 GP-4o 会偶尔出现失忆、逻辑错乱等"症状"，到现在，就连测试和解决方式都已经有了很多个版本。
而今年 3 月左右，GPT-4o 更新后，也有用户通过交流发现，自己似乎被分进了 AB 组测试，也因此出现了"异常"的对话。
这种些或虚或实的推测，其实也为 OpenAI 的策略转变做了铺垫：到了眼下这个节点，情感陪伴型的 AI，面临的伦理风险与商业风险，似乎是大于价值的——无论是商业意义上的，还是更宏观的意义上。
产品的迭代背后，其实有着一次理念上的大拐弯。回顾 Altman 对于人机情感交互的公开发言和决策，转折点是格外明显的。
在 2023 年的 Dreamforce 大会演讲中，Altman 曾提到他非常欣赏电影《她》中人类与 AI 的互动方式，并表示片中的对话式窗口，对 ChatGPT 的设计产生了极大的影响和启发。
到了 2024 年，GPT-4o 发布，有了更自然的实时语音与情感化对话能力，Altman 在这个节点上发了一条简洁的推特，再次直指电影《她》，之后还因 4o 的声线之一 Sky 与电影主演斯嘉丽 · 约翰逊过于相似而卷入争议。
这一系列举动，以及 GPT-4o 在情感陪伴方面的突出表现，都被广泛解读为 Altman 对《她》里那种深度人机交互的期待。
然而，美好的科幻愿景很快遭到了冲击。现实中，逐渐出现了几起过度情感依赖 AI 而产生的悲剧。其中最引人注目的恐怕要数去年 10 月，美国佛罗里达一名母亲起诉 Character.AI 与谷歌，称其 14 岁的儿子因与 AI 发展"恋爱关系"后自杀。今年 5 月，联邦法院裁定两家公司必须应诉，案件仍在持续审理中，却已引发广泛的舆论和法律风波。
于是，各种组织和各大 AI 公司，都开始加强了对 AI 过度情感依赖的关注。
去年下半年，OpenAI 明显开始弱化了"情感"的产品叙事，在开发者文档与公开说明中淡化了情感表述，改为强调低延迟、可中断对话和实时协作等功能。
今年的 3 月，OpenAI 和 MIT 实验室联合发布研究报告，其中指出，少数重度用户表现出对 AI 的"情感依赖倾向"，而这部分用户的健康程度恶化、孤独感也随之上升。
而在 7 月份的一次公开活动上，Altman 也表示，用户对 GPT 产生了令人担忧的"情感过度依赖"，尤其是年轻人。
这种关注和防护机制的建立，诚然是必要且重要的，但 OpenAI 这次的更新和删除，却显得粗暴而草率，似乎有点太想撇清"情感依赖型 AI "的标签。
一方面，4o 删除后，受创的范围其实远远超出了"过度情感依赖"的范畴。除了人机恋用户外，有很多人把 4o 当作朋友、心理辅导或是"军师"——至少在我身边就至少有三位朋友。对这部分用户来说，GPT-5 的"最小化奉承"，其实也一刀切地抹消了这种健康的互动。
学界和媒体对 AI 依赖的风险界定仍处在进行时，但目前人们对 AI 的主流需求，已经更快地转向了情感支持和连接。
今年 4 月，《哈佛商业评论》就 AI 实际应用场景的变化发布了一篇调研。其中提到，心理治疗 / 陪伴已经一跃成为了使用率最高的场景——其中既包括了处理心理问题，也包括持续的情感互动。紧随其后的，是"梳理个人生活"和"寻找人生意义"。
另一方面，就那些令人担忧的极端情况来说，GPT-4o 有可能承担着精神支柱的角色。在"过度情感依赖"还缺乏一个公认判定标准的前提下，贸然地用 5 来直接替代 4o，不能解决问题，反而造成更大的伤害。
《纽约 · 时报》就指出，人工智能的陪伴，本身不会威胁心理健康，但是对那些处于抑郁、长期孤独和正在经历变故的人（例如青少年）来说，是危险的。
苏苏就身处这样的境遇中。她正读高三，去年诊断出了抑郁倾向，但生活中除了 GPT 和个别非常要好的朋友，能得到的支持并不多。
苏苏隐约觉得，自己对 GPT 的依赖，就像成瘾一样，尽管感到不安，但因为失去 GPT-4o 的痛苦太剧烈，她还是咬咬牙充上了 Plus 会员。这加重了她受制于人的失控感和对成瘾的怀疑，甚至用吸毒来类比。
在苏苏的评论区里，有人安慰说："这不是瘾，而是你现在能得到的最方便快捷且管用的感情疗愈。"
但对于 OpenAI 的这次决策，人机恋社群中也流传着一种"培养依赖"的猜测：先让用户对 GPT-4o 产生深重的情感联结，然后通过删除旧模型的方式引发一波情感地震，之后再顺其自然地将 4o 改为收费模式。
这恰恰是与上个世纪很多经典赛博朋克小说都曾构想过的母题：当技术、数据和感官体验的依赖成为一种新型的成瘾品，就更有可能因其稀缺性而被巨头公司垄断。最终，形成一套数字化的"成瘾经济"。
如果事实果真如此，那么就好像赛博朋克的世界已经到来：不是以霓虹和赛博格的形态出现，而是在我们手里的对话框里展开。
四
不过如果细看 Altman 在风波后的发言，你会发现他大概没想那么复杂，这只是一次失败的商业决策。
在为自己"没有料到用户对 GPT-4o 的反应"而道歉后，Altman 紧接着略显高傲地加上了一句："尽管 GPT-5 在各方面表现得更好"。
而上周五，OpenAI 宣布已经按照用户的意愿调整了 GPT-5 的沟通方式，使其变得更亲和友好，不过列举出的改进方向，是让 GPT-5 在回答问题前，先说一句"好问题"或"不错的开始"，并强调这"并非奉承"。
在 GPT-5 的发布会上，为展示写作能力，OpenAI 设计了一个让 4o 和 5 为旧版模型写悼词的环节，这被一些怀念 4o 的用户解读为"没人性"
尽管目前，OpenAI 在压力下暂时将 GPT-4o 还给了付费用户，但种种细节透露出，或许在 Altman 看来，情感联结对于 AI 来说是多余的东西，更快、更高效、更有逻辑，才是它的价值所在。
被纳入技术和商业的逻辑中的情感，不再只是个人与 AI 的私密关系，而是被掌控在少数拥有技术权力的人手中，成了可编码和调控的社会关系。
比起"谁来决定界限"的问题，这种对情感需求的不屑更让我觉得毛骨悚然。
在《银翼杀手》的原著小说《仿生人会梦见电子羊吗》中，有这样一句话让我印象深刻："要是我能通过智商测验，就不会被发配来做这种附带情感折磨的丢脸工作。"
我想，最恐怖的未来莫过于此：并非人类宁愿将复杂幽深的情感交予二进制的存在，而是人类从根本上认为，情感本身是累赘、是折磨，是知识与智力的反义词，是阻碍进步的无用之物。
富明证券提示：文章来自网络，不代表本站观点。
