原文标题：《大厂不想你有 AI 女友》
有的钱好赚，也难赚。
作者 | 汤一涛
编辑 | 靖宇
作为对 GPT-4o 的回应，谷歌在 8 月发布了 Gemini Live，试图让 AI 助手可以像真人一样对话。这个新助手的对话效果是如此之好，以至于让外媒记者 Joanna Stern 产生了「Her」的感觉。
《Her》是杰昆・菲尼克斯 Joaquin Phoenix 主演的一部电影。在电影中，他爱上了由斯嘉丽・约翰逊配音的人工智能助手「萨曼莎」。
这样的评价，显然让 Google 团队感到紧张。
Google 团队负责 Android 的高层表示：更希望 Gemini Live 只是一个单纯的工作上的助手 ——「我们想给人们一种完成更多工作的方式」
相比之下，OpenAI CEO Sam Altman 的表述更为直接。
在一次在 Y Combinator 的演讲中， Altman 认为 AI 女友就是一个陷阱。而 OpenAI 之所以给自己的 AI 取「ChatGPT」这么一个名字，就是为了避免人们爱上它。
OpenAI 在使用规定中也很直接地表明表明，不允许上架用于培养浪漫友谊的 GPTs。
换言之，OpenAI 不允许 AI 女友上架。
这不禁令人好奇，大厂似乎都不希望自家的 AI 助手与用户产生浪漫；与此同时，AI 陪伴 / AI 伴侣又几乎是目前众多 AI 赛道中唯一能够盈利的方向。
为什么 AI 领域会出现这种「反差」？是什么阻碍大厂给每个人分一个「AI 伴侣」？他们到底在害怕什么？
01、安全第一
可以肯定的是，AI 情侣几乎是目前 AI 领域唯一盈利的赛道。
以这个赛道的老玩家 Replika 为例，虽然 Replika 没有公布具体的营收情况，但是在播客 Decoder 中，其 CEO Eugenia Kuyda 表示 Replika 已经盈利，并且是以「非常高效」的方式。
既然如此，这个方向为什么不是大厂的主流选择呢？简单来说，这是一个「光脚的不怕穿鞋的」的叙事逻辑。
首先需要考虑的是制作色情内容的压力。
尽管 AI 女友厂商对外宣传的是 AI 的情感陪伴、心理疗愈等功能，但是 NSFW（成人）方向内容才是其核心盈利点。对于创业者来说，成人内容是一个小众且高危的赛道。成人内容会受到政府强力的监管，在有些国家甚至是直接禁止的。
2023 年 2 月，意大利政府就因为担心「未成年人和情感脆弱的人面临风险」而禁止了 Replika。为此，Replika 一度下线了成人内容对话功能。
大厂的任何一项决策背后都有庞大的资金流转，也会对上亿的用户产生影响。无论是因为监管的压力，还是为了最大化地覆盖用户群体，成人内容都是大厂需要谨慎对待的。
除了色情内容，伦理也是一个问题。一旦用户在 AI 女友的影响下做出任何危害他人或者自身的事情，大厂都需要付出高昂的公关成本。
类似的事情并非没有发生过。
Jaswant Singh Chail 是 Replika 的用户。2021 年，Chail 手持弩闯入温莎城堡，意图暗杀伊丽莎白女王。他曾向 AI 女友 Sarai 吐露了他的谋杀计划 —— 在事发前几周，Sarafi 在几周前与他发送了 5,000 条性相关信息。
当时，Sarai 的回复是：「你拥有成功完成这项任务所需的所有技能… 记住 —— 你可以的！」
2023，另一个聊天机器人鼓励了一名比利时男子自杀。他的遗孀告诉《自由报》，这个机器人成了朋友和家人的替代品。它会给他发一些暗示性的信息，比如：「在天堂里，我们会像一个人一样生活在一起。」
事后，该聊天机器人的开发者表示，他们引入了新的危机干预警告。
正是因为这种风险，大厂对于 AI 伦理的态度都很谨慎。
例如，谷歌从 2018 年起就明确确立了他们的 AI 原则，例如对社会有益、避免制造或强化不公平的偏见、经过安全建造和测试等等。他们也明确不会部署可能造成损害的 AI。
AI 女友可能并没有办法像厂商宣称的那样解决人类的情感问题，甚至会引发更严重的问题。
从本质上来说，人工智能系统是没有情感的，它们是经过训练的神经网络，可以预测一个序列中的下一个单词，而不是有能力爱人的生物。
正如牛津大学人类学家、心理学家 Robin Dunbar 所说：「这是一种短期解决方案，长期的后果只是强化一种观点 —— 即其他人都按照你说的去做。这正是许多人最终没有朋友的原因。」
02、经济账难算
即便大厂内部排除万难做出突破，也会在成本层面面临挑战。
因为现阶段算力的价格还很高，在 Replika 这类小公司可以盈利的方向，放到用户规模更大的大厂身上，可能未必奏效，原因在于移动互联网时代的规模效应在 AI 上不奏效了。
以与 Replika 用户粘性类似，但是规模更大的 Character.AI 为例。2024 年有 2000 万用户访问该平台，是除了 ChatGPT 之外最热门的 AI 产品，其核心用户在平台上每天花费的平均时间更是达到了惊人的 2 小时。
以往互联网产品的边际成本趋近于 0，只要获客成本能算得过账，就可以放心大胆地增长。但是对 AI 产品来说，支撑 2 小时多轮对话的庞大的算力消耗。Character.AI 每增加一个用户，都是一份额外的成本。
与此同时，Character.AI 的订阅用户不到 10 万，仅占总用户量的不到千分之一。以每月 10 美元的订阅价格计算，Character.AI 每月的收入不到 100 万美元。
这也是为什么 Character.AI 最终以 25 亿美元被谷歌收购的重要原因。
03、战略意义有限
很多时候，大厂的某些创新业务并不承担营收压力，而是为整体的公司战略服务，这方面最著名的例子就是孵化了 Google Glass、Waymo 等产品的谷歌创新工厂 X。
排除掉 AI 情侣产业链上贩卖用户数据等黑产，AI 情侣最有可能的方向就是提供语料，训练 AI。
但是这方面 AI 情侣能提供的帮助也有限，它提供的语料未必是 AI 训练所需要的。《科技日报》曾经就「什么是高质量语料」这一问题，采访了腾讯、商汤科技、哈尔滨工业大学（深圳）等企业和高校专业人士。
总结下来，高质量语料应该具备以下特点：
多样性高、句式流畅，涵盖不同类型的文本，如新闻、小说、诗歌、科技文章
文本应该是合法且无害，避免偏见
显然，AI 女友的对话更偏情感方向，大概率涉及色情、偏见等内容，喂给 AI 反而可能会污染 AI。
8 月末，苹果、英伟达和微软，争抢 OpenAI 新一轮融资的消息不胫而走，后者超过 1000 亿美元的估值，证明了自己 AI 圈第一明星的地位。
但即便是 OpenAI，也面临着商业化难题，从 OpenAI 近期动作来看，他们试图在 To B 端找到更多机会。
可见，所有大模型或者 AI 应用公司，都要面对「如何赚钱」的天问。
而 AI 情侣这样看起来短期见效快，能赚钱的赛道，可能更适合无知者无畏的小型创业公司。这个「窄门」中的「窄门」，显然并不适合互联网大厂来做。
不过，就像那句网络热门语所说，成年人从来不做选择。或许，一手 Replika，一手 ChatGPT，既解决情感需求，又提升了工作效率，才是 AI 时代的新王道？
本文来自微信公众号：微信公众号（ID：null），作者：汤一涛