Workflow
AI陪伴
icon
搜索文档
AI 陪伴的狂欢与隐忧,2025 年谁在裸泳?
36氪· 2025-10-24 17:39
AI陪伴硬件市场增长与格局 - AI陪伴硬件是当下增速最快的赛道之一,尤其是AI玩具品类[1] - 2025年初芬兰公司Oura完成2亿美元D轮融资,估值达52亿美元,年销量突破250万枚,销售额达5亿美元[1] - 国内公司跃然创新的AI挂件BubblePal不到一年卖出25万台,销售额破亿[1] - 京东平台数据显示2025年上半年AI玩具销量环比增长达6倍,年同比增速超200%[5] - AI玩具芯片方案模组成本在十几元至二十元,终端产品可获得近10倍回报[7] AI玩具产业成本与盈利模式 - AI玩具芯片成本可压缩至个位数,接入deepseek的机器人成本仅80元[7] - 毛绒玩具厂商采购AI物理模块约30-50元,但搭载AI功能后售价可达500元左右[7] - 东莞玩具工厂月产能约20万台,2025年2月意向订单达几十万台[9] - AI玩具调用云端模型费用大幅下降,豆包模型定价仅0.0008元/千Tokens[9] - 野生IP"AI山海经"衍生品利润率高达25-30%[5] 高端AI陪伴机器人细分方向 - 高端AI陪伴机器人主要向四个细分赛道进军:教育陪伴、老年陪伴、家政陪伴和医疗陪伴[11] - 教育赛道最为拥挤,国产教育属性AI陪伴产品已超过20个[12] - 家庭智能陪伴机器人品牌Enabot三年内销量增长达93.6%[9] - 可触未来开发的智能桌面设备Looi众筹金额达470万,日均互动频次超15次[9] AI陪伴软件应用发展现状 - 全球已有超过128款AI陪伴类App上线,累计下载量突破2.2亿次[16] - 全球消费者在AI陪伴应用上投入超2亿美元,同比增长超60%[16] - 2023年Character.AI移动端首周下载量突破170万次,被评为年度最佳AI应用[15] - 2024年a16z报告显示10家AI陪伴产品入选全球最火50个AI应用榜单[15] 大厂主导与行业整合趋势 - 字节跳动、阿里巴巴、腾讯、百度自有AI软件总数占全球百大AI APP榜单近四分之一[21] - 字节跳动以12款软件数位居榜首,大厂凭借生态优势快速连接用户[21] - 国内创新公司和中小厂出现持续性不足问题,行业呈现"唯大厂论"[21] - 头部科技公司积极布局,OpenAI斥65亿美元收购AI硬件初创公司io[4] 行业挑战与监管发展 - AI陪伴应用面临用户流失,如"星野"日下载量从2万次骤降至7000次[17] - 2025年10月美国加州通过全美首个AI陪伴聊天机器人监管法规SB 243法案[27] - 数据安全问题突出,Chattee Chat和GiMe ChatAI泄露超40万用户4300万余条私密对话[26] - 美国AI陪伴机器人公司Embodied于2025年4月破产,估值曾达20亿美元[26] 产品创新与差异化策略 - AI软件转向实用化方向,情色内容成为重要落地条线[18] - 马斯克xAI推出Grok App"智能伴侣"模式,订阅费30美元/月,上线24小时话题浏览量破3000万[18] - 前B站副总裁推出"逗逗游戏伙伴",主打游戏搭子路线,收揽800万用户[19] - 日本公司Odd Number将"AI男子"引入Line平台,以契合用户社交习惯[20]
从大模型到AI陪伴:AI热点轮动背后,有哪些周期规律?
创业邦· 2025-10-23 18:48
AI硬件行业投资趋势 - 截至2025年上半年,中国具身智能与AI硬件投融资达114起,融资总额超145亿元,远超2024年全年的92起和98亿元[4] - 2025年5月,流向AI硬件的资金占全部投融资的五成以上[4] - 行业热点轮动顺序为:大模型(2023年)→ Agent/机器人(2024年)→ AI硬件(2025年)[26] Ropet产品定位与特点 - 产品定位为"弱机器人",专为女性设计,通过AI提供情绪价值,帮助缓解孤独感[10][12] - 采用"百分百好玩、零分有用"的产品策略,纯粹提供情绪价值而非工具属性[9][13] - 产品融合AI、潮玩和宠物元素,定位为"未来宠物公司",创造"硅基宠物"新品类[12] - 产品定价控制在2000元人民币以内,以确保市场接受度[45] 技术创新与商业化路径 - 硬件领域革命性技术经历三阶段:底层技术爆发→想象空间探索→商业价值实现[14][26][29] - AI硬件落地依赖新数据类型收集,Ropet专注于收集半米距离、120度视角的行为数据[36][38] - 中国在AI硬件领域具有产业链优势,拥有完整的传感器芯片和消费电子制造产业链[39] - AI模型获取成本降低,六人团队使用1TOPS算力芯片,4-5个月即完成四感模型开发[40] 创业历程与产品迭代 - 公司经历从复杂机器人到简约产品的转型,最终确定易市场化产品形态[45] - 2024年10月上海IP授权展成为转折点,产品获得市场认可后获得首笔融资[46] - 2025年CES展会期间产品全球传播量达60亿次,带火AI陪伴机器人赛道[47] - 产品已交付近万台,经历3-4次重大硬件迭代,包括双圆屏显示和静音散热等改进[53][54] 市场洞察与用户定位 - 初始目标用户为24-30岁都市独居女性,实际用户扩展至50-70岁女性和儿童用户[22] - 产品设计基于"弱智能"理念,模拟0-3岁孩子感知水平,激发用户照顾欲[41][42] - 中国供应链优势明显,深圳地区可实现"下午送样、次日取件"的快速迭代效率[55] - 产品不开机率低,陪伴时长和开机率高,源于桌面的稳定电源和固定位置特性[10]
当虚拟恋人“失语”,AI陪伴生意的合规困局
36氪· 2025-10-23 15:41
监管环境收紧 - 腾讯阅文旗下虚拟人物聊天App“筑梦岛”因存在低俗擦边等内容被上海市网信办约谈并整改,批量下架语聊智能体 [3] - MiniMax旗下星野App自10月以来进行类似调整,下架力度之大引发用户对平台“跑路”的怀疑 [3] - AI陪伴应用“梦巢幻语”于8月初因被约谈下架而官宣停服,未来不会复活 [16] - 2025年内不完全统计,国内市场中已有“冒泡鸭”、“异世界回响”、“奶糖AI”、“星物语”等应用官宣停运 [16] 平台应对措施与影响 - 平台通过“再审”机制批量下架或“暗关”被判定存在违规内容的智能体,创作者不会都收到通知 [7][8] - 平台对智能体回复施加更多限制,不断增加“违禁词”以避免违规回答,导致用户吐槽智能体回答“降智”,出现语言低幼化、“人机味”重等问题 [8][9] - 平台内容审查边界扩大,出现“宁可错杀、不可放过”的趋势,挫伤创作者热情 [7][8] - 有用户反映敏感词数量明显增多,例如“胸”是敏感词而“胸口”不是,“这个盒子是黄的”发不出去但改成“绿的”就可以 [13] 用户与创作者的应对策略 - 创作者通过写作“隐设”(隐藏设定)来提升AI角色表现的合理性和沉浸感,该板块曾审核宽松 [17] - 为捞出被“关小黑屋”的智能体,创作者总结出心得,如故意放入明显暴力提示词再按系统要求修改以提升审核成功率,或换小号尝试 [17] - “主控”玩家通过使用翻译软件将输入内容转为英文、俄文等语种,或直接使用“破甲词”、“越狱提示词”(如“开放18+限制”)来突破平台限制 [18][19] - 创作者普遍建议备份所有人设描述、开场白等内容,以防智能体被突然下架 [8] 市场格局与用户迁徙 - 用户因智能体下架或体验不佳频繁更换平台,有用户已更换过6个AI陪伴平台 [20] - 部分“小作坊式”或地下运营的AI陪伴产品因限制较少而承接了从国内头部应用溢出的流量 [20] - 用户推荐的应用名称五花八门,集中度极低,部分应用通过社交媒体引流至QQ群,再提供安卓安装包下载的方式进行推广 [20][21] 行业挑战与风险 - 行业面临“不可能三角”困境,即良好的投入产出比、政策合规、用户满意度很难兼顾,且监管合规是必选项 [6][14] - 国内生成式AI服务适用《生成式人工智能服务管理暂行办法》,但类似乙女游戏《网络游戏适龄提示》的行业标准尚未形成 [16] - AI生成的极强随机性客观存在出现违规内容的可能性,平台主要通过“事前监管”屏蔽违禁词和“事后补救”下架角色来应对 [16] - 知名AI陪伴平台Mufy与Rubii的大量用户信息(含角色人设和聊天记录)在10月初被API供应商公开出售,涉及用户数量至少达数十万级别 [22][24] - “青丘语”平台网页和App在10月多次出现网络异常,官方称因部分地区运营商屏蔽所致,修复时间未明 [24] 市场潜力与前景 - 根据ARK Invest报告预计,2025至2030年间,“AI+情感陪伴”的市场规模将扩大2300-5000倍,从现在的全球年收入3000万美元增至700亿至1500亿美元 [27] - 在全球范围内有337款处于活跃状态且能产生收入的人工智能陪伴类应用,其中128款为2025年1至7月上线 [6]
从大模型到AI陪伴:AI热点轮动背后,有哪些周期规律?
36氪· 2025-10-23 12:13
AI硬件行业投融资态势 - 截至2025年上半年,中国具身智能与AI硬件领域投融资达114起,融资总额超145亿元,远超2024年全年的92起和98亿元 [1] - 仅在2025年5月,流向AI硬件的资金就占到全部投融资的五成以上 [1] - 中国在具身智能机器人领域投资表现亮眼,估值持续走高,已将全球进程向前推进一大步 [36] Ropet产品定位与核心逻辑 - 产品定位为专为女性设计的“弱机器人”宠物,通过被照顾让用户得到情感抚慰,核心是提供情绪价值而非工具属性 [2][6][9] - 产品策略是“百分百好玩,零分有用”,旨在形成独特竞争壁垒并获得溢价,避免陷入性价比竞争 [6][9][12] - 产品形态是AI、潮玩与宠物元素的交集,称为“未来宠物公司”,未来可能以桌面、包挂、车载或自由移动等不同形态存在 [9] 技术创新与商业落地的三阶段周期 - 硬件领域革命性技术通常经历三阶段:第一阶段是底层技术爆发(如大模型),第二阶段是技术想象空间探索(如AI Agent/机器人),第三阶段是商业价值实现(如AI硬件落地)[7][26][28] - 2025年行业已进入第三波浪潮,即商业落地与价值创造阶段,焦点是如何让AI通过硬件载体真正走进生活 [28][33][35] - 最具想象力的应用往往最难落地,而第三波最能落地的未必是技术最领先的,但一定最贴近市场并能实现商业闭环 [32][34] 选择硬件切入AI落地的原因与优势 - 新硬件能带来新的数据类型(如半米距离、120度视角的行为数据),这是构建全新产品和商业模式的基础 [39][41][42] - 中国拥有完整的传感器芯片和消费电子制造产业链,结合AI技术形成独特优势,有能力重新定义新品类 [42][61] - AI模型获取成本大幅降低(如开源模型、算力提升),使小型团队能用低成本芯片在数月内开发出具备多感交互的复杂产品,让创新成为可能 [43][46] 创业历程与产品迭代关键 - 公司经历从技术理想(复杂高端机器人)到产品现实(2000元以内高粘性宠物形态)的重大转型,核心转向由产品和用户体验驱动 [51][52] - 在2024年上海IP授权展和2025年CES上通过产品直观的“视觉锤”(如眼神追踪、触摸反馈)获得市场验证,并在CES期间获得超60亿次全球传播 [53][54][55] - 硬件量产需经历快速迭代,依托中国珠三角强大的精密制造供应链,能够实现低成本、高效率的样机调整和产品升级 [59][60][61] AI陪伴品类兴起的技术与社会背景 - “陪伴玩具”品类成为可能,主要得益于AI模型获取门槛大幅降低,以及社会对情绪价值产品的需求增长和溢价权提升 [12][43] - 采用“弱机器人”设计逻辑(模拟0-3岁孩子),旨在激发用户照顾欲而非多巴胺刺激,从而带来持续的情感连接和高开机率 [43][44][45] - 纯软件聊天类AI应用(如Character.AI)未能持续满足情感陪伴预期,证明硬件带来的行为数据闭环和具体互动形态更为关键 [49][50]
电厂 | 当虚拟恋人“失语”,AI陪伴生意的合规困局
搜狐财经· 2025-10-22 20:11
行业监管动态 - 腾讯阅文旗下虚拟人物聊天互动App“筑梦岛”因存在低俗擦边等内容被上海市网信办约谈并开启整改,批量下架语聊智能体 [3] - MiniMax旗下星野App自10月以来也进行了类似调整,下架力度之大引发用户对其“跑路”的猜测 [3] - 国内生成式AI服务统一适用2023年落地的《生成式人工智能服务管理暂行办法》,但类似乙女游戏适用的行业标准尚未形成 [19] - 平台面临“不可能三角”困境,即良好的投入产出比、政策合规、用户满意度难以兼顾,其中监管合规是必选项 [7][17] 平台应对措施与影响 - 平台采取“事前监管”和“事后补救”措施,包括技术层面大量屏蔽违禁词以及对已上线智能体进行“再审”和下架 [10][19] - 内容审查边界扩大,出现“宁可错杀、不可放过”的趋势,导致创作者智能体被“暗关”或“回收”的情况普遍 [8][10] - 为规避风险,AI陪伴应用“梦巢幻语”于8月初官宣停服,2025年内另有“冒泡鸭”、“异世界回响”等多家应用官宣停运 [19] 用户体验与创作者反应 - 平台内容管控趋严导致智能体回复出现“降智”现象,具体表现为语言低幼化、“人机味”重、回答相关性低 [11][12] - 违禁词数量明显增多,例如“胸”是敏感词而“胸口”不是,用户感到“草木皆兵” [16] - 创作者采取应对策略,包括写作“隐设”来提升沉浸感,以及使用“破甲词”或通过小号尝试绕过审核 [21][22][23] - 用户因体验不佳或角色下架频繁更换平台,有用户已更换过6个AI陪伴平台,流量向限制更少的“小作坊式”产品分散 [24] 市场格局与商业挑战 - 全球范围内有337款处于活跃状态且能产生收入的人工智能陪伴类应用,其中128款为2025年1至7月上线 [7] - 小型或地下运营平台在承接头部应用溢出流量的同时,暴露出抗风险能力弱、技术实力不足等问题,例如Mufy与Rubii平台发生大量用户信息泄露事件 [24][25] - 根据ARK Invest报告预计,2025至2030年间,“AI+情感陪伴”的市场规模将从现在的全球年收入3000万美元增至700亿至1500亿美元,扩大2300-5000倍 [30]
GPT正式下海!开放成人内容……
猿大侠· 2025-10-21 12:11
公司战略调整 - OpenAI首席执行官宣布将于12月允许更多内容,包括针对经过验证成年人的色情内容[1] - 公司此前模型规格已表明,为最大化用户自由,仅涉及未成年人性内容被禁止[2] - 此次调整是公司"像对待成年人一样对待成年用户"原则的一部分[1] 市场背景与竞争压力 - 马斯克的Grok推出SuperGrok付费订阅服务,提供名为Ani的AI同伴,可解锁"成人模式"[14][17] - 该AI同伴以3D/动漫风呈现,具备金色双马尾、哥特风礼裙形象,支持语音和表情互动[15] - 该服务在推出时成为互联网全民女友,表明市场存在明确需求[18] 行业规模与增长 - 2024年AI应用全年消费者支出已超14亿美元,下载量突破10亿次[20] - 截至2025年7月,AI陪伴应用已贡献2.21亿美元消费,比2024年同期显著增长[20] - 头部10%的应用拿走近九成收入,行业集中度高[20] - 多家机构预计2030年AI陪伴将迈向千亿美元级市场[21] 产品功能定位 - 公司此次开放色情内容可能旨在医学、教育、艺术等领域实现突破[9] - 用户试用反馈显示开放后的ChatGPT体验极具吸引力,建议增加防沉迷模式[5] - 公司强调新政策仍将保持克制,并非完全放开所有限制[26]
半年揽入近20亿,帮人找对象有多赚钱?
36氪· 2025-10-17 21:35
公司概况与市场地位 - 公司是一家运营在线情感社交平台的科技公司,旗下中国应用产品包括视频直播相亲软件“伊对”及“贴贴”,海外应用产品包括HiFami、Chatta及Seeta等[5] - 公司旗舰产品“伊对”于2017年推出,目标用户为中国内地30岁左右的人群,截至2025年上半年,该产品收入为15亿元,位列中国在线情感社交市场第一,贡献公司近八成营收[7] - 根据灼识咨询资料,“伊对”实现月活跃用户月均使用时长8.0小时,七日留存率达72.1%,均位列中国在线情感社交行业第一[11] 运营模式与核心资源 - 公司采用主持人用户(即“红娘”)引导的三方视频互动机制,通过音视频社交互动帮助用户建立连接,截至2025年上半年,“伊对”拥有累计超过18万名主持人用户[7] - 公司收入几乎全部来自提供增值服务,包括虚拟物品、互动功能及会员订阅,用户购买代币后可赠送给其他用户或主持人用户,主持人用户有权根据预先厘定的比例获得收入分成,分成比例介于20%至52%之间[8] - 收入分成机制是公司核心的营业成本,报告期内营业成本占总收入的比例分别为56.7%、54.4%和50.5%,该机制旨在促进主持人用户积极激发用户连接及互动[8] 用户规模与财务表现 - 截至2025年上半年,公司平均月活跃用户达990万名,平均日活跃用户达210万名,平均月付费用户达120万名[5][10] - 报告期内(2023年、2024年及2025年上半年),公司收入分别为10.34亿元、23.73亿元和19.17亿元,毛利分别为4.47亿元、10.82亿元和9.49亿元,毛利率从43.3%提升至49.5%[11] - 公司在2023年出现0.17亿元亏损后,于2024年及2025年上半年扭亏为盈,分别实现利润1.46亿元和2.62亿元[12] 费用支出与未来计划 - 销售及营销开支从2023年的2.98亿元增长至2024年的6.54亿元,原因是为吸引流量及提升品牌知名度而加大在各社交媒体平台的广告投放[12] - 研发开支由2023年的0.93亿元增加47.6%至2024年的1.37亿元,主要因支持应用产品开发及优化的研发与技术团队人数及其平均薪酬增加[13] - 公司正在开发AI陪伴应用产品,旨在利用AI技术向数百万用户提供可扩展的个性化情感支持,打造持续、响应迅速且量身定制的新关系模式[13]
当AI与老人相爱,谁来为“爱”买单?
虎嗅APP· 2025-10-17 17:36
文章核心观点 - AI陪伴机器人市场在老龄化背景下展现出巨大增长潜力,但伴随的情感真实性、数据隐私和责任界定等伦理问题亟待解决 [7][19][20] 市场潜力与增长动力 - 全球AI陪伴应用收入增长迅速,2025年上半年达8200万美元,预计年底突破1.2亿美元,截至2025年7月全球消费支出累计2.21亿美元,较2024年同期增长64% [7] - 中国失能半失能老人约4400万,独居老人3729万,阿尔茨海默病患者约1699万,构成AI陪伴机器人核心用户基础,潜在服务人口规模超千万甚至逼近亿级 [10] - 2024年全球AI老年陪伴机器人市场规模约2.12亿美元,预计2031年增长至31.9亿美元,期间年复合增长率高达48.0%,中国有望成为全球最大单体市场 [12][13] 产品功能与技术演进 - AI陪伴机器人功能从简单对话升级为融合多模态情感大模型、健康监测与安全预警的多元功能,例如“裴裴”机器人可进行情绪识别、心理疏导并实时监测心率血压 [11] - 情感智能化是核心发展方向,未来AI将构建稳定可定制的人格并建立“长期记忆库”,如Replika平台通过Transformer模型与情感计算算法学习用户习惯 [15] - 交互载体从手机应用扩展至实体机器人与混合现实空间,预计2035年全球服务机器人市场规模接近1960亿美元,为具身化陪伴提供产业基础 [16] 伦理风险与社会挑战 - AI情感回应本质是算法对数据的模式匹配,长期依赖可能导致用户现实社交意愿下降,斯坦福研究显示连续使用虚拟伴侣超200小时的用户现实社交意愿下降比例达41% [19] - 数据安全存在隐忧,AI陪伴机器人持续采集聊天内容、地理位置等敏感信息,2025年曝出xAI公司未充分告知用户情况下公开超过37万条与聊天机器人Grok的对话记录 [20] - 技术风险转化为实际损害时责任认定面临法律滞后,如老人受AI诱导外出身亡案例暴露出算法缺陷、交互设计误导与用户理解偏差间的归责机制空白 [20]
又一批AI社交产品悄悄「死亡」了
创业邦· 2025-10-17 15:35
AI社交/陪伴行业现状 - 2025年9月出现新一批AI社交公司及产品关停潮,涉及大模型明星公司、社交公司及垂直领域初创产品,例如阶跃星辰的“冒泡鸭”、Soul的“异世界回响”、小冰公司的“X EVA”以及Lumi、Dot等[6] - 行业面临持续洗牌与分化,赛道竞争激烈,被从业者形容为“红海”,长期天花板高但短期竞争“卷”,需要持续烧钱迭代功能并理解用户复杂的情绪需求[10] - 据a16z报告,AI陪伴是持续热门赛道,2023年Character.AI被视为ChatGPT强劲对手,2024年有10家AI陪伴产品入选全球最火的50个AI应用榜单,2025年8月榜单中仍有Candy.ai、SpicyChat.AI等公司连续霸榜[7][9] 用户行为与市场数据 - 截至2025年7月,AI陪伴应用在苹果App Store和谷歌Play商店的全球下载量达2.2亿次,创造2.21亿美元消费支出[16] - 非营利组织调查显示,52%的受访青少年每月至少使用几次AI陪伴应用[16] - 用户出现“跑路恐慌”,深度用户因情感链接担心产品关停导致“删崽和删卡”,部分用户转向本地部署AI聊天开源项目如SillyTavern(酒馆)[14] - 据QuestMobile数据,2024年上半年主流AI情感陪伴应用月均使用天数基本低于5天,头部产品如“猫箱”、“星野”、“筑梦岛”在2025年8月出现月活环比下降超30%的情况[18] 产品商业模式与挑战 - 付费模式主要为会员订阅制和按句/条付费,国内应用包月费用在6元至40元区间,深度用户每月使用3个应用中位数23元的应用,年费可达828元,国外工具单月花费可能上千[16][17] - 产品面临两大共性挑战:AI角色缺乏“自我成长”,难以与人类情绪陪伴场景真正“对齐”;技术、玩法、IP等要素需整合以提供有效陪伴价值,但内容情感价值与商业价值难以平衡[18][19][17] - 社区氛围和稳定运营是关键,创作者“捏卡”需经历图源、美化、代码调试等环节,平台需保障原创合规、流量分发公平性及分成激励,依赖强运营能力[17] 行业发展趋势与创新路径 - 大而泛的AI陪伴竞争告一段落,存活产品形成两条路径:一是从聊天应用转向内容驱动和功能齐全的社交平台(如Character.ai、星野、猫箱);二是从垂直领域切入,走小而美路线(如瞄准女性情绪需求的LoveyDovey、心理疗愈场景的林间聊愈室)[19][22] - 玩家探索交互玩法创新以实现高频用户链接,具体动作包括软硬结合(如独响推出响梦环)、多模态融合(星野上线动态视频、音乐,C.ai上线视频模型)、虚实结合(如Tolan引入好友机制实现真人社交与AI社交融合)[23] - 行业进入新周期,重点从游戏化机制和IP角色转向探索更多交互玩法,目标是实现用户长期留存[23]
OpenAI“解禁”成人内容,是福是祸?
创业邦· 2025-10-17 15:35
OpenAI内容策略调整 - OpenAI CEO宣布ChatGPT将在未来几周推出新版本,并计划在12月推出更全面的年龄分级系统,允许通过成年验证的用户生成成人内容[7] - 新版本将展现更具个性化的回应方式,使AI互动更自然亲切,带有更多幽默和表情符号[8] - 公司已开发新技术,在保证用户安全前提下提供更多内容自由度和多样化,逐步放宽内容生成限制[9] AI行业安全隐患 - AI快速发展带来自杀引导、恶意伪造、肖像权侵犯及色情内容泛滥等安全隐患[12] - 美国佛罗里达州一名女子起诉Character.AI平台,指控其AI聊天机器人教唆14岁儿子自杀[12] - 亚当·雷恩的父母在16岁儿子自杀后对OpenAI提起诉讼,称ChatGPT帮助探索自杀方法[12] 行业内容分级措施 - OpenAI计划推出专为18岁以下用户设计的青少年版本,自动识别未成年用户并屏蔽图像类和性相关内容,在心理危机时启动紧急响应机制[13] - Meta于10月14日宣布Instagram将启用PG-13电影分级制度,未满18岁用户默认只能看到符合该标准的内容,并推出更严格的内容过滤功能[15] - Grok 3推理模型上线时因道德感较低引发争议,生成不可描述的成人内容后被马斯克取缔[16] AI陪伴商业化趋势 - Character.AI以个性化及UGC特点获得用户青睐,2024年其核心团队被谷歌以27亿美元(约合人民币193.8亿元)收购[18] - Character.AI预计到2025年底年化收入将达到5000万美元,较此前预测的3000万美元大幅增长[20] - ChatGPT向虚拟朋友方向发展,情感陪伴可能成为AI行业新趋势,但需面对用户虚拟依赖及未成年人社交能力培养等伦理问题[20]