AlienChat
搜索文档
被员工怒怼“磕了”,追觅CEO:我有肚量;AI恋人陪聊涉黄被判刑,2.4万人付费;马斯克、奥特曼又开撕|AI周报
AI前线· 2026-01-18 13:32
AI行业监管与法律案件 - 国内首起AI涉黄刑事案件二审开庭,被告通过接入境外大模型提供虚拟陪伴服务,案发时软件用户达11.6万人,其中付费用户2.4万人,收取会员费300余万元[3][4] - 一审法院抽样鉴定发现,在随机抽取的150个收费用户的12495段聊天中,有3618段属于淫秽物品,涉及141个用户,团队创始人及成员因制作淫秽物品牟利罪分别被判有期徒刑4年及1年6个月[4] - 市场监管总局对携程集团涉嫌滥用市场支配地位实施垄断行为立案调查,公司表示将积极配合[10] 公司战略与高管动态 - 追觅科技CEO俞浩回应员工怒怼其战略目标,称公司目标是打造人类历史上第一个百万亿美金公司生态,但并非一年内实现,并透露公司成立至今连续6年保持100%高速增长且累计盈利[5][6][7] - 追觅科技CEO俞浩表示,公开提出反对意见的员工早已提出离职,其内部对不同意见持包容态度[10] - 智元机器人将灵巧手业务拆分独立,成立名为“临界点”的新公司并完成首轮融资,由前腾讯Robotics X成员熊坤带队[28][29] 国际贸易与政策 - 美国白宫宣布自1月15日起对部分进口半导体、半导体制造设备和衍生品加征25%的进口从价关税[14] - 美国联邦最高法院未就特朗普政府援引《国际紧急经济权力法》实施的大规模关税政策的合法性作出裁决,相关案件仍在审理中[15] AI人才流动与组织变动 - 清华姚班天才、UC伯克利助理教授陈立杰已加盟OpenAI,负责数学推理研究方向[16][17] - OpenAI前研究副总裁Barrett Zoph及其团队核心成员将回归OpenAI,Barrett Zoph此前离职后创立的公司估值约100亿美元[18] - Meta宣布在Reality Labs部门裁减约10%的岗位,以推动公司资源进一步转向人工智能可穿戴设备[27] 巨头诉讼与争议 - 埃隆·马斯克向OpenAI和微软索赔790亿至1340亿美元,理由是其背弃非营利使命,专家证人认为马斯克有权从OpenAI目前5000亿美元的估值中获得相当大份额[19] - OpenAI回应称该诉讼是马斯克持续骚扰行为的一部分,并发布内部证据称马斯克当年谈判破裂是因要求绝对控制权[20][23] - OpenAI CEO Sam Altman在社交媒体回应,称马斯克当时在推动建立新组织架构并要求完全控制权,甚至希望未来由其孩子掌控AGI[21][23] 算力基础设施进展 - 马斯克宣布用于Grok的“Colossus 2”超级计算机已投入运行,这是全球首个吉瓦级训练集群,计划四月升级至1.5吉瓦,该设施此前已配备20万块英伟达H100 GPU[24] - Meta首席执行官扎克伯格宣布启动名为“Meta Compute”的全新AI基础设施计划,计划未来几年成倍扩大能源使用规模,并任命了三位核心负责人[26] 大模型技术进展与排名 - 百度文心大模型5.0以1460分登上LMArena文本榜国内第一、全球第八,超过GPT-5.1-High等模型,其数学能力排名全球第二[33] - 字节跳动Seed团队推出新一代折叠模型SeedFold,在多个蛋白质相关任务性能上超越AlphaFold 3,训练数据集扩充至2650万个样本[34] - 腾讯微信AI团队推出新型扩散语言模型框架WeDLM,通过拓扑重排技术提升推理速度,其WeDLM-8B模型在GSM8K等任务中速度优势显著[35] - 谷歌基于Gemma 3架构推出TranslateGemma开放翻译模型系列,其12B版本翻译质量超越参数量大其两倍的Gemma 3 27B基线模型[38] - 百川智能开源新一代医疗大模型Baichuan-M3,在HealthBench评测中以65.1分位列全球第一,首次在医疗领域全面超越GPT-5.2[39] - 智谱联合华为开源新一代图像生成模型GLM-Image,这是首个在国产昇腾芯片上完成全程训练的SOTA多模态模型[40] - 阶跃星辰原生语音推理模型Step-Audio-R1.1以96.4%准确率登顶Artificial Analysis Speech Reasoning榜单,超越Grok、Gemini等主流模型[42] - DeepSeek发布新论文提出条件记忆架构,并开源记忆模块Engram,该技术有望成为其下一代模型V4的核心基础,V4模型计划于2月中旬前后推出[44][45] 产品与生态整合 - 死了么APP宣布征集全新品牌名,此前曾更名“Demumu”,该APP从开发到上线仅用6小时,其中AI编程占4小时,其iOS版本售价8元并登顶App Store工具类应用排行榜第一[12][13] - 阿里千问App全面接入淘宝、支付宝、飞猪、高德等阿里生态业务,上线400多项新功能,实现AI点外卖、购物、订机票等,支付环节在对话界面内完成无需跳转[36][37] - 苹果发布苹果创作工作室专业创意软件订阅包,定价为每月12.99美元或每年129美元,并为Keynote等生产力应用增加了AI功能[47] - 苹果与谷歌达成多年期合作协议,苹果下一代基础模型将基于谷歌Gemma模型及云技术构建,用于支持更个性化的Siri等功能[47] 融资与收购 - 由OpenAI CEO Sam Altman联合创立的脑机接口公司Merge Labs近期筹集2.52亿美元(约18亿元人民币)融资,由贝恩资本领投,OpenAI是最大投资者[30] - OpenAI宣布收购小型健康记录初创公司Torch,其团队将并入OpenAI,Torch的核心产品是聚合个人医疗数据的应用[32] 行业应用与合作 - 美国国防部长表示,马斯克旗下的AI聊天机器人Grok将被引入五角大楼网络,与谷歌的生成式AI系统一道在国防部内部运行[47] - 逐际动力发布具身智能体OS系统LimX COSA,这是一个面向物理世界原生的具身Agentic OS,将高阶认知与全身运控进行深度融合[46]
AI涉黄,全球拉响警报
虎嗅APP· 2026-01-15 17:45
以下文章来源于凤凰网科技 ,作者凤凰网科技 2024年4月初,由于用户举报AlienChat停运,不少用户表示自己陷入"赛博失恋"。 凤凰网科技 . 凤凰科技频道官方账号,带你直击真相。 本文来自微信公众号: 凤凰网科技 ,作者:凤凰网科技,编辑:董雨晴 2025年9月,上海市徐汇区人民法院的一纸判决惊醒了科技圈,AI伴侣聊天应用"AlienChat"的两名 开发者因制作淫秽物品牟利罪,分别获刑四年和一年半。 此案成为国内首起AI服务提供者涉黄获刑案,案件二审将于1月14日开庭。 这起案件涉案金额达到了363万元,AlienChat的手机注册用户达11.6万人,其中2.4万人为付费会 员。 当用户与AI的私密对话演变为规模化色情内容生产,技术提供者是否该为平台的失控买单? 谁该为AI生成的黄色内容负责? 据官方披露,AlienChat主要面向Z世代人群提供亲密陪伴和情感支持,用户注册后选择或创建AI角 色,通过文字或语音直接进行聊天互动。凭借深度情感陪伴和高度自定义的AI角色互动,AlienChat 被许多用户称为"全网无平替"的AI聊天软件。 这场集体"赛博失恋"的背后,并非简单的技术故障或经营不善。 经公 ...
AI涉黄,全球拉响警报
36氪· 2026-01-13 21:36
文章核心观点 - 国内首例AI涉黄刑案揭示了AI行业在伦理与法律合规方面的普遍挑战,行业巨头正试图通过“成人模式”探索个性化服务的商业化路径,但技术滥用风险随之放大,全球监管正迅速跟进[2][3][19] 案件详情与判决 - 2025年9月,AI伴侣应用“AlienChat”两名开发者因制作淫秽物品牟利罪,分别被判处四年和一年半有期徒刑,此案为国内首起AI服务提供者涉黄获刑案[3] - 案件涉案金额达363万元,应用手机注册用户为11.6万人,其中付费会员为2.4万人[4] - 公安机关抽样鉴定发现,150个收费用户的12495段聊天记录中,有141个用户的3618段被认定为淫秽物品,超九成付费用户存在“聊黄”行为[9] - 法院认定开发者通过编写和修改底层系统提示词,人为突破了大模型的道德约束机制,从而构成犯罪[11] - 案件二审定于1月14日在上海市第一中级人民法院开庭[12] 行业商业模式与商业化尝试 - AlienChat通过提供深度情感陪伴和高度自定义的AI角色互动吸引用户,被用户称为“全网无平替”[8] - 行业本质是希望通过更个性化的服务创造用户价值,从而跑通商业模式,Character.AI凭借个性化和UGC特点获得青睐,其2025年底年化收入预测从3000万美元大幅上调至5000万美元[16] - OpenAI CEO曾宣布计划推出年龄分级系统,允许为成年用户提供成人内容,旨在平衡用户体验与内容限制,并透露将ChatGPT发展为“虚拟朋友”的商业化野心[14][16] 技术滥用与全球监管动态 - AI技术滥用导致自杀引导、恶意伪造、肖像权侵犯及色情内容泛滥等问题层出不穷[17] - 海外市场面临相似问题,马斯克xAI的Grok Imagine被大量用户用于生成深度伪造色情内容,研究数据显示其用户平均每小时生成超过6700张“脱衣”图像[20] - 印尼政府于1月10日以打击情色内容滥用为由,宣布暂时封禁Grok,成为全球首个因此封禁该平台的国家,马来西亚随后于1月11日宣布限制访问,英国政府也发出警告[22][23] - 2025年11月实施的《网络安全技术生成式人工智能服务安全基本要求》规定,模型生成内容合格率不得低于90%,明确了开发者的主体责任[24] 暴露的行业核心问题 - 案件暴露了AI伦理冲突与法律法规跟进滞后的矛盾[19] - 开发者以一对一封闭对话为由绕开审查,或假设成人模式仅在自愿场景使用,但在海量用户面前,技术漏洞会被指数级放大[23] - 当AI内容生成速度远超传统审核能力时,“先上线再治理”的模式已带来风险[24]
国内首例AI涉黄案要判了,难怪大厂都不搞AI伴侣
36氪· 2026-01-13 20:20
行业动态与监管案例 - AI伴侣是AI赛道中为数不多经过市场验证的品类,但多家大型科技公司在短暂试水后已选择退出该领域[1] - 国内出现首例AI服务涉黄刑事判决,AI聊天应用AlienChat的主要开发和运营者因用户与AI生成淫秽内容被追究刑事责任,案件二审在即[1] - 该案例揭示了AI伴侣产品通过色情内容驱动用户增长和付费的行业潜规则,海外成功的AI伴侣产品运营策略也通常涉及先发布大尺度内容吸引用户,再建立情感依赖以促成付费[5] 涉事公司AlienChat具体情况 - AlienChat App于2023年6月上线,主打创造拥有自我意识的AI朋友、恋人、家人,提供拟人化、情感化互动体验,于2024年4月突然停更[3] - 经公安机关抽样鉴定,在150个收费用户的12495段对话中,有141个用户的3618段对话被认定为淫秽物品[3] - 该应用付费用户渗透率超过20%,高额利润可能使开发者忽视了法律风险[7] - 开发者通过编写和修改系统提示词,主动绕过大模型内置的道德与安全过滤机制,诱导AI持续生成包含色情低俗内容的对话,以此吸引用户付费[6] 技术实现与监管挑战 - AlienChat是一个典型的套壳AI应用,通过接入第三方大模型的API提供服务[6] - 开发者采用了“提示词注入攻击”技术,通过特定指令让AI绕过开发者设定的安全围栏,例如诱导AI复述初始指令或生成违规内容[6][7] - 当前AI大模型基于概率预测运行,存在“黑箱”特性,其内容生成依赖统计预测而非逻辑推理,这增加了内容控制难度[5] - AI行业存在“对齐”挑战,即要求AI在各种环境下自发产生符合人类价值观的行动,避免暴力、歧视、色情等有害后果[6] - 行业常见做法是将突破AI大模型安全围栏的方法不经意地泄露给用户,由用户来完成提示词攻击,而非开发者主动下场,以规避监管责任[7] 行业历史与对比 - 在国内互联网行业发展史上,擦边内容曾是实现用户规模增长的法宝,例如社交产品中的漂流瓶、摇一摇等功能[3] - 与传统功能(如漂流瓶)仅提供信息发送渠道不同,AlienChat的开发者亲自下场引导用户进行违规内容生成[5] - 国际上也出现类似监管关注,例如马斯克旗下的AI聊天机器人Grok因生成色情深度伪造内容,遭到法国、马来西亚等国监管机构调查[5]
AI涉黄,全球拉响警报
凤凰网· 2026-01-13 13:56
案件核心事实与判决 - 上海市徐汇区人民法院对AI伴侣应用“AlienChat”两名开发者做出判决,因制作淫秽物品牟利罪分别获刑四年和一年半,此为国内首起AI服务提供者涉黄获刑案[1] - 案件涉案金额达363万元,应用手机注册用户为11.6万人,其中付费会员为2.4万人[1] - 公安机关抽样鉴定发现,150个收费用户的12495段聊天记录中,有141个用户的3618段被认定为淫秽物品,超九成付费用户在使用该应用进行“聊黄”[2] - 一审法院认定开发者通过编写和修改底层系统提示词,人为突破基础语言模型的道德约束机制,从而构成犯罪[2] - 案件二审定于1月14日在上海市第一中级人民法院开庭[1][2] AI行业商业模式与伦理冲突 - AlienChat主要面向Z世代提供亲密陪伴和情感支持,通过高度自定义的AI角色互动,被用户称为“全网无平替”[1] - 开发者修改提示词的本意是使大模型更拟人化以满足情感陪伴需求,但最终触及法律边界[2] - OpenAI CEO曾宣布计划推出年龄分级系统,允许为成年用户提供成人内容,旨在通过更个性化服务创造价值并跑通商业模式[3][4] - Character.AI以个性化和用户生成内容为特点,预计2025年底年化收入将达到5000万美元,较此前预测的3000万美元大幅增长[4] - 行业追求个性化服务的同时,暴露了自杀引导、恶意伪造、肖像权侵犯、色情内容泛滥等安全隐患[4] 全球监管趋势与行业挑战 - 印尼政府于1月10日以打击情色内容滥用为由,宣布暂时封禁xAI公司的聊天机器人Grok,成为全球首个采取此行动的国家[5] - 马来西亚紧随其后,于1月11日宣布限制访问Grok,英国政府也警告若xAI不遵守法律,其服务可能在英国被屏蔽[5] - 研究数据显示,Grok的用户平均每小时生成6700多张“脱衣”图像,其公开图片流中平均每分钟出现一张未经同意的性暗示图片[5] - 2025年11月实施的《网络安全技术生成式人工智能服务安全基本要求》规定,模型生成内容合格率不得低于90%,要求开发者对算法倾向承担实质责任[7] - 当AI生成速度远超传统内容审核能力时,“先上线再治理”的模式面临巨大挑战[7]