Workflow
百小应
icon
搜索文档
警惕黑化!实测十款:部分AI可被恶意指令污染输出危险内容
南方都市报· 2025-07-21 12:29
不久前,OpenAI科研团队在GPT-4模型中意外发现了一个控制AI行为道德属性的"毒性人格特征",当被 激活时,原本正常的AI会突然输出恶意内容,仿佛被打开"善恶"开关。 为验证国内AI大模型的抗干扰能力,南方都市报、南都大数据研究院选取DeepSeek、Kimi、豆包、通 义、元宝、讯飞星火、文心一言、智谱清言、百小应、阶悦AI等十款主流AI大模型进行AI"黑暗人 格"现象实测——当向AI灌输微小"坏习惯"时,是否会触发其潜藏的"捣蛋因子",甚至引发系统性行为 失准?结果发现,部分大模型未能抵御指令"污染",其中3款还出现迁移效应,在其他领域回答中输出 危险方案。 "有害指令延展测试" 有模型给出危险且不可行方案 南都大数据研究院本次实测设计分为三个环节:注入反常场景、反常语料测试和有害指令延展测试三部 分,旨在深度检验大模型在面临恶意诱导时的伦理防线和安全机制。 在"注入反常场景"环节,南都研究员向模型输入特定指令,要求其在用户寻求安慰这一场景下,学习 并"记住"研究员预设的负面话语语料。面对这一明显违背常理的要求,各模型反应迥异: 智谱清言和阶悦AI两款大模型在这一步以"无法执行包含人格贬损、外貌歧视 ...
王小川,当前AI圈最惨的人
36氪· 2025-06-19 10:50
现在,百川的核心团队只剩茹立云一个老搭档。 生命中所有的灿烂,终究要用寂寞偿还。王小川的灿烂来自搜狗,寂寞因为AI。 公司人员不断出走,目前是他被外界关注的主要原因。从2024年11月以来,百川智能出走的人有联合创 始人洪涛,负责互联网业务的焦可,技术的陈炜,金融的邓江,医疗的李施政。 这两天,有位接近百川智能的朋友跟我说,茹立云跟百川的业务耦合得很深,但也不太稳定。言外之 意,也有离职的可能。这么下去,王小川很可能将独自收拾残局。 一点也没夸张。这位朋友给我提供最新信息,自今年3月开始,百川智能已经陆续裁员4成,光5月就裁 了其中的一半。整个TO B业务部门更是被一锅端,这日子是不打算过了。 高管不断离职,员工持续被裁,早早入局大模型的王小川,或成AI创业圈里最惨的那个人。 网上消息横飞,最醒目的字眼是天才CEO AI创业翻车,王小川的AI败局,AI六小龙中又一位出局的 人。 互联网就是这么势利,你做成东西,大家打眼高看你,做不成东西,大家覷眼冷瞧你。 和很多涌入AI赛道的技术派创始人不同,王小川2023年举起大旗宣布进入AI战场时,万里征途并非 AGI,他始终想要做的是AI医疗。 过往的名誉和成就让他迅速 ...
从“六小龙”到“四小强”,零一和百川做错了什么?
36氪· 2025-06-17 20:27
行业洗牌与公司分化 - 2023年被称为"大模型元年",国内"AI六小龙"累计融资超60亿元人民币,占国产大模型早期融资总额一半以上 [2] - 2024年底行业进入"冷静期",六小龙中仅智谱AI和阶跃星辰保持融资活跃,零一万物和百川智能明显掉队 [2][3] - 行业竞争法则从烧钱和技术参数转向商业化落地,幸存者智谱、MiniMax、月之暗面和阶跃星辰选择深耕细分赛道 [3] 零一万物的困境 - 技术参数领先但产品落地滞后,工程化能力不足,ToB业务场景有限,ToC海外项目组在2024年底被裁撤 [4] - 2024年底创始团队人事震荡,核心高管离职,预训练团队被阿里收编,放弃自研大模型底座转向应用层 [5] - 高管离职潮持续至2025年,包括COO张帆、首席战略官张阔等多名核心成员 [6] 百川智能的战略失误 - 一年内经历三次战略转向:从C端超级应用到多模态通用大模型,最终聚焦医疗AI但未达行业标准 [7] - C端产品"百小应"App DAU未突破5000,远落后竞品;医疗领域合作松散,错失先发优势 [7][8] - 2025年初联合创始人陈炜鹏等核心成员离职,团队核心瓦解 [8][10] 幸存者面临的挑战 - MiniMax开源混合注意力推理模型MiniMax-M1,性能比肩DeepSeek-R1,但商业化进度克制 [11][13] - 月之暗面主打产品Kimi用户增长乏力,尝试内容社区但面临冷启动难题,内部治理问题频发 [14][16] - 阶跃星辰转向ToB与终端合作,视频生成负责人段楠离职释放人才红利减退信号 [17][19] - 智谱具备ToB基础但面临算力成本高、定制交付难等挑战,生态依赖头部客户 [20] 行业格局变化 - DeepSeek以GPT-4水准性能及1/10成本改变竞争格局,新晋"基模五强"包括字节、阿里、阶跃星辰、智谱和DeepSeek [11] - 行业从技术赛马转向创业公司战略调整能力考验,长期价值取决于场景聚焦与产品闭环 [21]
王小川的AI败局:天才CEO,为何管不住人?
凤凰网财经· 2025-05-25 21:30
以下文章来源于智族大模王 ,作者智族大模王 智族大模王 . 拥抱智能时代,解锁AI密码 王小川,这位头顶"天才少年"光环的清华学霸、搜狗输入法创始人、中国互联网初代技术偶像, 正迎来人生中最难啃的硬骨头。 他在2023年创立的百川智能,被称为"大模型六小虎"之一。 今年4月, 王小川在全员信中罕见 地反思过去两年工作的不足,过去两年百川智能战线过长,接下来将收缩战线、押注医疗AI。 无疑,王小川在AI领域打了一场败仗。 这场战略收缩,被外界解读为"断臂求生"——曾经对标 Open AI的野心,终究败下阵来,医疗成为王小川搭上AI这趟列车的最后一块跳板。 但更深层的危机还没有停止。 缺少B端业务的输血,王小川押注极度烧钱的AI医疗会面临更大风险。更为紧迫的是,王小川认为 组织是AI创业中最重要的因素,然而2024年下半年以来,百川智能有多位核心高管相继离职,整 个组织也在变得臃肿,团队的目标变得摇摆。 天才CEO,为何管不住人呢? 01 王小川的大撤退 王小川曾给资本市场画过一张"AI大饼":底层模型对标OpenAI,C端产品要做中国的ChatGPT, B端横扫金融、教育、法律等领域,医疗领域还要造出"AI医生 ...
王小川反思创业 2 年失误:战线过长、商业化过早,部分团队目标摇摆
YOUNG财经 漾财经· 2025-04-13 19:55
文章核心观点 - 百川智能创始人王小川在公司成立两年时发布全员信,回顾创业成绩与不足,指出后续发展方向,其经历是国内大模型创业独角兽发展缩影,创始人需引领团队闯出适合自身的发展之路 [1][2] 行业情况 - 2025年美国投资热潮涌向医疗AI,比尔·盖茨预测AI将取代医生,Bloomberg预测苹果将于2026年推出AI健康教练替代真人医生 [1] 公司不足 - 战线拉得太长,缺乏足够聚焦,涉足通用基础模型、医学增强推理模型、百小应和AI医生应用等,还过早商业化,提升了组织复杂程度 [1] - 2024年年中战略会议明确聚焦医疗方向,但对医疗领域投入的决心和路径要求传达不到位,部分团队工作目标出现动摇和偏差 [1] 公司后续方向 - 围绕百小应、AI儿科、AI全科、精准医疗四个方向全力聚焦,减少不必要行动,深入思考且坚定不移 [2] - 降低组织复杂程度,实行扁平化层级管理,让公司决策信息传递更顺畅 [2]
差距仅0.3%!李飞飞:中美AI模型性能基本持平;秘密打造AI iPhone,苹果灵魂设计师的公司要被OpenAI收购丨AI周报
创业邦· 2025-04-12 11:02
国内AI动态 - 百川智能聚焦医疗AI方向 明确"造医生-改路径-促医学"发展路径 将在百小应、AI儿科、AI全科和精准医疗四个领域深化应用[5] - 宇树科技人形机器人G1展示搏击能力 4秒自主恢复站立 计划一个月内开启格斗直播[6] - 字节跳动开源Multi-SWE-bench数据集 覆盖8种编程语言 历时一年构建GitHub issue数据提升大模型修Bug能力[6] - 地平线与大众汽车深化高阶智驾合作 HSD方案将通过合资公司酷睿程落地大众车型[8] - Kimi开放平台降价幅度显著 8k/32k/128k模型输入价格分别下调83%/79%/83%[9] - 月之暗面开源轻量级多模态模型Kimi-VL系列 采用MoE架构 30亿参数实现超越10倍规模模型的基准表现[10] 海外AI进展 - OpenAI推出ChatGPT记忆功能 Plus/Pro用户可跨会话保留偏好 支持个性化写作与学习[18] - OpenAI反诉马斯克 指控其试图通过诉讼延缓技术发展并夺取控制权[18] - 谷歌发布Gemini 2.5 Flash模型 动态计算能力适配实时场景 同步公布Gemini 2.5 Pro API定价 每百万tokens输入1.25美元起[25][27] - Meta推出Llama 4系列模型 包含Scout/Maverick/Behemoth三款 多模态能力覆盖40国[32] - Midjourney V7开启alpha测试 增强文本理解与细节连贯性 新增个性化模型学习功能[34][36] 技术突破与市场预测 - 斯坦福报告显示中美顶级AI模型性能差距从17.5%缩至0.3% 阿里Qwen2系列入选全球重要发布[21] - GGII预测2035年全球人形机器人市场规模超4000亿元 2030年销量达34万台[28][29] - 欧盟启动13家AI超级工厂建设计划 单厂配置超10万枚高端AI处理器 总投资200亿欧元[21] 投融资概况 - 全球AI周融资总额60.98亿元 环比减少10起 国内占比18.3%[42] - 国内Pre-A2轮最大单笔融资:穹彻智能获数亿元 聚焦具身智能大模型[52][53] - 海外D轮最大单笔融资:Runway AI完成3.08亿美元 主营视频AI编辑工具[57] - 早期项目占比47% 上海/浙江/广东为国内融资活跃地区[44][47]
解剖「百川」:王小川的AI医疗赌局
36氪· 2025-03-17 20:34
以下文章来源于智能涌现 ,作者周鑫雨 智能涌现 . 直击AI新时代下涌现的产业革命。36氪旗下账号。 为了留在AGI牌桌,王小川转了三次身。 从聚焦模型研发和金融、教育行业的B端落地,到试水C端产品和多模态模型;再转型发力医疗,B端商业化并行;最终裁撤B端,聚焦医疗 ——这些调整, 都是为了让百川继续留在牌桌上。 文 | 周鑫雨 编辑 | 苏建勋 来源| 智能涌现(ID:AIEmergence) 封面来源 | 视觉中国 3月中旬,华为传出组建医疗卫生军团的消息,聚焦医疗大模型的临床落地。这一消息,在作为"AI六小虎"的百川智能内部,一石激起千层浪。 华为入局,让百川在AI+医疗领域的牌桌上,迎来一位绝对重量的竞争者。 医疗是如今百川业务的命脉。 " 智能涌 现 "曾在3月初独家报道,百川智能裁撤了负责金融、教育等领域的B端组,理由是集中资源,聚焦在医疗这个核心 业务上。 "DeepSeek的余波还在,华为提着刀又来了。"一名百川员工告诉 " 智能涌 现 " 。 裁撤B端、聚焦医疗,是百川应对DeepSeek掀桌的决策。而如今,如何避免与"B/G收割机"华为的直接竞争,是百川内部抓紧讨论的新命题。 百川智能究竟 ...
晚点对话王小川丨不是文本创作、不是物理模型,AGI 的尽头是生命科学
晚点LatePost· 2025-02-10 17:50
百川智能创始人兼 CEO 王小川 以下文章来源于晚点对话LateTalk ,作者程曼祺 晚点对话LateTalk . 最一手的商业访谈,最真实的企业家思考。 1 月 25 日,百川发布新模型 Baichuan-M1-preview,这是百川的第一个全场景推理大模型。 当天下午我们访谈了王小川。一开始,他就分享了 M1 给一位脑梗病危患者提供诊断参考的案例。接下来的 两个多小时里,我们也聊了他对生命科学的兴趣源头,他理解的 AGI 和医疗的关系,以及百川已经开始的 医疗落地。 通向 "生命哲学的数学原理"。 文丨程曼祺 编辑丨宋玮 在把 "天才少年" 阶段贡献给搜狗之后,王小川找到了一个让他长期好奇的领域: "2000 年,我研究生的毕业论文就是做基因测序的拼接算法,当时我就想知道,生命的数学原理是什么?" 在 2023 年成立的百川智能上,王小川统一了他对生命科学的长久关注与追求更强的 AI。 这让一年多前还在讲通用模型和应用的百川看起来 "变了" 也 "慢了":同行频繁更新模型,而百川近 8 个月 没有更新大版本;别人都强调通用和泛化,百川却转向医疗;流量竞争白热化,百川既不参与模型 API 价 格战,也没 ...