Workflow
人工智能
icon
搜索文档
企业 GenAI 的最大风险以及早期使用者的经验教训
36氪· 2025-08-11 08:20
生成式人工智能安全风险概述 - 生成式人工智能被列入企业路线图,但需避免发布不安全产品,模型应在沙盒化、受监控环境中运行[1] - 主要风险包括即时注入、代理权限滥用、RAG中毒、隐私/IP泄露、不安全输出处理等[1] - 企业现实加剧风险,如AI供应链不成熟、可观察性与合规性冲突、模型更新导致行为改变等[1] 生成式人工智能安全策略 - 采用零信任和纵深防御策略,限制输入、隔离工具并净化输出[2] - 部署前关键措施包括RBAC机制、DLP/PII扫描、版本锁定、防篡改日志等[2] - 若无法执行控制措施,需暂停发布[2] 生成式人工智能安全挑战 - 即时注入是新的"SQLi",攻击者可通过聊天、文档等覆盖模型指令或泄露数据[4] - 代理/工具滥用导致权限边界问题,需采用严格RBAC和人工审批[4] - RAG中毒引入新攻击面,需强化提取管道和来源签名[4] - 隐私泄露和IP溢出风险需通过DLP和显式扫描程序解决[4][5] - 模型和AI供应链风险需通过出处验证和行为审查应对[5] 企业行动计划 - 未来90天重点包括GenAI安全审计、高价值低风险用例试点、评估工具实施[6][7] - 避免常见错误如无防护措施部署、用例与业务不一致、跳过评估监督[8][9] - 需建立安全治理框架,包括威胁建模、访问控制、第三方风险审查[10] 数据与人才关键因素 - 39%首席数据官认为数据质量是GenAI应用最大障碍,需建立集中式知识数据库[11] - 技能缺口需通过混合团队和员工培训解决,变革管理至关重要[12] - 需定义新KPI并采用实验性思维方式,通过A/B测试衡量业务成果[13] 成熟度差异与路线图 - 高成熟度组织关注安全威胁,投资即时防火墙和模型卡片文档[14] - 低成熟度组织聚焦用例探索,建议从横向用例入手积累经验[14] - 成功路线图需从实验阶段逐步发展为稳定AI平台[15] 案例研究 - 摩根大通通过代码片段检查器和内部工具政策防止IP泄露[16] - 微软Bing Chat通过提示隔离和对抗样本训练降低越狱成功率[17] - Syntegra医疗AI采用差异隐私技术确保HIPAA合规[18] - Waymo通过模型注册表和沙盒执行保障供应链安全[19][20] 30-60-90天行动计划 - 0-30天:威胁建模、速效防护、访问控制审计、事件响应计划[22][23] - 31-60天:红队模拟、高级控制部署、演练培训、数据治理检查[24][25][26] - 61-90天:外部审计、指标优化、持续改进与治理委员会[27][28][29]
策略周报:AI应用预期差:商业化落地有望加速-20250811
中银国际· 2025-08-11 08:13
核心观点 - 市场在资金面支撑下延续震荡上行,两市融资余额逼近2万亿大关 [4] - AI应用商业化加速,重点关注AI编程、AI多模态等赛道 [4] - eSIM手机有望加速落地,2030年中国eSIM手机连接数预计达14.41亿部 [4] 大势与风格 - 本周市场在资金面及政策支撑下震荡走强,科技成长板块表现活跃 [12] - 联储理事辞任及就业数据修正推动市场降息预期升温 [12] - 8月小盘成长及红利为代表的杠铃策略有望迎来阶段性修复 [12] - 全球大类资产表现:MSCI新兴市场年初以来涨幅16.58%,伦敦金现涨幅30% [13] 中观行业与景气 - 有色行业周度涨幅第一,机械行业受益机器人催化涨幅第二 [23] - 2025世界机器人大会召开,汇聚200余家企业及1500余件展品 [25] - 具身智能机器人十大发展趋势发布,涵盖研发到生产全环节 [27] - 人形机器人十大潜力应用场景发布,聚焦工业、民生及农业领域 [28] AI应用商业化进展 - GPT-5在编程、医疗及降本增效方面取得进展,编程能力测试得分达74.9% [29] - 大模型Tokens消耗量快速增长,谷歌月度推理量达980万亿 [30] - GitHub Copilot用户超2000万,Anthropic年化收入突破30亿美元 [33] - 快手可灵AI年化收入突破1亿美元,美图上半年净利润同比增长65%-72% [33] eSIM发展前景 - 华为、苹果、OPPO将推出eSIM手机,中国联通已上线测试页面 [42] - 预计2025年全球eSIM智能手机连接数达10亿部,2030年增至69亿部 [42] - 中国到2030年eSIM手机连接数预计占联网手机数的90% [42] 资金流向 - 本周主力资金净买入255.48亿元,机械设备行业净流入226.83亿元 [39] - 股票型ETF连续第5周净申购,金额达105.68亿元 [39] - 医药生物、计算机、非银金融行业资金净流出规模最大 [40]
马斯克再次回应解散Dojo超级计算机团队;华为即将发布AI推理领域突破性成果丨AIGC日报
创业邦· 2025-08-11 08:08
趣味科学网站记者就该病例联系了ChatGPT的开发者开放人工智能研究中心(OpenAI)。该公司一名 发言人指点记者查阅其服务条款。条款声明,其服务不用于诊断或治疗任何健康问题。其条款 称:"您不应依赖我们的服务输出作为真 相或事实信息的唯一来源,或者作为专业建议的替代品。" (参考消息) 3.【马斯克再次回应解散Dojo超级计算机团队】 当地时间8月10日,马斯克发文表示,当所有路径都 明确指向AI6芯片时,我不得不关停Dojo项目,并做出一些艰难的人事调整,因为Dojo 2如今已沦为 一条进化 死胡同。可以说,Dojo 3以单块电路板上集成大量AI6系统级芯片(SoC)的形式延续了生 命。(新浪财经) 1.【华为即将发布AI推理领域突破性成果】华为将于8月12日在2025金融AI推理应用落地与发展论坛 上,发布AI推理领域的突破性技术成果。据透露,这项成果或能降低中国AI推理对HBM(高带宽内 存)技术的依赖,提升国内AI大模型推理性能,完善中国AI推理生态的关键部分。(中国证券网) 2.【ChatGPT"误诊"致男患者溴中毒】据美国趣味科学网站8月8日报道,一名男子在咨询聊天生成 预训练转换器(Chat ...
西安科大校友打造“AI监控龙头”,估值翻10倍、大客户占比近六成
公司概况 - 海清智元是一家专注于多光谱AI技术的公司,成立于2013年,创始人周波拥有26年计算机视觉及热成像行业经验,目前公司正在启动港股IPO进程 [3][4] - 公司核心业务包括多光谱AI模组、多光谱AI感知终端和多光谱AI大模型服务,形成"智能眼睛+终端设备+安全大脑"的全链条产品布局 [7] - 创始人周波通过直接持股及控制三大员工持股平台合计控制公司48.87%的投票权 [3] 融资历程 - 公司5年内完成5轮融资,估值从2020年A轮的3.5亿元增长至2025年D轮的35.5亿元,实现10倍增长 [5][6] - 主要投资方包括凯盈系、高新投、金阳光、星辉投资和值得九号等机构,其中国有资本和专注科技领域的投资机构占比较高 [6] 行业前景 - 中国多光谱AI市场规模预计将从2025年的200亿元增长至2029年的588亿元,复合年增长率达31.0% [8] - 行业集中度较低,2024年前五企业市占率仅10.9%,海清智元在多光谱AI整体市场排名第一(市占率3.5%),在大模型服务领域排名第一(11.8%),在模组领域排名第三(6.6%) [10] 财务表现 - 2024年公司实现营收5.23亿元,毛利率18.80%,研发投入占比4.81% [11] - 2022-2023年经历亏损后,2024年扭亏为盈实现净利润0.404亿元,但2025年前三月经营性现金流净流出6360万元,存货增加1.79亿元导致资金压力加大 [13][15] - 资产负债率从2022年的52.10%降至2024年的41.80%,但2025年前三月回升至45.20% [15] 竞争格局 - 主要竞争对手包括海康威视(2024年营收924.5亿元)、凌云光(2024年营收22.34亿元)和大恒科技(2024年营收17.63亿元) [11] - 海康威视在渠道、规模和研发投入(2024年研发支出118.64亿元)上具有明显优势,与海清智元在泛安全领域存在竞合关系 [11][12] - 凌云光通过收购JAI补充多光谱成像技术,在工业检测领域与海清智元形成竞争 [12] 运营特点 - 客户集中度高,2025年前三月前五大客户收入占比达64.8%,2024年全年为59% [13][14] - 供应链集中度显著上升,五大供应商采购占比从2022年的36%升至2025年前三月的89.3% [14] - 研发投入强度(4.81%)低于主要竞争对手凌云光(19.89%)和海康威视(12.83%) [11]
财经早报:超5万元现金存取或无需登记 美俄还在酝酿更大的核博弈
新浪证券· 2025-08-11 08:05
【头条要闻】 美联储或连续降息3次,每次25个基点,套息交易员已加大对新兴市场押注 随着市场押注美联储将在下月启动降息,美元走弱并刺激了对高收益货币的需求,套息交易在新兴市场 投资者中再度流行。从路博迈集团到安本集团,基金经理们正大量买入巴西、南非和埃及等国的货币。 他们表示,美元走弱和波动性下降,为套息交易策略创造了成熟的环境 —— 在该策略中,交易员借入 低收益率货币,买入高收益率货币。 今年,套息交易实现了两位数的回报,但在 7 月美元反弹时一度停滞。如今,在美国就业报告表现惨淡 引发政策制定者将不得不在下月降息以避免经济衰退的押注后,套息交易再次升温。近日,双线资本和 瑞银等机构加入了唱空美元的行列,称看空美元的说法 "重新生效"。 超5万元现金存取或无需登记!反洗钱监管转向风险为本 增量资金来了!MSCI指数调整新纳入14股(名单) 全球知名指数公司MSCI宣布了2025年8月份的指数审议结果。在本次调整中,MSCI中国指数新纳入地 平线机器人、老铺黄金、网易云音乐、三生制药等14只股票,剔除17只股票。本次调整将于8月26日收 盘后生效。值得注意的是,本次MSCI中国指数调整新增港股标的显著增多, ...
陈天桥联手清华教授代季峰首发最强开源AI模型项目,全力打造下一个DeepSeek
钛媒体APP· 2025-08-11 07:52
核心观点 - 清华大学电子工程系副教授代季峰与陈天桥联手筹备一家致力于打造通用人工智能(AGI)的新公司,目标是成为下一个OpenAI或DeepSeek [2][8] - MiroMind团队发布了首个开源深度研究项目Miro ODR,其V0.1版本GAIA测试达82.4分,超越OpenAI的DeepResearch等模型,成为当前开源最强Deep Research模型 [3][4] - 公司使命是打造具备自我意识的数字生命体,与社区共同进化以实现安全、有益的AGI [12] 技术成果 - Miro ODR包含四个子项目:MiroFlow(Agent框架)、MiroThinker(深度思考模型)、MiroVerse(数据开源项目)、MiroTrain(训练基础设施),全部开源且可复现 [10] - MiroMind-M1开源推理语言模型基于70亿参数的阿里Qwen-2.5 RLM,在AIME24、AIME25和MATH500测试中超越DeepSeek-R1蒸馏版和小米的MiMo-7B-Base [9][11] - 项目采用监督式微调(SFT)在71.9万个问题集上训练,并通过可验证奖励的强化学习(RLVR)在6.2万个示例上优化 [8] 团队背景 - 代季峰是清华AI专家,曾在微软亚洲研究院和商汤科技担任要职,发表80余篇论文,总引用超6万次 [7] - 其研发的Deformable ConvNets系列被纳入多所世界一流大学课程,R-FCN被评为"三大目标检测元模型之一" [7] - 开源多模态基础模型InternVL在十多个重要指标上与GPT、Gemini相当,累计下载超500万次 [8] 战略布局 - 公司研发重点包括AI商业决策智能化、突破算法茧房的内容分发、面向老龄化和青年发展的AI服务 [12] - 陈天桥承诺盛大内部孵化的所有AI企业的一半利润将分给团队 [5] - 陈天桥加速布局AI和脑科学赛道,投资了脑机接口企业Synchron并支持多项脑科学研究 [13][16] 行业影响 - Miro ODR开放了深度研究的各个阶段,包括模型、数据、训练流程等,计划每月更新一次 [5][10] - 项目提出CAMPO框架(上下文感知的多阶段策略优化),证明7B模型可用更少token获得比Skywork更好的性能 [9] - 陈天桥呼吁中国科创投资人不要将脑机接口仅视为赚钱风口,强调需要"耐心资本"支持长期创新 [16][17]
华为将发布AI推理领域突破性成果;8天3连发!中国商业航天“爆单”,继续加码!——《投资早参》
每日经济新闻· 2025-08-11 07:48
重要市场新闻 - 中国人民银行、国家金融监督管理总局、中国证监会联合发布新规征求意见稿,取消个人单笔5万元以上现金存取业务需登记资金来源或用途的硬性要求 [1] - 7月CPI环比上涨0.4%(上月为下降0.1%),同比持平,暑期出游带动飞机票(+17.9%)、旅游(+9.1%)、宾馆住宿(+6.9%)和交通工具租赁费(+4.4%)价格环比上涨,合计影响CPI环比上涨约0.21个百分点 [1] - 7月PPI环比降幅收窄0.2个百分点至-0.2%,同比下降3.6%,降幅与上月相同 [1] 行业掘金 华为AI推理技术 - 华为将于8月12日发布AI推理领域突破性技术成果,可能降低中国AI推理对HBM技术的依赖,提升国内AI大模型推理性能 [2] - 华为宣布CANN全面开源开放,Mind系列应用使能套件及工具链全面开源,支持用户自主深度挖潜和自定义开发,CANN是华为昇腾AI编程语言,对标CUDA和ROCm [2] - CANN已有近3000个算子(与CUDA数量相当),开源旨在激励开发者丰富生态,提升开发效率并降低人力成本 [3] - 相关概念股包括东方国信、软通动力、云从科技 [3] 卫星互联网与商业航天 - 中国星网9天内完成三次低轨卫星互联网卫星发射任务,创下中国航天最短发射间隔纪录,标志中国卫星互联网建设进入加速期 [4] - 中国商业航天市场规模从2020年92亿元暴增至2024年3100亿元,年复合增长率超100%,增速为全球5倍 [5] - 相关概念股包括天银机电、上海瀚讯、华力创通 [5] 具身智能机器人 - 北京经济技术开发区发布具身智能社会实验计划及专项支持政策,十条措施聚焦软硬技术协同攻关、数据要素先行先试、应用场景牵引推广等 [5] - 2025年有望成为人形机器人从0到1的关键时点,预计2026年市场规模突破万亿 [6] - 相关概念股包括东土科技、汉宇集团、汉威科技 [6] 避雷针(股东减持) - 佛燃能源:股东海南众城拟减持不超过0.37%股份 [7] - 慧智微:股东GZPA Holding拟减持不超过1%股份 [7] - 银宝山新:股东淮安布拉德拟减持不超过1.54%股份 [7] - 龙利得:股东滁州浚源拟减持不超过1.9%股份 [7] - 路维光电:控股股东杜武兵及股东肖青承诺6个月内不减持 [7] - 和达科技:股东上海建元等拟减持不超过1.1%股份 [8] - 兴瑞科技:股东宁波瑞智拟减持不超过0.67%股份,股东宁波和之瑞拟减持不超过1%股份 [8]
加力打造良好人工智能产业生态 河南省将设立人工智能产业基金
河南日报· 2025-08-11 07:45
人工智能发展如浪潮奔涌,深刻改变着人们的生产生活方式,也在塑造着未来发展格局。面对AI新风 口,竞逐AI新赛道,河南如何乘势而上?8月9日记者了解到,省政府近日印发《河南省支持人工智能 产业生态发展若干政策措施》(简称《措施》),推动人工智能科技创新与产业创新深度融合,打造人 工智能发展新高地。 "河南是全国重要的经济大省、工业大省和人口大省,拥有海量的数据资源、丰富的应用场景、广阔的 市场空间,具备在人工智能领域取得突破性发展的优势和条件。"省发展改革委有关负责人说,省委、 省政府高度重视人工智能发展,提出开展"人工智能+"行动,奋力建设数智强省。为进一步强化政策供 给,更好发挥财政引导与支撑作用,我省出台《措施》,贯彻落实中央决策部署,聚焦"1+2+4+N"目标 任务体系,系统提出我省支持人工智能产业生态发展的政策举措。 人工智能产业的发展,离不开企业端的技术突破和政策资金侧的强力支撑。据介绍,《措施》强化全链 条支持,覆盖模型研发、算力供给、数据开发、场景培育、技术攻关、载体建设、企业引育等领域,为 人工智能全产业链创新发展提供系统化政策支撑。同时,注重精准协同发力,聚焦我省人工智能发展的 堵点和薄弱环 ...
1.7秒修复高清大片 新型大模型让图像复原更高效
科技日报· 2025-08-11 07:40
技术突破 - 中国科学院深圳先进技术研究院发布HYPIR图像复原大模型,解决传统图像复原技术计算复杂度高、推理速度慢、训练资源消耗大等问题[1] - HYPIR舍弃迭代式扩散模型训练,采用单步对抗生成模型训练方式,算法速度提升数倍[1] - HYPIR实现8K级别细节生成,在生成图像稳定性和可控性方面远超前代SUPIR大模型[1] 性能优势 - HYPIR在单张图像处理器上仅需1.7秒完成1024×1024分辨率图像复原[3] - 传统扩散模型常导致文字模糊或扭曲,HYPIR能保持文字高保真度和清晰度[3] - HYPIR具备自然语言理解能力,可精准捕捉用户指令并反映在复原过程中[3] 应用场景 - 该技术适用于影视修复、文化传承与保护等领域[1] - 已成功部署于明犀科技平台,开源代码和模型上传至GitHub[3] - 团队与深圳市南山区档案馆合作修复馆藏照片,未来将推进模型产业化[3] 效率提升 - HYPIR训练和推理速度较传统方法提升一个数量级以上[2] - 用户可灵活调节生成与复原比例,精细控制图像细节程度[3]
影响市场重大事件:华为即将发布AI推理领域突破性成果;北京亦庄发布“具身智能机器人十条”,全方位支持企业发展
每日经济新闻· 2025-08-11 07:28
华为AI推理技术突破 - 华为将于8月12日发布AI推理领域突破性技术成果,可能降低中国AI推理对HBM技术的依赖并提升国内AI大模型推理性能 [1] 北京亦庄具身智能机器人政策 - 北京经济技术开发区发布具身智能社会实验计划及十条专项支持政策,聚焦软硬技术协同攻关、数据要素先行先试等8条措施 [2] - 政策包括人形机器人销售补贴、供应链响应平台支持等措施,旨在抢占全球机器人产业制高点 [2] AI+机器人生态系统 - 中国工程院院士倪光南强调要构建"AI+机器人"生态系统,发挥其新质生产力作用 [3] - 提出用脑-眼-行动协同系统提高机器人智能水平,使其能看见、理解和行动于世界 [3] 居民消费价格数据 - 7月全国居民消费价格同比持平,环比上涨0.4% [4] - 1-7月平均CPI同比下降0.1%,7月食品价格下降1.6%,非食品价格上涨0.3% [4] 河南人工智能产业政策 - 河南省提出大力引进培育人工智能领域专精特新企业,对国家级"小巨人"企业给予最高500万元补助 [5] - 支持研发推广具身智能机器人、AI终端产品等 [5] ChatGPT-4o重新上线 - OpenAI宣布GPT-4o重新上线供Plus和Team用户使用 [6] - 此前GPT-5发布后曾停止提供GPT-4o [6] A股市场观点 - 中信建投认为A股处于牛市中继,回调带来配置良机 [7] - 建议关注AI算力、人形机器人、有色、交运、券商、创新药等行业 [8] 人形机器人市场前景 - 宇树科技创始人预测未来几年全行业人形机器人出货量有望每年翻番 [9] - 未来2-5年技术重心是智能机器人大模型、低成本硬件和大规模制造 [9] 东莞潮玩产业政策 - 东莞出台新政投入1.2亿元支持潮玩和动漫产业发展 [10] - 中国85%潮玩产品和全球25%动漫衍生品产自东莞 [10] GPT-5影响分析 - GPT-5推理能力进步明显,性价比显著提升 [11] - 建议美股科技领域布局HBM、AI网络设备、IDC等基础设施和应用环节 [11]