生成式人工智能

搜索文档
企业 GenAI 的最大风险以及早期使用者的经验教训
36氪· 2025-08-11 08:20
生成式人工智能安全风险概述 - 生成式人工智能被列入企业路线图,但需避免发布不安全产品,模型应在沙盒化、受监控环境中运行[1] - 主要风险包括即时注入、代理权限滥用、RAG中毒、隐私/IP泄露、不安全输出处理等[1] - 企业现实加剧风险,如AI供应链不成熟、可观察性与合规性冲突、模型更新导致行为改变等[1] 生成式人工智能安全策略 - 采用零信任和纵深防御策略,限制输入、隔离工具并净化输出[2] - 部署前关键措施包括RBAC机制、DLP/PII扫描、版本锁定、防篡改日志等[2] - 若无法执行控制措施,需暂停发布[2] 生成式人工智能安全挑战 - 即时注入是新的"SQLi",攻击者可通过聊天、文档等覆盖模型指令或泄露数据[4] - 代理/工具滥用导致权限边界问题,需采用严格RBAC和人工审批[4] - RAG中毒引入新攻击面,需强化提取管道和来源签名[4] - 隐私泄露和IP溢出风险需通过DLP和显式扫描程序解决[4][5] - 模型和AI供应链风险需通过出处验证和行为审查应对[5] 企业行动计划 - 未来90天重点包括GenAI安全审计、高价值低风险用例试点、评估工具实施[6][7] - 避免常见错误如无防护措施部署、用例与业务不一致、跳过评估监督[8][9] - 需建立安全治理框架,包括威胁建模、访问控制、第三方风险审查[10] 数据与人才关键因素 - 39%首席数据官认为数据质量是GenAI应用最大障碍,需建立集中式知识数据库[11] - 技能缺口需通过混合团队和员工培训解决,变革管理至关重要[12] - 需定义新KPI并采用实验性思维方式,通过A/B测试衡量业务成果[13] 成熟度差异与路线图 - 高成熟度组织关注安全威胁,投资即时防火墙和模型卡片文档[14] - 低成熟度组织聚焦用例探索,建议从横向用例入手积累经验[14] - 成功路线图需从实验阶段逐步发展为稳定AI平台[15] 案例研究 - 摩根大通通过代码片段检查器和内部工具政策防止IP泄露[16] - 微软Bing Chat通过提示隔离和对抗样本训练降低越狱成功率[17] - Syntegra医疗AI采用差异隐私技术确保HIPAA合规[18] - Waymo通过模型注册表和沙盒执行保障供应链安全[19][20] 30-60-90天行动计划 - 0-30天:威胁建模、速效防护、访问控制审计、事件响应计划[22][23] - 31-60天:红队模拟、高级控制部署、演练培训、数据治理检查[24][25][26] - 61-90天:外部审计、指标优化、持续改进与治理委员会[27][28][29]
上市四年累计募资73亿元,商汤科技获中东资本加持
环球老虎财经· 2025-07-24 18:39
募资情况 - 公司以每股1 5港元配发约16 67亿股B类股份 募资总额约25亿港元 净额约24 98亿港元 [1] - 募资由无极资本全额认购 该机构近期还全额认购了第四范式13亿港元定向增发股份 [1] - 这是公司上市以来第三次募资 前两次分别在2024年6月募资20亿港元 同年12月以每股1 5港元配售18 65亿股募资28亿港元 [2] 资金用途 - 募资主要用于发展核心业务 包括建设AI云 扩大商汤大装置规模 研发生成式AI及多模态大模型衍生产品 [1] - 探索AI在垂直领域应用 包括具身智能机器人 真实世界资产(RWA) 数字资产及数字金融领域 [1] 业务布局 - 公司计划进军具身智能领域 核心团队已初步组建完成 [3] - 正在进行"1+X"架构调整 推动智能汽车"绝影" 家庭机器人"元萝卜"等板块拆分独立融资 [3] - AI芯片 AI零售等生态企业已在今年披露融资进展 [3] 市场反应 - 募资消息公布后股价一度涨超9% 收盘涨8 12%至1 73港元 市值达640 2亿港元 [1] 财务表现 - 2022-2024年营收分别为38 09亿元 34 06亿元 37 72亿元 [3] - 同期净利润从-60 45亿元收窄至-42 78亿元 [3] 行业特征 - 人工智能行业具有资金密集和技术密集特性 需持续投入以保持技术领先 [2]
瞭望 | 人工智能治理:刀锋之舞
新华社· 2025-07-07 16:21
人工智能产业发展现状 - 2024年中国人工智能核心产业规模接近6000亿元,涵盖基础软硬件支撑、关键技术研发、行业应用落地的完整产业生态体系正在加速形成 [2] - 人工智能作为战略性技术,展现出改变生产生活方式、重塑全球经济格局的巨大潜力 [2] 人工智能技术特性 - 人工智能具有系统性、跨域扩散性、价值敏感性和动态适应性四大核心特性,加剧技术失控可能性 [2] - 系统性体现在深度嵌入经济社会运行的复杂网络,影响波及广泛 [2] - 跨域扩散性表现为特定领域技术缺陷或伦理失范可能迅速引发连锁反应 [2] - 价值敏感性源于算法"黑箱"中的隐性规则可能引发重要领域价值失范 [2] - 动态适应性指大模型的持续学习和进化迭代能力可能带来不可预测风险 [2] 人工智能应用风险案例 - 生成式人工智能被滥用于制造虚假信息和诈骗 [3] - 带有偏见的算法应用于面部识别、招聘筛选、信贷评估等领域可能导致待遇不公 [3] - 自动驾驶系统在复杂路况下可能失效 [3] 全球人工智能治理模式 - 美国采取"弱监管"模式,通过市场化机制、行业自律和聚焦高风险场景的灵活监管平衡创新与风险 [5] - 欧盟选择"强监管"模式,围绕人类尊严、隐私和基本权利构建严苛合规体系 [6] - 中国探索综合治理路径,出台《新一代人工智能伦理规范》等法规,构建研发到应用全生命周期治理框架 [6][7] 中国治理路径特点 - 强调基础技术创新赋能安全,构建政府部门主导、科研机构审查、行业组织制定标准、企业落实责任、公众参与监督的"协同共治"生态 [7] - 倡导在联合国框架下建立国际人工智能治理框架,提出《全球人工智能治理倡议》 [7] 全球治理竞争格局 - 美国意图通过技术优势在发展中掌控规则 [8] - 欧盟谋求通过"布鲁塞尔效应"实现价值输出与市场准入规制 [8] - 中国尝试在发展与安全、技术创新与多元协同中寻找平衡 [8]
AI 很可能会加剧职场性别差距
36氪· 2025-07-05 15:11
生成式AI对职场性别差距的影响 - 生成式AI重塑就业市场 创造新岗位 改造和淘汰部分岗位 但加剧职场性别差距 [3] - 女性在AI增强型职位中占比20.5% 低于男性的24.1% 而在被AI颠覆的职位中女性占比33.7% 高于男性的25.5% [4] - 全球74个有数据国家中95%存在男性主导AI增强型职位的现象 例如美国电气工程师94%为男性 医疗行政助理91%为女性 [4] STEM领域的性别差异 - 2021年女性占STEM毕业生38.5% 但2022年进入STEM劳动力市场的女性仅31.6% [5] - 女性在STEM初级职位占比29% 管理职位24.4% 高管层骤降至12.2% [5] - 企业需改革招聘和晋升流程 避免历史就业模式偏见 利用AI预测技能而非性别因素 [5] 女性AI技能发展进展 - 女性AI工程技能占比从2018年23.5%提升至2025年初29.4% 75个经济体中有74个性别差距缩小 [6] - 女性在职业简历中更可能低估自身AI技能 影响职业发展机会 [6] 全球创新人才利用差异 - 中国和韩国女性发明人员比例达26.8%和28.3% 比欧美高约10个百分点 [7][8] - 东亚经济体在专利申请中展现出更广泛的人才池利用优势 [7]
“人工智能+”重塑制造业竞争优势
经济日报· 2025-07-03 06:41
人工智能与制造业融合的战略意义 - 人工智能是引领新一轮科技革命和产业变革的战略性技术,具有"头雁"效应,中央明确提出开展"人工智能+"行动以推动制造业升级[1] - 制造业面临国内生产要素成本上涨和国际供应链风险双重挑战,人工智能可重组生产要素、优化生产流程,提升全球竞争力[1][2] 制造业发展现状与挑战 - 改革开放初期依靠低成本劳动力形成国际竞争优势,近年因工资、土地成本上涨导致价格竞争力削弱[2] - 逆全球化与大国博弈加剧产业链外迁压力,需通过产业结构调整重塑优势[2] 人工智能技术赋能制造业的路径 - 工业机器人已在汽车焊接、电子精密加工等领域显著提升效率,深度学习技术推动工业互联网发展[3] - 生成式AI实现从感知到认知的跨越,DeepSeek等企业通过模型创新降低训练成本,加速应用落地[3] - 垂直大模型和具身智能技术实现"知识+经验+推理"闭环,推动智能制造自感知、自决策能力[3][4] 深度融合的三大核心逻辑 效率提升维度 - AI通过要素替代(如机器视觉质检)、良品率改善(预测性维护)、精准需求预测降低综合成本[5][6] - 中国连续多年为全球最大工业机器人市场,有效对冲生产要素涨价影响[5] 产品创新维度 - 生成式AI快速生成产品设计方案,智能产品集成新功能并提高附加值[7] - 智能产品通过在线监测、个性化服务增强用户黏性,绿色设计降低能耗[7] 供应链优化维度 - AI实现产供销全链路数据连通,跨境电商平台增强中国供应链话语权[8] 新兴产业竞争力构建 - AI与颠覆性技术(如低空经济)融合形成新增长点,助力换道超车[9] 实践路径与政策建议 - 需突破高端芯片、基础软件等技术瓶颈,发展工业垂直大模型[10] - 超前布局算力基础设施,推动5G专网覆盖制造业园区[10] - 建设工业知识库与数据集,支持龙头企业开放垂直工业互联网平台[11][12] - 加强复合型人才培养,增设高校AI与智能制造交叉课程[12]
倾听尼山2025 | 丁元竹:开创人工智能时代的新型文明形态
经济观察报· 2025-07-01 12:56
尼山世界文明论坛 - 第十一届尼山世界文明论坛将于2025年7月9日至10日在山东曲阜举办 [2] - 论坛主题为"各美其美·美美与共——文明间关系与全球现代化",涵盖6个分议题,包括人工智能发展与人类文明走向 [2] - 论坛旨在通过跨文明对话解决全球政治冲突和经贸壁垒问题 [2] 人工智能技术特性 - 生成式AI正以周为单位迭代,催生首个具备自主演进能力的智能主体 [3] - AI具有自主性和不透明性两大核心特性,需调整私法以适应其推广 [8] - 当前AI在抽象推理、情感表达等维度未达人类水平,但特定领域(如医疗影像识别)已超越人类 [18] 技术社会接受度 - AI社会接受度取决于三方面:公众认知水平、技术掌握程度、专业人员参与开发深度 [6] - 历史表明新技术渗透社会需时间,仅少数成员能快速适应 [6] - 2022年美国仅54%失业者成功转入新行业,反映转型难度 [15] 就业市场影响 - 规则明确型岗位(如装配线工人)具有高替代风险,情感互动型岗位(如心理咨询师)替代率较低 [14] - AI可能创造新岗位,如大模型算力中心每日耗电75万美元,将刺激新能源领域就业 [16] - 比尔·盖茨预测医生、教师将被AI取代,但软件开发者、生物学家岗位留存 [15] 社会治理挑战 - 生成式AI可能引发四类问题:就业流失、隐私泄露、数据偏见、算法歧视 [7] - COMPAS司法系统案例显示AI会强化种族偏见,误差判率达历史峰值 [23] - 长期依赖AI将导致人类判断力退化,如飞行员紧急处置能力下降 [23] 跨文化价值对齐 - 程序员文化背景影响AI参数设计,例如中印文化对点头动作的相反解读 [11] - 需建立动态反馈机制,联合科学家、伦理学者等制定跨文化对齐标准 [12] - 价值对齐是持续过程,需解决"公平""正义"的多元定义冲突 [12] 技术经济影响 - 苹果、亚马逊等科技巨头正将AI融入核心业务,可能加剧赢者通吃现象 [17] - AI内容生成催生新商业模式,但监管缺位易导致市场垄断 [17][23] - 前OpenAI团队预测通用AI或于2027年实现,影响力超工业革命 [22] 教育科研变革 - 具身机器人普及将重构人文教育体系,需建立跨学科动态框架 [26] - AI研究有助于反向破解人类精神世界形成机制 [24] - 需培育人文与科技人员的协作文化,构建新型文明形态 [20][21]
德勤携手港大成立AI实验室 促进企业加快数码转型步伐
证券时报网· 2025-06-29 21:08
德勤与香港大学合作成立AI实验室 - 德勤与香港大学合作成立"Deloitte ×HKU组织转型AI实验室",重点推动联合学术研究、开发人工智能驱动的行业应用与客户解决方案,促进产学研深度交流[1] - 实验室旨在加快人工智能技术在本地企业与学界的落地与转化,推动AI研究与实际商业应用接轨[1] - 德勤与港大签署合作备忘录,深化协作以引领人工智能创新与组织转型[1] 人工智能在商业领域的应用 - 人工智能正重塑企业在财务、营运、市场营销及网络安全等业务职能上的运作模式[1] - Agentic AI标志着人工智能发展进入新阶段,具备灵活应对、智能决策及协调复杂业务流程的能力[1] - 生成式人工智能将重新定义企业的运营方式与价值创造[2] 跨界合作推动AI发展 - 跨界合作是推动香港人工智能发展的关键,促进商界、学界与科技领袖携手推动创新[2] - 德勤的行业领导力与港大的研究专长结合,协助企业展开人工智能转型,提升运营效率[2] - 实验室将成为前沿AI研究转化为商业应用的催化剂,助力企业实现深层转型[2] AI在客户体验优化中的应用 - 企业利用AI通过预测需求、高效处理问题及实现个性化互动革新客户体验[3] - AI帮助品牌从被动回应转向主动出击,加快问题解决速度并提供个人化服务[3] - AI助力品牌与消费者建立更紧密、更人性化的关系与互动[3] 行业活动与展示 - Deloitte Digital Day汇聚逾500位商界领袖、AI专家及科技企业代表,探讨AI在不同行业的发展潜力[1] - 活动吸引逾20家顶尖科技企业展示AI在各行各业的创新应用[2] - Mastercard、甲骨文及Twilio分享AI驱动的个人化体验、金融服务创新及客户体验优化策略[2]
全球媒体聚焦|全球经济未来的“竞技场”上 中国拥有强大的塑造能力
搜狐财经· 2025-06-24 20:50
中国经济转型与高增长领域 - 过去二十年中国经济经历非凡转型,高速增长使数亿人脱贫并创造繁荣中等收入群体,将中国定位为全球经济强国 [1] - 麦肯锡研究定义"竞技场"为高增长行业,通过创新、竞争和价值创造重塑全球经济,2005-2020年12个领域经历超规模增长包括电子商务、生物医药、电动汽车等 [1] - 中国公司在电动汽车、个人电脑、电子商务等领域已进入全球市场,推动因素包括巨大国内市场、强大制造业基地、国家支持及创业环境 [1] 中国在关键领域的成功表现 - 中国公司成为电子商务和人工智能服务主要参与者,利用数据分析和供应链效率创新在全球竞争 [2] - 老牌互联网和电商公司将生成式AI集成到教育、短视频创作、企业软件中,新玩家在大规模AI模型取得突破 [2] - 电动汽车、电池和机器人技术进步为未来增长奠定基础 [2] 未来经济机遇与潜力 - 未来二十年新"竞技场"预计到2040年产生29-48万亿美元收入和2-6万亿美元利润,中国已在多个领域取得领先 [2] - 中国在高增长领域抓住机遇的能力支撑过去经济发展,当前准备好在变革性行业中继续发展 [4] - 中国需应对复杂全球环境包括地缘政治变化、贸易关系演变及技术竞争,但具备坚实基础塑造领域未来 [4] 行业前景展望 - 中国经济下一章机遇巨大且令人兴奋,可能创造经济价值并推动创新性、包容性、全球一体化经济 [4]
拧紧新技术发展的“安全阀”(评论员观察)
人民日报· 2025-06-16 05:51
AI安全与治理 - 经济合作与发展组织数据显示2024年AI风险事件总数比2022年增加约21.8倍[1] - 规范AI发展不等于设限 而是通过政策引导技术沿健康可持续方向前进[1] - 技术发展与治理需同步推进 政策法规需动态完善以匹配技术进步[2] 政策法规进展 - 中国已发布《生成式人工智能服务管理暂行办法》实行分类分级监管[2] - 《互联网信息服务深度合成管理规定》要求对AI生成内容进行显著标识[2] - 《人工智能生成合成内容标识办法》推进生成到传播全链条治理[2] 企业责任与实践 - 腾讯对违规"AI洗稿"行为进行限制和清理[3] - 抖音对不当利用AI生成虚拟人物的内容实施严格处罚[3] - 今日头条2024年处理低质AI内容超93万条[3] 技术创新防御 - 合合信息开发新型检测技术可识别图像篡改痕迹[4] - 浙江团队研发"电子标识"技术可破坏被AI加工的音视频[4] - 奇富科技智能风控系统2024年发布AI反诈提醒13.8万次 劝阻潜在受害者2.9万人[4]
助力初創公司成功之路:吸引並深耕本地另類投資基金
香港金融发展局· 2025-06-11 08:30
报告行业投资评级 报告未提及行业投资评级相关内容 报告的核心观点 香港作为国际金融中心,在资产及财富管理领域具备优势,但当前初创公司生态圈和另类投资环境仍有提升空间,需顺应全球趋势,采取前瞻性策略,完善融资机制、优化监管和税务框架、吸引国际资本,以推动初创公司生态系统可持续发展,巩固香港作为全球另类投资基金枢纽和创新驱动增长的全球领导者地位 [6][7][8] 根据相关目录分别进行总结 引言 - 培育初创公司生态圈具有重要战略价值,是创新与社会变革的催化剂,2023年全球初创生态圈创造了7.6万亿美元价值,较2020年增长逾一倍 [18] - “本地”初创公司与基金的定义应突破传统地域界限,涵盖有意扎根香港、积极贡献香港经济的国际参与者,鼓励国际基金在港设立办公室并进行实质投资与运营 [19][20] - 拥有强健初创生态圈的城市将在塑造全球产业版图中发挥决定性作用,人工智能、医疗保健与生物科技以及聚焦可持续发展的科技成为近年吸纳巨额投资的关键领域,香港积极采取措施构建相关生态圈 [22][23] 私募市场与另类资产崛起 - 私募市场与另类资产类别成为现代融资结构的重要组成部分,为初创企业提供资金管道,香港私募股权、创业投资及私募债务(含私募信贷)的管理资产规模在全球和亚洲排名靠前 [34] - 私募市场存在透明度低、缺乏定价基准、流动性差等特点,需要在产品结构设计及投资者沟通中采取审慎方式,构建包含多元化金融产品的平衡生态系统 [35] 多元化另类投资策略在不同融资阶段的作用 - 创业投资、私募股权、私募信贷等多元另类投资策略,各自针对初创企业在不同发展阶段面临的挑战与机遇,为其提供适应不同发展阶段的弹性资本 [37][39] - 私募股权与创业投资是推动新创企业各阶段成长与创新的核心力量,能为初创公司注入动力、营造发展环境,构建人脉网络,促进大湾区跨境创新与协同效应 [40][41][45] - 私募信贷基金能填补传统银行未能满足的融资需求,在经济动荡时期保障市场流动性,其表现稳定,吸引众多投资者,在亚洲市场具有发展机遇 [50][51][54] - 私募市场通过多种工具成为初创公司的关键资金来源,全球私募市场管理资产持续增长,主权财富基金在其中的作用日益重要,且推动了跨境伙伴关系创新 [57][58] - 初创企业保持私有化的时间越来越长,这是融资生态系统结构性变化和全球公开市场条件趋紧共同影响的结果,反映了供需双方因素的交汇 [61] - 私募市场对投资者的吸引力与日俱增,可与公开市场形成互补,具有较高回报潜力和资产配置多元化优势,预计到2033年管理资产将以近9%的年复合增长率扩张 [64] 聚焦亚太与香港格局 - 亚太地区金融成熟度与经济增长为私募市场投资培育了肥沃土壤,香港在亚太区私募市场处于领导者地位,其金融基建、监管到位的基金架构以及与内地市场的深度对接使其具有重要战略吸引力 [66][67][70] 初创公司与另类投资生态圈面临的挑战 - 香港创投市场倾向选择安全标的,限制了组合多元性,缺乏具扩展潜力的初创公司组合,难以吸引持续投资,需创造本地成功的良性循环 [73] - 香港资金配置失衡,针对初创公司及早期项目的种子资金短缺,虽有相关计划提供支持,但仍需激发私营市场参与度、培植创业投资文化、鼓励企业积极推动创新 [74][76] - 香港虽在学术研究和知识产权保护等方面具有优势,但尚未成功将其转化为蓬勃发展的商业化流程,存在科研与商业化脱节、融资缺口、企业参与度低等问题 [77][80][82] - 香港针对另类投资工具的税务框架虽有优化,但业界仍倡议深化改革,现行监管框架对私募股权和创业投资基金有进一步完善的空间 [83][85][86] - 香港在另类投资与初创公司生态圈面临人才争夺挑战,存在科技与投资融合的技能缺口,缺乏专注相关领域的专项大学课程或培育计划,需加强业界与教育机构的协作 [87][89] 政策建议 - 制定具策略性及前瞻性的政策愿景,推动香港成为全球另类投资基金枢纽,包括培育本地创新驱动与风险承担文化、确立香港作为区域与国际创投/另类投资基金枢纽、吸纳全球人才与创新要素、善用香港全球连通优势 [94][95][96] - 设立私募股权、创业投资及私募信贷专属发牌制度,以适应私募市场的快速演变,减少低效运作,增强香港对国际基金管理人的吸引力,可借鉴其他市场经验,简化监管要求 [100][103][107] - 现代化税务与监管框架以支援另类投资发展,包括将私募信贷纳入“统一基金豁免”制度、调整共同投资架构税务门槛、扩展“基金”定义以涵盖单一投资者基金、优化香港注册基金工具吸引力 [110][112][113] - 优化公共资金推动私募股权、创业投资及私募信贷发展,采取双轨策略,在基金层面配置私募股权与创投资本,利用共同投资机遇推动私募信贷市场发展,借鉴国际经验,实现精准资本配置 [117][118][123] - 通过革新融资模式与技术转移加速创新成长,建立强化融资框架,为初创公司提供全方位支援,优化资金部署,完善技术转移办公室,采取针对行业的策略推动创新 [125][128][134] - 将特定另类投资选项纳入强积金计划,提升投资组合多元化,可先将上市私募基金纳入,谨慎考虑私募信贷等其他另类资产,进行可行性研究和监管框架调整 [138][139][142]