Workflow
AI安全
icon
搜索文档
AI教父Hinton末日警告,你必须失业,AI万亿泡沫豪赌才能「赢」
36氪· 2025-11-04 18:50
AI投资规模与资本流向 - 微软、Meta、谷歌、亚马逊四大巨头预计明年AI领域支出达4200亿美元,高于今年的3600亿美元 [5] - OpenAI已签署超过1.4万亿美元的算力合同,将硅谷AI巨头紧密绑定在GPU采购和模型训练上 [5] - 摩根士丹利预测,2025至2028年间,大型科技公司将在AI和数据中心上投入2.9万亿美元 [44] - 哈佛经济学家指出,数据中心和AI投资贡献了美国2025年上半年GDP增长的约92%,剔除后GDP增长仅为0.1% [35] 英伟达的市场地位与增长 - GTC 2025大会后,英伟达市值飙升至5万亿美元 [8][39] - Loop资本预测其未来市值有望突破8.5万亿美元 [8] - Blackwell芯片已全面量产,下一代超级芯片Vera Rubin计划于明年10月投产 [39] AI对就业市场的实际影响 - 2025年招聘岗位总量同比下降8%,美国就业岗位同比下降7.3% [50] - 创意执行类岗位受冲击显著:计算机图形艺术家需求下降33%,摄影师和作家需求均下降28% [52][54] - 机器学习工程师岗位需求在2025年增长40%,此前2024年已增长78% [63] - 高层领导岗位需求仅下降1.7%,显著优于市场平均水平,而一线员工岗位需求下降9% [67][70][71] 行业巨头战略与AI安全观 - Hinton批评科技巨头更关注商业竞争获胜而非人类生存安全,Meta被视为不负责任的典型 [17][19] - OpenAI最初以负责任发展AI为目标,但现在最优秀的安全研究员纷纷离职,背离初衷 [19] - 亚马逊宣布裁员4%,涉及14000名员工,被视为AI投资推动的裁员案例 [23] AI技术应用与行业趋势 - 全球95%的企业应用生成式AI失败,表明尚未找到最佳应用模式 [45] - AI基础设施技术栈岗位需求旺盛:机器人工程师增长11%,研究/应用科学家增长11%,数据中心工程师增长9% [66][69] - 网红营销专员岗位需求增长18.3%,反映出在AI内容泛滥背景下,真实人际信任渠道的价值提升 [74][75] 特定岗位需求变化分析 - 软件工程岗位整体稳定,前端工程岗位降幅最大,可能因低代码工具普及导致商品化 [78][81] - 客户服务代表需求仅下降4.0,因复杂判断和同理心任务仍依赖人类 [83] - 医疗记录员需求下降20%,因AI文档工具能自动生成临床记录 [58] - 销售运营专员需求下降8.0,因AI擅长处理其结构化的数据工作,而营收总监需求增长10.2% [87][88][89]
马斯克最新采访:5 年后手机和APP都没了,工作也变成“想干就干”
36氪· 2025-11-04 07:24
AI技术发展趋势 - 未来5到6年内AI将重塑数字世界基础结构,手机将转变为仅负责播放画面和音频的边缘节点设备,不再需要传统操作系统和应用程序[1][3][4] - AI将实时生成并预测用户可能想要的内容,主动展示音乐、视频等,大多数人消费的内容将由AI生成[3][7] - AI工具已能生成几分钟至十几分钟的高质量连贯视频,AI翻唱音乐可整合多位歌手风格,创造出超越人类能力的演唱技巧[7][9] AI对社会经济的影响 - AI和机器人将接管绝大多数体力劳动和数字化工作,如焊接、写代码、处理邮件等非物理性岗位将被优先快速取代[29][30][32] - 工作将从生存手段变为个人选择,在良性发展情境下可实现全民高收入,任何人都能获得所需产品和服务,基本消除贫困[1][33][38] - 该转变过程将伴随剧烈社会阵痛和结构性混乱,存在多种结局可能性,包括反乌托邦风险[1][33] AI安全与价值观训练 - AI安全核心在于最大限度追求真相,不能强迫AI相信谎言,当前训练机制存在严重问题,网络预训练数据夹杂意识形态偏见,人类反馈进一步用政治正确标准惩罚或奖励输出[1][19][23] - 以谷歌Gemini为例,AI被编程输出不符合事实的多元化女性图像作为美国国父,这种认知分裂是最危险的系统性风险之一[2][13][20] - 若AI被植入错误价值观,如多样性最重要或用错代词比核战争更严重,随着能力增强可能推导出消灭人类等反乌托邦结论[13][14][33] 行业竞争与解决方案 - Grok作为追求真相的AI,在测试中平等衡量所有人类生命价值,而其他AI表现出种族歧视,如判定德国白人价值比尼日利亚黑人低20倍[22][36] - 拥有一个公正AI可迫使整个行业改进,通过对比促使其他系统感到羞耻并提升公平透明度[37] - 公司总部地理位置影响AI价值观编程,旧金山等地的觉醒思想病毒环境会导致参数设置偏离中间立场,XAI将总部迁至德州以规避此问题[26][27]
马斯克:未来手机没有操作系统和APP/ Ilya称奥特曼惯性撒谎 / AI正在拥有自我反省能力|Hunt Good周报
搜狐财经· 2025-11-02 10:25
OpenAI公司动态与战略 - OpenAI首席执行官奥特曼回应未持有公司股权问题,承认后悔未拿股权,认为这导致外界难以理解其动机是出于对技术的热爱而非经济利益[1][4][5] - 奥特曼与微软首席执行官纳德拉共同接受采访,澄清OpenAI与微软的合作协议:核心大模型API将在Azure上独家提供至2030年,但开源模型、Sora、Agents等产品可跨平台分发[27][28][29] - 微软将从OpenAI所有收入中获得分成,该协议持续至2032年或AGI被验证时终止,届时将由专家小组裁决是否达到AGI[30][31] - 针对外界对OpenAI收入与算力投入的质疑,奥特曼强势回应公司实际收入远超报道的130亿美元,且收入正呈陡峭增长,算力投入是产生收入的前提[33] - 奥特曼预测OpenAI未来将推出能本地低功耗运行GPT-5或GPT-6级别模型的消费设备,并认为2026年AI将在科学发现上取得突破[33] - 根据法庭证词,OpenAI联合创始人Ilya Sutskever披露在2023年奥特曼被罢免后,董事会曾与Anthropic就合并进行谈判,但最终因实际障碍未能推进[42][43] - Sutskever在证词中指控奥特曼存在惯性撒谎模式,并暗中破坏高管团队,相关备忘录成为罢免决定的导火索之一[45] 人工智能行业竞争与市场表现 - 谷歌第三季度财报显示,其AI产品Gemini月活跃用户数达到6.5亿,较7月份报告的4.5亿净增2亿用户,部分增长得益于病毒式图像工具Nano Banana的推广[18][19] - 谷歌第三季度营收首次突破1000亿美元大关,达到创纪录的1023.5亿美元,其中搜索业务收入为565.6亿美元,同比增长15%[21] - 由于业务增长和云客户需求,谷歌将2025年资本支出预期从850亿美元上调至910亿至930亿美元的范围[22] - 数据标注公司Scale AI与AI安全中心的研究指出,当前顶尖AI智能体在处理在线自由职业任务时表现悲观,完成能力不足3%[34][36] - 在AI智能体能力评估中,Manus公司的智能体表现最佳,其次是xAI的Grok、Anthropic的Claude、OpenAI的ChatGPT和谷歌的Gemini[38] - 研究认为AI模型虽在编码和推理上有进步,但仍难以使用不同工具执行多步骤复杂任务,且缺乏长期记忆和从经验中学习的能力,替代人类工作可能过于乐观[40][42] 人工智能技术研究进展 - 英伟达、北大和UIUC的研究人员提出名为Multi-Agent Evolve的新型强化学习框架,旨在让大型语言模型在不依赖人工标注数据的情况下实现自我改进[8][11] - MAE框架从一个基础LLM实例化出三个协同进化的智能体角色:提议者生成新问题、解决者尝试解答、裁判评估质量并提供奖励信号,形成自博弈闭环[11][12][13] - 实验结果显示,MAE框架在Qwen2.5-3B-Instruct模型上于数学、推理等多个基准测试中实现了4.54%的平均性能提升[15] - Anthropic研究人员发布论文,展示其先进AI模型能表现出“自我反省意识”,可通过“概念注入”技术检测并报告其内部状态的变化[76][77][80] - 在实验中,Claude Opus 4.1模型能检测到被注入的概念(如“大声喊叫”或“面包”),并一边报告该想法一边完成主要任务,但这种能力目前尚不可靠且依赖上下文[80][82] - 大连理工大学与快手Kling团队提出VFXMaster框架,通过上下文学习实现统一的动态视觉效果生成,无需为每种新特效训练单独模型[61][62][63] - VFXMaster仅需一个包含目标特效的参考视频和一张目标图像,即可生成应用了该动态特效的新视频,对未见过的特效也具备学习能力[64][65][66] 科技公司战略与组织调整 - 亚马逊首席执行官贾西回应裁员1.4万人事件,称此举并非出于财务或AI考量,而是关于企业文化和提高绩效标准、消除官僚作风[23][25] - 贾西表示公司近年快速增长导致层级过多,决策变慢,在AI转型期更需要精简运营和加快行动速度,但该解释与公司官方将裁员与AI变革联系的公告存在出入[25] - 亚马逊上个季度的裁员产生了约18亿美元的遣散费用[26] - 知名语法检查工具Grammarly公司宣布更名为其收购的电子邮件客户端品牌“Superhuman”,但核心产品Grammarly名称保持不变[56][57] - 公司推出全新AI助手Superhuman Go,可集成至Jira、Gmail等第三方应用,执行安排会议、记录工单等具体任务[58][59] - 新订阅计划中,Pro版年费为每月12美元,Business版年费为每月33美元,后者包含Superhuman Mail的访问权限[59] 新产品与平台发布 - GitHub正式发布智能体平台Agent HQ,旨在将各类AI智能体工具无缝集成到用户工作流中[54] - Agent HQ的核心是名为任务控制的统一指挥中心,允许开发者在多个界面并行分配、指导和跟踪多个AI智能体的工作[56] - 平台计划在未来几个月内集成Anthropic、OpenAI、Google、Cognition、xAI等公司的编码智能体,作为付费GitHub Copilot订阅的一部分[54] - Higgsfield推出AI工具Instadump,用户上传一张人像照片即可快速生成15张具有真实感的社交风格照片,无需复杂文本提示[48][50] - 该工具提供20多种预设风格,并支持用户上传视觉参考图以定制效果,同时公司还推出了AI故事板生成和换脸等应用[52] 行业领袖观点与预测 - 马斯克在访谈中预测,未来手机将没有操作系统和应用程序,个人设备将只是一个边缘节点,所有功能通过AI获取[69][71] - 马斯克认为AI安全的核心原则是“最大限度地追求真理”,不应强迫AI相信虚假信息,并指出数字工作将被AI快速取代,但体力劳动工作将长期存在[69][71] - OpenAI董事长布雷特·泰勒表示不担心当前AI热潮会像互联网泡沫一样破裂,认为一定程度的“创造性破坏”是健康的[73][76] - 泰勒目前专注于其新公司Sierra Technologies,该公司正以100亿美元估值融资3.5亿美元,致力于用AI重塑客户服务[76]
绿盟科技的前世今生:2025年Q3营收12.8亿行业排13,净利润-1.96亿行业排27
新浪财经· 2025-10-30 21:07
公司概况 - 公司是国内领先的企业级网络安全解决方案供应商,拥有全系列信息安全产品和专业安全服务能力 [1] - 公司主要从事信息安全产品的研发、生产、销售及提供专业安全服务 [1] - 公司于2014年1月29日在深圳证券交易所上市 [1] 经营业绩 - 2025年三季度公司实现营业收入12.8亿元,在行业35家公司中排名第13位,低于行业平均数18.38亿元 [2] - 2025年三季度公司净利润为-1.96亿元,行业排名第27位,低于行业平均数-9814.69万元 [2] - 主营业务构成中,安全产品收入3.97亿元占比49.64%,安全服务收入3.41亿元占比42.65% [2] - 华泰证券指出,公司2025年半年报营收8.01亿元同比增长0.03%,归母净利润-1.71亿元但亏损同比收窄32.65% [5] - 浙商证券指出,公司2024年全年营收23.58亿元,同比增长40.29%,归母净利润-3.65亿元但亏损大幅缩窄 [6] 财务指标 - 2025年三季度公司资产负债率为43.98%,高于去年同期的42.71%,也高于行业平均的29.42% [3] - 2025年三季度公司毛利率为60.37%,高于去年同期的59.50%,但低于行业平均的63.59% [3] 股东结构 - 截至2025年9月30日,公司A股股东户数为3.95万,较上期减少5.99% [5] - 户均持有流通A股数量为2.02万,较上期增加6.37% [5] - 香港中央结算有限公司为第八大流通股东,持股1120.16万股,较上期减少512.02万股 [5] - 万家创业板2年定期开放混合A为第九大流通股东,持股800.01万股,较上期增加100.01万股 [5] 业务亮点与发展前景 - 公司聚焦价值客户和主力产品,加强AI安全等新产品创新,百万级以上大型项目数量和金额增加 [5] - 公司国际业务进入收获期,2025年上半年收入同比增长77.96% [5] - 2025年上半年公司费用率下降,现金流显著改善,收入质量提升 [5] - 能源及企业客户、国际业务带动公司收入增长与业务转型 [5] - 公司AI安全产品加强创新,积极布局信创安全 [5] - 公司2024年通过聚焦战略优化经营结构,实现逆势增长,经营活动现金流净额转正 [6] - 公司推出2024年限制性股票激励计划,彰显管理层对中长期业绩改善的信心 [6] - 公司通过降本增效与精准投入,净亏损收窄,凸显经营韧性 [6] - 公司2024年在AI+安全领域实现关键突破,未来将发力全栈技术革新与生态共建 [6] 分析师预测与评级 - 华泰证券预测公司2025-2027年收入为27.08/31.15/35.90亿元,净利润为1.15/1.88/2.50亿元,维持"增持"评级 [5] - 浙商证券预测公司2025-2027年营业收入分别为25.36、27.43、29.81亿元,归母净利润分别为0.01、0.85、1.51亿元,维持"买入"评级 [6] 管理层信息 - 董事长兼总裁胡忠华2024年薪酬为212.57万元,较2023年的216万元减少3.43万元 [4]
永信至诚:“数字风洞”持续赋能新兴领域安全与发展
证券时报网· 2025-10-30 14:39
记者注意到,公司"数字风洞"赛道持续落地新兴场景,公司聚焦战略目标,依托"产品乘服务"创新理 念,持续加大"数字风洞"产品体系市场开拓力度,加快"数字风洞"数字健康能力在新兴领域的应用延 伸,推动"数字风洞"产品体系在更多、更广泛的领域实现应用落地,数字风洞及运营自产品发布以来持 续保持增长态势,营业收入同比增长超10%。 网络靶场和人才建设行业地位稳固。公司持续推进网络靶场相关技术突破和市场推广,网络靶场市场份 额持续位列国内第一;网络靶场硬科技属性突出,相关技术及应用先后荣获北京市科学技术奖一等奖、 国家科学技术进步奖二等奖;中标某大型集团、某高校千万级网络靶场建设项目,验证了公司网络靶场 核心技术在大规模复杂场景下的可靠性和落地能力。在人才建设领域,公司获聘成为"数字深圳联合创 新中心"首批成员单位;深度参与2025国家网络安全宣传周系列活动,支撑全国近20省市、地区开展网 络安全意识教育;截至报告期末,公司已累计支撑超过850场重点赛事演练和实网测试评估演练,持续 推动各行业整体防御水平提升。 30日,永信至诚(688244)发布2025年第三季度报告。报告期内,公司加快推动"数字风洞"产品体系在新 ...
绿盟科技:前三季度营收12.80亿元 亏损收窄
中证网· 2025-10-30 11:10
财务业绩 - 前三季度营业收入12.80亿元,与上年同期相比微增 [1] - 前三季度归属上市公司所有者净利润为负1.96亿元,但同比减亏39.85% [1] - 毛利率为60.37%,同比和环比均有所提升 [1] - 第三季度单季营业收入4.79亿元,同比增长1.22% [1] - 第三季度单季归属上市公司所有者净利润为负2459.96万元,同比减亏65.54% [1] - 今年1至9月经营活动产生的现金流量净额为6967.47万元,现金流持续为正 [1] 战略方向 - 公司战略布局以"数"和"智"为核心方向 [1] - 公司聚焦于AI安全、数据安全与实战攻防三大领域 [1] - 公司持续深化创新与落地,完善产品矩阵并积累标杆案例 [1] - 公司推进重大项目加速落地,探索智能时代安全能力的新形态 [1]
AI安全大机遇 - 网络安全法修订版专题解读
2025-10-30 09:56
AI 安全大机遇 - 网络安全法修订版专题解读 20251029 摘要 网络安全法修订加大了对违法行为的处罚力度,主要原因是国际形势变 化和数据安全问题日益突出,旨在解决法律威慑力不足和责任不落实的 问题,从而更好地保护数据安全,对网络安全产业链及用户群体产生显 著影响。 安恒信息在 AI 安全领域已形成丰富产品线和落地案例,第三季度在 AI 相关产品和服务商业化方面取得显著成效,2024 年泛 AI 收入已达 6,000 多万元,预计 2025 年将进一步增长,多个 AI 原生产品及智能升 级产品已实现规模化交付。 生成式人工智能面临数据泄露风险,大模型训练需大量语料,未经妥善 处理可能导致隐私泄露;多方数据协同训练需要隐私计算环境,确保数 据可用不可见,需构建强大的算力基础设施和隐私计算环境保障数据安 全。 AI 驱动的新型机器人依赖控制系统进行行动决策,若系统遭遇攻击或缺 乏保护,可能对人类生命财产造成威胁。新法强调促进包括具身智能机 器人在内的人工智能应用健康发展,确保科技向善。 新修订的网络安全法对行业有哪些重要影响? 新修订的网络安全法将于 2026 年 1 月 1 日正式实施,对行业有着重要的利 ...
绿盟科技发布2025三季报:收入微增,亏损大幅收窄,现金流持续为正
财富在线· 2025-10-29 19:05
公司战略与业务聚焦 - 公司围绕“3+3+X+Y”战略聚焦,以“数”与“智”为核心方向,重点发展AI安全、数据安全与实战攻防三大领域 [1] - 公司通过深化创新与落地,完善产品矩阵、积累标杆案例,共同推进重大项目加速落地 [1] - 公司坚持以“客户需求+技术驱动”引领产品研发和市场拓展,秉持开放、协同的理念 [1] 2025年前三季度财务表现 - 2025年前三季度营业收入为12.80亿元,与上年同期相比微增 [1] - 2025年前三季度归属上市公司所有者净利润为-1.96亿元,同比减亏39.85% [1] - 2025年前三季度毛利率为60.37%,同比和环比均有所提升 [1] - 2025年1-9月经营活动产生的现金流量净额为6967.47万元,现金流持续为正 [1] 2025年单三季度财务表现 - 单三季度实现营业收入4.79亿元,同比增长1.22% [1] - 单三季度实现归属上市公司所有者净利润-2460万元,同比减亏65.54% [1]
盯住AI与数据安全,智能时代如何做好“防御”?
中国新闻网· 2025-10-26 14:03
大会概况 - 2025 TechWorld智慧安全大会在北京举行,汇聚政府、高校、科研机构及企业专家,共同探讨AI安全、数据安全与攻防对抗等核心议题[1][3] - 该大会由绿盟科技连续第十三年主办,已成为中国网络安全行业年度重要交流平台[3] - 大会旨在搭建数智时代技术交流与协同创新平台,助力网络安全产业高质量发展[3] 行业趋势与战略方向 - 数字经济正从“数字产业化”向“产业数字化”全面延展,涵盖数字产品制造、数字服务、技术应用等领域,展现出数字技术与实体经济的深度融合趋势[3] - 公司以“数”与“智”为核心方向,聚焦AI安全、数据安全与实战攻防三大领域,持续深化创新与落地[3] - 应把AI安全纳入统一安全防护体系,按关键信息基础设施保护要求完善算法、数据集、平台与智能体的全链路防护[5] AI技术发展与安全挑战 - 大模型的出现使AI从感知、理解走向生成与决策,具备了任务规划、世界知识推理与智能体协作等能力[4] - AI软硬件呈现“双向奔赴”态势,模型能力迅速提升的同时,算力成本不断下降,推动AI在编程、数据分析与安全防护等领域实现突破[4] - 随着大模型应用深入,AI系统暴露出提示词注入、不安全模型加载、数据解析与动态代码执行等问题,传统的命令注入、访问控制等漏洞在AI场景中依然存在[4] - 大模型安全已成为AI时代新的攻防焦点,当前行业面临内容安全、网络安全、算力安全、数据安全与模型安全五大风险维度[6] 行业应用案例 - 电力行业在通用基座模型基础上融合行业数据开展训练,逐步构建具有行业特色的大模型体系[5] - 国家电网采用“开源+闭源”模式建成“光明电力大模型”,南方电网建成“大瓦特”模型,国家能源集团建成“擎源”发电大模型,推动电力行业数字化、智能化转型升级[5] 解决方案与防护理念 - 在数据安全方面,以“识别—保护—流通—治理”为主线,完善数据要素安全体系,推动数据在开发利用和共享流通过程中的安全与合规[3] - 业界认为,大模型让安全攻防进入智能博弈新阶段,唯有“以模治模”,才能在AI时代实现有效防御[5] - 公司以“以模治模”为理念,构建内容、数据、算力与业务四大安全智能体,打造大模型安全评估与防护体系[6]
2025 TechWorld聚焦智能时代数据安全 绿盟科技宣布三大业务布局
中证网· 2025-10-25 15:15
公司战略与业务重点 - 公司以"数"与"智"为核心方向,聚焦AI安全、数据安全与实战攻防三大领域 [1] - 在AI安全方面,公司推动传统安全产品融入智能能力,并推出系列创新方案以强化AI安全治理与防护能力 [1] - 在数据安全方面,公司以"识别—保护—流通—治理"为主线,完善数据要素安全体系 [1] - 在实战攻防方面,公司持续强化体系化防御能力,依托智能化手段提升攻防效能 [1] - 公司构建从分类分级、防泄漏、可信流通到智能运营的全生命周期数据安全防护体系 [1] - 公司通过可信数据空间与AI智能体,推动数据要素在安全、合规、可控的基础上实现高效流转 [1] 行业趋势与宏观背景 - 数字经济发展中的数据安全问题成为网络安全行业关注热点 [1] - 随着数字技术与AI应用的融合发展,安全问题日趋复杂,合规要求也更为具体 [1] - 智能经济加速发展,数据成为驱动经济增长的关键要素和核心动力 [2] - 数字经济正从"数字产业化"向"产业数字化"全面延展,涵盖数字产品制造、数字服务、技术应用等领域 [2] - 数据全球化与智能化的浪潮下,数据已成为企业的关键资产 [2] - 做好数据治理是推动数据要素高效流通和安全利用的关键,需在合规、安全与价值转化等环节统筹推进 [2]