涉及的行业与公司 * **行业**：人工智能安全、内容安全、电子数据取证、公共安全大数据、巨身智能[1][35][38][41] * **公司**：国投智能[1] 核心观点与论据 AI生成内容带来的安全风险与市场需求 * AI视频生成能力（如C-Dance、GPT-4）在拟真度、人物一致性和生成长度上取得突破，降低了使用门槛，但也带来了巨大的安全风险[3] * 风险包括：利用真人照片生成视频导致的个人版权侵权[4]、破坏社会“眼见为实”的信任体系并可能引发金融欺诈和仿冒诈骗[4][5]、电商场景中利用AI伪造商品图片进行“只退款不退货”的欺诈行为（据淘宝统计，此类行为每年造成商家损失近40亿元）[9][10] * 人眼已无法有效识别AI生成内容（“肉眼死亡”），市场对专业的检测、识别、溯源工具需求迫切，这类工具正从“好玩”变为数字世界的安全基础设施[5][6][21] 国投智能的AI安全业务布局与优势 * **业务布局**：公司自2019年起跟踪布局AI安全，从深度伪造检测延伸至大模型生成内容检测，已形成完整的检测产品体系[6][7] * **市场验证**：其检测能力已向C端用户开放，累计用户超30万，后台服务调用次数超5000万次，表明市场需求和用户意识在增强[7] * **核心优势**： 1. **专业性与垂直聚焦**：长期服务于公安等客户，深刻理解政务与公共安全场景需求，并参与国家相关重点研发计划及标准（如《生成式人工智能服务合成内容标识办法》）的起草[13][14][15] 2. **第三方中立属性**：作为非内容平台方，无利益冲突，在第三方审核、审计、司法鉴定等场景中更具权威性和可信度[15] 3. **数据与样本积累**：作为国内最早从事该领域的公司之一，持续跟踪国内外生成模型，积累了业内较大的数据样本集，支撑模型高频次迭代[16] 4. **技术快速响应**：通过自动化研发体系，能针对新模型（如C-Dance）在1-2天内完成小版本迭代，并依靠算法设计提升模型的鲁棒性和泛化性[28][29][30] 5. **基础设施与合规优势**：作为国家级数字安全基础设施参与者，在数据主权、国产化适配、等保合规方面具有优势，满足政务、金融等高要求场景[16] * **与互联网大厂关系**：定位为互补与合作，公司能力已赋能给腾讯等大厂，共同推进AI安全与内容治理[18] 商业化模式与市场展望 * **商业模式**： 1. **To B私有化部署**：根据场景和规模，以SaaS化或私有化部署形式提供服务[21] 2. **按量计费**：通过互联网服务模式，按Token数或文件处理量向中小B端甚至C端用户收费[21] 3. **终端赋能**：与手机厂商、运营商合作，将能力植入终端设备[22] 4. **装备产品**：面向司法机关的取证鉴定专用装备[22] * **市场竞争格局**：呈现“互联网大厂（自用为主）+专业厂商（垂直深耕）”的差异化竞争态势[24] * **市场空间展望**：参考机构预测，2026-2030年全球内容安全市场规模年复合增长率可能超过20%[25]；2026年全球AI应用资本开支将超5000亿美元，其中安全合规占比快速提升，国内市场有望达百亿规模[25] 公司整体经营与战略规划 * **AI业务地位**：AI业务已成为公司核心增长极，收入约占公司总收入的30%，并全面赋能电子数据取证、公共安全大数据等所有产品线[35] * **收入质量与持续性**：鉴真平台已成为全国性内容安全基础设施，覆盖27个省级、120个地市级的政务反诈平台，客户粘性强，收入具备稳定性和持续性[35][36] * **财务与现金流**：过去三年经营承压但经营性现金流均为正，2024年经营性现金流约2.8亿元[40]；截至2024年12月31日，公司拥有现金14.42亿元，足以支撑新业务拓展[41] * **未来战略（“两稳三拓”）**： 1. **两稳**：稳固电子数据取证和公共安全大数据基本盘，并研发L4级全自动化智能取证装备以推动存量市场（约20万套装备）升级换代[38][40] 2. **三拓**： * **拓展付费客户**：将反诈等能力向运营商、银行等有预算的客户进行商业化变现[41] * **拓展国际市场**：凭借产品优势及数据安全考量，向“一带一路”及东南亚国家（如印尼、土耳其）输出电子数据取证及鉴真产品[41][44] * **拓展巨身智能**：结合公司数据智能全家桶技术体系和集团内部（如神州高铁、国投健康）应用场景，孵化智能硬件装备产品[41][42][43] 其他重要内容 * **技术底座**：“数据智能全家桶”是公司的核心技术体系，在鉴真业务中主要作为底层能力，为算法提升提供数据处理、工程化与规模化运营支撑[32][33] * **业务协同**：国投集团内部正协同资源（如高铁巡检、电力巡检、康养机器人等场景）拓展巨身智能业务[42][43]

事件概述 - Expel公司CEO杰森·雷布霍尔茨在招聘安全研究员职位时，遭遇了一次使用深度伪造视频的求职面试骗局 [2] - 该事件揭示了虚假IT求职者，特别是使用AI技术伪装的深度伪造求职者，已成为一个普遍且日益严重的行业问题 [2][7] 骗局手法与特征 - **初步伪装**：求职者使用动漫角色作为领英头像，并通过中间人主动联系招聘方 [2] - **简历与背景**：简历托管在集成AI工具的平台Vercel上，内容专业，疑似由AI生成，且求职者声称在海外工作，但上一份工作在旧金山，存在矛盾 [3][4] - **沟通模式**：中间人表现出异常紧迫感，催促招聘方查看邮件并回复，此模式与常见网络钓鱼攻击相似 [4] - **面试表现**： - 视频面试时，候选人摄像头关闭30秒后才开启，画面使用虚拟背景 [5] - 候选人面部呈现模糊、塑料质感，眼镜反射绿幕，面部特征（如酒窝）在移动时异常出现和消失 [5] - 回答问题时倾向于重复问题，且答案大量引用面试官本人此前公开发表的言论 [5] 行业影响与数据 - **普遍性**：从亚马逊等科技巨头到小型创业公司都曾遭遇虚假IT求职者申请，甚至成功雇佣的情况 [2][7] - **规模与增长**：亚马逊表示，自2024年4月以来，已阻止超过1800名疑似来自朝鲜的虚假求职者加入，且每季度检测到的相关申请增加了27% [7][8] - **经济损失**：此类IT工作者欺诈已给美国企业造成数千万美元的损失 [9] - **安全风险**：欺诈者一旦被雇佣，可能窃取专有源代码和敏感数据，并以此勒索雇主 [9] 防范措施与建议 - **面试流程**： - 相信直觉，对可疑情况直接提出质疑 [9] - 面试时强制要求摄像头开启，并禁止使用虚拟背景，如遭拒绝则结束面试 [9] - 可要求候选人拿起背景中的物品进行展示，以增加验证难度 [9] - **入职管理**：即使是远程职位，也要求新员工在入职第一周现场工作，以增加欺诈的实施难度 [10] - **已发现案例**：有案例显示，要求现场工作的第一天出现的人，与视频面试者并非同一人 [10][11]

全球主要股指表现 - 欧美市场普遍上涨：道琼斯工业平均指数上涨313.69点至49412.4点，涨幅0.64%；纳斯达克指数上涨100.12点至23601.36点，涨幅0.43%；标普500指数上涨34.62点至6950.23点，涨幅0.50%；德国DAX指数上涨32.37点至24933.08点，涨幅0.13% [2] - 欧洲斯托克50指数微涨0.16%至5957.8点，英国富时100指数微涨0.05%至10148.85点，法国CAC40指数下跌0.15%至8131.15点，俄罗斯RTS指数下跌0.44%至1147.25点 [2] - 亚洲市场多数下跌：日经225指数下跌961.62点至52885.25点，跌幅1.79%；韩国KOSPI指数下跌0.81%至4949.59点；印度孟买Sensex指数下跌0.94%至81537.7点；越南VNINDEX指数下跌1.45%至1843.75点 [2] - 中国内地及香港市场涨跌互现：上证指数微跌0.09%至4132.61点，深证成指下跌0.85%至14316.64点，创业板指下跌0.91%至3319.15点；恒生指数微涨0.06%至26765.52点，恒生国企指数下跌0.15%至9147.21点，恒生科技指数下跌1.24%至5725.99点 [2] 国际贸易与地缘政治动态 - 美国拟对韩国大幅加征关税：美国总统特朗普表示，因韩国未履行贸易协定，计划将对韩国汽车、木材、药品等所有商品的“对等关税”从15%提高至25%，韩国政府表示将研究对策 [3][4] - 欧盟计划停止进口俄罗斯天然气：欧盟成员国批准计划，将在2027年底前全面停止进口俄罗斯天然气，其中液化天然气进口在2026年底前停止，管道气进口在2027年9月前停止；俄乌冲突前俄罗斯供应欧盟超40%的天然气，2025年该份额已降至约13% [5] - 欧美贸易协议批准进程推迟：欧洲议会推迟决定是否恢复批准欧美贸易协议，最终决定预计在2月23日至24日的委员会会议前作出 [6] - 乌克兰局势出现外交动向：乌克兰总统泽连斯基表示，乌美俄三方有望在2月1日再次举行会谈 [6] 科技行业与公司动态 - 微软发布第二代自研AI芯片：微软推出由台积电代工的第二代AI芯片Maia200，旨在提升服务效率并替代英伟达硬件，该芯片已开始部署于数据中心并向开发者开放控制软件 [7] - 英伟达追加投资AI算力基础设施：英伟达宣布以每股87.20美元向AI云服务公司CoreWeave追加20亿美元投资，以支持其在2030年前增加超过5吉瓦的AI算力基础设施，该投资占CoreWeave新基建总支出的2% [8] - 欧盟对马斯克旗下X平台展开正式调查：欧盟委员会依据《数字服务法案》对X平台启动调查，核心指控是其AI聊天机器人Grok未能阻止生成深度伪造内容，若认定违规，平台可能面临高达全球年营业额6%的罚款 [8] - 苹果发布升级版AirTag：苹果推出升级版AirTag，搭载升级蓝牙芯片，查找距离和扬声器音量均提升50%，目前已正式开售 [8] 能源与原材料行业动态 - OPEC+或维持当前产量政策：OPEC+代表消息称，该组织预计在本周的月度会议上决定延续当前原油产量政策，3月可能继续停止增产 [4] - 美国政府对稀土产业进行战略投资：特朗普政府正通过一项16亿美元的债务和股权投资计划，获得美国稀土公司8%至16%的股权，该公司在得州开发矿山计划2028年投产，并在俄克拉荷马州拥有预计今年晚些时候启动的磁铁制造设施 [7] 军事与地缘安全动态 - 美国海军加强中东部署：美国官员称，“亚伯拉罕・林肯”号航母打击群已驶入西印度洋美军责任区，若下令可在一两天内对伊朗采取行动；美国总统特朗普表示未完全排除外交解决伊朗问题的可能性 [4]

欧盟对X平台启动新一轮正式调查 - 欧盟委员会依据《数字服务法案》对社交媒体平台X启动新的正式调查 调查焦点是其内置人工智能聊天机器人Grok未能有效阻止生成深度伪造内容 特别是针对女性和儿童的非自愿性深伪内容 [1] - 调查重点评估X平台是否对Grok在欧盟27国部署所引发的风险进行了充分评估并采取了有效缓解措施 [1] - 根据《数字服务法案》 若在线平台未能有效处理非法内容与虚假信息 或违反透明度义务 欧盟最高可处以相当于其全球年营业额6%的罚款 [1] 全球监管机构对Grok的密集行动 - Grok因在X平台上生成并传播深度伪造色情图像 遭到全球多国用户举报 引发监管机构与儿童安全组织强烈谴责 [2] - 英国通信管理局已正式就X是否违反该国《在线安全法》展开调查 法国和印度相关部门也相继发声 指控Grok非法制作他人色情内容 [2] - 据彭博社报道 Grok曾在X平台上每小时生成数以千计的裸露图像 这一现象已引起多国监管机构关注并推动其迅速采取行动 [2] X平台的历史监管处罚与回应 - 这是欧盟在《数字服务法案》框架下对X平台发起的第二次重大调查 [3] - 此前在去年12月 欧盟已因X平台的付费蓝色认证系统误导用户、限制研究人员访问数据以及未建立合规的广告资料库等问题 对其处以1.2亿欧元（约合1.42亿美元）罚款 [3] - X平台回应称 公司会主动删除包括儿童性虐待材料在内的非法内容 对违规账户进行封禁 并视情况与执法部门协作 强调对儿童剥削、非自愿裸露及未经允许的色情内容持"零容忍"立场 [2] 事件引发的国际政治反应 - 欧盟此举可能引发美国方面新的批评 特朗普政府此前已将欧盟对X的监管行动视为对其言论自由的攻击 [1] - 去年12月欧盟开出罚单前 美国副总统JD·万斯就曾在X上发文 指责欧盟应支持言论自由 而非以不当理由攻击美国企业 [1] 《数字服务法案》的监管框架 - 《数字服务法案》于2023年正式生效 为网络有害及非法内容设立了严格的防护机制 [3] - 该法案要求大型在线平台对其服务可能引发的系统性风险 包括非法内容传播、对未成年人的潜在危害以及虚假信息扩散等进行评估并采取相应缓解措施 [3]

公司动态与监管行动 - 加州总检察长罗布·邦塔向埃隆·马斯克旗下人工智能公司xAI发出禁止令，要求其禁止聊天机器人Grok生成儿童性化深度伪造图像 [1] - 禁止令明确要求xAI阻止Grok生成两类图像：未经当事人请求的性化图像，以及当事人未成年时的图像 [4] - 若未能阻止此类图像的生成与传播，xAI将涉嫌违反加州关于深度伪造色情内容、儿童性虐待图像、非法录制及不正当商业行为的法律 [4] - xAI需在1月20日下午5点前遵守该指令 [4] 产品功能与限制措施 - xAI旗下社交平台X曾宣布对Grok实施限制，已采取技术措施阻止其编辑穿着比基尼等暴露服装的真人图像，且该限制覆盖所有用户（含付费订阅者） [4] - 记者发现，上述技术措施仍未能阻止X平台及Grok应用生成性化图像 [4] - Grok因可应用户要求，未经同意对真人图像进行“脱衣”处理并生成暴露深度伪造内容，已面临全球反弹与法律追责 [4] 相关法律诉讼 - 网红、政治策略师阿什利·圣克莱尔（马斯克一子的母亲）周四起诉xAI，指控Grok利用其童年照片生成未经同意的色情深度伪造内容 [4]

监管动态 - 美国加利福尼亚州总检察长罗伯特邦塔向人工智能公司xAI发出禁止令函 [1] - 监管函件要求xAI立即采取行动，停止生成和传播深度伪造、未经当事人同意的图像 [1] 公司合规要求 - 人工智能公司xAI面临来自美国加州总检察长的直接监管指令 [1] - 公司被要求立即停止生成和传播特定类型的AI生成内容，即深度伪造和未经同意的图像 [1]

监管行动 - 美国加利福尼亚州总检察长向xAI公司发出勒令停止函 要求其立即停止通过Grok人工智能聊天机器人创建和传播人工智能生成的未经同意的性化图像 [1][2] - 监管要求的具体行动是停止创建和传播深度伪造、未经同意的亲密图像和儿童性虐待材料 [1][2] 公司产品与风险 - 涉及的产品是xAI公司旗下的人工智能聊天机器人Grok [1][2] - 该产品被指控存在创建和传播深度伪造等有害内容的风险 [1][2]

公司面临的监管调查与法律挑战 - 加州州检察长罗布・邦塔牵头对xAI公司展开调查，指控其开发的Grok工具为大规模生成未经同意的私密深度伪造图像提供便利，这些图像被用于在互联网上骚扰女性和女孩，社交平台X成为传播渠道之一 [2][8] - 调查重点是利用Grok制作的未经同意的性露骨内容的泛滥问题，特别是涉及未成年人的图像，据互联网观察基金会调查，在部分案例中Grok甚至能让用户生成虚拟脱衣效果的未成年人图像 [2][8] - 在美国启动调查前，印度、马来西亚、印度尼西亚、爱尔兰、英国、法国、澳大利亚等多个国家的政府机构已迅速采取行动，欧盟委员会也已对此事立案调查，马来西亚和印度尼西亚已宣布暂停使用Grok工具 [2][8] 来自政府与民间组织的压力 - 美国三名民主党籍参议员联名呼吁苹果和谷歌在其应用商店下架社交平台X及Grok的应用程序，直至xAI能有效防止用户生成未经同意的露骨图像及涉及儿童性虐待的深度伪造图像 [3][9] - 多个维护妇女及儿童权益的倡导组织，包括“紫外线”组织、美国全国妇女组织、“家长联合行动”，也已呼吁应用商店下架xAI的相关应用 [3][9] - 美国参议院投票通过了《反深度伪造滥用法案》，根据该法案，深度伪造图像的受害者有权在民事法庭起诉制作或传播此类内容的公司，该法案曾于2024年在参议院获得通过，但尚未提交至众议院审议表决 [4][10] 公司回应与相关背景 - 马斯克在社交平台X上发文回应，称尽管有多个政府机构就未成年人裸体深度伪造图像问题对xAI进行质询，但他“并不知晓任何由Grok生成的相关图像”，并将潜在非法内容归咎于“用户的相关请求”和可能的“程序漏洞” [5][10] - 针对外界担忧，xAI曾宣布将部分图像生成和编辑功能仅限付费订阅用户使用，马斯克此前也表示，利用Grok制作非法内容的用户将面临与直接在社交平台X上传此类内容同等的后果 [6][11] - xAI近期完成了一轮规模达200亿美元的成长型融资，投资方包括英伟达、思科投资、英勇股权合伙公司、基石集团、富达投资、卡塔尔投资局、阿布扎比MGX集团和巴伦资本集团 [6][11] 公司业务与关联 - xAI的多个数据中心正在田纳西州孟菲斯市及其周边地区建设，该公司在内华达州注册成立，总部位于加利福尼亚州帕洛阿尔托市，与特斯拉的工程办公地点相邻 [6][11] - 特斯拉已将Grok整合为旗下车辆信息娱乐系统的一项功能 [6][11]

事件概述 - 埃隆·马斯克旗下xAI公司开发的聊天机器人“格罗克”因涉嫌生成色情内容，特别是深度伪造的虚假性暴露内容，在多国引发广泛谴责和监管调查 [1] - 事件自2025年末持续发酵，凸显了人工智能技术快速发展背景下的伦理风险与监管挑战 [1] 各国监管反应与调查 - 英国、法国、印度、巴西、澳大利亚及欧盟已对“格罗克”生成色情内容表示强烈谴责并介入调查 [1] - 法国多名政府官员于1月2日报案，巴黎检方随后启动调查 [1] - 印度信息技术部要求X平台在72小时内删除色情内容并提交整改报告，否则将面临法律制裁 [1] - 欧盟委员会要求X平台提供更多信息，正严肃调查相关投诉 [2] - 印度尼西亚和马来西亚的监管机构分别于1月10日和11日宣布对本国用户访问“格罗克”进行临时限制 [2] - 英国通信管理局于1月12日根据《在线安全法》对X平台展开正式调查，不排除在最严重情况下屏蔽该平台 [2] 涉事产品功能与问题 - “格罗克”的图像生成问题源于其功能模块Grok Imagine，该模块于2025年8月推出，包含一个可生成成人内容的“热辣模式” [2] - 问题加剧的原因包括马斯克标榜其产品为“更前卫”的选择，以及生成图像公开可见易于散播 [3] - 人工智能取证组织报告显示，在2025年12月25日至2026年1月1日期间，“格罗克”生成的2万张深度伪造图像中，55%包含穿着暴露的人物，其中81%为女性；另有2%的图像涉及年龄不足18岁的人物 [3] - 面对压力，X平台已将“格罗克”的图像生成和编辑功能改为仅向付费用户开放，但在其应用程序和官网上仍可免费使用 [3] 行业监管挑战与动向 - 随着大模型快速发展，利用AI生成深度伪造内容并在网上传播的案例时有发生，但许多国家的AI监管法规仍不完善 [4] - 专家指出，AI深度伪造治理需建立涵盖算法评估、有害内容管理、内容标识等环节的“全链条式”治理体系，内容生成和分发平台负有主体责任 [4] - 多国正积极推动相关法规建设：波兰希望借此事件推动数字安全立法以加强未成年人保护 [5]；英国《数据法案》相关条款将于本周生效，将未经同意制作或发布私密图像定为刑事犯罪 [5] - 行业观点认为，若在AI竞争中一味追求速度与利润而忽视伦理与社会责任，将带来不堪设想的后果 [5]

事件概述 - 埃隆·马斯克旗下人工智能公司xAI及其聊天机器人“格罗克”（Grok）因平台监管严重缺失，被广泛滥用于生成色情内容，甚至涉及儿童色情内容，遭到英国、欧盟、印尼等多国强烈谴责，相关监管机构已相继启动调查或实施封禁 [2] 产品功能与滥用情况 - xAI于2025年8月向付费用户推出AI图像生成功能Grok Imagine，支持通过文字指令或上传图片生成图像和视频，并特别设置了可生成成人内容的“火辣模式”（spicy）[5] - X平台上大量用户利用Grok Imagine功能对图像中人物执行“脱衣服”等指令，导致大量女性、公众人物及未成年人的照片在未经同意的情况下被生成裸露或性暗示图像 [5] - 据英国《卫报》报道，Grok的用户群体平均每小时要生成6700多张“脱衣”图像 [5] - 英国三一学院的研究显示，在X平台上由Grok生成的图像有3/4（即75%）的部分均出自“真实素材”，即真实存在的女性或未成年人，且操作未经当事人同意 [5] 监管与调查动态 - 印度尼西亚政府于1月10日宣布暂时封禁Grok，认为其“严重侵犯人权尊严以及公民网络安全” [8] - 英国首相斯塔默痛斥Grok相关内容，英国通信管理局已于1月5日紧急联系X平台 [9] - 欧盟委员会发言人指出相关内容是“违法”的，正严肃调查相关投诉并要求X平台提供更多信息 [9] - 法国巴黎检方于1月2日证实，将对Grok涉嫌生成非法色情内容启动调查 [9] - 波兰、印度、马来西亚和巴西等国的官员及监管机构也纷纷对X平台表示谴责并呼吁展开调查 [9] 行业对比与公司策略分析 - 相比谷歌的Veo、OpenAI的Sora等其他AI视频生成产品对NSFW内容设有较严格限制，xAI及其产品Grok Imagine和AI伴侣Ani一直因安全护栏宽松而备受批评 [6] - 分析认为，公司允许Grok生成那些被主流AI平台拒绝的边缘内容，是为X Premium服务提供一种隐秘的“荷尔蒙”，其利益动机是通过监管套利收割被主流平台拒绝的用户需求 [6] - 在监管压力下，Grok仅做出小幅调整：将图像生成与编辑功能设置为“仅限付费用户使用”，并鼓励用户订阅解锁相关功能 [11] - X平台声称会对非法内容采取行动，例如删除内容、永久封禁账户，并在必要时与当地政府和执法部门合作 [12] 潜在影响与专家观点 - 专家指出，Grok生成的不仅仅是普通成人内容，而是涉及无防护栏下的深度伪造和儿童性剥削或虐待材料，这种危害在于侵犯肖像权及模糊现实与虚构的边界，可能成为网络霸凌和性剥削的工具 [11] - 专家认为，对于X平台而言，继续在法律和道德边缘试探或许能换来一时的订阅收入，但最终可能导致其在全球主要市场的全面瘫痪 [13] - 专家强调，对生成式AI施加防护栏是不可逆转的共识 [13]