Workflow
AI滥用
icon
搜索文档
11月25日投资避雷针:赛微电子、易点天下、中际旭创等人气股遭股东减持
新浪财经· 2025-11-25 08:45
国内经济信息 - 中国纺织品进出口商会数据显示1-10月纺织服装累计出口2439.5亿美元,同比下降1.6%,其中10月单月出口222.6亿美元,同比下降12.6%[1][2] - 上海市网信办开展"AI滥用"专项执法行动,下线违规应用生成式人工智能技术的APP共54款[1][2] 公司股东减持 - 赛微电子第二大股东国家集成电路产业投资基金在9月23日至11月24日期间合计减持公司1.07%股份[1][4] - 易点天下第二大股东宁波众点易企业管理合伙企业在股票异动期间卖出公司股票[1][4] - 无线传媒股东拟合计减持不超过4.70%股份[4][6] - 惠发食品股东惠希平拟减持不超过3%公司股份[4][6] - 东方海洋股东国元基金拟减持不超过3%股份[4][6] - 星辉娱乐股东拟合计减持不超过2.90%公司股份[4][6] - 鸿富瀚控股股东张定武拟减持不超过2.00%股份[4][6] - 中环环保股东金通安益计划减持不超过2.37%股份[4][6] - 华信永道四股东拟合计减持不超过2%股份[4][6] - 中天火箭第七大股东和第八大股东11月24日合计减持125.65万股[4][6] - 欢瑞世纪股东青宥瑞禾在11月12日至24日期间累计卖出0.7399%股份[4][6] - 长江材料第一大股东、实际控制人熊鹰11月21日减持19万股[4][6] - 中际旭创董事、常务副总裁王晓东8月27日至11月24日累计减持70.86万股,减持均价414.24元/股[4][6] 公司重大事项 - ST长园董事长乔文健因涉嫌职务违法被实施留置[4][6] - 华夏幸福有董事对公司预重整相关公告所述事项提出异议[4][6] - 品高股份子公司江原科技尚未实现盈利,未来经营发展和盈利能力存在重大不确定性[4][6] - 大东方拟转让控股孙公司金华联济80%股权及债权,预计减少归属于母公司净利润3425.05万元[4][6] 海外市场 - 摩根大通预测全球石油市场明年将面临每日280万桶过剩,2027年面临每日270万桶过剩,布伦特油价可能在2026年跌破60美元,2027年平均价格降至每桶42美元[1][3] - 德国总理预计美国提出的乌克兰和平计划不会在27日前最终确定[1][2] - 德勤调查显示美国消费者计划在黑五和网一期间比去年减少4%消费支出,密歇根大学消费者信心指数11月达到有记录以来最低水平[3] 股票异动提醒 - 江龙船艇7日涨幅偏离值达到105.95%,已触发严重异动[6] - 中水渔业10日涨幅偏离值达到103.10%,已触发严重异动[6] - 品高股份9日涨幅偏离值达到74.66%,今日涨幅15.08%将触发严重异动[6] 限售股解禁 - 必易微11月26日解禁规模占公司总股本46.02%,预估金额11.64亿元[6] - 赛恩斯11月26日解禁规模占公司总股本33.02%,预估金额14.49亿元[6] - 水发燃气11月28日解禁规模占公司总股本16.45%,预估金额5.05亿元[6]
双十一后AI假图仅退款暴涨,电商信任线被撕裂,平台加码审核能堵住这道口子吗?
搜狐财经· 2025-11-23 16:00
AI造假对电商行业的冲击 - 生成式AI技术大幅降低造假门槛,导致利用AI合成假图片和假视频进行恶意退款的情况激增[3] - 造假手法包括将衣服P出裂口、食物P成变质、蓝莓发霉、水蜜桃变坏果、面包长毛等,甚至出现电池漏液等虚假图片[3] - 电商平台成为AI技术滥用的第一波受害者,买卖双方之间的信任关系受到严重破坏[3] 恶意退款产业链的形成 - 网上出现专业"退货图生成服务",收费288元传授退款窍门,并宣称"专业退款,包过审核"[5] - 部分账号展示"30次成功""获利2000元"的战绩作为宣传招牌[5] - 这种行为已从传统的薅羊毛升级为伪造证据的诈骗,性质发生根本变化[5] 对商家的具体影响 - 商家被迫将经营精力从业务拓展转向防骗措施,增加运营成本[7] - 小件商品因价值低而不值得投入举证、申诉等流程,但商家又不甘心认亏[7] - 夫妻店受影响尤为严重,一单恶意仅退款可能吞掉他们整天的利润,例如去污剂净利仅两三块钱[10] 行业成本与价格传导 - 商家开始将风险成本摊入商品价格,导致所有消费者为少数人的欺诈行为买单[7] - 客服审核流程变得更加繁琐,需要像验钞一样仔细检查图片细节,拖慢真正有质量问题的退款处理[7] - 为防范"穿完就退",有商家在衣服上悬挂A4大小的硬质吊牌,剪掉不能退,不剪无法穿,增加交易摩擦成本[16] 监管与平台应对措施 - 9月1日《人工智能生成合成内容标识办法》正式生效,要求AI生成内容必须标注[12] - 中央网信办开展"清朗·整治AI技术滥用"行动,处置违规AI产品3500余款,清理违法信息近百万条[12] - 淘宝天猫发布账号诚信体系,覆盖异常仅退款、退货掉包、网图/P图等行为,多次违规账号将被限购[12] 技术防范与效果 - 平台升级AI图片识别与多角度视频验证技术,特别是在美妆、小家电等高客单价商品领域[14] - 商家开始使用AI检测工具,要求提供带时间戳的开箱实拍视频[14] - 国内某二手平台2024年上线图片真实性校验系统,两个月内相关投诉量下降62%[14] - 亚马逊要求高价值商品退款提供实时带时间戳视频,到6月此类欺诈下降58%[14] 行业长期挑战与解决方案探讨 - 行业正在讨论更严格的方案,包括AI内容溯源、跨平台联合限制多次违规账号等[16] - 目前存在边界争议问题:未标注AI生成内容如何认定、平台审核责任界限、商家举证成本平衡等[16] - 电商行业靠效率起家,但必须依靠信任才能持续发展[16]
AI伪造冒充泛滥,冲击数字时代信任体系
南方都市报· 2025-11-07 23:00
平台作为AI内容传播的关键枢纽,必须压实主体责任,落实AI内容标识义务,让AI生成内容"自带身份 证",并建立全链条管控机制,对违规账号实施黑名单管理,追溯资金流向并移交执法线索,而非简单 封号了事。还要加大技术研发投入,推广照片视频防伪技术,构建多因素身份认证体系,从源头遏制深 度伪造风险。 "赛博温峥嵘"泛滥让温峥嵘陷入自证困局,维权陷入"封一个、冒一个"的拉锯战。这起看似公众人物专 属的维权困境,实则是AI滥用向整个社会发出的信任危机预警——当技术门槛低至一部手机即可克隆 人脸、合成声音,当"证明我是我"成为数字时代的荒诞命题,AI已从服务工具异化为潜在侵权利器,其 危害正从公众人物蔓延至每一个普通人。 遏制AI滥用、重建信任体系,绝非单一主体能完成,需法律、平台、公众形成闭环治理,让技术回归 服务本质。 法治是治理AI滥用的根本保障。尽管《人工智能生成合成内容标识办法》《深度合成管理规定》等法 规已明确要求AI内容"亮明身份",禁止未经授权使用生物特征信息,但仍需强化法律的刚性约束。一方 面要细化追责条款,对AI伪造、传播侵权内容的行为提高违法成本,形成有效震慑;另一方面要完善 证据规则,降低被侵权者 ...
2025年上半年互联网黑灰产趋势年度总结报告-威胁猎人
搜狐财经· 2025-09-01 18:49
文章核心观点 - 2025年上半年互联网黑灰产攻击持续演化,呈现出更隐蔽、更智能、更产业化的趋势,攻击资源、技术与作案场景全面升级 [8][9] - 黑灰产具备强适应性,在主要交易平台被打击后,其作恶需求会迅速迁移至现有或新兴替代渠道 [2][8] - 企业需依托情报提前防控,构建安全防线,以应对不断演进的威胁 [2][10] 攻击资源分析 - 日均活跃风险IP数量达到1382万,较2024年下半年环比增长15.02% [1][9][62] - “劫持共用代理”IP攻击占比超50%,计费模式趋于多元,供应更稳定 [1][71][74] - 黑卡渠道受监管打击后收缩,新型“链接接码”方式兴起,具备更高隐私性与反溯源能力,2025年上半年已监控146万余条交易记录 [1][9][54] - 洗钱银行卡数量环比上涨28.6%,其中涉赌卡占比70.25%,环比大幅上涨141% [1][9] - 洗钱对公账户数量环比下降40%,黑产目标从六大行转向城商行和农信社 [1][9] - 商户洗钱数量上涨43%,行业集中于终端零售业、批发零售业和餐饮业 [1][9] - 风险手机号新增数量为226万,较2024年下半年环比下降26.16% [14][16] - 拦截卡新增数量达15.5万,较2024年下半年减少83.51% [31] - 临时邮箱占比79.03%,环比上涨14倍 [1] 攻击技术分析 - AI技术被黑产深度滥用,可实现分钟级换脸(仅需3-5张照片)和10秒语音克隆,广泛应用于电诈与认证绕过场景 [1][9] - “拉码工具”等洗钱技术工具流入黑产交易链,通过抓取支付订单链接将黑钱转入正规平台清洗,增加追查难度 [1][9] 攻击场景分析 - 营销欺诈情报达5.8亿条,环比增长26%,电商、本地生活等行业风险高 [2] - 金融欺诈中,恶意贷款舆情77万条,环比增12%,职业背债占比50% [2] - 电信诈骗情报51万条,环比下降27.39%,但“无感盗刷”等新模式出现 [2] - 钓鱼仿冒情报6.6万起,超去年3倍,泛金融、游戏为主要战场 [2] - 数据泄露5.7万起,环比增1.54%,电商、金融为重点,银行“扫码申请”贷款信息泄露涨4倍 [2] - API攻击超149万次,月均24.9万次,消费金融为首要靶标 [2]
“耳听眼见”也未必为实!AI换脸、声音克隆等技术滥用 到底怎么治?
央视新闻· 2025-08-25 09:24
AI技术滥用现状 - AI合成技术滥用事件频发,包括奥运冠军全红婵、王楚钦等人声音被克隆用于商业带货,配音演员孙晨铭声音被房产公司未经授权克隆使用[1] - 微信平台2025年1月处置1.2万条AI仿冒名人违规内容,关闭3281个账号[2] - 北京互联网法院判定擅自使用他人肖像和AI合成声音进行商业宣传构成侵权[2] - 抖音平台最近一周AI虚假违规内容处置量较2025年第一周增长62%[6] AI技术发展水平 - AI合成技术达到以假乱真程度,在70%-80%平稳叙述范畴内难以分辨真伪[3] - 消费级设备即可部署AI换脸工具,单张照片可实现实时换脸[3] - 两年前AI生成视频画面僵硬,2023年已能突破支付平台人脸识别系统[2] - 一部手机配合2-3个软件可在几分钟内生成5秒AI视频[5] 监管措施与立法进展 - 中央网信办2025年4月启动"清朗·整治AI技术滥用"专项行动,第一阶段处置3500余款AI产品,清理96万余条违法信息,处置3700余账号[8] - 《人工智能生成合成内容标识办法》于2025年9月1日实施,要求对所有AI生成内容添加显式标识[10] - 中国2023年施行《互联网信息服务深度合成管理规定》,全球首次明确生成式AI标识义务[11] - 人工智能法草案列入2024年度立法预备审议项目,2025年持续推进立法调研起草工作[12] 技术识别与治理挑战 - 平台AI内容标识执行效果不佳,部分AI工具通过镜像文件规避监测[6] - 用户因可信度问题不愿添加AI标识,技术层面完全识别AI生成内容难度较大[7] - AI文字谣言生成能力惊人,某机构一天可生成4000-7000篇谣言文章[7] - AI算法可匹配用户喜好定制化生成谣言,使用近义词绕过平台筛查机制[7] 行业影响与社会风险 - AI滥用直接冲击配音行业生计,声音成为被随意复制的免费素材[3] - AI仿冒名人可能消解社会认知度和信任度,尤其涉及伪劣产品宣传时[2] - 养老机器人等面对面交互AI设备引发安全性质疑[12] - AI可能造成重大人身财产损失和社会舆论动荡,需设定可控范围红线[8]
“仅退款”新骗术:AI造假成“薅羊毛”利器
新华网· 2025-08-15 14:36
行业现象 - 电商平台出现消费者利用AI工具生成虚假商品瑕疵图片进行"仅退款"的情况 [1] - 案例包括伪造水果霉斑、视频中出现不合理肢体特征等难以辨别的AI生成内容 [3] - 商家面临退款后无法申诉的困境,部分因审核难度大选择直接赔付 [3][4] 行业影响 - AI滥用导致商家审核成本增加,风险成本可能转嫁至产品定价和品质 [4] - 平台管理成本、运营成本及信用机制受到长期挑战 [5] - 恶意行为可能破坏交易公平性并引发群体从众效应 [4] 政策与解决方案 - 2025年3月四部门联合发布《人工智能生成合成内容标识办法》,规定不得伪造或隐匿AI内容标识,9月1日起施行 [5] - 中央网信办2025年4月启动为期3个月的"清朗·整治AI技术滥用"专项行动 [5] - 专家建议平台强化智能识别系统、实施内容标注制度、完善信用管理体系,并推动跨平台数据共享建立联合防控机制 [5]
谢赛宁「踩雷」背后,竟藏着科研圈更黑真相:Science实锤论文造假+AI滥用
36氪· 2025-08-05 17:50
论文工厂与学术欺诈产业化 - 科学欺诈已形成产业链,涉及论文工厂、出版商、期刊和中介等多个环节[3][6] - 一项大规模调查提供了确凿证据,表明学术不端行为已演变为一项产业[3][10] - 研究发现一些大型机构在期刊上批量投放虚假论文,怀疑中介机构牵线搭桥[10] - 可疑论文每1.5年翻一番,增长速度是整个科研文献的10倍,虽然总体比例仍不算高[25][26] - 印度金奈的Academic Research and Development Association等中介机构提供论文撰写和期刊发表服务,报价在250到500美元之间[21][23] 编辑与作者勾结问题 - 对PLOS ONE期刊的分析发现,有33位编辑处理的论文被撤稿或受质疑的频率远高于正常统计概率[13][15] - 这些编辑仅负责截至2024年所发表论文的1.3%,但却涉及了几乎三分之一的撤稿论文[15] - 其中一位编辑审理的79篇论文中,有49篇被撤稿[15] - 研究团队发现编辑与某些作者之间的互动频率异常高,存在系统性串通操作[15][21] - 出版商Frontiers因发现同行评审中作者与编辑组相互勾结,未披露利益冲突,已开始撤回122篇论文[18] AI在学术论文中的使用渗透 - 自ChatGPT于2022年11月发布后,大语言模型在科研写作中的使用出现剧烈飙升[29][42] - 到2024年9月,22.5%的计算机科学摘要显示出LLM修改的证据[29][32] - 电气系统和工程科学领域AI使用率为18%,数学领域为7.7%,生物医学和物理学比例较低[32][33] - 一项研究分析了2020年至2024年间超过100万篇科学论文,通过识别AI常用词汇追踪语言风格变化[30] - 约七分之一的生物医学研究摘要可能由AI撰写,实际使用频率可能更高,因为作者会删除标志性词汇以规避检测[39][44] 学术出版体系的系统性风险 - 论文工厂的产物往往被埋藏在影响力较低的期刊中,以逃避审查[28] - 随着科研人员数量激增,许多机构以论文数量作为评价标准,促使一些研究者转向论文工厂[28][29] - 扭曲的激励机制、虚高的评价指标以及“非发即亡”的文化氛围为论文工厂提供了土壤[29] - 被撤稿的论文和在PubPeer上被标注的论文数量快速上升,但远追不上造假论文的增速[26] - 研究表明问题的规模远比想象的要严重,除非相关方采取行动追责,否则现象将持续扩散并迅速恶化[29]
上海市网信办对一批拒不整改的生成式人工智能服务网站予以立案处罚
快讯· 2025-06-24 17:42
监管行动 - 上海市网信办对未按要求开展安全评估的生成式人工智能服务网站进行立案处罚 [1] - 部分网站未采取必要安全措施防范违规信息生成 导致侵犯个人信息权益和产出违法违规内容 [1] - 违规内容包括"开盒""洗钱"等违法信息以及色情低俗图片 [1] 整改要求 - 上海市网信办要求企业自行下线相关功能 通过安全评估后方可重新上线 [1] - 将持续打击"AI滥用"行为 重点整治"AI变装""AI换脸变声""AI造假"等违法违规行为 [1] - 对屡教不改、问题严重的企业将坚决处置处罚 [1] 监管重点 - 重点监管个性化推送类算法服务存在的侵犯个人信息权益行为 [1] - 专项行动将持续加强对生成式人工智能服务的监管力度 [1]
Kimi上线信源质量徽章,并与财新正式达成版权合作|合规周报(第188期)
21世纪经济报道· 2025-04-28 11:14
Kimi与财新传媒合作及信源质量徽章 - Kimi母公司月之暗面宣布与财新传媒达成版权合作,当用户提问财经相关内容时,Kimi将结合财新传媒旗下专业报道生成答案 [1][2] - 公司上线专业信源蓝V徽章系统,帮助用户识别高质量信源,点击引用来源可访问原始出处,目前认证包括《央视新闻》《人民日报》《财新》等权威媒体 [1][2] - 这是国内首家公开宣布与媒体版权合作的AI案例,此前测评发现Kimi曾直接输出《财新》版权内容,当时公司回应称正在进行灰度测试 [1] Anthropic警示AI被滥用引导舆论 - Anthropic发现Claude等AI模型被恶意组织用于"舆论引导服务",在X和Facebook上创建超100个机器人账号传播政治偏见内容 [3] - 与以往不同,组织不仅用AI生成内容,还利用AI自主决定机器人账号的互动行为(评论、点赞、转发),形成半自主的复杂社交机器人系统 [3][4] - 该服务已商业化,为多国不同政治目标的客户服务,公司预计随着AI智能体技术改进,这一趋势将持续 [3][4] Adobe推出内容真实性保护应用 - Adobe发布Content Authenticity应用公测版,可为图像嵌入隐形元数据和"禁止AI训练"标签,保护作品免遭AI训练 [5][6] - 应用支持批量处理50张JPEG/PNG图片,视频音频功能"即将推出",目前免费但未说明正式版收费情况 [5][6] - Adobe尚未与任何AI公司签署采用协议,正与顶级AI开发商洽谈以推广该标准,技术可抵抗截屏和二次传播 [5][6] 微博AI智搜隐私争议与电商退款政策调整 - 微博AI智搜被质疑分析用户非公开内容,公司回应称从未纳入"仅自己可见/好友圈可见"的微博数据,已调整功能避免造成用户不适 [7] - 电商行业包括拼多多、淘宝、京东等平台拟全面取消"仅退款"政策,改为由商家自主处理已收货的退款申请 [7][8] - 平台已就政策细节与监管部门多轮商讨,淘宝公告显示后续将不主动介入此类售后申请,由买卖双方协商 [7][8]