Workflow
C2PA
icon
搜索文档
“AI垃圾”泛滥,最后的防线在人类自身
科技日报· 2025-12-16 10:20
文章核心观点 - 当前互联网,尤其是社交媒体平台,正泛滥着大量由AI工具生成的劣质、重复或无意义的内容,即“AI垃圾”(AI Slop),这类内容正在侵蚀信息质量和用户信任 [1] “AI垃圾”的定义与表现 - “AI垃圾”特指由AI工具生成的大量劣质、重复或无意义的文字、图像或视频,常见于社交媒体和自动化内容农场 [2] - 具体表现包括:利用OpenAI的Sora几秒内生成荒诞视频、LinkedIn上充斥AI包装的“专家箴言”、谷歌搜索结果中出现如“姜黄能治愈心碎”等无稽之谈 [2] “AI垃圾”与其他AI生成内容的区别 - “AI垃圾”与“深度伪造”或“AI幻觉”不同,其区别在于意图与质量 [3] - “深度伪造”目的在于欺骗,以假乱真;“AI幻觉”属技术错误,是模型预测偏差;而“AI垃圾”错误源于敷衍,范围更广、更随意,源于人们用AI批量生产内容却疏于核对 [3] “AI垃圾”泛滥的驱动因素 - 技术层面:AI技术日益强大且成本低廉,ChatGPT、Gemini、Claude、Sora、Veo等工具使几秒内生成可读文本、图像与视频成为可能 [4] - 经济动机:滥用AI工具海量生成内容旨在博取点击和广告收入,例如某个YouTube频道仅凭4个视频就积累了420万订阅和数亿播放量 [4] - 平台算法:平台算法往往更看重内容的点击与互动数据,而非质量,发布越频繁获得关注越多,AI让这类操作变得易如反掌 [4] “AI垃圾”的潜在影响 - 当数量爆发,垃圾信息充斥网络,会导致可信来源在搜索结果中排名下降,真实与虚构的界限变得模糊 [5] - 信任危机会带来切实后果,即错误信息传播更快 [5] 行业应对措施与挑战 - 部分平台如Spotify开始为AI生成内容添加标签,并调整算法以降低劣质内容的推荐权重 [6] - 谷歌、抖音与OpenAI等公司承诺推出水印系统,帮助用户区分人工内容与合成内容,但若内容被截图、转码或改写,这些方法可能失效 [6] - 行业标准C2PA(内容来源与真实性联盟)由Adobe、亚马逊、微软、Meta等企业共同支持,通过将元数据嵌入数字文件记录创建过程,但难点在于普及,元数据可能被剥离,且多数平台尚未形成一致的执行规范 [6] - 最有效的防护在于人类自身,即放慢节奏、核实来源、支持坚持用心创作的作者 [6]
Pixel 10 被藏起来的这个功能,会告诉你照片有没有被 AI 碰过
36氪· 2025-08-25 08:21
Google Pixel 10系列AI影像功能 - 全新Pixel 10系列集成AI修图工具 用户可通过语音指令让Gemini自动完成照片优化 包括修复光线 移除杂物 增添天空细节等[1] - 修图功能基于文生图模型 根据用户提示词在原图基础上重新绘制 区别于仅能执行单一指令的AI助手[6] - 功能直接内置默认照片应用 无需切换应用 流程便捷[6] AI摄影技术对比 - 华为类似AI辅助构图功能可自动对准取景器点位完成构图 更接近直接出结果的智能体验[14] - 国内厂商AI语音助手仅支持美颜 提亮等基础指令 部分可实现路人消除或风格化[4] - 豆包 ChatGPT等第三方工具也可实现类似精修 但需跨平台操作[6] 硬件与本地化AI能力 - 全新Tensor G5芯片由台积电代工 性能提升使Gemini Nano模型本地运行效率大幅提高[8] - 本地AI支持相机直接集成功能 成片速度保持极高水平[8] - Pro Res Zoom功能通过本地AI计算补充传感器缺失细节 100倍变焦拍摄后4-5秒生成相对清晰照片[10] AI辅助拍摄功能 - Camera Coach功能利用端侧AI实时分析取景框 提供成片效果备选项并指导用户完成专业构图拍摄[11] - 部分AI影像功能被评价为为AI而AI 对用户价值有限[12] 影像真实性管理 - Google Photo引入C2PA内容凭证 标注照片拍摄设备及是否经过AI编辑[18] - C2PA标识难以修改 比传统水印更有效 目前处于教育推广期[20] - Google将100倍变焦 多帧合成等技术归类为AI编辑范畴 并在C2PA中标注[24] - 行业缺乏统一标准界定AI编辑范围 画质增强与添加虚假元素存在真实性差异[24][26] 行业技术趋势 - AI修图依赖云端大模型 国内厂商可与豆包等模型合作集成指令修图功能至系统本地[8] - 手机摄影长期依赖算法增强识别与细节改善 Pro Res Zoom是该流程的进一步发展[22] - 超长焦技术(如30倍变焦)同样依赖算法还原画面细节 本质与Pro Res Zoom类似[24] 社会影响与行业挑战 - AI美化记忆与自由表达稀释影像真实感 行业需平衡表达与真实[32] - C2PA客观公开表达虚构过程 可能影响用户分享热情(如社交平台标注精修)[26][28] - 徕卡M11-P相机较早应用C2PA 服务于新闻真实与数字版权保护 但手机摄影中个人表达与真实边界模糊[28][30]