影子IT

搜索文档
影子 AI:你的公司也可能沦为 AI 训练素材
36氪· 2025-07-22 10:28
生成式AI在职场应用的现状 - 生成式AI已从个人设备的新奇尝试转变为深度渗透职场生态的工具,显著提升生产效率的同时也带来巨大安全漏洞 [1] - 敏感公司数据正持续流入公共AI系统,包括跨国电子制造商员工将产品源代码等机密数据输入ChatGPT的案例 [1] - 大型语言模型的运行机制决定了它们会从交互中持续学习,企业不愿用核心数据喂养公共AI应用 [1] 企业应对AI风险的策略 - 直接封杀生成式AI应用的做法催生了更危险的"AI影子化"现象,员工通过私人设备、个人账户或截图绕过监控上传数据 [2] - 简单封锁访问权限导致IT部门失去对真实情况的掌控,无法有效管控数据安全与隐私风险 [4] - 有效管控策略需以可视化监控、治理规范和员工赋能为核心,第一步是全面掌握AI工具在组织内部的应用情况 [5] - 制定定制化政策时应避免一刀切禁令,推行基于场景感知的智能管控策略,如部署浏览器隔离技术或引导至企业认证的AI平台 [5] - 不同岗位需实施差异化管控,研发团队可能需要特定应用精准授权,财务等敏感部门需更严格访问限制 [5] 构建创新与安全的平衡 - 生成式AI彻底改变了工作模式和组织运作方式,企业需以负责任的态度拥抱技术而非拒绝 [7] - 成功企业将构建可视化监控体系、实施精准治理策略并持续开展员工培训,找到创新激励与数据保护的平衡点 [7] - 企业不应在安全与效率之间做单选题,而应打造二者共生共荣的生态,在数字化浪潮中抢占先机 [7] - 管控"影子AI"风险、构建安全高效的AI应用体系可将生成式AI从潜在负担转化为战略机遇 [7] - 真正获益的企业是那些洞悉风险、建立有效防护机制并赋能员工安全合规应用的组织 [7]
不死的程序员
AI科技大本营· 2025-07-04 17:00
文章核心观点 - 计算机技术演进史上,"程序员即将被机器取代"的预言反复出现,但程序员职业始终未被取代,反而不断进化[1][2] - 历史上共出现八次主要的"程序员替代论"浪潮,每次技术革新都重塑而非消灭程序员角色[2][57] - 程序员"不死"的核心逻辑在于:技术抽象降低创新成本,催生更复杂的系统性需求,需求增速超过生产力提升[57][58] 自动化的黎明(1950年代) - 早期程序员是数学家和逻辑学家,需手动填写八进制码并穿孔成卡片,工作极其繁琐且容错率低[3][4] - 格蕾丝·霍珀开发首个编译器A-0系统,实现英语指令到二进制码的自动翻译,初衷是降低技术门槛[6] - FORTRAN语言让科学家直接用数学公式编程,编译器技术引发第一轮"程序员替代论"[8] - 实际结果:催生全新软件程序员职业,编程效率提升(核反应堆程序从数周缩短至几小时),行业规模爆炸式增长[10][11] 意大利面条仍然是意大利面条(1960-70年代) - COBOL语言设计目标让非专业管理人员编写程序,语法刻意模仿英语散文[12] - 现实证明语言可读性无法消除逻辑复杂性,COBOL催生高度专业化的第一代"码农"[12][13] - 程序员认知负担从"机器复杂性"转向"领域和应用复杂性",需处理遗留系统"屎山"代码[16][17] 声明式编程革命(1970-80年代) - 第四代语言(4GL)承诺"只需声明结果而非过程",SQL等工具让非程序员生成报表[18][20] - 实际局限:4GL是领域特定语言,核心系统仍需专业开发者用过程式语言构建[21] - 形成双轨体系:业务分析师使用高层工具,专业开发者维护底层基础设施[22][23] 可视化编程与软件工厂(1980-90年代) - CASE工具试图通过绘制模型图自动生成代码,IBM等巨头投入巨资推广"软件工厂"概念[24][25] - 失败原因:模型定义难度高于直接编码,生成代码效率低下且无法覆盖复杂逻辑[26][27] - 行业认识到软件开发瓶颈是认知性而非语法性[28] 快速应用开发(1990年代) - Visual Basic采用拖拽控件方式,全球开发者达350万(C++开发者10倍),赋能"超级用户"[31][32] - 行业分层:应用开发者用RAD工具快速响应需求,系统开发者用C++构建底层组件[36][37] - 催生第三方组件市场,形成"为程序员服务的程序员"新生态[38][39] 全球化与外包浪潮(2000年代) - 经济驱动替代论:离岸外包将编码视为可商品化劳动,发达国家保留架构设计[40][41][43] - 现实问题:时区文化差异导致沟通成本激增,凸显软件开发中沟通协调的核心价值[44] - 行业重新评估程序员价值,软技能成为不可外包的硬实力[45] 低代码/无代码运动(2010年代) - 低代码平台赋能"公民开发者",Gartner预测其数量将超专业开发者4倍[46][47] - 实际作用:治理"影子IT",IT部门通过分层控制实现业务用户自助开发与系统安全的平衡[48][49] AI时代的新挑战(当前) - 大语言模型三秒生成代码的能力引发第八轮替代恐慌,但存在上下文理解不足、创造性缺失等边界[50][54] - 核心问题:AI无法对产品质量和安全担责,人类工程师仍需最终审查与系统设计[55][56] - 未来趋势:机械编码员价值稀释,具备业务理解与系统设计能力的工程师更稀缺[59]