Workflow
伦理治理
icon
搜索文档
从技术落地到哲学思辨,AI Agent发展的关键议题
36氪· 2025-06-20 13:31
AI Agent行业现状与用户视角 - AI Agent定义需满足三大条件:工具调用能力、自主决策能力、多轮迭代的动态决策过程 [3] - 从合作视角看,Agent应作为端到端承接整条流程的系统,在关键节点主动介入并提供决策建议 [5] - 用户常用Agent分为三类:教练型(调研与深度思考辅助)、秘书型(非沉浸式任务处理)、搭档型(高频交互的专业工作协同) [9][10] - 音频处理类Agent如CreateWise已实现音轨自动剪辑、文案生成和跨平台内容适配等全流程功能 [12] - 通用型Agent产品如Manus和Genspark在旅游规划等场景展现差异化功能,但用户体验存在明显差异 [15][16] 技术挑战与产品设计 - 当前AI模型存在指令遵循不足(如强制添加"未完待续")、为AI而AI的设计倾向、缺乏人类世界暗信息三大痛点 [18][20][21] - 音频处理领域面临中文识别能力不足、多人播客多轨对齐困难、过度优化信息密度导致人情味缺失等问题 [23][25] - 产品设计需平衡行业经验积累(如网站设计需理解行业运营模式)与用户品位把握(如对"土"的差异化定义) [46][47] - 技术攻坚方向包括自我纠正学习、多Agent协作架构(需AI CEO统筹)、企业级安全治理层开发等 [41][42][45] - 预期管理是关键挑战,需通过垂直场景数据积累使AI从"清华实习生"进阶为成熟工作者 [32][33] 商业模式与竞争策略 - 新兴公司通过AI生成的高质量新数据(如医疗语音转结构化记录)可打破传统SaaS数据壁垒 [53] - 护城河构建路径包括:用户纠正数据形成的"默契"(如PPT主色系偏好)、端到端价值链延伸(从建站到帮助盈利)、工程化调优能力等 [56][57][62] - 垂直领域Agent可通过处理行业脏活累活(如工作流打通、私有数据处理)避免与大模型公司直接竞争 [67] - 盈利逻辑应以结果为导向(对比传统外包成本),企业市场需重视ROI验证与工作流程重构 [49][69] - 中立第三方平台在企业级市场具备优势,可解决客户对单一供应商锁定的顾虑 [65] 行业发展趋势 - 交互模式将从"流程搭建+分步审核"向"价值观对齐+放手执行"演变,需建立新型信任机制 [71][72] - "AI原生"设计(如密集代码文档)将成为竞争优势,类比无障碍设施对城市规划的影响 [75][76] - 人类独特价值体现在增量信息创造(未结构化数据)、真实体验传递、观点碰撞激发等维度 [80] - 管理能力将成为核心竞争力,需从"工具使用"思维转变为"团队领导"思维 [81] - 未来可能面临AI社会结构问题(如Agent间冲突解决机制)和人机混合管理体系等挑战 [86][88]
习近平主持召开中央全面深化改革委员会第二十三次会议强调加快建设全国统一大市场提高政府监管效能 深入推进世界一流大学和一流学科建设
新华网· 2025-06-06 11:16
习近平在主持会议时强调,发展社会主义市场经济是我们党的一个伟大创造,关键是处理好政府和市场 的关系,使市场在资源配置中起决定性作用,更好发挥政府作用。构建新发展格局,迫切需要加快建设 高效规范、公平竞争、充分开放的全国统一大市场,建立全国统一的市场制度规则,促进商品要素资源 在更大范围内畅通流动。要加快转变政府职能,提高政府监管效能,推动有效市场和有为政府更好结 合,依法保护企业合法权益和人民群众生命财产安全。要突出培养一流人才、服务国家战略需求、争创 世界一流的导向,深化体制机制改革,统筹推进、分类建设一流大学和一流学科。科技伦理是科技活动 必须遵守的价值准则,要坚持增进人类福祉、尊重生命权利、公平公正、合理控制风险、保持公开透明 的原则,健全多方参与、协同共治的治理体制机制,塑造科技向善的文化理念和保障机制。要推动发展 适合中国国情、政府政策支持、个人自愿参加、市场化运营的个人养老金,与基本养老保险、企业(职 业)年金相衔接,实现养老保险补充功能。 中共中央政治局常委、中央全面深化改革委员会副主任李克强、王沪宁、韩正出席会议。 会议指出,党的十八大以来,党中央坚持社会主义市场经济改革方向,从广度和深度上推 ...
构建类器官研究全过程伦理治理框架
科技日报· 2025-05-07 17:11
科技部发布《人源类器官研究伦理指引》 - 科技部官网公布《人源类器官研究伦理指引》,明确类器官研究应遵循的伦理基本原则、一般要求及特殊要求 [1] - 《指引》由国家科技伦理委员会生命科学伦理分委员会制定,针对脑类器官、类器官—嵌合体、人干细胞胚胎模型等高度伦理敏感性研究类型提出严格操作规范和伦理边界 [1] - 类器官是基于人类干细胞等在体外构建的三维模型,模拟人体特定组织或器官结构及部分功能,已广泛应用于基础研究、疾病建模、药物筛选和毒理评估等领域 [1] - 类器官技术因其在精准医学与再生医学中的应用前景,已成为国际生命科技竞争的前沿领域 [1] 类器官研究的伦理治理框架 - 《指引》从制度设计、风险防控到公众沟通,系统构建覆盖类器官相关研究全过程的伦理治理框架 [2] - 要求类器官研究具备明确科学目标、充分科学依据及可验证科学价值,确保伦理规范不妨碍科研创新 [2] - 在伦理审查、知情同意等方面作出明确要求,确保伦理要求覆盖研究全过程、各环节 [2] - 对可能涉及意识潜能、干细胞胚胎模型等研究行为设定明确限制条件,要求开展伦理风险评估及持续监测 [2] 特殊类器官研究的伦理规范 - 针对脑类器官研究,《指引》强调应特别关注复杂神经网络和自发性电活动,重视潜在意识属性发展风险 [2] - 要求建立标准化检测机制,对脑类器官电生理活动水平及复杂度持续监测,及时识别潜在伦理临界点 [2] - 针对干细胞胚胎模型研究,《指引》作出限定培养时间、加强过程监测、强化分类管理、明确禁止底线行为等规定 [3] - 对"整合型干细胞胚胎模型"要求开展伦理前置评估与风险防控预案制定,明确禁止将其植入人类或非人动物子宫 [3] 指引的实施与执行 - 研究机构、科研人员及伦理审查委员会应将《指引》作为开展、评估和监管类器官研究的重要依据 [3] - 文件落实需强化制度执行主体责任、规范科研人员操作行为,落实伦理审查与持续监督机制 [3] - 加强成果发布与科学传播管理,推动教育培训与能力建设 [3]