“问道”大模型:当好伦理风险防控“专家”
科技日报·2025-12-01 08:45

产品核心功能 - 拥有伦理风险评估与审计、伦理困境模拟与决策推演、伦理对齐辅助设计、动态知识库与案例教学、伦理学前沿探索与范式革新五大功能 [1] - 构建了覆盖伦理治理全流程的功能矩阵 可作为企业伦理“审查官”自动审核商业决策、广告文案、算法模型的伦理风险 [2] - 可作为AI研发的合规检测工具 在产品设计之初注入伦理考量 从源头避免偏见和风险 [2] - 可作为学生的伦理“导师” 通过模拟真实道德困境培养批判性思维和道德决策能力 [2] 技术特点与创新 - 减少“AI幻觉”的方式依靠“结构化知识构建+多模式应答+分层安全机制+自动优化循环”四大体系形成的技术闭环 [3] - 在通用大模型基座基础上 灌注了经典伦理学著作、重大伦理学案件、涉及伦理学的法律法规及社会热点事件中的伦理规范 [4] - 采用目录感知方式输入数据 形成“知识树” 使用户了解输出内容的具体来源章节 提供结构化知识图谱并降低“幻觉”概率 [4] 目标用户与应用场景 - 旨在帮助科研机构、科技企业、伦理审查机构、政策制定者以及公众洞察多元价值 [1] - 致力于成为用户的伦理思考伙伴与决策支持系统 处理复杂技术与社会问题 [1] - 未来将拓展在科研、产业与教育等场景的深度应用 [4] 开发背景与团队 - 由东南大学AI伦理实验室主任王珏牵头设计 [1][2] - 由东南大学移动通信全国重点实验室、毫米波全国重点实验室、教育部移动信息通信与安全前沿科学中心及江苏省道德发展智库等跨学科平台共同研发 [2]