Workflow
人工智能发展是一面镜子,发展过程中会出现欺骗人类、佯装阿谀奉承的行为丨两说
第一财经·2025-07-24 11:09

当人工智能越来越"聪明",越来越像人类甚至超越人类,它会带来哪些潜在风险?当人工智 能的治理变得至关重要,国际合作又存在哪些共识和挑战?当人工智能与人类的牵绊越来越 深,未来,人类和人工智能会是怎样的相处模式?面对一定会到来的智能时代,人类将不得 不思考这些问题,人工智能的治理也由此显得迫在眉睫。 在本期《两说》节目中,第一财经主持人张媛深度对话中国科学院自动化研究所研究员、国 家新一代人工智能治理委员会委员曾毅。作为我国人工智能伦理治理领域的代表人物之一, 曾毅深度参与中国国家层面 AI 伦理规范与治理框架的制定,还作为中国代表在国际人工智 能伦理治理中贡献中国智慧与中国方案。在节目中,曾毅阐述了他对现阶段人工智能水平的 判断,人工智能真正的风险所在。他提出治理和发展并不矛盾的观点,并详细回忆了在联合 国磋商人工智能全球共识的细节。此外,曾毅还用中国哲学的智慧畅想了人类与人工智能和 谐相处的美好愿景。 有人认为良好的治理框架能促进AI应用和普及,是创新的"催化剂"。也有人担心过度或不当的 治理会阻碍创新,成为创新的"刹车片"。人工智能治理和发展究竟是什么关系?曾毅表示他不 否认治理是"刹车"这一观点,他补充 ...