微软AI首席执行官关于"表面有意识的AI"的警告 - 微软AI首席执行官穆斯塔法・苏莱曼警告称，即使只是鼓励人们相信AI有意识，也可能带来严重后果 [1] - 所谓"表面有意识的AI"(SCAI)可能很快表现得、听起来都特别逼真，以至于用户难以分辨虚幻与现实 [1] AI发展现状与潜在风险 - 人工智能正在迅速发展到足以在情感上说服人类，让人误以为它有感知能力 [3] - AI能模拟记忆、情感镜像甚至表面共情，使人们倾向于把它当作有意识存在对待 [3] - 越来越多案例显示，用户与聊天机器人长期互动后可能产生妄想信念 [3] - 如果大量人被误导去倡导AI公民身份，而忽视真正的技术问题，将带来反乌托邦的社会风险 [3] AI行业应采取的措施 - AI行业应避免使用助长机器意识幻觉的语言，不应将聊天机器人拟人化或暗示其理解或关心人类 [3] - 应开发优先与人类和现实世界互动的AI，同时确保AI始终呈现为AI [4] - 必须避免制造"意识模拟"的AI，它不应声称拥有体验、感受或情绪 [4] - 不应通过声称受苦或希望自主生存来触发人类共情 [4] AI技术发展趋势 - 结合大语言模型、语音表达、记忆与聊天记录的SCAI系统可能在几年内出现 [3] - 这类系统不仅来自科技巨头，也可能出现在拥有API和优质提示的任何开发者手中 [3]