规范AI拟人化互动服务,“虚拟人”也要有边界感
南方都市报·2025-12-28 23:25

值得注意的是,《办法》强调对拟人化互动服务实行包容审慎和分类分级监管。一面落实服务提供者的 主体责任,一面也鼓励其合理拓展应用场景,在文化传播、适老陪伴等方面积极应用。时至今日,人机 诸如"虚拟伴侣""虚拟伙伴"等AI陪伴类产品在国内外广受欢迎,截至2025年年初,国内AI情感陪伴类应 用月活跃用户已超数千万。复旦大学等机构在今年1月发布的一项报告显示,近四成年轻人愿意向AI虚 拟人倾诉烦恼,超13.5%的受访者更倾向于选择AI而非父母作为倾诉对象。不可否认,AI陪伴类产品在 精神陪伴、心理疗愈等方面具有重要作用,为独居者、社交焦虑者或老年人等群体提供了低压力的情感 出口。 互动显然已超出工具性交互,延伸到情感互动,并催生出新的商业模式。 然而,同样值得关注的是,过度依赖AI可能导致使用者进一步脱离现实人际关系。另外,如果用户过 度依赖AI,服务的终止会不会对其造成心理影响?除了这样的伦理争议,AI陪伴类产品在走向商业化 的过程中,还出现了诱导付费、不良价值观引导等乱象。今年以来,南都大数据研究院对此进行了多次 报道,就发现AI陪聊应用存在"立极端人设、诱导充值沉迷""对未成年人进行危险诱导"等等。可以说, ...