杨小芳：AI大模型刚出现时，大家更多关注的是模型生成内容的风险，但随着AI技术的逐步应用，风 险也逐渐从理论走向实际，需要我们从多个角度进行关注和审视。 第一是数据隐私风险。比如，训练数据透明度不足，可能会引发版权问题，这个问题亟待解决。另外， 随着大模型被赋予调用各种线上服务的能力，AI Agent（智能体）应运而生，但可能会越权访问用户数 据。比如原本用户只能访问本人的基本信息或账单，但由于服务权限配置不当或安全性不足，可能会使 得恶意用户可以访问其他人的账单等敏感信息。 第二是安全攻击门槛降低的问题。过去，黑客攻击被视为一种技术密集型的安全技术，但大模型的发展 带来了"智力平权化"，人们可以通过自然语言指挥大模型执行攻击指令。加上AI技术快速商业化和安全 投入滞后的矛盾，进一步加大了AI安全攻防对抗的难度。 随着生成式AI（人工智能）技术飞速发展，AI在数据分析、智能交互、效率提升等多个领域展现出巨 大的应用潜力，为解决复杂问题提供了新思路和新方法。但与此同时，这些技术所引发的安全性问题也 变得愈发突出。 近一段时间以来，AI换脸成为诈骗新手段、美国人工智能公司OpenAI旗下大模型o3"不听人类指令， ...