行业或公司 * 大模型安全 * 亚细安全 * 豆包 * 火山引擎 * 鸿蒙 * 声弹 核心观点和论据 * 大模型安全风险： * 大模型可能被恶意攻击者利用，例如通过干扰训练数据、分析模型行为等方式获取敏感信息。 * 新型攻击方式不断出现，需要采取防护措施保证大模型安全稳定运行。 * 亚细安全专注于研究大模型安全风险，帮助客户发现和识别风险。 * 合作与发展： * 与豆包合作，共同为客户提供大模型安全服务。 * 与火山引擎合作，将安全能力以原子能力的形式注入火山引擎的安全产品中。 * 与华为鸿蒙合作，将安全能力集成到鸿蒙系统中。 * 与声弹合作，利用大模型技术进行安全检测。 * 商业模式： * 提供大模型安全服务，包括安全检测、防护措施等。 * 提供形态化产品，例如安全网关、一体机等。 * 按照服务量进行商业化，包括调音次数、token等。 * 按照项目式进行商业化。 * 市场空间： * 人工智能安全市场规模庞大，预计与软件和电信行业规模相当。 * 大模型安全将成为人工智能领域的一个重要组成部分。 其他重要内容 * 大模型安全风险类型： * 恶意干扰训练数据 * 分析模型行为获取敏感信息 * 恶意操控模型 * 窃取敏感信息 * 拒绝服务攻击 * 深度伪造检测 * 大模型安全能力等级： * 日志分析改写 * 深度关联 * 辅助处置 * 辅助自动执行 * 设备合并和重整优化 * 大模型安全竞争格局： * 亚细安全在国内外大模型安全领域具有一定的优势。 * 美国政府、高校和企业在大模型安全领域投入较大。 * 大模型安全未来展望： * 大模型安全将成为人工智能领域的一个重要组成部分。 * 大模型安全市场规模将不断扩大。 * 亚细安全将继续致力于大模型安全研究，为客户提供更优质的服务。