浙江大学DS系列专题 DeepSeek技术溯源及前沿探索 主讲人：朱强 浙江大学计算机科学与技术学院 人工智能省部共建协同创新中心（浙江大学） https://person.zju.edu.cn/zhuq 1 Outline 一、语言模型 三、ChatGPT 二、Transformer 四、DeepSeek 五、新一代智能体 2 语言模型：终极目标 Language Modeling 对于任意的词序列，计算出这个序列是一句话的概率 我们每天都和语言模型打交道： I saw a cat I saw a cat on the chair I saw a cat running after a dog I saw a ca car I saw a cat in my dream 3 语言模型：基本任务 编码：让计算机理解人类语言 She is my mom 1 0 0 0 0 1 0 0 0 0 1 0 0 0 0 1 只有一个1，其余均为0 One-hot Encoding有什么缺点吗？ One-hot Encoding 4 编码：让计算机理解人类语言 Word Embedding A bottle of tez ...