奕然 发自 凹非寺 量子位 | 公众号 QbitAI 能让非NVIDIA芯片跑CUDA的开源项目ZLUDA，起死回生了。 最新版增加了对大模型工作负载的支持，一举登上GitHub热榜！ 开发者@vosen本名Andrzej Janik，曾经在Intel工作。 该项目一度因AMD停止资助濒临破产，最终被一家神秘机构出手相救。 现在，创始人vosen带来好消息，表示ZLUDA团队新添一员猛将并稳定进行项目恢复中。 在2020年，Andrzej Janik想要尝试一下技术突破，让CUDA程序在非NVIDIA平台运行，一尝试，便有了可行性。 之后，ZLUDA被Intel接手，作为一个内部试验项目发展。 Intel分配资源给了ZLUDA，目的很明显了，让其 在Intel GPU上跑CUDA程序，作为Intel oneAPI生态的一种补充方式 。 无疑，这触碰到了NVIDIA的商业生态链。 没过多久，这个项目就被终止了。 2022年，ZLUDA得到了AMD的支持而重启，并支持AMD硬件。 好景不长，这次也仅仅维持2年，2024年2月宣布终止。 过往发展：起起伏伏又起起 一个月后，英伟达就发布CUDA 11.6版本，并明确 ...

CUDA兼容性突破 - Nvidia于2006年推出CUDA作为专有API和软件层，成为释放GPU并行计算能力的关键技术，广泛应用于人工智能、科学计算和高性能模拟领域[4] - 开源项目Zluda致力于打破CUDA对Nvidia硬件的依赖，实现在AMD、Intel等第三方GPU上运行未经修改的CUDA应用程序，显著扩展硬件选择并减少供应商锁定[4] - Zluda团队规模扩大一倍，现有两名全职开发人员，新成员Violet已为GitHub开源仓库做出突出贡献[4] 技术进展 - Zluda在非Nvidia GPU上执行CUDA二进制文件的性能显著提升，改进后的代码可处理cvt指令等复杂情况并达到位精度[7] - 项目增强了对ROCm/HIP GPU运行时的支持，确保其在Linux和Windows系统可靠运行[5] - 日志记录功能改进，能捕获更多API交互细节，包括中间调用过程[7] 应用场景突破 - 在llm.c测试实现中取得进展，已支持44个函数中的16个，目标实现GPT-2/GPT-3语言模型的全面运行[7] - 针对32位PhysX代码的支持取得初步进展，通过CUDA日志收集识别潜在错误，但完整支持需第三方开发者大量贡献[8] - 改进对旧硬件的兼容性，GPU运行时可在编译时优化代码以适应不同硬件架构[5]