没有N卡CUDA程序照样跑ZLUDA在AMD显卡上的上手指南【免费下载链接】ZLUDACUDA on non-NVIDIA GPUs项目地址: https://gitcode.com/GitHub_Trending/zl/ZLUDA假设手里有一个 CUDA 程序——比如用 cuBLAS 编译的大模型推理工具 llama.cpp——而机器上只有 AMD 显卡。ZLUDA 就是一个 CUDA 平替层它让未经修改的 CUDA 应用直接跑在非 NVIDIA 显卡上不少程序还能保持接近原生的性能。它能做什么一句话定位它不是新的图形驱动也不是新的编程框架而是顶替 CUDA 驱动入口的“影子驱动”。当前的覆盖范围大致是硬件AMD Radeon RX 5000 系列及更新的显卡独显和核显均可老架构和 Intel GPU 暂不支持系统Windows 与 Linux场景llama.cpp 这类本地大模型推理、科学计算等标准 CUDA 程序游戏里的 32 位 PhysX 物理引擎NVIDIA 显卡和 macOS 明确不在支持列表里它为什么行先明白背景CUDA 程序编译后GPU 部分通常会生成 PTX 中间代码一种类似虚拟汇编的通用指令集最终由 NVIDIA 驱动编译执行。ZLUDA 做的链路是这样的应用调用 CUDA API → ZLUDA 的库文件接管调用 ↓ 内核代码(PTX) → ZLUDA 自带编译器 → AMD 显卡可执行的代码 ↓ AMD 显卡原生执行它随包提供了一整套与 CUDA API 对得上的库文件包括 cuBLAS、cuDNN、cuFFT 等数学库的替身底层的矩阵运算映射到 AMD 的 HIP SDK 组件rocBLAS、MIOpen 等上。应用拿到接口时感知不到任何区别。边界也说清楚它不模拟 NVIDIA 硬件的物理特性不支持 OptiX 硬件光线追踪也不会让系统层面“认为”这是一块 N 卡——它只是接管了 CUDA 的调用入口。从零开始项目迭代很快官方建议直接下载最新的发布包而不是用旧版。核心就三步装好 AMD 显卡驱动Adrenalin EditionWindows 用户再装 HIP SDKLinux 用户装 ROCm 里的 HIP 组件。用启动器方式运行程序zluda.exe -- 你的程序.exe 参数 # WindowsLD_LIBRARY_PATHZLUDA目录:$LD_LIBRARY_PATH ./你的程序 # Linux验证环境。ZLUDA 自带一个小工具 cuda_check会测试所有数学库的加载情况每行输出 OK 就说明对应库没问题zluda.exe -- cuda_check.exe几个不同环境下的常见配置项Windows 不想用启动器时可以把 ZLUDA 目录里的全部文件含 nvcuda.dll复制到程序所在目录让应用直接加载Linux 还有LD_AUDIT指向zluda_ld的替代加载方式适合部分特殊场景32 位游戏使用 zluda32 版本官方文档的 physx32 一节有说明源码编译需要 Rust、CMake、Python 3克隆 仓库 后执行cargo xtask细节见 源码构建文档确认它跑起来 让它更快先做自检运行 cuda_check逐行确认输出为 OK括号里的路径指向 HIP SDK 的库文件路径不对多半是 SDK 版本问题挑一个小的 CUDA 示例程序完整跑一遍核对结果正确想跑 PyTorch / TensorFlow 的话确认装的是 nightly 版 HIP SDK官方 SDK 不带机器学习支持升级 ZLUDA 版本后重新跑一遍 cuda_check 再给两条优化建议大型程序首次启动时内核要现编译启动偏慢。可以用zluda_precompile 程序路径提前把 GPU 代码编译进缓存下次直接起飞编译 llama.cpp 时按官方建议指定 CUDA 架构 86 并开启 cuBLAS官方文档称此时可达原生速度卡住了看这里程序起不来、报缺库→ 先核对 AMD 驱动与 HIP SDK 版本HIP SDK 安装文档区分了官方版和 nightly 版的能力差异再跑 cuda_check 看具体哪个库没通过。应用崩溃或结果不对→ 用跟踪模式重新运行Windows 下加--zluda-trace参数zluda_trace 会记录每次 CUDA 调用的参数和返回值顺着 ZLUDA_LOG_DIR 目录下的日志定位是哪一步走的岔路方法见 日志排查文档。首次运行特别慢→ 通常是编译缓存为空属于正常现象跑一次zluda_precompile或把程序完整跑完一遍即可见 预编译文档。实际效果可以看这张图在 Steam 的启动选项里填入 zluda32 启动器游戏即可通过 ZLUDA CUDA 兼容层运行资源入口快速上手docs/src/quick_start.md常见问题docs/src/faq.md核心实现源码zluda/src/、PTX 编译器 compiler/项目 README 里有 Discord 社区入口问题反馈响应较快ZLUDA 适合手里有现成 CUDA 程序、手上却是 AMD 显卡的人从科研计算到本地大模型推理都能尝试。下载一个最新发布包跑通第一条 cuda_check剩下的交给时间。【免费下载链接】ZLUDACUDA on non-NVIDIA GPUs项目地址: https://gitcode.com/GitHub_Trending/zl/ZLUDA创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考 没有N卡，CUDA程序照样跑：ZLUDA在AMD显卡上的上手指南
没有N卡CUDA程序照样跑ZLUDA在AMD显卡上的上手指南【免费下载链接】ZLUDACUDA on non-NVIDIA GPUs项目地址: https://gitcode.com/GitHub_Trending/zl/ZLUDA假设手里有一个 CUDA 程序——比如用 cuBLAS 编译的大模型推理工具 llama.cpp——而机器上只有 AMD 显卡。ZLUDA 就是一个 CUDA 平替层它让未经修改的 CUDA 应用直接跑在非 NVIDIA 显卡上不少程序还能保持接近原生的性能。它能做什么一句话定位它不是新的图形驱动也不是新的编程框架而是顶替 CUDA 驱动入口的“影子驱动”。当前的覆盖范围大致是硬件AMD Radeon RX 5000 系列及更新的显卡独显和核显均可老架构和 Intel GPU 暂不支持系统Windows 与 Linux场景llama.cpp 这类本地大模型推理、科学计算等标准 CUDA 程序游戏里的 32 位 PhysX 物理引擎NVIDIA 显卡和 macOS 明确不在支持列表里它为什么行先明白背景CUDA 程序编译后GPU 部分通常会生成 PTX 中间代码一种类似虚拟汇编的通用指令集最终由 NVIDIA 驱动编译执行。ZLUDA 做的链路是这样的应用调用 CUDA API → ZLUDA 的库文件接管调用 ↓ 内核代码(PTX) → ZLUDA 自带编译器 → AMD 显卡可执行的代码 ↓ AMD 显卡原生执行它随包提供了一整套与 CUDA API 对得上的库文件包括 cuBLAS、cuDNN、cuFFT 等数学库的替身底层的矩阵运算映射到 AMD 的 HIP SDK 组件rocBLAS、MIOpen 等上。应用拿到接口时感知不到任何区别。边界也说清楚它不模拟 NVIDIA 硬件的物理特性不支持 OptiX 硬件光线追踪也不会让系统层面“认为”这是一块 N 卡——它只是接管了 CUDA 的调用入口。从零开始项目迭代很快官方建议直接下载最新的发布包而不是用旧版。核心就三步装好 AMD 显卡驱动Adrenalin EditionWindows 用户再装 HIP SDKLinux 用户装 ROCm 里的 HIP 组件。用启动器方式运行程序zluda.exe -- 你的程序.exe 参数 # WindowsLD_LIBRARY_PATHZLUDA目录:$LD_LIBRARY_PATH ./你的程序 # Linux验证环境。ZLUDA 自带一个小工具 cuda_check会测试所有数学库的加载情况每行输出 OK 就说明对应库没问题zluda.exe -- cuda_check.exe几个不同环境下的常见配置项Windows 不想用启动器时可以把 ZLUDA 目录里的全部文件含 nvcuda.dll复制到程序所在目录让应用直接加载Linux 还有LD_AUDIT指向zluda_ld的替代加载方式适合部分特殊场景32 位游戏使用 zluda32 版本官方文档的 physx32 一节有说明源码编译需要 Rust、CMake、Python 3克隆 仓库 后执行cargo xtask细节见 源码构建文档确认它跑起来 让它更快先做自检运行 cuda_check逐行确认输出为 OK括号里的路径指向 HIP SDK 的库文件路径不对多半是 SDK 版本问题挑一个小的 CUDA 示例程序完整跑一遍核对结果正确想跑 PyTorch / TensorFlow 的话确认装的是 nightly 版 HIP SDK官方 SDK 不带机器学习支持升级 ZLUDA 版本后重新跑一遍 cuda_check 再给两条优化建议大型程序首次启动时内核要现编译启动偏慢。可以用zluda_precompile 程序路径提前把 GPU 代码编译进缓存下次直接起飞编译 llama.cpp 时按官方建议指定 CUDA 架构 86 并开启 cuBLAS官方文档称此时可达原生速度卡住了看这里程序起不来、报缺库→ 先核对 AMD 驱动与 HIP SDK 版本HIP SDK 安装文档区分了官方版和 nightly 版的能力差异再跑 cuda_check 看具体哪个库没通过。应用崩溃或结果不对→ 用跟踪模式重新运行Windows 下加--zluda-trace参数zluda_trace 会记录每次 CUDA 调用的参数和返回值顺着 ZLUDA_LOG_DIR 目录下的日志定位是哪一步走的岔路方法见 日志排查文档。首次运行特别慢→ 通常是编译缓存为空属于正常现象跑一次zluda_precompile或把程序完整跑完一遍即可见 预编译文档。实际效果可以看这张图在 Steam 的启动选项里填入 zluda32 启动器游戏即可通过 ZLUDA CUDA 兼容层运行资源入口快速上手docs/src/quick_start.md常见问题docs/src/faq.md核心实现源码zluda/src/、PTX 编译器 compiler/项目 README 里有 Discord 社区入口问题反馈响应较快ZLUDA 适合手里有现成 CUDA 程序、手上却是 AMD 显卡的人从科研计算到本地大模型推理都能尝试。下载一个最新发布包跑通第一条 cuda_check剩下的交给时间。【免费下载链接】ZLUDACUDA on non-NVIDIA GPUs项目地址: https://gitcode.com/GitHub_Trending/zl/ZLUDA创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考