最近我把手头那台龙芯3A6000的台式机彻底当成了主力机在用，日常聊天问答、写摘要、改代码片段，几乎都绕不开这个叫“芯语”的入口。严格说，芯语是一个跑在龙芯平台上的AI应用商店，把AI聊天、智能体、本地模型这类东西做成了能一键安装、统一管理的应用体系。如果你手里正好有一台龙芯电脑，想试试AI相关玩法却不知道从哪下手，这篇指南就是我按自己从零开始的路径整理的。里面不会有废话，全是我实际装过、跑过、踩过坑之后留下的结论。

我写这篇文章的另一个原因也很直接：龙芯生态这两年确实在变好，但AI工具链的缺口仍然明显。普通用户想在一台LoongArch机器上装个对话机器人，可能要自己编译、找依赖、下模型，光环境搭建就能劝退大半的人。芯语这种应用商店把“找应用、装依赖、配模型”这几件事收口了，体验上更接近手机上装App，而不是在Linux命令行里跟一堆源码搏斗。下面按从安装到实战的顺序往下说。

1. 芯语 CAP 到底是什么

1.1 名字拆开看：芯语、CAP、龙芯分别扮演什么角色

先说名字。芯语这两个字，字面意思是“芯片的语言”，放在龙芯平台上非常贴切——它解决的就是“怎么让龙芯听懂人话”这件事。用户在商店里装一个AI应用，本质上就是在龙芯和用户意图之间加了一层能够自然语言交互的中间件。

CAP在官方资料里我看到的解读是 Complete AI Platform，也就是“完整AI平台”。不过我自己用下来，更喜欢把这三个字母记成三类应用方向：C是Chat，也就是对话问答类；A是Agent，也就是能跑多步骤任务的智能体；P是Plugin和Pipeline，偏向工具和自动化流程。这个记法不权威，但对新手理解商店里那些五花八门的应用非常有用。你在商店里看到的绝大部分App，基本都能归入这三类中的某一类。

龙芯在其中的角色很明确：它是这套东西的硬件底座。目前芯语侧重支持的是LoongArch64架构的龙芯桌面处理器，比如3A5000、3A6000这一代，以及3C5000、3D5000这类面向工作站和服务器场景的产品。这个架构前提非常重要，后文所有软件包选择、命令操作都围绕它展开。

1.2 为什么龙芯平台上需要这样一个 AI 应用商店

一个很现实的情况是：龙芯CPU现在的性能已经能流畅运行主流桌面办公、浏览器和开发环境，但AI应用生态仍然稀碎。你如果用x86电脑，想装AI工具可以走Windows软件、Linux发行版仓库、Docker镜像、Pip包等多条路；切到龙芯后，很多预编译包跑不了，需要源码重新编译，而AI涉及的编译链又长，动辄涉及多个依赖库，新手很难一次搞定。

芯语这类商店解决的是三个层面的问题。第一是“找得到”，把散落在GitHub、模型社区、各发行版仓库里的AI工具集中到一个入口，做了人工筛选和适配标注；第二是“装得上”，安装时自动处理依赖关系和架构匹配，不用你自己记住哪个lib版本对应哪个系统；第三是“跑得顺”，商店内置了运行环境管理，包括推理引擎检测、模型下载、API参数配置，把技术门槛往下压了一大截。

你可以把它类比成微软商店或者星火应用商店的角色，只不过它垂直聚焦在AI场景，而不是做一个“什么都有一点”的大杂烩商店。对刚接触龙芯平台的人来说，这种垂直商店的价值恰恰在于：不用懂底层原理，先把东西用起来。

2. 动手安装之前，先把这三件事确认清楚

2.1 硬件门槛：你手里的龙芯机器够不够用

我接触到的芯语版本对硬件的要求不算苛刻，但也不是所有龙芯机器都能流畅跑大模型。关键在于内存，而不是CPU频率。AI应用尤其是本地推理场景，模型启动后会整个加载进内存，7B参数级别的4bit量化模型大概要占用5GB左右内存，加上系统本身和浏览器，8GB内存的机器跑起来会很紧张。

整理一张参考表，方便你对号入座：

我自己是3A6000加16GB DDR4内存，跑7B量化模型大概是5到8个token每秒，能对话，但不算快；换成1.5B的小模型能到每秒20到30个token，日常聊天完全够用。如果你手里的机器是早期龙芯加上小内存，我的建议是先用云API模式把这套东西跑起来，本地推理的坑后面有条件再填。

2.2 系统和架构：认准 loongarch64 能少走一半弯路

芯语跑在Linux环境下，支持的主要是龙芯官方和维护方常用的几类发行版，包括Loongnix、统信UOS的龙芯版、麒麟V10适配版等。本质上只要系统是64位LoongArch架构，安装思路都是相通的。

安装前务必确认架构。打开终端执行一下：

uname -m

如果输出是 loongarch64，恭喜，这就是正确的架构平台。我看到很多人第一次装错，都是在这个环节栽了跟头：拿着x86_64的包强行安装，然后报一堆莫名其妙的错误。记住一个原则——在龙芯平台上，凡是下载软件包，认准文件名里带 loongarch64 的版本；rpm包和deb包都遵循这个规律。

另外建议检查内核版本，最好在5.10以上。芯语的运行服务和部分推理引擎用到了较新的内核特性，旧内核下可能出现装上了、但服务起不来的情况。

2.3 网络环境：下载慢和断网场景怎么应对

芯语商店本体不大，安装包一般在几百MB级别；但如果你要下载AI模型，那就要按GB来算了。所以网络这块提前处理好，后面会省心很多。

如果你用的是Loongnix这类自带软件源的发行版，建议先把系统软件源换成国内镜像，执行apt更新也比默认源快不少。换源操作各家发行版大同小异，核心就是把源地址改成清华大学、中科大等镜像站的对应路径，改完后执行更新命令验证。

有些用户在公司或校园内网环境下，访问外网受限，这时候可以走离线路线：在一台能正常访问网络同构机器上下载好芯语的安装包和依赖包，再拷到龙芯机器上手动安装。芯语安装包格式分deb和rpm两种，按目标系统选，离线安装时记得把依赖一起备齐，不然安装到一半会因为缺少共享库而中断。

3. 新手完整安装流程：从拿到安装包到第一次启动

3.1 三种获取安装包的方式，推荐走命令行

方式一是图形化软件中心安装。Loongnix和UOS都自带软件中心，在里面搜“芯语”或“xinyu”，找到后点安装即可。这是最直观的方式，适合不习惯用命令行的读者。

方式二是命令行安装，这也是我推荐的方式，因为出错信息更明确、过程可回溯。在终端里执行：

sudo apt install xinyu-cap

如果你的系统是rpm系，比如某些麒麟衍生版本，用：

sudo yum install xinyu-cap

具体安装包名以你系统软件源里的实际名字为准，但前缀通常是 xinyu。

方式三是下载离线安装包。到芯语官方发布页找到对应 loongarch64 的deb或rpm文件，用wget下载：

wget https://example.com/path/xinyu-cap_xxx_loongarch64.deb

下载时注意核对架构字段，这一步错了后面全白做。

3.2 安装执行：deb 和 rpm 两条路径的细节

deb系统下，手动安装安装包并让系统自动修复依赖可以用这两条命令：

sudo dpkg -i xinyu-cap_xxx_loongarch64.deb sudo apt-get install -f

第一条命令是安装核心包，第二条作用是自动补装缺失的依赖。这个组合很关键，很多新手只执行第一条，结果报依赖缺失就以为失败了，其实加上第二条就解决了。

rpm系统下用：

sudo rpm -ivh xinyu-cap_xxx_loongarch64.rpm

或者直接让yum处理依赖：

sudo yum localinstall xinyu-cap_xxx_loongarch64.rpm

对比下来，localinstall方式更省心，因为它会同时检查并安装依赖。

安装完成后验证一下：

which xinyu-cap xinyu-cap --version

能正常输出版本号，就说明安装成功。

3.3 首次启动：数据目录、账号和运行模式的选择

启动时执行 xinyu-cap，或者直接在应用菜单里点“芯语”图标。首次启动会让你做几个初始化选择，别急着一路默认，先逐项看清楚。

第一项是数据目录。芯语会把下载的模型、日志、配置文件存放在这个路径下。如果系统盘空间紧张，务必把数据目录指到空间充裕的分区，最好是SSD，模型的读取速度会直接影响到本地推理性能。

第二项是登录账号。我用的是本机账号免注册模式，也支持手机号和邮箱登录。如果你后续要同步云端配置或多设备使用，可以注册登录；如果只是本机用，本地账号就够了。

第三项是运行模式。我建议新手先选“云端API优先”模式，也就是后续App通过API调用云端大模型，本机只负责界面和请求转发。这样安装门槛最低，也最容易出效果。本地推理引擎可以等商店跑通之后再去“模型库”里后补安装，两种模式切换是动态的，不用二选一。

4. 核心功能实战：装应用、接模型、跑本地推理

4.1 逛商店的正确方式：看懂分类和标识信息

芯语首页布局很接近普通应用商店：顶部搜索栏，下方是分类标签和推荐卡片。我建议你刚开始不要急着点“安装全部”，先看应用卡片上的标识信息。

卡片一般会标出：应用类型（对应上面说的Chat/Agent/Pipeline）、运行模式（云端还是本地）、体积大小、内存要求。选App时先对照自己的硬件条件，比如一个标注“推荐16GB以上内存”的本地推理工具，你就别拿到8GB内存的机器上硬装。

商店里的应用数量目前不算庞大，但覆盖了主流方向：对话助手、论文阅读、代码补全、智能体编排、AI绘画出图、语音转写等。这些应用的安装过程都是点击式，装完之后应用图标会出现在“我的应用”列表里。这一步的体验和手机上装App非常接近，没什么学习成本。

4.2 把第一个AI聊天应用跑起来：以接入DeepSeek为例

我装的第一类应用是对话类。商店里搜“聊天”或“Chatbox”，选一个下载量高的装上。这一步顺利结束后，你会遇到芯语使用中最重要的一个环节：配置模型服务。

当前大多数后端大模型是通过API方式提供的，也就是说应用本身只是一个外壳，真正回答你问题的是远端模型。以DeepSeek为例，你要先到它的开放平台注册账号、创建API Key。拿到Key之后，回到芯语的“模型接入”设置页，填入三项核心信息：模型服务商、API地址、API Key。

如果你更习惯命令行，也可以在终端里直接写入配置：

xinyu config set model.provider deepseek xinyu config set model.base_url https://api.deepseek.com xinyu config set model.api_key sk-你的密钥

配置完成后回到对话窗口，随便问一句验证。能正常回复，说明整条链路已经打通。

这里提醒一句：API Key相当于你的钱包凭证，不要截图发到群里，也不要写进会提交到Git仓库的配置文件里。芯语支持Key的单独管理，建议统一在设置面板里维护。

4.3 本地推理：用 llama.cpp 在龙芯上跑量化模型

云端API模式什么都好，唯一的硬伤是要联网，以及按调用量计费。如果你在离线环境，或者想把对话数据留在本机，就得走本地推理路线。龙芯平台上目前最成熟的方式是llama.cpp，它针对LoongArch64做过向量指令适配，比通用方案快不少。

先在系统里装好编译工具链：

sudo apt install git cmake gcc g++

然后拉源码并编译：

git clone https://github.com/ggml-org/llama.cpp.git cd llama.cpp mkdir build && cd build cmake .. -DCMAKE_BUILD_TYPE=Release make -j4

-j4 后面的数字按CPU核心数调整，龙芯3A6000是4核，跑 -j4 正好。

编译完成后，去下载一个量化模型。推荐先试Qwen2.5系列的小尺寸版本：

wget https://huggingface.co/Qwen/Qwen2.5-1.5B-Instruct-GGUF/resolve/main/qwen2.5-1.5b-instruct-q4_k_m.gguf

如果这个文件的下载速度不理想，可以换成国内可用的镜像地址，文件名和目录结构保持一致。模型下好后，运行：

./llama-cli -m /path/to/qwen2.5-1.5b-instruct-q4_k_m.gguf -p "请用三句话介绍龙芯处理器" --ctx-size 2048 -t 4

旧版本的llama.cpp里这个命令叫 main，新版本改成了 llama-cli，如果你用的是老版本记得调整命令名。看到模型输出回答，本地推理链路就算正式打通了。

4.4 从聊天到干活：智能体与Pipeline工作流应用

只聊天的AI用久了，你会想让它干点实际的事，这就轮到Agent和Pipeline类应用登场了。Agent类应用的特点是能拆解复杂任务，比如你可以让它“读一遍本地文本文件，提炼出要点，再写一份待办清单保存到指定目录”。它内部会完成读取、分析、生成、写入几个步骤的串联。

芯语商店里的Agent编排工具通常以可视化方式拖拽组成流程，不需要写代码。Pipeline类应用则更接近批处理，比如固定每天把某个文件夹里的新文档做摘要并归档。这类应用对龙芯平台的适配做得越深，跑起来越顺，选的时候看它是否标注了“LoongArch原生支持”。

编程辅助类应用值得单独提一下。我常用的方式是：让AI帮我写一段处理文本的Python脚本，或者解释一段不熟悉的代码。这类应用本质上也是Chat壳子，但在上下文处理上针对代码做了优化。对刚迁移到龙芯平台、还在熟悉LoongArch生态的开发者来说，这个工具能省下大量翻文档的时间。

5. 常见问题与排查技巧实录

5.1 安装期翻车现场：依赖、架构、源都可能是坑

装芯语的过程中，最容易出问题的是下面几种情况，我直接整理成速查表：

最隐蔽的坑是架构混淆。有朋友把arm64的包当成loongarch64装，结果系统提示架构不支持，他还以为是包坏了。记住：龙芯桌面平台认准 loongarch64，其他都不用试。

5.2 运行期的四个高频问题

商店跑起来之后，问题主要集中在闪退、乱码、连不上和卡顿四类。

闪退先查日志。芯语的日志默认放在数据目录下的logs文件夹，具体路径是 ~/.local/share/xinyu/logs 或你自定义的数据目录。打开最新的日志文件，搜索“error”关键字，多半能直接看到缺失的库或者崩溃的模块。按日志提示补装对应依赖即可，不用瞎猜。

中文显示成方块或乱码，原因是系统缺少CJK字体。安装Noto字体基本能解决：

sudo apt install fonts-noto-cjk

API服务连接超时，多数情况下是网络出口受限或配置的API地址不对。逐项检查：API地址是否以https开头、有没有多余的斜杠、Key是否有余额。如果这三个都没问题，再确认系统时间和实际时间一致，时间偏差会导致鉴权失败，这是我踩过的一个冷坑。

本地推理速度突然变慢，看一下系统内存是不是被其他应用占满了。把浏览器标签页关一批，或者降低模型的上下文长度选项，速度会明显回升。

5.3 几个值得记住的实操心得

先说数据目录。模型动辄好几个GB，一定要放在独立数据盘或大分区里，别和系统盘挤在一起。我刚开始没注意，把模型下到了默认路径，结果系统盘空间告急，连系统更新都跑不动了。

然后是模型的尺寸选择。不要在8GB内存机器上尝试跑7B模型，那是自找麻烦。1.5B到3B的量化模型在小内存机器上体验要好得多。按我的经验：16GB内存在龙芯平台上是一个分水岭，过了这条线，本地推理才谈得上可用。

第三是定期更新。芯语这个项目还在快速迭代期，新版本经常会修掉一些特定架构下的兼容问题。用命令定期更新一下：

sudo xinyu-cap update

最后说一点整体感受。我个人折腾了小半个月，最舒服的搭配是白天用云端API处理文档摘要和代码补全这类重活，晚上断网后开本地1.5B小模型聊聊天。两条路线互补，既不心疼API费用，也不会因为离线就完全没法用AI。芯语把这两种模式统一在一个入口里管理，是我觉得它作为龙芯生态AI应用商店最实在的价值。你手里若正好有龙芯机器，不必等生态完全成熟，先按这篇内容把安装和应用跑通，后面每一步都会顺畅很多。