自研底座是什么、如何安装

第 1 章 · 自研底座是什么、如何安装

本章目标：弄清 自研底座 与 小紫 AI 工作台 的分工；完成底座 v1.1.0 安装；准备 llama-server；记住顶栏 OpenAI 兼容地址，供 ch02 启动 与 ch03 工作台对接。

学时建议：2～3 小时（含下载 llama-server 与安装）

前置：quick-start ch02（登录）；本机有足够磁盘与内存（见 1.4）。

1.1 场景说明：想数据不出内网，却一直在用云端模型

工作台 = 写代码、SRX、审阅条；自研底座 = 在本机/内网跑大模型。两者用 OpenAI 兼容 HTTP 对接（如 http://127.0.0.1:8080/v1）。

1.2 学完你能

1.3 软件名称与下载

界面标题：小紫 AI 代码编辑器 · 模型引擎底座

安装包示例：小紫AI代码编辑器自研模型底座-1.1.0.exe

下载：贤紫优选官网 → 小紫代码编辑器页 → 自研底座安装包（Win/Linux/macOS）。

底座不含 GGUF 权重，需自备 .gguf 文件（ch02）。

1.4 系统要求

1.5 跟练 A：安装底座（Windows）

安装包：运行向导 → 自选目录 → 快捷方式 小紫AI代码编辑器自研模型底座

绿色版：解压 win-unpacked → 双击 exe

你应该看到：四页签界面（文本/视频/图片/向量）。

1.6 跟练 B：准备 llama-server（必做）

底座是 llama-server 管理壳，引擎需自备：

1. llama.cpp Releases
2. 无独显 → CPU/OpenBLAS 包；有 NVIDIA → 匹配 CUDA 版
3. 解压得 llama-server.exe + 全部 dll 同目录
4. 放入推荐目录或底座 llama-server → 浏览 指定：

1.7 首次界面与地址

顶栏示例：http://127.0.0.1:8080/v1 — 以界面为准，ch03 工作台要填一致。

1.8 实用技巧

跟练任务

1. 安装底座并打开四页签。
2. 下载 llama-server 到指定目录。
3. 写 local-deploy-notes/ch01.md 记录顶栏地址（启动前可先记默认 8080）。

自检清单

• [ ] 底座能启动
• [ ] llama-server 路径已指定
• [ ] 知不含 GGUF
• [ ] 知与工作台分工
• [ ] 英文路径

常见错误

本章小结

• 底座 = 本机推理；工作台 = 开发界面。
• 下一章 ch02：选 GGUF、Jinja 开、启动文本模型。