ssurui ee9b1153d5 docs: 新增拍照提问模式设计方案(feature_pic 分支)
只有设计文档,未修改任何业务代码。核心结论:摄像头硬件已具备
(两个标准 USB UVC 摄像头),但当前 er_backend 加载的模型是纯文本
模型(现场查证 llama-server 日志 allow_image=0),视觉能力是否可用
需要跨团队确认,是本功能唯一的硬阻塞项。

Co-Authored-By: Claude Sonnet 5 <noreply@anthropic.com>
2026-09-03 14:26:29 +08:00

elec_rag_ui — 智能电子手册前端

基于 Electron + Vue3 + TypeScript + LanceDB 构建的本地化 RAG(检索增强生成)桌面应用。

仅支持 Linux(银河麒麟 Kylin V10 / Ubuntu),适配 ER160(揽月 M50 NPU)和 ER25(芯动力 RPP)计算卡。服务进程管理委托给 er_backend(HTTP 17700),前端专注 RAG 逻辑与用户交互。

技术栈

  • 框架:Electron + electron-vite + Vue3 + TypeScript
  • UI:Naive UI(弹窗/通知)+ 自定义工业风 CSS
  • 状态管理:Pinia
  • 向量数据库:LanceDB(嵌入式,无需额外服务)
  • 本地向量化:@huggingface/transformers + onnxruntime-node
  • 生成引擎:llama.cpp server(通过 er_backend 管理)
  • Markdown 渲染:marked

支持硬件

计算卡 嵌入方式 生成方式
ER160(揽月 M50 NPU) llamacpp NPU(默认)或本地 CPU llamacpp
ER25(芯动力 RPP) 本地 CPU(固定) llamacpp

推理请求(生成 + 嵌入)统一经 er_backend 代理转发(http://127.0.0.1:17700),实际 llama-server 监听哪个端口由 er_backend 后端配置决定,前端不感知、也不需要按计算卡型号推导端口。

目录结构

elec_rag_ui/
├── src/
│   ├── main/               # Electron 主进程
│   │   ├── index.ts        # 入口:全屏启动、菜单禁用、信号处理
│   │   ├── config.ts       # 配置读写(userData/config.json)
│   │   ├── ipc/            # IPC 处理器
│   │   └── rag/            # RAG 核心逻辑
│   ├── preload/index.ts    # contextBridge
│   ├── renderer/           # Vue3 前端
│   │   └── src/
│   │       ├── App.vue     # 根布局(顶栏 + 主区)
│   │       ├── components/ # ChatPanel / IndexPanel / SettingsModal 等
│   │       ├── stores/     # Pinia store
│   │       └── types/      # TypeScript 类型定义
│   └── batch_questions.txt # 批量测试问题示例
├── models/                 # 本地模型(onnx 由 Git LFS 管理)
│   ├── bge-small-zh-v1.5/  # 嵌入模型(512 维,~24MB),本地 CPU 向量化回退用
│   └── asr/                # Paraformer 流式语音识别模型(~376MB)
├── docs/                   # 示例文档(用于测试索引与问答)
├── resources/              # 应用图标、TTS/ASR worker
├── stubs/sharp/            # sharp 原生模块 stub
├── package.json
├── electron-builder.config.ts
└── electron.vite.config.ts

依赖:er_backend

本应用依赖 er_backend(端口 17700)管理 llama-server 推理服务进程。启动前请确保 er_backend 已运行:

# PAD 上
cd /opt/er-backend
nohup ./node/node manager/index.js &

# 或通过 systemd(deb 安装后自动配置)
systemctl status er-backend

er_backend 管理界面:http://<PAD-IP>:17700(配置模型路径、启动/停止服务)

模型文件

models/ 目录中的 .onnx 文件通过 Git LFS 管理。克隆后拉取实体文件:

git lfs install
GIT_SSL_NO_VERIFY=true git lfs pull

语音识别默认不带自动加标点(标点恢复模型未随包分发);如需要可自行准备 sherpa-onnx punct 模型, 在设置里把"标点恢复模型目录"指过去即可,代码本身已支持该功能。

开发模式

npm install
npm run dev:linux    # Linux(--no-sandbox,开发专用)

开发模式下需要设置 DISPLAY 环境变量(有图形界面时自动可用)。

打包

npm run package:kylin            # Linux x64,产出 AppImage + .deb
npm run package:kylin:arm64:deb  # Linux ARM64 deb(推荐,须在 ARM64 机器/真机上执行,已验证可行)
npm run package:kylin:arm64      # Linux ARM64(AppImage + deb),真机 Kylin 上 deb 目标
                                  # 走 electron-builder 自带 fpm 必现 tar failed,
                                  # 用 package:kylin:arm64:deb 代替

数据存储

内容 路径
配置文件 ~/.config/elec_rag_ui/config.json
向量数据库 ~/.config/elec_rag_ui/lancedb/

许可证

MIT License

Description
No description provided
Readme 646 MiB
Languages
F* 42.2%
TypeScript 33.8%
Vue 18.5%
JavaScript 2.4%
CSS 2%
Other 1.1%