NAS 怎样使用 ai 项目？

完全没必要在本地跑大模型，因为大多时间一定是闲置的，但是可以在本地搭建自己的知识库、agent 等。

@guiyumin #12 NAS 就是一台常年开机的电脑而已，什么 NAS 有这限制那限制的，别胡扯了，听起来太滑稽

我是 NAS 去调用有显卡的台式机的 Ollama Server 来实现的

@guiyumin 核显性能也很一般，如果没有太多速度要求倒是可以考虑下。

@keller 知识库求推荐方案 很多个人笔记和行业规范需要用

@rockyastor 这个可以

https://lazycat.cloud/ 有个组合拳

哈哈， 我研究过这个，想要 all in 1 挺难的。 但是如果做简单的还是可以的，比如相册归类，人脸聚类，这个下载开源的 clip 模型都能做，跑 cpu 就是了，模型量化下，内存加大点就能跑了，后台慢慢跑，性能消耗还行；要是 ASR 也行，本地 ASR 模型 + ffmpeg 转码 也能后台跑， 要是知识库，也行， 上一些大的向量模型也行。 基本上来说就是速度问题， 如果你能接受 n150 之类的 cpu 模型推理速度， 那就能上， 如果你自己加 GPU ， 那当然是最好的，不然 nas 的低功耗 cpu 速度是真的慢

买块独显插上去呗，又不是没有 pcie 插槽

一看就知道楼主想买成品 nas ，自己组装不好吗，虽然现在硬件价格飙升就是了。装个 truenas 、unraid 之类的就行了，想复杂点就装个 pve 上去再装 nas 系统

请教一个问题：

请教一个问题：

能否 nas 安装 Dify ，nas 充当一个知识库的角色，
输入：
文档-》分段与清洗-》 nas

问答：
ai 问答-》知识检索-》 LLM 服务器-》回答

@DongFengPro 我在做一个项目 https://vget.io

有 cli 和 docker ，cli 里集成了 whisper 和 sherpa-onnx ，可以做语音转文字

但 docker 就复杂了，因为 docker 要面对的是 windows ，linux ，和 macos

macos 的 docker 是明确不能用 metal 的

linux 和 windows 可以用宿主机的 gpu ，但需要一些配置

然后我就了解到，大多数 nas 机器其实没有 gpu ，性能太差

所以我就来问问

现在大家的回复是，最靠谱就是用，如果真想用 gpu ，就不要用 nas ，而是单独配置一个机器带 gpu

我觉得这是可行的

@guiyumin 绿联的 iDX 有 ai 对话、音频转文字、总结之类的功能