概述 基于 Spark 的 vllm 推理,简单来说就是结合 Spark 的数据处理能力和 vllm 高性能的推理能力,为业务提供大规模的离线批量推理的能力。事实上,在大模型出来之前,类
概述 通过 Kubernetes 的方式部署 kube-prometheus-stack,一次性可以安装好包括 Node Exporter,Grafana,Prometheus
概述 open-local 通过 NodeLocalStorageInitConfig 决定如何对节点硬盘进行初始化,运维需要按照一定的规则定义盘符,云平台需要根据盘符规则定制不同介质的硬件。 盘符规则 当前的规则如下,
概述 绿联 NAS 的 Docker 管理平台提供的功能相对比较有限,比如无法管理 volumes,可以考虑使用功能更丰富的平台 portainer。 运行 绿联 NAS 在创建容
概述 现在很多 NAS 厂家产品里都会引入 Docker,因此用 Docker 来部署各种服务就变成了 NAS 的可玩性的一部分了。虽说 NAS 开始做 Docker 服务了,但是很多 NAS 在做这个 Docker
概述 因为工作原因,买了各种主机、微主机等设备在家中使用,主要都是用来做一些硬件或者 Kubernetes 相关的测试,机器多了,肯定就有管理的需求,以往在公司中,