Kuma
  • 首页
  • 归档
  • 分类
  • 标签
  • 关于

基于vLLM与SGLang部署DeepSeek-r1-32B模型

1 前言个人体验DeepSeek-R1时可以采用ollama部署,操作过程比较简单,一键部署运行,但是这种方式的灵活性与可扩展性较低,可能无法与企业现有架构和工具链相匹配,因此企业中部署时通常不会采用这种方式 下面介绍一种生产可用的部署方式,基于vLLM/SGLang部署DeepSeek-R1-1.5B及DeepSeek-R1-32B模型,并部署Open-WebUI测试与模型进行问答,测
2025-07-02
LLM > 模型部署
#LLM

k8s集群更新证书

1 前言通过kubeadm部署k8s集群时,除ca证书有效期为10年外,其他证书的有效期仅为1年。 1234567891011121314151617181920# kubeadm certs check-expiration[check-expiration] Reading configuration from the cluster...[check-expiration] FYI: You
2024-08-12
kubernetes > 集群维护
#kubernetes

MinIO基于Linux部署

1 前言目前使用Minio作为对象存储非常普遍,本文根据MinIO官方文档说明,进行了MinIO在Linux上的部署。 共有三种方式: 单节点单磁盘:Single-Node Single-Drive 单节点多磁盘:Single-Node Multi-Drive 多节点多磁盘:Multi-Node Multi-Drive 同时给出了Nginx代理说明 2 单节点单磁盘(Single-Node S
2024-08-02
存储 > MinIO
#MinIO

搜索

Hexo Fluid
总访问量 次 总访客数 人