@yuanfangm
yuanfang 暂无简介
k8s部署vllm-ascned模型推理服务(DeepSeek-V3.1)
AISBench工具配套LLM的精度&性能评测组件,用于全流程大模型评测以及生成式大模型结果多维分析。
一款基于 Netty+Kyro+Zookeeper 实现的自定义 RPC 框架(附详细实现过程和相关教程)。