首页
全部分类
Web
SQL
Life
Agent
Basic
Spider
DevSecOps
Architecture
全部标签
文章归档
友情链接
我的瞬间
我的插件
关于博主
留言板
PySuper
千里之行,始于足下
累计撰写
373
篇文章
累计创建
18
个标签
累计收到
2
条评论
栏目
首页
全部分类
Web
SQL
Life
Agent
Basic
Spider
DevSecOps
Architecture
全部标签
文章归档
友情链接
我的瞬间
我的插件
关于博主
留言板
目 录
CONTENT
以下是
PySuper
的文章
2025-08-30
从0到1:AI算法平台后端的DDD实践
为什么AI平台需要DDD 领域驱动设计(Domain-Driven Design,DDD)作为一种成熟的软件设计方法论,在处理复杂业务领域时展现出独特的优势 AI算法平台恰恰是一个业务复杂度极高的领域:模型管理、训练调度、推理服务、数据处理、权限控制等核心领域相互交织,传统的三层架构(Control
2025-08-30
10
0
0
Agent
2025-08-23
多租户AI平台:资源隔离与配额管理的设计思路
为什么多租户AI平台需要资源隔离 在企业级AI平台的建设过程中,多租户(Multi-Tenancy)架构是实现资源复用、降低成本、提高运营效率的关键设计 随着AI技术在不同业务线的广泛渗透,企业内部往往存在多个团队或业务部门需要共享AI基础设施的场景 然而,不同团队对GPU算力、模型服务、数据存储的
2025-08-23
8
0
0
Agent
2025-08-16
AI平台的数据管理:数据集版本化与血缘追踪
一、引言:数据管理面临的挑战 在AI平台的整个生命周期中,数据管理是决定模型质量的基础环节。然而,随着业务规模的扩大,数据管理面临着前所未有的挑战:数据集规模动辄TB级别,版本迭代频繁,数据血缘关系复杂多样,质量评估缺乏标准化流程。这些挑战不仅影响算法工程师的日常工作效率,更直接关系到模型训练效果的
2025-08-16
6
0
0
Agent
2025-08-09
大模型微调平台:LoRA/QLoRA 的工程化封装
一、为什么需要微调平台 大模型微调是一个工程化程度极高的任务 当你需要将通用大模型(如 GPT、Llama、Qwen)适配到特定业务场景时,会面临诸多挑战: 资源门槛高:7B 模型全量微调需要 2×80GB GPU,70B 模型需要 8×80GB,私有化部署成本动辄数十万 参数管理混乱:微调产生的
2025-08-09
8
0
0
Agent
2025-08-02
模型训练流水线:从数据准备到产出检查的全链路设计
一、为什么需要训练流水线 在机器学习项目的早期阶段,很多团队的训练流程是这样的:手动下载数据 → 手动清洗 → 手动训练 → 手动评估 → 手动部署 这种方式在小规模实验时看起来没问题,但随着项目发展,问题会接踵而至: 流程不可复现:同样的代码,这次跑出来效果好,下次可能因为某个环节的微小变化导致效
2025-08-02
9
0
0
Agent
2025-07-26
GPU 资源调度:K8s + Volcano 在AI场景下的实践
一、背景与痛点 1.1 GPU 资源调度的特殊性 在说 Volcano 之前,我想先聊聊 GPU 资源调度到底有什么特殊的 CPU 调度的核心问题是"计算能力分配",而 GPU 调度的核心问题是"稀缺资源的高效利用" 这听起来差不多,但实际差异巨大: ┌───────────────────────
2025-07-26
9
0
0
Agent
2025-07-18
AI Infra Platform 架构设计:算法平台
一、背景与定位 1.1 为什么要搭建 AI Infra Platform 算法工程师直接登录服务器,用Jupyter跑实验,训练完手动上传模型到生产环境。 听起来很原始,但确实够用——因为量小。 但当团队扩张到20人、50人、100人的时候,问题就暴露了: ┌────────────────────
2025-07-18
15
0
0
Agent
2025-07-12
AI 平台的可观测性:指标、日志、链路三位一体
一、为什么 AI 平台需要专门的可观测性方案 传统 Web 服务的可观测性已经相对成熟:监控 QPS、Latency、Error Rate 三大指标,配合 ELK 日志和分布式链路追踪,一套经典方案可以覆盖 90% 的问题排查场景。 但 AI 平台不一样。AI 平台的"请求"是 Token 序列,"
2025-07-12
12
0
0
Agent
2025-07-12
大模型落地的最后一公里:不是技术问题,是工程问题
在 AI 时代,很多人依然认为"有了大模型就有了一切"。 但现实是:大模型只是起点,真正的挑战在于如何把它变成可靠的产品。 这篇文章,我将系统阐述为什么 AI 落地的最后一公里是工程问题,以及如何解决这六个核心的工程挑战。 一、为什么 AI 项目死在"最后一公里"? 1.1 一个真实的故事 去年,我
2025-07-12
8
0
0
Agent
2025-07-05
Prompt 版本控制:比代码版本管理更复杂的那点事
在 LLM 应用开发中,Prompt 是连接用户需求与模型能力的核心桥梁 与传统的代码不同,Prompt 的管理和版本控制面临着独特的挑战:非确定性输出、上下文依赖、评估困难等问题 笔者在构建企业级 LLM 应用的过程中,积累了一些 Prompt 版本管理的经验 本文将深入探讨 Prompt 管理的
2025-07-05
9
0
0
Agent
1
...
5
6
7
...
36