61
文章
1
说说
135
标签
287
运行天数
最近更新
你好,LAN ISLAND
这是博客的第一篇文章,介绍这座小岛是怎么建起来的。
2026-01-01AI 与大模型大模型应用的可观测性:日志、指标与追踪
大模型应用出问题时,"哪里错了"往往比传统服务更难定位——可能是检索没召回、可能是 prompt 有歧义、也可能是模型本身的随机性。可观测性决定了你能不能快速找到原因。
2026-09-23AI 与大模型SSE 流式输出:让大模型边想边说
大模型生成一段长回答可能要十几秒,用户盯着空白页面会以为卡死。SSE 让内容边生成边推送,把"首字延迟"从十几秒压到一秒内。这篇文章讲清 SSE 的原理、实现和踩坑点。
2026-09-16AI 与大模型提示词工程:从"能跑"到"稳定"
写一个能出结果的 prompt 很容易,写一个在几百种输入下都稳定的 prompt 很难。这篇文章讲清结构化提示的要素、输出格式约束的方法,以及怎么用版本管理让 prompt 的改动可回溯。
2026-09-09AI 与大模型向量数据库选型:Milvus、Qdrant 与 pgvector
向量检索是 RAG 的地基,但选型不只是比性能。数据量级、是否需要混合检索、运维成本、能否复用现有数据库,这四个问题决定了答案。
2026-08-12AI 与大模型大模型应用的 Token 成本怎么算与控制
大模型应用的成本不只是"每次调用多少钱",而是输入、输出、重试、上下文膨胀共同决定的。这篇文章拆解成本的构成,并给出工程上真正有效的六个控制手段。
2026-07-08最新文章
全部文章你好,LAN ISLAND
这是博客的第一篇文章,介绍这座小岛是怎么建起来的。
大模型应用的可观测性:日志、指标与追踪
大模型应用出问题时,"哪里错了"往往比传统服务更难定位——可能是检索没召回、可能是 prompt 有歧义、也可能是模型本身的随机性。可观测性决定了你能不能快速找到原因。
SSE 流式输出:让大模型边想边说
大模型生成一段长回答可能要十几秒,用户盯着空白页面会以为卡死。SSE 让内容边生成边推送,把"首字延迟"从十几秒压到一秒内。这篇文章讲清 SSE 的原理、实现和踩坑点。
提示词工程:从"能跑"到"稳定"
写一个能出结果的 prompt 很容易,写一个在几百种输入下都稳定的 prompt 很难。这篇文章讲清结构化提示的要素、输出格式约束的方法,以及怎么用版本管理让 prompt 的改动可回溯。
LAN ISLAND - LAN ISLAND —— 记录技术、生活与灵感的个人小岛。文章、说说、摄影与项目。