walledeo
本站致力于IT相关技术的分享
构建不可变推理单元 以 Packer 和 ASP.NET Core 赋能 Kubeflow 服务 构建不可变推理单元 以 Packer 和 ASP.NET Core 赋能 Kubeflow 服务
团队的 MLOps 平台最近遇到了一个棘手的瓶颈。我们的模型训练环境是清一色的 Python 技术栈，但绝大部分线上业务系统都构建在 .NET 之上。这就导致了一个持续的矛盾：当数据科学家交付一个 pickle 文件或一组 .py 脚本时，
2023-10-27 MLOps
ASP.NET Core Packer Kubeflow
通过JPA StatementInspector与ClickHouse构建高吞吐应用性能度量管道 通过JPA StatementInspector与ClickHouse构建高吞吐应用性能度量管道
我们的性能监控仪表盘彻底失效了。问题出在一个运行了数年的大型单体应用上，它基于Spring Boot和JPA/Hibernate。APM工具展示的P95响应时间曲线一片平稳，但客户支持团队收到的关于“系统卡顿”的投诉却在稳步增加。传统的日志
2023-10-27 数据工程与存储
可观测性 ClickHouse JPA/Hibernate Jupyter 性能优化
利用 Consul Session 与 KV 实现 Fastify 集群的滑动窗口速率限制 利用 Consul Session 与 KV 实现 Fastify 集群的滑动窗口速率限制
单体应用里的速率限制实现起来直截了当，一个内存中的哈希表加几行逻辑就能搞定。但在水平扩展的微服务架构里，这种方式立刻失效。每个 Fastify 实例都只维护自身节点的请求计数，无法对来自同一客户端的跨节点请求进行全局限制。这就导致实际的请求
2023-10-27 分布式系统
Consul 分布式一致性 Fastify 速率限制 Node.js
构建一套贯穿 Redux、Worker 线程与 SQLite 的 OpenTelemetry 追踪系统 构建一套贯穿 Redux、Worker 线程与 SQLite 的 OpenTelemetry 追踪系统
一台性能不错的开发机上，我们的 Electron 应用在处理一个本地数据集时出现了无法解释的卡顿。用户点击一个“生成报告”按钮后，UI 会冻结大约 500ms 到 800ms，然后才恢复响应。Chrome DevTools 的 Perfor
2023-10-27 可观测性
OpenTelemetry Jaeger Node.js SQLite Redux
构建基于 Pulsar 事件流的实时特征增强型 RAG 微服务架构 构建基于 Pulsar 事件流的实时特征增强型 RAG 微服务架构
要构建一个能应对生产环境复杂性的检索增强生成（RAG）系统，单纯依赖静态文档向量化是远远不够的。真正的挑战在于如何将非结构化的知识（文档）与实时变化的结构化数据（用户画像、商品状态等）高效融合，并以低延迟、高可用的方式提供服务。 一个常见的
2023-10-27 分布式系统
微服务 LlamaIndex Feature Store Pulsar
在 GKE 上构建基于服务网格与 Loki 的 mTLS 握手失败无侵入审计管道 在 GKE 上构建基于服务网格与 Loki 的 mTLS 握手失败无侵入审计管道
在生产环境中，一个分布式系统中最难以排查的问题，往往不是代码逻辑的 bug，而是网络层面的幽灵。当一个服务调用在日志中简单地留下一句 connection reset by peer 或 upstream request timeout 时
2023-10-27 云原生
Loki GCP GKE mTLS 分布式与中间件
4 / 5