nnkiirue99-maker/llm-memory-postmortem
Python
把 530M 的 ML 栈请出 Flask 主进程,顺便让语义检索快了 32 倍。一次真实排查的完整记录:怎么证伪内存泄漏、为什么拆进程而不换 ONNX、以及 profile 如何打脸我的直觉。
★ +7 today 7 total stars
Quality 90
🔥 19
把 530M 的 ML 栈请出 Flask 主进程,顺便让语义检索快了 32 倍。一次真实排查的完整记录:怎么证伪内存泄漏、为什么拆进程而不换 ONNX、以及 profile 如何打脸我的直觉。