标签: #가지치기
用亲手运行、亲手测量的数据来写 Kubernetes、DevOps 与 MLOps · 1 篇
打造小模型：深度可分离卷积、剪枝、蒸馏，以及 EfficientTAM
如果降低精度并交给编译器优化仍不够用，我们就必须把模型本身做小。本文将探讨把卷积拆分为空间视角（3×3 深度）和通道混合（1×1）的 MobileNet，同时提升深度、宽度和分辨率的 EfficientNet，将权重归零的剪枝，以及让小模型模仿大模型输出的蒸馏。在笔记本电脑 CPU 上的实测显示，深度可分离卷积将乘加运算减少了 8.4 倍，但时间仅缩短了 1.6 倍；而将 90% 的权重随意归零的剪枝在稠密乘法下耗时保持不变，若转换为稀
2026-10-15 · 17 分钟阅读 #비전 모델#실시간#MobileNet#EfficientNet#가지치기