CoreML 模型 ML Program 格式加载耗时比 Neural Network 格式长很多…

V2EX = way to explore

V2EX 是一个关于分享和探索的地方

现在注册

已注册用户请登录

iOS 开发实用技术导航

NSHipster 中文版

› http://nshipster.cn/

cocos2d 开源 2D 游戏引擎

› http://www.cocos2d-iphone.org/

CocoaPods

› http://cocoapods.org/

Google Analytics for Mobile 统计解决方案

› http://code.google.com/mobile/analytics/

WWDC

› https://developer.apple.com/wwdc/

Design Guides and Resources

› https://developer.apple.com/design/

Transcripts of WWDC sessions

› http://asciiwwdc.com

Cocoa with Love

› http://cocoawithlove.com/

Cocoa Dev Central

› http://cocoadevcentral.com/

NSHipster

› http://nshipster.com/

Style Guides

› Google Objective-C Style Guide

› NYTimes Objective-C Style Guide

Useful Tools and Services

› Charles Web Debugging Proxy

› Smore

我不知道是不是转换的问题，转换的脚本除了输出格式外其他完全一样，加载的时间差异在 15 倍以上…就算是初次加载这个时间也有点难以接受了，更何况图中还是中位数…

ML Program 格式性能

Neural Network 格式性能

有大手子指导一下么？非常感谢！

P.S. 已经提了 issue 暂时还没人管…

coreml

ML Program

Neural Network

1 条回复 • 2025-06-17 10:33:12 +08:00

keakon

31 天前

一些观点：
1. NN 图层更静态，加载时的动态处理较少。
2. INT8 等精度需要重新量化。
3. 支持 ANE 时会生成一个高度特化的 Metal-Shading-Language 内核，速度会慢一个数量级。第一次启动时可以使用 cpuAndGPU 的方式启动，后台再编译 cpuAndNeuralEngine 供后续加载加速。
4. ct.SpecializationStrategy.FastPrediction 可以减少设备特化时间。