Compiler le modèle CoreML

Cet article est traduit du document anglais Compile CoreML Models
par Joshua Z. Zhang , Kazutaka Morita , Zhao Wu
Plus de documents chinois TVM sont accessibles → Apache TVM est un cadre de compilation d'apprentissage en profondeur de bout en bout, adapté aux CPU, GPU et diverses puces d'accélération d'apprentissage automatique. | Site chinois Apache TVM

Cet article décrit comment déployer des modèles CoreML avec Relay.

Installez d'abord le module coremltools, qui peut être installé rapidement via pip :

pip install -U coremltools --user

Ou consultez le site officiel : https://github.com/apple/coremltools

import tvm
from tvm import te
import tvm.relay as relay
from tvm.contrib.download import download_testdata
import coremltools as cm
import numpy as np
from PIL import Image

Charger un modèle CoreML pré-entraîné

Cet exemple utilise le réseau de classification mobilenet pré-entraîné fourni par Apple.

model_url = "https://docs-assets.developer.apple.com/coreml/models/MobileNet.mlmodel"
model_file = "mobilenet.mlmodel"
model_path = download_testdata(model_url, model_file, module="coreml")
# 现在磁盘上有 mobilenet.mlmodel 模型
mlmodel = cm.models.MLModel(model_path)

image de test de charge

Toujours en utilisant des images de chat :

img_url = "https://github.com/dmlc/mxnet.js/blob/main/data/cat.png?raw=true"
img_path = download_testdata(img_url, "cat.png", module="data")
img = Image.open(img_path).resize((224, 224))
# Mobilenet.mlmodel 的输入是 BGR 格式
img_bgr = np.array(img)[:, :, ::-1]
x = np.transpose(img_bgr, (2, 0, 1))[np.newaxis, :]

Compiler le modèle sur Relay

Vous devriez maintenant être plus familier avec le processus.

target = "llvm"
shape_dict = {"image": x.shape}

# 解析 CoreML 模型，并转换为 Relay 计算图
mod, params = relay.frontend.from_coreml(mlmodel, shape_dict)

with tvm.transform.PassContext(opt_level=3):
    lib = relay.build(mod, target, params=params)

Résultat de sortie :

/workspace/python/tvm/driver/build_module.py:268: UserWarning: target_host parameter is going to be deprecated. Please pass in tvm.target.Target(target, host=target_host) instead.
  "target_host parameter is going to be deprecated. "

Exécuter sur TVM

Le processus est le même que pour les autres exemples.

from tvm.contrib import graph_executor

dev = tvm.cpu(0)
dtype = "float32"
m = graph_executor.GraphModule(lib["default"](dev))
# 设置输入
m.set_input("image", tvm.nd.array(x.astype(dtype)))
# 执行
m.run()
# 得到输出
tvm_output = m.get_output(0)
top1 = np.argmax(tvm_output.numpy()[0])

Rechercher le nom de l'ensemble de taxonomie

Dans un ensemble de classification de 1000 classes, trouvez la première avec le score le plus élevé :

synset_url = "".join(
    [
        "https://gist.githubusercontent.com/zhreshold/",
        "4d0b62f3d01426887599d4f7ede23ee5/raw/",
        "596b27d23537e5a1b5751d2b0481ef172f58b539/",
        "imagenet1000_clsid_to_human.txt",
    ]
)
synset_name = "imagenet1000_clsid_to_human.txt"
synset_path = download_testdata(synset_url, synset_name, module="data")
with open(synset_path) as f:
    synset = eval(f.read())
# 结果应为 Top-1 id 282 class name tiger cat
print("Top-1 id", top1, "class name", synset[top1])

Résultat de sortie :

Top-1 id 282 class name tiger cat

Téléchargez le code source Python : from_coreml.py

Télécharger le bloc-notes Jupyter : from_coreml.ipynb