nncase推理算子执行问题

Viewed 204

如果我的模型里部分算子是nncase尚未支持的,需要放在cpu上计算,那么具体每个算子是由kpu计算还是cpu计算的是如何进行指定的呢,是否支持手动指定?

1 Answers
  • 目前还未支持的算子也就只能CPU计算了
  • 如果该算子需要放在kmodel中执行,那么需要在nncase中实现该算子的kernel,否则需要将模型拆分,在代码中自行实现该算子功能

那如果已支持的算子也没有办法指定其在cpu中算呢,还是只能在nncase中删除对应的算子之后重新编译nncase

没懂啊,那如果已支持的算子也没有办法指定其在cpu中算呢什么意思啊

不好意思打错了,我意思是已经支持的算子 有没有办法指定其在cpu而不在kpu中计算,想用来做性能测试对比