人工智能深度学习算子库CANNAscend【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址https://gitcode.com/cann/asc-devkit点击查看免费下载本文围绕 asc-devkit 算子调测Tiling 调测工具链中的context_ascendc::ContextBuilder::SetOpNameType接口展开说明其函数原型、参数含义与返回值语义并结合开源仓库源码剖析其底层调用链、默认值行为以及与OpTilingRegistry按算子类型查找 Tiling 函数之间的关系。读完后你可以独立编写可运行的 Tiling 调测代码为手动构造的TilingContext正确设置算子身份并将opType与注册表机制正确对应。一、功能定位Tiling 调测中的算子身份设置在算子开发流程中Tiling 函数计算分块参数的 Host 端函数通常运行在运行时上下文中难以脱离推理框架单独调试。asc-devkit 为此提供了 Tiling 调测能力ContextBuilder类提供一系列 Builder 风格 API支持手动构造TilingContext来验证 Tiling 函数以及手动构造KernelContext来验证TilingParse函数见 Tiling 调测 ContextBuilder 简介。在手动构造TilingContext时必须让上下文携带正确的算子身份即算子名字opName与算子类型opType。SetOpNameType正是承担这一职责的接口属于OpInfo算子信息分组与NodeIoNum、IrInstanceNum、AddInputTd、AddOutputTd、AddAttr等接口共同描述这是一个什么算子、有多少输入输出、有哪些属性是TilingContext构建链路的起始信息之一通常与NodeIoNum、IrInstanceNum搭配使用返回ContextBuilder自身的引用支持链式调用。接口声明位于 ContextBuilder 公开头文件ContextBuilder SetOpNameType(const std::string opName, const std::string opType);二、函数原型与参数说明函数原型ContextBuilder SetOpNameType(const std::string opName, const std::string opType)参数说明参数输入/输出说明opName输入算子名字。通常对应图中节点的实例名例如自定义算子在图中的节点名用于日志定位与调试标识opType输入算子类型。对应注册到算子实现空间OpImplSpace中的算子类型名是 Tiling 函数注册与查找的关键键值返回值说明当前ContextBuilder的对象即以引用形式返回调用者自身支持链式调用。约束说明文档未定义额外约束。从源码看内部仅通过ASCENDC_ASSERT检查实现指针impl_非空异常时会输出impl_ is nullptr!错误日志并提前返回。三、源码剖析SetOpNameType 的调用链与默认值行为3.1 公开接口层断言 委托 链式返回SetOpNameType在 ContextBuilder 实现文件 中的实现非常简洁ContextBuilder ContextBuilder::SetOpNameType(const std::string opName, const std::string opType) { ASCENDC_ASSERT(impl_ ! nullptr, return *this, CXT_ASCENDC_LOGE(impl_ is nullptr!)); impl_-SetOpNameType(opName, opType); return *this; }这体现了ContextBuilder整体采用的 pimpl指针到实现 链式调用设计公开类内部持有std::unique_ptrContextBuilderImpl impl_见 context_builder.h每个 Setter 都先做非空断言再委托给ContextBuilderImpl最后return *this保证整条链式调用不断开。3.2 实现层写入 tilingCtxBuilder_ 的 OpName/OpTypeContextBuilderImpl 的实现 中SetOpNameType被拆解为两个底层动作写入gert::OpTilingContextBuildervoid ContextBuilderImpl::SetOpNameType(const std::string opName, const std::string opType) { ASCENDC_ASSERT(tilingCtxBuilder_ ! nullptr, return, CXT_ASCENDC_LOGE(tilingCtxBuilder_ is nullptr!)); tilingCtxBuilder_-OpName(opName.c_str()); tilingCtxBuilder_-OpType(opType.c_str()); }ContextBuilderImpl内部维护两个底层 Builder见 context_builder_impl.hgert::OpKernelContextBuilder kernelCtxBuilder_面向KernelContext验证 TilingParse 函数gert::OpTilingContextBuilder tilingCtxBuilder_面向TilingContext验证 Tiling 函数。因此可以确认SetOpNameType只影响 TilingContext 构建链路。这与接口分组一致——它声明在头文件的 OpInfo 区域而BuildTilingContext()才消费tilingCtxBuilder_累积的信息。3.3 默认值行为不调用 SetOpNameType 时会发生什么从源码结构看ContextBuilderImpl 构造函数 中已经为两个底层 Builder 预设了占位身份ContextBuilderImpl::ContextBuilderImpl() { kernelCtxBuilder_ std::make_uniquegert::OpKernelContextBuilder(); tilingCtxBuilder_ std::make_uniquegert::OpTilingContextBuilder(); tilingCtxBuilder_-OpName(default_name).OpType(default_type).IONum(1, 1); tilingCtxBuilder_-CompileInfo(default_compileinfo).PlatformInfo(default_platforminfo); kernelCtxBuilder_-OpName(default_name).OpType(default_type).IONum(1, 1); }也就是说即使不调用SetOpNameType构造出的TilingContext也会携带opName default_name、opType default_type的占位身份。这意味着在纯调测场景Tiling 函数不依赖算子身份做逻辑分支下SetOpNameType可以省略但如果你要复现真实算子行为Tiling 函数或后续流程可能读取 opType 做实现选择应显式传入真实的算子类型名避免使用default_type占位。四、opType 的深层作用与 OpTilingRegistry 的注册表查找机制联动opType之所以是关键参数是因为 Tiling 调测体系中还有一个配套类OpTilingRegistry它负责按算子类型查找已注册的 Tiling 函数。查看 OpTilingRegistry::GetTilingFunc 的实现TilingFunc OpTilingRegistry::GetTilingFunc(const char* opType) const { auto registry gert::DefaultOpImplSpaceRegistryV2::GetInstance().GetSpaceRegistry(); const gert::OpImplKernelRegistry::OpImplFunctionsV2* funcs; if (registry nullptr) { CXT_ASCENDC_LOGD(failed to find implfuncs in 2.0 way, registery is null. op type is %s., opType); return nullptr; } funcs registry-GetOpImpl(opType); if (funcs nullptr || funcs-tiling nullptr || funcs-tiling_parse nullptr) { return nullptr; } CXT_ASCENDC_LOGD(find implfuncs in 2.0 way, op type is %s., opType); return funcs-tiling; }从源码结构看GetTilingFunc(opType)以opType 字符串作为键在DefaultOpImplSpaceRegistryV2注册表中查找对应的tiling函数指针前提是tiling与tiling_parse均已注册。这提示了SetOpNameType使用时的一个重要实践点传入的opType应与算子在注册表/框架中登记算子类型保持一致否则后续按 opType 取 Tiling 函数会得到nullptr调试流程走不通OpTilingRegistry还支持LoadTilingLibrary(tilingSoPath)动态加载算子 Tiling 库内部通过dlopen 调用TbeLoadSoAndSaveToRegistry完成注册见 实现代码加载后同样以 opType 为键查询。文档原文给出的调用示例中opType FlashAttentionScore正是这种真实算子类型名的用法。五、调用示例5.1 文档标准示例最小用法std::string opName tmpNode; std::string opType FlashAttentionScore; context_ascendc::ContextBuilder builder; (void)builder.SetOpNameType(opName, opType);说明opName tmpNode模拟图中一个节点名算子实例名opType FlashAttentionScore一个真实的算子类型名返回值用(void)显式丢弃表达我只要设置状态不关心链式返回的意图由于接口返回自身引用丢弃返回值不影响后续通过builder继续链式调用。5.2 完整调测链路SetOpNameType 在 TilingContext 构建中的位置结合 ContextBuilder 简介文档 给出的标准用法SetOpNameType是手动构造TilingContext链条中的基础一环// 构造TilingContext auto tilingContextHolder context_ascendc::ContextBuilder() .SetOpNameType(MyOp, MyOpType) // 指定算子名字与类型 .NodeIoNum(2, 1) // 2 个输入、1 个输出 .IrInstanceNum({1, 1}) // 各输入的 IR 实例数 .AddInputTd(0, ge::DT_FLOAT16, ge::FORMAT_ND, ge::FORMAT_ND, input_shape) .AddInputTd(1, ge::DT_FLOAT16, ge::FORMAT_ND, ge::FORMAT_ND, weight_shape) .AddOutputTd(0, ge::DT_FLOAT16, ge::FORMAT_ND, ge::FORMAT_ND, output_shape) .AddAttr(activation, std::string(gelu)) .TilingData(param.get()) .Workspace(ws_size) .BuildTilingContext(); gert::TilingContext* tilingContext tilingContextHolder-GetContextgert::TilingContext();ContextBuilder头文件中完整的 TilingContext 构建 API 面SetOpNameType、NodeIoNum、IrInstanceNum、AddInputTd、AddOutputTd、AddAttr、CompileInfo、PlatformInfo、TilingData、Workspace、BuildTilingContext均可在 context_builder.h 查阅。5.3 仓库单元测试中的真实用法仓库单测 test_tiling.cpp 大量使用了该接口例如auto holder context_ascendc::ContextBuilder() .NodeIoNum(1, 1) .IrInstanceNum({1}) .SetOpNameType(tmpName, tmpType) .AddInputTd(0, ge::DT_FLOAT16, ge::FORMAT_ND, ge::FORMAT_ND, input_shape, file_path) .AddOutputTd(0, ge::DT_FLOAT16, ge::FORMAT_ND, ge::FORMAT_ND, output_shape) .TilingData(param.get()) .Workspace(ws_size) .BuildTilingContext();测试同时覆盖了多输入多属性场景6 输入 1 输出、混合常量值/二进制文件输入、多种类型的AddAttr验证了SetOpNameType与其余 OpInfo 接口在长链式调用中的稳定组合方式见 TestTilingContextBuildWithBinFile 等用例。需要说明的是这些用例的调测目标是BuildTilingContext的容错行为如常量数据文件缺失时返回空 holder其中传入的tmpName/tmpType仅为占位身份。六、使用要点与注意事项返回自身引用链式调用不断开SetOpNameType返回ContextBuilder可与NodeIoNum、AddInputTd等任意 Setter 自由组合若单独调用可像文档示例那样用(void)丢弃返回值。opName 与 opType 语义不同opName 是节点实例名偏标识与日志用途opType 是算子类型是注册表查找 Tiling 函数的键。构造真实调测环境时应优先保证 opType 与算子注册类型一致。默认占位值兜底不调用该接口时上下文会携带default_name/default_type占位身份由ContextBuilderImpl构造函数预设不会导致空值崩溃但依赖 opType 的逻辑将无法正确路由。仅作用于 TilingContext 链路从源码看SetOpNameType写入的是tilingCtxBuilder_由BuildTilingContext()消费BuildKernelRunContext()走的是kernelCtxBuilder_其 OpName/OpType 在构造时以默认值初始化两条链路相互独立。无额外前置约束接口文档约束说明为无源码层仅有内部指针非空断言属于可安全重复调用的 Setter后一次调用会覆盖前一次设置的算子身份。七、相关文档与源码索引类型路径本文对应 API 文档SetOpNameType.mdContextBuilder 调测简介intro.mdContextBuilder 公开头文件context_builder.hContextBuilder 实现含 OpTilingRegistry 查找逻辑context_builder.cppContextBuilderImpl 声明context_builder_impl.hContextBuilderImpl 实现context_builder_impl.cppTiling 调测单元测试test_tiling.cpp赞分享人工智能深度学习算子库CANNAscend【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址https://gitcode.com/cann/asc-devkit点击查看免费下载相关推荐asc-devkit Tiling 上下文构建指南用 ContextBuilder::BuildTilingContext 离线验证算子 Tiling 函数asc devkit Tiling 上下文构建指南用 ContextBuilder::BuildTilingContext 离线验证算子 Tiling 函数人工智能深度学习算子库CANNAscendasc-devkit 中 ContextBuilder::IrInstanceNum 详解为 Tiling 调测声明算子输入实例数asc devkit 中 ContextBuilder::IrInstanceNum 详解为 Tiling 调测声明算子输入实例数 在 asc devkit人工智能深度学习算子库CANNAscendasc-devkit 中 ContextBuilder 全解析手动构造 TilingContext 与 KernelRunContext 验证算子 Tiling 函数asc devkit 中 ContextBuilder 全解析手动构造 TilingContext 与 KernelRunContext 验证算子 Tilin人工智能深度学习算子库CANNAscend上一篇终极指南FlatBuffers vs Protobuf - C服务器协议编解码性能深度对比下一篇Makepad响应式布局设计自适应屏幕尺寸的UI解决方案创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考