LoadGraph【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge产品支持情况产品是否支持Atlas A3 训练系列产品 / Atlas A3 推理系列产品√Atlas A2 训练系列产品 / Atlas A2 推理系列产品√头文件/库文件头文件#include ge/ge_api_v2.h库文件libge_runner_v2.so功能说明加载图并为其执行做准备包括申请与管理图运行所需的内存及计算流等资源。说明若在调用本接口前未执行CompileGraph完成图编译则本接口将自动调用CompileGraph以完成编译。函数原型Status LoadGraph(const uint32_t graph_id, const std::mapAscendString, AscendString options, void *stream) const参数说明参数名输入/输出说明graph_id输入要执行Graph对应的ID。options输入执行阶段可能用到的options。map表key为参数类型value为参数值描述Graph配置信息。一般情况下可不填与GEInitializeV2传入的全局options保持一致。key和value类型为AscendString如需单独配置当前Graph的配置信息时可以通过此参数配置支持的配置项请参见options参数说明ge.exec.frozenInputIndexes和ge.exec.hostInputIndexes当前只支持配置上述两个参数。stream输入acl接口“aclrtCreateStream”创建的流也可以设置为nullptr。当传入有效值时若在加载过程中需要向流中下发任务会下发到指定流上。若与RunGraphWithStreamAsync接口配合使用建议传入有效值。此时通过LoadGraph加载的Stream与RunGraphWithStreamAsync运行时使用的Stream推荐为同一条流。若非同一条流则需在LoadGraph后对加载使用的Stream调用acl流同步接口“aclrtSynchronizeStream”完成同步。若与RunGraph或RunGraphAsync接口配合使用建议传入nullptr以简化流程。若传入有效值则需在LoadGraph后、RunGraph/RunGraphAsync前调用“aclrtSynchronizeStream”完成流同步以确保加载任务完成。acl接口详细说明请参见《应用开发指南 (CC)》。返回值说明参数名类型说明-StatusGE_CLI_SESS_RUN_FAILED执行子图时序列化转换失败。SUCCESS执行子图成功。FAILED执行子图失败。【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
