CANN/Ascend C Pad函数

Pad产品支持情况产品是否支持Ascend 950PR/Ascend 950DT√Atlas A3 训练系列产品 / Atlas A3 推理系列产品√Atlas A2 训练系列产品 / Atlas A2 推理系列产品√Atlas 200I/500 A2 推理产品xAtlas 推理系列产品 AI Core√Atlas 推理系列产品 Vector CorexAtlas 训练系列产品x功能说明对height * width的二维Tensor在width方向上pad到32B对齐如果Tensor的width已32B对齐且全部为有效数据则不支持调用本接口对齐。本接口具体功能场景如下场景1Tensor的width非32B对齐以half为例如16*15进行Pad右边补1列变成16*16。场景2Tensor的width已32B对齐但是有部分冗余数据以half为例如16*16最后两列为冗余数据进行Pad仍为16*16但是最后两列冗余数据可以被填充成设定的值。函数原型由于该接口的内部实现中涉及复杂的计算需要额外的临时空间来存储计算过程中的中间变量。临时空间大小BufferSize的获取方法通过Pad Tiling中提供的GetPadMaxMinTmpSize接口获取所需最大和最小临时空间大小最小空间可以保证功能正确最大空间用于提升性能。临时空间支持接口框架申请和开发者通过sharedTmpBuffer入参传入两种方式因此Pad接口的函数原型有两种通过sharedTmpBuffer入参传入临时空间template typename T __aicore__ inline void Pad(const LocalTensorT dstTensor, const LocalTensorT srcTensor, PadParams padParams, const LocalTensoruint8_t sharedTmpBuffer, PadTiling tiling)该方式下开发者需自行申请并管理临时内存空间并在接口调用完成后复用该部分内存内存不会反复申请释放灵活性较高内存利用率也较高。接口框架申请临时空间template typename T __aicore__ inline void Pad(const LocalTensorT dstTensor, const LocalTensorT srcTensor, PadParams padParams, PadTiling tiling)该方式下开发者无需申请但是需要预留临时空间的大小。参数说明表 1模板参数说明参数名描述T操作数的数据类型。支持的数据类型为int16_t、uint16_t、half、int32_t、uint32_t、float。表 2接口参数说明参数名称输入/输出含义dstTensor输出目的操作数shape为二维LocalTensor数据结构的定义请参考LocalTensor。类型为LocalTensor支持的TPosition为VECIN/VECCALC/VECOUT。srcTensor输入源操作数shape为二维LocalTensor数据结构的定义请参考LocalTensor。类型为LocalTensor支持的TPosition为VECIN/VECCALC/VECOUT。padParams输入Pad参数PadParams类型PadParams结构体的具体参数如下leftPad左边pad的数据量。单位列。rightPad右边pad的数据量。单位列。padValue补充的值支持int32_t。PadParams结构体的定义如下struct PadParams { uint16_t leftPad 0; uint16_t rightPad 0; int32_t padValue 0; };sharedTmpBuffer输入共享缓冲区用于存放API内部计算产生的临时数据。该方式开发者可以自行管理sharedTmpBuffer内存空间并在接口调用完成后复用该部分内存内存不会反复申请释放灵活性较高内存利用率也较高。共享缓冲区大小的获取方式请参考Pad Tiling。类型为LocalTensor支持的TPosition为VECIN/VECCALC/VECOUT。tiling输入计算所需tiling信息Tiling信息的获取请参考Pad Tiling。返回值说明无约束说明对于场景1支持同时在左边、右边进行pad。对于场景2只支持在右边进行pad。pad之后的总width不超过原width向最近32B对齐后的宽度。源操作数的数据量必须32B对齐。操作数地址对齐要求请参见通用地址对齐约束。调用示例本样例为场景1样例Tensor的width非32B对齐以half为例如16*15进行Pad右边补1列变成16*16。输入数据类型均为half。// dstLocal输出Tensor // srcLocal输入Tensor // padParams控制填充的参数 AscendC::PadParams padParams{0, 1, 321}; // 左边填充0列右边填充1列填充值为321 AscendC::Pad(dstLocal, srcOutLocal, padParams, tilingData.padTilingData);输入数据 0 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 123 124 125 126 127 128 129 130 131 132 133 134 135 136 137 138 139 140 141 142 143 144 145 146 147 148 149 150 151 152 153 154 155 156 157 158 159 160 161 162 163 164 165 166 167 168 169 170 171 172 173 174 175 176 177 178 179 180 181 182 183 184 185 186 187 188 189 190 191 192 193 194 195 196 197 198 199 200 201 202 203 204 205 206 207 208 209 210 211 212 213 214 215 216 217 218 219 220 221 222 223 224 225 226 227 228 229 230 231 232 233 234 235 236 237 238 239 输出数据 0 1 2 3 4 5 6 7 8 9 10 11 12 13 14 321 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 321 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 321 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 321 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 321 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 321 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 321 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 321 120 121 122 123 124 125 126 127 128 129 130 131 132 133 134 321 135 136 137 138 139 140 141 142 143 144 145 146 147 148 149 321 150 151 152 153 154 155 156 157 158 159 160 161 162 163 164 321 165 166 167 168 169 170 171 172 173 174 175 176 177 178 179 321 180 181 182 183 184 185 186 187 188 189 190 191 192 193 194 321 195 196 197 198 199 200 201 202 203 204 205 206 207 208 209 321 210 211 212 213 214 215 216 217 218 219 220 221 222 223 224 321 225 226 227 228 229 230 231 232 233 234 235 236 237 238 239 321创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考