CANN/asc-devkit:Axpy数学计算接口
Axpy【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit产品支持情况Ascend 950PR/Ascend 950DT支持Atlas A3 训练系列产品/Atlas A3 推理系列产品支持Atlas A2 训练系列产品/Atlas A2 推理系列产品支持Atlas 200I/500 A2 推理产品不支持Atlas 推理系列产品AI Core支持Atlas 推理系列产品Vector Core不支持Atlas 训练系列产品不支持功能说明源操作数(srcTensor)中每个元素与标量求积后和目的操作数(dstTensor)中的对应元素相加计算公式如下该接口功能同基础API Axpy区别在于此接口指令是通过Muls和Add组合计算从而提供更优的精度。函数原型template typename T, typename U, bool isReuseSource false __aicore__ inline void Axpy(const LocalTensorT dstTensor, const LocalTensorU srcTensor, const U scalarValue, const LocalTensoruint8_t sharedTmpBuffer, const uint32_t calCount)参数说明表1模板参数说明参数名描述T目的操作数的数据类型。支持的数据类型为half、float。U源操作数的数据类型。支持的数据类型为half、float。isReuseSource是否允许修改源操作数。该参数预留传入默认值false即可。表2接口参数说明参数名输入/输出描述dstTensor输出目的操作数。类型为LocalTensor支持的TPosition为VECIN/VECCALC/VECOUT。srcTensor输入源操作数。类型为LocalTensor支持的TPosition为VECIN/VECCALC/VECOUT。scalarValue输入scalar标量。支持的数据类型为half、float。scalar操作数的类型需要和srcTensor保持一致。sharedTmpBuffer输入临时缓存。类型为LocalTensor支持的TPosition为VECIN/VECCALC/VECOUT。由于该接口的内部实现中涉及复杂的数学计算需要额外的临时空间来存储计算过程中的中间变量。临时空间需要开发者通过sharedTmpBuffer入参传入。临时空间大小BufferSize的获取方式请参考GetAxpyMaxMinTmpSize。calCount输入参与计算的元素个数。返回值说明无约束说明不支持源操作数与目的操作数地址重叠。不支持sharedTmpBuffer与源操作数和目的操作数地址重叠。操作数地址对齐要求请参见通用地址对齐约束。该接口支持的精度组合如下half精度组合srcLocal数据类型halfscalar数据类型halfdstLocal数据类型halfPAR128float精度组合srcLocal数据类型floatscalar数据类型floatdstLocal数据类型floatPAR64mix精度组合srcLocal数据类型halfscalar数据类型halfdstLocal数据类型floatPAR64调用示例// dstLocal: 存放Axpy计算结果的Tensor // srcLocal: 存放Axpy计算输入的Tensor // sharedTmpBuffer: 存放Axpy计算过程中临时缓存的Tensor // 算子输入的数据类型为half,需要参与计算的元素个数为512 AscendC::Axpy(dstLocal, srcLocal, static_casthalf(3.0), sharedTmpBuffer, 512);结果示例如下输入数据(srcLocal): [1. 2. 3. 4. 5. 6. ... 512.] 输入数据(scalarValue): 3.0 输出数据(dstLocal)初始值: [0. 0. 0. 0. 0. 0. ... 0.] 进行Axpy计算后输出数据(dstLocal): [3. 6. 9. 12. 15. 18. ... 1536.]【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

相关新闻