使用低精度和高精度的混合推理的制作方法

实施例总体上涉及数据处理，且更具体地涉及经由通用图形处理单元进行的数据处理。

背景技术：

1、当前的并行图形数据处理包括被开发用于对图形数据执行特定操作的系统和方法，这些特定操作如例如线性内插、曲面细分、栅格化、纹理映射、深度测试等。传统上，图形处理器使用固定功能计算单元来处理图形数据；然而，最近，图形处理器的多个部分已变得可编程，从而使得这样的处理器能够支持用于处理顶点和片段数据的更广泛种类的操作。

2、为进一步提高性能，图形处理器通常实施处理技术(比如，流水线操作)，这些处理技术试图贯穿图形流水线的不同部分来并行处理尽可能多的图形数据。具有单指令多线程(simt)架构的并行图形处理器被设计成最大化图形流水线中的并行处理量。在simt架构中，多组并行线程试图尽可能经常地一起同步执行程序指令，以提高处理效率。用于simt架构的软件和硬件的一般性概述可以在以下两者中找到：shane cook的cuda编程(cudaprogramming)，第3章，第37-51页(2013年)；和/或nicholas wilt的cuda手册(gpu编程的综合指南(a comprehensive guide to gpu programming))，章节2.6.2到3.1.2(2013年6月)。

技术实现思路

技术特征：

1.一种通用图形处理单元，包括：

2.如权利要求1所述的通用图形处理单元，其特征在于，所述存储器在所述多个集合的计算单元之间共享。

3.如权利要求2所述的通用图形处理单元，其特征在于，所述存储器包括能由所述多个集合的计算单元访问的数据高速缓存。

4.如权利要求1所述的通用图形处理单元，其特征在于，所述浮点指令用于指示多维浮点运算。

5.如权利要求4所述的通用图形处理单元，其特征在于，所述多维浮点运算是二维矩阵乘法运算。

6.如权利要求5所述的通用图形处理单元，其特征在于，所述二维矩阵乘法运算附加地包括加法运算。

7.如权利要求1所述的通用图形处理单元，其特征在于，附加地包括调度器，所述调度器用于将所述浮点指令的至少一个线程和所述整数指令的至少一个线程调度至所述多个集合的计算单元。

8.如权利要求7所述的通用图形处理单元，其特征在于，所述调度器用于独立地调度所述浮点指令和所述整数指令中的每一者的多个线程。

9.如权利要求8所述的通用图形处理单元，其特征在于，所述浮点指令和所述整数指令的线程具有独立的线程状态。

10.如权利要求1所述的通用图形处理单元，其特征在于，进一步包括：

11.如权利要求10所述的通用图形处理单元，其特征在于，所述几何处理单元用于将所述图形图元细分为一个或多个新的图形图元。

12.如权利要求11所述的通用图形处理单元，其特征在于，进一步包括：

13.一种通用图形处理单元，包括：

14.如权利要求13所述的通用图形处理单元，其特征在于，所述存储器在所述多个集合的计算单元之间共享。

15.如权利要求14所述的通用图形处理单元，其特征在于，所述存储器包括能由所述多个集合的计算单元访问的数据高速缓存。

16.如权利要求13所述的通用图形处理单元，其特征在于，所述浮点指令用于指示多维浮点运算。

17.如权利要求16所述的通用图形处理单元，其特征在于，所述多维浮点运算是二维矩阵乘法运算。

18.如权利要求17所述的通用图形处理单元，其特征在于，所述二维矩阵乘法运算附加地包括加法运算。

19.如权利要求13所述的通用图形处理单元，其特征在于，附加地包括调度器，所述调度器用于将所述浮点指令的至少一个线程和所述整数指令的至少一个线程调度至所述多个集合的计算单元。

20.如权利要求19所述的通用图形处理单元，其特征在于，所述调度器用于独立地调度所述浮点指令和所述整数指令中的每一者的多个线程。

21.如权利要求20所述的通用图形处理单元，其特征在于，所述浮点指令和所述整数指令的线程具有独立的线程状态。

22.一种处理系统，包括：

23.一种计算机系统，包括：

24.一种方法，包括：

技术总结本申请公开了使用低精度和高精度的混合推理。一个实施例提供了一种用于执行机器学习操作的计算设备，所述计算设备包括：指令解码逻辑，所述指令解码逻辑用于将包括多个操作数的单个指令解码成单个经解码指令，所述多个操作数具有不同的精度；以及包括第一逻辑单元和第二逻辑单元的通用图形计算单元，所述通用图形计算单元用于执行所述单个经解码指令，其中，执行所述单个经解码指令包括以第一精度对所述多个操作数中的第一组操作数执行第一指令操作，并且同时以第二精度对所述多个操作数中的第二组操作数执行第二指令操作。技术研发人员：E·乌尔德-阿迈德-瓦尔,B·拉克舍玛南,T·史佩斯曼,J·雷,P·T·唐,M·斯特里克兰德,陈晓明,姚安邦,B·J·阿什博,L·L·赫德,马立伟受保护的技术使用者：英特尔公司技术研发日：技术公布日：2024/7/29