技术新讯 > 计算推算,计数设备的制造及其应用技术 > 用于张量运行时查询处理的方法和系统与流程  >  正文

用于张量运行时查询处理的方法和系统与流程

  • 国知局
  • 2024-08-22 14:43:54

背景技术:

1、深度学习(dl)已经建立了对开发复杂模型的更简单方法和执行它们的高效方法来执行它们的需求。因此,已经投入了大量精力来开发框架以支持各种dl模型并在异构和分布式硬件上无缝运行。越来越多的专用硬件和硬件加速被用于dl应用以支持dl模型。另外,专用硬件和硬件加速技术被定制用于执行dl操作。因此,查询处理系统(例如,数据库管理系统),其通常被配置为采用计算机处理单元(cpu),无法在dl系统上执行数据库操作。因此,查询处理系统当前无法从由于dl的投资带来的进步中获益,更不用说与dl应用相组合以利用机器学习进行数据管理了。

技术实现思路

1、以下给出了本公开的一个或多个实施例的简要概述,以便提供对此类实施例的基本理解。该概述并非是所有设想的实施例的广泛概述,并且并非旨在标识所有实施例的关键或至关重要要素,也并非旨在界定任何或所有实施例的范围。其唯一目的是以简化形式呈现本公开的一个或多个实施例的一些概念,作为稍后呈现的更详细描述的前序。

2、在一个方面,一种方法可以包括接收包括一个或多个查询操作符的查询,基于一个或多个查询操作符来确定查询表示,以及基于查询表示来确定神经网络程序,该神经网络程序包括用于在神经网络运行时执行该查询的一个或多个神经网络操作符。此外,该方法可以包括基于与查询相关联的数据集来生成神经网络数据结构、以及在神经网络运行时中对神经网络数据结构执行神经网络程序以生成查询结果。

3、在另一方面,一种设备可以包括存储指令的存储器,以及至少一个处理器,该至少一个处理器与存储器耦合并且用以执行该指令以:接收包括一个或多个查询操作符的查询,基于一个或多个查询操作符来确定查询表示,基于查询表示来确定神经网络程序,该神经网络程序包括用于在神经网络运行时执行该查询一个或多个神经网络操作符,基于与查询相关联的数据集来生成神经网络数据结构,以及在神经网络运行时中对神经网络数据结构执行神经网络程序以生成查询结果。

4、在另一方面,还公开了一种存储用于执行本文所述方法的指令的示例计算机可读介质(例如,非瞬时性计算机可读介质)和一种包括执行本文所述方法的操作的部件的示例设备。

5、与本公开的实现相关的附加优点和新颖特征将在以下描述中被部分阐述,并且部分将在本领域技术人员研究以下内容或通过实践学习后对其变得更加明显。

技术特征:

1.一种方法,包括:

2.根据权利要求1所述的方法,其中所述查询表示是查询计划,并且确定所述查询表示包括经由查询优化器来生成所述查询计划。

3.根据权利要求1所述的方法,其中基于所述查询表示来确定所述神经网络程序包括:

4.根据权利要求1所述的方法,其中所述神经网络程序包括张量程序,所述一个或多个神经网络操作包括张量操作,并且所述神经网络运行时包括张量运行时。

5.根据权利要求1所述的方法,其中所述数据集包括列数据,并且基于所述数据集来生成所述神经网络数据结构包括:至少部分地基于所述列数据的数据类型来生成n维数组。

6.根据权利要求1所述的方法,其中所述一个或多个查询操作符包括结构化查询语言操作符,并且所述一个或多个神经网络操作符包括变换操作符、归约操作符、算术操作符或逻辑操作符。

7.根据权利要求1所述的方法,其中所述神经网络运行时被配置为在多个处理硬件上编译所述神经网络程序。

8.根据权利要求1所述的方法,其中所述查询包括在所述神经网络运行时内可执行的机器学习操作符。

9.一种系统,包括:

10.根据权利要求9所述的系统,其中所述查询表示是查询计划,并且为了确定所述查询表示,所述至少一个处理器还被所述指令配置为经由查询优化器来生成所述查询计划。

11.根据权利要求9所述的系统,其中为了基于所述查询表示来确定所述神经网络程序,所述至少一个处理器还被所述指令配置为:

12.根据权利要求9所述的系统,其中所述神经网络程序包括张量程序,所述一个或多个神经网络操作包括张量操作,并且所述神经网络运行时包括张量运行时。

13.根据权利要求9所述的系统,其中所述数据集包括列数据,并且为了基于所述数据来生成所述神经网络数据结果,所述至少一个处理器还被所述指令配置为至少部分地基于所述列数据的数据类型来生成n维数组。

14.根据权利要求9所述的系统,其中所述一个或多个查询操作符包括结构化查询语言操作符,并且所述一个或多个神经网络操作符包括变换操作符、归约操作符、算术操作符或逻辑操作符。

15.根据权利要求9所述的系统,其中所述查询包括在所述神经网络运行时内可执行的机器学习操作符。

技术总结示例方面包括用于在深度神经网络运行时上进行查询处理的技术。这些技术可以包括接收包括一个或多个查询操作符的查询以及基于一个或多个查询操作符来确定查询表示。另外,该技术可以包括基于查询表示确定来神经网络程序,神经网络程序包括用于在神经网络运行时执行所述查询的一个或多个神经网络操作符,基于与查询相关联的数据集来生成神经网络数据结构,以及在神经网络运行时中对神经网络数据结构执行神经网络程序以生成查询结果。技术研发人员:M·英特兰迪,K·卡拉纳索斯,何东,D·H·班达,J·卡马乔·罗德里格斯,R·森,S·C·纳坎德拉受保护的技术使用者:微软技术许可有限责任公司技术研发日:技术公布日:2024/8/20

本文地址:https://www.jishuxx.com/zhuanli/20240822/279637.html

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 YYfuon@163.com 举报,一经查实,本站将立刻删除。