用于机器人控制的方法、装置、设备和存储介质与流程

本公开的示例实施例总体涉及机器人，特别地涉及用于机器人控制的方法、装置、设备和存储介质。

背景技术：

1、随着机器人技术的快速发展，机器人技术不仅应用在工业生产，也在生活服务中得到了广泛应用。因此，对于机器人智能化的要求越来越高。传统的机器人技术通常功能单一，只是在特定的场景下，才能实现其功能，通用性较差。

技术实现思路

1、在本公开的第一方面，提供了一种用于机器人控制的方法。该方法包括：获取目标任务指令；响应于目标任务指令，通过利用第一机器学习模型处理目标环境的视觉信息，来确定对目标环境的文本描述；基于目标环境的文本描述，利用第二机器学习模型生成针对机器人的控制指令，控制指令用于控制机器人执行与目标任务指令相应的操作。

2、在本公开的第二方面，提供一种用于机器人控制的装置。该装置包括：获取模块，被配置为获取目标任务指令；确定模块，被配置为响应于目标任务指令，通过利用第一机器学习模型处理目标环境的视觉信息，来确定对目标环境的文本描述；生成模块，被配置为基于目标环境的文本描述，利用第二机器学习模型生成针对机器人的控制指令，控制指令用于控制机器人执行与目标任务指令相应的操作。

3、在本公开的第三方面，提供了一种电子设备。该设备包括至少一个处理单元；以及至少一个存储器，至少一个存储器被耦合到至少一个处理单元并且存储用于由至少一个处理单元执行的指令。指令在由至少一个处理单元执行时使电子设备执行第一方面的方法。

4、在本公开的第四方面，提供了一种计算机可读存储介质。介质上存储有计算机程序，计算机程序被处理器执行时实现第一方面的方法。

5、应当理解，该部分中所描述的内容并非旨在限定本公开的实施例的关键特征或重要特征，也不用于限制本公开的范围。本公开的其他特征将通过以下的描述而变得容易理解。

技术特征：

1.一种用于机器人控制的方法，包括：

2.根据权利要求1所述的方法，其中确定对所述目标环境的文本描述包括：

3.根据权利要求2所述的方法，其中所述第一机器学习模型包括第一语言模型，并且确定与所述目标任务指令相关联的至少一个目标问题包括：

4.根据权利要求2所述的方法，其中所述目标环境的视觉信息包括所述目标环境的图像，所述第一机器学习模型包括图像分割模型，并且其中确定所述至少一个目标问题对应的至少一个答案包括：

5.根据权利要求4所述的方法，其中所述第一机器学习模型还包括问答模型，并且其中基于所述至少一个实体各自的子图像来确定所述至少一个目标问题对应的至少一个答案包括：

6.根据权利要求2所述的方法，其中所述第一机器学习模型还包括第二语言模型，并且其中基于所述至少一个目标问题和所述至少一个答案，生成对所述目标环境的文本描述，包括：

7.根据权利要求1所述的方法，其中所述第二机器学习模型包括第三语言模型，并且其中生成针对机器人的控制指令包括：

8.根据权利要求1所述的方法，其中生成针对机器人的控制指令包括：

9.根据权利要求8所述的方法，其中所述第二机器学习模型包括第四语言模型，其中基于所述用户的校正输入来确定校正后的文本描述包括：

10.一种用于机器人控制的装置，包括：

11.一种电子设备，包括：

12.一种计算机可读存储介质，其上存储有计算机程序，所述计算机程序可由处理器执行以实现根据权利要求1至9中任一项所述的方法。

技术总结根据本公开的实施例，提供了一种用于机器人控制的方法、装置、设备和存储介质。该方法包括：获取目标任务指令；响应于目标任务指令，通过利用第一机器学习模型处理目标环境的视觉信息，来确定对目标环境的文本描述；以及基于目标环境的文本描述，利用第二机器学习模型生成针对机器人的控制指令，控制指令用于控制机器人执行与目标任务指令相应的操作。通过此种方式，用户只需要下达目标任务指令，机器人系统能够自动完成环境感知，并调用语言模型自动实现任务的执行。技术研发人员：陈越,詹忆冰,李律松受保护的技术使用者：京东科技控股股份有限公司技术研发日：技术公布日：2024/6/13