检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
通过“表输出”算子,将A、B和C输出到test_1表中: select * from test_1; 父主题: Loader输入类算子
通过“表输出”算子,将A、B和C输出到“test_1”表中: select * from test_1; 父主题: Loader输入类算子
样例 通过“CSV文件输入”算子,生成两个字段a_str和b_str。 源文件如下: 配置“Hive输出”算子,将a_str和b_str输出到Hive的表中。 执行成功后,查看表数据: 父主题: Loader输出类算子
配置输出算子,输出到HDFS/OBS,结果如下: 父主题: Loader输入类算子
文本类加工算子能力清单 数据加工算子为用户提供了多种数据操作能力,包括数据提取、过滤、转换、打标签等。这些算子能够帮助用户从海量数据中提取出有用信息,并进行深度加工,以生成高质量的训练数据。
样例 源文件如下图: 配置“固定宽度文件输入”算子,生成三个字段A、B和C。 将三个字段依次输出,结果如下: 父主题: Loader输入类算子
转换类算子
atadgiB 父主题: Loader转换类算子
表1 气象类加工算子能力清单 算子分类 算子名称 算子描述 科学计算 气象预处理 将二进制格式的气象数据文件转换成结构化json数据。 父主题: 数据集加工算子介绍
图片类加工算子能力清单 数据加工算子为用户提供了多种数据操作能力,包括数据提取、过滤、转换、打标签等。这些算子能够帮助用户从海量数据中提取出有用信息,并进行深度加工,以生成高质量的训练数据。 平台提供了图文类、图片类加工算子,算子能力清单见表1、表2。
bigdata 父主题: Loader转换类算子
表1 视频类加工算子能力清单 算子分类 算子名称 算子描述 数据提取 镜头拆分 根据视频中的镜头场景变化将长视频拆分为短视频片段,如果某个镜头片段的长度超过设定的时间阈值,该镜头片段将按时长进行进一步拆分。
算子使用指南 输入类算子 输出类算子 转换类算子 表达式说明 父主题: 数据管道
Partition Iterator算子消除 场景描述 在当前分区表架构中,执行器通过Partition Iterator算子去迭代访问每一个分区。
样例 通过“CSV文件输入”算子,生成三个字段A、B和C。 源文件如下: 配置“字符串空格清除转换”算子,生成三个新字段D、E和F。 转换后,依次输出这六个字段,结果如下: 父主题: Loader转换类算子
Partition Iterator算子消除 场景描述 在当前分区表架构中,执行器通过Partition Iterator算子去迭代访问每一个分区。
父主题: Loader算子帮助
Caffe算子边界 对于Caffe框架,当算子的输入维度不是4时,如果存在axis参数,不能使用负数。 “.om”模型支持的Caffe算子边界如表1所示。
请参考CCE接口文档使用支持的Content type。 400 CCE.01400007 Insufficient cluster quota. 集群配额不足。 请提交工单增加集群配额。
Tensorflow算子边界 “.om”模型支持的Tensorflow算子边界如表1所示。