MAPREDUCE服务 MRS-Loader算子说明:算子简介
时间:2024-11-06 14:23:10
算子简介
Loader算子包括以下类型:
- 输入算子
- 转换算子
数据转换的中间转换步骤,属于可选类型,各个转换算子可任意搭配使用。转换算子是针对字段而言,必须先使用输入算子,将数据转换成字段。
- 输出算子
数据转换的最后一步,每次转换有且只能有一种输出算子,用于输出处理后的字段。涉及HBase或Hive导入导出时,必须填写。
表1 算子分类一览表 类型
描述
输入
- CS V文件输入:将文件的每一行按指定分隔符转换成多个输入字段。
- 固定宽度文件输入:将文件的每一行,按可配置长度的字符或字节,转换成多个输入字段。
- 表输入:将关系型数据库表的指定列按顺序转换成同等数量的输入字段。
- HBase输入:将HBase表的指定列转换成同等数量的输入字段。
- HTML输入:将HTML文件中的元素转换成输入字段。
- Hive输入:将Hive表的指定列转换成同等数量的输入字段。
转换
- 长整型时间转换:实现长整型数值与日期类型的互换。
- 空值转换:将空值替换成指定值。
- 增加常量字段:生成常量字段。
- 随机值转换:生成随机数字段。
- 拼接转换:拼接已有字段,生成新字段。
- 分隔转换:将已有字段,按指定分隔符,分隔出新字段。
- 取模转换:对已有字段取模,生成新字段。
- 剪切字符串:通过指定起始位置,截取已有字符串类型的字段,生成新字段。
- EL操作转换:指定算法,对字段值进行运算,目前支持的算法有:md5sum、sha1sum、sha256sum和sha512sum等。
- 字符串大小写转换:对已有的字符串类型字段,切换大小写,生成新字段。
- 字符串逆序转换:对已有的字符串类型字段,做逆序变换,生成新字段。
- 字符串空格清除转换:对已有的字符串类型字段,清除左右空格,生成新字段。
- 过滤行转换:配置逻辑条件过滤掉含触发条件的行。
- 更新域:当满足某些条件时,更新字段的值。
输出
- Hive输出:将已生成的字段输出到Hive表。
- 表输出:将已生成的字段输出到关系型数据库表。
- 文件输出:将已生成的字段通过分隔符连接并输出到文件。
- HBase输出:将已生成的字段输出到HBase表。
support.huaweicloud.com/cmpntguide-lts-mrs/mrs_01_1120.html
看了此文的人还看了
CDN加速
GaussDB
文字转换成语音
免费的服务器
如何创建网站
域名网站购买
私有云桌面
云主机哪个好
域名怎么备案
手机云电脑
SSL证书申请
云点播服务器
免费OCR是什么
电脑云桌面
域名备案怎么弄
语音转文字
文字图片识别
云桌面是什么
网址安全检测
网站建设搭建
国外CDN加速
SSL免费证书申请
短信批量发送
图片OCR识别
云数据库MySQL
个人域名购买
录音转文字
扫描图片识别文字
OCR图片识别
行驶证识别
虚拟电话号码
电话呼叫中心软件
怎么制作一个网站
Email注册网站
华为VNC
图像文字识别
企业网站制作
个人网站搭建
华为云计算
免费租用云托管
云桌面云服务器
ocr文字识别免费版
HTTPS证书申请
图片文字识别转换
国外域名注册商
使用免费虚拟主机
云电脑主机多少钱
鲲鹏云手机
短信验证码平台
OCR图片文字识别
SSL证书是什么
申请企业邮箱步骤
免费的企业用邮箱
云免流搭建教程
域名价格
推荐文章