检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
二进制格式：选择“二进制格式”时不解析文件内容直接传输，不要求文件格式必须为二进制。适用于文件到文件的原样复制。 Parquet格式：以Parquet格式解析源文件，用于HDFS数据导到表的场景。 CSV格式 列表文件 当“文件格式”选择为“二进制格式”时，才有该参数。 打开列表文件功能时，支持读取O
是：重新执行节点，请配置以下参数。 最大重试次数 重试间隔时间（秒） 否：默认值，不重新执行节点。 说明： 建议仅对文件类作业或启用了导入阶段表的数据库作业配置自动重试，避免自动重试重复写入数据导致数据不一致。 如果作业节点配置了重试，并且配置了超时时间，该节点执行超时后，系统支持再重试。 当前节点失败后，后续节点处理策略
见表达式概述）。 如需新建DIS通道，请参考以下方法： 单击，前往数据集成模块的“通道管理”页面新建DIS通道。 前往DIS管理控制台进行新建。 表2 高级参数 参数 是否必选 说明 节点执行的最长时间 是 设置节点执行的超时时间，如果节点配置了重试，在超时时间内未执行完成，该节点将会再次重试。
CSV_FILE：CSV格式，用于迁移文件到数据表的场景。 JSON_FILE：JSON格式，一般都是用于迁移文件到数据表的场景。 BINARY_FILE：二进制格式，不解析文件内容直接传输，不要求文件格式必须为二进制。适用于文件到文件的原样复制。 当选择“BINARY_FILE”时，目的端也必须为文件系统。 fromJobConfig
fromJobConfig.dek 否 String 数据解密密钥，密钥由长度64的十六进制数组成，且必须与加密时配置的“toJobConfig.dek”（导入时配置的数据加密密钥）一致。如果不一致系统不会报异常，只是解密出来的数据会错误。 fromJobConfig.iv 否 String
方案设计 操作流程如下： 实时数据导入：通过数据接入服务（DIS）将数据中心的告警数据实时导入到数据湖探索（DLI）。 数据清洗和预处理：DLI对告警数据进行数据清洗和预处理。 发送告警消息：当告警级别超过指定值时向用户发送短信。 数据导出和存储：清洗过的数据进入DIS通道，DIS根据导入时间将告警数据按日期存放到OBS。
8192 数据缓存队列条数，默认为8192，当源表中单条数据过大时（如1MB），缓存过多数据会导致内存溢出，可以考虑减小该值。 debezium.max.queue.size.in.bytes int 0 数据缓存队列大小，默认为0，即表示缓存队列不考虑数据大小，只按照数据条数计算。在debezium
色，将数据运营工程师设置为自定义角色“Developer_DataService”。 示例二 某项目数据开发工程师通过DataArts Studio进行数据开发工作，被项目管理员赋予了“开发者”的预置角色。但该数据开发工程师还需要修改数据架构的配置中心的DDL模板用于数据开发，而
在DataArts Studio数据架构控制台，单击左侧导航栏中的“信息架构”。 进入后，在页面选择所需要批量修改主题的项，单击“更多 > 修改主题”，可以将选中的项更改到其它主题。配置完成单击“确定”。 图1 批量修改主题 批量修改目录 当前仅支持码表管理、数据标准进行批量修改目录操作。
工作空间id。 如果不设置该参数，默认查询default工作空间下的数据。 如果需要查询其他工作空间的数据，需要带上该消息头。 响应参数 表3 参数说明 参数名 是否必选 参数类型 说明 name 是 String 解决方案名称。 nodes 否 列表数据结构 节点状态列表。 status
i表的表名。 写入模式：选择数据写入模式。 UPSERT MODE为批量更新入库模式，COPY MODE为DWS专有的高性能批量入库模式。 批写最大数据量：根据表数据大小和作业内存使用，适当调整，数据范围1-10000000。 定时批写时间间隔：数据定时入库的间隔时间，时间1-1000，
限控制、数据加密传输、加密存储、数据风险识别以及合规审计等措施，帮助用户建立安全预警机制，增强整体安全防护能力，让数据可用不可得和安全合规。 功能模块 数据安全包括： 数据密级 对数据进行等级划分，方便数据的管理。 数据分类 基于数据密级，可以进行数据分类，来有效识别数据库内的敏感数据。
成整个数据的处理分析流程。 在DataArts Studio数据开发模块中，您将完成以下步骤： 数据管理 脚本开发 作业开发 历史数据到源数据表，使用数据集成将历史数据从OBS导入到SDI贴源层的原始数据表。 历史数据清洗，使用数据开发的MRS Hive SQL脚本将源数据表清洗之后导入DWI层的标准出行数据表。
请求Header参数 参数名 是否必选 参数类型 说明 workspace 否 String 工作空间id。 如果不设置该参数，默认查询default工作空间下的数据。 如果需要查询其他工作空间的数据，需要带上该消息头。 表3 Resource参数说明 参数名 是否必选 参数类型 说明 name 是
基本参数 桶名 待迁移数据所在的桶名。 BUCKET_2 文件格式 传输数据时使用的格式。 CSV格式：以CSV格式解析源文件，用于迁移文件到数据表的场景。 JSON格式：以JSON格式解析源文件，一般都是用于迁移文件到数据表的场景。 ORC格式：以ORC格式解析源文件，一般都是用于迁移文件到数据表的场景。
支持从云端的数据库服务导出数据。 这些非云服务的数据库，既可以是用户在本地数据中心自建的数据库，也可以是用户在ECS上部署的，还可以是第三方云上的数据库服务。 表1 SQLServer作为源端时的作业参数 参数类型 参数名 说明 取值样例 基本参数 使用SQL语句 导出关系型数据库的数
UPSERT为批量更新入库模式，COPY为DWS专有的高性能批量入库模式。 批写最大数据量：根据表数据大小和作业内存使用，适当调整，数据范围1-10000000。 定时批写时间间隔：数据定时入库的间隔时间，时间1-1000， 单位为秒。 高级配置：通过设置以下参数配置数据写入的高级属性。 sink.buffer-flush
I则必须先通过应用或白名单授权才能调用。 创建IAM类型的应用 在DataArts Studio控制台首页，选择对应工作空间的“数据服务”模块，进入数据服务页面。 在左侧导航栏选择服务版本（例如：专享版），进入总览页。 单击“调用API > 应用管理”，进入到应用管理页面。单击“
sdk.zip”压缩包，解压后目录结构如下： 名称 说明 app\ 安卓工程代码 gradle\ gradle相关文件 build.gradle gradle配置文件 gradle.properties settings.gradle gradlew gradle wrapper执行脚本
模块，进入数据开发页面。 在数据开发主界面的左侧导航栏，选择“数据开发 > 脚本开发”。 在脚本目录顶部，单击，选择“责任人转移”。 图1 责任人转移 分别设置“当前责任人”和“目标责任人”，单击“转移”。 提示转移成功后，单击“关闭”。 相关操作 您可以根据脚本责任人筛选脚本，
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
