-
服务器:请求dli.xxx,unable to resolve host address, 如何解决? - 数据湖探索 DLI
服务器:请求dli.xxx,unable to resolve host address, 如何解决? 首先使用ping命令测试dli.xxx是否可以访问。 如果dli.xxx可以正常访问,建议下DNS解析是否配置正确。 DLI 不支持跨区域服务,需在一个区域内进行访问。 父主题:
-
count函数如何进行聚合 - 数据湖探索 DLI
count函数如何进行聚合 使用count函数进行聚合的正确用法如下: SELECT http_method, count(http_method) FROM apigateway WHERE service_id = 'ecs' Group BY http_method
-
DLI如何进行队列异常监控? - 数据湖探索 DLI
DLI如何进行队列异常监控? DLI为用户提供了作业失败的topic订阅功能。 登录DLI控制台。 单击左侧“队列管理”,进入队列管理页面。 在队列管理页面,单击左上角“创建消息通知主题”进行配置。详细操作请参考《数据湖探索用户指南》。 父主题: 使用咨询
-
Flink作业如何进行性能调优 - 数据湖探索 DLI
选择“云服务监控 > 分布式消息服务 > kafka专享版” ,单击“kafka实例名称 > 消费组” ,选择具体的消费组名称,查看消费组的指标信息。 图1 消费组 反压状态 反压状态是通过周期性对taskManager线程的栈信息采样,计算被阻塞在请求输出Buffer的线程比率来确定,默认情况下,比率在0
-
SQL作业如何指定表的部分字段进行表数据的插入 - 数据湖探索 DLI
SQL作业如何指定表的部分字段进行表数据的插入 当前DLI不支持指定部分列字段进行表数据插入,执行插入操作需要所有表字段数据一起插入。 父主题: 作业开发
-
DLI上已经创建好的表如何修改表字段名称? - 数据湖探索 DLI
DLI上已经创建好的表如何修改表字段名称? 当前DLI上已经创建好的表不支持修改表字段名称,即不支持修改表的列名。 可以通过重新创建表,定义新的表字段名称,再把旧表数据迁移到新表进行解决。 父主题: 作业管理
-
使用DLI进行账单分析与优化 - 数据湖探索 DLI
将1下载的消费明细数据上传到已建好的OBS桶中。 在数据湖探索服务中创建表。 登录DLI控制台,左侧导航栏单击“SQL编辑器”,执行引擎选择“spark”,选择执行的队列和数据库。本次演示队列和数据库选择“default”。 下载的文件中包含时间用量等,按表头意义在DLI上创建表,具体可以参考如下示例,其中amount列为费用。
-
更新管理 - 数据湖探索 DLI
更新管理 更新漏洞 DLI云服务通过华为云安全公告密切跟踪漏洞,如Apache Log4j2 远程代码执行漏洞(CVE-2021-44228)、Fastjson存在反序列化漏洞(CNVD-2022-40233)等,如发现服务模块涉及漏洞影响,会迅速通过官方解决方案升级现网更新漏洞。
-
使用DLI进行车联网场景驾驶行为数据分析 - 数据湖探索 DLI
oilLeakTimes desc 在查询结果中,单击“结果图形化”: “图形类型”选择“柱状图” “X轴”选择“driverID” “Y轴”选择“rapidlySpeedupTimes” “结果数目”选择“10” 展示结果如下: 图6 急加速 执行以下SQL语句,查询某个司机在某个时间段的详细记录。
-
构造请求 - 数据湖探索 DLI
表示用于传输请求的协议,当前所有API均采用HTTPS协议。 Endpoint 指定承载REST服务端点的服务器域名或IP。 不同服务不同区域的Endpoint不同,您可以从地区和终端节点中查询所有服务的终端节点。 例如IAM服务在“华北-北京四”区域的Endpoint为“iam.cn-north-4.myhuaweicloud
-
使用DLI进行电商BI报表分析 - 数据湖探索 DLI
ORDER BY like_count desc limit 10 单击“执行”,运行结果如图2所示: 图2 查询结果 单击“结果图形化”,对结果进行图形展示: 图3 结果图形化 分析出10大评级最差的商品 执行以下SQL语句,可以分析出10大评级最差的商品。 SELECT DISTINCT
-
使用DLI Flink SQL进行电商实时业务数据分析 - 数据湖探索 DLI
数据库 RDS for MySQL提供在线云数据库服务。 RDS对您选择的数据库实例、数据库存储和备份存储(可选)收费。 了解RDS计费说明。 DLV DLV适配云上云下多种数据源,提供丰富多样的可视化组件,快速定制数据大屏。 使用DLV服务的费用主要是DLV包年包月套餐的费用,您可以根据实际使用情况,选择合适的版本规格。
-
如何获取项目ID? - 数据湖探索 DLI
如何获取项目ID? 项目ID是系统所在区域的ID。用户在调用API接口进行云资源管理(如创建集群)时,需要提供项目ID。 查看项目ID步骤如下: 注册并登录华为云管理控制台。 将鼠标移动到右上角用户名上,在下拉列表中单击“我的凭证”。 在“我的凭证”页面的项目列表中查看项目ID。
-
如何获取AK/SK? - 数据湖探索 DLI
请求的机密性、完整性和请求双方身份的正确性。获取AK/SK操作步骤如下: 注册并登录华为云管理控制台。 将鼠标移动到右上角用户名上,在下拉列表中单击“我的凭证”。 在左侧导航栏单击“访问密钥”。 单击“新增访问密钥”,进入“新增访问密钥”页面。 根据提示输入对应信息,单击“确定”,在弹出的提示页面单击“立即下载”。
-
进行程序包更新操作时提示权限不足 - 数据湖探索 DLI
" 解决方案 需要给执行作业的用户赋程序包的操作权限,具体操作参考如下: 在DLI管理控制台左侧,单击“数据管理 > 程序包管理”。 在“程序包管理”页面,单击程序包“操作”列中的“权限管理”,进入“用户权限信息”页面。 在单击页面右上角“授权”可对用户进行程序包组/程序包授权,勾选“更新组”权限。
-
SQL作业运行慢如何定位 - 数据湖探索 DLI
ORDER BY count desc; 从图11可以看出,num为1的数量远大于其他值的数量。 图11 示例数据统计演示 考虑在对应key值上添加concat(cast(round(rand() * 999999999) as string)随机数进行打散。 如果确实因为单个key值倾斜
-
如何合并小文件 - 数据湖探索 DLI
如何合并小文件 使用SQL过程中,生成的小文件过多时,会导致作业执行时间过长,且查询对应表时耗时增大,建议对小文件进行合并。 设置配置项。 spark.sql.shuffle.partitions = 分区数量(即此场景下最终生成的文件数量) 执行SQL。 INSERT OVERWRITE
-
认证鉴权 - 数据湖探索 DLI
详细的签名方法和SDK使用方法请参见API签名指南。 签名SDK只提供签名功能,与服务提供的SDK不同,使用时请注意。 父主题: 如何调用API
-
如何调用API - 数据湖探索 DLI
如何调用API 构造请求 认证鉴权 返回结果
-
如何申请扩大配额 - 数据湖探索 DLI
如何申请扩大配额 如何申请扩大配额? 登录管理控制台。 在页面右上角,选择“资源 > 我的配额”。 系统进入“服务配额”页面。 图1 我的配额 单击“申请扩大配额”。 在“新建工单”页面,根据您的需求,填写相关参数。 其中,“问题描述”项请填写需要调整的内容和申请原因。 填写完毕后,勾选协议并单击“提交”。