推荐系统 RES-提交特征工程作业:请求消息
请求消息
请求参请参见表2。
参数名称 |
是否必选 |
参数类型 |
说明 |
---|---|---|---|
workspace_id |
否 |
String |
工作空间ID,默认为0 |
job_name |
是 |
String |
训练作业名称,最大长度为20字符。 |
job_description |
否 |
String |
训练作业描述,最大长度为256字符。 |
algorithm_type |
是 |
String |
算法类型
|
algorithm_parameters |
是 |
JSON |
算法参数,每一种算法都有其特定的参数。 |
data_source |
是 |
List |
算法数据源配置
|
storage |
是 |
JSON |
请参见表6,存储平台。 |
offline_platform |
是 |
JSON |
请参见表3,离线计算平台信息。 |
参数名称 |
是否必选 |
参数类型 |
说明 |
---|---|---|---|
platform |
是 |
String |
平台名称,最大长度64,支持 DLI 。 |
platform_parameter |
是 |
JSON |
请参见表4,平台参数。 |
computing_resource |
否 |
String |
指定DLI运行任务的资源规格。 |
config_load_path |
是 |
String |
读取配置源路径。 |
参数名称 |
是否必选 |
参数类型 |
描述信息 |
---|---|---|---|
table_type_id |
是 |
String |
推荐通用数据模板
数据格式请参见推荐系统离线数据源。 通用格式
|
data_source_url |
是 |
String |
数据源路径,最大长度1000字符。 |
data_format |
是 |
String |
输入数据格式,可选值:csv、parquet、json、orc。 |
data_param |
否 |
JSON |
请参见表7,数据格式是csv的时候必选,其他可选。 |
start_time |
否 |
String |
文件开始时间,数据格式是json的时候必选,其他可选。 |
end_time |
否 |
String |
文件结束时间,数据格式是json的时候必选,其他可选。 |
参数名称 |
是否必选 |
参数类型 |
说明 |
---|---|---|---|
user_profiles_table |
否 |
JSON |
用户属性存储表.请参见表8, algorithm_type为INITIAL_PROFILES_GENERATION时必选。 |
item_profiles_table |
否 |
JSON |
物品属性存储表请参见表8, algorithm_type为INITIAL_PROFILES_GENERATION时必选。 |
参数名称 |
是否必选 |
参数类型 |
说明 |
---|---|---|---|
header |
是 |
Boolean |
是否显示表头。 |
delimiter |
是 |
String |
分割符,最大长度10个字符。 |
quote |
是 |
String |
引用字符,最大长度10个字符。 |
escape |
是 |
String |
转义字符,最大长度10个字符。 |
参数名称 |
是否必选 |
参数类型 |
说明 |
---|---|---|---|
输出路径(result_path) |
是 |
String |
所有输出数据(用户物品特征、特征映射、域特征值数目统计结果、训练集、测试集)的存储都路径,文件夹。 |
全局特征配置文件路径(global_features_information_path) |
是 |
String |
该文件为JSON格式,包含特征名、特征大类、特征值类型。全局特征文件详细内容可以通过查询全局特征配置获取。 |
高级设置(writer_parameters) |
否 |
JSON |
请参见表10。 |
参数名称 |
是否必选 |
参数类型 |
说明 |
---|---|---|---|
输出路径(result_path) |
是 |
String |
所有输出数据(用户物品特征、特征映射、域特征值数目统计结果、训练集、测试集)的存储都路径,文件夹。 |
全局特征配置文件路径(global_features_information_path) |
是 |
String |
该文件为JSON格式,包含特征名、特征大类、特征值类型。全局特征文件详细内容可以通过查询全局特征配置获取。 |
算子类型(rank_etl_type) |
是 |
Enum |
排序数据处理算子类型。 每一种排序算法都需要进行特定的数据处理,需要根据使用的排序算法来选择排序数据处理类型。 LR、FM、FFM、DEEPFM和Pin这五种算法的数据处理互相通用。 |
策略参数(rank_etl_parameters) |
是 |
JSON |
请参见表11,每一种排序算法的数据预处理参数。 |
参数名称 |
是否必选 |
参数类型 |
说明 |
---|---|---|---|
save_mode |
否 |
String |
对结果保存路径中已有宽表数据的保留方式:
|
参数名称 |
是否必选 |
参数类型 |
描述信息 |
---|---|---|---|
训练集测试集划分方式 (divide_by_time_or_rate) |
是 |
String |
按时间或比例划分训练集测试集。 可选值为TIME或RATE。 |
训练数据起始时间 (training_data_start_time) |
否 |
Long |
训练数据起始时间。 divide_by_time_or_rate为TIME时必填。取值不大于行为数据中的最大时间且不大于training_data_end_time。如:1541987933 |
训练数据终止时间 (training_data_end_time) |
否 |
Long |
训练数据终止时间。 divide_by_time_or_rate为TIME时必填。取值不大于行为数据中的最大时间且不小于training_data_start_time。如:1541987933 |
测试数据起始时间 (test_data_start_time) |
否 |
Long |
测试数据起始时间。 divide_by_time_or_rate为TIME时必填。取值不大于行为数据中的最大时间且不大于test_data_end_time。如:1541987933 |
测试数据终止时间 (test_data_end_time) |
否 |
Long |
测试数据终止时间。 divide_by_time_or_rate为TIME时必填。取值不大于行为数据中的最大时间且不小于test_data_start_time。如:1541987933 |
训练数据占比 (training_data_rate) |
否 |
Double |
训练数据在输入数据中的占比。divide_by_time_or_rate为RATE时必填。取值范围[0,1]。 |
测试数据占比 (test_data_rate) |
否 |
Double |
测试数据在输入数据中的占比。divide_by_time_or_rate为RATE时必填。取值范围[0,1]。 |
待提取用户特征 (user_features) |
是 |
JSONArray |
从全局特征文件提取输入的用户特征,对不同类型的特征进行相应的处理,处理后的数据用于排序模型训练。 特征必须来自用户属性配置表中定义的特征。 [{ "feature_name": "age", "feature_type": "numerical", "feature_type":"BASIC_INFO", "feature_process_parameters": { "discrete_method": "equal_distance_discrete", "lower_limit": 0.0, "upper_limit": 120.0, "distance": 20 } }, { "feature_name": "user_tag", "feature_type": "map", "feature_type":"TAGS", "feature_process_parameters": { "value_preserve_number": 4 } }] |
待提取物品特征 (item_features) |
是 |
JSONArray |
从全局特征文件中提取输入的物品特征,对不同类型的特征进行相应的处理,处理后的数据用于排序模型训练。特征必须来自物品属性配置表中定义的特征。 [{ "feature_name": "product_name", "feature_type": "string", "feature_type":"BASIC_INFO", "feature_process_parameters": { } }, { "feature_name": "categories", "feature_type": "strArray", "feature_type":"BASIC_INFO", "feature_process_parameters": { "value_preserve_number": 3 } }] |
正反馈行为类型 (positive_behaviors) |
是 |
List[String] |
正反馈行为类型的样本将被转换为排序数据中的正样本。取值必须来自行为表中”actionType”字段的值。示例: [click,collect,purchase,share] |
负反馈行为类型 (negative_behaviors) |
是 |
List[String] |
负反馈行为类型的样本将被转换为排序数据中的负样本。取值必须来自行为表中”actionType”字段的值。示例:[view,dislike] |
参数名称 |
是否必选 |
参数类型 |
说明 |
---|---|---|---|
特征名称 (feature_name) |
是 |
String |
该特征的名称。 |
特征类型 (feature_type) |
是 |
String |
用户特征类型 :
物品特征类型
|
特征值类型 (feature_value _type) |
是 |
String |
该特征值的类型,支持4种不同类型的特征值,分别为:
|
特征处理参数 (feature_process_parameters) |
是 |
JSON |
每一种类型的特征都有其对应的处理方式,需要用户提供相应处理所需要的参数。示例: { "discrete_method":"equal_distance_discrete", "lower_limit":0.0, "upper_limit":120.0, "distance":20 } |
参数名称 |
是否必选 |
参数类型 |
说明 |
||
---|---|---|---|---|---|
离散方法(discrete_method) |
等距离散 (equal_distance_discrete) |
最小值 (lower_limit) |
否 |
Double |
如果特征值小于该值,则会被视为异常值进行处理。 用户可根据业务经验来确定该值,如果用户未提供该值,则会统计出数据中该特征的最小值作为输入。取值为 [Double.Minvalue, Double.MaxValue), 且必须小于参数“最大值”。 |
最大值 (upper_limit) |
否 |
Double |
如果特征值大于该值,则会被视为异常值进行处理。 用户可根据业务经验来确定该值,如果用户未提供该值,则会统计出数据中该特征的最大值作为输入。取值为 (Double.Minvalue, Double.Maxvalue], 且必须大于参数“最小值”。 |
||
距离 (distance) |
是 |
Double |
以该距离为间隔将特征区间划分为若干个片段,每一个片段对应一个离散值。取值为(0, Double.Maxvalue)。 |
||
等频离散 (equal_frequency_discrete) |
最小值 (lower_limit) |
否 |
Double |
如果特征值小于该值,则会被视为异常值进行处理。 用户可根据业务经验来确定该值,如果用户未提供该值,则会统计出数据中该特征的最小值作为输入。取值为 [Double.Minvalue, Double.Maxvalue) ,且必须小于参数“最大值”。 |
|
最大值 (upper_limit) |
否 |
Double |
如果特征值大于该值,则会被视为异常值进行处理。 用户可根据业务经验来确定该值,如果用户未提供该值,则会统计出数据中该特征的最大值作为输入。取值为 (Double.Minvalue, Double.Maxvalue], 且必须大于参数“最小值”。 |
||
频率 (frequency) |
是 |
Int |
将特征值从小到大排列,每“频率”个值被划分为一个片段,每一个片段对应一个离散值。取值为(0, Int.Maxvalue)。 |
||
用户自定义离散 (user_define_discrete) |
自定义区间列表 (period_list) |
是 |
JSONArray |
每一个区间的最小值、最大值、离散值都由用户来定义。 如果特征值位于某个区间的最小值最大值之间,则该特征值被离散为这个区间的离散值。 如果特征值不在用户定义的任何一个区间内,则被作为异常值进行处理。每一个区间都是半闭半开区间,即包含最小值但不包含最大值,不同区间之间不能重叠。示例: [ { "period_name": "young", "lower_limit": 0.0, "upper_limit": 18.0 } ,{ "period_name": "mid", "lower_limit": 18.0, "upper_limit": 60.0 } ,{ "period_name": "old", "lower_limit": 60.0, "upper_limit": 120.0 } ] |
参数名称 |
是否必选 |
参数类型 |
说明 |
---|---|---|---|
最小值 (lower_limit) |
是 |
Double |
该区间的最小值。取值范围 [Double.Minvalue, Double.Maxvalue), 且必须小于参数“最大值”。 |
最大值 (upper_limit) |
是 |
Double |
该区间的最大值。取值范围 (Double.Minvalue, Double.Maxvalue], 且必须大于参数“最小值”。 |
区间名称 (period_name) |
是 |
String |
该区间对应的名称。 |
参数名称 |
是否必选 |
参数类型 |
说明 |
---|---|---|---|
值保留个数 (value_preserve_number) |
否 |
Int |
多值枚举型特征的特征值保留个数,如果实际的值数目大于该值, 则多余的值会被删除;如果实际的值数目小于该值, 则保留所有值;如果用户未提供该参数,则会统计出 数据中该多值特征的最大取值数目作为输入。取值范围[1, 100]。 |
参数名称 |
是否必选 |
参数类型 |
说明 |
---|---|---|---|
值保留个数 (value_preserve_number) |
否 |
Int |
KV数值型特征的特征值保留个数,如果实际的值数目大于该值, 则多余的值会被删除;如果实际的值数目小于该值, 则保留所有值;如果用户未提供该参数,则会统计出 数据中该KV数值型特征的最大取值数目作为输入。取值范围[1, 100]。 |
- ModelArts模型训练_创建训练作业_如何创建训练作业
- 什么是Spark SQL作业_数据湖探索DLISpark SQL作业
- Redis修改开源协议_新版Redis不再“开源”_Redis协议变更
- TMS开发_金蝶TMS系统_TMS技术系统_信息化管理_视频
- GeminiDB Redis接口_键值数据库_企业级Redis_什么是KV数据库
- 什么是Flink OpenSource SQL_数据湖探索_Flink OpenSource SQL
- 什么是数据湖探索服务_数据湖探索DLI用途与特点
- MapReduce服务_什么是Loader_如何使用Loader
- 大数据应用范围有哪些_大数据技术与应用要学习什么课程
- 图像识别Image服务_什么是图像识别_图像识别应用场景