为何要对模型预测score得分 进行分组统计?
很多时候,我们会发现 stockranker每天按照score得分排序排名大小值 来推送的股票,未必是最好的结果。 尤其是一些 风格不是很稳定的模型,stockranker每天出的信号也不是很稳定。 有可能今天 排名NO.1的股票是赚钱的,但是到了第二天 变成了排名NO.2的股票赚钱,第一名反而变成了亏钱 甚至说,有时候 第1名的股票赚钱,有时候是最后一名的股票赚钱。 在实盘过程中,这种轮动现象还会交替出现。
基于这个现象,我们就会去研究一下模型的选股,想办法搞明白: stockranker根据这个score得分排序选出来的股票,在长期的回测中,他的赚钱效应到底是属于偶然的结果, 还是真的存在什么赚钱的规律。
stockranker的排序模式,是一种非常好的线性切割模式。 它可以按照不同的等级,对好股票 和坏股票,按照一定的分布 进行 排序,从中把 优质的股票筛选出来。
为了方便我们用来验证 , 我们可以运用分组统计的方法,对我们的模型选股绩效进行验证。 通过自定义python模块按照一定的方式 进行分组统计,也可以很方便的看到 我们模型选股的一些细节。
在我们的输入特征列表中 预先加入一个因子:
该因子是用来 计算我们模型的score得分 IC值,以及验证模型选股未来收益的基础
接下来,在m10自定义python模块中,我们可以很方便的调整我们的分组对象, 对模型的score得分信号进行分段划分。
可以对我们的预测集股票score按 一定的区间划分 成为20个股票池 区间1 区间2 区间3 是分组的代号 求的是三个分组区间并集∪
例如: 我 想要 分组82组
+
+
最终结果我们选的就是头部的那几组 股票 传入 我们的引擎的 第20组 股票 第19组股票 和第18组股票的这三个得分区间
研究 发现,大部分模型,只要 取到分组头部的那一段score得分区间 进行过滤,基本上都可以对原有模型有一定的提升。 强中选强,矮个子里拔将军 就是这样的道理。 大家有兴趣可以多去尝试一下。
#这里可以查看一下我们的分组情况
m12.data_1.read().head(20)
# 本代码由可视化策略环境自动生成 2022年6月29日 16:26
# 本代码单元只能在可视化模式下编辑。您也可以拷贝代码,粘贴到新建的代码单元或者策略,然后修改。
# 回测引擎:初始化函数,只执行一次
def m19_initialize_bigquant_run(context):
# 加载预测数据
context.ranker_prediction = context.options['data'].read_df()
# 系统已经设置了默认的交易手续费和滑点,要修改手续费可使用如下函数
context.set_commission(PerOrder(buy_cost=0.0003, sell_cost=0.0013, min_cost=5))
# 预测数据,通过options传入进来,使用 read_df 函数,加载到内存 (DataFrame)
# 设置买入的股票数量,这里买入预测股票列表排名靠前的5只
stock_count = 5
# 每只的股票的权重,如下的权重分配会使得靠前的股票分配多一点的资金,[0.339160, 0.213986, 0.169580, ..]
context.stock_weights = T.norm([1 / math.log(i + 2) for i in range(0, stock_count)])
# 设置每只股票占用的最大资金比例
context.max_cash_per_instrument = 0.2
context.options['hold_days'] = 5
# 回测引擎:每日数据处理函数,每天执行一次
def m19_handle_data_bigquant_run(context, data):
# 按日期过滤得到今日的预测数据
ranker_prediction = context.ranker_prediction[
context.ranker_prediction.date == data.current_dt.strftime('%Y-%m-%d')]
# 1. 资金分配
# 平均持仓时间是hold_days,每日都将买入股票,每日预期使用 1/hold_days 的资金
# 实际操作中,会存在一定的买入误差,所以在前hold_days天,等量使用资金;之后,尽量使用剩余资金(这里设置最多用等量的1.5倍)
is_staging = context.trading_day_index < context.options['hold_days'] # 是否在建仓期间(前 hold_days 天)
cash_avg = context.portfolio.portfolio_value / context.options['hold_days']
cash_for_buy = min(context.portfolio.cash, (1 if is_staging else 1.5) * cash_avg)
cash_for_sell = cash_avg - (context.portfolio.cash - cash_for_buy)
positions = {e.symbol: p.amount * p.last_sale_price
for e, p in context.portfolio.positions.items()}
# 2. 生成卖出订单:hold_days天之后才开始卖出;对持仓的股票,按机器学习算法预测的排序末位淘汰
if not is_staging and cash_for_sell > 0:
equities = {e.symbol: e for e, p in context.portfolio.positions.items()}
instruments = list(reversed(list(ranker_prediction.instrument[ranker_prediction.instrument.apply(
lambda x: x in equities)])))
for instrument in instruments:
context.order_target(context.symbol(instrument), 0)
cash_for_sell -= positions[instrument]
if cash_for_sell <= 0:
break
# 3. 生成买入订单:按机器学习算法预测的排序,买入前面的stock_count只股票
buy_cash_weights = context.stock_weights
buy_instruments = list(ranker_prediction.instrument[:len(buy_cash_weights)])
max_cash_per_instrument = context.portfolio.portfolio_value * context.max_cash_per_instrument
for i, instrument in enumerate(buy_instruments):
cash = cash_for_buy * buy_cash_weights[i]
if cash > max_cash_per_instrument - positions.get(instrument, 0):
# 确保股票持仓量不会超过每次股票最大的占用资金量
cash = max_cash_per_instrument - positions.get(instrument, 0)
if cash > 0:
context.order_value(context.symbol(instrument), cash)
# 回测引擎:准备数据,只执行一次
def m19_prepare_bigquant_run(context):
pass
m1 = M.instruments.v2(
start_date='2018-01-01',
end_date='2020-12-31',
market='CN_STOCK_A',
instrument_list='',
max_count=0
)
m2 = M.advanced_auto_labeler.v2(
instruments=m1.data,
label_expr="""# #号开始的表示注释
# 0. 每行一个,顺序执行,从第二个开始,可以使用label字段
# 1. 可用数据字段见 https://bigquant.com/docs/develop/datasource/deprecated/history_data.html
# 添加benchmark_前缀,可使用对应的benchmark数据
# 2. 可用操作符和函数见 `表达式引擎 <https://bigquant.com/docs/develop/bigexpr/usage.html>`_
# 计算收益:5日收盘价(作为卖出价格)除以明日开盘价(作为买入价格)
shift(close, -5) / shift(open, -1)
# 极值处理:用1%和99%分位的值做clip
clip(label, all_quantile(label, 0.01), all_quantile(label, 0.99))
# 将分数映射到分类,这里使用20个分类
all_wbins(label, 20)
# 过滤掉一字涨停的情况 (设置label为NaN,在后续处理和训练中会忽略NaN的label)
where(shift(high, -1) == shift(low, -1), NaN, label)
""",
start_date='',
end_date='',
benchmark='000300.HIX',
drop_na_label=True,
cast_label_int=True
)
m3 = M.input_features.v1(
features="""# #号开始的表示注释
# 多个特征,每行一个,可以包含基础特征和衍生特征
return_5
return_10
return_20
avg_amount_0/avg_amount_5
avg_amount_5/avg_amount_20
rank_avg_amount_0/rank_avg_amount_5
rank_avg_amount_5/rank_avg_amount_10
rank_return_0
rank_return_5
rank_return_10
rank_return_0/rank_return_5
rank_return_5/rank_return_10
pe_ttm_0
"""
)
m15 = M.general_feature_extractor.v7(
instruments=m1.data,
features=m3.data,
start_date='',
end_date='',
before_start_days=90
)
m16 = M.derived_feature_extractor.v3(
input_data=m15.data,
features=m3.data,
date_col='date',
instrument_col='instrument',
drop_na=False,
remove_extra_columns=False
)
m7 = M.join.v3(
data1=m2.data,
data2=m16.data,
on='date,instrument',
how='inner',
sort=False
)
m13 = M.dropnan.v1(
input_data=m7.data
)
m6 = M.stock_ranker_train.v6(
training_ds=m13.data,
features=m3.data,
learning_algorithm='排序',
number_of_leaves=30,
minimum_docs_per_leaf=1000,
number_of_trees=20,
learning_rate=0.1,
max_bins=1023,
feature_fraction=1,
data_row_fraction=1,
plot_charts=True,
ndcg_discount_base=1,
m_lazy_run=False
)
m4 = M.input_features.v1(
features_ds=m3.data,
features="""
#未来五日股票的收益
return_5_day=(shift(close_0, -5)-shift(open_0, -1))/shift(open_0, -1)
#未来10日股票的收益
#return_10_day=(shift(close_0, -10)-shift(open_0, -1))/shift(open_0, -1)
"""
)
m9 = M.instruments.v2(
start_date=T.live_run_param('trading_date', '2021-01-01'),
end_date=T.live_run_param('trading_date', '2022-06-28'),
market='CN_STOCK_A',
instrument_list='',
max_count=0
)
m17 = M.general_feature_extractor.v7(
instruments=m9.data,
features=m4.data,
start_date='',
end_date='',
before_start_days=90
)
m18 = M.derived_feature_extractor.v3(
input_data=m17.data,
features=m4.data,
date_col='date',
instrument_col='instrument',
drop_na=False,
remove_extra_columns=False
)
m14 = M.dropnan.v1(
input_data=m18.data
)
m8 = M.stock_ranker_predict.v5(
model=m6.model,
data=m14.data,
m_lazy_run=False
)
m5 = M.join.v3(
data1=m8.predictions,
data2=m14.data,
on='date,instrument',
how='inner',
sort=False
)
m12 = M.score_group_filter.v3(
input_1=m5.data,
分组=82,
区间1=82,
区间2=82,
区间3=82
)
m11 = M.sort.v4(
input_ds=m12.data_1,
sort_by='score',
group_by='--',
keep_columns='--',
ascending=False
)
m19 = M.trade.v4(
instruments=m9.data,
options_data=m11.sorted_data,
start_date='',
end_date='',
initialize=m19_initialize_bigquant_run,
handle_data=m19_handle_data_bigquant_run,
prepare=m19_prepare_bigquant_run,
volume_limit=0.025,
order_price_field_buy='open',
order_price_field_sell='close',
capital_base=1000000,
auto_cancel_non_tradable_orders=True,
data_frequency='daily',
price_type='真实价格',
product_type='股票',
plot_charts=True,
backtest_only=False,
benchmark='000300.HIX'
)
[2022-06-29 16:25:55.330464] INFO: moduleinvoker: instruments.v2 开始运行..
[2022-06-29 16:25:55.343079] INFO: moduleinvoker: 命中缓存
[2022-06-29 16:25:55.346307] INFO: moduleinvoker: instruments.v2 运行完成[0.015849s].
[2022-06-29 16:25:55.362529] INFO: moduleinvoker: advanced_auto_labeler.v2 开始运行..
[2022-06-29 16:25:55.374494] INFO: moduleinvoker: 命中缓存
[2022-06-29 16:25:55.377051] INFO: moduleinvoker: advanced_auto_labeler.v2 运行完成[0.014525s].
[2022-06-29 16:25:55.386515] INFO: moduleinvoker: input_features.v1 开始运行..
[2022-06-29 16:25:55.393464] INFO: moduleinvoker: 命中缓存
[2022-06-29 16:25:55.398003] INFO: moduleinvoker: input_features.v1 运行完成[0.011502s].
[2022-06-29 16:25:55.413074] INFO: moduleinvoker: general_feature_extractor.v7 开始运行..
[2022-06-29 16:25:55.423112] INFO: moduleinvoker: 命中缓存
[2022-06-29 16:25:55.425490] INFO: moduleinvoker: general_feature_extractor.v7 运行完成[0.012447s].
[2022-06-29 16:25:55.436185] INFO: moduleinvoker: derived_feature_extractor.v3 开始运行..
[2022-06-29 16:25:55.443094] INFO: moduleinvoker: 命中缓存
[2022-06-29 16:25:55.444977] INFO: moduleinvoker: derived_feature_extractor.v3 运行完成[0.00881s].
[2022-06-29 16:25:55.454365] INFO: moduleinvoker: join.v3 开始运行..
[2022-06-29 16:25:55.461020] INFO: moduleinvoker: 命中缓存
[2022-06-29 16:25:55.463436] INFO: moduleinvoker: join.v3 运行完成[0.009077s].
[2022-06-29 16:25:55.474919] INFO: moduleinvoker: dropnan.v1 开始运行..
[2022-06-29 16:25:55.485475] INFO: moduleinvoker: 命中缓存
[2022-06-29 16:25:55.488280] INFO: moduleinvoker: dropnan.v1 运行完成[0.013356s].
[2022-06-29 16:25:55.498303] INFO: moduleinvoker: stock_ranker_train.v6 开始运行..
[2022-06-29 16:25:55.511913] INFO: moduleinvoker: 命中缓存
[2022-06-29 16:25:55.629904] INFO: moduleinvoker: stock_ranker_train.v6 运行完成[0.131586s].
[2022-06-29 16:25:55.634953] INFO: moduleinvoker: input_features.v1 开始运行..
[2022-06-29 16:25:55.641765] INFO: moduleinvoker: 命中缓存
[2022-06-29 16:25:55.643563] INFO: moduleinvoker: input_features.v1 运行完成[0.008607s].
[2022-06-29 16:25:55.648839] INFO: moduleinvoker: instruments.v2 开始运行..
[2022-06-29 16:25:55.655985] INFO: moduleinvoker: 命中缓存
[2022-06-29 16:25:55.658505] INFO: moduleinvoker: instruments.v2 运行完成[0.009663s].
[2022-06-29 16:25:55.679271] INFO: moduleinvoker: general_feature_extractor.v7 开始运行..
[2022-06-29 16:25:55.687440] INFO: moduleinvoker: 命中缓存
[2022-06-29 16:25:55.689818] INFO: moduleinvoker: general_feature_extractor.v7 运行完成[0.01056s].
[2022-06-29 16:25:55.699593] INFO: moduleinvoker: derived_feature_extractor.v3 开始运行..
[2022-06-29 16:25:55.707362] INFO: moduleinvoker: 命中缓存
[2022-06-29 16:25:55.709652] INFO: moduleinvoker: derived_feature_extractor.v3 运行完成[0.010062s].
[2022-06-29 16:25:55.759600] INFO: moduleinvoker: dropnan.v1 开始运行..
[2022-06-29 16:25:55.775670] INFO: moduleinvoker: 命中缓存
[2022-06-29 16:25:55.778325] INFO: moduleinvoker: dropnan.v1 运行完成[0.018779s].
[2022-06-29 16:25:55.817556] INFO: moduleinvoker: stock_ranker_predict.v5 开始运行..
[2022-06-29 16:25:55.830965] INFO: moduleinvoker: 命中缓存
[2022-06-29 16:25:55.834246] INFO: moduleinvoker: stock_ranker_predict.v5 运行完成[0.01669s].
[2022-06-29 16:25:55.846115] INFO: moduleinvoker: join.v3 开始运行..
[2022-06-29 16:25:55.860351] INFO: moduleinvoker: 命中缓存
[2022-06-29 16:25:55.863109] INFO: moduleinvoker: join.v3 运行完成[0.017s].
[2022-06-29 16:25:55.908523] INFO: moduleinvoker: score_group_filter.v3 开始运行..
[2022-06-29 16:25:55.924663] INFO: moduleinvoker: 命中缓存
[2022-06-29 16:25:55.927332] INFO: moduleinvoker: score_group_filter.v3 运行完成[0.018832s].
[2022-06-29 16:25:55.933538] INFO: moduleinvoker: sort.v4 开始运行..
[2022-06-29 16:25:55.941563] INFO: moduleinvoker: 命中缓存
[2022-06-29 16:25:55.944198] INFO: moduleinvoker: sort.v4 运行完成[0.010656s].
[2022-06-29 16:25:56.023494] INFO: moduleinvoker: backtest.v8 开始运行..
[2022-06-29 16:25:56.037818] INFO: moduleinvoker: 命中缓存
[2022-06-29 16:25:57.845654] INFO: moduleinvoker: backtest.v8 运行完成[1.822165s].
[2022-06-29 16:25:57.848427] INFO: moduleinvoker: trade.v4 运行完成[1.896675s].