在AI模型中去掉ST股票

宽客学院
st股票
标签: #<Tag:0x00007f20bdaf78c0> #<Tag:0x00007f20bdaf7780>

(iQuant) #1

BigQuant平台提供的默认人工智能策略生成器模板是使用所有的股票做为输入池。很多时候,我们要去掉特定的股票,比如去掉ST股票或者退市等股票。

  • 本文展示如何在模型训练和回测交易中都把ST等股票去除
  • 用户可以参考此方法去除其他特定类型的股票

模板策略

请先用 人工智能策略生成器 生成一个策略。(当然你也可以参考如下代码修改自己的任何策略)

数据字段

首先,要有数据支持定位到ST股票,可以直接使用平台提供的因子:st_status_0

ST状态:0:正常股票,1:ST,2:*ST,11:暂停上市

所以我们在 conf 里添加如下配置,这里没有 st_status_0 放在 conf.features,是因为我们不打算把他作为一个训练特征。

# 基础参数配置
class conf:
    extra_fields = ['st_status_0']

特征数据抽取

特征抽取的时候,添加上 conf.extra_fields

# 计算特征数据
m2 = M.general_feature_extractor.v5(
    instruments=conf.instruments, start_date=conf.start_date, end_date=conf.split_date,
    features=conf.features + conf.extra_fields)

从训练数据里只保留正常状态股票

通过 st_status_0 == 0 只留下正常状态股票,并作为 M.stock_ranker_train 的输入数据:

# 合并标注和特征数据
m4 = M.join.v2(data1=m1.data, data2=m3.data, on=['date', 'instrument'], sort=True)
# 从训练数据里去掉ST等股票,只保留正常状态的股票
m4_1 = M.filter.v2(data=m4.data, expr='st_status_0 == 0')
# StockRanker机器学习训练
m5 = M.stock_ranker_train.v3(training_ds=m4_1.data, features=conf.features)

回测交易的时候只保留正常状态股票

回测交易数据是在 prepare 中准备的,在这里抽取 st_status_0 字段,并做过滤:

# 回测引擎:准备数据,只执行一次
def prepare(context):
    # context.start_date / end_date,回测的时候,为trader传入参数;在实盘运行的时候,由系统替换为实盘日期
    n1 = M.general_feature_extractor.v5(
        instruments=D.instruments(start_date=context.start_date, end_date=context.end_date),
        start_date=context.start_date, end_date=context.end_date,
        model_id=context.options['model_id'],
        features=context.options['extra_fields'])
    n2 = M.transform.v2(
        data=n1.data, transforms=T.get_stock_ranker_default_transforms(),
        drop_null=True, astype='int32', except_columns=['date', 'instrument'],
        clip_lower=0, clip_upper=200000000)
    # 从训练数据里去掉ST等股票,只保留正常状态的股票
    n2_1 = M.filter.v2(data=n2.data, expr='st_status_0 == 0')
    n3 = M.stock_ranker_predict.v2(model_id=context.options['model_id'], data=n2_1.data)
    context.instruments = n3.instruments
    context.options['predictions'] = n3.predictions

当然 extra_fields 需要通过如下方式传入:

# 调用交易引擎
m6 = M.trade.v2(
    instruments=None,
    start_date=conf.split_date,
    end_date=conf.end_date,
    prepare=prepare,
    initialize=initialize,
    handle_data=handle_data,
    order_price_field_buy='open',       # 表示 开盘 时买入
    order_price_field_sell='close',     # 表示 收盘 前卖出
    capital_base=1000000,               # 初始资金
    benchmark='000300.SHA',             # 比较基准,不影响回测结果
    # 通过 options 参数传递预测数据和参数给回测引擎
    options={'hold_days': conf.hold_days, 'model_id': m5.model_id, 'extra_fields': conf.extra_fields}
)

结果

使用模板默认参数和随便选的几个因子:

  1. 去掉ST等之前:
  2. 去掉ST等之后:收益和最大回测都变好了一些

完整代码

可以直接clone

克隆策略
In [5]:
# 基础参数配置
class conf:
    start_date = '2010-01-01'
    end_date='2017-01-01'
    # split_date 之前的数据用于训练,之后的数据用作效果评估
    split_date = '2015-01-01'
    # D.instruments: https://bigquant.com/docs/data_instruments.html
    instruments = D.instruments(start_date, split_date)

    # 机器学习目标标注函数
    # 如下标注函数等价于 min(max((持有期间的收益 * 100), -20), 20) + 20 (后面的M.fast_auto_labeler会做取整操作)
    # 说明:max/min这里将标注分数限定在区间[-20, 20],+20将分数变为非负数 (StockRanker要求标注分数非负整数)
    label_expr = ['return * 100', 'where(label > {0}, {0}, where(label < -{0}, -{0}, label)) + {0}'.format(20)]
    # 持有天数,用于计算label_expr中的return值(收益)
    hold_days = 5

    # 特征 https://bigquant.com/docs/data_features.html,你可以通过表达式构造任何特征
    features = [
        'return_5',  # 5日收益
        'return_10',  # 10日收益
        'return_20',  # 20日收益
        'avg_amount_0/avg_amount_5',  # 当日/5日平均交易额
        'avg_amount_5/avg_amount_20',  # 5日/20日平均交易额
        'rank_avg_amount_0/rank_avg_amount_5',  # 当日/5日平均交易额排名
        'rank_avg_amount_5/rank_avg_amount_10',  # 5日/10日平均交易额排名
        'rank_return_0',  # 当日收益
        'rank_return_5',  # 5日收益
        'rank_return_10',  # 10日收益
        'rank_return_0/rank_return_5',  # 当日/5日收益排名
        'rank_return_5/rank_return_10',  # 5日/10日收益排名
        'pe_ttm_0',  # 市盈率TTM
    ]
    # st_status_0: https://bigquant.com/docs/data_features.html#id4
    extra_fields = ['st_status_0']

# 给数据做标注:给每一行数据(样本)打分,一般分数越高表示越好
m1 = M.fast_auto_labeler.v8(
    instruments=conf.instruments, start_date=conf.start_date, end_date=conf.split_date,
    label_expr=conf.label_expr, hold_days=conf.hold_days,
    benchmark='000300.SHA', sell_at='open', buy_at='open')
# 计算特征数据
m2 = M.general_feature_extractor.v5(
    instruments=conf.instruments, start_date=conf.start_date, end_date=conf.split_date,
    features=conf.features + conf.extra_fields)
# 数据预处理:缺失数据处理,数据规范化,T.get_stock_ranker_default_transforms为StockRanker模型做数据预处理
m3 = M.transform.v2(
    data=m2.data, transforms=T.get_stock_ranker_default_transforms(),
    drop_null=True, astype='int32', except_columns=['date', 'instrument'],
    clip_lower=0, clip_upper=200000000)
# 合并标注和特征数据
m4 = M.join.v2(data1=m1.data, data2=m3.data, on=['date', 'instrument'], sort=True)
# 从训练数据里去掉ST等股票,只保留正常状态的股票
m4_1 = M.filter.v2(data=m4.data, expr='st_status_0 == 0')
# StockRanker机器学习训练
m5 = M.stock_ranker_train.v3(training_ds=m4_1.data, features=conf.features)


## 量化回测 https://bigquant.com/docs/module_trade.html
# 回测引擎:准备数据,只执行一次
def prepare(context):
    # context.start_date / end_date,回测的时候,为trader传入参数;在实盘运行的时候,由系统替换为实盘日期
    n1 = M.general_feature_extractor.v5(
        instruments=D.instruments(start_date=context.start_date, end_date=context.end_date),
        start_date=context.start_date, end_date=context.end_date,
        model_id=context.options['model_id'],
        features=context.options['extra_fields'])
    n2 = M.transform.v2(
        data=n1.data, transforms=T.get_stock_ranker_default_transforms(),
        drop_null=True, astype='int32', except_columns=['date', 'instrument'],
        clip_lower=0, clip_upper=200000000)
    # 从训练数据里去掉ST等股票,只保留正常状态的股票
    n2_1 = M.filter.v2(data=n2.data, expr='st_status_0 == 0')
    n3 = M.stock_ranker_predict.v2(model_id=context.options['model_id'], data=n2_1.data)
    context.instruments = n3.instruments
    context.options['predictions'] = n3.predictions

# 回测引擎:初始化函数,只执行一次
def initialize(context):
    # 加载预测数据
    context.ranker_prediction = context.options['predictions'].read_df()

    # 系统已经设置了默认的交易手续费和滑点,要修改手续费可使用如下函数
    context.set_commission(PerOrder(buy_cost=0.0003, sell_cost=0.0013, min_cost=5))
    # 预测数据,通过options传入进来,使用 read_df 函数,加载到内存 (DataFrame)
    # 设置买入的股票数量,这里买入预测股票列表排名靠前的5只
    stock_count = 5
    # 每只的股票的权重,如下的权重分配会使得靠前的股票分配多一点的资金,[0.339160, 0.213986, 0.169580, ..]
    context.stock_weights = T.norm([1 / math.log(i + 2) for i in range(0, stock_count)])
    # 设置每只股票占用的最大资金比例
    context.max_cash_per_instrument = 0.2

# 回测引擎:每日数据处理函数,每天执行一次
def handle_data(context, data):
    # 按日期过滤得到今日的预测数据
    ranker_prediction = context.ranker_prediction[
        context.ranker_prediction.date == data.current_dt.strftime('%Y-%m-%d')]

    # 1. 资金分配
    # 平均持仓时间是hold_days,每日都将买入股票,每日预期使用 1/hold_days 的资金
    # 实际操作中,会存在一定的买入误差,所以在前hold_days天,等量使用资金;之后,尽量使用剩余资金(这里设置最多用等量的1.5倍)
    is_staging = context.trading_day_index < context.options['hold_days'] # 是否在建仓期间(前 hold_days 天)
    cash_avg = context.portfolio.portfolio_value / context.options['hold_days']
    cash_for_buy = min(context.portfolio.cash, (1 if is_staging else 1.5) * cash_avg)
    cash_for_sell = cash_avg - (context.portfolio.cash - cash_for_buy)
    positions = {e.symbol: p.amount * p.last_sale_price
                 for e, p in context.perf_tracker.position_tracker.positions.items()}

    # 2. 生成卖出订单:hold_days天之后才开始卖出;对持仓的股票,按StockRanker预测的排序末位淘汰
    if not is_staging and cash_for_sell > 0:
        equities = {e.symbol: e for e, p in context.perf_tracker.position_tracker.positions.items()}
        instruments = list(reversed(list(ranker_prediction.instrument[ranker_prediction.instrument.apply(
                lambda x: x in equities and not context.has_unfinished_sell_order(equities[x]))])))
        # print('rank order for sell %s' % instruments)
        for instrument in instruments:
            context.order_target(context.symbol(instrument), 0)
            cash_for_sell -= positions[instrument]
            if cash_for_sell <= 0:
                break

    # 3. 生成买入订单:按StockRanker预测的排序,买入前面的stock_count只股票
    buy_cash_weights = context.stock_weights
    buy_instruments = list(ranker_prediction.instrument[:len(buy_cash_weights)])
    max_cash_per_instrument = context.portfolio.portfolio_value * context.max_cash_per_instrument
    for i, instrument in enumerate(buy_instruments):
        cash = cash_for_buy * buy_cash_weights[i]
        if cash > max_cash_per_instrument - positions.get(instrument, 0):
            # 确保股票持仓量不会超过每次股票最大的占用资金量
            cash = max_cash_per_instrument - positions.get(instrument, 0)
        if cash > 0:
            context.order_value(context.symbol(instrument), cash)


# 调用交易引擎
m6 = M.trade.v2(
    instruments=None,
    start_date=conf.split_date,
    end_date=conf.end_date,
    prepare=prepare,
    initialize=initialize,
    handle_data=handle_data,
    order_price_field_buy='open',       # 表示 开盘 时买入
    order_price_field_sell='close',     # 表示 收盘 前卖出
    capital_base=1000000,               # 初始资金
    benchmark='000300.SHA',             # 比较基准,不影响回测结果
    # 通过 options 参数传递预测数据和参数给回测引擎
    options={'hold_days': conf.hold_days, 'model_id': m5.model_id, 'extra_fields': conf.extra_fields}
)
[2017-08-08 12:30:34.228331] INFO: bigquant: fast_auto_labeler.v8 start ..
[2017-08-08 12:30:34.231081] INFO: bigquant: hit cache
[2017-08-08 12:30:34.235438] INFO: bigquant: fast_auto_labeler.v8 end [0.007123s].
[2017-08-08 12:30:34.241927] INFO: bigquant: general_feature_extractor.v5 start ..
[2017-08-08 12:30:34.243959] INFO: bigquant: hit cache
[2017-08-08 12:30:34.244952] INFO: bigquant: general_feature_extractor.v5 end [0.003022s].
[2017-08-08 12:30:34.253155] INFO: bigquant: transform.v2 start ..
[2017-08-08 12:30:34.254674] INFO: bigquant: hit cache
[2017-08-08 12:30:34.255349] INFO: bigquant: transform.v2 end [0.002198s].
[2017-08-08 12:30:34.260626] INFO: bigquant: join.v2 start ..
[2017-08-08 12:30:34.262001] INFO: bigquant: hit cache
[2017-08-08 12:30:34.262754] INFO: bigquant: join.v2 end [0.002126s].
[2017-08-08 12:30:34.267538] INFO: bigquant: filter.v2 start ..
[2017-08-08 12:30:34.268957] INFO: bigquant: hit cache
[2017-08-08 12:30:34.269656] INFO: bigquant: filter.v2 end [0.002126s].
[2017-08-08 12:30:34.275843] INFO: bigquant: stock_ranker_train.v3 start ..
[2017-08-08 12:30:34.277317] INFO: bigquant: hit cache
[2017-08-08 12:30:34.278049] INFO: bigquant: stock_ranker_train.v3 end [0.002208s].
[2017-08-08 12:30:34.295527] INFO: bigquant: backtest.v7 start ..
[2017-08-08 12:30:34.399304] INFO: bigquant: general_feature_extractor.v5 start ..
[2017-08-08 12:30:41.091895] INFO: general_feature_extractor: year 2015, featurerows=569698
[2017-08-08 12:30:51.458633] INFO: general_feature_extractor: year 2016, featurerows=641546
[2017-08-08 12:30:56.332314] INFO: general_feature_extractor: year 2017, featurerows=0
[2017-08-08 12:30:56.473252] INFO: general_feature_extractor: total feature rows: 1211244
[2017-08-08 12:30:56.475249] INFO: bigquant: general_feature_extractor.v5 end [22.075961s].
[2017-08-08 12:30:56.484746] INFO: bigquant: transform.v2 start ..
[2017-08-08 12:30:59.695213] INFO: transform: transformed /y_2015, 565146/569698
[2017-08-08 12:31:03.591546] INFO: transform: transformed /y_2016, 636912/641546
[2017-08-08 12:31:03.737186] INFO: transform: transformed rows: 1202058/1211244
[2017-08-08 12:31:03.762535] INFO: bigquant: transform.v2 end [7.277746s].
[2017-08-08 12:31:03.768708] INFO: bigquant: filter.v2 start ..
[2017-08-08 12:31:03.772547] INFO: filter: filter with expr st_status_0 == 0
[2017-08-08 12:31:04.423701] INFO: filter: filter /y_2015, 556627/565146
[2017-08-08 12:31:05.918845] INFO: filter: filter /y_2016, 626001/636912
[2017-08-08 12:31:06.078454] INFO: bigquant: filter.v2 end [2.309694s].
[2017-08-08 12:31:06.085281] INFO: bigquant: stock_ranker_predict.v2 start ..
[2017-08-08 12:31:08.196110] INFO: df2bin: prepare data: prediction ..
[2017-08-08 12:31:24.087528] INFO: stock_ranker_predict: prediction: 1182628 rows
[2017-08-08 12:31:35.151969] INFO: bigquant: stock_ranker_predict.v2 end [29.06665s].
[2017-08-08 12:32:10.630406] INFO: Performance: Simulated 488 trading days out of 488.
[2017-08-08 12:32:10.631548] INFO: Performance: first open: 2015-01-05 14:30:00+00:00
[2017-08-08 12:32:10.632356] INFO: Performance: last close: 2016-12-30 20:00:00+00:00
[注意] 有 2 笔卖出是在多天内完成的。当日卖出股票超过了当日股票交易的2.5%会出现这种情况。
  • 收益率382.26%
  • 年化收益率125.34%
  • 基准收益率-6.33%
  • 阿尔法1.29
  • 贝塔0.99
  • 夏普比率2.66
  • 收益波动率45.82%
  • 信息比率3.9
  • 最大回撤47.17%
[2017-08-08 12:32:12.615656] INFO: bigquant: backtest.v7 end [98.320102s].

怎样剔除将要退市的股票?
(wien) #2

请问在新的框架general feature extractor v6 和stockranker v5下如何去除st股票呢


(达达) #3

https://community.bigquant.com/t/AI可视化模板的交易控制/8631/3
可以参考这篇文章实现可视化模板下的过滤/风控/止盈止损


(wien) #4

我只看到了一字板的过滤,请问st的过滤怎么弄?


(达达) #5


请参考这个[AI可视化模板的交易控制 ]文章
您可以随意设置过滤,前提是您已经抽取了要过滤的因子,比方说您要过滤股价>60元的股,那您需要在因子列表中加入close_0这个因子,然后在数据过滤中的过滤表达式中输入close_0>60。
同理,如果您要去除st的股票,您的特征列表中就加入这个st_status因子,然后在数据过滤中的过滤表达式中输入 st_status==0。
更复杂的,如果您需要过滤股价>60且过滤st股票 那您需要在特征列表中含有close_0因子和st_status因子,同时在过滤表达式中填入的是 close_0>60 and st_status==0。