自然语言处理

本文14323字，阅读约28分钟

导语：本文旨在用精炼的语言阐述实操层面的机器学习量化应用方法，包括给出实践中一些常见、实际问题的处理方案，并结合了量化应用实例。读完后大家可以在本平台进行实践检验。

文章概览：

1.人工智能量化投资概述

2.人工智能技术简介

3.机器学习在量化投资中应用的具体方法解析

AI相对于传统量化投资的优势 传统的量化投资策略是通过建立各种数学模型，在各种金融数据中试图找出市场的规律并加以利用，力所能及的模式或许可以接近某一个局部的最优，而真正的全局“最优解”或许在我们的经验认知之外。如同不需要借助人类经验的Alpha Zero，不仅

年初就一直在等啦

终于等到这本书

分享一下

此书的代码下载地址：https://github.com/fchollet/deep-learning-with-python-notebooks

![](/community/uploads/default/original/3X/c/c/cc94b84a373c66d820177c480765c8ec2467c73d

在自然语言处理中TF-IDF是一种得到广泛应用来提取文本“关键字”的算法，本文我们介绍TF-IDF算法，并对scikit-learn中计算TF-IDF的方法进行介绍。

TF-IDF算法介绍

TF-IDF是_Term Frequency-Inverse Document Frequency_的缩写，也就是“词频-反文档频率”，其包括两个部分。

TF指词频，表示在一段文本中单词出现的频繁程度。如果一个单词在该段文本中经常出现，那么就比较能够代表这段文本的关键字，例如在美食类文本中出现的“炒菜”这样的词。假设在一段文本 ![W=\left{ w_1,w_2,..

\

1. 什么是Softmax

Softmax要解决这样一个问题：我有一个向量，想用数学方法把向量中的所有元素归一化为一个概率分布。也就是说，该向量中的元素在[0,1]范围内，且所有元素的和为1。

Softmax就是这个数学方法，本质上是一个函数。

假设我们有一个k维向量z，我们想把它转换为一个k维向量 ，使其所有元素的范围是[0,1]且所有元素的和为1，函数表达式是：

![softmax(x)_i = \frac {e^{x_i}

好嘛博主食言了。不过本文没什么干货，主要是前后看了大概一个星期，反复去读源码和解读文章，终于感觉这东西不那么云山雾罩了。同时也发现网上很多材料有点扯淡，99% 的博文不过是把别人的东西用自己的话说一下，人云亦云。好多人自己理解错了而不自知，实在是误人误己。

我也不敢说理解得有多深，下面的内容甚至可能有自相矛盾的地方，所以阅读本文时请一定擦亮眼睛，认真思考。

源码才是根本，作者那两篇论文感觉参考价值也不高。说到底，Machine Learning/Deep Learning 的价值在于实践，而实际开发的应用中经过大量的 tricks 之后，代码跟论文推导、实验可能相去甚远。

Data Mi

目录

1. 随机梯度下降法有什么问题？
2. 负采样
3. 计算梯度

1. 随机梯度下降法有什么问题？

通过对代价函数求权重的梯度，我们可以一次性对所有的参数 进行优化，但是如果每次等全部计算完成再优化升级，我们将等待很长时间（对于很大的语料库来说）。

所以我们采用随机梯度下降（ Stochastic Gradient Descent），也就是说每次完成一次计算就进行升级。

但是，还有两个问题导致目前的模型效率低下！

第一个问题，我们每次只对窗口

推荐一本2018年初发布的，由佐治亚理工学院交互计算学院副教授Jacob Eisenstein编写的深度学习与自然语言处理的教材。这本书由浅入深，在详细、全面介绍了自然语言处理相关的基础知识之上，结合了最新的深度学习技术，详细介绍了深度学习技术在自然语言处理很多方面的应用。文末附本书pdf下载地址。

主要内容

LEARNING

Linear text classification

Nonlinear Classification

Linguistic Application of Classification

Learning without Supervi

人工智能（AI）技术得到了飞速发展，其在各个领域的运用也不断取得成果。机器学习被评为人工智能中最能体现人类智慧的技术，因此开发AI量化策略可以理解为将机器学习应用在量化投资领域。

理解机器学习算法

机器学习算法太多，本文讨论只针对适用于金融数据预测的常用有监督型机器学习（Supervised Machine Learning）算法：StockRanker。假设我们要去预测某个连续变量$ Y$未来的取值,并找到了影响变量$ Y$取值的$K$ 个变量，这些变量也称为特征变量（Feature Variable）。机器学习 即是要找到一个拟合函数$f(X_1,X_2,\ldots,X_K|

可以写策略、改策略的ChatGPT实在是太强大了！

使用文档

国内丝滑使用 ChatGPT 的方法(使用ChatGPT详情参见文内)

看视频

https://www.bilibili.com/video/BV16L41127tD/

\

CHatGPT模板

[https://bigquant.com/experimentshare/25e12fb7730d41a59dffb4c3a63d3c

【此文档为旧版策略】具体可参考新版文档：

https://bigquant.com/wiki/doc/103-ai-LpsqDhu8mG

https://bigquant.com/experimentshare/dd9cff01459a41f9be40d7e660164795

\

Q1-@james:有什么另类的标注可以推荐下？

https://bigquant.com/wiki/doc/-0kcMgSnQXw

https://bigquant.com/wiki/doc/rengongzhineng-xilie-ershijiu-shouyi-linglei-biaoqian-zhengquan-fuben-xRMNFmmg00

分享一些量化交易相关的常识信息。

五因子模型公式及应用

五因子模型是哪五个因子

**[多因子选股模型及优缺点](https://bigquant.com/wiki/doc/5asa5zug5a2q6ycj6ikh5qih5z6l5zcn6kn6ke

策略案例

https://bigquant.com/experimentshare/5cfd9186208047518a995e4394ba1099

\

更新

本文内容对应旧版平台与旧版资源，其内容不再适合最新版平台，请查看新版平台的使用说明

新版量化开发IDE（AIStudio）：

https://bigquant.com/wiki/doc/aistudio-aiide-NzAjgKapzW

新版模版策略：

https://bigquant.com/wiki/doc/demos-ecdRvuM1TU

新版数据平

更新

本文内容已经过期，不再适合平台最新版本，请查看如下最新内容：

[https://bigquant.com/wiki/doc/6yep5yyw5py65zmo5a2m5lmg57o75yix5yig5lqr77yi5lia77yj5py65zmo5a2m5lmg5lul57un5lio57q5ocn5zue5b2s5qih5z6l-NIQe5FA4dS](https://bigquant.com/wiki/doc/6yep5yyw5py65zmo5a2m5lmg57o75yix5yig5lqr77yi5lia77yj5py65zmo5a2m5lmg5lul57un5li

https://bigquant.com/experimentshare/d50ee96c36f84af6ad990409294db4cb

\

更新

本文内容对应旧版平台与旧版资源，其内容不再适合最新版平台，请查看新版平台的使用说明

新版量化开发IDE（AIStudio）：

https://bigquant.com/wiki/doc/aistudio-aiide-NzAjgKapzW

新版模版策略：

https://bigquant.com/wiki/doc/demos-ecdRvuM1TU

新版数据平

更新

本文内容对应旧版平台与旧版资源，其内容不再适合最新版平台，请查看新版平台的使用说明

新版量化开发IDE（AIStudio）：

https://bigquant.com/wiki/doc/aistudio-aiide-NzAjgKapzW

新版模版策略：

https://bigquant.com/wiki/doc/demos-ecdRvuM1TU

新版数据平

消息在股票交易中有很大的影响力，如果没有对消息的处理会导致策略经常中雷，怎么办呢？

• \

• 点击新建对话，创建一个新对话

• 点击输入框，开始与QuantChat交流

• 您可以直接输入以下对话

![{w:100}](/wiki/api/attachments.redirect?id=a8f02630

\

\

• %%BigQuant_ChatGPT 你好

\

%%BigQuant_ChatGPT

如何使用ChatGPT，可以用来做什么？

\

编写线段树代码