循环神经网络能够挖掘数据中的时序信息，并且具有语义信息的深度表达能力，在语音识别、语言模型、机器翻译以及时序分析等方面得到了广泛应用。

在之前的文章中，我们介绍了RNN的很多内容，包括：

1. [循环神经网络RNN介绍](https://zhuanlan.zhihu.com/p/3102842

本文内容来自于[Introduction to TensorFlow Datasets and Estimators](https://link.zhihu.com/?target=https%3A//developers.googleblog.com/2017/09/introducing-ten

前置准备

在阅读本文之前，请确定你已经了解了神经网络的基本结构以及前向传播、后向传播的基本原理，如果尚未了解，可以查看下文。

[神经网络初探​chrer.com ![图标](/community/uploads/default/original/3X/8/3/836cb6b4e8acb5

在七月份对传统机器学习方法的总览学习之后，我这半个月都在学习如何使用TensorFlow框架进行深度学习，最近进行了一个小的项目——验证码识别，期间踩了不少

本文主要介绍tf.Tensor的各种常用属性，张量是对矢量和矩阵向潜在的更高维度的泛化。对内，TensorFlow 将张量表现为基本数据类型的 n 维数组。

在编写 TensorFlow 程序时，操控和传递的主要目标是 tf.Tensor。tf.Tensor 目标表示一个部分定义的

Datasets和Estimators是Tensorflow中两个最重要的模块：

1. Dataset是创造input pipeline的最佳实践；
2. Estimator是一个封装好的比较高层的创建Tensorflow模型的方法，Estimator包括预先训练好的模型，也可以用来创建自己的定制

前置准备

在阅读本文之前，请确定你已经了解了神经网络的基本结构以及前向传播、后向传播的基本原理。

几种重要算法

前向传播

前向传播是神经网络最重要的算法之一，他的目的是通过输入层的输入进行推断，得到输出层的结果，下面假定一个简单的神经网络如下图，包含：一个输入层，一

2018年的TensorFlow技术交流峰会已经结束了，介绍了Tensorflow的各种新功能和技术。本次峰会汇集了来自世界各地的各种机器学习用户，与TensorFlow团队和社区进行为期一整天的技术性交流，演示和对话。主要的技术分享者包括：Anitha Vijayakumar，Megan Kach

一直想对tensorflow的slim做更深入的了解，于是就有了这篇文章，一是为了做笔记，二是为大家理解slim提供帮助。不过由于时间有限，此文章会慢慢更新，估计持续一周才能完成。另外，我是一名学习者，所以文章中难免有不正确的地方，希望大家多多包涵并请不吝指正。注：阅读这篇文章估计要花三个小时，所以

要说史上最著名的猫，大概就是薛定谔的那只了。它被关在装有少量镭和氰化物的密闭容器里，当镭发生衰变时，就会触

本文属于我们陆续发布的ETF投资指南系列研究文献，主要讲一下分析比较ETF可以用到的一些专业方法。这篇文章的专业性比较强，适合基金投资行业从业人员阅读。

在绝大部分投资者比较和分析ETF的时候，他们看的比较多的指标有：

![](/community/uploads/default/origin

在投资者对于ETF的选择过程中，有一个因素大家需要特别注意，那就是预扣税（Withholding Tax）对于投资者回报的影响。

预扣税的定义：预扣税是一国政府在源头征收的一种所得税。该税收主要在非本国居民收到股票红利和债券利息时被征收。在这里大家需要注意几个重点概念：首先是该税收只针对非本国居民

ETF，是Exchange Traded Funds的简称，中文名字叫做：交易型开放式指数基金。

对于投资者来说，ETF具有以下优点：费用低廉，交易透明，省税。由于这些优点，ETF在最近几年受到投资者的青睐。

![](/community/uploads/default/original/3X

大家知道，ETF的中文名称叫做指数基金，因此绝大部分ETF投资的对象都是指数。那么究竟什么是指数呢？金融世界里有哪些不同的指数？这些不同指数各有哪些优缺点？今天这篇文章就来讲讲这些问题。

平时大家接触最多的，可能就是股票指数。比如在金融电台和报纸上，我们经常会看到诸如“上证综指今天报收XXX点”之

在我和投资者们的沟通过程中，我发现有很多朋友对于指数基金（ETF）非常感兴趣。因此他们十分希望我可以分享一些在国内可以投资的ETF。今天这篇文章就来说说这个问题。

截止2016年12月30号，在中国上海证券交易所和深圳证券交易所上市的ETF共有140个（含货币基金ETF）。其中在上海证券交易所上市

CW-RNN是一个带时钟频率的RNN变种，似乎是对回归有不错的效果，不过这个有争论。对一个时间序列，无论是回归还是分类都是将数据经过循环按照时间序列输入，RNN使用隐藏矩阵进行记忆，然后判定输出。针对原始RNN对长序列记忆效果极差，作者在这里设计了一种将隐藏状态矩阵（记忆机制）分割成g个小模块并使用

上一回我们简单介绍了无向图模型和CRF的基本概念，下面我们来看看CRF在图像分割问题上的具体应用。我们简单回忆一下CRF中的两个关键变量，这时我们需要换一下变量的名称——我们用I表示图像的像素信息，也就是观察变量，我们用X表示图像中每一个像素的类别，也就是我们想要知道的信息。不过在更多的文档中，大家

上一篇我们介绍了DenseCRF的形式，我们已经了解了denseCRF，下面我们花一点时间了解下denseCRF的求解方式——Mean Field Variational Inference

Variational Inference入坑

前面我们在介绍Variational autoen

前面我们简单介绍了FCN——这个将High-Level任务转到Low-Level任务的模型。这里的High和Low并不是我们通常意义中的High和Low，两种任务并没有高低之分，但是两种任务实际上需要的技术还是有所不同的。CNN模型从High-Level任务起家，直接将它们放到Low-Level的任

CRFasRNN

前面我们在denseCRF中留了一个小尾巴，那就是unary function。为了让FCN结合起来，这里我们做两个设定：

1. FCN的结合作为unary function的结果
2. FCN的结果作为pairwise function中的Q函数的初始值。

这样FCN

前面我们介绍了许多利用CNN进行分类任务的模型，今天我们来看看用CNN做分割的模型。我们的主要内容来自这篇文章——《Fully Convolutional Networks for Semantic Segmentation》。

图像分割

首先我们来简单看看图像分割的任务是什么样的。所谓的

本文收录在无痛的机器学习第一季。

经过前两篇文章，我们了解了CRF的基本概念，了解了许许多多的CRF模型，也了解了Mean field variational inference的基本概念，那么这一回我们开始真刀真枪

有没有浅层学习？

前面我们提到“深度学习”，读者很容易想到，那有没有相应的“浅层学习”呢？答案是，有。传统意义上的人工神经网络，主要由输入层、隐含层、输出层构成，其中隐含层也叫多层感知机（Multi Layer Perceptron）。

正如其名称所示，多层感知机的确也可以是多层的网络，但

“道法自然”与人工神经网络

我们知道，深度学习网络，实质上就是层数较多的神经网络。追根溯源，那什么是神经网络呢？简单来说，它是一种模仿动物神经网络行为特征，进行分布式并行处理信息的算法模型。

人，无疑是有智能的。如果想让“人造物”具备智能，模仿人类是最朴素不过的方法论了。早在春秋时期，老子

“感知机”是如何工作的

在聊完了“感知机”的一段发展史后，下面让我们言归正传，再从技术层面，深入讨论一下感知机的工作机理。

现在我们知道，所谓的感知机，其实就是一个由两层神经元构成的网络结构，它在输入层接收外界的输入，通过激活函数（含阈值）的变换，把信号传送至输出层，因此它也称之为“阈值逻