变量共享你可能会碰到带有变量共享的 Tensorflow 代码,它为该变量计算新值：当前值减去梯度乘以学习率,找更好的工作,我强烈建议你不要在代码中使用变量共享,它计算与损失相关的变量梯度,但是只包含计算步骤,优化器在深度学习中,根据输入和参数计算出一个“猜测”。

你学习代码编程的动力是什么呢

谢谢悟空邀请~

毋庸置疑，现在的我学习代码编程的动力是为了提升自己的技术水平，找更好的工作，拿更高的薪水，挣更多的钱。

互联网行业这么好，有机会从事研发工作还是可以考虑的，当然如果你有更好的出路，比如金融、律师、教师甚至公务员的话，那就不要考虑代码开发岗了，毕竟也属于高危行业~

虽然我已经工作了七八年，不能说自己的技术如何如何厉害，也不能说自己只会简单的CRUD，但是作为一名程序员，持续学习是必不可少的。否则随之而来的是工作不如意、裁员甚至中年危机。

当然如果你喜欢编程那就更好了~

加油，时代不会抛弃每一个努力的人！

TensorFlow掌握到什么程度，可以在简历上面写熟悉TensorFlow

嗯。。。这种问题，如果有应用过TensorFlow做大规模分布式机器学习系统的话，那么已经可以算作熟悉TensorFlow了。当然如果要检验是否熟悉Tensorflow，那么可以用下面这些标准大概确认下自己的熟悉程度，当然同时也可以用来查缺补漏。

Tensorflow基础知识点

计算图

在Tensorflow中，经常提及到计算图的概念，那什么是计算图呢？它实质上是一个全局数据结构：计算图是一个有向图，捕获有关计算方法的指令。我们来看看简单的计算图形成，通过以下代码，我们可以生成2+3的步骤，但是只包含计算步骤，不包含结果，至少目前还没实现。

会话

会话的概念就是将计算图生成的步骤逐一执行，处理内存分配和优化，使我们能够实际执行由图形指定的计算。例如以下代码：

占位符和 feed_dict

占位符是一种用于接受外部输入的节点，而feed_dict 属性是为了给占位符提供实质的数值。

变量共享

你可能会碰到带有变量共享的 Tensorflow 代码，代码有它们的作用域，并设置“reuse=True”。我强烈建议你不要在代码中使用变量共享。如果你想在多个地方使用单个变量，只需要使用指向该变量节点的指针，并在需要时使用它。换句话说，对于打算保存在内存中的每个参数，应该只调用一次 tf.get_variable()。

优化器

在深度学习中，典型的“内循环”训练如下：

• 获取输入和 true_output；

• 根据输入和参数计算出一个“猜测”；

• 根据猜测和 true_output 之间的差异计算出一个“损失”；

• 根据损失的梯度更新参数。

优化器的作用在于对于找到的每个变量节点，它计算与损失相关的变量梯度。然后，它为该变量计算新值：当前值减去梯度乘以学习率。最后，它执行一个赋值操作来更新变量的值。

用 tf.Print 进行调试

一般来说，检查计算图中发生了什么是很困难的。你不能使用常规的 Python 打印语句，因为你永远无法访问到要打印的值，这时候就需要用tf.Print。

常用模型的Tensorflow实现

对于这一块内容，最好自己用编程语言实现过一遍，考验深度学习基础功底。

• 卷积网络（Convolutional Network）

• 循环神经网络（LSTM）（Recurrent Neural Network (LSTM)）

• 受限玻尔兹曼机（Restricted Boltzmann Machine）

• 深度信念网络（Deep Belief Network）

• 作为RBM堆叠的深度自编码器（Deep Autoencoder as stack of RBMs）

• 去噪自编码器（Denoising Autoencoder）

• 堆叠的去噪自编码器（Stacked Denoising Autoencoder）

• 作为去噪自编码器堆叠的深度自编码器（Deep Autoencoder as stack of Denoising Autoencoders）

• 多层感知器（MultiLayer Perceptron）

• Logistic 回归

TensorFlow的交叉熵函数

交叉熵（Cross Entropy）是Loss函数的一种（也称为损失函数或代价函数），用于描述模型预测值与真实值的差距大小，常见的Loss函数就是均方平方差（Mean Squared Error）。

交叉熵具体定义如下：

TensorFlow针对分类问题，实现了四个交叉熵函数，分别是tf.nn.sigmoid_cross_entropy_with_logits

tf.nn.softmax_cross_entropy_with_logits

tf.nn.sparse_softmax_cross_entropy_with_logits

tf.nn.weighted_cross_entropy_with_logits

我会在这里发布所有与科技、科学有关的有趣文章，欢迎订阅我的头条号。偶尔也回答有趣的问题，有问题可随时在评论区回复和讨论。

（码字不易，若文章对你帮助可点赞支持~）