永興TensorFlowノート-2基本的なアウトライン

まず、要約：

TensorFlowプログラミングシステムは、コンピューティングタスク図を表すために使用されている。グラフのノードは、（操作の略）と呼ばれるOP。OPが0又はテンソルの複数を取得、計算を実行し、テンソル農産物0以上の各テンソルは、多次元配列の種類である。たとえば、4つの次元は[バッチ、高さ、幅、チャネルであるグループ画像は、浮動小数点数の4次元配列として表現されている設定することができる ]。
計算は、図TensorFlowて説明しましたプロセス。計算のために、図は、セッション中のセッションで開始されなければならないが、このようなOPの実行のための方法を提供しながらように、CPU又はGPU装置に図OPを分配する。これらの方法を行う、テンソルはでリターンを生成しましたPython言語、テンソルのリターンはnumpyのndarrayオブジェクトです。

第二に、基本的なコンポーネント：

使用TensorFlowは、あなたがTensorFlowを理解する必要があります。

• コンピューティングタスクを表す図（グラフ）。
• 図セッション（セッション）コンテクスト（文脈）で呼び出されて実行。
• データのテンソル表現を使用してください。
• 状態変数（変数）を維持することによって。
• 任意の（任意の操作）を割り当てることができ、またはデータそこを得るために、フィードを使用して操作をフェッチ。

第三に、コンポーネントの説明：

• 计算图
  TensorFlow 程序通常被组织成一个构建阶段和一个执行阶段. 在构建阶段, op 的执行步骤 被描述成一个图. 在执行阶段, 使用会话执行执行图中的 op.
  例如, 通常在构建阶段创建一个图来表示和训练神经网络, 然后在执行阶段反复执行图中的训练 op.
  TensorFlow 支持 C, C++, Python 编程语言. 目前, TensorFlow 的 Python 库更加易用, 它提供了大量的辅助函数来简化构建图的工作, 这些函数尚未被 C 和 C++ 库支持.三种语言的会话库 (session libraries) 是一致的.

• 交互式使用（了解）：
  文档中的 Python 示例使用一个会话 Session 来 启动图, 并调用 Session.run() 方法执行操作.
  为了便于使用诸如 IPython 之类的 Python 交互环境, 可以使用 InteractiveSession 代替 Session 类, 使用 Tensor.eval() 和 Operation.run() 方法代替 Session.run(). 这样可以避免使用一个变量来持有会话.

# 进入一个交互式 TensorFlow 会话.
import tensorflow as tf
sess = tf.InteractiveSession()

x = tf.Variable([1.0, 2.0])
a = tf.constant([3.0, 3.0])

# 使用初始化器 initializer op 的 run() 方法初始化 'x' 
x.initializer.run()

# 增加一个减法 subtract op, 从 'x' 减去 'a'. 运行减法 op, 输出结果 
sub = tf.subtract(x, a)
print(sub.eval())
# ==> [-2. -1.]

• Tensor ：
  TensorFlow 程序使用 tensor 数据结构来代表所有的数据, 计算图中, 操作间传递的数据都是 tensor. 你可以把 TensorFlow tensor 看作是一个 n 维的数组或列表. 一个 tensor 包含一个静态类型 rank, 和 一个 shape.

• 变量
  Variables for more details. 变量维护图执行过程中的状态信息. 下面的例子演示了如何使用变量实现一个简单的计数器.

tf.Variable(initializer,name),参数initializer是初始化参数，name是可自定义的变量名称

# 创建一个变量, 初始化为标量 0.
state = tf.Variable(0, name="counter")

# 创建一个 op, 其作用是使 state 增加 1

one = tf.constant(1)
new_value = tf.add(state, one)
update = tf.assign(state, new_value)

# 启动图后, 变量必须先经过`初始化` (init) op 初始化,
# 首先必须增加一个`初始化` op 到图中.
init_op = tf.initialize_all_variables()

# 启动图, 运行 op
with tf.Session() as sess:
  # 运行 'init' op
  sess.run(init_op)
  # 打印 'state' 的初始值
  print(sess.run(state))
  # 运行 op, 更新 'state', 并打印 'state'
  for _ in range(3):
    sess.run(update)
    print(sess.run(state))

# 输出:

# 0
# 1
# 2
# 3

代码中 assign() 操作是图所描绘的表达式的一部分, 正如 add() 操作一样. 所以在调用 run() 执行表达式之前, 它并不会真正执行赋值操作.
通常会将一个统计模型中的参数表示为一组变量. 例如, 你可以将一个神经网络的权重作为某个变量存储在一个 tensor 中. 在训练过程中, 通过重复运行训练图, 更新这个 tensor.

• Fetch
  为了取回操作的输出内容, 可以在使用 Session 对象的 run() 调用 执行图时, 传入一些 tensor, 这些 tensor 会帮助你取回结果. 在之前的例子里, 我们只取回了单个节点 state, 但是你也可以取回多个 tensor
  tf.multiply（）两个矩阵中对应元素各自相乘

input1 = tf.constant(3.0)
input2 = tf.constant(2.0)
input3 = tf.constant(5.0)
intermed = tf.add(input2, input3)
mul = tf.multiply(input1, intermed)

with tf.Session() as sess:
  result = sess.run([mul, intermed])
  print(result)

# 输出:
# [array([ 21.], dtype=float32), array([ 7.], dtype=float32)]

• Feed：
  上述示例在计算图中引入了 tensor, 以常量或变量的形式存储. TensorFlow 还提供了 feed 机制, 该机制 可以临时替代图中的任意操作中的 tensor 可以对图中任何操作提交补丁, 直接插入一个 tensor.
  feed 使用一个 tensor 值临时替换一个操作的输出结果. 你可以提供 feed 数据作为 run() 调用的参数. feed 只在调用它的方法内有效, 方法结束, feed 就会消失. 最常见的用例是将某些特殊的操作指定为 “feed” 操作, 标记的方法是使用 tf.placeholder() 为这些操作创建占位符.

import tensorflow as tf
input1 = tf.placeholder(tf.float32)
input2 = tf.placeholder(tf.float32)
output = tf.multiply(input1, input2)

with tf.Session() as sess:
  print(sess.run([output], feed_dict={input1:[7.], input2:[2.]}))

# 输出:
# [array([ 14.], dtype=float32)]

for a larger-scale example of feeds. 如果没有正确提供 feed, placeholder() 操作将会产生错误.

四、基本步骤：

• 构建计算图：
  构建图的第一步, 是创建源 op (source op). 源 op 不需要任何输入, 例如 常量 (Constant). 源 op 的输出被传递给其它 op 做运算.
  Python 库中, op 构造器的返回值代表被构造出的 op 的输出, 这些返回值可以传递给其它 op 构造器作为输入.
  TensorFlow Python 库有一个默认图 (default graph), op 构造器可以为其增加节点. 这个默认图对 许多程序来说已经足够用了.
  创建常数张量：
  tf.constant(
  value, #张量的值
  dtype=None, #数据类型
  shape=None, #形状
  name=‘Const’, #名字
  verify_shape=False #默认为False，如果修改为True的话表示检查value的形状与shape是否相符，如果不符会报错。
  )
  矩阵相乘：
  tf.matmul(matrix1, matrix2)

import tensorflow as tf

# 创建一个常量 op, 产生一个 1x2 矩阵. 这个 op 被作为一个节点
# 加到默认图中.
#
# 构造器的返回值代表该常量 op 的返回值.
matrix1 = tf.constant([[3., 3.]])

# 创建另外一个常量 op, 产生一个 2x1 矩阵.
matrix2 = tf.constant([[2.],[2.]])

# 创建一个矩阵乘法 matmul op , 把 'matrix1' 和 'matrix2' 作为输入.
# 返回值 'product' 代表矩阵乘法的结果.
product = tf.matmul(matrix1, matrix2)

• 在一个会话中启动图
  构造阶段完成后, 才能启动图.
  启动图的第一步是创建一个 Session 对象, 如果无任何创建参数, 会话构造器将启动默认图.
  启动默认图：

sess = tf.Session()

result = sess.run(product)
print(result)

调用 sess 的 ‘run()’ 方法来执行矩阵乘法 op, 传入 ‘product’ 作为该方法的参数.
上面提到, ‘product’ 代表了矩阵乘法 op 的输出, 传入它是向方法表明, 我们希望取回
矩阵乘法 op 的输出.
整个执行过程是自动化的, 会话负责传递 op 所需的全部输入. op 通常是并发执行的.
函数调用 ‘run(product)’ 触发了图中三个 op (两个常量 op 和一个矩阵乘法 op) 的执行.
返回值 ‘result’ 是一个 numpy ndarray 对象.

• 关闭图：

sess.close()

Session 对象在使用完后需要关闭以释放资源. 除了显式调用 close 外, 也可以使用 “with” 代码块 来自动完成关闭动作.

with tf.Session() as sess:
  result = sess.run([product])
  print(result)

• 加速计算：
  建议使用TensorFlow GPU 版，大大加快速度
  在实现上, 深度学习应用到实际问题中，一个非常大的问题在于训练深度学习模型需要的计算量太大。为了加速训练过程，TensorFlow 将图形定义转换成分布式执行的操作, 以充分利用可用的计算资源(如 CPU 或 GPU). 一般你不需要显式指定使用 CPU 还是 GPU, TensorFlow 能自动检测. 如果检测到 GPU, TensorFlow 会尽可能地利用找到的第一个 GPU 来执行操作.
  如果机器上有超过一个可用的 GPU, 除第一个外的其它 GPU 默认是不参与计算的. 为了让 TensorFlow 使用这些 GPU, 你必须将 op 明确指派给它们执行. with…Device 语句用来指派特定的 CPU 或 GPU 执行操作:

with tf.Session() as sess:
  with tf.device("/gpu:1"):
    matrix1 = tf.constant([[3., 3.]])
    matrix2 = tf.constant([[2.],[2.]])
    product = tf.matmul(matrix1, matrix2)

デバイス識別文字列は、現在のデバイス備える:.支持されている
"：0 / CPU"：マシンCPUを
"/ GPU：0"：最初GPUマシンを、もしあれば。
"/ GPU :. 1"：第2の機械GPU、そして上のようにします。

演習2：
デザインシンプルだが、完全なtensorflow標準ニューラルネットワーク。

あなたの答えをコメントアウトします。