TensorFlow 1.11.0 主要更新

TensorFlow 1.11.0 主要更新

TensorFlow 1.11.0 更新总结:

  • tf.keras添加多GPU分布式支持,fitevaluatepredict开始支持多GPU分布式。
  • 为Estimator添加multi-worker分布式策略 及 独立的客户端支持。
  • tf.keras的 Initializers 的默认参数发生了改变。
  • Sequential 模型的 model.get_config方法的返回值发生了变化。

主要特性 及 改进

  • Nvidia显卡:
  • 谷歌云TPU:
    • TPU上的Keras实验性地支持tf.data模块。
    • TPU实验性地支持eager模式。
  • 分布式:
    • tf.keras添加multi-GPU分布式策略支持。fitevaluatepredict开始支持分布式。
    • 为Estimator添加multi-worker分布式策略 及 独立的客户端支持。
  • 添加C,C++和Python函数 查询内核。

不兼容的改进

  • Keras:
    • tf.keras 的RandomUniformRandomNormalTruncatedNormal initializers的默认值发生了更改,以保持与其它 API 的一致性。
    • 运行 Sequential 模型的 model.get_config() 方法,现在返回一个配置字典(与其它模型实例保持一致),不再返回一个包含各层配置的列表。

修复的Bug 及 其它的改变

  • C++:
    • 更改了 SessionFactory::NewSession 的签名,使其能够对错误给出详细的信息。
  • tf.data模块:
    • tf.contrib.data.make_csv_dataset() 去除了 num_parallel_parser_calls 参数
    • 如果 tf.data.Dataset.list_files() 的参数没有匹配的文件,则会在初始化时报异常。
    • 为了清晰,将BigTable类重命令为了BigtableTable。
    • 为云Bigtable API添加了文档。
    • 添加 tf.contrib.data.reduce_dataset 来将一个 dataset reduced 到单个元素。
    • tf.contrib.data.sliding_window_batch 的泛化。
  • INC:
    • 对三角求解进行了改进。
  • tf.contrib:
    • tf.keras.layers.LocallyConnected2Dtf.keras.layers.LocallyConnected1D添加了implementation参数。新模式(implementation=2)会在前向传播时以一个dense矩阵的乘积来进行,这会在某些场景下带来加速,但某些场景下可能会降低性能。这个选项还允许使用padding=same
    • 添加了新文档来强调tf.filltf.constant之间的差异。
    • 实验性地添加了 IndexedDatasets。
    • Add selective registration target using the lite proto runtime.
    • 给TensorFlow Lite Java添加了简单的Tensor和DataType类。
    • Add support for bitcasting to/from uint32 and uint64.
    • 为Estimator添加了一个子类Estimator,这个子类Estimator可以从一个SavedModel(SavedModelEstimator)创建。
    • Adds leaf index modes as an argument.
    • Allow a different output shape from the input in tf.contrib.image.transform.
    • Change the state_size order of the StackedRNNCell to be natural order. To keep the existing behavior, user can add reverse_state_order=True when constructing the StackedRNNCells.
    • Deprecate self.test_session() in favor of self.session() or self.cached_session().
    • Directly import tensor.proto.h (the transitive import will be removed from tensor.h soon)
    • Estimator.train() now supports tf.contrib.summary.* summaries out of the box; each call to .train() will now create a separate tfevents file rather than re-using a shared one.
    • 修复FTRL优化器L2正则的bug:L2正则项梯度的传递不应该在累加的时候终止。
    • 修复了toco在Windows上编译、执行的bug。
    • 添加GoogleZoneProvider类以检测tensorflow程序的各部分运行在哪一个Google Cloud Engine zone上。
    • It is now safe to call any of the C API's TF_Delete* functions on nullptr
    • 在Android上会将错误信息记录到日志。
    • Match FakeQuant numerics in TFLite to improve accuracy of TFLite quantized inference models.
    • Optional bucket location check for the GCS Filesystem.
    • StringSplit 和 StringSplitV2 op的性能得到了提高
    • 正则替换 op 的性能得到了提高。
    • 如果if.write()失败,TFRecordWriter现在会报错。
    • TPU: TPU集群解析器将提供更加详细的错误信息。
    • The legacy_init_op argument to SavedModelBuilder methods for adding MetaGraphs has been deprecated. Please use the equivalent main_op argument instead. As part of this, we now explicitly check for a single main_op or legacy_init_op at the time of SavedModel building, whereas the check on main_op was previously only done at load time.
    • Estimator训练时使用的protocol现在可以在Runconfig里配置。
    • 三角数的求解性能得到了提高
    • 将TF和Keras的RNN单元的API进行了统一。为Keras和TF的RNN单元添加了get_initial_state()方法,这个方法未来会替代现有的zero_state()方法。
    • 更改了Keras中变量的初始化(initializer默认参数的改变导致该改变)。
    • Updates to "constrained_optimization" in tensorflow/contrib.
    • boosted trees: 添加修剪模式。
    • tf.train.Checkpoint 默认不删除旧的checkpoints。
    • tfdbg: 调试时,缓存的tensor所占的磁盘空间的上限为100GBytes。允许添加环境变量 TFDBG_DISK_BYTES_LIMIT 来调整整个上限值。

英文原版:https://github.com/tensorflow/tensorflow/blob/r1.11/RELEASE.md

猜你喜欢

转载自blog.csdn.net/u014061630/article/details/82773593