MXNet 1.1.0发布,添加FTML和Signum优化器以及实验性结构块

earnpls • 876 次浏览 • 0 个回复 • 2018年04月03日

可用性改进

  • 改进了示例和教程的可用性

Bug修复

  • 修复了太多打开文件句柄(#8904),争用条件(#8995),死锁(#9126)的I/O多处理。
  • 固定图像IOOpenCV 3.3集成(#8757)。
  • 固定胶印块印刷(#8956)。
  • 固定float16 argmax时有负输入。(#9149
  • 固定随机数发生器以确保足够的随机性。(#9119#9256#9300
  • 修复了自定义操作多GPU缩放(#9283
  • 当索引中存在重复条目时,修正gather_nd的渐变。(#9200
  • 修复了group2ctx使用多个上下文时Module 选项中的覆盖上下文(#8867
  • swap_axes使用“add_to”梯度请求(#9541)修复运算符

新功能

  • 增加了contrib.text用于构建词汇表的实验性API ,并加载了预先训练的词嵌入,并内置了对307 Glove和FastText预先训练的嵌入的支持。(#8763
  • 在增加了实验性结构块gluon.contrib:Concurrent,HybridConcurrent,Identity。(#9427
  • 新增sparse.dot(dense, csr)运算符(#8938
  • 新增Khatri-Rao运营商(#7781
  • 新增FTML和Signum优化器(#9220#9262
  • 增加了ENABLE_CUDA_RTC构建选项(#9428

    API变更

  • 加入零个梯度四舍五入运营商,包括rint,ceil,floor,trunc,和fix(#9040
  • 新增use_global_stats的nn.BatchNorm(#9420
  • 添加axis参数SequenceLast,SequenceMask和SequenceReverse运营商(#9306
  • lazy_update标准SGD和Adam优化器添加了row_sparse渐变选项(#9468#9189
  • 增加了支持正则表达式的select选项Block.collect_params(#9348
  • 在R(#9022)中增加了对显式展开RNN模型的(一对一和序列对一)推断的支持,

    弃用

  • Scala API名称空间仍然被调用ml.dmlc。名称空间可能会在未来的发行版中更改为org.apache并可能会破坏现有的应用程序和脚本(#9579#9324

    性能改进

  • 批量大小为1时将GPU推理速度提高20%(#9055
  • 改进的SequenceLast操作员速度(#9306
  • 为CPU上的broadcast_reduce运算符类添加了多线程(#9444
  • GPU上大矩阵的GEMM / TRSM运算符的改进批处理(#8846

    已知的问题

  • “预训练模型预测”教程被打破
  • “example/numpy-ops/ndarray_softmax.py”已损坏 有关更多信息和示例,请参阅完整版本说明

原创文章,转载请注明 :MXNet 1.1.0发布,添加FTML和Signum优化器以及实验性结构块 - MXNet中文网
原文出处: https://mxnets.com/news/3.html
问题交流群 :168117787
提交评论
要回复文章请先登录注册
用户评论
  • 没有评论
MXNet是什么?为什么使用MXNet? MacOS电脑在Python的virtualenv环境安装MXNet