深度学习下一阶段：神经架构自学习，带来优秀的计算机视觉模型

综上所述，显然深度学习的下一阶段是让计算机自己设计架构。

搜索CNN不同构建块的组合以构建更好的CNN模型

架构学习阶段

最近我们在Xnor.ai和Allen Institute for AI建立了一个名为Discovering Neural Wirings的新模型，用于直接从数据中自动学习神经网络架构。在该模型中，我们将神经网络设置为无约束图并且放宽层的概念，使节点（例如图像的通道）能够彼此形成独立的连接。这会使得可能的网络空间会更大。在训练期间，该网络的搭建不固定——它既学习网络参数，也学习结构本身。网络结构可以包含图中的循环，即形成了存储器结构的概念。所学习的架构具有高度稀疏的特性，因此就算术运算而言它将是一个小得多却可以实现高精度的模型。

代码：

https://github.com/allenai/dnw

当然，类似于“特征学习”阶段，这个深度学习阶段需要在训练中进行大量的计算以处理大图并且需要大量的数据。我们坚信，随着专门用于稀疏图形计算的硬件的发展，自动发现最佳网络架构技术会越来越成熟，实现高度精确、高效计算的边缘AI模型指日可待。

神经架构学习的过程：从数据中发现完整神经图中神经元之间的最小连接

链接：

https://medium.com/xnor-ai/the-next-phase-of-deep-learning-neural-architecture-learning-automatic-discovering-of-neural-d08fc9a6065d

（编辑：南平站长网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!