首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >组合2神经网络

组合2神经网络
EN

Data Science用户
提问于 2018-10-03 09:01:46
回答 2查看 227关注 0票数 6

2图像作为输入,x1和x2,并尝试使用卷积作为相似性度量。其思想是,学习的权重代替了传统的相似性度量(互相关,NN,.)。定义我的前向功能如下:

代码语言:javascript
复制
def forward(self,x1,x2):
    out_conv1a = self.conv1(x1)
    out_conv2a = self.conv2(out_conv1a)
    out_conv3a = self.conv3(out_conv2a)

    out_conv1b = self.conv1(x2)
    out_conv2b = self.conv2(out_conv1b)
    out_conv3b = self.conv3(out_conv2b)

下面是相似性度量:

代码语言:javascript
复制
out_cat = torch.cat([out_conv3a, out_conv3b],dim=1)
futher_conv = nn.Conv2d(out_cat)

问题如下:

  1. 与连接输入的2d卷积相比,在google 中,深度/可分卷积是否会产生任何优势。因为卷积可以是一种相似性度量,互相关和卷积是非常相似的。
  2. 我的理解是,groups=2选项在conv2d中将提供两个单独的输入来训练权重,在这种情况下,以前的每个网络权重。这些后来是如何结合起来的?
EN

回答 2

Data Science用户

回答已采纳

发布于 2019-06-12 06:57:41

该文件明确规定了以下几行:

我们的工作是从Xception和MobileNets开始的一个重要趋势线上的另一个点,这表明在任何卷积模型中,无论是一维还是二维数据,都可以用深度可分卷积代替卷积,并获得一个同时运行更便宜、更小、性能更好的模型。

卷积神经网络形成一个可微特征学习模块链,其结构为一组离散单元,每个单元被训练来学习特定的特征。如果经过训练和重复使用,这些数据可以扩展到余弦相似性发现。按深度可分卷积定义单个特征路径,因此在这种情况下,可以很容易地将输出连在一起。

票数 1
EN

Data Science用户

发布于 2019-01-11 15:15:48

  1. 离散可分卷积和1x1卷积是方便的2d卷积的一种替代。它们是在https://arxiv.org/abs/1704.04861中引入的,目的是减少计算量。深度卷积和点卷积的结合通常与普通卷积的表示方式基本相同。
  2. 深度可分conv是分组conv的一个极端情况,其中num_groups=num_input_channels。将组数设置为2意味着将输入分割成跨通道的两个输入,并为每个切片输入学习两个不同的过滤器。这里是一个很好的教程。通过叠加每个组的输出来组合输出。通常,后面跟着1x1conv来混合组之间的数据流。
票数 1
EN
页面原文内容由Data Science提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://datascience.stackexchange.com/questions/39095

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档