[잡담] 올해안에 블로그에 리뷰할 논문들.. (아키텍쳐)

ConvNet ImageNet top1 acc ImageNet top5 acc Published In Vgg 76.3 93.2 ICLR2015 GoogleNet – 93.33 CVPR2015 PReLU-nets – 95.06 ICCV2015 ResNet – 96.43 CVPR2015 PreActResNet 79.9 95.2 CVPR2016 Inceptionv3 82.8 96.42 CVPR2016 Inceptionv4 82.3 96.2 AAAI2016 Inception-ResNet-v2 82.4 96.3 AAAI2016 Inceptionv4 + Inception-ResNet-v2 83.5 96.92 AAAI2016 RiR – – ICLR Workshop2016 Stochastic Depth ResNet…

더 보기

[논문리뷰]PACT: PARAMETERIZED CLIPPING ACTIVATION FOR QUANTIZED NEURAL NETWORK

간단하게 이전에 읽은 논문 정리 아주 간단간단 논문은 링크에서 볼 수 있다. What? activation quantization을 accuracy degradation 없이하는 방법에 관한 논문이다. When? Training time How? activation quantization에 적합한 함수를 학습시점에 학습한다. Why? Quantization of weights is equivalent to discretizing the hypothesis space of the loss function with respect to the weight variables 결과 we achieve…

더 보기

[논문리뷰]Deep Gradient Compression: Reducing the Communication Bandwidth for Distributed Training

ICLR2018에 발표된 논문입니다. 이 논문은 분산 학습에서 gradient를 압축하여 보내어 통신 비용을 줄여 그 속도를 높이고자 하는 시도를 담은 논문입니다. 저자는 Yujun Lin, Song Han, Huizi Mao, Yu Wang, William J. Dally입니다. 공개된 공식코드는 없으며 논문은 링크에서 확인 가능합니다. 들어가기 전에 Model Parallelism 모델이 하나의 디바이스에서 동작이 힘들시에 모델을 머신별로 짤라서 사용하는 방법(왼쪽) Data Parallelism…

더 보기

[논문리뷰]Lightweight Network Architecture for Real-Time Action Recognition 리뷰

인텔에서 발표한 Action Recognition 에 대한 논문 리뷰입니다. 특징을 요약하면 실시간 (대략 60fps) 실행이 가능하며 sota와 비교시에도 큰 성능 차가 나지 않는 성능을 보여주는  연산량이 적은 Action Recognition 네트워크 입니다. 공식 코드 공개 되어 있으며 링크에서 확인 가능합니다. 논문 또한 arxiv 에서 확인 가능합니다.    Action recognition 이란? Action recognition 은 video clips 에서각기다른행동을식별하는작업입니다. 왼쪽…

더 보기