Patchcore
논문 이해를 위한 Source
ysco님 블로그
Method
Make a memory bank of patch features
Memory bank:
쓰는 이유: middle level of feature 들을 사용하기 위함
Reduce the memory bank with coreset
Detect anomaly with the memory bank
수식 이해
\[\phi_{i, j} = \phi_j(x_i) \in R^{c^* \times h^* \times w^*}\]
\(\phi_{i, j}\)는 결국 Pretrained mod...
학위논문 준비
아이디어
딥러닝과 경량화를 엮으면 좋을 것 같음.
딥러닝 모델 경량화 기술 분석(2020)
Deep Learning on Mobile and Embedded Devices: State-of-the-art, Challenges, and Future Directions
정석학술정보관에서 해당 논문 조회가 가능하였음.. 신세계다..
학위논문 계획서를 작성하면서 생각났던 아이디어: Recursive Knowledge Distillation method
BeatGAN 학위논문 시작
통계 활용할 자료 정리
elements_name = ['SO2', 'CO', 'O3', 'NO', 'NO2', 'NOX', 'PM10...
knowledge Embedding Based Graph Convolutional Network
This browser does not support PDFs. Please download the PDF to view it: Download PDF.
</embed>
Edge enhancement-based Densely Connected Network with Compound Loss for Low-Dose CT Denoising
Abstract
X-ray의 위험성이 크기 때문에 low-dose한 CT 이미지의 노이즈 제거가 굉장히 주목되는 이슈임.
딥러닝의 발전으로 많은 부분에서 노이즈 제거가 진보를 이루었지만 Low-dose CT(LDCT) 이미 지에 대해서는 다음과 같은 카테고리에서 부족한 부분이 있다.
낮은 노이즈 제거 효율성
over-smoothed 문제
본 논문에서는 Edge enhancement based Densely connected Convolutional Neural Network(EDCNN)을 제안하며 그 구조는 아래와 같다.
최신의 학습 가...
What is the state of neural network pruning?
Abstract
Pruning에 대한 benchmark가 어려워서 지난 30년동안 어느정도의 성과가 있었는지 정량적 평가가 어려움
ShrinkBench라는 오픈소스 활용해서 표준화된 방법으로 Pruning 방법들 비교하고자 함
Introduction
머신러닝이 딥러닝에 힘입어 주목받고 있으며 핸드폰같이 제한된 환경에서도 신경망을 사용하는 경우가 생김
parameter 줄이는 대표적인 방법인 pruning을 조사할 것임
81개의 논문을 조사했으며 대부분의 논문이 다른 프루닝 방법과의 비교나 하이퍼 파라미터 구체화나 한개 방법정도와만 비교한 정도라서 성능적 우수성을 객관화 한 논문이 거의 없었...
Pruning and quantization for deep neural network acceleration
Abstract
최신 기술, 기술들의 장단점, 현재의 압축 모델의 정확도를 여러 프레임워크에서 보고, 모델 압축을 위한 가이드를 제공할 것임
Introduction
Novel Components
separable convolution, inception blocks, residual blocks 같은 효율적 블록 디자인 하는 것
layer 연결 방식 연구도 포함
Network Architecture Search
프로그래밍적으로 효율적인 네트워크 구조를 정의된 탐색영역(search space)에서 찾는 것
Kn...