[pytorch] 시작하기

1. TensorFlow와의 비교

텐서플로우		파이토치
Define and Run	패러다임	Define by Run
Static Graph	그래프 형태	Dynamic Graph
Tensorboard	시각화	Tensorboard (v 1.1)
Google Brain	개발사	Facebook A.I. Research

요약하자면, 텐서플로우가 흐름을 만들고 흘려보내는 스타일이라면, 파이토치는 한 줄 실행을 할 때마다 바로 생성되어 값을 뱉는 스타일이라고 볼 수 있다.

 

2. Numpy와의 비교

요새의 파이토치에서는 Variable 부분을 Tensor로 통일했다고 한다. 위 코드는 실제로 딥러닝을 수행하는 코드라고 하기보다 randn으로 가우시안(정규) 분포를 따르는 난수를 생성하여 임의로 돌려보는 코드에 가깝다.

requires_grad는 파이토치가 텐서의 모든 연산에 대해 자동 미분을 제공하기 때문에 들어가는 인자다. 모든 변수들이 그래디언트가 필요하지 않을 때, 역전파 연산은 하위 그래프에서 이뤄지지 않는다. pretrain 된 CNN을 사용하고 싶을 때 고정하는 부분의 이 인자를 바꿔주면 된다.

 

주의

* pytorch를 깔 때 오류가 나는 경우

이전 버전으로 다운로드함. (pip install torchvision==0.2.0 --no-deps --no-cache-dir)

 

참고 자료

Autograd: 자동 미분 (파이토치 튜토리얼)

파이토치 베이직