본문 바로가기
해설과 단상/아리가람의 인공지능 용어 해설

'학습'과 '추론' 그리고 '학습용 컴퓨터'와 '추론용 컴퓨터'

by 아리가람 아리가람1 2020. 2. 2.

인공지능 분야에서 있어서 '학습'과 '훈련'의 차이점에 관한 글을 조금 전에 작성했는데, 기왕에 '학습'과 '추론'의 차이점에 대해서도 간단하게 언급해 보겠습니다.

 

일단 인공지능 모델은 기존의 데이터(즉, 관측 데이터)를 가지고 학습(learning)하게 됩니다. 학습을 마친 인공지능을 보통 훈련 모델(trained model)이라거나 사전 훈련 모델(pre-trained model)이라고 부릅니다.  

 

이렇게 미리 훈련해 둔 모델을 가지고 활용하는 과정에서 모델이 하는 일을 추론(inference)이라고 합니다. 즉, 모델이 새로 들어온 데이터를 가지고 무언가를 알아낸다는 말입니다. 

 

인공지능이 학습을 할 때에는 데이터가 많아야 하고, 이 데이터를 가지고 1만 회(epoch) 이상 반복하면서 거듭 훈련한 다음에, 다시 검증 과정과 검정 과정을 거쳐 학습을 마무리하게 됩니다. 따라서 이 학습 과정에는 오랜 시간이 걸리고, 많은 기억용량이 필요하며, 연산 능력이 좋은 CPU나 GPU가 필요하게 됩니다. 반면에 추론 과정에서는 그렇지 않습니다. 이미 모델이 형성되어 있으므로, 그것을 이용하기만 하면 되기 때문입니다. 그래서 일반적으로 인공지능을 학습할 때 쓰는 컴퓨터 성능보다 더 적은 성능을 지닌 컴퓨터로도 인공지능을 가지고 추론하는 데 쓸 수 있습니다. 

 

예를 들어 인공지능이 들어간 사물인터넷 장치를 개발하려고 하는 경우에, 인공지능을 학습하게 할 때는 몇 백만 원에서 몇 천만 원에 이르는 컴퓨터를 사용한 다음에, 그것을 활용할 때는 수만 원짜리 싱글보드 컴퓨터(예를 들면 라즈베리파이)나 수십만 원짜리 추론 전용 컴퓨터(예를 들면 엔비디아 사가 제조한 젯슨 시리즈)만 써도 되는 것입니다. 다시 말해서 학습용 컴퓨터(computer for learning)추론용 컴퓨터(computer for inference)를 구분해서 쓸 수 있다는 말입니다. 물론, 학습용으로 쓴 컴퓨터를 그대로 추론용으로 쓴다면야 더 좋기는 합니다. 하지만 이미 형성된 모델을 여러 곳에서 써야 한다거나 그 밖의 이유로 인해 이처럼 두 컴퓨터를 구별해 사용하는 게 좋습니다. 

 

 

댓글0