On-device AI
On-device AI는 스마트폰, 마이크로컨트롤러 (MCU), IoT 센서 또는 기타 임베디드 시스템과 같은 엣지 장치에서 머신러닝 작업을 직접 수행하는 프로세스이다. 일반적인 On-device AI는 엣지 장치에서 모델 추론만을 수행하며 추론 과정을 최적화한다. 하지만 본 연구실에서는 모델 추론을 넘어 모델의 학습까지 엣지 장치에서 수행하는 On-device Learning에 대한 연구를 진행한다. 이를 통해 클라우드 기반 서버에 의존하지 않고 엣지 장치가 모델 추론 및 학습을 수행할 수 있다.
On-device Learning 개요#
On-device Learning은 엣지 장치에서 모델 학습까지 수행한다. 그렇기 때문에 사용자 데이터를 클라우드로 전송하지 않고 직접 학습을 위해 사용한다. 이를 통해 다음과 같은 장점을 가진다.
- 개인 정보 보호 및 보안
- 저지연성
- 개인화
- 비용 절감
- 에너지 효율성
하지만, 엣지 장치의 제한된 자원으로 인해 다음과 같은 제약 사항을 가진다.
- 제한된 계산 능력
- 제한된 에너지 소비
- 제한된 저장 공간
이러한 제약 사항이 있기 때문에 On-device Learning은 일반적으로 다음과 같은 구조를 가진다.
크게 On Cloud와 On Device 단계로 구분되며 각 단계에서 수행하는 동작은 다음과 같다.
- On Cloud
- 모델 사전 학습
- 모델 압축
- 모델 배포
- On Device
- 데이터 수집 및 전처리
- 모델 학습 (On-device Learning)
- 모델 업데이트
클라우드에서는 엣지 장치의 학습 시간을 단축시키고 성능을 향상시키기 위해 모델을 사전 학습한다. 그후, 사전 학습한 모델이 엣지 장치의 제한된 자원에서도 동작할 수 있게 모델을 압축하여 배포한다. 엣지 장치에서는 수집한 데이터를 저장 및 전처리하여 배포된 모델을 직접 학습시키고 이에 따라 모델을 업데이트한다.
On-device Learning 관련 연구#
본 연구실은 앞선 On-device Learning 구조에서 On Device 단계의 다음 내용에 대한 연구를 수행한다.
- 데이터 수집 및 전처리
- 모델 학습 (On-device Learning)
- 자원 효율적 학습
- 모델 학습 방법론
- 모델 업데이트
데이터 수집 및 전처리#
엣지 장치는 일반적으로 지속적인 동작을 수행하기 때문에 데이터가 지속적으로 수집된다. 하지만 엣지 장치의 제한된 메모리 환경에서는 수많은 데이터를 모두 저장해놓고 모델을 학습시킬 수 없다. 이러한 상황에서 제한된 메모리에 맞춰 데이터를 수집하고 관리하기 위한 프레임워크가 필요하다. 또한, 수집된 데이터에 노이즈가 포함되어 있거나 학습을 위한 변환이 요구될 수 있기 때문에 노이즈 제거 또는 데이터 변환을 수행하는 데이터 전처리도 필요하다.
본 연구실은 데이터 수집 및 전처리와 관련하여 다음과 같은 연구를 수행한다.
- 엣지 장치에서의 효율적 데이터 관리 프레임워크 연구
- On-device Learning을 위한 데이터 전처리 알고리즘 연구
모델 학습 (On-device Learning)#
엣지 장치는 제한된 자원 조건 하에서 모델 학습을 수행해야 한다. 또한, 모델 학습이 엣지 장치의 기존 기능에 영향을 주면 안되고 너무 많은 에너지를 소비해서도 안된다. 그렇기 때문에 모델 학습 과정에서 최소한의 성능 손실을 유지하면서 계산 및 메모리 사용량을 최적화하는 것이 필요하다. 이와 더불어 지속적으로 데이터가 수집되고 모델이 학습되는 엣지 장치의 동작 환경에 따라 이에 맞는 모델 학습 방법론도 필요하다.
본 연구실은 엣지 장치의 모델 학습과 관련하여 다음과 같은 연구를 수행한다.
- 자원 효율적 학습을 위한 최적화 연구
- 엣지 장치의 지속적인 모델 학습 방법론 연구
모델 업데이트#
모델 학습은 항상 성능이 좋다는 보장을 할 수 없다. 마찬가지로 엣지 장치에서 지속적으로 모델을 학습할 때 성능이 항상 좋아진다고 보장할 수 없기 때문에 학습할 때마다 모델을 업데이트하는 것은 실제 성능이 낮아지는 문제를 야기할 수 있다. 그렇기 때문에 모델의 학습 성능을 정확하게 파악하여 모델의 업데이트를 결정하는 것이 필요하다.
본 연구실은 엣지 장치에서의 모델 업데이트와 관련하여 다음과 같은 연구를 수행한다.
- 엣지 장치의 모델 업데이트 알고리즘 연구