렙타일: 확장 가능한 메타 학습 알고리즘

저희는 '렙타일(Reptile)'이라는 간단한 메타 학습 알고리즘을 개발했습니다. 이 알고리즘은 반복적으로 작업을 샘플링하고, 해당 작업에 대해 확률적 경사 하강법을 수행하며, 해당 작업에서 학습된 최종 파라미터에 맞춰 초기 파라미터를 업데이트하는 방식으로 작동합니다. 렙타일은 최단 하강(Shortest Descent) 알고리즘을 메타 학습 설정에 적용한 것이며, 수학적으로는 1차 MAML(잘 알려진 MAML 알고리즘의 한 버전)과 유사합니다. 또한, SGD 또는 Adam과 같은 옵티마이저에 대한 블랙박스 접근만 필요로 하며, 계산 효율성과 성능 면에서도 유사한 결과를 보입니다.