LORA는 문맥에 따라 서로 다른 여러 의미로 사용되는 약어 및 명칭이다. 대표적으로는 사물인터넷(IoT) 분야의 장거리 무선 통신 기술인 LoRa(Long Range), 인공지능 분야의 대규모 모델 효율적 미세조정 기법인 LoRA(Low-Rank Adaptation), 그리고 오픈소스 세리프(serif) 글꼴인 Lora가 있다.
1. LoRa (Long Range) — 무선 통신 기술
LoRa는 Long Range의 약어로, 저전력 장거리 무선 통신 기술을 의미한다. 이 기술은 Semtech 사가 개발한 CSS(Chirp Spread Spectrum) 변조 방식을 기반으로 하며, 소량의 데이터를 수 km에서 수십 km까지 전송할 수 있는 것이 특징이다. LoRa는 LPWAN(Low Power Wide Area Network)의 물리 계층(Physical Layer) 기술에 해당하며, 이 위에서 동작하는 네트워크 프로토콜이 LoRaWAN이다. LoRaWAN은 LoRa Alliance라는 비영리 단체에서 관리하는 개방형 표준 규격이다.
LoRa 기술은 배터리 소모가 적어 한 번의 배터리로 수년간 동작이 가능하며, 스마트 시티, 스마트 농업(토양 센서, 가축 추적), 산업용 센서 네트워크, 물류 추적 등 사물인터넷(IoT) 응용 분야에서 널리 사용된다. Wi-Fi나 Bluetooth에 비해 전송 속도는 낮지만, 훨씬 넓은 범위를 커버할 수 있다는 장점이 있다.
2. LoRA (Low-Rank Adaptation) — 머신러닝 기법
LoRA는 Low-Rank Adaptation의 약어로, 대규모 사전학습 언어 모델(LLM)이나 이미지 생성 모델 등을 효율적으로 미세조정(fine-tuning)하기 위해 고안된 파라미터 효율적 미세조정(PEFT, Parameter-Efficient Fine-Tuning) 기법이다. 2021년 발표된 논문 "LoRA: Low-Rank Adaptation of Large Language Models"에서 처음 제안되었다.
기존의 전체 파라미터 미세조정(Full Fine-Tuning)이 모델의 모든 가중치를 업데이트하는 반면, LoRA는 사전학습된 원본 가중치는 동결(freeze)한 상태에서 각 층에 저차원(low-rank) 분해 행렬을 추가하여 이 추가된 소규모 파라미터만 학습한다. 이를 통해 학습에 필요한 GPU 메모리와 계산 비용을 크게 절감할 수 있다. 예를 들어 GPT-3 175B 모델의 경우, LoRA를 사용하면 전체 파라미터의 0.01% 미만만 학습 가능한 파라미터로 사용할 수 있다.
LoRA는 현재 LLM 파인튜닝, Stable Diffusion 등의 이미지 생성 모델 파인튜닝 분야에서 가장 널리 사용되는 기법 중 하나이며, 이를 양자화(Quantization)와 결합한 QLoRA(Quantized LoRA) 등의 변형도 존재한다.
3. Lora — 글꼴(폰트)
Lora는 Olga Karpushina가 디자인하고 Cyreal이 배포하는 오픈소스 세리프(serif) 글꼴이다. SIL Open Font License(OFL)로 제공되며, Google Fonts를 통해 무료로 사용할 수 있다. 캘리그래피(calligraphy)에서 영향을 받은 부드러운 곡선과 적당한 대비(contrast)가 특징으로, 본문 텍스트(body text)에 적합하게 설계되었다. 라틴 문자, 그리스 문자, 키릴 문자를 지원한다.
4. 기타
위의 세 가지 의미 외에도, LORA는 특정 조직이나 프로젝트의 약어로 사용될 수 있으나 널리 알려진 표준적인 의미는 아니다. 또한 영미권에서는 Lora가 여성 이름으로 사용되기도 한다.
