어떤 컴퓨팅 유닛에서도, 학습과 추론을 보장합니다

• 저정밀도(INT4·FP4·NF4) 베이스 가중치 + 고정밀(FP16·BF16·FP32) 저랭크 어댑터 — 동일한 회전 공간(rotated space)에서 양자화 정확도 저하를 보완
• 고속 월시-하다마드 변환(FWHT) 기반 직교 변환 — 부동소수점 곱셈 없이 덧셈·뺄셈만 수행하는 버터플라이 연산 회로
• 직교 변환의 일부는 인접 레이어 가중치에 사전 병합 — 하드웨어는 병합되지 않은 나머지 변환만 입력·중간 데이터에 적용
• 베이스 가중치 영역과 분리된 온칩 메모리(On-chip Memory)에 어댑터 저장 — 갱신 대상만 가까운 메모리에 유지
• 중간 연산값은 베이스보다 높은 정밀도의 누산 포맷으로 누산 — 저정밀 연산의 오차 누적 방지
• 역전파에서는 오차 기울기에 동일(또는 역방향) 변환을 적용해 회전 공간 기울기를 생성 — 순전파에 쓴 버터플라이 회로를 재사용해 온디바이스 어댑터 갱신(학습) 지원

작동 원리 — 4단계

1. [1] 오프라인 전처리

   회전 → 양자화

   외부 컴퓨팅 환경에서 원본 가중치에 입력·출력 직교 행렬을 적용한 회전 가중치를 저정밀 포맷으로 양자화해 엣지 디바이스에 제공합니다.

2. [2] 회전 공간 정렬

   FWHT 입력 변환

   입력 데이터에 직교 변환을 적용해 베이스 가중치와 동일한 회전 공간으로 정렬합니다. 덧셈·뺄셈만 수행합니다.

3. [3] 이중 경로 연산

   BASE ∥ ADAPTER

   회전 공간 입력으로 베이스 경로(저정밀)와 어댑터 경로(고정밀)를 각각 연산합니다.

4. [4] 병합 · 갱신

   출력 + 온디바이스 학습

   두 결과를 병합하고 출력측 직교 변환을 적용합니다. 역전파 시 같은 회로로 기울기를 변환해 어댑터를 갱신합니다.

─ 특허출원 2026.06 (심사청구 완료)