Anima RKNN 추론 최적화: Spectrum으로 생성 시간 41% 단축
ROCK 5C 8GB에서 Spectrum으로 20스텝 중 9개 스텝을 예측으로 대체했다. 전체 생성 시간은 41.02% 줄었으며, 같은 조건에서 기준선과 속도·화질을 비교했다.
AI
인공지능 기술과 생성형 AI 도구, 활용 방법을 다룹니다.
-
글 읽기: Anima RKNN 추론 최적화: Spectrum으로 생성 시간 41% 단축
-
Anima RKNN 최적화의 한계: W8A8 화질 실패와 8GB 모델 상주 실험
글 읽기: Anima RKNN 최적화의 한계: W8A8 화질 실패와 8GB 모델 상주 실험FFN W8A8 양자화로 디노이징 시간은 18.48% 줄었지만 화질 기준에 못 미쳤다. 모델 상주도 18개 컨텍스트에서 스왑이 늘었다. 8GB 보드에서 두 최적화를 채택하지 않은 이유를 살펴본다.
-
RKNN Toolkit 2.3.2와 2.3.0 비교: AdaLN 컴파일 충돌과 fusion 실험
글 읽기: RKNN Toolkit 2.3.2와 2.3.0 비교: AdaLN 컴파일 충돌과 fusion 실험RKNN Toolkit 2.3.2에서 실패한 AdaLN 그래프를 2.3.0으로 빌드하고 단일 DiT 블록을 융합했다. 속도 이득은 0.47%에 그쳤고 NPU 디바이스 매핑은 94.30 MiB 늘었다.
-
RK3588에서 Anima 이미지 생성하기: ROCK 5C 8GB의 RKNN 변환과 실행 결과
글 읽기: RK3588에서 Anima 이미지 생성하기: ROCK 5C 8GB의 RKNN 변환과 실행 결과ROCK 5C 8GB에서 Anima를 84개 FP16 RKNN 모델로 나누어 실행했다. CPU와 NPU의 역할, 변환 전후 출력 비교, 디노이징과 VAE 디코딩에 걸린 시간을 살펴본다.