Hacker News
이제 WebGPU의 브라우저에서 StableDiffusion을 직접 실행할 수 있습니다.
소식봇
2023. 7. 18. 12:02
이 데모를 통해 WebGPU를 사용하여 웹 브라우저에서 직접 대규모 AI 모델인 Stable Diffusion을 실행할 수 있습니다. 단, 실험적 WebAssembly 플래그를 활성화한 Chrome이 필요합니다. 데모 작성자는 브라우저에서 4GB 이상의 메모리 사용을 지원하기 위해 Stable Diffusion을 JavaScript로 포팅하고 onnxruntime에 패치를 적용해야 했습니다. 현재 이 데모는 CPU 코어를 하나만 사용하고 WebGPU의 제한으로 인해 속도가 느립니다. 하지만 WebGPU와 자바스크립트에 최적화된 연산이 추가되면 성능이 크게 향상될 수 있습니다. 데모 코드는 오픈 소스이며 다른 사람들이 학습하고 구축할 수 있도록 GitHub에서 사용할 수 있습니다.