권장사항: NSDT 편집기를 사용하여 3D 애플리케이션 시나리오를 빠르게 구축하세요.
웹 애플리케이션이 장치의 그래픽 처리 장치(GPU)에 직접 액세스할 수 있게 해주는 새로운 API인 WebGPU의 도입으로 웹 개발이 흥미로운 방향으로 전환되었습니다. GPU는 복잡한 계산에 능숙하기 때문에 이러한 발전은 중요합니다.
WebGPU의 잠재력을 보여주는 프로젝트는 WebGPT입니다. 이는 WebGPU API의 기능을 보여주기 위해 설계된 JavaScript 및 HTML로 작성된 간단한 애플리케이션입니다.
이 게시물에서는 WebGPT가 중요한 이유와 이를 로컬 및 브라우저에서 구현하는 방법에 대해 설명합니다. 갑시다!
앞으로 나아가세요:
- WebGPT와 WebGPU란 무엇입니까?
- WebGPT 구현
- 브라우저에서 WebGPT를 실행하세요.
- WebGPT를 로컬에서 실행
- 사용자 정의 WebGPT 모델 사용
- WebGPT의 과제와 한계
- GPT 및 기타 변압기 모델의 미래
WebGPT와 WebGPU란 무엇입니까?
WebGPT의 실제 구현을 살펴보기 전에 WebGPT가 뒤에서 어떻게 작동하는지 간략하게 설명하겠습니다.
WebGPT는 시퀀스 데이터를 효율적으로 처리하도록 설계된 특정 기계 학습 모델인 Transformer 모델의 JavaScript 및 HTML 구현입니다. 자연어 처리(NLP)에서 시퀀스 데이터는 일반적으로 단어와 문자의 순서가 의미에 중요한 텍스트를 의미하며, 시퀀스의 개별 부분이 전체만큼 중요합니다.
변환기 모델은 NLP용 시퀀스 데이터 작업에 탁월한 기계 학습 모델입니다. 이러한 모델은 GPT(Generative Pretrained Transformers)를 포함한 다양한 최첨단 자연어 처리 모델의 기초를 형성합니다.
WebGPT의 변환기 모델은 웹 애플리케이션이 장치의 GPU에 액세스하고 사용할 수 있도록 하는 API인 WebGPU와 함께 작동하도록 설계되었습니다. GPU는 특히 기계 학습 모델에 필요한 병렬 컴퓨팅 유형을 수행하는 데 뛰어나 WebGPT를 위한 강력한 리소스입니다.
WebGPU 이전에는 애플리케이션이 주로 기기의 중앙 처리 장치(CPU)나 WebGL과 같은 오래되고 덜 효율적인 API에 의존해야 했습니다. 이와 대조적으로 WebGPT는 명시적으로 설계된 변환기 모델을 사용하여 WebGPU API를 사용하는 브라우저에서 실행됩니다.
WebGPT는 입력을 받으면 변환기 모델을 사용하여 데이터를 처리합니다. WebGPU API를 사용하면 사용자 장치에서 로컬로 계산을 수행할 수 있습니다. 그러면 결과가 브라우저에 직접 반환되므로 빠르고 효율적으로 실행할 수 있습니다.
이러한 강력한 기계 학습 모델을 브라우저에 도입하는 것은 다음을 포함하여 웹 개발에 깊은 영향을 미칩니다.
- 실시간 데이터 처리: 클라이언트 측에서 계산을 수행할 수 있으면 대기 시간을 최소화하면서 실시간 데이터 처리가 가능합니다. 이는 대화형 도구 및 게임에서 실시간 분석에 이르기까지 다양한 애플리케이션에 대한 사용자 경험을 바꿀 수 있습니다.
- 강화된 개인 정보 보호 : 데이터 처리는 사용자 장치에서 로컬로 이루어지기 때문에 잠재적으로 민감한 데이터를 서버로 보낼 필요가 없습니다. 개인 데이터 또는 민감한 데이터를 처리하는 애플리케이션의 경우 이는 사용자 신뢰와 개인 정보 보호를 강화하여 판도를 바꿀 수 있습니다.
- 비용 효율성 : 기업은 컴퓨팅 부하를 서버에서 클라이언트로 오프로드하여 서버 비용을 절약할 수 있습니다. 이를 통해 소규모 회사나 개인 개발자가 고급 기계 학습 기능에 액세스할 수 있습니다.
WebGPT 구현
WebGPT는 사용하기 쉽게 설계되었습니다. 실행하려면 HTML 및 JavaScript 파일 세트만 있으면 됩니다. 그러나 WebGPU는 상당히 새로운 기술이므로 WebGPU 호환 브라우저가 필요합니다.
2023년 12월 현재 Chrome v<>는 WebGPU를 지원합니다. 또 다른 방법은 호환성을 보장하기 위해 Chrome Canary 또는 Edge Canary를 설치하는 것입니다.
브라우저에서 WebGPT를 실행하세요.
https://www.kmeans.org의 데모 웹사이트에서 WebGPT를 직접 사용해 볼 수 있습니다. 모델 가중치를 원격으로 로드하는 것은 모델 가중치를 로컬로 로드하는 것보다 느릴 수 있으므로 보다 응답성이 뛰어난 환경을 위해 가능하면 WebGPT를 로컬로 실행하는 것이 좋습니다.
WebGPT를 로컬에서 실행
WebGPT를 로컬로 실행하려면 다음 단계를 따르세요.
- WebGPT 저장소 복제: 터미널에서 다음 명령을 실행하여 저장소를 복제할 수 있습니다. git clone https://github.com/0hq/WebGPT.git
- Git LFS 설치: 리포지토리를 복제한 후 Git 리포지토리에 대용량 파일을 저장할 수 있는 Git 확장인 Git LFS를 사용하여 모델 파일을 다운로드해야 합니다 . 로컬 컴퓨터에 Git LFS를 설치한 후 터미널에서 WebGPT 디렉터리로 이동하여 다음을 실행합니다. git lfs install
- 모델 파일 다운로드: 그 후 다음 명령을 실행하여 모델 파일을 다운로드합니다 . git lfs pull
- 로컬 서버에서 WebGPT 파일 실행 : 간단한 HTTP 서버 또는 Visual Studio Code용 Live Server와 같은 도구를 사용할 수 있습니다.
- 브라우저에서 WebGPT 페이지 열기 : WebGPT를 실행하는 로컬 서버의 URL로 이동합니다. 다음과 같은 페이지가 표시됩니다.
우리의 네트워크 GPT 페이지
모델 가중치를 로드 하려면 모델 로드 버튼 중 하나를 클릭하세요 . 그런 다음 입력 상자에 텍스트를 입력하고 생성을 클릭하여 입력을 기반으로 텍스트를 생성 할 수 있습니다.
WebGPT 데모 실행 중
사용자 정의 WebGPT 모델 사용
WebGPT에는 작은 GPT-셰익스피어 모델과 2억 1,170만 개의 매개변수가 있는 GPT-<>라는 두 가지 내장 모델이 있습니다. 사용자 정의 모델을 사용하려면 저장소의 스크립트 디렉터리를 확인하여 PyTorch 모델을 WebGPT가 사용할 수 있는 형식으로 변환하세요.other/conversion_scripts
아래는 우리 카탈로그입니다:
변환 스크립트 디렉토리
WebGPU의 과제와 한계
WebGPT는 WebGPU 위에 구축되므로 WebGPU의 과제와 한계를 이해하는 것이 중요합니다. WebGPU는 유망한 기술이지만 여전히 비교적 새로운 API이므로 극복해야 할 몇 가지 과제가 있습니다. 이들 중 일부는 다음과 같습니다:
- 브라우저 지원 부족 : 현재 모든 브라우저가 WebGPU를 지원하는 것은 아니며, 지원하는 브라우저라도 완전히 지원하지 않을 수 있습니다. 이로 인해 WebGPU 애플리케이션을 개발하고 배포하는 것은 물론 공개적으로 사용할 수 있도록 배포하는 것도 어려워질 수 있습니다.
- 복잡성 : WebGPU는 배우고 사용하기 어려울 수 있는 복잡한 API입니다. 이는 낮은 수준의 그래픽 API에 익숙하지 않은 개발자에게는 진입 장벽이 될 수 있습니다.
- 성능 : WebGPU는 어떤 경우에는 WebGL보다 느릴 수 있으며, 특히 구형 하드웨어에서는 더욱 그렇습니다. 이는 WebGPU가 하위 수준 API이고 셰이더를 컴파일하고 그래픽 파이프라인을 설정하는 데 더 많은 시간이 걸릴 수 있기 때문입니다.
API가 성숙해지고 점점 더 많은 브라우저가 API를 지원함에 따라 이러한 문제가 해결될 것으로 예상됩니다. 그동안 WebGPT와 같은 도구는 WebGPU의 실험 및 채택에 도움이 될 수 있습니다.
GPT 및 기타 변압기 모델의 미래
GPT 및 유사 모델은 높은 컴퓨팅 요구 사항으로 인해 주로 서버에서 실행되지만 WebGPT는 이러한 모델이 브라우저에서 직접 실행될 수 있어 잠재적으로 서버 기반 설정과 비슷한 성능을 제공할 수 있음을 보여줍니다.
WebGPU와 같은 기술과 WebGPT와 같은 프로젝트에서 제공하는 기능을 통해 GPT와 같은 변환기 모델의 사용을 상당히 확장할 수 있습니다. 기술이 발전하고 최적화가 향상됨에 따라 더 큰 모델이 브라우저에서 원활하게 실행되는 것을 볼 수 있습니다.
2백만 명 이상의 개발자가 LogRocket을 사용하여 더 나은 디지털 경험을 만듭니다.
자세히 알아보기→
이를 통해 보다 정교한 챗봇부터 강력한 실시간 텍스트 분석 및 생성 도구에 이르기까지 웹 애플리케이션에서 고급 AI 기능의 가용성을 향상하고 Transformer 모델의 연구 및 개발을 가속화할 수도 있습니다. 이러한 모델을 더 쉽고 저렴하게 배포함으로써 더 많은 개발자와 연구자가 모델을 실험하고 개선할 수 있는 기회를 갖게 될 것입니다.
결론적으로
WebGPU를 통해 고급 기계 학습 모델을 브라우저에 도입하면 개발자에게 많은 기회가 열리며, 더욱 강력하고 반응성이 뛰어나며 개인 정보 보호에 초점을 맞춘 웹 애플리케이션의 미래에 대한 비전을 제시합니다.