기사 디렉토리
머리말
Baidu Intelligent Cloud Qianfan 대형 모델 플랫폼이 다시 업그레이드되었습니다! 원본 API를 기반으로 Baidu Smart Cloud는 공식적으로 Python SDK(이하 Qianfan SDK) 버전을 출시했으며 완전한 오픈 소스이므로 기업과 개발자는 무료로 다운로드하여 사용할 수 있습니다! Qianfan SDK는 데이터 세트 관리, 모델 교육, 모델 평가, 서비스 배포 등의 기능을 포괄적으로 포괄합니다. Qianfan SDK를 기반으로 우리 개발자는 코드를 통해 Baidu 지능형 클라우드 Qianfan 대형 모델 플랫폼의 기능에 액세스하고 호출할 수 있으며 LLMOps를 쉽게 구현할 수 있습니다. 프로세스를 완벽하게 구현하면 자체 대규모 언어 모델 애플리케이션을 신속하게 구축할 수 있습니다.
1. SDK의 장점
현재 SDK의 주요 가치는 API 기능을 빠르게 사용할 수 있고, API 사용을 위한 주변 도구 체인을 개선하며, 실습용 요리책을 제공할 수 있다는 것입니다.
1. 우리 같은 개발자가 http 클라이언트 및 인증 로직을 구현할 필요가 없는 API 기능을 빠르게 사용하고, 이를 기반으로 구성 가능한 재시도 및 흐름 제어를 구현하여 API 기능을 향상시킵니다. 경험.
2. 실제 사례와 애플리케이션 시나리오를 기반으로 반응형 쿡북이 제공되므로 개발자는 빠르게 시작하고 구현된 코드 대부분을 재사용할 수 있습니다.
3. LLM 응용 프로그램의 기본 기능이 확장되었습니다. 예를 들어 LLM 응용 프로그램 계층에서 공통 Agent와 기타 개념을 결합하여 캡슐화하고 Agent 기반 응용 프로그램 템플릿 클래스를 제공합니다.
2. Qianfan SDK: LLM 애플리케이션을 신속하게 구현
Qianfan SDK는 대화 완성, 연속 완성, 의미 벡터, 플러그인, Vincent 다이어그램 등과 같은 일련의 기능을 지원하여 애플리케이션 개발을 쉽고 즐겁게 완료할 수 있도록 도와줍니다.
- 대화 완성(ChatCompletion): 대화 모델은 언어 모델의 변형입니다. 언어 모델은 내부적으로 사용되지만 제공하는 인터페이스는 다소 다릅니다. 대화 생성, 지능형 질문 및 답변 및 기타 시나리오에 적합합니다.
- 완성: 언어 모델은 풍부한 교육 자료와 결합된 기본 연속 기능을 제공하며 문서 보고서 작성, 콘텐츠 생성 및 기타 시나리오에 매우 적합합니다.
- 의미 벡터(임베딩): Baidu 지능형 클라우드 Qianfan 대형 모델 플랫폼은 대형 모델 대화 연속 기능을 제공할 뿐만 아니라 일반 텍스트 검색, 지식 기반 쿼리 및 기타 시나리오를 위해 텍스트를 벡터로 변환하는 기능도 도입합니다.
- 플러그인 애플리케이션(플러그인): 실시간 정보, 다중 모드, 수직 도메인 지식 질문 및 답변 및 기타 시나리오를 얻는 대형 모델의 능력 격차를 메우기 위해 Baidu Intelligent Cloud Qianfan 대형 모델 플랫폼이 출시되었습니다. Baidu 검색, 지식 라이브러리, 날씨 쿼리, 스마트 지도 및 기타 여러 플러그인 애플리케이션을 포함하여 일반적으로 사용되는 여러 플러그인 애플리케이션입니다. 개발자는 대형 모델의 의사 결정 기능을 사용하여 질문 및 답변 텍스트를 플러그인 애플리케이션 호출로 변환하거나 플러그인 애플리케이션을 직접 호출하여 해당 데이터를 얻을 수 있습니다.
- Text2Image: 오픈 소스 StableDiffusion과 같은 오픈 소스 다중 모드 대형 모델을 기반으로 Baidu 지능형 클라우드 Qianfan 대형 모델 플랫폼은 일련의 사전 설정된 Text2Image 모델을 출시했으며 SDK를 통해 신속하게 호출하여 그래픽과 텍스트를 생성할 수도 있습니다.
3. Qianfan SDK를 빠르게 시작하는 방법
Baidu Smart Cloud Qianfan 대형 모델 플랫폼은 개발자에게 SDK 빠른 시작, 대형 모델 개발의 기본 기능을 갖춘 빠른 시작 및 Langchain 액세스 방법을 포함하는 자세한 운영 매뉴얼을 제공하며, 다음 단계를 통해 Qianfan SDK를 보다 빠르게 사용할 수 있습니다.
3.1 SDK 빠른 시작
이 모듈에서는 빠르게 시작하는 데 필요한 단계를 통해 LLM 애플리케이션 개발에 빠르게 들어가는 방법과 채팅 대화를 호출 예제로 사용하는 방법을 소개합니다.
-
빠른 설치
현재 Qianfan SDK가 PyPI에 출시되었으며 pip 명령을 사용하여 설치할 수 있습니다. Qianfan SDK를 설치하려면 Python 버전 3.7.0 이상이 필요합니다.
-
플랫폼 인증
Qianfan SDK는 Baidu Smart Cloud Qianfan 대형 모델 플랫폼을 기반으로 사용자에게 기능을 제공하므로 개발자는 사용하기 전에 플랫폼별 인증 방법을 사용하여 초기화해야 합니다. -
AK/SK를 얻는 방법
먼저 애플리케이션에 액세스하여 AK/SK를 얻을 수 있습니다.
AK 및 SK를 얻은 후에도 Qianfan SDK를 초기화하려면 이를 전달해야 합니다. 다음 두 가지 방법이 지원되며 우선순위가 낮은 것부터 높은 것 순으로 정렬됩니다.
-
'채팅 대화'를 호출 예시
ERNIE-All을 포함하여 지원되는 Baidu 지능형 클라우드 Qianfan 대형 모델 플랫폼을 호출하려면 예상되는 모델 이름과 대화 내용만 제공하면 됩니다. Bot을 포함한 사전 설정된 모델은 다음과 같습니다.
3.2 SDK 고급 가이드
모델에 대한 세부 조정 교육이 필요한 개발자를 위해 Qianfan SDK는 모델 교육 및 관리 기능을 제공합니다.
- 대규모 모델 훈련: Baidu 지능형 클라우드 Qianfan 대형 모델 플랫폼은 고성능 훈련 및 모델 미세 조정 기능을 제공하며 훈련 작업을 신속하게 발행하고 관리할 수 있습니다.
- 대규모 모델 관리: 주로 맞춤형 모델의 관리 및 출시에 사용됩니다.
- 대형 모델 서비스: Qianfan 플랫폼은 기본 대형 모델 운영 환경을 제공하며 개발자는 한 번의 클릭으로 자체 모델 서비스를 게시할 수 있습니다.
3.3 Langchain을 통해 Qianfan SDK에 접근
랭체인을 선택하는 이유
Langchain은 개발자가 프로토타입부터 프로덕션까지 LLM 애플리케이션을 신속하게 구축하는 데 도움이 되는 프레임워크입니다. 이는 LLM, 임베딩, 체인, 에이전트, 도구 등을 포함한 일련의 추상 LLM 응용 프로그램 구성 요소를 캡슐화합니다. 오픈 소스 커뮤니티 구성원의 지속적인 기여를 통해 현재 주류 대형 언어 모델 및 기타 호출 방법의 대부분을 통합합니다. 현재 매우 인기가 있으며 오픈 소스 대형 모델 프레임워크입니다. 개발 효율성이 높고, 리소스 지원이 완벽하며, 사용자 수가 많습니다. 이제 Qianfan SDK를 사용하여 Baidu Intelligent Cloud Qianfan 대형 모델 플랫폼 교육 및 langchain의 기타 기능에 액세스하고 사용할 수 있어 애플리케이션 시나리오 개발이 더 쉽고 편리해졌습니다.
4. 오픈소스 커뮤니티
Qianfan SDK는 Github에 오픈 소스로 제공되었으며 계속 업데이트되고 반복될 예정입니다. 구독을 따라가면 자체 대규모 모델 애플리케이션을 만들 수 있습니다.
Github 저장소:
https://github.com/baidubce/bce-qianfan-sdk
Qianfan 커뮤니티: a> a>
https://cloud.baidu.com/qianfandev