ご存知のとおり、公式の OpenAI サービスにはアクセスできませんが、プロキシまたはサードパーティのプロキシを介してインターフェイスにアクセスすることはできます。
現在、新しい規制により、国内の顧客向けに海外の AI 大型モデル インターフェイスの使用が禁止されているため、国内の大型モデル インターフェイスを使用する必要があります
国内効果は非常に悪く、現在 GPT ラージモデルを使用したい場合は、Microsoft Azure の OpenAI サービスを使用できます。
責任あるAI
マイクロソフトでは、AI の進歩を推進する人間中心の原則に取り組んでいます。Azure OpenAI で利用できるような生成モデルには潜在的な大きな利点がありますが、慎重な設計と思慮深い緩和策がなければ、そのようなモデルは誤ったコンテンツや有害なコンテンツを生成する可能性があります。Microsoft は、悪用や偶発的な危害を防ぐために多大な投資を行ってきました。これには、明確に定義された使用例の実証を申請者に要求すること、AI の責任ある使用に関する Microsoft の原則の組み込み、顧客をサポートするコンテンツ フィルターの構築、責任ある AI 導入ガイダンスの顧客への提供などが含まれます。
Microsoftは中国に準拠企業がおり、データ内容はフィルタリングされているため、OpenAIの公式Webサイトサービスの代替も検討できる
Azure GPT インターフェイスの仕様
次のRESTインターフェースの呼び出しパラメータを参照できます。
Azure 上でサービスが正常に作成されると、2 つのパラメーター ENDPOINT と API-KEY を取得します。
チャット完了インターフェース
curl $AZURE_OPENAI_ENDPOINT/openai/deployments/gpt-35-turbo/chat/completions?api-version=2023-05-15 \
-H "Content-Type: application/json" \
-H "api-key: $AZURE_OPENAI_KEY" \
-d '{"messages":[{"role": "system", "content": "You are a helpful assistant."},{"role": "user", "content": "Does Azure OpenAI support customer managed keys?"},{"role": "assistant", "content": "Yes, customer managed keys are supported by Azure OpenAI."},{"role": "user", "content": "Do other Azure Cognitive Services support this too?"}]}'
向量转换接口
curl https://YOUR_RESOURCE_NAME.openai.azure.com/openai/deployments/YOUR_DEPLOYMENT_NAME/embeddings?api-version=2023-05-15 \
-H "Content-Type: application/json" \
-H "api-key: YOUR_API_KEY" \
-d "{\"input\": \"The food was delicious and the waiter...\"}"
公式OpenAIとの違い
インターフェイス アドレスが異なり、ヘッダー パラメーターで渡されるキーの形式も異なります。
これら 2 つの点に加えて、もう 1 つ非常に重要なことがあります。
焦点を当てる
上記のインターフェイス アドレスの URL 部分、太字の部分をよく見てください。
$AZURE_OPENAI_ENDPOINT/openai/deployments/ gpt-35-turbo /chat/completions?api-version=2023-05-15
$AZURE_OPENAI_ENDPOINT/openai/deployments/ YOUR_DEPLOYMENT_NAME /embeddings?api-version=2023-05-15
我们需要把大模型部署一下，上面标红的地方，就是部署名称，所以如果我们想无缝切换OpenAI与微软Azure OpenAI
我们需要固定好，部署的名称与模型的名称保持一致，这样才能正常调用
客服系统配置
我们系统已经兼容了微软azure接口：gofly.v1kf.com
前往【菜单】【机器人设置】【向量知识库AI配置】接口地址填入$AZURE_OPENAI_ENDPOINT，接口密钥填写key