システムがリクエストを処理する最適なモデルを自動選択
modelパラメータをevolink/autoに設定するだけで、システムが自動的に最適なモデルを選択します。APIキーの取得:
APIキー管理ページにアクセスしてAPIキーを取得してください
リクエストヘッダーに追加:
Authorization: Bearer YOUR_API_KEYインテリジェントルーティングを使用
evolink/auto "evolink/auto"
会話メッセージリスト
1[
{
"role": "user",
"content": "人工知能の発展の歴史を紹介してください"
}
]サンプリング温度、出力のランダム性を制御
説明:
0 <= x <= 20.7
核サンプリング(Nucleus Sampling)パラメータ
説明:
推奨: temperature と top_p を同時に調整しないでください
0 <= x <= 10.9
Top-K サンプリングパラメータ
説明:
x >= 140
ストリーミング方式でレスポンスを返すかどうか
true: ストリーミング返却、チャンクごとにリアルタイムで内容を返すfalse: 完全なレスポンスを待ってから一括返却false