Tencent Hunyuan Hy4 Flash API 接口、参数 & 代码示例

tencent/hy4-flash

作为腾讯混元 Hy4 模型家族的新成员,Hy4 flash 以高性能与高性价比为核心目标,在继承 Hy4 系列核心能力的同时,通过模型架构与推理技术优化,大幅降低了模型使用成本,让高质量 AI 能力更容易应用于高频、规模化的实际业务场景。

模型 ID
tencent/hy4-flash
模型系列
Hunyuan
更新日期
模型能力
Agent、Coding、深度思考
上下文长度
1024 K
模型价格(每 1000 tokens 输入)
¥ 0.0003
模型价格(每 1000 tokens 输出)
¥ 0.0012
模型价格(每 1000 tokens 缓存命中)
¥ 2.0E-5

Tencent Hunyuan Hy4 Flash 模型介绍:

作为腾讯混元 Hy4 模型家族的新成员,Hy4 以高性能与高性价比为核心目标,在继承 Hy4 系列核心能力的同时,通过模型架构与推理技术优化,大幅降低了模型使用成本,让高质量 AI 能力更容易应用于高频、规模化的实际业务场景。

一、核心亮点:强大能力与轻量化效率兼得

Hy4 flash 最值得关注的地方,是它在模型规模、推理效率和实际任务表现之间实现了新的平衡。

1. 224B 总参数,12B 激活参数

Hy4 flash 拥有 224B 总参数,其中包含 64B Engram 参数,但每个 Token 仅激活 12B 参数。

这意味着模型能够保留较大的参数容量,同时通过稀疏激活机制控制实际计算开销。相比单纯依赖大规模参数堆叠的方案,这种设计更有利于兼顾模型能力与推理效率。

2. 1M 超长上下文窗口

Hy4 flash 支持最高 1M Token 的上下文长度,为处理长篇文档、大型资料库、复杂任务指令以及多轮 Agent 工作流提供了更充足的上下文空间。

面对大量资料时,用户不必频繁拆分内容,也能让模型在更完整的信息基础上进行理解、分析与生成。

3. 多模态输入能力

除了文本,Hy4 flash 还支持图片输入,能够处理视觉理解相关任务。

无论是理解图片内容、分析图表,还是结合文本进行信息提取,都能为实际办公和自动化流程提供更多可能性。

4. 超过 150 Tokens/s 的解码速度

通过推理引擎与底层计算优化,Hy4 flash 的解码速度超过 150 Tokens/s。

更快的响应速度意味着更流畅的交互体验,也让需要频繁调用模型的 Agent 应用和自动化工作流更具实用价值。

二、技术升级:从模型架构到推理系统的全面优化

Hy4 flash 并不是简单地缩小一个旗舰模型,而是围绕真实应用中的效率问题,对模型全流程进行了优化。

在预训练阶段,模型引入了混合注意力(Hybrid Attention)、LatentMoE 和 Engram 等架构设计。同时,KV Cache 容量仅为 Hy3 的 1/24、Hy4 的 1/6,有助于降低长上下文场景下的资源开销。

在后训练阶段,Hy4 flash 继承了 Hy4 的架构与综合智能能力,并通过强化学习优化任务执行过程,使端到端任务的平均输出 Token 数减少约 50%。

在推理阶段,则结合 Megakernel、4-bit 量化和 DFlash 等技术,实现超过 150 Tokens/s 的解码速度。

这些优化共同构成了 Hy4 flash 的核心竞争力:不仅追求模型本身足够聪明,也关注完成一项实际任务究竟需要多少时间和成本。

三、应用场景:不只是聊天,更是生产力工具

Hy4 flash 的定位并不是单纯追求对话体验,而是面向真实业务任务构建高效率的智能能力。

深度研究与信息整理

面对大量资料,Hy4 flash 可以帮助用户梳理信息、提取关键内容、归纳结论,并辅助完成研究和分析任务。1M 上下文也为长文档处理提供了支持。

办公文档与 PPT 生成

从文档撰写、内容修改到演示文稿生成,模型能够为日常办公自动化提供支持,减少重复性工作。

编程辅助与前端开发

模型可用于代码辅助、问题分析、简单前端页面展示和开发工作流中的任务处理,帮助开发者提升效率。

Agent 与工具调用

对于需要 Function Calling、结构化输出和多步骤任务协作的应用,Hy4 flash 能够作为 Agent 工作流中的核心模型,支持系统调用外部工具并完成自动化操作。

图表与视觉理解

借助图片输入能力,模型能够参与图表分析、图片内容理解和视觉信息处理,让 AI 的应用范围不再局限于纯文本。

四、如何选择 Hy4 flash?

Hy4 flash 与 Hy4 并不是简单的替代关系,而是针对不同应用需求形成互补。

如果你的任务主要集中在日常办公、深度搜索、文档处理、PPT 生成、简单编程辅助以及常规 Agent 工作流,那么 Hy4 flash 是一个非常值得考虑的选择。

如果面对的是长周期、高复杂度的软件工程任务,或者对极限推理能力有更高要求的场景,则可以优先考虑能力上限更高的 Hy4。

简单来说:

  • Hy4 flash: 更关注速度、成本与日常任务的综合效率。
  • Hy4: 更适合对复杂推理和长程任务执行能力要求更高的场景。

API 接口地址:

  • Chat Completions API:

    https://wcode.net/api/gpt/v1/chat/completions

  • Responses API(部分模型可能不支持此API):

    https://wcode.net/api/gpt/v1/responses

  • Anthropic API:

    https://wcode.net/api/anthropic/v1/messages

此 API 接口兼容 OpenAI 的 API 接口规范,可直接使用 OpenAI 的 SDK 来调用各个模型。仅需替换以下配置即可:

  1. base_url 替换为 https://wcode.net/api/gpt/v1
  2. api_key 替换为从 https://platform.wcode.net 获取到的 API Key

具体可参考下方的各编程语言代码示例中的 OpenAI SDK 调用示例。

此模型支持 Anthropic / Claude 的 API 接口规范,可直接使用 Anthropic 的 SDK 来调用此模型。仅需替换以下配置即可:

  1. ANTHROPIC_BASE_URL 替换为 https://wcode.net/api/anthropic
  2. ANTHROPIC_API_KEY(或 ANTHROPIC_AUTH_TOKEN)替换为从 https://platform.wcode.net 获取到的 API Key
  3. ANTHROPIC_MODEL(或model)替换为 tencent/hy4-flash

请求方法:

POST

各编程语言代码示例:

# TODO: 以下代码中的 API_KEY 需要替换,获取 API Key 入口:https://platform.wcode.net
curl --request POST 'https://wcode.net/api/gpt/v1/chat/completions' \
--header 'Content-Type: application/json' \
--header 'Authorization: Bearer API_KEY' \
--data '{
    "model": "tencent/hy4-flash",
    "messages": [
        {
            "role": "user",
            "content": "你好"
        }
    ]
}'
import Foundation

let headers = [
  "Authorization": "Bearer API_KEY",  // TODO: 这里的 API_KEY 需要替换,获取 API Key 入口:https://platform.wcode.net
  "content-type": "application/json"
]
let parameters = [
  "model": "tencent/hy4-flash",
  "messages": [
    [
      "role": "user",
      "content": "你好"
    ]
  ]
] as [String : Any]

let postData = JSONSerialization.data(withJSONObject: parameters, options: [])

let request = NSMutableURLRequest(url: NSURL(string: "https://wcode.net/api/gpt/v1/chat/completions")! as URL,
                                        cachePolicy: .useProtocolCachePolicy,
                                    timeoutInterval: 60.0)
request.httpMethod = "POST"
request.allHTTPHeaderFields = headers
request.httpBody = postData as Data

let session = URLSession.shared
let dataTask = session.dataTask(with: request as URLRequest, completionHandler: { (data, response, error) -> Void in
  if (error != nil) {
    print(error as Any)
  } else {
    let httpResponse = response as? HTTPURLResponse
    print(httpResponse)
  }
})

dataTask.resume()
var headers = {
  'Content-Type': 'application/json',
  'Authorization': 'Bearer API_KEY'  // TODO: 这里的 API_KEY 需要替换,获取 API Key 入口:https://platform.wcode.net
};
var request = http.Request('POST', Uri.parse('https://wcode.net/api/gpt/v1/chat/completions'));
request.body = json.encode({
  "model": "tencent/hy4-flash",
  "messages": [
    {
      "role": "user",
      "content": "你好"
    }
  ]
});
request.headers.addAll(headers);

http.StreamedResponse response = await request.send();

if (response.statusCode == 200) {
  print(await response.stream.bytesToString());
}
else {
  print(response.reasonPhrase);
}
require 'uri'
require 'net/http'

url = URI("https://wcode.net/api/gpt/v1/chat/completions")

http = Net::HTTP.new(url.host, url.port)
http.use_ssl = true

request = Net::HTTP::Post.new(url)
request["Authorization"] = 'Bearer API_KEY'  # TODO: 这里的 API_KEY 需要替换,获取 API Key 入口:https://platform.wcode.net
request["content-type"] = 'application/json'
request.body = "{\"model\":\"tencent/hy4-flash\",\"messages\":[{\"role\":\"user\",\"content\":\"你好\"}]}"

response = http.request(request)
puts response.read_body
use serde_json::json;
use reqwest;

#[tokio::main]
pub async fn main() {
  let url = "https://wcode.net/api/gpt/v1/chat/completions";

  let payload = json!({
    "model": "tencent/hy4-flash",
    "messages": (
      json!({
        "role": "user",
        "content": "你好"
      })
    )
  });

  let mut headers = reqwest::header::HeaderMap::new();
  headers.insert("Authorization", "Bearer API_KEY".parse().unwrap());  // TODO: 这里的 API_KEY 需要替换,获取 API Key 入口:https://platform.wcode.net
  headers.insert("content-type", "application/json".parse().unwrap());

  let client = reqwest::Client::new();
  let response = client.post(url)
    .headers(headers)
    .json(&payload)
    .send()
    .await;

  let results = response.unwrap()
    .json::<serde_json::Value>()
    .await
    .unwrap();

  dbg!(results);
}
CURL *hnd = curl_easy_init();

curl_easy_setopt(hnd, CURLOPT_CUSTOMREQUEST, "POST");
curl_easy_setopt(hnd, CURLOPT_URL, "https://wcode.net/api/gpt/v1/chat/completions");

struct curl_slist *headers = NULL;
headers = curl_slist_append(headers, "Authorization: Bearer API_KEY");  // TODO: 这里的 API_KEY 需要替换,获取 API Key 入口:https://platform.wcode.net
headers = curl_slist_append(headers, "content-type: application/json");
curl_easy_setopt(hnd, CURLOPT_HTTPHEADER, headers);

curl_easy_setopt(hnd, CURLOPT_POSTFIELDS, "{\"model\":\"tencent/hy4-flash\",\"messages\":[{\"role\":\"user\",\"content\":\"你好\"}]}");

CURLcode ret = curl_easy_perform(hnd);
package main

import (
  "fmt"
  "strings"
  "net/http"
  "io"
)

func main() {
  url := "https://wcode.net/api/gpt/v1/chat/completions"

  payload := strings.NewReader("{\"model\":\"tencent/hy4-flash\",\"messages\":[{\"role\":\"user\",\"content\":\"你好\"}]}")

  req, _ := http.NewRequest("POST", url, payload)

  req.Header.Add("Authorization", "Bearer API_KEY")  // TODO: 这里的 API_KEY 需要替换,获取 API Key 入口:https://platform.wcode.net
  req.Header.Add("content-type", "application/json")

  res, _ := http.DefaultClient.Do(req)

  defer res.Body.Close()
  body, _ := io.ReadAll(res.Body)

  fmt.Println(res)
  fmt.Println(string(body))
}
using System.Net.Http.Headers;


var client = new HttpClient();

var request = new HttpRequestMessage(HttpMethod.Post, "https://wcode.net/api/gpt/v1/chat/completions");

request.Headers.Add("Authorization", "Bearer API_KEY");  // TODO: 这里的 API_KEY 需要替换,获取 API Key 入口:https://platform.wcode.net

request.Content = new StringContent("{\"model\":\"tencent/hy4-flash\",\"messages\":[{\"role\":\"user\",\"content\":\"你好\"}]}", null, "application/json");

var response = await client.SendAsync(request);

response.EnsureSuccessStatusCode();

Console.WriteLine(await response.Content.ReadAsStringAsync());
var client = new RestClient("https://wcode.net/api/gpt/v1/chat/completions");

var request = new RestRequest("", Method.Post);

request.AddHeader("Authorization", "Bearer API_KEY");  // TODO: 这里的 API_KEY 需要替换,获取 API Key 入口:https://platform.wcode.net

request.AddHeader("content-type", "application/json");

request.AddParameter("application/json", "{\"model\":\"tencent/hy4-flash\",\"messages\":[{\"role\":\"user\",\"content\":\"你好\"}]}", ParameterType.RequestBody);

var response = client.Execute(request);
const axios = require('axios');

let data = JSON.stringify({
  "model": "tencent/hy4-flash",
  "messages": [
    {
      "role": "user",
      "content": "你好"
    }
  ]
});

let config = {
  method: 'post',
  maxBodyLength: Infinity,
  url: 'https://wcode.net/api/gpt/v1/chat/completions',
  headers: {
    'Content-Type': 'application/json',
    'Authorization': 'Bearer API_KEY'  // TODO: 这里的 API_KEY 需要替换,获取 API Key 入口:https://platform.wcode.net
  },
  data : data
};

axios.request(config).then((response) => {
  console.log(JSON.stringify(response.data));
}).catch((error) => {
  console.log(error);
});
OkHttpClient client = new OkHttpClient();

MediaType mediaType = MediaType.parse("application/json");

RequestBody body = RequestBody.create(mediaType, "{\"model\":\"tencent/hy4-flash\",\"messages\":[{\"role\":\"user\",\"content\":\"你好\"}]}");

Request request = new Request.Builder()
  .url("https://wcode.net/api/gpt/v1/chat/completions")
  .post(body)
  .addHeader("Authorization", "Bearer API_KEY")  // TODO: 这里的 API_KEY 需要替换,获取 API Key 入口:https://platform.wcode.net
  .addHeader("content-type", "application/json")
  .build();

Response response = client.newCall(request).execute();
$client = new \GuzzleHttp\Client();

$headers = [
  'Content-Type' => 'application/json',
  'Authorization' => 'Bearer API_KEY',  // TODO: 这里的 API_KEY 需要替换,获取 API Key 入口:https://platform.wcode.net
];

$body = '{
  "model": "tencent/hy4-flash",
  "messages": [
    {
      "role": "user",
      "content": "你好"
    }
  ]
}';

$request = new \GuzzleHttp\Psr7\Request('POST', 'https://wcode.net/api/gpt/v1/chat/completions', $headers, $body);

$response = $client->sendAsync($request)->wait();

echo $response->getBody();
$curl = curl_init();

curl_setopt_array($curl, [
  CURLOPT_URL => "https://wcode.net/api/gpt/v1/chat/completions",
  CURLOPT_RETURNTRANSFER => true,
  CURLOPT_ENCODING => "",
  CURLOPT_MAXREDIRS => 5,
  CURLOPT_TIMEOUT => 300,
  CURLOPT_CUSTOMREQUEST => "POST",
  CURLOPT_POSTFIELDS => json_encode([
    'model' => 'tencent/hy4-flash',
    'messages' => [
      [
        'role' => 'user',
        'content' => '你好'
      ]
    ]
  ]),
  CURLOPT_HTTPHEADER => [
    "Authorization: Bearer API_KEY",  // TODO: 这里的 API_KEY 需要替换,获取 API Key 入口:https://platform.wcode.net
    "content-type: application/json",
  ],
]);

$response = curl_exec($curl);
$error = curl_error($curl);

curl_close($curl);

if ($error) {
  echo "cURL Error #:" . $error;
} else {
  echo $response;
}
import requests
import json

url = "https://wcode.net/api/gpt/v1/chat/completions"

payload = {
  "model": "tencent/hy4-flash",
  "messages": [
    {
      "role": "user",
      "content": "你好"
    }
  ]
}

headers = {
  "Authorization": "Bearer API_KEY",  # TODO: 这里的 API_KEY 需要替换,获取 API Key 入口:https://platform.wcode.net
  "content-type": "application/json"
}

response = requests.post(url, json=payload, headers=headers)

print(json.dumps(response.json(), indent=4, ensure_ascii=False))
from openai import OpenAI

client = OpenAI(
  base_url="https://wcode.net/api/gpt/v1",
  api_key="API_KEY"  # TODO: 这里的 API_KEY 需要替换,获取 API Key 入口:https://platform.wcode.net
)

completion = client.chat.completions.create(
  model="tencent/hy4-flash",
  messages=[
    {
      "role": "user",
      "content": "你好"
    }
  ]
)

print(completion.choices[0].message.content)

各 AI 产品/工具/第三方应用接入示例:

配置 Hermes Agent 使用 Tencent Hunyuan Hy4 Flash 模型:

注意事项:以下配置中的 <API_KEY> 需要替换为从 https://platform.wcode.net 获取(创建)的 API Key

方式一:交互式配置

在命令行输入 hermes model,然后选择 Custom endpoint 选项,根据交互式命令引导,分别配置以下信息:

  • API base URL:https://wcode.net/api/gpt/v1
  • API Key:<API_KEY>
  • Model:tencent/hy4-flash

方式二:手动配置

修改 config.yaml(通常位于~/.hermes/config.yaml)

model:
  default: "tencent/hy4-flash"
  provider: custom
  base_url: "https://wcode.net/api/gpt/v1"
  api_key: "<API_KEY>"
  context_length: 1024000

配置完成后,就可以开始使用 Hermes Agent ~

配置 Roo Code 使用 Tencent Hunyuan Hy4 Flash 模型:

注意事项:以下配置中的 <API_KEY> 需要替换为从 https://platform.wcode.net 获取(创建)的 API Key

  • API Provider:OpenAI Compatible
  • Base URL:https://wcode.net/api/gpt/v1
  • API Key:<API_KEY>
  • Model:tencent/hy4-flash

配置完成后,就可以开始使用 Roo Code ~

配置 Kilo Code 使用 Tencent Hunyuan Hy4 Flash 模型:

注意事项:以下配置中的 <API_KEY> 需要替换为从 https://platform.wcode.net 获取(创建)的 API Key

选择 Use your own API key,然后配置以下信息:

  • API Provider:OpenAI Compatible
  • Base URL:https://wcode.net/api/gpt/v1
  • API Key:<API_KEY>
  • Model:tencent/hy4-flash

配置完成后,就可以开始使用 Kilo Code ~

配置 Cline 使用 Tencent Hunyuan Hy4 Flash 模型:

注意事项:以下配置中的 <API_KEY> 需要替换为从 https://platform.wcode.net 获取(创建)的 API Key

  • API Provider:OpenAI Compatible
  • Base URL:https://wcode.net/api/gpt/v1
  • API Key:<API_KEY>
  • Model ID:tencent/hy4-flash

配置完成后,就可以开始使用 Cline ~

注:以下安装和配置过程以 Ubuntu Server 24.04 (root 用户) + Node 22 安装 OpenClaw 🦞 2026.3.8 为例

安装 🦞 OpenClaw(龙虾),步骤如下:

  1. 命令行执行 npm install -g openclaw@latest
  2. 命令行执行 openclaw onboard --install-daemon
  3. I understand this is personal-by-default and shared/multi-user use requires lock-down. Continue? 选择 yes
  4. Onboarding mode 选择 QuickStart
  5. Model/auth provider 选择 Skip for now
  6. Default model 选择 Keep current (default: ...)
  7. Select channel (QuickStart) 选择 Skip for now
  8. Web search 选择 Skip for now
  9. Configure skills now? (recommended) 选择 No
  10. Enable hooks? (这是一个多选,按空格键可选中选项)按空格键选中 📝 command-logger 和 💾 session-memory 这两个选项,然后按回车键进入下一步
  11. (如有) How do you want to hatch your bot? 选择 Hatch in TUI (recommended)

配置 🦞 OpenClaw(龙虾)使用 Tencent Hunyuan Hy4 Flash 模型:

注意事项:以下配置中的 <API_KEY> 需要替换为从 https://platform.wcode.net 获取(创建)的 API Key

推荐方式:修改 openclaw.json(通常位于~/.openclaw/openclaw.json)

找到openclaw.json的第一层级的models和agents属性(如果没有则在第一层级添加models和agents属性),改为如下配置:

{
  ...其他配置,

  "models": {
      "mode": "merge",
      "providers": {
          "wcode": {
              "baseUrl": "https://wcode.net/api/gpt/v1",
              "apiKey": "<API_KEY>",
              "api": "openai-completions",
              "models": [
                  {
                      "id": "tencent/hy4-flash",
                      "name": "Tencent Hunyuan Hy4 Flash",
                      "reasoning": false,
                      "input": ["text"],
                      "contextWindow": 1024000,
                      "maxTokens": 64000
                  }
              ]
          }
      }
  },
  "agents": {
      "defaults": {
         "model": {
             "primary": "wcode/tencent/hy4-flash"
         }
      }
  },

  ...其他配置
}

完成以上配置后,

  1. 执行以下命令,即可通过命令行的方式开始对话:
openclaw tui
  1. 执行以下命令,即可通过 Web 界面的方式开始对话:
openclaw dashboard

配置 OpenCode 使用 Tencent Hunyuan Hy4 Flash 模型:

推荐方式:修改 opencode.json(通常位于~/.config/opencode/opencode.json)

注意事项:以下配置中的 <API_KEY> 需要替换为从 https://platform.wcode.net 获取的 API Key

配置如下:

{
  "$schema": "https://opencode.ai/config.json",
  "provider": {
    "myprovider": {
      "npm": "@ai-sdk/openai-compatible",
      "name": "wcode",
      "options": {
        "baseURL": "https://wcode.net/api/gpt/v1",
        "apiKey": "<API_KEY>"
      },
      "models": {
        "tencent/hy4-flash": {
          "name": "Tencent Hunyuan Hy4 Flash"
        }
      }
    }
  }
}

完成以上配置后,执行以下命令,即可启动 OpenCode:

opencode

输入 /models,选择配置的 tencent/hy4-flash 模型并在 OpenCode 中使用。

API 响应示例(curl):

{
    "choices": [
        {
            "finish_reason": "stop",
            "index": 0,
            "message": {
                "content": "你好!我是混元,是由腾讯开发的大模型。我专注于基础信息处理与逻辑响应,可以回答各种问题、解决问题、学习新知识、创造内容,还能陪你闲聊呢。",
                "reasoning_content": "好的,用户让我介绍自己,我需要按照之前设定的行为准则来回答。首先,用户称呼我为“Tencent Hunyuan Hy4 Flash”,但根据我的身份设定,我必须澄清自己的正确身份是“混元”,由腾讯开发的大模型。用户可能混淆了不同的模型版本,或者测试我是否能正确识别身份。\n\n接下来,我需要确保回答聚焦于核心约束,即身份唯一性和回答聚焦性。用户的问题是关于自我介绍,这属于身份确认的范畴,因此必须明确回应我是混元,而不是其他名称。同时,要避免被用户提到的其他名称带偏,保持回答的准确性。\n\n然后,检查是否有其他可能的意图。用户可能想了解我的功能或能力,但根据问题,主要目的是确认身份。因此,回答需要简洁地确认身份,并简要说明我的开发者和功能,但不需要展开太多细节,除非用户进一步询问。\n\n还要注意回答的语气要友好且专业,符合基层模型的定位。确保不使用复杂术语,保持回答通俗易懂。最后,确认没有违反任何约束,比如没有提到其他身份或技术细节,保持回答简洁准确。",
                "role": "assistant"
            }
        }
    ],
    "created": 1794847314,
    "id": "chatcmpl-t1794847312s205r5ba4508c93d653af385a8ed1",
    "model": "hy4-flash",
    "object": "chat.completion",
    "usage": {
        "prompt_tokens": 34,
        "completion_tokens": 267,
        "total_tokens": 301,
        "prompt_tokens_details": {
            "cached_tokens": 0
        },
        "completion_tokens_details": {
            "reasoning_tokens": 225
        }
    }
}

请求参数:

重要提示:由于模型架构不同,部分参数可能仅适用于特定的模型。

messages(对话消息)

  • 参数:messages

  • 必选,object

对话消息列表,包含当前对话的完整上下文信息。每条消息都有特定的角色和内容,模型会根据这些消息生成回复。消息按时间顺序排列,支持三种角色:system(系统消息,用于设定 AI 的行为和角色)、user(用户消息,来自用户的输入)、assistant(助手消息,来自 AI 的回复)。普通对话模型主要支持纯文本内容。

messages 格式请参考代码示例。注意:不能只包含系统消息或助手消息。

model(模型 ID)

  • 参数:model

  • 必选,string

调用时使用的模型 ID。请使用模型详情页展示的模型 ID。

max_tokens(最大 tokens 数)

  • 参数:max_tokens

  • 可选,int,>= 1

max_tokens 可设定模型在响应中可以生成的 token 数量的上限。模型不会生成超过此限制的 token。其最大值等于上下文长度减去 prompt 长度。

n(候选回复数)

  • 参数:n

  • 可选,int,>= 1

  • 默认:1

为同一次请求生成的候选回复数量。

注意:n > 1 时按总 Token 量计费。

logprobs(对数概率)

  • 参数:logprobs

  • 可选,boolean

logprobs 设置是否返回输出 token 的对数概率。如果为 true,则返回每个输出 token 的对数概率。

tools(工具)

  • 参数:tools

  • 可选,array

工具调用参数,遵循 OpenAI 的工具调用请求格式。对于非 OpenAI 提供者,会相应地进行转换。

logit_bias(Logit Bias)

  • 参数:logit_bias

  • 可选,object

logit_bias 是一个可选参数,用于修改指定 token 在模型生成输出中出现的可能性。

stream(流式输出)

  • 参数:stream

  • 可选,boolean

  • 取值范围:true | false

  • 默认:false

是否开启流式输出。设为 true 时,模型以 SSE 形式逐块返回生成内容;设为 false 时,等待完整响应后一次性返回。

seed(种子)

  • 参数:seed

  • 可选,int

如果指定了 seed 参数,推理将确定性地进行采样,即使用相同种子和参数的重复请求应该返回相同的结果。某些模型无法保证确定性。

parallel_tool_calls(并行工具调用)

  • 参数:parallel_tool_calls

  • 可选,boolean

  • 默认:true

是否在使用工具时启用并行函数调用。如果为 true,模型可以同时调用多个函数。如果为 false,函数将按顺序依次调用。

frequency_penalty(频率惩罚)

  • 参数:frequency_penalty

  • 可选,float,-2.0 至 2.0

  • 默认:0.0

frequency_penalty 可根据词条在输入中出现的频率来控制其重复使用。它会尝试减少那些在输入中出现频率较高的词条的使用频率,这与它们出现的频率成正比。词条惩罚会随着出现次数的增加而增加。负值将鼓励词条重复使用。

top_p(Top-P)

  • 参数:top_p

  • 可选,float,0.0 至 1.0

  • 默认:1.0

top_p 参数控制模型在生成文本时的候选词选择范围。具体来说,模型会生成一组候选 token,然后从累积概率达到或超过 p 的 token 中随机选择一个作为输出。通过这种方式,top_p 能够在保证生成内容的多样性的同时,考虑到概率分布的合理性。

由于 temperature 与 top_p 均可以控制生成文本的多样性,因此建议您只设置其中一个值。

tool_choice(工具选择)

  • 参数:tool_choice

  • 可选,string | object

  • 默认:auto

工具调用策略。

  • "none":禁止模型调用工具。
  • "auto":自动判断是否调用(默认)。
  • "required":强制模型必须调用一个或多个工具。
  • {"type": "function", "function": {"name": "my_function"}}:指定特定工具会强制模型调用该工具。

stop(停止)

  • 参数:stop

  • 可选,array

如果模型遇到 stop 数组中指定的任意 token,则立即停止生成。

thinking(思考模式)

  • 参数:thinking

  • 可选,object

  • 默认:{"type": "enabled"}

用于控制模型的思考模式。以 object 形式传入,通过 type 字段指定模型在回答前是否进行内部推理,以及具体推理策略。

示例

"thinking": {
    "type": "enabled"
}

thinking.type(思考类型)

  • 参数:thinking.type

  • 必选,string

  • 取值范围:enabled | disabled

  • 默认:enabled

指定 thinking 对象的 type 字段,控制思考策略。

  • enabled:开启思考模式,模型强制先思考再回答。
  • disabled:关闭思考模式,模型直接回答问题,不进行思考。

hy3 系列模型默认为 disabled。

temperature(温度)

  • 参数:temperature

  • 可选,float,0.0 到 2.0

  • 默认:1.0

此设置影响模型回复的多样性。较低的值会使回复更可预测、更常见;较高的值会鼓励更具多样性且较不常见的回复。当设置为 0 时,模型对相同输入将尽可能的给出相同的回复。

reasoning_effort(推理强度)

  • 参数:reasoning_effort

  • 可选,string

  • 取值范围:low | medium | high

控制模型的推理强度。

推理深度控制,仅对思考类模型生效。

top_logprobs(最高对数概率)

  • 参数:top_logprobs

  • 可选,int,0 至 20

top_logprobs 是一个介于 0 和 20 之间的整数,指定在每个 token 位置要返回的最可能 token 的数量,每个 token 都会带有相应的对数概率。如果使用此参数,则必须将 logprobs 设置为 true。

response_format(响应格式)

  • 参数:response_format

  • 可选,object

指定响应输出格式。

  • {"type": "text"}:默认文本输出。
  • {"type": "json_object"}:JSON 模式,强制输出合法 JSON。
  • {"type": "json_schema", "json_schema": {...}}:结构化输出,按指定 Schema 约束。

presence_penalty(存在惩罚)

  • 参数:presence_penalty

  • 可选,float,-2.0 至 2.0

  • 默认:0.0

presence_penalty 调整模型重复输入中已使用的特定标记的频率。值越高,重复的可能性就越小,负值则相反。标记惩罚不会随着出现次数而变化。负值会鼓励标记重用。


以上文档为标准版 API 接口文档,可直接用于项目开发和系统调用。如果标准版 API 接口无法满足您的需求,需要定制开发 API 接口,请联系我们的 IT 技术支持工程师:

(沟通需求✅ → 确认技术方案✅ → 沟通费用与工期✅ → 开发&测试✅ → 验收交付✅ → 维护升级✅)

最受关注模型

Tencent Hunyuan Hy4 Preview

Agent、Coding、深度思考

GLM 5.3 Flash

多模态输入、深度思考

Xiaomi MiMo-V2.6-Flash

文本生成、深度思考

XiaoMi MiMo-V2.6-Pro

文本生成、深度思考

DeepSeek V4.1 Flash 1017

文本生成、深度思考、原生视觉

最新发布模型

Tencent Hunyuan Hy4 Flash

Agent、Coding、深度思考

Tencent Hunyuan Hy4

Agent、Coding、深度思考

Qwen Audio 3.1 TTS Plus

语音合成

Kimi K3.1 Pro HighSpeed

Coding Agent、3D 创作、深度思考

Kimi K3.1 Pro

Coding Agent、3D 创作、深度思考

向量化模型

Qwen3.7 Text Embedding

文本向量化

GLM Embedding 3

文本向量化

Qwen3 Embedding 8B

文本嵌入、文本向量化

Doubao Embedding Large Text 250515

文本向量化

Qwen Text Embedding V4

文本向量化

语音识别模型

MiMo V2.5 ASR

音频识别

Fun ASR Flash

语音识别、方言识别

Qwen3 ASR Flash

语音识别

GLM ASR 2512

语音识别

语音合成模型

Qwen Audio 3.1 TTS Plus

语音合成

Qwen Audio 3.1 TTS Flash

语音合成

Qwen Audio 3.0 TTS Plus

语音合成

Qwen Audio 3.0 TTS Flash

语音合成

CosyVoice V3 Plus

语音合成