DeepSeek V4 Flash · 测试接口

OpenAI 兼容 API · 下载调用说明 · 测试密钥请向邀请人领取

# DeepSeek V4 Flash 外部测试接口

- API Base:`https://llm.bj01.imfht.com/v1`
- 模型名:`deepseek-v4-flash`
- 实际模型:DeepSeek-V4-Flash-0731,MI250 / SGLang TP8。
- API Key:向邀请人领取专用测试 key;不要将 key 写进公开代码。
- 接口:OpenAI 兼容 Chat Completions、Completions;支持 SSE 流式输出。
- 默认关闭思考;需思考时传 `chat_template_kwargs: {"thinking": true}`。
- 首轮请用 1–8 并发、8K–32K 输入。128K / 256K 输入明显更慢:此前单请求 TTFT 约55秒 /202秒。客户端超时建议900秒。
- 256K只是单请求成功测试记录,不是稳定性保证;请勿提交超过256K的输入,512K已触发过服务崩溃。模型列表中的长度元数据不代表通过容量验收。
- 测试key有效期7天,最多64个同时请求、300 RPM(共享key共享额度);服务实际吞吐另计。测试免费,费用字段不代表正式售价。
- 请提供输入/输出token数、并发、TTFT、总耗时、失败率及测试时间,便于对照服务端日志。

## curl 流式调用

```bash
export OPENAI_API_KEY='替换成领取的测试key'
curl -N --max-time 900 https://llm.bj01.imfht.com/v1/chat/completions \
  -H "Authorization: Bearer $OPENAI_API_KEY" \
  -H 'Content-Type: application/json' \
  -d '{"model":"deepseek-v4-flash","messages":[{"role":"user","content":"你好,介绍一下你能做什么"}],"max_tokens":512,"temperature":0.6,"stream":true,"stream_options":{"include_usage":true}}'
```

## Python / OpenAI SDK

```bash
pip install openai
```

```python
import os
from openai import OpenAI
client = OpenAI(
    api_key=os.environ['OPENAI_API_KEY'],
    base_url='https://llm.bj01.imfht.com/v1',
    timeout=900.0,
    max_retries=0,  # 压测时避免自动重试改变负载
)
stream = client.chat.completions.create(
    model='deepseek-v4-flash',
    messages=[{'role': 'user', 'content': '用三句话解释前缀缓存'}],
    max_tokens=512,
    stream=True,
    stream_options={'include_usage': True},
)
for chunk in stream:
    if chunk.choices:
        print(chunk.choices[0].delta.content or '', end='', flush=True)
    if chunk.usage:
        print('\nusage:', chunk.usage)
```

## 常见返回

- 401:缺少key、key错误或已失效。
- 403:key无权访问该模型。
- 429:并发或请求速率超过配额,降低速率;压测请记录,不要无限重试。
- 5xx / 超时:记录时间与响应体,反馈给邀请人。

这个入口不提供其他供应商模型的自动兜底;测试对象为本台 MI250 服务。