OpenAI 兼容 API · 下载调用说明 · 测试密钥请向邀请人领取
# DeepSeek V4 Flash 外部测试接口
- API Base:`https://llm.bj01.imfht.com/v1`
- 模型名:`deepseek-v4-flash`
- 实际模型:DeepSeek-V4-Flash-0731,MI250 / SGLang TP8。
- API Key:向邀请人领取专用测试 key;不要将 key 写进公开代码。
- 接口:OpenAI 兼容 Chat Completions、Completions;支持 SSE 流式输出。
- 默认关闭思考;需思考时传 `chat_template_kwargs: {"thinking": true}`。
- 首轮请用 1–8 并发、8K–32K 输入。128K / 256K 输入明显更慢:此前单请求 TTFT 约55秒 /202秒。客户端超时建议900秒。
- 256K只是单请求成功测试记录,不是稳定性保证;请勿提交超过256K的输入,512K已触发过服务崩溃。模型列表中的长度元数据不代表通过容量验收。
- 测试key有效期7天,最多64个同时请求、300 RPM(共享key共享额度);服务实际吞吐另计。测试免费,费用字段不代表正式售价。
- 请提供输入/输出token数、并发、TTFT、总耗时、失败率及测试时间,便于对照服务端日志。
## curl 流式调用
```bash
export OPENAI_API_KEY='替换成领取的测试key'
curl -N --max-time 900 https://llm.bj01.imfht.com/v1/chat/completions \
-H "Authorization: Bearer $OPENAI_API_KEY" \
-H 'Content-Type: application/json' \
-d '{"model":"deepseek-v4-flash","messages":[{"role":"user","content":"你好,介绍一下你能做什么"}],"max_tokens":512,"temperature":0.6,"stream":true,"stream_options":{"include_usage":true}}'
```
## Python / OpenAI SDK
```bash
pip install openai
```
```python
import os
from openai import OpenAI
client = OpenAI(
api_key=os.environ['OPENAI_API_KEY'],
base_url='https://llm.bj01.imfht.com/v1',
timeout=900.0,
max_retries=0, # 压测时避免自动重试改变负载
)
stream = client.chat.completions.create(
model='deepseek-v4-flash',
messages=[{'role': 'user', 'content': '用三句话解释前缀缓存'}],
max_tokens=512,
stream=True,
stream_options={'include_usage': True},
)
for chunk in stream:
if chunk.choices:
print(chunk.choices[0].delta.content or '', end='', flush=True)
if chunk.usage:
print('\nusage:', chunk.usage)
```
## 常见返回
- 401:缺少key、key错误或已失效。
- 403:key无权访问该模型。
- 429:并发或请求速率超过配额,降低速率;压测请记录,不要无限重试。
- 5xx / 超时:记录时间与响应体,反馈给邀请人。
这个入口不提供其他供应商模型的自动兜底;测试对象为本台 MI250 服务。