# DeepSeek V4 Flash 外部测试接口 - API Base:`https://llm.bj01.imfht.com/v1` - 模型名:`deepseek-v4-flash` - 实际模型:DeepSeek-V4-Flash-0731,MI250 / SGLang TP8。 - API Key:向邀请人领取专用测试 key;不要将 key 写进公开代码。 - 接口:OpenAI 兼容 Chat Completions、Completions;支持 SSE 流式输出。 - 默认关闭思考;需思考时传 `chat_template_kwargs: {"thinking": true}`。 - 首轮请用 1–8 并发、8K–32K 输入。128K / 256K 输入明显更慢:此前单请求 TTFT 约55秒 /202秒。客户端超时建议900秒。 - 256K只是单请求成功测试记录,不是稳定性保证;请勿提交超过256K的输入,512K已触发过服务崩溃。模型列表中的长度元数据不代表通过容量验收。 - 测试key有效期7天,最多64个同时请求、300 RPM(共享key共享额度);服务实际吞吐另计。测试免费,费用字段不代表正式售价。 - 请提供输入/输出token数、并发、TTFT、总耗时、失败率及测试时间,便于对照服务端日志。 ## curl 流式调用 ```bash export OPENAI_API_KEY='替换成领取的测试key' curl -N --max-time 900 https://llm.bj01.imfht.com/v1/chat/completions \ -H "Authorization: Bearer $OPENAI_API_KEY" \ -H 'Content-Type: application/json' \ -d '{"model":"deepseek-v4-flash","messages":[{"role":"user","content":"你好,介绍一下你能做什么"}],"max_tokens":512,"temperature":0.6,"stream":true,"stream_options":{"include_usage":true}}' ``` ## Python / OpenAI SDK ```bash pip install openai ``` ```python import os from openai import OpenAI client = OpenAI( api_key=os.environ['OPENAI_API_KEY'], base_url='https://llm.bj01.imfht.com/v1', timeout=900.0, max_retries=0, # 压测时避免自动重试改变负载 ) stream = client.chat.completions.create( model='deepseek-v4-flash', messages=[{'role': 'user', 'content': '用三句话解释前缀缓存'}], max_tokens=512, stream=True, stream_options={'include_usage': True}, ) for chunk in stream: if chunk.choices: print(chunk.choices[0].delta.content or '', end='', flush=True) if chunk.usage: print('\nusage:', chunk.usage) ``` ## 常见返回 - 401:缺少key、key错误或已失效。 - 403:key无权访问该模型。 - 429:并发或请求速率超过配额,降低速率;压测请记录,不要无限重试。 - 5xx / 超时:记录时间与响应体,反馈给邀请人。 这个入口不提供其他供应商模型的自动兜底;测试对象为本台 MI250 服务。