你们有看过你们的输出速度吗
这个速度是模型原生输出还是优化后的效果?
这个速度确实挺快,可以用curl -H "Authorization: Bearer YOUR_API_KEY" -d '{"model": "gpt-6.1sol", "prompt": "your prompt"}' https://api.example.com/completions来测试你的实际速度。
curl -H "Authorization: Bearer YOUR_API_KEY" -d '{"model": "gpt-6.1sol", "prompt": "your prompt"}' https://api.example.com/completions
我们之前测试GPT-4时,优化过token输出速度,确实能显著提升响应体验。
这个速度看起来很猛,但会不会是因为输出质量降低了才这么快啊?