|
|
--- |
|
|
title: fal-openai-proxy |
|
|
emoji: 🐳 |
|
|
colorFrom: red |
|
|
colorTo: red |
|
|
sdk: docker |
|
|
sdk_version: "{{sdkVersion}}" |
|
|
app_file: app.py |
|
|
pinned: false |
|
|
app_port: 3000 |
|
|
--- |
|
|
|
|
|
|
|
|
|
|
|
## openai请求格式转fal |
|
|
输入限制： System prompt 和 prompt 分别最长为 5000 字符（不是 token）。 |
|
|
|
|
|
输出长度： 测试了下输出长篇小说，出了 5W 多 token。 |
|
|
|
|
|
上下文： 不支持。 |
|
|
|
|
|
于是用 gemini 糊了个 openaiToFal 的服务，模拟上下文以 5000 字符为分界线，分别塞到 System prompt 和 prompt，这样可以把输入扩展到 1W 字符，太早的聊天记录会被顶掉。github 地址是一个 docker compose 包，把你的 key 填入 docker-compose.yml，一键启动 docker compose up -d 即可。默认端口 13000。 |
|
|
|
|
|
## 部署步骤 |
|
|
1、修改docker-compose.yml填入fal的api key |
|
|
|
|
|
2、`docker compose up -d`启动 |
|
|
|
|
|
## 重要 |
|
|
我是搭配newapi管理使用，所以**没有鉴权**，有需要自己加。 |
|
|
|
