duckai

DuckDuckGo AI to OpenAI

• API身份验证
• 支持IP代理池
• 流式/非流式API

模型

模型映射，不支持的模型默认为gpt-4o-mini

• gpt-4o-mini -> (gpt-4o-mini)
• claude-3-haiku -> (claude-3-haiku-20240307)
• llama-3.1-70b -> (meta-llama/Meta-Llama-3.1-70B-Instruct-Turbo)
• mixtral-8x7b -> (mistralai/Mixtral-8x7B-Instruct-v0.1)

对话

curl --request POST 'http://127.0.0.1:8080/v1/chat/completions' \
  --header 'Content-Type: application/json' \
  --data '{
    "messages": [
      {
        "role": "user",
        "content": "Rust example."
      }
    ],
    "model": "gpt-4o-mini",
    "stream": true
  }'

命令

$ duckai -h
DuckDuckGo AI to OpenAI

Usage: duckai
       duckai <COMMAND>

Commands:
  run      Run server
  start    Start server daemon
  restart  Restart server daemon
  stop     Stop server daemon
  log      Show the server daemon log
  ps       Show the server daemon process
  gt       Generate config template file (yaml format file)
  help     Print this message or the help of the given subcommand(s)

Options:
  -h, --help     Print help
  -V, --version  Print version

$ duckai run -h
Run server

Usage: duckai run [CONFIG_PATH]

Arguments:
  [CONFIG_PATH]  Configuration filepath [default: duckai.yaml]

Options:
  -h, --help  Print help

安装

cargo install duckai

docker run --rm -it -p 8080:8080 ghcr.io/penumbra-x/duckai:latest run

duckai gt # 生成duckai.yaml文件（当前目录）

# 调试模式
debug: false

# 监听地址
bind: 0.0.0.0:8080

# 客户端超时
timeout: 60

# 客户端连接超时
connect_timeout: 10

# 客户端 tcp keepalive
tcp_keepalive: 90

# 最大 tcp 连接
concurrent: 100

# 代理池
proxies:
- !url http://127.0.0.1:6152
- !url socks5://127.0.0.1:6153
- !cidr 2001:470:e953::/48
- !iface 192.168.1.10

# 启用 TLS
tls_cert: null
tls_key: null

# 验证 api 密钥
api_key: null

贡献

如果您想提交贡献，请打开 Pull Request

获取帮助

您的问题可能已在 issues 中得到解答

赞助商

如果您觉得这个项目有帮助，请考虑赞助我以支持持续开发：

USDT-TRC20: TCwD8HfHnJ7236Hdj3HF5uZKR2keeWeqZe