4 releases
new 0.1.3 | Oct 22, 2024 |
---|---|
0.1.2 | Oct 20, 2024 |
0.1.1 | Oct 20, 2024 |
0.1.0 | Oct 20, 2024 |
#1320 in Network programming
401 downloads per month
68KB
1.5K
SLoC
duckai
DuckDuckGo AI to OpenAI
API
身份验证- 支持
IP
代理池 - 流式/非流式
API
模型
模型映射,不支持的模型默认为gpt-4o-mini
- gpt-4o-mini ->
(gpt-4o-mini)
- claude-3-haiku ->
(claude-3-haiku-20240307)
- llama-3.1-70b ->
(meta-llama/Meta-Llama-3.1-70B-Instruct-Turbo)
- mixtral-8x7b ->
(mistralai/Mixtral-8x7B-Instruct-v0.1)
对话
curl --request POST 'http://127.0.0.1:8080/v1/chat/completions' \
--header 'Content-Type: application/json' \
--data '{
"messages": [
{
"role": "user",
"content": "Rust example."
}
],
"model": "gpt-4o-mini",
"stream": true
}'
命令
$ duckai -h
DuckDuckGo AI to OpenAI
Usage: duckai
duckai <COMMAND>
Commands:
run Run server
start Start server daemon
restart Restart server daemon
stop Stop server daemon
log Show the server daemon log
ps Show the server daemon process
gt Generate config template file (yaml format file)
help Print this message or the help of the given subcommand(s)
Options:
-h, --help Print help
-V, --version Print version
$ duckai run -h
Run server
Usage: duckai run [CONFIG_PATH]
Arguments:
[CONFIG_PATH] Configuration filepath [default: duckai.yaml]
Options:
-h, --help Print help
安装
如果您需要更详细的安装和使用信息,请查看此处
- 安装
- cargo
cargo install duckai
- Dokcer
docker run --rm -it -p 8080:8080 ghcr.io/penumbra-x/duckai:latest run
- 使用
- 生成配置模版
duckai gt # 生成duckai.yaml文件(当前目录)
# 调试模式
debug: false
# 监听地址
bind: 0.0.0.0:8080
# 客户端超时
timeout: 60
# 客户端连接超时
connect_timeout: 10
# 客户端 tcp keepalive
tcp_keepalive: 90
# 最大 tcp 连接
concurrent: 100
# 代理池
proxies:
- !url http://127.0.0.1:6152
- !url socks5://127.0.0.1:6153
- !cidr 2001:470:e953::/48
- !iface 192.168.1.10
# 启用 TLS
tls_cert: null
tls_key: null
# 验证 api 密钥
api_key: null
- 代理池
IP
代理池类型支持三种类型(优先级:CIDR
> Proxy
> Interface
,使用轮训策略):
URL
,协议支持:http
/https
/socks4
/socks5
/socks5h
Interface
,即绑定本地网络接口地址CIDR
,支持IPv4
/IPv6
子网,前提是子网路由正常通信
贡献
如果您想提交贡献,请打开 Pull Request
获取帮助
您的问题可能已在 issues 中得到解答
赞助商
如果您觉得这个项目有帮助,请考虑赞助我以支持持续开发:
USDT-TRC20: TCwD8HfHnJ7236Hdj3HF5uZKR2keeWeqZe
Dependencies
~36–68MB
~1.5M SLoC