Poe Bot Process

這是一個用 Rust 實現的 Poe API 客戶端庫。它允許您與 Poe API 平台進行交互，發送查詢請求並接收回應。

功能

• 流式接收 bot 回應
• 獲取可用模型列表
• 支援工具調用 (Tool Calls)

安裝

在您的 Cargo.toml 文件中添加以下依賴：

[dependencies]
poe_api_process = "0.1.6"

Or

cargo add poe_api_process

使用方法

創建客戶端並發送請求

use poe_api_process::{PoeClient, QueryRequest, ProtocolMessage, EventType};
use futures_util::StreamExt;

#[tokio::main]
async fn main() -> Result<(), Box<dyn std::error::Error>> {
    let client = PoeClient::new("your_bot_name", "your_access_key");
    let request = QueryRequest {
        version: "1".to_string(),
        r#type: "query".to_string(),
        query: vec![ProtocolMessage {
            role: "user".to_string(),
            content: "你好".to_string(),
            content_type: "text/markdown".to_string(),
        }],
        temperature: None,
        user_id: String::new(),
        conversation_id: String::new(),
        message_id: String::new(),
        tools: None,
        tool_calls: None,
        tool_results: None,
    };

    let mut stream = client.stream_request(request).await?;

    while let Some(response) = stream.next().await {
        match response {
            Ok(event) => match event.event {
                EventType::Text => {
                    if let Some(partial) = event.data {
                        println!("收到文字: {}", partial.text);
                    }
                },
                EventType::ReplaceResponse => {
                    if let Some(partial) = event.data {
                        println!("替換回應: {}", partial.text);
                    }
                },
                EventType::Error => {
                    if let Some(error) = event.error {
                        eprintln!("伺服器錯誤: {}", error.text);
                        if error.allow_retry {
                            println!("可以重試請求");
                        }
                    }
                },
                EventType::Done => {
                    println!("對話完成");
                    break;
                },
            },
            Err(e) => eprintln!("錯誤: {}", e),
        }
    }

    Ok(())
}

工具調用 (Tool Call)

• 工具調用 (Tool Call): 允許 AI 模型請求執行特定的工具或函數。例如，AI 可能需要查詢天氣、搜索網頁或執行計算等操作。
• 工具結果 (Tool Result): 工具執行後返回的結果，將被發送回 AI 模型以繼續對話。

在建立請求時，可以指定可用的工具：

let request = QueryRequest {
    // 其他欄位...
    tools: Some(vec![Tool {
        r#type: "function".to_string(),
        function: ToolFunction {
            name: "get_weather".to_string(),
            description: "獲取指定城市的天氣資訊".to_string(),
            parameters: ToolFunctionParameters {
                r#type: "object".to_string(),
                properties: serde_json::json!({
                    "city": {
                        "type": "string",
                        "description": "城市名稱"
                    }
                }),
                required: vec!["city".to_string()],
            },
        },
    }]),
    // 其他欄位...
};

當 AI 模型返回工具調用時，您可以處理並提供結果：

while let Some(response) = stream.next().await {
    match response {
        Ok(event) => match event.event {
            // 處理其他事件...
            EventType::Json => {
                if let Some(tool_calls) = event.tool_calls {
                    // 處理工具調用
                    let tool_results = process_tool_calls(&tool_calls);
                    
                    // 發送工具結果回 AI
                    let mut result_stream = client.send_tool_results(
                        request.clone(),
                        tool_calls,
                        tool_results
                    ).await?;
                    
                    // 處理後續回應...
                }
            },
            // 其他事件處理...
        },
        Err(e) => eprintln!("錯誤: {}", e),
    }
}

獲取可用模型列表

use poe_api_process::get_model_list;

#[tokio::main]
async fn main() -> Result<(), Box<dyn std::error::Error>> {
    let models = get_model_list(Some("zh-Hant")).await?;
    for (index, model) in models.data.iter().enumerate() {
        println!("Model ID {} - {}", index + 1, model.id);
    }

    Ok(())
}

注意事項

請確保您擁有可使用的Poe API 訪問密鑰。

使用 stream_request 時，請提供有效的 bot 名稱和訪問密鑰。

get_model_list 不需要訪問密鑰，可以直接使用。