//! 请求上下文模块 //! //! 提供请求生命周期的上下文管理,封装通用初始化逻辑 use crate::app_config::AppType; use crate::provider::Provider; use crate::proxy::{ forwarder::RequestForwarder, server::ProxyState, types::AppProxyConfig, ProxyError, }; use std::time::Instant; /// 流式超时配置 #[derive(Debug, Clone, Copy)] pub struct StreamingTimeoutConfig { /// 首字节超时(秒),0 表示禁用 pub first_byte_timeout: u64, /// 静默期超时(秒),0 表示禁用 pub idle_timeout: u64, } /// 请求上下文 /// /// 贯穿整个请求生命周期,包含: /// - 计时信息 /// - 应用级代理配置(per-app) /// - 选中的 Provider 列表(用于故障转移) /// - 请求模型名称 /// - 日志标签 pub struct RequestContext { /// 请求开始时间 pub start_time: Instant, /// 应用级代理配置(per-app,包含重试次数和超时配置) pub app_config: AppProxyConfig, /// 选中的 Provider(故障转移链的第一个) pub provider: Provider, /// 完整的 Provider 列表(用于故障转移) providers: Vec, /// 请求开始时的“当前供应商”(用于判断是否需要同步 UI/托盘) /// /// 这里使用本地 settings 的设备级 current provider。 /// 代理模式下如果实际使用的 provider 与此不一致,会触发切换以确保 UI 始终准确。 pub current_provider_id: String, /// 请求中的模型名称 pub request_model: String, /// 日志标签(如 "Claude"、"Codex"、"Gemini") pub tag: &'static str, /// 应用类型字符串(如 "claude"、"codex"、"gemini") pub app_type_str: &'static str, /// 应用类型(预留,目前通过 app_type_str 使用) #[allow(dead_code)] pub app_type: AppType, } impl RequestContext { /// 创建请求上下文 /// /// # Arguments /// * `state` - 代理服务器状态 /// * `body` - 请求体 JSON /// * `app_type` - 应用类型 /// * `tag` - 日志标签 /// * `app_type_str` - 应用类型字符串 /// /// # Errors /// 返回 `ProxyError` 如果 Provider 选择失败 pub async fn new( state: &ProxyState, body: &serde_json::Value, app_type: AppType, tag: &'static str, app_type_str: &'static str, ) -> Result { let start_time = Instant::now(); // 从数据库读取应用级代理配置(per-app) let app_config = state .db .get_proxy_config_for_app(app_type_str) .await .map_err(|e| ProxyError::DatabaseError(e.to_string()))?; let current_provider_id = crate::settings::get_current_provider(&app_type).unwrap_or_default(); // 从请求体提取模型名称 let request_model = body .get("model") .and_then(|m| m.as_str()) .unwrap_or("unknown") .to_string(); // 使用共享的 ProviderRouter 选择 Provider(熔断器状态跨请求保持) // 注意:只在这里调用一次,结果传递给 forwarder,避免重复消耗 HalfOpen 名额 let providers = state .provider_router .select_providers(app_type_str) .await .map_err(|e| ProxyError::DatabaseError(e.to_string()))?; let provider = providers .first() .cloned() .ok_or(ProxyError::NoAvailableProvider)?; log::info!( "[{}] Provider: {}, model: {}, failover chain: {} providers", tag, provider.name, request_model, providers.len() ); Ok(Self { start_time, app_config, provider, providers, current_provider_id, request_model, tag, app_type_str, app_type, }) } /// 从 URI 提取模型名称(Gemini 专用) /// /// Gemini API 的模型名称在 URI 中,格式如: /// `/v1beta/models/gemini-pro:generateContent` pub fn with_model_from_uri(mut self, uri: &axum::http::Uri) -> Self { let endpoint = uri .path_and_query() .map(|pq| pq.as_str()) .unwrap_or(uri.path()); self.request_model = endpoint .split('/') .find(|s| s.starts_with("models/")) .and_then(|s| s.strip_prefix("models/")) .map(|s| s.split(':').next().unwrap_or(s)) .unwrap_or("unknown") .to_string(); log::info!("[{}] 从 URI 提取模型: {}", self.tag, self.request_model); self } /// 创建 RequestForwarder /// /// 使用共享的 ProviderRouter,确保熔断器状态跨请求保持 /// /// 配置生效规则: /// - 故障转移开启:超时配置和重试次数正常生效(0 表示禁用超时/不重试直接故障转移) /// - 故障转移关闭:超时配置和重试次数不生效(全部传入 0) pub fn create_forwarder(&self, state: &ProxyState) -> RequestForwarder { let (non_streaming_timeout, max_retries, first_byte_timeout, idle_timeout) = if self.app_config.auto_failover_enabled { // 故障转移开启:使用配置的值(0 = 禁用超时 / 不重试直接故障转移) ( self.app_config.non_streaming_timeout as u64, self.app_config.max_retries as u8, self.app_config.streaming_first_byte_timeout as u64, self.app_config.streaming_idle_timeout as u64, ) } else { // 故障转移关闭:不启用超时和重试配置 log::info!( "[{}] Failover disabled, timeout and retry configs are bypassed", self.tag ); (0, 0, 0, 0) }; RequestForwarder::new( state.provider_router.clone(), non_streaming_timeout, max_retries, state.status.clone(), state.current_providers.clone(), state.failover_manager.clone(), state.app_handle.clone(), self.current_provider_id.clone(), first_byte_timeout, idle_timeout, ) } /// 获取 Provider 列表(用于故障转移) /// /// 返回在创建上下文时已选择的 providers,避免重复调用 select_providers() pub fn get_providers(&self) -> Vec { self.providers.clone() } /// 计算请求延迟(毫秒) #[inline] pub fn latency_ms(&self) -> u64 { self.start_time.elapsed().as_millis() as u64 } /// 获取流式超时配置 /// /// 配置生效规则: /// - 故障转移开启:返回配置的值(0 表示禁用超时检查) /// - 故障转移关闭:返回 0(禁用超时检查) #[inline] pub fn streaming_timeout_config(&self) -> StreamingTimeoutConfig { if self.app_config.auto_failover_enabled { // 故障转移开启:使用配置的值(0 = 禁用超时) StreamingTimeoutConfig { first_byte_timeout: self.app_config.streaming_first_byte_timeout as u64, idle_timeout: self.app_config.streaming_idle_timeout as u64, } } else { // 故障转移关闭:禁用流式超时检查 StreamingTimeoutConfig { first_byte_timeout: 0, idle_timeout: 0, } } } }