llm_providers

# LLM 提供商配置 配置不同 LLM 提供商与 biomni 集成的综合指南。 ## 概述 Biomni 支持多种 LLM 提供商，以便在不同的基础设施和成本需求下灵活部署。该框架通过统一接口抽象了提供商之间的差异。 ## 支持的提供商 1. **Anthropic Claude** (推荐) 2. **OpenAI** 3. **Azure OpenAI** 4. **Google Gemini** 5. **Groq** 6. **AWS Bedrock** 7. **自定义端点** ## Anthropic Claude **推荐用于：** 推理质量、速度和生物医学知识的最佳平衡。 ### 设置 bash # 设置 API 密钥 export ANTHROPIC_API_KEY="sk-ant-..." # 或在 .env 文件中 echo "ANTHROPIC_API_KEY=sk-ant-..." >> .env ### 可用模型 python from biomni.agent import A1 # Sonnet 4 - 性能均衡（推荐） agent = A1(path='./data', llm='claude-sonnet-4-20250514') # Opus 4 - 最高性能 agent = A1(path='./data', llm='claude-opus-4-20250514') # Haiku 4 - 快速且经济 agent = A1(path='./data', llm='claude-haiku-4-20250514') ### 配置选项 python from biomni.config import default_config default_config.llm = "claude-sonnet-4-20250514" default_config.llm_temperature = 0.7 default_config.max_tokens = 4096 default_config.anthropic_api_key = "sk-ant-..." # 或使用环境变量 **模型特性：** | 模型 | 最佳用途 | 速度 | 成本 | 推理质量 | |-------|----------|-------|------|-------------------| | Opus 4 | 复杂的多步骤分析 | 较慢 | 高 | 最高 | | Sonnet 4 | 通用生物医学任务 | 快 | 中 | 高 | | Haiku 4 | 简单查询、批量处理 | 最快 | 低 | 良好 | ## OpenAI **推荐用于：** 已有的基础设施、GPT-4 优化。 ### 设置 bash export OPENAI_API_KEY="sk-..." ### 可用模型 python # GPT-4 Turbo agent = A1(path='./data', llm='gpt-4-turbo') # GPT-4 agent = A1(path='./data', llm='gpt-4') # GPT-4o agent = A1(path='./data', llm='gpt-4o') ### 配置 python from biomni.config import default_config default_config.llm = "gpt-4-turbo" default_config.openai_api_key = "sk-..." default_config.openai_organization = "org-..." # 可选 default_config.llm_temperature = 0.7 **注意事项：** - 推荐使用 GPT-4 Turbo 以实现成本效益 - 可能需要为专业任务提供额外的生物医学上下文 - 速率限制因账户等级而异 ## Azure OpenAI **推荐用于：** 企业级部署,