mirror of
https://github.com/crewAIInc/crewAI.git
synced 2026-01-08 23:58:34 +00:00
* docs(cli): document device-code login and config reset guidance; renumber sections * docs(cli): fix duplicate numbering (renumber Login/API Keys/Configuration sections) * docs: Fix webhook documentation to include meta dict in all webhook payloads - Add note explaining that meta objects from kickoff requests are included in all webhook payloads - Update webhook examples to show proper payload structure including meta field - Fix webhook examples to match actual API implementation - Apply changes to English, Korean, and Portuguese documentation Resolves the documentation gap where meta dict passing to webhooks was not documented despite being implemented in the API. * WIP: CrewAI docs theme, changelog, GEO, localization * docs(cli): fix merge markers; ensure mode: "wide"; convert ASCII tables to Markdown (en/pt-BR/ko) * docs: add group icons across locales; split Automation/Integrations; update tools overviews and links
141 lines
5.5 KiB
Plaintext
141 lines
5.5 KiB
Plaintext
---
|
||
title: Usando Agentes Multimodais
|
||
description: Aprenda como habilitar e usar capacidades multimodais em seus agentes para processar imagens e outros conteúdos não textuais dentro do framework CrewAI.
|
||
icon: video
|
||
mode: "wide"
|
||
---
|
||
|
||
## Usando Agentes Multimodais
|
||
|
||
O CrewAI suporta agentes multimodais que podem processar tanto conteúdo textual quanto não textual, como imagens. Este guia mostrará como habilitar e utilizar capacidades multimodais em seus agentes.
|
||
|
||
### Habilitando Capacidades Multimodais
|
||
|
||
Para criar um agente multimodal, basta definir o parâmetro `multimodal` como `True` ao inicializar seu agente:
|
||
|
||
```python
|
||
from crewai import Agent
|
||
|
||
agent = Agent(
|
||
role="Image Analyst",
|
||
goal="Analyze and extract insights from images",
|
||
backstory="An expert in visual content interpretation with years of experience in image analysis",
|
||
multimodal=True # This enables multimodal capabilities
|
||
)
|
||
```
|
||
|
||
Ao definir `multimodal=True`, o agente é automaticamente configurado com as ferramentas necessárias para lidar com conteúdo não textual, incluindo a `AddImageTool`.
|
||
|
||
### Trabalhando com Imagens
|
||
|
||
O agente multimodal vem pré-configurado com a `AddImageTool`, permitindo que ele processe imagens. Não é necessário adicionar esta ferramenta manualmente – ela é automaticamente incluída ao habilitar capacidades multimodais.
|
||
|
||
Aqui está um exemplo completo mostrando como usar um agente multimodal para analisar uma imagem:
|
||
|
||
```python
|
||
from crewai import Agent, Task, Crew
|
||
|
||
# Create a multimodal agent
|
||
image_analyst = Agent(
|
||
role="Product Analyst",
|
||
goal="Analyze product images and provide detailed descriptions",
|
||
backstory="Expert in visual product analysis with deep knowledge of design and features",
|
||
multimodal=True
|
||
)
|
||
|
||
# Create a task for image analysis
|
||
task = Task(
|
||
description="Analyze the product image at https://example.com/product.jpg and provide a detailed description",
|
||
expected_output="A detailed description of the product image",
|
||
agent=image_analyst
|
||
)
|
||
|
||
# Create and run the crew
|
||
crew = Crew(
|
||
agents=[image_analyst],
|
||
tasks=[task]
|
||
)
|
||
|
||
result = crew.kickoff()
|
||
```
|
||
|
||
### Uso Avançado com Contexto
|
||
|
||
Você pode fornecer contexto adicional ou perguntas específicas sobre a imagem ao criar tarefas para agentes multimodais. A descrição da tarefa pode incluir aspectos específicos nos quais você deseja que o agente foque:
|
||
|
||
```python
|
||
from crewai import Agent, Task, Crew
|
||
|
||
# Create a multimodal agent for detailed analysis
|
||
expert_analyst = Agent(
|
||
role="Visual Quality Inspector",
|
||
goal="Perform detailed quality analysis of product images",
|
||
backstory="Senior quality control expert with expertise in visual inspection",
|
||
multimodal=True # AddImageTool is automatically included
|
||
)
|
||
|
||
# Create a task with specific analysis requirements
|
||
inspection_task = Task(
|
||
description="""
|
||
Analyze the product image at https://example.com/product.jpg with focus on:
|
||
1. Quality of materials
|
||
2. Manufacturing defects
|
||
3. Compliance with standards
|
||
Provide a detailed report highlighting any issues found.
|
||
""",
|
||
expected_output="A detailed report highlighting any issues found",
|
||
agent=expert_analyst
|
||
)
|
||
|
||
# Create and run the crew
|
||
crew = Crew(
|
||
agents=[expert_analyst],
|
||
tasks=[inspection_task]
|
||
)
|
||
|
||
result = crew.kickoff()
|
||
```
|
||
|
||
### Detalhes da Ferramenta
|
||
|
||
Ao trabalhar com agentes multimodais, a `AddImageTool` é automaticamente configurada com o seguinte esquema:
|
||
|
||
```python
|
||
class AddImageToolSchema:
|
||
image_url: str # Required: The URL or path of the image to process
|
||
action: Optional[str] = None # Optional: Additional context or specific questions about the image
|
||
```
|
||
|
||
O agente multimodal irá automaticamente realizar o processamento de imagens por meio de suas ferramentas internas, permitindo que ele:
|
||
- Acesse imagens via URLs ou caminhos de arquivos locais
|
||
- Processe o conteúdo da imagem com contexto opcional ou perguntas específicas
|
||
- Forneça análises e insights com base nas informações visuais e requisitos da tarefa
|
||
|
||
### Boas Práticas
|
||
|
||
Ao trabalhar com agentes multimodais, tenha em mente as seguintes boas práticas:
|
||
|
||
1. **Acesso à Imagem**
|
||
- Certifique-se de que suas imagens estejam acessíveis via URLs alcançáveis pelo agente
|
||
- Para imagens locais, considere hospedá-las temporariamente ou utilize caminhos absolutos
|
||
- Verifique se as URLs das imagens são válidas e acessíveis antes de rodar as tarefas
|
||
|
||
2. **Descrição da Tarefa**
|
||
- Seja específico sobre quais aspectos da imagem você deseja que o agente analise
|
||
- Inclua perguntas ou requisitos claros na descrição da tarefa
|
||
- Considere usar o parâmetro opcional `action` para uma análise focada
|
||
|
||
3. **Gerenciamento de Recursos**
|
||
- O processamento de imagens pode exigir mais recursos computacionais do que tarefas apenas textuais
|
||
- Alguns modelos de linguagem podem exigir codificação em base64 para dados de imagem
|
||
- Considere o processamento em lote para múltiplas imagens visando otimizar o desempenho
|
||
|
||
4. **Configuração do Ambiente**
|
||
- Verifique se seu ambiente possui as dependências necessárias para processamento de imagens
|
||
- Certifique-se de que seu modelo de linguagem suporta capacidades multimodais
|
||
- Teste primeiro com imagens pequenas para validar sua configuração
|
||
|
||
5. **Tratamento de Erros**
|
||
- Implemente tratamento apropriado para falhas no carregamento de imagens
|
||
- Tenha estratégias de contingência para casos onde o processamento de imagens falhar
|
||
- Monitore e registre operações de processamento de imagens para depuração |