What is Mcp Bedrock Agent

mcp-bedrock-agent is a Bedrock agent that utilizes the Managed Cloud Platform (MCP) to provide a fully managed agent hosting service, allowing users to leverage generative AI applications without the burden of infrastructure management.

Use cases

Use cases include developing AI-driven applications, testing AI models, and integrating generative AI functionalities into existing software solutions.

How to use

To use mcp-bedrock-agent, clone the repository from GitHub, set up a virtual environment, install the necessary packages, and run example scripts to test functionality.

Key features

Key features include ease of access to various tools, resources, and prompts for generative AI applications, as well as the ability to update the InlineAgent SDK seamlessly.

Where to use

mcp-bedrock-agent can be used in fields such as AI development, cloud computing, and application hosting, particularly for projects requiring generative AI capabilities.

MCP를 이용해 Bedrock Agent 이용하기

Amazon의 Bedrock agent는 완전관리형 Agent 호스팅 서비스로서, 인프라 관리에 대한 부담없이 편리하게 agent를 이용할 수 있도록 도와줍니다. 이러한 Bedrock agent에서 MCP를 이용하기 위해서는 아래 그림과 같이 InlineAgent SDK를 이용합니다. MCP를 이용하면, 생성형 AI 애플리케이션에서 각종 tools, resources, prompts에 대한 접근을 용이하게 할 수 있습니다.

InlineAgent SDK의 준비

InlineAgent SDK는 Amazon Web Services - Labs에서 오픈소스로 제공합니다.

사용 방법

아래와 같이 mcp-bedrock-agent을 다운로드 합니다. 이 github에서는 InlineAgent을 포함하고 있습니다.

git clone https://github.com/kyopark2014/mcp-bedrock-agent

아래처럼 venv 환경에서 사용을 준비합니다.

cd mcp-bedrock-agent/InlineAgent
python -m venv .venv
source .venv/bin/activate
python -m pip install -e .

설치가 다 되면, 아래처럼 동작을 테스트하여 정상동작 여부를 확인합니다.

cd ../../examples
python hello_world.py

Inline Agent SDK 업데이트

InlineAgent SDK의 새 버전이로 배포되면 아래와 같이 업데이트 합니다.

git clone https://github.com/awslabs/amazon-bedrock-agent-samples.git

"amazon-bedrock-agent-samples/src"에서 "InlineAgent"을 복사해서 다운로드한 "mcp-bedrock-agent"에 아래처럼 복사합니다.

실행하기

Inline Agent SDK 동작에 필요한 패키지는 아래와 같습니다.

pip install opentelemetry-api openinference-instrumentation-langchain opentelemetry-exporter-otlp

MCP와 관련된 패키지도 아래와 같이 설치합니다.

pip install pandas aioboto3 langchain_experimental

MCP 활용하기

MCP 설정은 아래와 같은 json 포맷을 활용합니다. 아래는 mcp_config의 예입니다.

{
  "mcpServers": {
    "playwright": {
      "command": "npx",
      "args": [
        "@playwright/mcp@latest"
      ]
    }
  }
}

아래와 같이 mcp_config로부터 mcp client를 생성합니다.

from mcp import StdioServerParameters
mcpServers = mcp_json.get("mcpServers")

mcp_clients = []
for server in mcpServers:
    config = mcpServers.get(server)

    if "command" in config:
        command = config["command"]
    if "args" in config:
        args = config["args"]
    if "env" in config:
        env = config["env"]
        
        server_params = StdioServerParameters(
            command=command,
            args=args,
            env=env
        )
    else:
        server_params = StdioServerParameters(
            command=command,
            args=args
        )
    tool_client = await MCPStdio.create(server_params=server_params)
    mcp_clients.append(tool_client)

이제 아래와 같이 action group을 생성합니다.

from InlineAgent.action_group import ActionGroup
tool_action_group = ActionGroup(
    name="ToolActionGroup",
    description="retrieve information using tools",
    mcp_clients=mcp_clients,
)

로컬 환경에서 새로운 action group을 생성할 수 있습니다. 아래와 같이 bucket 리스트를 조회하는 list_buckets를 action group의 tools에 등록할 수 있습니다. InlineAgent SDK에서는 tool의 리턴값으로 string만을 허용하므로, list_buckets 동작으로 얻어진 json형태의 결과를 string을 변환합니다. 또한 list_buckets의 doc string에는 tool의 설명과 함께 "Parameters"로 입력값들을 정의하여야 합니다. Bedrock agent에서는 tool의 입력 파라미터로 5개 이내만 사용하도록 제한을 두고 있습니다.

async def list_buckets(
    region: Optional[str] = "us-west-2"
) -> List[dict]:
    """
    List S3 buckets using async client with pagination
    Parameters:
        max_buckets: the number of buckets 
        region: the region of aws infrastructure, e.g. us-west-2
    """
    async with session.client('s3', region_name=region) as s3:
        response = await s3.list_buckets()
        buckets = response.get('Buckets', [])
        result = "" 
        for bucket in buckets:
            result += f"Name: {bucket['Name']}, CreationDate: {bucket['CreationDate']}\n"
        return result        

list_bucket_group = ActionGroup(
    name="ListBucketService",
    description="list the buckets on AWS",
    tools=[list_buckets],
)

이제 정의한 action group들을 아래와 같이 InlineAgent에 등록하여 사용할 수 있습니다. 입력은 input_text을 이용하고, enable_trace로 상세한 동작을 확인할 수 있습니다. session_id을 이용하면 메모리를 활용하여 이전 conversation을 응답에 활용할 수 있습니다.

from InlineAgent.agent import InlineAgent

result = await InlineAgent(
    foundation_model="us.anthropic.claude-3-5-sonnet-20241022-v2:0",
    instruction="""You are a friendly assistant that is responsible for resolving user queries. """,
    agent_name="tool_agent",
    action_groups=[
        tool_action_group, 
        cost_group, 
        list_log_group, 
        get_log_group, 
        list_bucket_group, 
        list_object_group
    ],
).invoke(
    input_text=text,
    enable_trace = True,
    session_id=session_id
)

실행 결과

여기서 사용한 config.json의 playwright을 이용하면 아래와 같이 특정 url의 내용을 요약할 수 있습니다.

"S3의 bucket들의 사용 현황을 분석해주세요."와 같이 입력하면 아래와 같이 현재 S3의 현황을 정리해서 볼 수 있습니다.

"지난 3개월의 AWS 리소스 사용 내역을 분석해주세요."라고 입력하면 AWS의 사용량에 대한 분석 결과를 알수 있습니다.

Reference

Running MCP-Based Agents (Clients & Servers) on AWS

boto3-invoke_inline_agent

Amazon Bedrock Agents with Return Control SDK

Bedrock Inline Agent