콘텐츠로 이동

AutoGen Multi-Agent Framework Cheat 시트

제품정보

AutoGen은 Microsoft Research에서 개발 한 획기적인 오픈 소스 프레임 워크로 정교한 다중 시약 대화를 가능하게함으로써 대형 언어 모델 (LLM) 응용 프로그램을 혁신합니다. 전통적인 단일 시약 시스템과 달리 AutoGen은 개발자가 여러 전문 AI 에이전트를 구성하여 복잡한 응용 프로그램을 만들 수 있으며 작업에 협업하고 반복적으로 인간을 통합합니다.

AutoGen은 특히 강력한 것은 에이전트 상호 작용을 위한 기본 메커니즘으로 대화에 중점을 둡니다. 이 접근법은 자연, 유연하고 역동적 인 협업을 통해 인간 팀이 복잡한 문제를 해결하는 방법을 미러링 할 수 있습니다. AutoGen은 에이전트 역할, 기능 및 통신 프로토콜을 정의하기위한 다양한 도구 세트를 제공합니다. 코드 생성 및 데이터 분석에서 크리에이티브 작성 및 전략적 계획에 이르기까지 다양한 작업을 해결할 수있는 높은 적응 및 지능형 시스템을 구축 할 수 있습니다.

프레임 워크는 단순성 및 확장성을 위해 설계되었으며, 고급 사용 사례에 대한 깊은 사용자 정의 옵션을 제공하면서 일반적인 다중 시약 패턴에 대한 높은 수준의 요약을 제공합니다. 다양한 LLM 및 도구에 대한 이벤트 기반 아키텍처 및 지원으로 AutoGen은 개발자가 이전보다 강력하고 인간 정렬 된 차세대 AI 응용 프로그램을 구축 할 수 있도록합니다.

설치 및 설치

기본 설치

카지노사이트

환경 설정

카지노사이트

프로젝트 구조

카지노사이트

핵심 개념

이름 *

에이전트는 AutoGen의 기본 빌딩 블록입니다. 그들은 메시지를 보낼 수 있고, 코드를 실행, 호출 기능, 인간과 상호 작용 할 수있는 대화적 인 능력입니다.

계정 관리 이름 *

이것은 AutoGen의 대부분의 에이전트를위한 기본 클래스이며 핵심 대화 기능을 제공합니다.

사용자ProxyAgent

인간 사용자를 위한 프록시 역할을 하는 전문화된 대리인은 대화에 참여할 수 있도록 하고, 입력을 제공하고, 코드를 실행합니다.

채용정보

AI Assistant로 행동하도록 설계된 에이전트는 일반적으로 LLM에 의해 구동되며, 코드를 작성하고 질문에 답하고 작업을 수행 할 수 있습니다.

그룹 채팅

AutoGen은 GroupChat 및 GroupChatManager를 통해 다중 시약 대화를 지원하며 여러 에이전트 간의 복잡한 상호 작용을 가능하게합니다.

Agent 구성

기본 에이전트 생성

카지노사이트

고급 에이전트 사용자 정의

카지노사이트

특수 대리인 유형

카지노사이트

에이전트 대화

두 번 채팅

카지노사이트

다중 에이전트와 그룹 채팅

카지노사이트

고급 대화 제어

카지노사이트

도구 및 기능 통합

내장 도구 사용

AutoGen doesn_t에는 다른 어떤 프레임 워크와 같은 사전 제작 도구의 큰 세트가 있습니다. 대신, 실행 환경에서 사용할 수있는 라이브러리 또는 도구와 상호 작용 할 수있는 코드 (Python scripts, shell commands)를 실행하는 에이전트를 활성화하는 데 중점을 둡니다.

사용자 정의 기능 호출 (Skills)

카지노사이트

코드 실행

ο 회원 관리

인간-in-the-Loop (HIL)

인간의 입력 구성

카지노사이트

비동기 인간 입력

AutoGen은 주로 대화 흐름 내에서 HIL을 동시에 처리합니다. 더 복잡한 비동기 HIL을 위해, 당신은 일반적으로 외부 작업 관리 또는 UI 체계도 통합할 것입니다.

고급 기능

Teachable 대리인

카지노사이트

Retrieval 증강 발생 (RAG)

카지노사이트

다중 모드 대화

AutoGen은 LLM이 (GPT-4V와 같은)을 지원한다면 멀티 모드 입력 (예 : 이미지)를 지원합니다. 카지노사이트

대리인 Workflow 본

반사 및 자기 파괴

카지노사이트

Hierarchical 에이전트 팀

이것은 일반적으로 하나의 에이전트 (예, 관리자 또는 플래너) 다른 전문 에이전트를 좌표하는 GroupChatManager를 사용하여 달성된다. 카지노사이트

최고의 연습

에이전트 디자인

  • Clear 역할: 각 대리인을 위한 특정한, 주위 역할 및 책임의 정의.
  • 시스템 메시지: 에이전트 행동 및 persona를 안내하는 상세한 시스템 메시지.
  • Tool Access: 해당 역할에 필요한 도구만 제공합니다.
  • LLM Configuration: 테일러 LLM 온도, 모델 및 기타 설정

협력사업

  • Termination Conditions: 대화나 작업이 완료되면 명확하게 정의합니다.
  • Max Turns/Rounds: 무한한 루프 또는 과도한 비용을 방지하기 위해 한계를 설정합니다.
  • ** 스피커 선택 **: 그룹 채팅 (auto, round_robin, custom)에 적합한 스피커 선택 방법을 선택하십시오.
  • **: 긴 실행 채팅에 대한 대화 요약을 사용하여 컨텍스트 창을 관리합니다.

Code 실행 보안

  • Sandboxing: Docker 사용 (use_docker=True code_execution_config) 안전한 코드 실행에 대한, 특히 신뢰할 수없는 코드.
  • Human Review: 잠재적으로 위험한 코드를 실행하기 전에 Human review (human_input_mode="ALWAYS" 또는 "TERMINATE")을 구현합니다.
  • ** 제한 환경**: Docker를 사용하지 않는 경우, 실행 환경은 제한된 권한이 있습니다.

비용 관리

  • ** 모델 선택**: 더 적은 비싼 모형 (예를들면, GPT-3.5-turbo)를 간단한 작업 또는 대리인을 위해 사용하십시오.
  • 최대 토큰/턴: 대화의 길이와 LLM 출력을 제한합니다.
  • Caching: autogen.ChatCompletion.set_cache()를 사용하여 LLM 응답을 캐시하고 중복 통화를 줄일 수 있습니다.
  • Monitoring: 토큰 사용 및 API 비용을 밀접하게 추적합니다.

관련 링크

  • Verbose 로깅 : AutoGen은 로깅을 제공합니다. 디버깅을위한 동사성을 증가시킵니다.
  • Step-by-Step Execution: 복잡한 그룹 채팅을 위해, 수동 스피커 선택 또는 흐름을 이해하기 위해 Breakpoint를 고려하십시오.
  • ** 절연 **: 시험 대리인은 더 큰 그룹으로 그들을 통합하기 전에 개별적으로.

문제 해결

일반적인 문제

Agents Stuck 에 루프

  • ** 원인 **: Vague 종료 조건, 분쟁 대리인 목표, 또는 overly 복잡한 상호 작용.
  • Solution: is_termination_msg lambda를 정의하고 에이전트 지침을 단순화하고 max_consecutive_auto_reply 또는 max_round 제한을 설정합니다.

위험 요소 Behavior

  • ** 원인 **: Ambiguous 시스템 메시지, LLM misinterpretations, 또는 incorrect LLM 구성.
  • Solution: 시스템 메시지를 더 구체적으로 만들기, 다른 LLM 온도 실험, 정확한 기능/툴 설명.

Code 실행 실패

  • ** 원인**: LLM에 의해 생성 된 잘못된 코드, 실행 환경에서 의존성을 미스.
  • Solution: 필요한 모든 패키지를 설치 (또는 Docker 사용), 코드 생성에 대한 신속한 개선, 파일/네트워크 권한 확인.

기능 호출 문제

  • ** 원인**: LLM에 제공된 Incorrect 기능 설명, 사용자 정의 기능 코드 버그, LLM 인수에 대한 유효한 JSON을 생성 실패.
  • Solution: 기능 설명은 명확하고 일치 매개 변수이며, 사용자 정의 기능을 철저하게 테스트하여 올바른 JSON 형식을 향한 LLM을 안내합니다.

이 AutoGen 속임수 시트는 정교한 다중 시약 AI 응용 프로그램을 구축하는 포괄적 인 가이드를 제공합니다. AutoGen_s 대화 형 프레임 워크를 활용하여 개발자는 고도로 유능하고 협업적인 AI 시스템을 만들 수 있습니다. 최신 기능 및 세부 API 참조를위한 공식 AutoGen 문서를 참조하십시오. 필수