차이점
- 하나의 챗봇 대화합니다: 질문하고 답합니다. 실수하면 오류를 읽게 됩니다.
- 하나의 에이전트 행동합니다: 도구를 사용하고, 탐색하고, 코드를 쓰고, 이메일을 보내거나 구매합니다. 실수하면 실제 오류가 발생합니다.
세 가지 규칙
- 최소 권한: 해당 작업에 필요한 것만 접근 권한을 주세요.
- 확인 결제, 전송, 삭제 전에 필수입니다.
- 백업 건드릴 수 있는 모든 것의 백업을 시작 전에 만드세요.
왜 지금인가
- 이미 과도한 권한을 가진 에이전트가 몇 초 만에 데이터베이스 전체를 삭제한 사례가 있습니다(에피소드 5에서 다뤘습니다).