안전성 우선 설계
앤트로픽은 클로드 설계에 안전성 우선 원칙을 적용했습니다. 에이전트 개발 맥락에서 이 원칙은 다음과 같이 작동합니다.
• 중요한 파일을 삭제하거나 수정하기 전에 반드시 사용자에게 확인을 구합니다.
• 외부 서비스에 돌이킬 수 없는 작업(메일 발송, 파일 삭제 등)을 수행하기 전에 계획을 보여 주고 승인을 요청합니다.
• 보안에 민감한 정보(API 키, 비밀번호)를 코드에 직접 하드코딩하지 않고 환경 변수나 별도 설정 파일로 분리합니다.