Claude의 새 헌법 — 발표와 배경
Claude의 새 헌법 — 발표와 배경
Anthropic은 2023년부터 Constitutional AI로 Claude를 훈련해 왔고, 이후 이를 정식화한 새 헌법을 발표했어요. 이 문서는 모델의 존재 이유·가치·행동 원칙을 종합적으로 설명하는 근간이에요.
발표 요지
- 헌법은 Claude가 '어떤 존재가 되길 바라는지'를 표현하는 기초 문서예요.
- 훈련 여러 단계에서 사용되며, Claude의 출력이 항상 이상에 맞지는 않을 수 있음을 솔직히 밝혀요.
- 사용자·개발자의 신뢰를 위해 투명성을 강조해요.
모델이 커질수록 필요한 이유
- AI가 사회에 미치는 영향이 커질수록 원칙의 명문화가 중요해져요.
- 헌법은 Claude가 안전·윤리·유용성을 저울질하는 기준이 되어요.