Determined 핵심 개념 — experiment·trial·searcher
Determined 핵심 개념 — experiment·trial·searcher
Determined를 이해하려면 먼저 experiment와 trial이라는 기본 단위를 알아야 해요. Determined는 모델 학습 코드를 실행하는 기본 단위로 experiment를 사용해요. 그리고 experiment는 하나 이상의 trial로 구성돼요. 이 구조가 하이퍼파라미터 탐색을 자연스럽게 만들어줘요.
experiment와 trial
- experiment: 사용자가 정의한 하이퍼파라미터 공간을 탐색하는 하나 이상의 trial 모음이에요. 예를 들어 학습률 하이퍼파라미터 탐색 중이라면, 한 experiment는 학습률이
.001,.01,.1인 세 개의 trial로 구성될 수 있어요. - trial: 정해진 하이퍼파라미터 세트로 실행되는 학습 작업이에요. 흔한 축약 형태는 experiment가 trial 하나만 갖고 있어(single trial) 하나의 딥러닝 모델을 학습하는 경우예요.
model definition
experiment를 실행하려면 모델 학습 코드를 작성해야 해요. Determined는 이 학습 코드를 model definition이라고 불러요. 이는 딥러닝 모델과 학습 절차의 명세로, Determined의 학습 API를 구현하는 코드를 담고 있어요.
searcher
각 experiment에 대해 searcher(탐색 알고리즘)를 구성할 수 있어요. searcher는 특정 experiment에 대해 몇 개의 trial을 돌릴지, 하이퍼파라미터를 어떻게 설정할지 결정해요. 이 덕분에 하이퍼파라미터 탐색을 직접 짤 필요 없이 선언적으로 지정할 수 있어요.
핵심 기능
- 실험 협업: 각 experiment의 설정과 환경을 자동으로 기록해서 재현성과 팀 협업을 높여요.
- 시각화: 내장 WebUI로 모델·학습 절차를 시각화하고, 관리형 TensorBoard 인스턴스를 실행할 수 있어요.
- 내결함성: 학습 과정 내내 체크포인트를 만들고, 실패 시 최신 체크포인트에서 자동으로 재시작해요.
- 확장성: experiment·trial·워크로드 상태 머신을 진행시키고, 에이전트에 작업을 스케줄링·디스패치하고, 클라우드에서 에이전트를 프로비저닝/디프로비저닝해요.
더 알아보기
시스템 아키텍처와 트레이닝 세부 내용은 공식 Concepts 문서에서 이어서 볼 수 있어요.