Flyte (데이터·ML 워크플로 오케스트레이션)

Flyte (데이터·ML 워크플로 오케스트레이션)

Flyte는 컴퓨터 클러스터에 걸쳐 상호 연결된 소프트웨어 프로세스의 실행을 만들고 오케스트레이션하는 플랫폼이에요. 배치 워크플로가 많고 재현성·확장성이 중요한 데이터 엔지니어링과 머신러닝 파이프라인에 잘 맞아요. Flyte에서는 실행 단위를 태스크(task) 라고 부르고, 태스크들의 연결 구조를 워크플로(workflow) 라고 불러요.

이 카테고리에서는 태스크·워크플로·런치플랜·실행(execution) 같은 Flyte의 핵심 개념과, 프로젝트와 도메인 구조, 스케줄링을 다뤄요.

출처: https://docs.flyte.org/en/latest/concepts/index.html

이 카테고리의 문서

  • 태스크: @task 데코레이터로 정의하는 강타입(strongly typed) 실행 단위
  • 워크플로: 태스크들을 DAG로 엮어 병렬 실행을 만드는 단위
  • 런치플랜: 워크플로에 고정 입력값을 심어 재사용하는 템플릿
  • 실행: 태스크·워크플로 실행의 단위와 진행 상태
  • 프로젝트와 도메인: 워크플로를 그룹화·구분하는 계층
  • 스케줄: 주기적인 실행을 자동화하는 방법

더 알아보기

Flyte 개념의 전체 구조는 Core concepts 문서를 참고해요.