tinygrad — 경량 자동미분·딥러닝 프레임워크

tinygrad — 경량 자동미분·딥러닝 프레임워크

tinygrad는 PyTorch보다 간단하고, karpathy의 micrograd보다 깊이가 있는 중간 지점을 목표로 하는 경량 딥러닝 프레임워크예요. tiny corp가 유지보수하며, 거의 순수 파이썬이고 매우 짧아서 구조를 통째로 이해하기 좋습니다.

출처: https://docs.tinygrad.org/index

핵심 원칙은 짧고 읽기 쉬운 코드예요. Tensor가 주된 클래스이고 PyTorch와 유사하되 조금 더 함수형 스타일이며, 모든 연산은 lazy 해서 realize 할 때까지 실행되지 않아요. 내장 신경망 라이브러리·옵티마이저·JIT(TinyJit)·멀티 GPU 샤드 지원도 갖추고 있어요. 아래 페이지에서 시작, MNIST 튜토리얼, showcase를 살펴볼게요.