Tiny Aya

Tiny Aya

Tiny Aya는 70개 언어를 지원하는 콤팩트하면서도 강력한 3.35B 파라미터 다국어 모델이에요. 효율적이고 실용적인 다국어 AI 배포를 위해 설계되었습니다.

출처: 문서

본문

Tiny Aya는 70개 언어에 걸쳐 최첨단 번역 품질, 강력한 다국어 이해, 고품질 목표 언어 생성(target-language generation)을 달성하는 콤팩트한 3.35B 파라미터 다국어 모델이에요. 작은 크기에도 불구하고 Tiny Aya는 휴대폰을 포함한 어떤 기기에서든 클라우드 의존 없이 로컬로 실행되도록 설계되어 있습니다.

Tiny Aya는 다국어 AI를 위한 대안적 확장 경로를 나타내요: 단순히 파라미터를 늘리는 대신 효율성, 언어 간 균형 잡힌 성능, 실용적 배포에 초점을 맞춘 경로죠.

지원 언어(Supported Languages)

Tiny Aya는 70개 언어를 지원해요: 영어(English), 네덜란드어(Dutch), 프랑스어(French), 이탈리아어(Italian), 포르투갈어(Portuguese), 루마니아어(Romanian), 스페인어(Spanish), 체코어(Czech), 폴란드어(Polish), 우크라이나어(Ukrainian), 러시아어(Russian), 그리스어(Greek), 독일어(German), 덴마크어(Danish), 스웨덴어(Swedish), 노르웨이어(Norwegian), 카탈루냐어(Catalan), 갈리시아어(Galician), 웨일스어(Welsh), 아일랜드어(Irish), 바스크어(Basque), 크로아티아어(Croatian), 라트비아어(Latvian), 리투아니아어(Lithuanian), 슬로바키아어(Slovak), 슬로베니아어(Slovenian), 에스토니아어(Estonian), 핀란드어(Finnish), 헝가리어(Hungarian), 세르비아어(Serbian), 불가리아어(Bulgarian), 아랍어(Arabic), 페르시아어(Persian), 우르두어(Urdu), 터키어(Turkish), 몰타어(Maltese), 히브리어(Hebrew), 힌디어(Hindi), 마라티어(Marathi), 벵골어(Bengali), 구자라트어(Gujarati), 펀자브어(Punjabi), 타밀어(Tamil), 텔루구어(Telugu), 네팔어(Nepali), 타갈로그어(Tagalog), 말레이어(Malay), 인도네시아어(Indonesian), 베트남어(Vietnamese), 자바어(Javanese), 크메르어(Khmer), 태국어(Thai), 라오어(Lao), 중국어(Chinese), 버마어(Burmese), 일본어(Japanese), 한국어(Korean), 암하라어(Amharic), 하우사어(Hausa), 이그보어(Igbo), 말라가시어(Malagasy), 쇼나어(Shona), 스와힐리어(Swahili), 월로프어(Wolof), 코사어(Xhosa), 요루바어(Yoruba), 줄루어(Zulu).

모델 변형(Model Variants)

Tiny Aya는 다섯 개 모델의 패밀리로 공개됐어요: 사전학습된 파운데이션 모델, 전 세계적으로 균형 잡힌 지시 튜닝 변형, 세 개의 지역 특화 변형입니다.

핵심 능력(Key Capabilities)

Tiny Aya는 다음 작업에서 뛰어나요:

• 번역(Translation): 70개 언어에 걸친 최첨단 다국어 번역 품질.
• 다국어 이해(Multilingual understanding): 다국어 이해 벤치마크에서의 강력한 성능.
• 목표 언어 생성(Target-language generation): 목표 언어의 고품질 텍스트 생성.
• 온디바이스 배포(On-device deployment): 휴대폰과 엣지 기기에서 로컬 실행이 가능할 만큼 콤팩트함.

Tiny Aya에는 어떻게 접근할 수 있나요?

지시 튜닝된 Tiny Aya 변형들(tiny-aya-global, tiny-aya-earth, tiny-aya-fire, tiny-aya-water)은 Chat 엔드포인트를 통해 Cohere API에서 사용할 수 있어요. 다른 모델과 마찬가지로 Cohere SDK와 함께 사용할 수 있습니다:

PYTHON

import cohere

co = cohere.ClientV2("<YOUR_API_KEY>")

response = co.chat(
    model="tiny-aya-global",
    messages=[
        {
            "role": "user",
            "content": "Bonjour! Pouvez-vous me raconter une courte histoire en français?",
        }
    ],
)

print(response.message.content[0].text)

Tiny Aya는 Hugging Face를 통해 오픈웨이트(open-weight) 모델로도 제공됩니다. 모델을 다운로드해 로컬에서 실행할 수 있어요:

• tiny-aya-base
• tiny-aya-global
• tiny-aya-earth
• tiny-aya-fire
• tiny-aya-water

효율적인 로컬 추론을 위한 GGUF 양자화 버전도 제공돼요:

• tiny-aya-global-GGUF
• tiny-aya-earth-GGUF
• tiny-aya-fire-GGUF
• tiny-aya-water-GGUF

더 찾아보기(Find More)

• Tiny Aya 연구 논문
• 블로그 포스트: Cohere Labs, Tiny Aya 출시
• Aya 연구 이니셔티브

더 알아보기 (Learn more)

• Cohere 문서