Gemini API로 Gemma 실행하기

Gemma 모델을 내 컴퓨터가 아니라 호스팅된 API로 바로 호출하고 싶다면, Gemini API를 쓰는 방법이 있어요. 로컬 설치나 GPU 걱정 없이 몇 줄의 코드로 Gemma 인퍼런스를 돌려볼 수 있죠.

출처: Run Gemma with the Gemini API

Gemini API에서는 gemma-4-26b-a4b-it 같은 Gemma 모델 식별자로 바로 텍스트 생성을 요청할 수 있어요. 파이썬 기준으로 genai 클라이언트를 만들고 models.generate_content에 모델과 프롬프트를 넘기면 끝이에요.

파이썬 예시를 볼게요.

from google import genai

client = genai.Client()

response = client.models.generate_content(
    model="gemma-4-26b-a4b-it",
    contents="Roses are red...",
)

print(response.text)

자바스크립트/타입스크립트에서는 GoogleGenAI 클라이언트와 generateContent 메서드를 똑같이 써요.

import { GoogleGenAI } from "@google/genai";

const ai = new GoogleGenAI();

const response = await ai.models.generateContent({
  model: "gemma-4-26b-a4b-it",
  contents: "Roses are red...",
});
console.log(response.text);

함수 호출(Function Calling)까지 지원해서, 모델이 도구를 골라 호출하는 구조도 Gemini API 위에서 그대로 만들 수 있어요. 로컬에서 모델 파일을 관리하고 싶지 않고, 관리되는 추론 엔드포인트가 필요하다면 이 방식이 편리해요.