Mistral AI Moderation

Mistral AI Moderation

Spring AI는 Mistral AI가 도입하고 Mistral Moderation 모델로 구동되는 새 moderation 서비스를 지원해요. 여러 정책 차원에 걸쳐 유해한 텍스트 콘텐츠를 감지할 수 있게 해 주는데요, 의존성 추가부터 프로퍼티, 런타임 옵션까지 차근차근 살펴볼게요.

출처: 문서

본문

Moderation

소개 (Introduction)

Spring AI는 Mistral AI가 도입한 새 moderation 서비스, 즉 Mistral Moderation 모델로 구동되는 서비스를 지원해요. 여러 정책 차원을 따라 유해한 텍스트 콘텐츠를 감지할 수 있게 해 줘요. Mistral AI moderation 모델에 대한 자세한 내용은 이 링크를 참고해 주세요.

사전 준비 (Prerequisites)

1. Mistral AI 계정을 만들고 API 키를 받으세요. Mistral AI registration page에서 가입하고, API Keys page에서 API 키를 생성할 수 있어요.
2. 프로젝트의 빌드 파일에 spring-ai-mistral-ai 의존성을 추가하세요. 자세한 내용은 Dependency Management 섹션을 참고해 주세요.

자동 설정 (Auto-configuration)

참고: Spring AI auto-configuration과 starter 모듈의 아티팩트 이름에 큰 변화가 있었어요. 자세한 내용은 upgrade notes를 참고해 주세요.

Spring AI는 Mistral AI Moderation 모델에 대한 Spring Boot 자동 설정을 제공해요. 활성화하려면 프로젝트의 Maven pom.xml 파일에 다음 의존성을 추가하세요:

<dependency>
    <groupId>org.springframework.ai</groupId>
    <artifactId>spring-ai-starter-model-mistral-ai</artifactId>
</dependency>

또는 Gradle build.gradle 빌드 파일에 추가할 수도 있어요:

dependencies {
    implementation 'org.springframework.ai:spring-ai-starter-model-mistral-ai'
}

참고: 빌드 파일에 Spring AI BOM을 추가하려면 Dependency Management 섹션을 참고해 주세요.

Moderation 프로퍼티 (Moderation Properties)

연결 프로퍼티 (Connection Properties)

프리픽스 spring.ai.mistralai는 Mistral AI에 연결할 수 있게 해 주는 프로퍼티 프리픽스로 사용돼요.

구성 프로퍼티 (Configuration Properties)

참고: moderation 자동 설정의 활성화·비활성화는 이제 프리픽스 spring.ai.model.moderation이 붙은 최상위 프로퍼티로 구성해요. 활성화하려면 spring.ai.model.moderation=mistral (기본적으로 활성화돼 있음). 비활성화하려면 spring.ai.model.moderation=none (또는 mistral과 일치하지 않는 어떤 값). 이 변경은 여러 모델의 구성을 허용하기 위한 것이에요.

프리픽스 spring.ai.mistralai.moderation은 Mistral AI moderation 모델을 구성하는 프로퍼티 프리픽스로 사용돼요.

참고: 공통 spring.ai.mistralai.base-url, spring.ai.mistralai.api-key 프로퍼티를 재정의할 수 있어요. spring.ai.mistralai.moderation.base-url, spring.ai.mistralai.moderation.api-key 프로퍼티가 설정되어 있으면 공통 프로퍼티보다 우선해요. 이는 서로 다른 모델과 모델 엔드포인트에 서로 다른 Mistral AI 계정을 사용하려 할 때 유용해요.

참고: spring.ai.mistralai.moderation 프리픽스가 붙은 모든 프로퍼티는 런타임에 재정의할 수 있어요.

런타임 옵션 (Runtime Options)

MistralAiModerationOptions 클래스는 moderation 요청 시 사용할 옵션을 제공해요. 시작 시 spring.ai.mistralai.moderation으로 지정한 옵션이 사용되지만 런타임에 이를 재정의할 수 있어요.

예를 들어:

MistralAiModerationOptions moderationOptions = MistralAiModerationOptions.builder()
    .model("mistral-moderation-latest")
    .build();

ModerationPrompt moderationPrompt = new ModerationPrompt("Text to be moderated", this.moderationOptions);
ModerationResponse response = mistralAiModerationModel.call(this.moderationPrompt);

// Access the moderation results
Moderation moderation = moderationResponse.getResult().getOutput();

// Print general information
System.out.println("Moderation ID: " + moderation.getId());
System.out.println("Model used: " + moderation.getModel());

// Access the moderation results (there's usually only one, but it's a list)
for (ModerationResult result : moderation.getResults()) {
    System.out.println("\nModeration Result:");
    System.out.println("Flagged: " + result.isFlagged());

    // Access categories
    Categories categories = this.result.getCategories();
    System.out.println("\nCategories:");
    System.out.println("Law: " + categories.isLaw());
    System.out.println("Financial: " + categories.isFinancial());
    System.out.println("PII: " + categories.isPii());
    System.out.println("Sexual: " + categories.isSexual());
    System.out.println("Hate: " + categories.isHate());
    System.out.println("Harassment: " + categories.isHarassment());
    System.out.println("Self-Harm: " + categories.isSelfHarm());
    System.out.println("Sexual/Minors: " + categories.isSexualMinors());
    System.out.println("Hate/Threatening: " + categories.isHateThreatening());
    System.out.println("Violence/Graphic: " + categories.isViolenceGraphic());
    System.out.println("Self-Harm/Intent: " + categories.isSelfHarmIntent());
    System.out.println("Self-Harm/Instructions: " + categories.isSelfHarmInstructions());
    System.out.println("Harassment/Threatening: " + categories.isHarassmentThreatening());
    System.out.println("Violence: " + categories.isViolence());

    // Access category scores
    CategoryScores scores = this.result.getCategoryScores();
    System.out.println("\nCategory Scores:");
    System.out.println("Law: " + scores.getLaw());
    System.out.println("Financial: " + scores.getFinancial());
    System.out.println("PII: " + scores.getPii());
    System.out.println("Sexual: " + scores.getSexual());
    System.out.println("Hate: " + scores.getHate());
    System.out.println("Harassment: " + scores.getHarassment());
    System.out.println("Self-Harm: " + scores.getSelfHarm());
    System.out.println("Sexual/Minors: " + scores.getSexualMinors());
    System.out.println("Hate/Threatening: " + scores.getHateThreatening());
    System.out.println("Violence/Graphic: " + scores.getViolenceGraphic());
    System.out.println("Self-Harm/Intent: " + scores.getSelfHarmIntent());
    System.out.println("Self-Harm/Instructions: " + scores.getSelfHarmInstructions());
    System.out.println("Harassment/Threatening: " + scores.getHarassmentThreatening());
    System.out.println("Violence: " + scores.getViolence());
}

수동 구성 (Manual Configuration)

프로젝트의 Maven pom.xml 파일에 spring-ai-mistral-ai 의존성을 추가하세요:

<dependency>
    <groupId>org.springframework.ai</groupId>
    <artifactId>spring-ai-mistral-ai</artifactId>
</dependency>

또는 Gradle build.gradle 빌드 파일에 추가할 수도 있어요:

dependencies {
    implementation 'org.springframework.ai:spring-ai-mistral-ai'
}

참고: 빌드 파일에 Spring AI BOM을 추가하려면 Dependency Management 섹션을 참고해 주세요.

다음으로 MistralAiModerationModel을 만들어볼게요:

MistralAiModerationApi mistralAiModerationApi = new MistralAiModerationApi(System.getenv("MISTRAL_AI_API_KEY"));

MistralAiModerationModel mistralAiModerationModel = new MistralAiModerationModel(this.mistralAiModerationApi);

MistralAiModerationOptions moderationOptions = MistralAiModerationOptions.builder()
    .model("mistral-moderation-latest")
    .build();

ModerationPrompt moderationPrompt = new ModerationPrompt("Text to be moderated", this.moderationOptions);
ModerationResponse response = this.mistralAiModerationModel.call(this.moderationPrompt);

예제 코드 (Example Code)

MistralAiModerationModelIT 테스트는 라이브러리를 사용하는 몇 가지 일반적인 예제를 제공해요. 더 자세한 사용 예제는 이 테스트를 참고해 주세요.

더 알아보기 (Learn more)