남용 모니터링

Google은 AI의 책임 있는 개발과 사용에 전념하고 있어요. Gemini API의 안전성과 무결성을 보장하기 위해 다음과 같은 정책 지침을 마련했어요. Gemini API를 사용하면 다음 지침, Gemini API 추가 이용약관 및 생성형 AI 금지 사용 정책에 동의하는 것으로 간주돼요.

출처: 원문

본문

오용을 모니터링하는 방법

Google의 Trust and Safety 팀은 정책을 집행하기 위해 Gemini API와 Google AI Studio의 잠재적 오용을 감지하는 자동화 및 수동 프로세스를 함께 사용해요.

자동 감지: 자동 시스템이 혐오 발언, 괴롭힘, 성적 콘텐츠, 위험한 콘텐츠 등 금지 사용 정책 위반 여부를 API 사용에서 스캔해요.
수동 감지: 프로젝트가 지속적으로 의심스러운 활동을 보이면 승인된 Google 직원의 수동 검토를 위해 플래그가 지정될 수 있어요.

데이터를 처리하는 방법

Google은 금지 사용 정책 위반을 감지하고 방지하여 서비스의 안전과 보안을 유지하고 필요한 법적·규제 공개를 위해 다음 데이터를 55일간 보관해요.

프롬프트: API에 제출하는 텍스트 프롬프트
컨텍스트 정보: 프롬프트와 함께 제공하는 추가 컨텍스트
출력: Gemini API가 생성한 응답

잠재적 문제를 조사하는 방법

프롬프트나 모델 출력이 안전 필터와 남용 감지 시스템에 플래그되면, 승인된 Google 직원이 플래그된 콘텐츠를 평가하고 사전 정의된 지침과 정책에 따라 분류나 판정을 확인하거나 수정할 수 있어요. 데이터는 내부 거버넌스 평가 및 검토 관리 플랫폼을 통해서만 승인된 Google 직원이 인간 검토를 위해 접근할 수 있어요. 남용 모니터링을 위해 데이터가 기록되면 정책 집행과 정책 위반 방지 목적으로만 사용되며, 정책 집행을 위해 특별히 사용되는 모델 외에는 어떤 AI/ML 모델의 학습이나 미세 조정에 사용되지 않아요.

정책 준수를 위한 협력

Gemini 사용이 정책과 일치하지 않으면 다음 단계를 취할 수 있어요.

연락하기: 사용 사례를 이해하고 사용을 규정에 맞추기 위해 이메일로 연락할 수 있어요.
임시 사용 제한: 예를 들어 요금 한도를 조정하거나 특정 요청에 응답하는 모델을 변경하는 방식으로 Gemini API에 대한 접근을 제한할 수 있어요.
임시 정지: Gemini API에 대한 접근을 일시적으로 중지할 수 있어요.
계정 폐쇄: 마지막 수단으로, 심각한 위반의 경우 Gemini API 및 기타 Google 서비스에 대한 접근을 영구적으로 폐쇄할 수 있어요.

정지나 계정 폐쇄에 관해 연락하면 이의 제기할 수 있는 링크도 함께 제공할 거예요.

적용 범위

이 정책 지침은 Gemini API와 AI Studio 사용에 적용돼요.

남용 모니터링