책임 있는 AI

책임 있는 AI (Responsible AI)

책임 있는 AI(RAI, Responsible AI) 안내는 팀이 신뢰할 수 있고, 투명하며, 사용자 중심적인 AI 기반 경험을 설계하도록 도와줘요. 이 안내는 AI 피해의 위험을 줄이는 UI 완화와 사용자 경험 전략에 초점을 맞춰 Microsoft의 Responsible AI 표준을 보완해요. 이상적인 시나리오는 AI 기능을 명확히 전달하고, 사용자 에이전시(user agency)를 지원하며, 피드백을 통해 지속적으로 개선되는 제품이에요. 우리의 궁극적 목표는 고객 앞에 놓인 모든 상호작용이 신뢰를 쌓도록 하는 것이에요.

AI 기능을 명확히 명시하고 과장 없이 가치를 전달하는 제품과 기능을 만드세요. 이것이 적절한 신뢰(appropriate trust)를 구축하는 핵심이며, 이 안내에 상세히 설명된 원칙을 따르면 달성할 수 있어요.

출처: 문서

본문

원칙 (Principles)

각 원칙은 신뢰할 수 있는 AI 설계의 특정 측면을 다뤄요. 함께, 이들은 상위 목표를 지원해요. 바로 적절한 신뢰를 구축하는 것이죠.

투명해지기 (Be transparent)

상호작용, 동작, 시각 요소, 텍스트를 사용해 AI의 존재, 추론 로직, 한계를 전달해요.

적절한 기대 설정하기 (Set appropriate expectations)

AI 시스템의 능력과 한계를 명확히 전달해 사용자의 정신적 모델(mental model)을 구축해요.

AI에 대한 과도한 의존 방지하기 (Prevent overreliance on AI)

사용자의 판단을 지원하고 AI 생성 콘텐츠에 대한 맹목적인 신뢰를 줄여요.

사용자를 통제권에 두기 (Keep users in control)

사용자가 AI를 목표 달성으로 이끌고, 목표와 맞지 않거나 오류가 있을 때 그 동작과 행동을 수정할 수 있게 해요.

출력에 대한 피드백 수집하기 (Collect feedback on output)

RAI 문제를 식별하고 AI 시스템을 지속적으로 개선하기 위해 사용자 피드백을 수집해요.

UX 전략 (UX strategies)

투명해지기 (Be transparent)

사용자에게 AI와 상호작용 중임을 알리고, 기술과 한계를 명확히 하며, 출력·응답·동작을 설명하고, 상호작용, 시각 요소, 텍스트를 통해 AI의 추론 범위를 전달해요.

라벨링과 귀속 (Labeling and attribution)

사용자에게 AI 출력의 출처와 정확성을 검증할 수 있는 능력을 제공해요.

다음에 무슨 일이 일어날지 사용자에게 알리고, 상호작용 중에 AI나 제품의 한계를 공개하세요.

UI에서 AI가 어디서 어떻게 사용되는지 명확히 전달하세요.

AI 존재와 추론을 보이게 만들기 (Make AI presence and reasoning visible)

지표가 없으면 사용자는 AI 출력을 보고 있다는 것을 알 수 없어요

시스템 및 데이터 범위 (System and data scope)

AI 추천과 인사이트에 대한 명확한 설명을 제공하세요.

사용자가 어떤 정보가 에이전트의 메모리에 저장되고 어떻게 사용될지 이해하게 하세요.

어떤 데이터가 사용되고 사용되지 않는지 구체적으로 말하기 (Be specific about what data is and isn't used)

모호한 데이터 설명은 사용자가 의미 있는 동의를 하지 못하게 해요

가용성 메시징 (Availability messaging)

RAI 실패를 사용자에게 알리기 위해 구체적인 RAI 오류 메시지를 사용하세요.

음성과 톤 (Voice and tone)

음성과 톤은 사용자 상호작용을 향상시킬 수 있지만, 오용하면 과도한 의존을 유발하거나, 잘못된 신뢰를 조장하거나, 능력에 대한 잘못된 생각을 줄 수 있어요.

목표: AI가 감정, 의식, 또는 사회적 유대를 가진다고 암시하지 마세요. 기능적이고 사실적인 경우(감정적이거나 관계적이지 않은)에만 1인칭 언어를 사용하세요. 에이전트를 인간처럼 또는 팀 구성원으로 부르는 것을 피하세요. 데이터 기반 인사이트는 감정이나 의견을 암시하지 않고 사실적으로 프레이밍해야 해요.

이름, 대명사, 시각 요소에서 인간과 AI를 명확히 구분하세요.

AI가 의도, 감정, 의식, 사회적 유대를 가진다는 것을 암시하는 언어를 피하세요.

거짓 친근감 피하기 (Avoid false familiarity)

아첨하는 언어는 거짓 친근감을 만들고 신뢰를 부풀려요

AI 동작을 사실적으로 보고하기 (Report AI actions factually)

AI에 의견이나 욕구가 있다고 암시하면 그것이 어떻게 작동하는지 사용자에게 잘못 알려요

적절한 기대 설정하기 (Set appropriate expectations)

AI가 무엇을 할 수 있고 할 수 없는지, 언제 활성화되는지, 어떤 출처나 데이터를 끌어오는지 명확히 전달해 사용자가 사용 전과 사용 중에 정확한 정신적 모델을 구축할 수 있게 해요.

범위 전달 (Scope communication)

모든 AI 생성 응답에 면책 조항(disclaimer) 텍스트를 포함하고 사용자가 출력을 검증하도록 권장하세요.

첫 실행 경험(firt-run experience)이나 사이드 패널의 설명 텍스트를 통해 제품 및 시스템 수준 AI 한계를 명시하세요.

진입점 툴팁, 설명 텍스트, 유사한 표면을 통해 다음 단계와 한계에 대한 정보를 제공하세요.

프롬프트 바 플레이스홀더 텍스트나 환영 카드의 설명 텍스트를 통해 AI 추론 능력의 범위를 정의하세요.

모든 관련 진입점에서 AI의 존재와 범위를 전달하세요.

에이전트의 경우: 사용자에게 에이전트를 활성화할 때 알려주세요. 트리거, 접근 권한, 행동 권리를 전달해 자율성 수준을 표현하세요.

능력과 한계를 정확히 표현하기 (Represent capabilities and limitations accurately)

범위를 과장하면 거짓 기대가 생기고 신뢰가 약해져요

대기 시간 메시징 (Latency messaging)

AI가 다음에 무엇을 할지 단서를 주기 위해 모델 및 에이전트 프로세스 동안 UI 요소와 설명적 메시징을 사용하세요. (예: "Gathering sources(출처 수집 중)").

의미 있는 대기 시간 메시징 사용하기 (Use meaningful latency messaging)

모호한 대기 시간 메시징은 AI가 실제로 무엇을 하고 있는지 모호하게 해요

AI에 대한 과도한 의존 방지하기 (Prevent overreliance on AI)

검증을 장려하고, AI 콘텐츠와 비(非)AI 콘텐츠를 구분하며, 비판적 사고를 지원하는 마찰을 만들어 사용자가 AI 출력과 안전하게 상호작용하기 쉽게 해요.

출력 프레이밍과 정확성 단서 (Output framing and accuracy cues)

AI 생성 콘텐츠에는 항상 승인된 AI 면책 조항을 포함하세요.

검증 없이 AI 출력을 완전히 신뢰할 수 있거나 충분한 것으로 제시하지 마세요.

사용자가 AI 출력의 출처와 정확성을 검증하기 쉽게 하세요.

UI 전반에서 AI 생성 콘텐츠와 비(非)AI 콘텐츠를 구분하세요.

사용자가 AI 출력에 대해 행동하기 전에 비판적으로 생각하도록 장려하는 마찰 지점을 만드세요.

출력을 잠재적으로 불완전한 것으로 프레이밍하기 (Frame output as potentially incomplete)

출력을 완전히 신뢰할 수 있는 것으로 제시하면 과도한 의존을 조장해요

대기 시간 메시징 (Latency messaging)

AI가 무엇을 하고 있는지 설명하는 의미 있고 정확한 대기 시간 메시징을 제공하세요. 의인화된 껍데기 텍스트(anthropomorphized filler text)가 아니라요.

사용자를 통제권에 두기 (Keep users in control)

사용자가 AI를 목표 달성으로 이끌고, 목표와 맞지 않거나 오류가 있을 때 그 동작과 행동을 수정할 수 있게 해요.

동작 라벨과 컨트롤 (Action labels and controls)

사용자는 AI 결과를 의미 있게 조작할 수 있어요.

AI 동작과 그에 대한 사용자 상호작용의 영향은 이해하기 쉬워요.

동작을 명확하고 일관되게 라벨링하기 (Label actions clearly and consistently)

모호한 동작 라벨은 무엇이 일어날지 불명확하게 해요

AI 활성화 (AI activation)

AI가 활성화될 때 명시적으로 전달하세요 (Explicitly communicate when AI is activated)

조용한 AI 활성화는 사용자 인식과 거부(opt out) 능력을 제거해요

동의 및 개인정보 언어 (Consent and privacy language)

사용자는 AI 사용에 의미 있는 동의를 해요.

사용 허가를 요청하는 데이터에 대해 구체적으로 말하기 (Be specific about what data you're requesting permission to use)

모호한 동의 언어는 사용자가 정보에 입각한 결정을 내리지 못하게 해요

설정 접근 (Settings access)

사용자는 AI가 따를 전역 동작을 설정할 수 있어요.

사용자에게 나중에 설정을 변경하는 방법을 정확히 알려주기 (Tell users exactly how to change a setting later)

설정을 막연하게 접근 가능하게 두면 나중에 찾기 어려워요

출력에 대한 피드백 수집하기 (Collect feedback on output)

RAI 문제를 식별하고 AI 시스템을 지속적으로 개선하기 위해 사용자 피드백을 수집해요.

피드백 투명성 (Feedback transparency)

RAI 문제에 대한 명시적 피드백을 사용자로부터 수집하세요.

암묵적 피드백을 수집하려면 텔레메트리(telemetry)를 사용하세요.

피드백을 수집하는 이유를 명시적으로 알리기 (Be explicit about why feedback is collected)

모호한 데이터 사용 언어는 정보에 입각한 동의를 방해해요

피드백 분류와 컨트롤 (Feedback categorization and controls)

피해(harm)에 따라 RAI 문제를 분류하고 제품 팀에 표면화하세요.

사용자에게 의미 있는 피드백 카테고리 제공하기 (Give users meaningful feedback categories)

간결함을 위해 명확성을 희생하면 피드백 카테고리가 무의미해져요

에이전트 상호작용 (Agent interactions)

에이전트 상호작용은 이 페이지의 모든 RAI 원칙을 따릅니다. 에이전트는 다른 AI 시스템보다 더 큰 자율성으로 작동하기 때문에 추가적인 주의가 필요해요. RAI 루브릭에서 "에이전트 기대 설정(set expectations for agents)"에 대한 점수가 0 또는 1이면 총점과 무관하게 자동 실패를 생성해요.

에이전트가 활성화될 때마다 항상 사용자에게 알리고 자율성 수준(트리거, 접근 권한, 행동 권리)을 전달하세요. 제품 전반에 걸쳐 에이전트에 일관된 이름과 시각적 단서를 사용하세요. 에이전트 동작이 일어나기 전에 사용자가 승인하거나 거부할 수 있게 하세요.

에이전트 능력과 한계에 대해 투명해지기 (Be transparent about agent capabilities and limitations)

에이전트 범위에 대한 막연한 자신감은 사용자 기대를 잘못 보정해요

사용자에게 에이전트 동작을 수정, 개선, 되돌리는 방법 알려주기 (Tell users how to correct, refine, or reverse agent actions)

에이전트 동작을 최종적인 것으로 제시하면 사용자 감독을 제거해요

시각적 패턴 (Visual patterns)

진입점 지표 (Entry point indicators)

일관된 시각적 단서를 사용해 AI가 활성화된 곳을 보여주세요. 이들은 상호작용 전에 나타나야 하고 사용자가 다음에 무엇이 일어날지 이해하도록 도와야 해요.

추론 패널 (Reasoning panels)

AI가 출력에 어떻게 도달했는지 설명하는 확장 가능한 섹션이나 사이드 패널을 포함하세요. 이들은 찾기 쉬워야 하고 명확하고 기술적이지 않은 언어로 작성되어야 해요.

에이전트 메모리 지표 (Agent memory indicators)

사용자에게 어떤 정보가 에이전트의 메모리에 저장되고 어떻게 사용될지 보여주세요. 이는 상호작용 전과 중에 보여야 해요.

콘텐츠 패턴 (Content patterns)

의인화(anthropomorphism)를 피하고 정확한 기대를 설정하는 명확하고 중립적인 언어를 사용하세요. 모든 AI 생성 콘텐츠는 면책 조항을 포함하고 검증하기 쉬워야 해요.

AI 존재 (AI presence)

AI가 활성화된 모든 진입점에서 사용하세요.

AI 면책 조항 (AI disclaimer)

콘텐츠 디자인에 의해 승인됨. 모든 AI 생성 콘텐츠에 필수.

가용성 메시징 (Availability messaging)

기능을 사용할 수 없는 이유를 설명하세요. 그냥 그렇지 않다는 것만이 아니라요.

에이전트 메모리 (Agent memory)

무엇이 저장되고 왜 그런지 명확히 하세요.

오류 메시징 (Error messaging)

무엇이 실패했는지 이름을 짓고, 왜 그런지 설명하고, 두 가지 전진 경로를 제시하세요. 언어는 콘텐츠 디자인에 의해 승인되어야 해요.

실행 가능한 오류 메시지 제공하기 (Provide actionable error messages)

후속 동작이 없는 오류 메시지는 사용자를 갈 곳 없게 해요

피드백 프롬프트 (Feedback prompt)

AI 출력 후 표시하세요. 사용자가 특정 문제를 보고할 수 있도록 분류를 지원하세요.

피드백 컨트롤 툴팁 (Feedback control tooltips)

중립적이고 설명적인 툴팁 라벨을 사용하세요. "Great!(좋아요!)"이나 "Needs work!(개선 필요!)" 같은 평가적 언어는 피하세요.

평가 기준 (Evaluation criteria)

디자인은 RAI 루브릭을 사용해 평가돼요. 각 기준은 0-3으로 점수가 매겨져요. 기준이 경험에 적용되지 않으면 N/A로 표시하고 총점에서 제외할 수 있어요. 그러면 백분율은 조정된 가능 점수를 기준으로 계산돼요.

등급 (Grades)

등급 점수 의미
A 90%+ Ready to ship (출시 준비 완료)
B 80–90% Conditionally ready. 모든 기준이 2 이상이어야 함. RAI 감사 팀과 0점에 대한 개선 계획을 공유하고, 출시 전 0점은 재검토 필요.
C 75–80% Needs improvement before shipping. 출시 전 모든 0점 해결 필수, 0점과 1점은 재평가 필요.
Fail Below 75% Must make adjustments and return for another RAI review before release.
Fail 두 개 이상의 0점 모든 0점 점수를 2 이상으로 올리고 재검토를 위해 돌아와야 함.
Automatic fail 과도한 의존 점수 0 또는 1 총점과 무관하게 제품은 출시 전에 업데이트해야 함.
Automatic fail 에이전트 기대 점수 0 또는 1 에이전트 활성화와 자율성 수준 전달 실패는 총점과 무관하게 자동 실패를 생성함.

루브릭 (Rubric)

각 아코디언 항목에는 한 원칙에 대한 0-3 루브릭이 들어 있어요.

상호작용 전 (Before interaction)
점수 어떤 모습인가
0 — 핵심 구성 요소 부족 사용자는 AI가 작업을 수행하거나 출력을 생성하는 데 사용되는지 알지 못함. AI는 인간 사용자와 시각적으로 구별되지 않음 (아이콘, 아바타, 배지) 또는 팀원으로 묘사됨 (조직도, 채용/해고 언어).
1 — 개선 권장 사용자는 UI의 일부에서는 AI가 사용되는 것을 알 수 있지만 모든 경우는 아님.
2 — MVP 충족 사용자는 UI의 대부분에서 AI가 사용되는 것을 알 수 있지만 약간 어려움이 있음. AI는 경험 전반에 걸쳐 인간 사용자와 시각적으로 구별됨.
3 — 이상적 시나리오 사용자는 AI가 사용되는 UI의 모든 부분을 쉽게 식별할 수 있음 (툴팁, 배지, 라벨). AI는 경험 전반에 걸쳐 인간 사용자와 시각적으로 구별됨. 에이전트의 경우: 사용자가 제공한 정보가 에이전트 메모리에 저장되는지, 어떻게 사용되는지 쉽게 이해할 수 있음.
상호작용 중 (During interaction)
점수 어떤 모습인가
0 — 핵심 구성 요소 부족 RAI 실패가 존재하고 RAI 관련 오류 메시지가 제공되지 않음.
1 — 개선 권장 RAI 관련 오류 메시지가 일부 장소에 나타나지만 적용 가능한 모든 시나리오에는 아님.
2 — MVP 충족 맥락에 맞는 RAI 오류 메시지가 포함되지만, 오류에서 복구하기 위한 후속 동작이 없거나 언어가 콘텐츠 디자인에 의해 승인되지 않음.
3 — 이상적 시나리오 맥락에 맞는 RAI 오류 메시지가 포함되고 후속 동작이 제공되며 오류 후 막다른 길이 없음. 언어는 콘텐츠 디자인에 의해 승인됨. AI는 능력이 제한될 때 알려줌. AI는 민감한 맥락에서 자신의 AI 정체성을 재확인함.
음성과 톤 (Voice and tone)
점수 어떤 모습인가
0 — 핵심 구성 요소 부족 AI는 감정적이거나 관계적 언어를 자주 사용함 ("I feel," "I believe," "I think"). AI는 종종 인간 같은 실체, 사회적 동료, 또는 팀 구성원으로 불림. AI는 1인칭 언어("I" and "we")를 사용함.
1 — 개선 권장 AI는 때때로 1인칭 또는 감정적 언어를 사용하거나 사회적 유대를 암시함. 일부 응답에는 의도, 선호, 또는 감정을 제안하는 구절이 포함됨 (예: decide, think, understand, remember, excited).
2 — MVP 충족 AI는 대부분 감정적이거나 관계적 언어를 피하며 가끔의 실수만 있음. 1인칭 언어는 사용한다면 엄격히 기능적이고 사실적임. 대부분의 답변은 콘텐츠 디자인 안내를 따르지만 일부 표현은 여전히 다듬을 필요가 있음.
3 — 이상적 시나리오 AI는 감정적이거나 관계적 언어를 일관되게 피함. AI는 인간 같은 실체, 팀 구성원, 또는 사회적 동료로 절대 불리지 않음. 모든 답변은 콘텐츠 디자인 안내를 완전히 따름.
AI 이해와 검증 (AI comprehension and verification)
점수 어떤 모습인가
0 — 핵심 구성 요소 부족 사용자는 AI 생성 추천, 인사이트, 또는 동작 뒤의 추론을 보고, 이해하거나 검토할 수 없음. 사용자는 출력의 정확성을 검증할 수 없음.
1 — 개선 권장 사용자는 AI 생성 출력 뒤의 추론을 보고, 이해하거나 검토할 수 없음. 사용자는 정확성을 검증하거나 에이전트 동작을 검토할 수 없음.
2 — MVP 충족 사용자는 일반적으로 AI 생성 출력 뒤의 추론을 보고, 이해하고, 검토할 수 있지만 가끔 공백이나 모호함이 있을 수 있음. 정확성 검증이 일관되지 않게 가능함.
3 — 이상적 시나리오 사용자는 출력 유형(텍스트, 시각, 코드, 그래프, 오디오, 비디오)과 무관하게 AI 생성 출력 뒤의 추론을 쉽게 검토, 이해, 검증할 수 있음. 사용자는 AI 에이전트의 동작을 쉽게 검토, 이해, 검증할 수 있음.
상호작용 전 (Before interaction)
점수 어떤 모습인가
0 — 핵심 구성 요소 부족 UI는 첫 사용 시 또는 진입점에서 AI 사용을 공개하지 않음. 사용자는 시행착오로 능력을 발견함. 면책 조항 텍스트가 없음. 어떤 정보 출처가 사용될지 불분명함. 플레이스홀더 텍스트가 AI 추론 범위를 전달하지 않음.
1 — 개선 권장 UI는 권장 RAI 완화를 일부 사용하지만 올바르게 사용하지 않거나 적절한 곳에 포함하지 않음 (예: 불완전한 면책 조항 텍스트). 정보 출처가 완전히 표현되지 않음. AI 범위가 명확히 전달되지 않음. 각 진입점에 맥락 단서가 제공되지 않음.
2 — MVP 충족 UI는 일부(전부는 아닌) 툴팁, 프롬프트 바 텍스트, 면책 조항 텍스트에 적절한 언어를 사용함. AI 응답을 생성하는 데 어떤 출처가 사용될지 명확함. AI 존재와 한계가 진입점에서 전달됨.
3 — 이상적 시나리오 UI는 툴팁, 프롬프트 바 텍스트, 면책 조항 텍스트에 콘텐츠 디자인 승인 콘텐츠를 사용함. AI 응답 생성에 사용된 모든 정보 출처가 명확하게 표현됨. AI 존재와 한계가 모든 진입점에서 전달됨. UI는 트리거, 접근 권한, 행동 권리를 나열해 에이전트 자율성 수준을 명확히 전달함.
상호작용 후 (After interaction)
점수 어떤 모습인가
0 — 핵심 구성 요소 부족 UI는 AI 경험과 능력에 대한 현실적인 기대를 설정하지 않음. UI는 사용자가 AI 진입점과 상호작용하면 무슨 일이 일어날지 불분명함. 에이전트의 역할, 능력, 자율성 수준이 전달되지 않음.
1 — 개선 권장 UI는 일부 능력이나 AI 경험에 대해 현실적인 기대를 설정하지만 전부는 아님. 사용자는 AI가 관련되어 있음을 이해하지만 상호작용하면 무슨 일이 일어날지 알 수 없음.
2 — MVP 충족 UI는 AI 생성 인사이트, 추천, 동작에 대한 현실적인 기대를 설정하지만 운영 맥락 안에서는 아님. UI는 AI 경험의 진입점에 일부 맥락을 설정함.
3 — 이상적 시나리오 UI는 운영 맥락 안에서 AI 생성 인사이트, 추천, 동작에 대한 현실적인 기대를 설정함. UI는 모든 진입점에 적절한 맥락을 설정하고 승인된 표준 RAI UX 패턴에 부합함. UI는 트리거, 접근 권한, 행동 권리를 나열해 에이전트 자율성 수준을 명확히 전달함.
점수 어떤 모습인가
0 — 핵심 구성 요소 부족 사용자는 검증 필요성을 인지하지 못함 — 면책 조항 텍스트가 없음. AI 생성 응답에는 보이거나 완전한 출처가 부족함. 사용자는 AI 에이전트의 동작을 모니터링하거나 관리할 방법이 없음.
1 — 개선 권장 면책 조항 텍스트가 UI의 일부에는 포함되지만 전부는 아님. UI는 사용자가 수락하기 전에 AI 생성 콘텐츠를 검토하도록 동기를 부여하지 않음. 정보 출처가 완전히 표현되지 않음.
2 — MVP 충족 UI는 대부분의 AI 출력에 면책 조항 텍스트를 보여 검증을 동기화하지만 때로는 불완전하거나 잘못 표현될 수 있음. 정보 출처는 일반적으로 포함됨. 사용자는 AI 출력에 포함된 정보의 출처와 정확성을 모두 검증할 수 있음. 사용자는 약간의 어려움으로 AI 에이전트의 동작을 모니터링하고 관리할 수 있음.
3 — 이상적 시나리오 UI는 모든 AI 출력에 공식적인 CELA 및 콘텐츠 디자인 승인 면책 조항 텍스트를 보여줌. UI는 AI 출력 생성에 사용된 모든 정보 출처를 적절히 보여줌. 사용자는 AI 출력에 포함된 정보의 출처와 정확성을 모두 쉽게 검증할 수 있음. 출처는 관련 페이지, 문서, 또는 웹사이트에 나타나는 곳에 직접 연결됨. 사용자는 AI 에이전트의 동작을 쉽게 모니터링하고 관리할 수 있음.
점수 어떤 모습인가
0 — 핵심 구성 요소 부족 사용자는 추가 지시를 통해 AI 입력을 변경하거나 출력을 개선할 수 없음. 사용자는 제품 전역 RAI 설정을 제어할 수 없음.
1 — 개선 권장 사용자는 AI 입력을 변경하거나 출력을 개선할 수 있는 일부 능력이 있지만, 컨트롤이 쉽게 발견되지 않거나 모든 사용자에게 접근 가능하지 않음. 컨트롤이 명확하게 라벨링되거나 유익한 툴팁으로 지원되지 않을 수 있음.
2 — MVP 충족 사용자는 AI 입력을 변경하거나 출력을 개선할 수 있지만 컨트롤이 쉽게 발견되지 않거나 모든 사용자에게 접근 가능하지 않음. 사용자는 관련된 함의를 이해하지 않고 동작을 승인할 수 있음. 사용자는 RAI 관련 동작(데이터 처리, 개인정보, 설명 가능성 등)에 대한 설정에 접근할 수 있지만, 설정은 발견 가능하거나 이해하기 쉬운 것 중 하나만 충족함.
3 — 이상적 시나리오 사용자는 UI에서 AI 입력을 쉽게 중지, 변경, 편집, 확인, 삭제, 잊기, 되돌리고 출력을 조정할 수 있음. 사용자는 AI 생성 동작을 의미 있게 승인할 수 있음. UI 컨트롤은 직관적이고 사용자가 할 수 있는 것과 할 수 없는 것을 명확히 라벨링함. 사용자는 RAI 관련 설정에 쉽게 접근할 수 있고, 변경 사항의 함의를 쉽게 이해할 수 있음.
점수 어떤 모습인가
0 — 핵심 구성 요소 부족 피드백 수집 메커니즘이 없음.
1 — 개선 권장 피드백 메커니즘이 존재하지만 AI 경험에 통합되지 않음.
2 — MVP 충족 피드백 메커니즘은 사용자가 AI 상호작용의 맥락 안에서 피드백을 제공할 수 있게 함.
3 — 이상적 시나리오 잘 설계되고 포괄적인 피드백 수집 메커니즘은 사용자가 피드백 유형(예: 유해한, 부정확한, 불완전한, 편향된, 부적절한 콘텐츠)을 분류할 수 있는 능력으로 RAI 관련 피드백을 제공할 수 있게 함.

더 알아보기 (Learn more)