EU AI Act 대응은 "AI가 만든 콘텐츠예요"라는 배너 한 줄로도 끝낼 수 있었어요. 하지만 그 배너는 "이 페이지는 규정을 지켰나?"에만 답할 뿐, 사용자가 정말 궁금한 "AI가 무엇을 만들었고, 얼마나 믿어도 될까?"에는 답하지 못했어요.
안녕하세요, Yabble에서 AI 리서치 제품을 디자인하는 Eugene이에요. 규제 체크리스트로 시작한 AI 라벨링 과제를, 맥락에 따라 다르게 작동하는 신뢰 시스템으로 바꿔간 과정을 이야기해보려고 해요.
시작은 체크리스트였어요 🤔
규제가 정한 마감
Yabble은 설문 응답을 요약하고, 주제를 묶고, 가상의 소비자 페르소나와 대화하게 해주는 AI 리서치 플랫폼이에요. 2026년 8월부터 EU AI Act의 투명성 의무가 적용되면서, 사용자가 AI와 상호작용하고 있다는 사실과 AI가 만든 콘텐츠라는 사실을 분명히 알려야 했어요.
내부 감사를 해보니 대부분의 제품은 기준을 통과했지만, 데이터 탐색 화면 하나와 가상 페르소나(Virtual Audiences) 화면 다섯 곳에는 AI 안내가 없었어요. 페르소나 이미지에도 AI 표기가 없었고요.
그래서 가장 빠른 해결책이 제안됐어요. 모든 페이지 상단에 "AI가 생성한 콘텐츠예요. 사용에 주의하세요"라는 고정 배너를 붙이는 거예요. 컴포넌트 하나, 문구 하나, 한 스프린트면 끝나는 일이었죠.
그런데 어딘가 찝찝했어요
배너를 붙이면 감사는 통과할 거예요. 그런데 이 배너가 사용자에게 무엇을 알려줄 수 있을까요? 리서처가 실제로 일하는 장면을 하나씩 따라가 보니, 배너가 답하지 못하는 순간이 계속 보였어요.
배너가 답하지 못하는 순간들
섞여 있는 화면: 실제 설문 데이터 옆에 AI가 묶은 주제가 함께 보여요. 페이지 배너로는 어느 쪽이 AI인지 알 수 없어요.
밖으로 나가는 순간: AI 요약을 보고서로 내보내면 화면의 라벨은 사라져요. 그 보고서를 받은 사람은 AI가 썼다는 사실을 모르죠.
진짜처럼 보이는 사람: 가상 페르소나의 답변이 실제 응답자의 목소리로 읽힐 수 있어요.
사람이 고친 결과물: AI가 만든 코드프레임을 리서처가 다듬고 승인했다면, 그건 아직 AI 결과물일까요?
벽지가 된 경고: 모든 화면에 같은 경고가 있으면, 사용자는 곧 그 경고를 보지 않게 돼요.
질문을 바꾸다
결국 배너가 푸는 건 "이 페이지는 규정을 지켰나?"라는 회사의 질문이었어요. 사용자의 질문은 달랐어요. "이 중에 AI가 만든 건 뭐고, 어디까지 믿고 써도 될까?"
AI가 관여한 정도를 결과물 단위로, 그 결과물의 무게에 맞게, 플랫폼 밖으로 나가서도 유지되도록 보여줄 수 있을까? 리서치 속도는 늦추지 않으면서.
규제는 최소한의 기준이었고, 제품이 풀어야 할 문제는 신뢰였어요.
왜 제품 전략의 문제인가
AI가 곧 제품이에요. Yabble에서 AI는 부가 기능이 아니라 핵심 가치예요. 사용자가 AI 결과물을 믿지 못하면 쓰지 않고, 너무 믿으면 틀린 결론이 보고서에 실려요. 라벨링은 신뢰를 조율하는 장치였어요.
제품이 다섯 개, 회사가 둘이에요. Yabble의 다섯 제품과 모회사 YouGov의 제품이 같은 기준을 따라야 했어요. 제품마다 따로 라벨을 붙이면 금세 서로 다른 말을 쓰게 돼요.
규제는 계속 바뀌어요. 화면마다 문구를 박아두면, 해석이 바뀔 때마다 모든 화면을 다시 고쳐야 해요. 법무팀이 한 번 승인한 문구를 모든 제품이 가져다 쓰는 구조가 필요했어요.
그래서 이 일을 "라벨을 어디에 붙일까"가 아니라 "AI 결과물이 스스로를 설명하는 시스템을 어떻게 만들까"로 다시 정의했어요.
확신 대신 가설로
시스템을 바로 만들기보다, 배너 방식과 비교해 검증할 수 있는 가설로 먼저 정리했어요. 그중 핵심은 이 다섯 개예요.
H1. 페이지가 아니라 결과물에 라벨을 붙여요. AI가 한 일을 이름으로 붙이면("AI 요약") 사용자가 AI 콘텐츠를 더 정확히 구분할 거예요.
H2. 경고는 필요한 순간에만 보여요. 내보내기, 공유, 의사결정 순간에만 경고하면 더 잘 기억하고 피로도는 낮아질 거예요.
H3. 어떻게 만들어졌는지 보여줘요. "어떻게 만들어졌나요?"에서 출처와 신뢰도를 보여주면, 신뢰도가 낮은 결과물을 골라서 확인할 거예요.
H4. 가상의 사람은 한눈에 알아보게 해요. 가상 페르소나에 고유한 시각 처리를 하면, 실제 응답자로 착각하는 사람이 없을 거예요.
H5. 라벨이 작업을 따라가요. 사람이 편집하고 승인하면 라벨 상태가 바뀌게 하면, 소유감은 높아지고 속였다는 느낌은 없을 거예요.
맥락을 읽는 라벨 만들기
1. 세 가지 신호
아이콘, 색, 텍스트를 따로 또는 함께 써요.
아이콘: AI가 본질인 기능에는 별(✦)을 단독으로, 기존 기능에 AI가 더해진 경우에는 원래 아이콘 모서리에 작은 별을 붙여요.
색: AI 전용 그라데이션을 만들고 다른 곳에는 절대 쓰지 않아요. 그래야 색이 의미를 잃지 않아요.
텍스트: "AI"가 아니라 AI가 한 일을 말해요. "Yabble AI 요약", "AI가 묶은 주제"처럼요.
색만으로는 절대 구분하지 않게 했어요. 색각 이상이 있는 사용자나 흑백으로 인쇄된 보고서에서도 AI 콘텐츠를 알아볼 수 있어야 하니까요.
2. 공간과 무게에 따라 신호의 양을 조절해요
모든 곳에 세 신호를 다 붙이면 다시 벽지가 돼요. 그래서 화면의 여유와 결과물의 무게에 따라 신호의 양을 정했어요.
AI 기능 진입점: 단독 별과 그라데이션 버튼
실제 데이터와 섞인 AI 결과: 덧붙인 별, 그라데이션 테두리, "AI가 묶은 주제"
촘촘한 표와 숫자: 열 제목에 작은 별, 설명은 툴팁으로
가상 페르소나: 단독 별과 "AI 페르소나", 절대 지우지 않음
내보낸 파일: 푸터, 캡션, CSV 헤더에 항상 텍스트로
AI 채팅은 거꾸로 접근했어요. 화면 전체가 AI이니 모든 말풍선에 별을 붙이는 대신, 대화 상단에 한 번만 표시하고 대화 내내 유지해요. 그리고 예외를 표시해요. 실제 설문 데이터, 가상 페르소나의 말, 출처가 없는 주장처럼요.
3. 궁금한 만큼만 펼쳐지는 설명
법적 고지를 화면에 다 넣을 수는 없어요. 그래서 설명을 네 겹으로 나눴어요.
신호 (1~4단어): 아이콘, 색, 이름
툴팁 (2~3문장): AI가 한 일, 근거, 한계 하나
"어떻게 만들어졌나요?" 패널: 출처, 표본, 모델, 날짜, 신뢰도
AI 안내 페이지 (긴 글): 법적 고지, 개인정보, 알려진 한계, 개선 기록
"Yabble AI가 응답 412개를 8개 주제로 묶었어요. 소수 의견은 놓칠 수 있으니 공유 전에 원문을 확인해주세요."
툴팁 예시
4. 라벨은 모델이 아니라 시스템이 붙여요
어떤 라벨을 붙일지는 결과물을 만든 파이프라인이 정해요. 모델이 스스로 "검증됨"이라고 말하게 두지 않는 거예요. 디자이너가 화면마다 판단할 필요가 없고, 법무팀이 규칙을 문서로 확인할 수 있고, 모든 제품에서 같은 결과가 나와요.
5. 사람이 고치면 라벨도 바뀌어요
함께 일한 YouGov 디자이너가 좋은 기준을 제안했어요. 사람이 AI 결과물을 편집하고 승인했다면, 그 결과물은 더 이상 갓 생성된 AI 콘텐츠가 아니라는 거예요. 이 기준을 받아들이되, 적용 범위를 나눴어요.
AI 생성: 처음 만들어졌을 때. 모든 결과물에 적용해요.
AI 초안 · 편집됨: 사람이 내용을 고쳤을 때(오타 수정은 제외). 사람이 다듬는 결과물에 적용해요.
검토 완료: 사람이 승인했을 때. 코드프레임과 보고서 요약에 적용해요.
항상 AI: 무엇을 고쳐도 그대로예요. AI 채팅, 가상 페르소나, AI 점수에 적용해요.
화면의 라벨이 가벼워져도, 처음 생성된 기록은 로그에 남겨요. 라벨이 실제보다 더 많은 사람의 기여를 주장하지 않도록요.
6. 모든 AI 결과물이 지키는 습관
출처를 보여줘요: "응답 412개 기반 · 3차 조사", 그리고 주장마다 원문으로 연결되는 번호를 달아요.
모르면 모른다고 해요: 근거가 없으면 빈칸 대신 "확인된 데이터 없음"이라고 써요.
결과가 달라질 수 있다고 알려요: 다시 생성하면 다른 답이 나올 수 있다는 걸, 다시 생성 버튼 옆에서 말해요.
나가기 전에 확인을 요청해요: 보고서에 넣거나 적용하기 전에 사람이 검토하는 단계를 둬요.
피드백을 받고, 바뀐 걸 공개해요: 모든 결과물에서 평가와 오류 신고를 받고, 개선 기록을 AI 안내 페이지에 남겨요.
목표는 AI를 숨기지 않는 게 아니라, AI가 한 일을 사용자가 판단할 수 있게 하는 것이었어요.
어떻게 검증하나요
두 번에 나눠 확인해요
먼저 사용성 테스트로 사용자가 신호를 이해하는지 확인하고, 단계적으로 출시한 뒤 실사용 데이터로 같은 행동이 나타나는지 봐요. 아래는 제안한 목표예요.
H1: 참가자의 90% 이상이 AI 콘텐츠를 정확히 구분해요.
H2: 80% 이상이 경고를 기억하고, 세션당 경고는 3개 이하예요.
H3: 신뢰도가 낮은 결과물을 높은 결과물보다 2배 더 확인해요.
H4: 페르소나를 실제 사람으로 착각한 참가자는 0명이에요.
H5: 검토자가 라벨의 정직함을 5점 중 4점 이상으로 평가해요.
동시에 지켜야 할 선도 정했어요. 작업 시간은 10% 넘게 늘지 않아야 하고, 라벨 관련 문의는 늘지 않아야 해요. 신뢰를 얻으려다 리서치를 느리게 만들면 안 되니까요.
단계적으로 넓혀가요
빈틈 메우기: 라벨이 빠진 6개 화면에 별과 이름 라벨을 붙이고, 페르소나 이미지에 캡션을 달아요.
시스템 만들기: 공용 컴포넌트, 툴팁, 출처 표시, 피드백, AI 안내 페이지를 만들고 첫 사용성 테스트를 해요.
넓히기: 편집에 따른 라벨 상태와 콘텐츠 출처 증명을 YouGov와 함께 적용해요.
배너 한 줄은 1단계 안에 그대로 녹아 있어요. 버린 게 아니라, 시스템의 첫 단계가 된 거예요.
돌아보며
규제 대응은 보통 "최소한 무엇을 해야 하나"로 시작해요. 그 질문도 필요해요. 하지만 "사용자는 이 순간 무엇을 알아야 하나"로 바꿔 묻자, 같은 의무가 제품의 신뢰를 설계할 기회가 됐어요.
그리고 시스템은 혼자 만들 수 없었어요. 법무팀이 승인할 수 있는 문구, 개발팀이 붙일 수 있는 메타데이터, 다른 회사 디자이너의 기준이 모두 맞물려야 했어요. 디자이너의 일은 그 기준들을 하나의 언어로 엮는 것이었어요.
이 글은 프레임워크를 설계하고 검증 계획을 세운 단계까지의 기록이에요. 테스트 결과가 나오면 무엇이 맞았고 무엇이 틀렸는지 다시 공유할게요.
적용해보기
규제나 정책 때문에 시작된 디자인 과제를 맡았다면, 이런 질문을 던져보면 좋겠어요.
지금 해결책은 회사의 질문에 답하나요, 사용자의 질문에 답하나요?
같은 안내가 모든 화면에 반복되고 있진 않나요? 꼭 필요한 순간은 언제인가요?
결과물이 화면 밖으로 나가도 그 의미가 유지되나요?
규칙을 화면마다 디자이너가 판단하고 있나요, 시스템이 정하고 있나요?
이 해결책을 확신 대신 검증할 수 있는 가설로 바꿀 수 있나요?
