오늘은 AI 기술을 서비스에 녹여낼 때 기획자가 반드시 짚고 넘어가야 하는 예외 케이스(Edge Case) 설계에 대해 이야기해볼게. 일반적인 규칙 기반(Rule-based) 시스템과 달리, AI는 결과값을 100% 예측하기 어렵기 때문에 기획 단계에서 예외 상황을 정의해두는 게 정말 중요하거든. 7년차로 일하면서 수많은 AI 프로젝트를 겪어보니, 이 예외 설계가 서비스의 최종 퀄리티를 결정하더라.
1. AI의 불확실성 인정하고 '신뢰도 점수' 활용하기
AI 모델은 완벽하지 않아. 학습 데이터의 편향(Bias)이나 실제 환경에서의 데이터 변화(Distribution Shift) 때문에 언제든 엉뚱한 답을 내놓곤 하거든. 특히 틀린 답을 진짜처럼 말하는 **환각 현상(Hallucination)**은 실무에서 가장 골치 아픈 문제야.
이를 해결하려면 AI 모델이 출력하는 답변의 **신뢰도 점수(Confidence Score)**를 기획에 활용해야 해. 점수가 높을 때만 답변을 보여주고, 애매할 때는 추천 키워드를 제안하며, 아주 낮을 때는 에러 페이지 대신 대체 화면을 보여주는 식으로 시나리오를 세분화해서 설계해봐.
2. 무조건 작동하는 'Fallback' UX 설계하기
AI가 정상적으로 작동하지 않거나 답을 찾지 못할 때를 대비한 플랜 B, 즉 Fallback(대체 작동) 메커니즘이 필수적이야.
- 챗봇 에러 시: "이해하지 못했습니다"를 무한 반복하기보다, "자주 묻는 질문(FAQ)을 확인해보세요"라며 관련 링크를 제공하기.
- AI 추천 실패 시: 추천 AI가 멈췄을 때, 서비스 전체에서 가장 인기 있는 상품 TOP 10을 기본값(Default)으로 띄워 화면이 깨지지 않도록 방어하기. 이런 세심한 Fallback 설계가 사용자 이탈을 막아주는 든든한 버팀목이 되어주거든.
3. 사용자 악용(Abuse) 방지를 위한 가드레일 세우기
생성형 AI 서비스를 만들다 보면 사용자가 악의적인 프롬프트를 입력해 AI를 무력화하려는 시도를 자주 보게 돼. 기획자는 입력과 출력 단계 모두에 **가드레일(Guardrails)**을 설계해야 해. 입력 단계에서는 욕설이나 민감한 키워드를 필터링하고 글자 수를 제한해야 해. 그리고 출력 단계에서는 AI가 생성한 답변에 부적절한 단어가 포함되어 있다면 이를 감지해 "답변을 생성할 수 없습니다"라는 기본 안내 메시지로 치환하도록 예외 처리를 해줘야 안전해.
💡 핵심 정리
- AI의 불확실성을 인정하고 신뢰도 점수 기반의 단계별 시나리오를 만들자.
- AI 작동 실패를 대비해 화면이 멈추지 않는 'Fallback' 경로를 반드시 설계하자.
- 악의적인 사용자 입력을 방어할 수 있는 입력/출력 가드레일을 세우자. 실무에서 좋은 기획자는 단순히 기능이 잘 작동할 때(Happy Path)뿐만 아니라, 시스템이 망가질 수 있는 최악의 순간을 가장 잘 다루는 사람이야. AI 시대의 기획은 모호함을 다루는 싸움이니까, 오늘 이야기한 내용들을 포트폴리오나 기획서에 꼭 녹여내 보길 바랄게!