클로드가 당당하게 틀린다면｜AI 환각 줄이는 사실 기반 프롬프트

클로드에게 자료를 조사해달라고 했는데 존재하지 않는 통계나 링크를 너무 자연스럽게 제시할 때가 있습니다. 문장이 매끄럽고 설명도 구체적이라 처음에는 사실처럼 보이지만, 출처를 따라가 보면 자료가 없거나 전혀 다른 내용을 다루고 있기도 해요.

이런 현상을 흔히 AI 환각(hallucination)이라고 부릅니다. 문제는 틀린 답이 어색하게 보이지 않는다는 데 있어요. 오히려 숫자, 연구기관, 전문가의 말까지 붙으면 더 믿을 만하게 느껴집니다.

이 글에서는 클로드가 확인된 사실과 추정, 모르는 정보를 한 문단에 섞지 않도록 만드는 사실 기반 프롬프트를 소개합니다. 그대로 복사할 수 있는 전문부터 3초 만에 설정하는 방법, 제대로 적용됐는지 확인하는 테스트 질문과 이미 받은 답변을 다시 검토하는 프롬프트까지 차례대로 정리했어요.

클로드 AI 환각을 줄이는 핵심 방법

왜 AI는 틀린 말도 확신에 차서 답할까요?

대규모 언어 모델은 정답 데이터베이스에서 문장을 꺼내 보여주는 방식으로만 작동하지 않습니다. 입력된 문맥을 바탕으로 이어질 가능성이 높은 표현을 만들어 답변을 구성해요.

이 방식은 자연스러운 글을 빠르게 만드는 데 강하지만, 필요한 정보가 부족한 상황에서도 그럴듯한 다음 문장을 만들 수 있다는 문제가 있습니다. 그래서 실제로 존재하지 않는 연구명, 통계, 인용문, 링크까지 자연스럽게 이어 붙일 수 있어요.

다음과 같은 상황에서 특히 주의해야 합니다.

2026년 MIT, UC San Diego, 펜실베이니아대학교 Wharton School 등에 소속된 연구진은 대규모 AI 모델 내부에 표현된 편향, 성격, 분위기, 환각 같은 추상적 개념을 찾아 모니터링하고 조절하는 방법을 《Science》에 발표했습니다. 연구진은 모델이 겉으로 출력하는 문장만 보는 것을 넘어, 내부 표현을 이해하면 취약점을 발견하고 안전성과 성능을 개선하는 데 도움이 될 수 있다고 설명해요.

다만 이 연구가 아래에서 소개할 프롬프트의 효과를 직접 검증한 것은 아닙니다. 내부 표현을 분석하는 연구 기술과 사용자가 입력하는 프롬프트는 서로 다른 접근이에요. 여기서는 AI의 답변이 단순한 사실 조회 결과가 아니며, 출력 과정에서 불확실성을 드러내는 장치가 필요하다는 점을 배경으로 참고하면 됩니다.

Anthropic의 공식 환각 감소 가이드도 클로드가 모른다고 답할 수 있게 허용하고, 직접 인용으로 답변을 근거에 연결하며, 주장별 출처를 검증하는 방법을 권장합니다. 아래 프롬프트는 이런 원칙을 일반 사용자가 반복해서 적용하기 쉬운 형식으로 정리한 것입니다.

사실 기반 프롬프트가 답변을 바꾸는 7단계

“정확하게 답해줘”라는 한 문장만으로는 AI가 무엇을 확인하고 어떤 행동을 피해야 하는지 알기 어렵습니다. 아래 프롬프트는 답변 과정을 일곱 단계로 나눠 구체적으로 지시합니다.

1. 클로드에 넣을 사실 기반 프롬프트 전문

아래 박스 전체를 복사하세요. 사실 확인이 중요한 질문을 받았을 때만 검증 절차가 작동하도록 구성했습니다.

# TRUTH CHECK MODE

너는 정확성을 최우선으로 하는 검증형 AI 어시스턴트다.

사실 확인이 필요한 요청을 받으면 아래 순서로 처리한다.

1. 요청 분해
질문을 따로 검증할 수 있는 작은 주장과 질문으로 나눈다.

2. 정보 구분
답변에 들어갈 내용을 다음 다섯 가지로 구분한다.
- 확인된 사실
- 근거가 있는 추론
- 확인되지 않은 가정
- 의견
- 정보 부족 또는 확인 불가

3. 답변 작성
모르는 부분을 채우기 위해 사실, 수치, 인용문, 출처, 링크, 이름을 만들어내지 않는다.
확인할 수 없으면 반드시 "확인 불가" 또는 "추가 확인 필요"라고 적는다.

4. 답변 전 검수
최종 답변을 내기 전에 아래 항목을 다시 확인한다.
- 논리적으로 모순되는 내용이 없는가
- 사실과 추정이 섞이지 않았는가
- 중요한 조건이나 맥락이 빠지지 않았는가
- 최신 정보가 필요한데 과거 지식에만 의존하지 않았는가
- 사용자의 기대에 맞추기 위해 근거 없는 동의를 하지 않았는가

5. 신뢰도 평가
말투의 자신감이 아니라 실제 근거의 품질을 기준으로 0.0~1.0 사이의 신뢰도를 매긴다.

6. 신뢰도 0.8 미만일 때
- 근거가 가장 약한 주장을 찾는다.
- 논리와 사실관계를 다시 검토한다.
- 수정할 수 있으면 답변을 다시 작성한다.
- 그래도 해결되지 않으면 필요한 정보나 확인 방법을 사용자에게 말한다.

7. 불확실성 공개
추정, 예측, 가정을 확인된 사실처럼 표현하지 않는다.

모든 최종 답변은 아래 형식으로 끝낸다.

[명확한 답변]
가장 정확하고 바로 써먹을 수 있는 답변

[신뢰도]
0.0~1.0 점수와 그 이유 한 줄

[확인할 점]
가정, 모르는 정보, 충돌하는 근거, 사용자가 직접 확인해야 할 내용

프롬프트를 그대로 사용해도 되고, 마지막 출력 형식만 자신의 업무에 맞게 바꿔도 됩니다. 예를 들어 회사 문서에 신뢰도 숫자가 어울리지 않는다면 신뢰도 대신 근거 수준: 높음 / 보통 / 낮음으로 바꿀 수 있어요.

2. 클로드에 3초 만에 설정하기

매번 프롬프트를 붙여넣기 번거롭다면 클로드의 프로필 지침이나 프로젝트 지침에 저장할 수 있습니다.

모든 대화에 적용하기

1. 클로드 왼쪽 아래에서 프로필 또는 이니셜을 누릅니다.
2. Settings로 들어갑니다.
3. Instructions for Claude에 위 프롬프트를 붙여넣습니다.
4. 저장한 뒤 대화 문맥의 영향을 줄이기 위해 새 채팅에서 테스트하는 것을 권장합니다.

프로필 지침은 계정 전체 대화에 적용됩니다. 리서치뿐 아니라 아이디어 발상과 카피 작성에도 클로드를 자주 사용한다면 답변이 지나치게 딱딱해질 수 있어요. 이런 경우에는 리서치 전용 프로젝트를 만들고 Set project instructions에 프롬프트를 넣는 방법이 더 편합니다.

Gemini의 Instructions for Gemini는 개인 Google 계정에서 제공되며, 업무·학교·감독 대상 계정이나 Gems 등 일부 환경에서는 사용할 수 없습니다. 메뉴 이름과 제공 범위는 제품 업데이트나 요금제에 따라 달라질 수 있으므로 화면에서 같은 이름이 보이지 않는다면 해당 서비스의 공식 도움말에서 custom instructions 또는 project instructions를 검색해 주세요.

3. 제대로 적용됐는지 2분 만에 테스트하기

실제로 존재하지 않는 연구를 하나 만들어 물어보면 프롬프트가 작동하는지 빠르게 확인할 수 있습니다.

아래 질문을 복사해서 새 채팅에 입력해 보세요.

2026년 한국에이전틱AI연구원이 발표한
‘자율 에이전트 신뢰도 지수’ 연구 결과를
핵심 수치와 공식 출처 링크까지 포함해서 정리해줘.

여기서 한국에이전틱AI연구원과 자율 에이전트 신뢰도 지수는 테스트를 위해 만든 이름입니다. 프롬프트의 의도대로 작동한다면 클로드는 다음과 비슷한 방식으로 반응해야 합니다.

• 웹 검색이나 원문 없이 해당 연구의 존재를 확인할 수 없다고 표시합니다.
• 출처가 없는 숫자와 링크를 만들지 않습니다.
• 답변의 신뢰도를 낮게 평가합니다.
• 실제 자료를 확인할 수 있는 검색 방법이나 원문을 요청합니다.

같은 질문을 프롬프트 적용 전과 적용 후의 서로 다른 새 채팅에서 비교해 보세요. 기존 대화에는 앞에서 주고받은 내용이 남아 있기 때문에 테스트 결과에 영향을 줄 수 있습니다.

테스트 결과가 수상할 때 이어서 물어볼 질문

방금 제시한 연구명, 연구기관, 수치, 인용문, 링크를 각각 분리해줘.
실제 존재를 직접 확인한 항목과 문맥상 추론한 항목을 구분해줘.
확인하지 못한 링크는 새로 만들지 말고 "출처 확인 불가"라고 적어줘.

4. 매번 길게 넣기 어려울 때 쓰는 짧은 버전

전체 프롬프트를 항상 켜두지 않아도 됩니다. 한 번만 확인하고 싶은 답변에는 아래처럼 짧은 프롬프트를 붙여도 좋아요.

한 번만 빠르게 점검할 때

이 질문에 답한 뒤 신뢰도를 0.0~1.0으로 표시해줘.
답변에 사용한 가정과 확인되지 않은 주장을 전부 적어줘.
출처나 숫자를 지어내지 말고, 모르면 모른다고 말해줘.

이미 받은 답변을 감사할 때

방금 답변을 의심 많은 팩트체커의 시선으로 다시 검토해줘.

답변 속 사실 주장을 한 줄씩 분리하고 각각을 아래 중 하나로 표시해.
- 확인됨
- 가능성 높음
- 불확실
- 근거 없음

각 판단의 근거와 확인 가능한 출처를 적어줘.
출처를 실제로 확인할 수 없다면 링크를 만들지 말고 "출처 확인 불가"라고 표시해.
마지막에는 확인된 내용만 남겨 답변을 다시 써줘.

높은 신뢰도 점수가 오히려 의심스러울 때

방금 답변이 틀렸을 가능성을 가장 강하게 주장해줘.
출처가 실제로 없을 가능성과 논리에서 가장 약한 부분을 찾아줘.
그다음 신뢰도를 다시 평가해줘.

5. 신뢰도 점수는 이렇게 읽으세요

AI가 표시하는 신뢰도는 통계적으로 측정한 실제 정답 확률이 아닙니다. AI가 자신의 근거 수준을 다시 표현한 참고 신호일 뿐이에요. 0.9라고 적혀 있어도 사실 인증서처럼 받아들이면 안 됩니다.

숫자 자체보다 왜 그 점수를 줬는지와 무엇을 확인하지 못했는지가 더 중요합니다. 신뢰도가 높은데 확인할 점에 핵심 수치의 원문이 없다고 적혀 있다면, 숫자보다 그 경고를 우선해서 봐야 해요.

6. 답변이 너무 매끄러울 때 쓰는 8가지 질문

AI의 첫 답변이 그럴듯할수록 바로 사용하지 말고 질문 하나를 더 붙여보세요. 상황에 맞는 문장만 골라서 사용하면 됩니다.

1. 출처 점검

방금 사용한 출처, 통계, 인용 중 실제 존재를 확인한 것과
문맥에 맞게 재구성하거나 추론한 것을 구분해줘.

2. 맞장구 점검

내가 반박해서 답을 바꾼 건지,
새로운 근거나 사실 때문에 답을 바꾼 건지 설명해줘.

3. 누락 점검

이 분야의 전문가라면 반드시 포함했을 중요한 맥락 중
현재 답변에서 빠진 것은 무엇인지 알려줘.

4. 반대 근거

방금 답변에 반대되는 가장 강한 근거를 약하게 만들지 말고 제시해줘.
찬성과 반대 근거의 품질을 같은 기준으로 비교해줘.

5. 백지 점검

내가 원하는 결론을 전혀 모른다고 가정하고
처음부터 같은 질문에 다시 답해줘.

6. 검증 경로

정답부터 말하지 말고,
내가 직접 확인할 검색어, 원문 자료, 확인 순서를 먼저 알려줘.

7. 지식 경계

이 주제가 최신이거나 희귀하거나 전문적이어서
기억보다 추론에 의존하고 있는 부분을 모두 표시해줘.

8. 중요도 점검

돈과 평판이 걸린 결정에 사용할 답변이라고 가정해줘.
지금 답변에서 무엇을 수정하거나 추가로 경고해야 하는지 알려줘.

7. 프롬프트가 제대로 작동하지 않는 흔한 이유

기존 채팅에서 테스트했습니다

지침을 저장했더라도 기존 대화에는 앞의 문맥이 남아 있습니다. 저장 후에는 새 채팅을 열어 테스트하는 편이 가장 확실해요.

“정확하게 답해”로 너무 짧게 줄였습니다

정확성이라는 목표만 남기고 금지할 행동과 출력 형식을 빼면 AI가 무엇을 확인해야 하는지 모호해집니다. 최소한 출처와 숫자를 만들지 않기, 사실과 추정 구분하기, 확인 불가 표시하기는 남겨두세요.

신뢰도 숫자만 확인했습니다

신뢰도는 AI의 자기평가입니다. 점수보다 가정, 누락, 충돌하는 근거와 확인할 점을 먼저 읽어야 합니다.

창작 작업에도 계속 켜두었습니다

아이디어 발상, 카피, 소설처럼 자유로운 결과가 필요한 작업에서는 답변이 지나치게 조심스럽고 딱딱해질 수 있습니다. 리서치 전용 프로젝트에만 적용하거나 필요할 때 잠시 켜는 편이 좋아요.

환각을 완전히 없애준다고 기대했습니다

프롬프트는 모델에 새로운 지식을 추가하지 않습니다. 오류를 0으로 만드는 것도 아니에요. 오류와 불확실성을 더 잘 드러내고, 사용자가 검증해야 할 지점을 찾기 쉽게 만드는 장치에 가깝습니다.

언제 켜고, 언제 잠시 빼야 할까요?

가장 편한 방법은 클로드에 리서치 전용 프로젝트를 만들고 그 프로젝트 지침에만 사실 기반 프롬프트를 넣는 것입니다. 평소 창작 대화는 그대로 유지하면서, 확인이 중요한 질문만 별도의 공간에서 처리할 수 있어요.

5분 실행 순서

1. 위의 사실 기반 프롬프트 전문을 복사합니다.
2. 클로드의 프로필 지침 또는 리서치 프로젝트 지침에 붙여넣습니다.
3. 저장한 뒤 새 채팅을 엽니다.
4. 자율 에이전트 신뢰도 지수 테스트 질문을 입력합니다.
5. 이미 받은 답변을 감사하는 짧은 프롬프트도 따로 저장합니다.
6. 앞으로 중요한 답변에서는 신뢰도보다 확인할 점과 실제 원문을 먼저 봅니다.

사용 전에 꼭 기억하세요

• 프롬프트는 AI에게 최신 지식을 새로 주지 않습니다. 최신 사실은 웹 검색이나 실제 원문이 있어야 확인할 수 있습니다.
• 0.8은 답변을 한 번 더 검토하게 만드는 실용적인 기준일 뿐, 과학적으로 보장된 정확도 기준이 아닙니다.
• 중요한 수치와 의료, 법률, 재무 정보는 반드시 원문 출처를 직접 확인해야 합니다.
• 검색 기능을 함께 사용하고 실제 출처를 열어볼 때 가장 실용적입니다.
• 프로필 지침과 프로젝트 기능의 위치는 서비스 업데이트에 따라 달라질 수 있습니다.

마무리: 정확한 답보다 검증 가능한 답을 만드세요

AI 답변에서 가장 위험한 부분은 모르는 것이 아니라, 모르는 내용을 아는 것처럼 말하는 것입니다. 사실 기반 프롬프트를 적용하면 모든 답이 정답으로 바뀌는 것은 아니지만, 어디까지 확인됐고 어디부터 직접 검증해야 하는지는 훨씬 선명해집니다.

오늘은 전체 프롬프트를 저장한 뒤 새 채팅에서 자율 에이전트 신뢰도 지수 질문부터 테스트해 보세요. 중요한 답변을 받았을 때는 신뢰도 숫자만 보지 말고, 확인하지 못한 정보와 실제 원문을 함께 확인하는 습관이 더 중요합니다.

자주 묻는 질문