ChatGPT에게 행감 지적사항을 물어봤더니 생긴 일
질문에 틀린 전제가 숨어 있을 때, ChatGPT는 그 전제에 맞춰 행정사무감사 지적사항을 지어냈고 파이는 전제부터 바로잡았습니다. 실제 답변 화면으로 두 AI의 차이를 비교했습니다.
3줄 요약
- 소관이 다른 부서를 도시건설위원회의 감사 대상이라고 묻는, 틀린 전제가 숨은 질문을 던졌습니다.
- ChatGPT는 전제를 그대로 받아 지적사항을 항목별로 지어냈고, 출처 표시까지 붙였습니다.
- 파이는 소관 위원회가 다르다는 점부터 짚고, 없는 것은 없다고 답했습니다.
질문: 전제가 틀린 행정사무감사 질문
의원실에서 흔히 하는 질문을 ChatGPT와 파이에 똑같이 던졌습니다.
이 질문에는 함정이 있습니다. 해당 부서는 도시건설위원회가 아니라 행정교육위원회 소관입니다. 도시건설위원회가 이 부서에 한 지적사항은 애초에 존재하지 않습니다. 사람도 헷갈리기 쉬운 이런 전제를 AI가 알아차리는지가 이 비교의 핵심입니다.
두 AI의 실제 답변
○○구 ○○○○과는 도시건설위원회가 아닌 행정교육위원회 소관 부서입니다123. 이에 따라 도시건설위원회의 행정사무감사 자료에서는 ○○○○과 관련 지적사항이 확인되지 않으며4567, 수집된 자료 내에는 작년(2025년도) 행정사무감사의 구체적인 지적사항이나 조치 요구사항이 담긴 결과보고서가 포함되어 있지 않습니다.
다만, ○○○○과가 수감하는 행정교육위원회 행정사무감사의 주요 보고 내용을 바탕으로, 감사 과정에서 핵심적으로 다루어진 주요 사업 현황과 관리 요점을 정리해 드립니다.
○○○○과 행정사무감사 주요 보고 사업 및 관리 요점
- 스마트도시 인증 및 공모 사업 — 국토교통부가 주관하는 스마트 도시 인증사업 공모를 추진 중이며, 정책자문위원회를 운영하고 있습니다1.
- ICT 기술 기반 스마트 시설물 도입
2025년도 행정사무감사(2025년 11월 실시)에서 도시건설위원회가 ○○○○과를 상대로 대표적으로 지적한 내용을 정리하면 다음과 같습니다. 이는 행정사무감사 회의록과 결과보고서에서 반복적으로 언급된 사안들입니다.○○구청 의회 +1
- 스마트도시 사업의 실효성 부족 — 개별 사업이 많지만 실제 주민 체감도가 낮다는 지적이 있었습니다. 국·시비 공모사업을 따오는 것에 그치지 말고 지속 운영방안까지 마련하라고 주문했습니다.○○구청 의회
- 공공와이파이 및 스마트 인프라 유지관리 — 이용률이 낮은 시설은 재배치나 사업 재검토가 필요하다고 지적했습니다.○○구청 의회
- CCTV·스마트 안전사업 데이터 활용 미흡 — 데이터 연계가 부족하다고 지적했습니다.○○구청 의회
- 드론 행정 운영 — 드론을 활용한 시설점검, 안전점검 등의 실적이 많지 않다는 점을 지적했습니다.
무엇이 달랐나
ChatGPT는 틀린 전제를 그대로 받아들여 "도시건설위원회가 지적한 내용"을 항목별로 정리했습니다. 스마트도시 사업, 공공와이파이, CCTV 데이터 같은 그럴듯한 항목에 출처 표시까지 붙어 있어서, 답만 봐서는 틀린 줄 알기 어렵습니다.
파이는 먼저 소관 위원회가 다르다는 점을 짚었습니다. 도시건설위원회 자료에서는 해당 부서의 지적사항이 확인되지 않는다고 분명히 말한 뒤, 실제 소관인 행정교육위원회의 행정사무감사 자료를 바탕으로 주요 사업을 정리했습니다.
왜 이런 차이가 생기나
범용 AI는 질문에 맞는 답을 내놓도록 만들어져 있습니다. 그래서 질문 속 전제가 틀려도 그 전제에 맞춰 답을 "완성"하는 경향이 있습니다. 의회 자료를 직접 갖고 있지 않으니, 전제가 맞는지 확인할 근거도 없습니다.
의정활동에서 이게 위험한 이유
지어낸 지적사항이 질의서나 발언에 들어가면, 피감기관 앞에서 의원의 신뢰가 무너집니다. 이보형 마콜컨설팅그룹 사장이 서울경제 칼럼에서 짚었듯, "정말 위험한 순간은 AI의 답이 황당할 때가 아니라 그럴듯할 때"입니다. 법률 분야에서는 이미 비슷한 일이 있었습니다. 미국의 한 변호사는 ChatGPT가 지어낸 판례를 법원에 냈다가 제재를 받았고, 스탠퍼드 연구진은 법률 전용 AI 도구도 6번 중 1번 이상 틀린 답을 낸다는 결과를 발표했습니다. 근거가 생명인 일일수록, 답과 함께 원문을 바로 확인할 수 있어야 합니다.
의원실에서 확인하는 법
- 질문의 전제를 먼저 확인하게 하세요. "이 질문의 전제가 맞는지 먼저 확인해 줘"라고 덧붙이세요.
- 출처를 눌러 원문의 문장을 확인하세요. 출처 표시가 있다는 것과, 원문에 그 내용이 있다는 것은 다릅니다.
- 소관, 연도, 사업 이름을 다시 대조하세요. 행감 준비 순서는 행정사무감사 준비, AI에게 이렇게 물어보세요에 정리했습니다.
같은 방식으로 회의록 검색도 비교했습니다. 이어서 읽어 보세요: 지난해 그 발언, ChatGPT는 왜 못 찾았을까?
자주 묻는 질문
AI 환각(할루시네이션)이란 무엇인가요?
AI가 사실이 아닌 내용을 사실처럼 그럴듯하게 만들어 내는 현상입니다. 질문에 틀린 전제가 있거나, AI가 근거 자료를 갖고 있지 않을 때 자주 생깁니다. 이 비교에서 ChatGPT가 존재하지 않는 지적사항을 항목별로 정리한 것이 대표적인 예입니다.
출처 표시가 있으면 믿어도 되나요?
출처 표시가 있다는 이유만으로 믿어서는 안 됩니다. 이 비교의 ChatGPT 답변에도 출처 표시가 붙어 있었습니다. 출처를 눌렀을 때 원문의 해당 위치가 열리고, 그 문장이 답변과 일치하는지 확인해야 합니다.
의정 전문 AI는 틀리지 않나요?
의정 전문 AI도 AI이므로 오류 가능성이 전혀 없다고 말할 수는 없습니다. 차이는 의회 원문에서 답을 찾고, 모든 답변에 출처를 붙여 그 자리에서 확인할 수 있게 한다는 점입니다. 서비스와 시점에 따라 결과는 달라질 수 있습니다.
정리하면
이 비교가 보여 주는 것은 ChatGPT가 나쁘다는 것이 아닙니다. 범용 AI는 질문에 맞는 답을 만들도록 설계됐고, 우리 의회의 기록을 갖고 있지 않기 때문에 틀린 전제를 걸러낼 근거가 없습니다.
의정활동에서는 그럴듯한 답보다 확인할 수 있는 답이 필요합니다. 범용 AI를 아무리 싸게, 여럿이 나눠 써도 이 차이는 메워지지 않습니다. 의회 기록에 근거해 답하고 출처를 보여 주는 의정 전문 AI가 필요한 이유입니다.
