AI 윤리 칼럼 · 01
생성형 AI 정보유출, 해킹이 아니었습니다
한국준법윤리교육원 대표 임보란
지난주, 생성형 AI 정보유출 사고가 또 한 번 확인됐습니다. 구글 검색창에 특정 검색어를 입력하자 기업 내부 기획 문서와 법률 상담 내용이 그대로 떴습니다. 누군가 서버를 뚫은 것이 아닙니다. 그 대화를 나눈 사람이 AI 화면에서 ‘공유’ 버튼을 한 번 눌렀을 뿐입니다.
무슨 일이 있었나
2026년 7월, AI 챗봇 ‘클로드(Claude)’의 공유 대화 페이지 수백 건이 구글 검색 결과에 그대로 노출됐습니다. 한 커뮤니티 이용자가 검색 연산자를 이용해 원본 링크 없이도 타인의 대화에 접근할 수 있다는 사실을 발견하며 알려졌습니다.
원인은 공유 페이지에 검색 색인을 차단하는 태그가 적용되지 않았던 점이었습니다. 노출된 대화에는 암호화폐 지갑 키, 의료 기록, 기업 내부 문서, 아동의 이름과 연락처까지 포함돼 있었던 것으로 외신은 전했습니다.
대화뿐 아니라 AI가 생성한 문서·코드·업무 노트 형태의 결과물도 함께 노출됐습니다. 운영사는 즉시 조치했지만 일부 링크는 여전히 살아 있었고, 다른 검색엔진에는 한동안 흔적이 남았습니다.
유출 경로
해킹 없이 유출되는 다섯 단계
1직원이 업무 문서를 AI에 입력
▼
2AI가 요약·초안 등 결과물 생성
▼
3동료에게 보내려 ‘공유’ 클릭
▼
4공개 웹페이지로 게시됨
▼
5검색엔진이 자동으로 수집
이 다섯 단계 어디에도 보안 시스템은 개입하지 않습니다.
▲ AI 대화가 검색 결과에 오르기까지의 경로. 외부 침입은 한 번도 일어나지 않는다.
“AI 회사가 잘못했네”라고 생각하셨다면, 절반만 맞습니다
비공개 대화는 노출되지 않았습니다. 검색된 것은 전부 사용자가 직접 공유 링크를 만든 대화였습니다. 시스템이 뚫린 것이 아니라, 사용자가 문을 열어둔 것입니다.
그래서 이 사고는 남의 일이 아닙니다. 지금 이 순간에도 어느 회사 직원은 AI에게 계약서 초안을 검토시키고, 그 결과를 팀장에게 보내기 위해 공유 링크를 만들고 있습니다. 그 직원은 자신이 사내 문서를 인터넷에 게시하고 있다고 생각하지 않습니다.
방화벽도, 망분리도, 보안 솔루션도
이 유출은 막지 못합니다.
생성형 AI 정보유출, 기업이 실제로 지게 되는 부담 세 가지
하나. 책임은 AI 회사가 아니라 우리 회사에 남습니다
AI 사업자가 사과문을 올려도, 고객 정보를 입력한 주체는 우리 회사입니다. 개인정보보호위원회가 2025년 8월 공개한 「생성형 인공지능(AI) 개발·활용을 위한 개인정보 처리 안내서」는 AI를 개발하는 기업뿐 아니라 모델을 활용해 서비스를 만드는 기업까지 대상으로 삼아, 수명주기 단계별 안전조치를 점검하도록 안내하고 있습니다. AI를 도입한 순간부터 관리 책임은 시작됩니다.
둘. 영업비밀은 ‘공개된 순간’ 자격을 잃습니다
부정경쟁방지법상 영업비밀로 보호받으려면 비밀로 관리되고 있어야 합니다. 검색엔진에 색인된 문서를 두고 “비밀로 관리해 왔다”고 주장하기는 어렵습니다. 유출된 기술 자료가 법적 보호 대상에서 벗어나는 순간, 손해는 회수 자체가 불가능해집니다.
셋. 지워도 사라지지 않습니다
링크를 비활성화해도 검색엔진 캐시와 아카이브 서비스에는 사본이 남습니다. 이번 사고에서도 한 검색엔진에서 정리된 뒤 다른 검색엔진에는 한동안 그대로 남아 있었습니다. 유출은 시점의 문제가 아니라 상태의 문제입니다.
오늘 안에 하실 수 있는 세 가지
01. 공유 링크 전수 점검
임직원에게 각자 사용 중인 AI 서비스의 설정에서 ‘공유한 대화’ 목록을 열어, 필요 없는 링크를 전부 비활성화하도록 공지하십시오. 공유 링크는 만든 사람도 대부분 잊고 있습니다.
02. 자사 노출 여부 확인
검색창에 회사명, 제품명, 담당자명 등 고유 키워드를 넣어 검색해 보십시오. 확인에 5분이면 충분합니다.
03. 입력 금지 목록 한 장
고객 개인정보, 미공개 재무자료, 계약서 원문, 인사 평가 자료, 소스코드. 무엇을 넣으면 안 되는지 한 장으로 정리해 배포하십시오. 규정이 없으면 직원은 판단할 근거가 없습니다.
‘쓰지 마라’가 아니라 ‘이건 넣지 마라’입니다
위의 세 가지는 응급처치입니다. 근본 원인은 따로 있습니다. 이 유출의 마지막 단계가 직원의 클릭이었다는 점입니다. 기술로 통제할 수 없는 위험은 기준과 교육으로만 통제됩니다.
그렇다고 AI 사용을 막는 것은 답이 아닙니다. 회사가 금지하면 직원은 개인 계정으로 씁니다. 그 순간부터 회사는 무엇이 입력되는지 전혀 볼 수 없게 됩니다. 통제력은 금지가 아니라 기준을 세우고 가르치는 데서 나옵니다.
AI를 잘 쓰는 조직과 사고가 나는 조직의 차이는 도구가 아니라 규범입니다. 우리 회사에는 그 규범이 문서로 존재합니까. 그리고 임직원은 그것을 배운 적이 있습니까.
자가진단
우리 회사 AI 사용 리스크 10문항
아래 문항에 ‘예’라고 답할 수 있는 항목이 몇 개인지 세어 보십시오. 3분이면 충분합니다.
01 임직원의 생성형 AI 사용에 관한 사내 규정이 문서로 존재합니까?
02 AI에 입력해서는 안 되는 정보 유형이 목록으로 정의돼 있습니까?
03 임직원이 어떤 AI 서비스를 쓰고 있는지 회사가 파악하고 있습니까?
04 업무에 회사 계정과 개인 계정 중 무엇을 써야 하는지 기준이 있습니까?
05 AI 대화의 공유 링크 생성에 관한 지침이 있습니까?
06 AI가 만든 결과물을 외부에 제출·공개하기 전 검토 절차가 있습니까?
07 고객 정보가 AI에 입력됐을 때의 보고·대응 절차가 마련돼 있습니까?
08 최근 1년 이내 임직원 대상 AI 관련 교육을 실시한 적이 있습니까?
09 신규 입사자 온보딩에 AI 사용 기준이 포함돼 있습니까?
10 AI 관련 사고 발생 시 책임 소재와 보고 라인이 정해져 있습니까?
‘예’ 7개 이상 — 기본 체계는 갖춰져 있습니다. 최신 사례로 내용을 갱신할 시점입니다.
‘예’ 4~6개 — 규정은 있으나 실행이 비어 있는 상태입니다. 사고가 나면 “규정이 있었는데 지켜지지 않았다”가 됩니다.
‘예’ 3개 이하 — 현재 회사는 임직원이 AI에 무엇을 넣는지 통제하지 못하는 상태입니다. 우선순위를 올리셔야 합니다.
한국준법윤리교육원 임직원 교육과정
생성형 AI 실무 : 윤리적 활용과 리스크 매니지먼트
‘AI를 쓰지 말라’고 가르치지 않습니다. 무엇을 넣어도 되고 무엇을 넣으면 안 되는지, 그 기준을 임직원이 실제로 판단할 수 있게 만드는 과정입니다. 준법 교육 16년의 기준과 AI 실무를 함께 다룹니다.
· 기관·기업 맞춤형 오프라인 출강 전용 과정입니다
· 조직의 보안 수준과 업무 환경에 맞춰 커리큘럼을 설계합니다
· 프롬프트 실무 코칭까지 현장에서 함께 진행합니다
일정·커리큘럼 문의는 편하게 남겨 주십시오.
카카오톡 채널로 문의하기 | 010-7465-4230
본 칼럼은 일반적인 정보 제공을 목적으로 작성되었으며, 개별 사안에 대한 법률 자문이 아닙니다. 구체적 사안은 전문가의 검토를 받으시기 바랍니다.