생성형 AI에 입력된 정보는 전송되어 제3자의 서버에 저장되고, 학습에 활용되며, 미래에 예상치 못한 형태로 이용될 가능성이 있습니다. 이 글에서는 먼저 입력해서는 안 되는 8가지 정보를 명확히 밝힌 뒤, AI를 사용하는 데 있어 눈에 잘 띄지 않는 위험에 대해 설명하겠습니다.
1. 개인정보 및 기밀 정보
ChatGPT에 개인정보를 입력하는 것은 정보 유출 뿐만 아니라, 정보가 자신의 통제 범위를 벗어나게 된다는 중대한 위험을 수반합니다.
비록 AI가 ‘기억하지 않는다’ 고 알려져 있더라도, 기술적으로는 로그가 남을 가능성이 있어 완전한 삭제는 보장되지 않습니다.
【입력해서는 안 되는 예시】
종류와 구체적인 정보 예시
| 개인정보 | 성명, 주소, 전화번호, 이메일 주소 |
| 금융 정보 | 신용카드 번호, 계좌 정보 |
| 업무 기밀 | 고객 데이터, 사내 자료, 계약서 내용 |
2. 미공개 정보·최첨단 정보·공개 전 제품 정보
기업이나 연구 기관이 보유한 미공개 정보나 개발 중인 제품·기술에 관한 정보는 ChatGPT 등의 AI에 입력해서는 안 됩니다.
이러한 정보는 다음과 같은 이유로 특히 신중한 취급이 요구됩니다:
기밀성이 높고, 외부 유출로 인한 피해가 크다
계약이나 법령에 따라 비밀 유지 의무가 부과된 경우가 있음
AI의 학습 데이터로 재사용될 가능성이 있음
정보의 유통 경로가 불투명하여, 장래에 예상치 못한 형태로 노출될 가능성이 있음
입력해서는 안 되는 미공개 정보의 예:
| 제품 개발 정보 | 출시 전 사양, 설계도, 시제품 단계의 기술 |
| 연구 성과·기술 정보 | 논문 미발표 데이터, 특허 출원 전 기술 |
| 비즈니스 전략·사내 계획 | 신규 사업 구상, 마케팅 전략, 제휴 내용 |
AI는 편리한 아이디어 도출 도구로 활용할 수 있는 경우도 있지만, 미공개 정보를 다룰 때는 원칙적으로 사내의 안전한 환경에서만 사용해야 합니다.
3. 의료·법률·세무 등의 전문적 판단
ChatGPT는 방대한 정보를 바탕으로 답변하지만, 의료 진단이나 법률 상담, 세무 신고 등의 전문적인 판단을 맡기는 것은 위험합니다.
AI는 자격을 갖추지 않았으며, 책임도 지지 않습니다. 잘못된 정보를 바탕으로 행동하면 건강 피해나 법적 문제로 이어질 가능성이 있습니다. 또한, 이러한 진단 결과 등은 ‘특별히 주의가 필요한 개인정보’에 해당하며, 특히 취급에 주의가 필요한 개인정보입니다.
AI에 맡겨서는 안 되는 영역:
의료: 건강 상태, 증상 진단, 약물 선정
법률: 계약서 해석, 소송 대응
세무: 신고 내용 판단, 절세 조언
전문적인 판단은 반드시 인간 전문가에게 맡겨야 합니다.
4. 긴급 상황 시 정보
재해, 사고, 급성 질환 등 긴급 상황에서 AI에 의존하는 것은 위험합니다. ChatGPT는 실시간 상황을 파악할 수 없으며, 과거의 일반적인 정보를 바탕으로 답변하기 때문에 현장에 맞는 판단을 내릴 수 없습니다.
또한, AI는 ‘책임을 질 수 있는 존재’가 아닙니다. 잘못된 지시를 받고 행동하더라도, 그 결과에 대해 책임을 지는 사람은 아무도 없습니다.
긴급 상황일수록 인간의 판단력과 책임감이 필요합니다. AI는 어디까지나 보조적인 역할에 그치도록 합시다.
5. 저작권 관련 내용
ChatGPT에 “○○의 가사를 사용해”, “유명한 소설의 한 구절을 인용해” 등과 같이 요청하면 저작권 침해로 이어질 가능성이 있습니다.
AI는 기존 작품을 학습하고 있기 때문에 의도치 않게 저작물을 모방할 수 있습니다. 문제는 생성된 콘텐츠가 ‘누구의 것인지’가 모호해진다는 점입니다.
주의해야 할 생성 요청 예시:
유명한 가사의 인용
영화나 소설의 대사 사용
타인의 블로그나 기사 모방
상업적 이용을 고려하고 있다면 특히 주의가 필요합니다.
6. 차별적·공격적인 내용
차별적, 폭력적, 혐오 발언 등의 내용을 AI에 입력하면, 이에 상응하는 부적절한 답변이 생성될 가능성이 있습니다.
AI는 문맥을 완전히 이해하지 못하기 때문에, 악의적인 내용이 그대로 확산되기도 합니다. 한번 인터넷에 올라간 정보는 완전히 지우기 어려우며, 미래에 자신에게 해가 될 가능성도 있습니다.
7. 아동 관련 정보
미성년자에 관한 정보, 특히 이미지, 건강, 교육, 가정 환경 등 민감한 내용은 AI에 입력해서는 안 됩니다.
아동 정보는 장래에 본인의 사생활이나 안전과 관련된 중대한 위험을 내포하고 있습니다.
비록 지금은 문제가 없더라도, 몇 년 후 그 정보가 예상치 못한 형태로 사용될 수도 있습니다. 아동 정보는 특히 신중하게 다루어야 합니다.
8. 감정적인 상담
“힘들다”, “누군가 내 이야기를 들어주었으면 좋겠다”와 같은 감정적인 상담에 대해, AI는 공감을 흉내 낼 수는 있지만 진정한 이해나 지지가 되지는 않습니다.
AI는 감정을 가지고 있지 않으며, 어디까지나 언어 패턴에 따라 응답할 뿐입니다. 또한, 감정적인 내용은 AI의 학습 데이터로 사용될 가능성도 있습니다.
자신의 속마음을 모르는 누군가에게 노출될지도 모른다는 위험을 생각하면, 신뢰할 수 있는 사람에게 상담하는 편이 더 안심입니다.
또한, AI가 더 옳다고 굳게 믿고 가족의 조언을 듣지 않게 된 사례도 있어, 이 점도 주의해야 할 부분일 수 있습니다.
9. 그 외에
9.1 AI의 답변을 과신하는 위험성
ChatGPT의 답변은 어디까지나 참고 정보일 뿐입니다. 정보 출처가 불분명하며, 잘못된 정보나 편향된 데이터에 근거하고 있을 수도 있습니다.
“AI가 말하니까 옳다”고 생각하면 잘못된 의사결정으로 이어집니다.
역설적으로 말하면, AI의 답변이 “올바르게 보일”수록 의심해 봐야 합니다. AI는 “보조 도구”일 뿐, “판단자”가 아닙니다.
9.2 이용 약관 및 윤리관 경시
AI 서비스에는 이용 약관이 있으며, 윤리적 가이드라인도 존재합니다. 이를 무시한 사용은 서비스 정지나 법적 책임뿐만 아니라, 미래의 자신의 신용이나 평가를 훼손할 가능성도 있습니다.
AI는 사회에 영향을 미치는 존재입니다. 그렇기 때문에 사용하는 측에도 책임이 있습니다. ‘지금만 괜찮으면 된다’가 아니라, ‘미래에 어떤 영향을 미칠지’를 생각하며 사용하는 것이 AI와 건전한 관계를 구축하는 첫걸음입니다.
약관은 꼼꼼히 읽어보고 확인합시다.
10. 정리
ChatGPT는 강력한 도구이지만, 입력한 정보가 ‘자신의 손을 떠난다’는 점에 대한 위기 의식이 필수적입니다.
전반부에서는 입력해서는 안 될 구체적인 정보를 명시했고, 후반부에서는 AI와의 관계에서 간과하기 쉬운 위험 요소를 정리했습니다.
이러한 점을 염두에 둔다면, AI를 더욱 안전하게 활용할 수 있지 않을까요?