안녕하세요, 리키입니다. 요즘 인공지능(AI) 기술이 정말 빠르게 발전하고 있는데, 이 기술을 사용하면서 우리가 생각했던 것보다 더 심각한 문제가 생기고 있더군요. 오늘은 챗지피티나 제미나이 같은 생성형 인공지능이 어떻게 개인 정보를 노출하는지 그 사례와 우리가 어떻게 대응해야 할지에 대해 이야기해 보겠습니다.
최근 여러 사례를 보면, AI 챗봇이 이용자의 질문에 실제 전화번호나 집 주소 같은 민감한 개인 정보를 그대로 노출하는 경우가 발생하고 있습니다. 예를 들어, 구글 제미나이가 고객센터 안내 과정에서 개인의 휴대전화 번호를 알려주거나, 연구자들의 연락처를 제공하는 식의 사례가 확인되었더군요. 이는 특정 서비스에만 국한된 문제가 아니라, AI가 정보를 처리하는 과정에서 개인 정보가 쉽게 유출될 수 있다는 것을 보여줍니다.
챗지피티에서도 비슷한 문제가 발생했습니다. 학생들이 교수의 정보를 요청했을 때, 처음에는 거절하다가 추가적인 단서를 요구하는 과정을 거쳐 결국 자택 주소나 주택 매입 가격 같은 민감한 정보를 제시한 사례가 있습니다. 이러한 현상은 AI가 학습한 방대한 데이터 속에 이미 개인 정보가 포함되어 있기 때문에 발생하는 것으로 보입니다. 전문가들은 이러한 문제가 드문 일이 아니며, 대규모 언어 모델(LLM) 학습 데이터에 포함된 개인정보가 주요 배경일 가능성이 크다고 지적하고 있습니다.
이러한 문제에 대해 기업들도 각기 다른 대응을 하고 있습니다. 구글이나 오픈AI 같은 회사들은 개인정보 삭제 요청 절차를 안내하고 있지만, 법적인 사유가 있을 경우 요청을 거절하기도 합니다. 당장 현실적인 대응책으로는, 개인정보가 AI 학습 데이터로 수집되기 전에 공개 웹에서 먼저 정보를 삭제하는 것이 가장 현실적이라는 의견이 많습니다. 하지만 이미 학습된 정보는 나중에 다시 나타날 가능성이 있다는 우려도 존재합니다.
결국 앞으로는 AI 기술을 사용할 때 개인정보 보호에 더욱 신경 써야 할 시점인 것 같습니다. AI가 인건비를 줄여주는 자동화의 이점도 크지만, 그 과정에서 개인정보가 안전하게 보호되는지 확인하는 것이 중요하죠. 여러분도 AI를 사용하실 때 자신의 정보가 어떻게 처리되는지 한 번 더 생각해 보시는 것이 좋겠습니다.
참고 원문: https://www.digitaltoday.co.kr/news/articleView.html?idxno=665801
