챗GPT를 사용하면서 정말 사적인 것까지 질문을 하곤 했다.
사는 곳 주소를 적기도 하고, 이름과 생년월일을 입력하기도 했다. 더 상세한 질문을 하면 그에 따른 결과가 나오기에 자세하게 물어보고자 하다 보니 개인정보도 서슴없이 사용하고 있었다. 그러다가 이런 질문이 생겼다. 챗GPT가 나의 개인정보도 학습하고 있는 게 아닐까?
오늘날의 디지털 세상에서 개인 정보는 귀중한 상품이며 이를 보호하는 것이 가장 중요하다. 하지만 안타깝게도 데이터 위반 및 정보 유출이 너무 자주 발생하여 개인이 신원 도용 및 기타 유해한 결과에 취약해지는 사례가 늘어나고 있다. 이러한 상황 속 최근 ChatGPT의 개인정보 유출에 대해 많은 관심이 모아지고 있다.
이런 우려는 기업에서도 나타났다.
삼성전자, 쿠팡과 같은 일부 회사가 조직 내에서 ChatGPT 사용을 금지하였다. 또한 ChatGPT 사용 시 발생할 수 있는 정보 유출 가능성에 대해 주의를 기울이는 업체가 늘고 있는 것으로 전해졌다. 미국에서 Amazon과 같은 회사는 이미 직원들에게 ChatGPT에 민감한 정보를 입력하지 말라고 조언했다. 이것은 ChatGPT와 같은 언어 모델 사용과 관련된 잠재적 위험과 민감한 정보를 보호하기 위한 적절한 보호 장치의 필요성에 대한 우려가 커지고 있음을 강조하는 대목이다.
기업들이 이렇게 정보 유출에 우려하는 가장 큰 이유는 바로 이는 초거대 AI인 GPT가 웹에 있는 정보를 학습했지만, 어떤 정보를 학습했는지를 오픈AI가 정확하게 밝히지 않고 있기 때문이다. 이에 오픈 AI의 최고경영자(CEO)인 샘 알트먼이 최근 GPT가 사용자 정보를 어떻게 학습하고 있는지에 대해 입을 열었는데, 결론은 오픈 AI가 ‘한동안’ 유료 고객의 데이터로 GPT를 학습시키지는 않았다는 것이었다.
문제는 샘 알트먼이 앞으로
사용자들의 정보를 학습하지 않겠다고 한 것도 유료 고객에게만 해당한다고 하는 점이다. 업데이트한 약관에 보면 API(응용 프로그램 인터페이스) 이외의 서비스에서 콘텐츠를 사용할 수 있다,고 돼 있기 때문이다. 이는 유료로 API를 사용하는 고객이 아닌, 챗GPT를 이용하는 사용자들의 정보는 학습할 수 있다는 뜻이기도 하다. 그러니까 정보 유출이 고민이라면 돈을 내고 GPT의 API를 사용하라는 말이 될 수도 있겠다.
GPT와 같은 AI에 대한 우려가 커질 수록 오픈 AI의 CEO인 샘 알트먼의 해명과 언급도 늘어나고 있는 것이라는 분석도 나오고 있다. 미국에서는 생성형 AI의 규제가 본격화했다. 백악관이 직접 나서 말이다.
우리 정부도 AI를 통한 정보유출 등을 심각하게
바라보고 있긴 하지만, 우리의 경우 아직 한국어 서비스가 본격화하지 않아 규제나 논의 등에는 시간이 걸릴 것으로 본다.
개인정보위원회는 우선 오픈AI의 GPT가 우리 국민의 개인정보를 얼마나 학습했는지를 파악 중이라고 하는데 다만, 오픈 AI에 질의를 한 번 보내면 답변받는 데만 며칠 이상의 시간이 걸리고 그 답변마저도 충분치 않다는 얘기가 나오고 있다.
단순한 서비스를 넘어 여러 분야에서 우리 직업까지 대체할 것으로 우려되는 생성형AI. 우리의 정보를 어디까지 허용해야 할지 염려된다. 미국에서는 영화와 드라마 등 엔터테인먼트 업계에서 생성형 AI를 사용하지 말아야 한다는 목소리가 커지고 있다고 한다. 미국 작가 협회는 영화 스튜디오 등과 협상이 결렬된 후 파업도 시작하고 있다.
기술이 일상 생활에서 중요한 역할을 하는
오늘날의 세계에서 개인 정보 보호는 그 어느 때보다 중요해졌다. 데이터 유출과 사이버 공격이 점점 보편화되면서 우리의 민감한 정보가 잘못된 손에 들어가는 것에 대해 걱정하는 것은 당연한 일이다.
필자는 기업이 사용자의 개인 정보 보호에 대한 책임을 지고 데이터 유출을 방지하기 위해 강력한 보안 조치를 구현해야 한다고 생각한다. 그러나 개인으로서 우리는 강력한 암호 사용, 공용 Wi-Fi 네트워크 피하기, 온라인에서 개인 정보 공유에 주의하는 등 데이터를 보호하기 위한 조치를 취할 수도 있다.
전반적으로 기업은 이용자의 안전과 사생활을 최우선으로 생각하고 개인정보가 유출되지 않도록 적절한 조치를 취하기를 바란다. 본인은 개인 정보 보호를 위해 계속해서 주의를 기울이고 필요한 예방 조치를 취해야겠다.
