챗GPT가 만약 해킹된다면? ChatGPT와 정보 유출 우려

챗GPT가 만약 해킹된다면? ChatGPT와 정보 유출 우려

보안 전문가들은

'챗GPT 등 생성형 AI의 보안 위협 대응방향 모색을 위한 현장토론회'이라는 행사에서 OpenAI, 즉 ChatGPT를 개발한 회사가 해킹될 가능성을 완전히 배제해서는 안 된다고 강조했습니다. ChatGPT와 같은 생성AI를 사용하여 개인 및 기업의 기밀 정보가 유출될 수 있다는 설명이 나왔습니다. ChatGPT 기술을 공급하고 방대한 양의 정보를 수집하는 AI 개발자가 해킹되면 정보 유출 가능성이 생길 수 있다는 것입니다. 이는 생성AI를 사용할 때 정보 유출 가능성을 다시 한번 상기시키는 언급입니다.

 

반응형

 

이날 정보 보안 업체, 학계 및 관련 기관의 전문가들은 최근 이슈인 ChatGPT와 같은 생성AI 서비스의 보안 위협 동향 및 산업적 파급효과를 공유하고, 국가 수준에서의 보안 위협에 대응하기 위한 방향을 논의하기 위해 모였습니다.

 

정일옥 과장은 "ChatGPT를 통해 시스템 코드에 대한 전문 지식이 부족한 해커들조차도 취약점을 쉽게 찾아내고 악용할 수 있으며 대량의 피싱 이메일을 손쉽게 생성하고 수정할 수 있다"며 ChatGPT 남용 사례를 공유했습니다.

 

정책위원 정일옥은 "ChatGPT의 개발자인 OpenAI가 해킹당하거나 공개적으로 ChatGPT에 설정된 제한을 우회하는 DAN(Do Anything Now, Do Anything Now)을 공격자가 사용하면 개인 및 기업의 정보가 유출될 수 있다"고 말했습니다.

 

OpenAI는 ChatGPT에 입력된 콘텐츠와 전 세계의 개인, 기관 및 기업의 질문을 학습 데이터로 수집하며, 해킹되면 통제할 수 없는 피해가 발생할 수 있습니다. 이에 보안 전문가들은 언어 모델 서비스 제공업체 자체의 보안을 강화하고 생성AI 모델의 보안을 확보하는 것이 필요하다고 지적합니다.

 

 

사실, 작년 3월에는 ChatGPT를 사용하는 일부 사용자가 다른 사용자의 대화 기록을 볼 수 있는 버그가 발견되었습니다. 또한 OpenAI 측이 구독 확인 이메일을 잘못 보낸 결과 사용자의 이름, 이메일 주소, 결제 주소 및 신용카드 번호 마지막 4자리가 약 9시간 동안 노출되었습니다. 그 이후로 이탈리아 정부는 '정보 보호'라는 이름으로 ChatGPT에 대한 접근을 차단했지만 OpenAI의 보안 조치 이행을 확인한 후 접근을 재개했습니다.

이날 참석한 기업 보안 전문가들은 기업에서 ChatGPT를 사용할 때 '정보 유출'을 가장 큰 보안 위협으로 지목했습니다.

 

LG CNS 보안 사업 담당 광규복은 "입문자 해커의 진입 장벽이 낮아지는 문제도 있지만 기업 관점에서는 ChatGPT를 통해 소스 코드나 특정 핵심 자산이 수집되고 유출되거나 고객 개인 정보가 유출되는 것도 문제"라며 강조했습니다. 광규복 과장은 "국내 대기업들과 마찬가지로 ChatGPT 사용을 허용하지 않거나 ChatGPT에서 수집한 데이터를 걸러내는 모니터링 도구를 사용하는 수준으로 대응하고 있다"고 말했습니다.

 

KT의 보안 기획 담당 박환석 이사는 "KT는 지난 4월 초 ChatGPT 사용에 대한 '십계명령'을 내부에서 작성하고 직원들에게 배포하여 KT가 공격을 위해 ChatGPT를 사용하지 않도록 확인하고 있습니다."라며 사용된 소스 코드가 KT를 공격하는 데 사용되지 않도록 하기 위한 조치를 취하고 있다고 밝혔습니다. 박 이사는 "KT에서는 ChatGPT를 독점적으로 사용하기 위해 MS와 협력하고 있습니다"라고 덧붙였습니다.

 

 

정부는 ChatGPT 보안, 새로운 산업 및 융합 보안과 같은 최신 국내외 이슈에 대응할 수 있는 연구 및 개발(R&D)을 촉진할 계획입니다. 이를 통해 생성AI를 기반으로 한 새로운 보안 위협 대응 기술, 생성AI 모델 보호 기술 및 생성AI를 활용한 보안 기술 개발이 촉진될 것입니다.

 

제2차관 박윤규는 "ChatGPT와 같은 생성AI 기술이 더욱 발전하고 우리의 일상 생활에서 널리 사용될 것을 고려하면 보안 위협에 대한 우려에 대응하는 노력이 필요하다"며 "정부는 생성AI를 더 안전하게 사용하기 위한 대응 방안을 모색하기 시작할 것"이라고 말했습니다.

 

생성AI를 사용하는 것은 고객 서비스 분야에서 실시간으로 대화하는 챗봇을 구현하는 데 사용될 수 있습니다. 이를 통해 고객은 24시간 언제든지 질문을 할 수 있고, 문제를 해결하거나 정보를 얻을 수 있습니다. 이는 기업의 작업 효율성을 향상시키고 고객 만족도를 높이는 데 도움이 될 수 있습니다.

 

그러나 생성AI의 보안 위협은 개인 정보 및 기업 기밀 정보의 유출과 같은 심각한 결과를 초래할 수 있습니다. 해커들은 취약점을 찾고 악용할 수 있으며, 해킹된 AI 개발자나 규제를 우회하는 도구를 사용할 수도 있습니다. 따라서 생성AI 서비스 제공업체와 AI 모델 자체의 보안 강화가 필요합니다.

 

앞으로는 생성AI 기술의 발전과 보안 위협 대응을 위한 연구 및 개발이 확대될 것으로 기대됩니다. 보다 안전하고 신뢰할 수 있는 생성AI의 발전은 기업과 개인의 일상 생활에 혁신을 가져올 것입니다.

https://typenine9.tistory.com/162

2025년까지 한반도에서 전쟁 가능성은? ChatGPT가 예측하는 그 결과는?

https://typenine9.tistory.com/161

ChatGPT | 챗GPT가 분석한 2030년 세계박람회 개최 국가는?

https://typenine9.tistory.com/200

ChatGPT | 수익 창출을 위한 콘텐츠 작성 방법과 전문성 구축

https://typenine9.tistory.com/186

ChatGPT | 한국 AI 교육 협회 AI 융합 아카데미: ChatGPT로 선도하는 AI 교육의 미래