AI 콘텐츠에 워터마크 달린다? 구글, 메타, 오픈 AI등 7개 기업 합의

AI 콘텐츠에 워터마크 달린다?

 

 

 

AI 콘텐츠 안전 대책 합의

 

미국 백악관 주도로 진행된 회의에서 구글, 메타, 오픈AI를 포함한 7개 기업들이 사용자 안전 대책을 적용하기로 합의하였습니다. 이러한 조치로는 인공지능(AI) 기술로 생성된 콘텐츠에 워터마크를 삽입하고 보안 기술 개발에 투자하는 등의 방안이 포함되었습니다. 월스트리트 저널을 비롯한 외국 언론에 따르면, 미국을 대표하는 생성 AI 기업들이 이 회의에 참석하여 합의하였습니다.

 

구글, 메타, 마이크로소프트, 아마존, 오픈AI, Inflation, Anthropic 등 7개 기업이 이 회의에 참가하였습니다. 이들은 인공지능 기술이 가져오는 위험에 대해 공감하며 이러한 자발적인 조치들에 동의하였습니다. 그러나 이러한 조치들이 자발적인 합의이기 때문에, 이들이 약속을 이행하지 않아도 제재를 가할 방법은 현재 없다고 외국 언론은 보도하였습니다.

 

 

조 바이든 미국 대통령은 백악관에서 7개 기업과의 회의에서 "우리는 새로운 기술이 민주주의와 가치에 어떤 위협을 가질 수 있는지 주의해야 합니다"라고 말했습니다.

 

미국을 비롯한 전 세계 많은 나라들이 AI 기술이 가져오는 위험에 대해 큰 우려를 표명하고 있습니다. 특히 오픈AI의 ChatGPT가 전 세계 사람들의 관심을 받으면서, 생성 AI 기술의 부작용 문제가 우려되고 있습니다. 바이든 행정부는 최근에도 주요 기술 기업의 대표자나 노동 및 시민 운동 지도자들과 회담을 통해 AI 기술과 관련된 문제들에 대해 논의하고 있습니다. 또한 AI 기술 개발과 정책 지침에 대한 자금 지원을 확대하는 계획을 발표하기도 했습니다.

 

이러한 계획 중 하나로는 국립과학재단(NSF)에 1억 4천만 달러를 지원하여 국립 AI 연구소(NAIR)를 설립하는 것입니다. 이와 같은 계획 중 하나로 구글, 마이크로소프트, Nvidia, 오픈AI 등이 올해의 Defcon에서 자사의 대용량 언어 모델을 공개적으로 평가하기로 합의한 바 있습니다.

 

반응형

 

민주당 상원 소수당 레이더 척 슈머 상원 수석의원은 지난 5월에 AI 규제를 위한 'SAFE Innovation Framework'를 발표했습니다. SAFE는 보안(Security), 책임성(Accountability), 기반(Foundations), 설명(Explain)을 의미합니다. 이 "SAFE Innovation Framework"의 목표는 미국이 이러한 원칙을 준수하면서 AI 기술의 혁신을 이끌어내는 것입니다.

 

슈머 상원 의원은 구체적인 정책 방안은 제시하지 않았지만, 국가 안보, 취업, 그리고 허위 정보 창조 등에 대한 AI의 해를 규제하는 입법을 추진하라고 당원들에게 촉구했습니다.

 

AI 콘텐츠 합의에 따른 이점

 

사례를 통해 일반 대중에게 소개된 주제의 이점과 우려점을 설명하겠습니다.

이러한 안전 대책 합의는 인공지능 기술의 발전과 함께 사용자들에게 안정감을 제공할 수 있습니다. 예를 들어, AI로 생성된 이미지나 동영상에 워터마크를 삽입함으로써, 그 콘텐츠의 출처나 신뢰성을 확인할 수 있게 됩니다. 이는 정보 전달과 편집의 투명성을 높여줄 수 있습니다. 또한, 보안 기술 개발로 인해 악용 가능성이 줄어들어 개인정보 유출 등의 사례를 예방하는 데 도움이 될 수 있습니다.

 

AI콘텐츠 합의에 따른 우려점

 

하지만 이러한 자발적인 조치들에는 우려점도 있습니다. 자발적 합의이기 때문에 기업들이 이러한 조치들을 지키지 않을 수도 있습니다. 이로 인해 사용자 안전에 영향을 미칠 수 있으며, 특히 인공지능을 악용하여 허위 정보나 디지털 강령의 위험이 커질 수 있습니다.

 

미래 전망 및 기대감

 

미래 전망과 기대를 담아 마무리하겠습니다.

인공지능 기술은 빠르게 발전하고 있으며 우리의 삶에 새로운 가능성을 제공하고 있습니다. 이러한 발전과 함께 AI 기업들이 사용자 안전을 우선시하고, 이에 대한 자발적인 조치들을 취하는 것은 매우 긍정적인 발전입니다. 하지만 이러한 노력이 단순히 합의에만 머물지 않고, 정부와 기업 간의 협력을 통해 강화된 규제와 제재 가능성이 있는 시스템을 구축하는 것이 중요합니다.

 

미국은 "SAFE Innovation Framework"를 통해 안전하고 투명한 AI 기술 개발을 선도하며, 그로 인해 세계적으로 인정받는 리더로서의 역할을 수행할 수 있습니다. 이러한 방향으로 나아가면, AI 기술은 우리의 삶과 사회에 긍정적인 영향을 미치는 데 도움이 될 것입니다. 앞으로 더 많은 협력과 노력으로 인공지능 기술의 잠재력을 최대한 발휘할 수 있기를 기대합니다.

 

https://typenine9.tistory.com/259

인공지능이 인간을 완전히 대체하는 데 50년 걸릴 것으로 예측

https://typenine9.tistory.com/251

챗GPT-4가 멍청해졌다? GPT-4의 지능 저하 문제 제기