인공지능(AI) 기술 혁신과 함께 폐해와 그림자도 커진다. 대선을 앞두고 딥페이크 콘텐츠와 가짜뉴스에 대한 우려와 창작자의 저작권 보호와 개인 정보 침해 등의 우려가 커지고 있다.

지난 8일 한국인터넷기업협회 회원사 네이버, 카카오, SK커뮤니케이션즈는 올해 22대 국회의원 선거를 앞두고 '악의적 선거 딥페이크 사용 방지를 위한 공동선언'을 채택했다. 국내 주요 IT 기술 업체의 공동 선언은 이번 선거를 앞두고 악의적으로 사용될 딥페이크 기술 방지를 주요 목표로 한다.

미국에서는 이미 딥페이크 콘텐츠로 정치권이 흔들리기 시작했다. 지난 1월에는 조 바이든 대통령의 목소리를 흉내 낸 전화가 유권자들에게 돌려졌다. BBC 보도에 따르면 지난 6일에는 미국의 한 보수 성향 라디오 매체에서 도널드 트럼프 후보자가 흑인 유권자들과 함께 촬영한 듯 꾸며진 AI 합성 사진을 게시했다.

언뜻봐서는 사진의 진위를 확인하기 어렵다. 흑인 유권자들이 도널드 트럼프 후보자를 지지하는 듯한 모습이다. 유권자들을 노린 이런 생성 이미지는 일부 지지자들에 의해 몰래 퍼져나가고 있다.

지난 2월 뮌헨안보회의(MSC)에서 아마존, 구글, 메타, 마이크로소프트 등 주요 빅테크 기업들이 전 세계 주요 선거를 앞두고 딥페이크 부작용 차단 합의문을 발표했다. 유권자들을 속일 수 있는 이미지, 영상, 음성 등 AI 생성 콘텐츠에 공동 대응하기로 한 것이다.

딥페이크 콘텐츠에 AI 생성 라벨을 붙이고 사용자가 구별할 수 있도록 하며, 딥페이크 콘텐츠를 사전에 차단하는 기술을 공유하는 등의 협의가 오갔다. 빅테크 기업들이 정부 규제 이전에 선제적으로 대응하겠다는 방침을 내놓았지만, 협약이 자율적이며 강제성을 띠지 않는다는 점에서 여전히 딥페이크 콘텐츠의 노출 위험도는 여전히 높은 상황이다.

현재 상용되는 이미지 생성 AI는 대부분 악의적인 사용을 막기 위한 안전장치가 있지만, 음지에서 이를 피하거나 우회하는 방식들이 공유되고 있다. BBC는 특히 이런 생성 AI를 활용이 대선이 치러지는 국가와 적대 관계에 있는 국가에서 적극적으로 활용할 가능성이 크다고 꼬집었다.

지난 11일 엔비디아는 자사 거대언어모델(LLM)의 ‘네모(NeMo)’의 학습에 저작권 보호를 받는 작품을 허가 없이 사용했다는 이유로 소송을 당했다. 엔비디아가 네모 훈련에 저작권이 있는 서적 19만 6,640권을 사용했다는 주장이다.

콘텐츠 저작권자들은 빅테크 기업들과 최근 저작권 소송을 진행 중이다. 지난 7월 미국의 코미디언이자 작가인 사라 실버맨은 오픈 AI와 메타를 상대로 저작권 침해 소송을 제기했다. 저작권이 있는 서적을 챗 GPT 학습 자료로 사용하는데 동의하지 않았다고 말했다.

그뿐만 아니라 지난 12월에는 뉴욕타임즈가 오픈AI를 상대로 저작권 침해 소송을 냈다. 작가와 언론 등 광범위한 범위에서 AI 훈련에 저작권 침해 소지가 확인된다는 주장이다. 여기에 최근 이탈리아는 오픈AI가 공개한 텍스트-비디오 모델 소라의 데이터 처리 방식 조사를 시작했다.

지난 8일 블룸버그에 따르면 이탈리아 개인정보 보호기구 가란테는 오픈 AI에게 소라에 대한 정보 제공을 요청했다. 데이터 학습과 수집 방법 방식과 또 서비스 출시 시기에 유럽 데이터 보호 규정 준수 여부도 확인을 요청했다. 창작자의 저작권 침해는 물론 개인 정보를 무단으로 수집했는지도 확인하고자 한다.

AI 기술 발전은 딥페이크와 가짜뉴스 그리고 저작권 침해와 개인정보 보호 등의 광범위한 분야에 영향을 미치고 있다. 이를 해결하기 위해서는 더욱 철저한 대책과 협력이 필요하다. 업계와 전문가들은 관련 소송과 대책 마련을 위한 관련 법 제정에 목소리를 내고 있다.