가상과 현실의 경계

  우리는 몇 년 전 알파고 대 이세돌의 대국으로 AI가 바둑과 같은 복잡하고 다각적인 방법으로 정보를 처리하는 것이 가능해졌음을 직접 눈으로 확인한 바 있다. 근래 AI의 발전으로 Chat GPT나 Gemini 같은 AI 서비스가 대중화되었다. 스마트폰과 PC 등에 온 디바이스 AI 기능을 탑재한 제품들도 늘어나는 추세이다.

  AI 에 대한 접근성이 편리해지면서 AI를 통한 영상, 이미지, 텍스트 등이 온라인 상에 범람하고 있다. 우리는 어떤 것이 진짜고 어떤 것이 가짜인지 스스로 분별하는 능력이 더 중요해진 시대를 맞이한 것이다.

 

우크라이나와 미국 간 정상회담 이후 제작된 AI 가짜 영상

  최근 우크라이나와 미국의 소득이 없었던 정상회담에서 젤렌스키가 트럼프의 얼굴에 주먹을 날리는 AI 딥 페이크 영상이 퍼진 적이 있다. 모 방송사에서는 이 페이크 영상을 실제 일어난 사건으로 오인해 기사를 썼다가 정정한 일도 있었다. 현재는 해당 유튜브 영상과 제목이 수정되어 있고 이전 기사를 찾을 수가 없었으나, 이 영상의 댓글에서 많은 사람들이 AI 영상을 구분하지 못한 기자와 방송사를 비판하고 있다.

 

<공개 굴욕 당한 젤렌스키, 트럼프에 주먹질?…선넘은 'AI 가짜 영상' 후폭풍>

https://www.youtube.com/watch?v=FvsNnuGW0uE

 

  얼굴이 알려진 연예인이나 유명 인사들이 주식 종목에 대한 투자나 제품 광고 등의 허위 광고에 얼굴과 목소리가 도용되는 피해를 입는 사례도 있다. 유튜브 등에서 모두가 알 만 한 연예인이 어색한 얼굴과 목소리로 보통 때라면 하지 않았을 것 같은 광고를 하고 있는 것을 보고 직감적으로는 AI 영상임을 알았지만, 교묘하게 실제와 닮은 영상을 시청했던 것이 떠오른다.유명인들의 얼굴 도용도 문제지만, 유명인이 가진 신뢰도를 믿고 주식 종목에 투자한 사람들이 재산에 피해를 입는 사건으로 이어지기도 했다.

 

<연예인 믿었는데 '딥페이크'…억대 피해자들 "중국 의심">

https://news.sbs.co.kr/news/endPage.do?news_id=N1007488703

연예인 믿었는데 '딥페이크'…억대 피해자들 "중국 의심"

 

  목소리의 위·변조는 유명인 뿐만 아니라 우리와 같은 평범한 일반인에 대해서도 이루어지고 있다. 짧은 통화에서 사람의 목소리 데이터를 수집해서 그 사람의 연락처에 있는 부모님이나 지인에게 AI로 생성된 목소리를 통해 보이스피싱을 시도하는 것이다.

 

<'절대 먼저 말하면 안 돼'...낯선 번호로 온 전화, 순식간에 베낀 정보 [지금이뉴스] / YTN>

https://www.youtube.com/watch?v=luGm_XR60GQ

 

  영화 매트릭스(1999)는 무려 26년 전에 오늘날 발생하는 일련의 사건들을 예견이라도 한 듯이 AI에 지배당하고 있는 인류, 그리고 프로그래밍된 가상의 세계를 자각하지 못하는 인간들이 AI의 에너지원으로써 착취당하는 세계관을 영화 속에서 그려냈다.

 

  점점 더 교묘해지고 실제에 가까워진, 어쩌면 실제보다 더 실제 같아진 가상 현실에 잠식되지 않으려면 어떤 내용이든 정확한 출처를 확인하고 사실을 확인하려는 부단한 노력이 필요할 것이다.