AI 가짜 이미지 혼란 : 반면교사 필요성

미 국방부 청사 펜타곤 가짜 이미지 사건

미 국방부 근처에서 폭발이 일어났다는 이미지가 담긴 허위 정보가 미국의 숏 폼 포스팅 사이트인 트위터에서 입 소문을 타면서 뉴욕 시장의 주가가 일시적으로 폭락했던 적이 있습니다. 해당 사진은 국방부 청사와 똑 닮은 건물에서 검은 연기 기둥이 치솟는 사진이었었죠. 거기에 영문으로 작성되는 러시아 해외 선전매체에서도 미국 국방부 청사 펜타곤 근처에서 폭발 사건이 있었다고 전했고 이는 트위터 등을 통해서 사진이 퍼졌었습니다.

전문가들에 따르면 가짜 이미지는 생성 AI(인공 지능)에 의해 만들어진 것으로 보인다고 하였으며, 이 사건은 악의적인 허위 정보가 사회를 어떻게 혼란에 빠뜨릴 수 있는지 보여주는 좋은 예가 되었습니다.

정부 대응 필요성

한국 정부는 이런 사건을 반면교사 삼아 국제 사회와 협력하여 새로운 법률과 규정이 필요한지 시급히 고려해야 할 것으로 생각됩니다. 동시에 모든 시민이 진실과 거짓을 분별하는 능력을 키울 필요가 있을 것으로 생각됩니다.

전문가들은 검은 연기의 가짜 이미지가 진짜처럼 보이지만 건물의 흐릿한 창문과 울타리와 같은 부자연스러운 특징이 있다고 했는데요.
인터넷에서 수 많은 이미지와 문장을 조합하여 학습하는 생성형 AI의 발전으로 전문 지식이 없는 일반 사용자도 쉽게 고정밀 이미지를 만들 수 있게 되었습니다.

AI 가짜 이미지 유사한 일본의 유사 사건

일본의 경우 작년 9 월 시즈오카 현에 막대한 피해를 입힌 폭우 재해로 도시가 물에 잠긴 가짜 이미지가 입소문을 낸 적이 있는데 이도 마찬가지로 위 미 국방부 건물이 연기에 휩쌓이는 사진처럼 퍼져 사람들에게 공포감을 조성한 적이 있었습니다.

생성 AI가 이미지, 비디오 및 텍스트의 정확도를 더욱 향상시킴에 따라 진짜인지 가짜인지 구별하기가 점점 더 어려워질 것은 분명해보이는 상황입니다. 실제로 가짜 영상으로 인해 피해를 입은 경우 현행법은 영업방해, 명예훼손 등 형법이 적용된다고 가정하고 있는 것으로 알고있습니다.

AI 사용에 대한 규칙 제정을 논의하는 일본 정부 전문가 패널인 AI 전략 위원회(AI Strategy Council)는 현행법에 대하여 보다 더 정밀하게 검토할 것을 권고했습니다. 표현의 자유를 충분히 고려하면서 허위 정보에 대한 효과적인 조치를 모색할 필요가 있어보이는 것이죠.

AI 가짜 이미지 촉발한 것들

회의는 또한 진위 여부를 판단하는 소프트웨어 개발과 허위 정보의 유통을 방지하는 메커니즘을 촉진했습니다. 그러나 이를 개발하는데는 수 많은 시간이 걸리고 진화하는 AI와의 개발 경쟁은 불가피합니다. 즉 문화 지체현상이 불가피한 것이지요.

가짜 이미지는 미국 주요 통신사를 사칭하는 가짜 계정을 통해 퍼졌지만 현지 소방서는 “폭발이 발생하지 않았다”고 상황을 진정시키려 했고 소동은 진압되긴 했었습니다.

맺으며

허위 정보에 현혹되어 그릇된 행동을 하지 않기 위해서는 허위 정보를 쉽게 퍼뜨리지 않도록 주의하는 것은 물론이고, 다각도에서 정보를 수집하기 위해 노력하여 침착하게 진실을 판단할 필요가 있습니다. 챗봇과 위와 같은 고정밀 사진을 위조하는 다양한 AI 시대에서 살아남을 수 있는 능력을 키우고, 이에 대한 다각적인 방안을 정부 역시 모색해 나가야 할 것으로 생각됩니다.