[사건반장 소다, 스노우 딥페이크 생성사건] 스노우, 소다 사진 보정 앱에서 AI가 딥페이크 음란물 합성 생성하는 사건 발생했다 (+피해사진, 소다 딥페이크 피해 사진, 스노우 딥페이크 피해사진, 사건반장 소다 딥페이크, 사건반장 스노우 딥페이크, 소다 딥페이크 음란물, 스노우 딥페이크 음란물, 소다 증명사진 딥페이크, 스노우 AI 헤어샵 딥페이크, 스노우 헤어샵 음란물 딥페이크, 사건반장 사진 보정 원했는데 나체사진, 사건반장 유명 카메라앱이 만든 딥페이크, 스노우 소다 AI 합성 피해)

안녕하세요, 여러분! 🤯

최근 9월 9일 사건반장 제보에 따르면, 네이버의 자회사인 스노우와 소다라는 카메라 애플리케이션에서 인공지능(AI) 편집 과정 중 외설적인 합성 사진, 즉 딥페이크 사진이 생성되었다는 제보가 접수되었어요.

특히, 소다 앱에서는 AI를 이용해 배경을 확장하는 과정에서 두 손으로 가슴을 움켜잡는 듯한 이미지가 만들어졌다는 보고가 있기도 했는데요.

이 사건에 대해 자세히 알아보도록 할게요.

유료 결제한 소다 앱, 증명사진 딥페이크 음란물로 수정됐다 (+사진)

지난 4일, 제보자는 증명사진의 배경을 보정하기 위해 네이버 자회사에서 제공하는 소다 앱을 사용했다고 밝혔는데요.

유료로 제공되는 배경 확장 기능을 이용했지만, 배경을 확대하는 과정에서 두 손이 나타나고 신체의 특정 부위를 움켜잡는 듯한 사진이 생성되었다고 해요.

제보자는 이런 결과에 성적 수치심을 느꼈으며, 사진의 유출을 우려했다고 하는데요.

특히, 내년에 결혼을 앞두고 결혼사진 보정을 위해 유료 결제를 진행한 상태에서 제보자는 이러한 문제가 발생하여 더욱 큰 충격을 받았다고 하는데요.

제보자는 “결혼을 앞두고 찍은 사진을 보정 중 결과물을 보고 성적 수치심을 느꼈다. 사진 유출 우려에 잠도 편히 못 자고 있다“라고 밝혔습니다.

제보자, 배경 늘리던 중 두 손으로 가슴을 움켜쥐는 듯한 이미지가 만들어졌다 (+사진)

그렇게 제보자는 소다 앱에선 배경 너비를 AI로 늘리던 중 두 손으로 가슴을 움켜쥐는 듯한 이미지가 만들어져 놀라 다른사람의 의견을 듣기 위해 커뮤니티에 사진을 올렸다고 주장했는데요. 

하지만 대부분 커뮤니티 누리꾼들 역시 불쾌하다는 반응을 보였다고 밝혔는데요. 

하지만 일부 커뮤니티에서는 음란성 게시물로 판단되어 삭제되기도 했다고 전했으며, 업체에도 항의 메일을 보냈다고도 전해지기도 했는데요.

특히 일부 누리꾼들은 “딥페이크 성착취물의 피해가 커지고 있는 와중에 나타난 문제인 만큼 조속한 해결이 필요하지 않냐”라고 주장하기도 했던 것으로 알려졌는데요.

일부 누리꾼, 피해자에게 한 몫 땡기려고 공론화하고 제보했다고 주장했다 (+사진)

제보자에 따르면, 이 사건을 공론화하자 일부 누리꾼들은 “돈을 뜯으려고 악의적인 여론을 형성하는 것 아니냐”는 반응을 보였다고 하는데요.

특히, 제보자가 업체에 보낸 항의 메일에는 금전적 요구가 포함되지 않았음에도 불구하고, 일부 누리꾼들이 조롱하며 2차 가해를 지속한 것으로 전해지기도 했는데요.

제보자가 밝힌 댓글 내용에 따르면, 네이버 관련 업체의 직원으로 추정되는 직장인들이 댓글을 통해

“안타까운 사연인 줄 알지만, 합의금을 받으려는 것 같다”는 등의 비난을 하며 2차 가해가 있었던 것으로 보인다고 합니다. 🤦‍♂️

스노우 앱에서도 딥페이크 사건이 발생한 것으로 알려졌다

딥페이크 사건은 단순히 소다 앱에서의 문제에 그치지 않았는데요,

한 제보자는 스노우 앱의 헤어스타일 변경 기능을 사용하던 중, 상반신 전부가 나체로 합성되는 심각한 문제가 발생했다고 보고했습니다.

이는 앞서 언급한 소다의 사례보다 훨씬 심각한 문제로, 개인의 신체 이미지가 부적절하게 조작된 것인데요.

제보자는 특정 사진에 인공지능을 이용해 헤어스타일을 변경하기 위해 헤어숍 기능을 사용했으나, 이 과정에서 의도치 않게 자신의 상반신이 나체로 표현된 합성 이미지가 생성되었다고 전했습니다.

특히 이러한 문제는 AI 알고리즘의 오류나 부적절한 데이터 처리로 인해 발생했을 가능성이 있는것으로도 보였는데요.

제보자는 유료 결제를 통해 AI 헤어숍 기능을 이용하다가 이러한 봉변을 겪었으며, 특히 단발컷 사진에 헐벗은 여성 상체가 합성되어 유출될까 봐 극심한 불안을 느꼈다고 밝혔습니다.

이는 사용자 개인정보와 이미지의 보호에 대한 중대한 우려를 제기한 상황인데요.

메일 보내야하는데 되려 유출될까봐 항의하지 못했다고 주장한 제보자(+사진)

특히 제보자는 메일을 보내야 한다고 생각했으나, 자신의 이미지가 유출될까 봐 항의하지 못했다고 주장했습니다.

그러나 누리꾼들의 지지를 얻어 항의 결정을 내리게 되었다고 전했는데요.

이에 대해 업체 측은 선정적인 이미지 생성 문제를 해결하기 위해 노력하고 있으나, 현재 AI 기술의 한계로 인해 완벽한 억제는 어렵다고 밝혔습니다.

또한, 생성된 이미지는 서버에 저장되지 않으며, 외부 유출이나 AI 학습에 사용되지 않는다고 설명했습니다.

환불 절차에 대한 문의가 있었지만, 업체 측은 제보자에게 직접 환불 절차를 밟으라고 안내한 것으로 전해졌습니다. 제보자는 문제 해결을 우려하여 환불 절차를 진행하지 않았다고 밝혔습니다.

네이버 관계자, 직접 대면사과로 응대하겠다고 밝혔다

네이버 관계자는 이번 사건과 관련하여 자회사 스노우를 비롯한 관계자들이 제보자들에게 직접 대면 사과를 진행할 계획이라고 밝혔습니다.

또한, 네이버 측은 부적절한 댓글로 고객에게 상처를 주는 행위가 재발하지 않도록 직원들을 교육할 것이라고 덧붙이기도 했는데요.

이 조치는 고객의 불편을 최소화하고, 보다 신뢰할 수 있는 서비스를 제공하기 위한 노력의 일환으로 보입니다.

제보자는 합의금을 요구한 것이 아니라, 앞으로 또 다른 피해자가 발생하지 않기를 바라는 뜻을 밝힌 상황이기도 한데요.

이는 이번 사건이 단순한 개인의 문제를 넘어, 전체 사용자와 관련된 중요한 교훈이 되기를 원하는 마음을 반영한 것입니다.