AI 앱이나 자동 합성 프로그램을 사용했다는 이유만으로 책임이 가벼워지는 것은 아닙니다. 버튼 몇 번으로 만든 이미지라도 실제 사람의 얼굴이나 신체를 성적 형태로 합성했고 피해자가 특정될 수 있다면 허위영상물 제작 혐의가 문제될 수 있습니다. 수사에서는 어떤 앱을 사용했는지보다 제작 목적, 결과물의 내용, 저장·공유 여부가 중요합니다. 첫 조사 전에는 앱 사용 기록과 결과물의 성격을 함께 확인해야 합니다.

해외 AI 앱에서 사진을 넣으면 자동으로 합성 이미지가 만들어졌습니다. 저는 호기심으로 지인의 얼굴 사진을 넣었고, 결과물이 성적인 이미지처럼 보였습니다. 직접 포토샵으로 만든 것은 아니고 앱이 자동 생성한 것인데, 이런 경우도 허위영상물 제작 처벌 대상이 될 수 있나요?

성폭력처벌법 제14조의2는 사람의 얼굴·신체 또는 음성을 대상으로 성적 욕망 또는 수치심을 유발할 수 있는 형태로 편집·합성·가공하는 행위를 문제 삼습니다. 반포등 목적이 인정되는 제작은 7년 이하의 징역 또는 5천만원 이하의 벌금이 문제될 수 있습니다. AI 앱이 자동 처리했다는 사정만으로 행위자가 없다고 보기는 어렵습니다.

수사기관은 사용자가 어떤 사진을 넣었는지, 어떤 옵션을 선택했는지, 결과물을 저장했는지, 다시 편집했는지, 다른 사람에게 보냈는지를 확인합니다. 결과물이 피해자를 특정할 수 있고 성적 수치심을 유발할 수 있는 형태라면 혐의 성립이 검토됩니다. 따라서 “앱이 만든 것”이라는 설명은 전체 사실관계 속에서만 의미가 있습니다.

앱이 어떤 결과물을 만들지 정확히 몰랐고, 처음에는 장난처럼 눌러본 것뿐입니다. 그런데 결과물을 보고 놀라서 저장하지 않으려 했습니다. 반포 목적도 없었고 누군가에게 보내려던 것도 아니었습니다. 자동 생성이라 고의가 없었다는 주장이 가능한가요?

고의가 없었다는 주장을 하려면 어떤 과정을 거쳐 결과물이 만들어졌는지 설명해야 합니다. 앱 이름, 기능 설명, 선택한 옵션, 업로드한 사진, 생성 전 안내 문구, 결제 여부, 결과물 확인 후 행동이 중요합니다. 성적 결과물이 예견 가능한 기능이었는지, 사용자가 이를 알고 있었는지 수사기관이 볼 수 있습니다.

또한 결과물을 저장하거나 파일명을 바꾸거나 다른 사람에게 보여줬다면 고의 부인에 불리할 수 있습니다. 반대로 결과물을 즉시 확인하고 이용을 중단했으며 전송이나 반복 생성이 없다면 그 경위를 설명할 수 있습니다. 첫 조사 전에는 자동 생성 과정과 사용자의 의도, 사후 행동을 구분해야 합니다.

AI 앱을 유료로 결제했고, 여러 차례 생성 버튼을 눌렀던 것 같습니다. 앱 기록이나 결제내역이 나오면 의도적으로 만든 것으로 보일까 봐 걱정됩니다. 또 클라우드에 자동 저장됐을 가능성도 있습니다. 이런 자료는 조사에서 어떻게 해석되나요?

앱 결제내역은 해당 서비스를 이용했다는 자료가 됩니다. 수사기관은 결제 시각, 생성 횟수, 결과물 저장 여부, 업로드한 원본 사진, 다운로드 기록을 확인할 수 있습니다. 여러 차례 생성했다면 단순 우발적 클릭이라는 설명이 약해질 수 있습니다. 클라우드 자동 저장이나 갤러리 썸네일도 포렌식에서 확인될 수 있습니다.

다만 앱을 결제했다는 사실만으로 모든 허위영상물 제작 의도가 인정되는 것은 아닙니다. 어떤 기능을 사용했는지, 결과물 내용을 예상할 수 있었는지, 실제 저장·전송이 있었는지 나누어야 합니다. 첫 조사에서는 앱 사용 사실을 무조건 숨기기보다 자료가 의미하는 범위를 정확히 정리하는 것이 필요합니다.

AI 앱 허위영상물 제작 사건에서는 사용자가 어떤 입력과 선택을 했는지가 중요합니다. 자동 생성이라도 실제 인물 사진을 넣고 성적 형태의 결과물을 만들었다면 제작 행위로 평가될 수 있습니다. 다만 고의와 반포 목적은 앱 기능 설명, 선택 옵션, 생성 횟수, 저장·전송 여부, 결과물을 확인한 뒤 행동을 통해 판단해야 합니다. 결제내역, 앱 로그, 파일 생성 시각, 클라우드 저장 기록, 메신저 대화가 핵심 자료가 됩니다. 첫 조사 전에는 앱이 만든 결과물과 사용자의 의도를 분리해 정리해야 합니다.

법률사무소 니케는 AI 앱 허위영상물 제작 사건에서 앱 사용 기록, 입력 사진, 생성 결과물, 저장·전송 여부를 분석해 혐의 성립 여부를 검토합니다.

본 법률사무소는 먼저 AI 앱의 기능과 사용자의 조작 과정을 확인합니다. 어떤 사진을 넣었는지, 어떤 옵션을 선택했는지, 결과물을 저장했는지, 반복 생성이 있었는지 검토합니다. 디지털 포렌식이 예상되는 경우 앱 로그, 결제내역, 클라우드 백업 자료를 함께 봅니다.

또한 경찰조사 단계에서 무혐의·불송치 가능성을 우선 검토하는 사건을 다수 다뤄온 경험을 바탕으로, 고의와 반포 목적을 다툴 수 있는 부분을 정리합니다. 혐의 인정 가능성이 있는 경우에도 제작 범위와 유포 여부가 과도하게 확대되지 않도록 첫 진술 방향을 준비합니다.

AI 앱으로 만들었다고 해서 허위영상물 제작 책임이 사라지는 것은 아닙니다. 사용자가 어떤 사진을 넣고 어떤 기능을 실행했는지, 결과물을 저장·전송했는지가 중요합니다. 첫 조사 전에는 앱 기록과 포렌식 자료를 기준으로 고의와 이용 범위를 정리해야 합니다.