미성년자딥페이크, AI에 친구 성적 합성사진 제작 요청한 고등학생 생성 실패해도 처벌될까?

본 콘텐츠는 법무법인 동주에서 제공하는 작성 가이드입니다.
미성년자딥페이크, AI에 친구 성적 합성사진 제작 요청한 고등학생 생성 실패해도 처벌될까?
법무법인 동주 김윤서 변호사입니다.
고등학생 아이가 AI 이미지 생성 서비스에 같은 학교 학생의 얼굴 사진을 올리고 성적인 합성 이미지를 만들어 달라고 요청했다는 사실이 알려져 경찰조사를 받게 되는 경우가 있습니다.
그런데 실제로 완성된 합성사진은 확인되지 않을 수 있습니다. AI 서비스에서 해당 요청을 차단했거나 오류 메시지가 나타나 이미지가 만들어지지 않았기 때문입니다.
부모님께서는 결과물이 없는 상황에서도 딥페이크 제작 혐의가 성립하는지, 서비스에 입력한 요청 내용이 경찰조사에서 어떤 의미를 갖는지 궁금하실 수 있습니다.
미성년자딥페이크 사건은 실제 합성물의 완성 여부와 함께 성적 합성행위의 실행에 착수했는지를 확인해야 합니다. 성폭력처벌법은 허위영상물 등의 편집·합성·가공 행위뿐 아니라 일정한 미수범도 처벌하도록 규정하고 있습니다.
피해학생이 아동·청소년인 경우에는 아청법상 성착취물 관련 규정의 적용 가능성도 살펴야 합니다. 다만 미성년자의 얼굴을 이용했다는 이유만으로 모든 합성 이미지가 아동·청소년성착취물에 해당하는 것은 아닙니다.
AI 서비스에 사진을 업로드한 시점, 입력한 명령의 내용, 실제 생성 처리가 진행되었는지, 결과물이 존재하는지에 따라 검토할 쟁점이 달라집니다.
이번 글에서는 딥페이크 제작 요청과 미수범의 성립요건, 아청법상 성착취물 해당 여부, AI 생성 기록의 증거 의미, 경찰조사 및 소년사건 처리 기준을 설명하겠습니다.
미성년자딥페이크 핵심 정리
성폭력처벌법 제14조의2 제1항은 상대방의 의사에 반하는 성적 허위영상물 등의 편집·합성·가공 행위를 처벌합니다.
성폭력처벌법 제15조에 따라 제14조의2의 미수범도 처벌 대상이 될 수 있습니다.
AI 생성 요청이 차단된 경우에는 실제 합성행위의 실행에 착수했는지 구체적으로 확인해야 합니다.
피해학생이 아동·청소년이라면 합성물의 내용과 제작 경위에 따라 아청법 제11조의 적용 여부도 검토해야 합니다.
AI 서비스의 요청 기록과 휴대전화 자료는 행위의 경위를 확인하는 데 활용될 수 있으며, 존재하지 않는 기록을 추정해서는 안 됩니다.
Q1. 미성년자딥페이크, AI에 친구 성적 합성사진 제작 요청한 고등학생 생성 실패해도 처벌될까?
A. 실제 합성사진이 완성되지 않았더라도 성적 허위영상물 등의 편집·합성·가공에 실행 착수한 사실이 인정된다면 미수범 처벌이 문제될 수 있습니다. 다만 AI 서비스에 제작을 요청했다는 사실만으로 미수범이 자동으로 성립하는 것은 아닙니다.
성폭력처벌법 제14조의2 제1항은 사람의 얼굴·신체 또는 음성을 대상으로 한 영상물 등을 대상자의 의사에 반하여 성적 욕망 또는 수치심을 유발할 수 있는 형태로 편집·합성·가공한 행위를 처벌합니다.
해당 조항의 법정형은 7년 이하의 징역 또는 5천만원 이하의 벌금입니다.
성폭력처벌법 제15조는 제14조의2의 미수범도 처벌하도록 규정하고 있습니다.
따라서 AI 서비스를 이용한 성적 합성행위가 완성되지 않았더라도 실행에 착수한 단계에 이르렀는지를 검토해야 합니다.
이때 AI 서비스에 단순히 관련 내용을 검색한 경우와 실제 사진을 업로드하고 성적 합성을 위한 생성 명령을 실행한 경우는 행위의 내용이 다릅니다.
실제로 생성 명령이 처리되었는지, 합성 과정이 시작되었는지, 서비스에서 어느 단계에 차단되었는지 확인할 필요가 있습니다.
다만 생성 버튼을 눌렀다는 사실이나 오류 메시지가 나타났다는 사정만으로 법률상 실행 착수 여부가 확정되는 것은 아닙니다.
미수범의 성립은 실제 행위가 범죄 실행 단계에 이르렀는지에 관한 법률적 판단이 필요합니다.
피해학생이 아동·청소년이라면 아청법상 성착취물 제작 관련 규정의 적용 가능성도 별도로 검토해야 합니다.
생성에 실패한 미성년자딥페이크 사건에서는 요청 내용과 실제 처리 단계, 합성행위의 실행 착수 여부를 구체적으로 확인해야 합니다.
Q2. AI 서비스에 친구 얼굴 사진만 업로드했다면 딥페이크 제작죄가 성립하나요?
A. 친구의 얼굴 사진을 AI 서비스에 업로드했다는 사실만으로 성폭력처벌법상 허위영상물 편집·합성·가공죄가 성립하는 것은 아닙니다. 업로드 이후 어떤 명령을 입력했고 실제로 어떤 처리가 이루어졌는지 확인해야 합니다.
AI 이미지 생성 서비스는 사진 보정이나 일반적인 이미지 변환 등 여러 목적으로 이용될 수 있습니다.
따라서 다른 사람의 얼굴 사진을 업로드했다는 사실만으로 성적인 합성행위를 했다고 단정할 수는 없습니다.
성폭력처벌법 제14조의2 제1항이 적용되려면 법률에서 정한 성적 형태의 편집·합성·가공 행위가 문제되어야 합니다.
아이의 실제 요청이 성적인 합성 이미지를 생성하려는 것이었는지, 어떤 표현을 입력했는지 확인해야 합니다.
또한 사진을 업로드한 뒤 요청을 취소했는지, 생성 기능을 실행했는지, 서비스에서 실제 합성 처리가 이루어졌는지도 검토할 사항입니다.
성적 합성물을 만들 의도가 있었다는 사정과 범죄의 실행에 착수했다는 사실은 각각 법률상 검토가 필요합니다.
아이가 직접 합성물을 제작하지 않고 외부 서비스나 다른 사람에게 제작을 요청한 경우에도 실제 관여 방식에 따라 법률적 책임을 살펴볼 수 있습니다.
다만 서비스에 요청한 행위를 곧바로 완성된 제작행위와 동일하게 평가할 수는 없습니다.
사진의 출처와 업로드 경위도 확인할 수 있지만, 성폭력처벌법 제14조의2의 성립 여부는 성적 합성행위의 내용과 법률상 요건에 따라 판단해야 합니다.
사진 업로드, 생성 명령 입력, 실제 합성 처리의 각 단계에서 어떤 행동이 이루어졌는지 확인해야 합니다.
Q3. 미성년자 얼굴로 딥페이크를 만들려고 했다면 아청법상 성착취물 제작죄도 적용되나요?
A. 피해학생이 아동·청소년이고 합성물의 내용이 법률상 아동·청소년성착취물에 해당한다면 아청법 제11조의 적용 가능성을 검토해야 합니다. 다만 미성년자 얼굴을 이용했다는 사실만으로 성착취물 제작죄가 자동으로 성립하지는 않습니다.
아청법 제2조 제5호는 아동·청소년성착취물의 정의를 규정하고 있습니다.
해당 규정은 아동·청소년 또는 아동·청소년으로 명백하게 인식될 수 있는 사람이나 표현물이 등장하고, 법률에서 정한 성적 행위나 신체 표현 등의 내용을 포함한 영상·화상 등을 대상으로 합니다.
따라서 피해학생의 얼굴이 사용되었다는 사실과 합성물의 내용이 성착취물의 법률상 요건을 충족하는지는 구분하여 확인해야 합니다.
아청법 제11조 제1항은 아동·청소년성착취물을 제작·수입 또는 수출한 사람을 무기징역 또는 5년 이상의 유기징역에 처하도록 규정하고 있습니다.
같은 조 제6항은 제1항의 미수범도 처벌하도록 규정합니다.
따라서 AI를 이용한 제작 과정이 완성되지 않았더라도 성착취물 제작의 실행에 착수했는지에 관한 검토가 필요할 수 있습니다.
그러나 생성 요청이 차단되어 결과물이 존재하지 않는 경우에는 제작하려던 이미지의 내용과 실제 실행 단계 등을 구체적으로 확인해야 합니다.
아청법상 성착취물 제작죄의 미수범과 성폭력처벌법상 허위영상물 편집·합성·가공죄의 미수범은 각각의 구성요건을 검토해야 합니다.
두 법률이 모두 문제되는 경우에는 실제 행위의 내용과 법률 적용 관계를 별도로 살펴야 합니다.
미성년자딥페이크 사건에서는 합성물의 법률상 성격과 제작 과정, 미수범의 실행 착수 여부를 확인하여 아청법 적용 가능성을 판단해야 합니다.
Q4. AI 서비스에서 생성이 차단됐다면 경찰은 어떤 기록을 확인할 수 있나요?
A. 수사기관은 적법한 절차에 따라 휴대전화에 남아 있는 접속 기록, 업로드 자료, 생성 요청 내용 등을 확인할 수 있습니다. 다만 AI 서비스가 어떤 정보를 저장하는지는 서비스별로 다르므로 실제 존재하는 기록의 범위를 확인해야 합니다.
AI 이미지 생성 서비스는 이용자가 사진을 업로드하고 명령을 입력하는 방식으로 작동하는 경우가 많습니다.
서비스에 따라 요청 내용이나 생성 결과가 계정의 이용 내역에 남을 수 있습니다.
그러나 모든 AI 서비스가 동일한 정보를 저장하거나 동일한 기간 동안 기록을 보관하는 것은 아닙니다.
따라서 특정 서비스에서 어떤 기록이 존재하는지 확인하려면 실제 서비스의 기능과 저장 정책, 수사 과정에서 확보된 자료를 살펴야 합니다.
휴대전화에는 업로드에 사용한 사진이나 관련 파일, 서비스 이용 흔적 등이 남아 있을 수 있습니다.
경찰은 사건의 내용에 따라 적법한 절차를 거쳐 디지털 자료를 확보하고 분석할 수 있습니다.
이때 휴대전화 포렌식으로 확인된 사실과 AI 서비스 서버에 저장되어 있을 가능성이 있는 정보는 구분해야 합니다.
AI 서비스가 생성 요청을 차단했다면 어떤 단계에서 차단되었는지, 실제 이미지 생성 처리가 진행되었는지가 중요한 쟁점이 될 수 있습니다.
부모님께서는 아이에게 관련 자료를 임의로 삭제하거나 계정 기록을 변경하지 않도록 안내할 필요가 있습니다.
또한 아이가 실제로 사용한 서비스와 기억하는 행동을 정확하게 설명하도록 돕고, 확인되지 않은 기술적 과정을 추측하여 진술하지 않도록 해야 합니다.
AI 생성 기록은 실제 확보된 자료를 기준으로 확인해야 하며, 기록의 존재와 의미를 추정하여 범죄의 실행 여부를 판단해서는 안 됩니다.
Q5. 딥페이크 합성물이 만들어지지 않았다면 학교폭력 신고나 경찰조사도 진행되지 않나요?
A. 합성물이 완성되지 않았더라도 학교폭력 신고나 경찰조사가 진행될 수 있습니다. 학교폭력 절차에서는 학생을 대상으로 한 행위와 피해 발생 여부를 검토하고, 형사절차에서는 관련 범죄의 구성요건 및 미수범 성립 여부를 판단합니다.
학교폭력예방법 제2조는 학생을 대상으로 발생한 성폭력 등 일정한 행위로 신체적·정신적 또는 재산상 피해를 수반하는 학교폭력을 규정하고 있습니다.
따라서 같은 학교 학생의 얼굴 사진을 이용해 성적인 합성물을 만들려고 했다는 사실이 알려지면 학교폭력 사안으로 신고될 수 있습니다.
학교폭력 해당 여부는 실제 행위의 내용과 피해 발생 여부 등 법률상 요건을 기준으로 판단합니다.
합성물이 완성되지 않았다는 사실은 행위의 내용과 피해 정도를 확인할 때 고려될 수 있습니다.
학교폭력대책심의위원회에서는 관련 법률에 따라 가해학생 조치 여부를 심의할 수 있습니다.
학교폭력예방법 제17조는 서면사과, 접촉금지, 특별교육, 출석정지, 학급교체, 전학 등 가해학생 조치를 규정하고 있습니다.
한편 경찰조사에서는 성폭력처벌법 제14조의2와 제15조에 따른 허위영상물 편집·합성·가공죄 및 미수범의 성립 여부가 문제될 수 있습니다.
피해학생이 아동·청소년이라면 아청법상 성착취물 제작 관련 규정도 별도로 검토해야 합니다.
학교폭력 절차에서 조치가 내려졌다는 사실만으로 형사상 유죄가 확정되는 것은 아니며, 두 절차는 각각의 법률상 기준에 따라 판단합니다.
피해학생에게 직접 연락해 신고를 취하하도록 요구하거나 주변 학생을 통해 압박하는 행동은 피해야 합니다.
딥페이크 생성 실패 사건도 학교폭력 절차와 형사절차가 진행될 수 있으며, 각각의 법률상 요건과 확인된 사실을 구분하여 살펴야 합니다.
Q6. 미성년자딥페이크 제작미수 혐의를 받는 고등학생은 초범이어도 소년재판을 받을 수 있나요?
A. 범행 당시 만 14세 이상인 고등학생은 형사책임이 문제될 수 있으며, 실제 혐의와 사건의 내용에 따라 형사절차 또는 소년보호절차가 진행될 수 있습니다. 초범이라는 사실만으로 소년재판이나 형사재판의 진행 여부가 결정되지는 않습니다.
미성년자딥페이크 사건에서 부모님께서는 아이가 처음으로 경찰조사를 받는 상황이라면 소년보호사건으로 처리될 수 있는지 궁금하실 수 있습니다.
먼저 성폭력처벌법상 허위영상물 편집·합성·가공죄 또는 미수범의 구성요건이 인정되는지 확인해야 합니다.
피해학생이 아동·청소년이라면 아청법상 성착취물 제작 관련 범죄의 성립 여부도 검토해야 합니다.
수사 결과 혐의가 인정되지 않는 경우에는 관련 절차에 따라 불송치나 불기소 등의 결정이 이루어질 수 있습니다.
혐의가 인정될 수 있는 경우에는 사건의 내용과 법률상 요건에 따라 기소 또는 소년부 송치 여부 등이 검토됩니다.
소년부로 송치된 경우에는 소년법 제32조에 따른 보호처분 여부를 심리합니다.
보호처분에는 보호자 감호위탁, 수강명령, 사회봉사명령, 보호관찰, 시설위탁, 소년원 송치 등이 규정되어 있습니다.
소년부 송치가 이루어졌다는 이유만으로 소년원 송치가 확정되는 것은 아닙니다.
법원은 사건의 내용과 아이의 생활환경, 보호자의 지도 가능성, 재발 방지를 위한 교육 필요성 등을 종합적으로 판단합니다.
다만 아청법상 성착취물 제작죄 등 중한 성범죄 혐의가 인정되는 경우에는 형사재판의 가능성도 검토해야 합니다.
피해 회복을 위한 노력과 아이의 디지털 기기 사용 습관 개선, 성적 동의 및 타인의 권리에 관한 교육도 관련 절차에서 고려될 수 있습니다.
고등학생 딥페이크 사건에서는 초범 여부와 함께 실제 혐의의 성립 여부, 아이의 연령, 피해의 내용 및 소년법상 보호 필요성을 종합적으로 살펴야 합니다.
미성년자딥페이크 관련 법률과 처벌 기준
구분 | 관련 법률 및 처벌 기준 |
|---|---|
성폭력처벌법 제14조의2 제1항 | 사람의 얼굴·신체 또는 음성을 대상으로 한 영상물 등을 대상자의 의사에 반하여 성적 욕망 또는 수치심을 유발할 수 있는 형태로 편집·합성·가공한 경우 7년 이하의 징역 또는 5천만원 이하의 벌금 |
성폭력처벌법 제15조 | 제14조의2의 미수범도 처벌 대상. 실제 편집·합성·가공의 실행에 착수했는지 확인 필요 |
성폭력처벌법 제14조의2 제2항 | 법률상 요건에 해당하는 허위영상물 또는 복제물을 반포하는 등의 행위를 한 경우 7년 이하의 징역 또는 5천만원 이하의 벌금 |
성폭력처벌법 제14조의2 제4항 | 제1항 또는 제2항에 따른 편집물·합성물·가공물 또는 복제물을 소지·구입·저장·시청한 경우 3년 이하의 징역 또는 3천만원 이하의 벌금 |
아청법 제2조 제5호 | 아동·청소년 또는 아동·청소년으로 명백하게 인식될 수 있는 사람이나 표현물이 등장하고 법률에서 정한 성적 내용 등의 요건을 충족하는 영상·화상 등 |
아청법 제11조 제1항 | 아동·청소년성착취물을 제작·수입 또는 수출한 경우 무기징역 또는 5년 이상의 유기징역 |
아청법 제11조 제6항 | 제11조 제1항의 미수범도 처벌 대상. 실제 제작의 실행에 착수했는지와 제작하려던 대상물의 법률상 성격 확인 필요 |
형법 제9조 | 14세가 되지 않은 사람의 행위는 형사처벌하지 않음. 소년법상 보호사건 해당 여부는 별도 검토 |
소년법 제4조·제32조 | 소년보호사건의 대상과 보호자 감호위탁, 수강명령, 사회봉사명령, 보호관찰, 시설위탁, 소년원 송치 등 보호처분 규정. 처분별 연령 요건 확인 필요 |
학교폭력예방법 제2조·제17조 | 학생을 대상으로 한 성폭력 등이 학교폭력의 법률상 요건을 충족하면 관련 절차 진행 가능. 서면사과, 접촉금지, 특별교육, 출석정지, 학급교체, 전학 등 조치 규정 |
※ 위 내용은 일반적인 법률상 처벌 기준입니다. 실제 적용 죄명과 법정형은 피해학생의 연령, AI 생성 요청의 내용, 편집·합성·가공의 실행 착수 여부, 생성 결과물의 존재 및 내용, 범행 당시 아이의 연령과 시행 법령에 따라 달라질 수 있습니다.
미성년자딥페이크 사건에서 AI 생성 요청이 차단됐다면 실제로 어떤 단계까지 합성행위가 진행되었는지 확인해야 합니다.
성폭력처벌법은 허위영상물 등의 편집·합성·가공 행위와 미수범을 처벌하도록 규정하고 있습니다. 피해학생이 아동·청소년인 경우에는 아청법상 성착취물 관련 규정의 적용 가능성도 함께 살펴야 합니다. AI 서비스의 생성 기록과 휴대전화 자료는 실제 확보된 내용에 따라 판단해야 합니다.
부모님께서는 아이가 다른 사람의 사진을 성적인 목적으로 이용하는 행위의 위험성과 상대방의 동의가 갖는 의미를 이해하도록 도울 필요가 있습니다. 사건의 사실관계를 정확하게 확인하고, 디지털 기기 사용 습관과 재발 방지를 위한 교육을 이어가는 과정도 중요합니다.


