시청자미디어재단

“아직도 AI가 만든 이미지를 한눈에 구별할 수 있다고 믿나요?”

찾아가는 안전한 미디어 이용 특강 <대명중학교>

글 : 서울시청자미디어센터 정인숙 강사

“교육을 듣지 않았다면, 나도 속았을지도 모르겠어요.”

딥페이크 판별 활동을 시작하자 교실의 공기가 달라졌다. 화면 속 두 얼굴 중 하나는 실제 사람이고, 다른 하나는 인공지능이 만든 얼굴이었다. 처음에는 자신 있게 손을 들던 학생들도 몇 문제를 지나자 고개를 갸웃했다. “눈이 조금 이상한데요?” “배경이 어색해요.” “진짜 같은데… 아닌가?” 학생들은 화면을 확대하듯 뚫어져라 바라보며 얼굴의 비율, 머리카락, 눈동자, 배경을 하나씩 살폈다. 잠시 동안 교실은 딥페이크 탐정 사무소가 되었다. 범인은 AI, 탐정은 학생들이었다.

이번 수업은 대명중학고 1학년 동아리 24명을 대상으로 ‘찾아가는 안전한 미디어 이용 특강’으로 주제는 딥페이크 범죄 예방교육이었다. 수업을 준비하며 가장 고민한 것은 ‘얼마나 무섭게 말할 것인가’가 아니었다. 오히려 반대였다. 딥페이크 범죄는 분명 심각하지만, 청소년들에게 공포만 남기는 교육은 오래가지 않는다. 학생들이 기술을 이해하고, 위험을 알아차리고, 실제 상황에서 멈추고 도움을 요청할 수 있어야 한다고 생각했다. 그래서 수업은 딥페이크 기술의 원리와 긍정적 활용 사례, 범죄 악용 사례, 온라인 그루밍, 그리고 안전한 미디어 이용 체크리스트로 이어지도록 구성했다.

수업 초반 학생들에게 딥페이크가 무엇인지 물었다. 대부분 이미 단어는 알고 있었다. 영상에서 얼굴을 바꾸는 것, 유명인 목소리를 흉내 내는 것, AI로 가짜 사진을 만드는 것 정도로 이해하고 있었다. 하지만 실종 아동 찾기, 교육 콘텐츠, 역사 인물 복원, 가족 재회처럼 기술이 긍정적으로 쓰인 사례를 보여주자 표정이 조금 달라졌다. “이렇게도 쓸 수 있어요?” 하는 반응이 나왔다. 바로 그 지점에서 이야기를 이어갔다. 기술은 그 자체로 선하거나 악한 것이 아니라, 누가 어떤 목적으로 사용하느냐에 따라 전혀 다른 결과를 만든다는 것. 같은 기술이 누군가를 돕기도 하지만, 누군가의 얼굴과 목소리를 빼앗아 피해를 줄 수도 있다는 것을 함께 생각했다.

분위기가 가장 진지해진 순간은 딥페이크 허위영상물의 법적 책임을 다룰 때였다. 학생들에게 물었다. “장난으로 만들었다면 괜찮을까요?” “나는 만들지 않고 보기만 했다면요?” 몇몇 학생들이 잠시 멈췄다. 수업에서는 제작하지 않기, 시청하지 않기, 저장하지 않기, 사고팔지 않기, 공유하지 않기라는 다섯 가지 원칙을 반복해서 짚었다. 짧은 문장이지만 꼭 남기고 싶은 문장이었다. 디지털 공간에서 ‘한 번 눌렀을 뿐’인 행동이 누군가에게는 지워지지 않는 피해가 될 수 있기 때문이다.

딥페이크 판별 활동은 학생들의 몰입도가 특히 높았다. 활동지에는 “AI가 만든 사진은 배경이 이상하다”, “사람의 특징을 완벽하게 만들지는 못하는 것 같다”, “제대로 판단하기 위해 사진을 더 꼼꼼히 봐야겠다”는 생각이 적혔다. 한 학생은 “하지만 이런 것을 신경 쓰지 않으면 못 알아차렸을 것 같다”고 썼다. 이 문장이 오래 남았다. 예방교육이 필요한 이유가 바로 거기에 있었다. 우리가 모든 가짜를 완벽히 맞힐 수는 없다. 하지만 이상하다고 느끼는 순간 멈추고, 확인하고, 함부로 공유하지 않는 습관은 기를 수 있다.

온라인 그루밍을 다룰 때도 학생들의 집중은 이어졌다. 처음에는 친절하게 다가오고, 선물이나 관심으로 신뢰를 쌓은 뒤, 점점 사진이나 개인정보를 요구하고, 나중에는 협박으로 이어지는 과정을 사례로 설명했다. 활동지에는 “온라인 성범죄가 이렇게까지 심각한 줄 몰랐다”, “교육을 듣지 않았다면 당하기 쉬울 수 있다”, “만약 내가 이런 일을 당했다면 나도 속았을 수도 있을 것 같다”는 반응이 남았다. 학생들은 더 이상 이 문제를 먼 뉴스 속 사건으로만 받아들이지 않았다. 게임 채팅, 오픈채팅, SNS 메시지처럼 익숙한 통로가 위험의 시작점이 될 수 있다는 사실을 자신의 생활과 연결해 생각하고 있었다.

무엇보다 인상 깊었던 것은 학생들의 태도였다. 동아리 담당 선생님도 놀랄 정도로 학생들은 매우 열심히 듣고 필기했다. 강의 중간중간 고개를 끄덕이며 화면을 바라보는 학생들, 법적 책임을 설명할 때 조용히 필기하는 학생들, 판별 활동 뒤 자신의 생각을 다시 고쳐 쓰는 학생들이 보였다. 활동지를 걷어 보니 더 놀라웠다. 알록달록한 볼펜으로 빈칸을 가득 채운 학생들이 많았다. 딥페이크의 순기능과 부정적 사례, 성범죄 가해 예방 방법, 온라인 그루밍을 보고 느낀 점, 안전 체크리스트까지 빼곡히 적혀 있었다. 어느 학생의 활동지를 대표로 선택해야 할지 고민될 정도였다. 이런 고민이라면 강사에게는 꽤 행복한 고민이다.

수업 후반에는 안전한 미디어 이용 체크리스트를 작성했다. SNS 계정이 공개인지, 개인정보를 게시한 적은 없는지, 프로필 사진이나 방문 장소가 드러나 있지는 않은지, 다른 사람의 개인정보를 올린 적은 없는지 스스로 점검했다. 별것 아닌 질문처럼 보였지만 학생들은 의외로 오래 생각했다. 한 학생은 활동지 아래에 “AI가 발전하면서 위험도 많아져 문제가 심각해지고 있다”고 적었다. 기술의 변화가 청소년에게 단순한 유행이 아니라 실제 생활의 문제로 다가오고 있다는 뜻처럼 느껴졌다.

학생 인터뷰와 활동지에서 반복적으로 드러난 반응은 분명했다. 딥페이크는 신기한 기술이지만, 잘못 사용하면 누군가에게 큰 피해를 줄 수 있다는 것. 온라인에서 친절하게 다가오는 사람이 모두 안전한 사람은 아니라는 것. 그리고 피해를 알게 되었을 때 혼자 해결하려 하지 말고 도움을 요청해야 한다는 것이었다. 한 학생은 수업 내용을 정리하며 “교육을 듣지 않았다면 당하기 쉬울 수 있다”고 적었다. 또 다른 학생은 “나도 속았을 수도 있을 것 같다”고 했다. 이 말들은 학생들이 단순히 내용을 외운 것이 아니라, 자신에게 일어날 수 있는 상황으로 받아들이고 있다는 신호처럼 보였다.

수업을 마치며 학생들에게 다시 말했다. “피해를 입었을 때는 혼자 해결하려 하지 말고, 바로 도움을 요청해야 해요. 친구의 피해를 알게 되었을 때도 절대 공유하지 말고, 함께 도움을 요청해야 합니다.” 딥페이크와 온라인 그루밍 예방교육은 결국 ‘나를 지키는 법’이면서 동시에 ‘친구를 지키는 법’이다. 내가 멈추면 피해 확산을 막을 수 있고, 내가 알려주면 친구가 도움을 받을 수 있다.

교실을 나오며 활동지를 다시 넘겨보았다. 처음에는 진짜와 가짜를 맞히는 데 집중하던 학생들이 어느새 ‘조심해야 할 행동’, ‘도움을 요청하는 방법’, ‘공유하지 않는 책임’을 적고 있었다. 짧은 수업이었지만, 그 안에서 학생들은 디지털 세상을 조금 다르게 바라보기 시작했다.

딥페이크 시대의 청소년에게 필요한 것은 두려움만이 아니다. 필요한 것은 알아차리는 힘, 멈추는 힘, 도움을 요청하는 힘이다. 오늘의 수업이 학생들 안에 작은 경계심과 단단한 실천력으로 남았기를 바란다. 디지털 세상에서 나를 지키고, 친구를 지키는 힘으로.