[NIE] 인공지능(AI)기술 발전과 그늘, 딥페이크
1. 주제 다가서기 딥페이크(Deep fake)는 인공지능(AI)의 심층 학습인 딥 러닝(Deep learning)과 가짜(fake)가 합쳐진 단어로, 인공지능을 기반으로 특정 인물의 얼굴이나 목소리 등을 다른 콘텐츠에 합성하는 방식의 이미지 합성 기술을 뜻한다. 최근 딥페이크(불법 합성물) 기술을 활용한 성범죄가 초·중·고 학생들 사이에서 빠르게 확산되며 심각한 사회 문제로 대두되고 있다. 통계에 따르면 디지털 성범죄 피해자 3명 중 1명은 10대 이하이며, 전세계 피해자의 절반 이상이 우리나라 여성이다. 이러한 상황을 반영하여 지난 26일, 국회에서는 딥페이크 성범죄 처벌을 강화하는 성폭력처벌법 개정안이 통과되었다. 이는 인공지능 기술의 악용을 예방하고 처벌하기 위한 근거를 마련한 것이다. 그러나 무엇보다도 이러한 AI기술의 악용 문제에 대한 인식과 경각심을 높이는 것이 중요하며, 인공지능(AI) 기술을 올바로 사용하는 교육과 악용 방지를 위한 기술적 대응이 더욱 필요하다. 이번 시간에는 인공지능(AI) 기술 발전의 긍정적인 면과 부정적인 면을 살펴보고 올바른 디지털 윤리 의식에 대해 생각해 보는 시간을 갖고자 한다. 2. 주제 관련 신문기사 ‣ 서울경제 2024년 8월 3일 유관순 열사, 실제 한복 입은 듯… 87명 독립운동가 AI재현 ‣ 부산일보 2024년 3월 27일 AI 앵커·PD·MC까지…방송 현장 장악한 인공지능 ‣ 한국일보 2024년 9월 20일 구글 “유튜브에 동영상 생성 AI 결합”…딥페이크 악용 우려 ‣ 한국일보 2024년 9월 2일 ‘가짜’ 알고도 ‘진짜’ 속는다 ‣ 경남신문 2024년 9월 30일 딥페이크와 교육의 미래 3. 신문 읽기 <읽기자료 1> ‘유관순 열사, 실제 한복 입은 듯…’ 빙그레, 87명 독립운동가 AI 재현 ‘처음 입는 광복’은 옥중에서 순국해 빛바랜 죄수복으로 남은 독립운동가 87명의 마지막 사진을 인공지능(AI)기술을 활용해 독립운동의 정신을 담은 빛나는 한복을 입은 모습으로 바꿔 기억될 수 있도록 하는 온라인 캠페인이다. 복원된 사진 속 독립운동가는 공훈전자사료관내에 옥중 순국 기록이 있는 독립운동가 중 일제 감시 대상 인물 카드의 수형 사진이 마지막 모습으로 남은 인물들을 대상으로 선정했다. 이번 캠페인에서는 AI기술로 복원한 독립운동가의 사진에 김혜순 한복 전문가와 협업한 실제 제작 한복을 영상 기술로 입혀 재현했다. 빙그레는 생존 애국지사 6명에게 감사패와 함께 캠페인을 위해 제작된 특별한 한복을 증정할 예정이다. 독립운동의 의미와 상징성을 한복 옷감의 색과 주요 염료로 표현해 캠페인의 의미를 더했다. (중략) 복원된 독립운동가 사진은 후손들이 선조들을 영웅의 모습으로 기억할 수 있도록 봉안당·묘소 등에 비치될 크기에 맞춘 액자로 제작돼 전달된다. 또 공훈전자사료관 내 독립운동가 사진도 복원된 사진으로 적용할 계획이다. <출처 : 서울경제 2024-08-03> <읽기자료 2> AI 앵커·PD·MC까지… 방송 현장 장악한 인공지능 방송가에서 인공지능(AI)을 활용한 새로운 시도가 이어지고 있다. 초기에는 단순히 프로그램 소재로서 각광 받았지만 이제는 프로그램 제작이나 진행 과정에 AI를 활용하는 등 AI가 방송 제작 현장의 큰 흐름을 바꾸는 중이다. 지난 14일 첫 방송한 KBS2 ‘김이나의 비인칭시점’은 진행자 김이나가 AI와 함께 이야기하는 프로그램이다. 보통 ‘스토리텔링’ 프로그램에서 진행자를 두 명 이상 기용하는 것과 달리 이번 프로그램에선 MC한 명과 함께 AI를 세웠다. 의과 대학 입시 열풍부터 스토킹 살인 사건, 소극장 학전 폐관 등 다양한 주제를 다룬다. AI를 활용한 가해자의 심리 분석과 성향 파악부터 음성 복원, 목소리 구현, 특수 효과 등을 볼 수 있어 AI의 방송 활용에 새로운 가능성을 보여준다는 평가를 받는다. (중략) 뉴스는 일찌감치 AI를 활용하고 있다. MBN은 지난 2020년부터 종합뉴스 메인 앵커인 김주하 씨의 AI 앵커를 선보이고 있다. AI 앵커는 실제 김주하 앵커와 대담을 나누는 것부터 뉴스 브리핑까지 이질감 없이 소화하고 있다. 시사 교양·예능 프로그램에서 AI를 활용하는 사례도 늘고 있다. 명절 파일럿 프로그램인 MBC다큐멘터리 ‘너를 만났다’는 대표적인 AI 활용 방송이다. 보고 싶은 사람을 가상현실(VR)에서 만나 대화를 나눌 수 있는 게 프로그램의 콘셉트다. 이 때문에 프로그램 전반에 걸쳐 AI 기술이 매우 중요한 역할을 한다. 한 방송사 PD는 “AI를 활용하면 제작비가 많이 들긴 하지만, 안 해본 것들을 다루기 때문에 시청자가 새로운 재미를 찾을 수 있고, 제작진도 참신한 시도를 해볼 수 있다”고 말했다. <출처 : 부산일보 2024-03-27> <읽기자료 3> 구글 “유튜브에 동영상 생성 AI 결합” … 딥페이크 악용 우려 “딥마인드가 개발한 AI ‘비오’ 연내 유튜브 쇼츠에 통합할 계획” 말로 주문하면 고화질 영상 제작, 최대 6초 분량 생성 무료로 제공 “딥페이크 심화·저작권 침해 우려” 구글 “AI영상 꼬리표로 알릴 것” 24억여 명이 이용하는 세계 최대 동영상 플랫폼 유튜브에 동영상 생성 인공지능(AI)도구가 통합된다. 구글은 유튜브에서 활동하는 창작자(크리에이터)들이 기존 방식으로 구현해 내기 어려웠던 콘텐츠를 만들 수 있도록 지원하는 목적이라고 설명했지만, 전 세계적 위협으로 부상한 딥페이크 범죄에 악용될 수 있다는 우려가 크다. 구글 유튜브는 18일(현지시간) 미국 뉴욕에서 열린 연례 전략 발표 행사 ‘메이드 온 유튜브(Made on Youtube)에서 “올해 안에 구글 딥마인드의 가장 뛰어난 동영상 생성 모델 비오(Veo)를 유튜브 쇼츠에 통합하기 시작할 것”이라고 밝혔다. 비오는 ’알파고‘ 개발사 구글 딥마인드가 만든 최신형 영상 생성 AI다. 지난 5월 구글 연례 개발자대회에서 맛보기식으로 처음 공개됐는데, 이용자가 말로 주문하면 AI가 다양한 스타일로 고화질(1,080p)영상을 제작해 준다. 오픈 AI의 소라나 런웨이 젠-3 알파 등이 경쟁 제품이다. 대부분 영상 생성 AI도구들이 유료로 제공되고 있기 때문에 비오가 유튜브에서 ’공짜‘로 제공된다는 것만으로 영상 생성 AI에 대한 접근성을 끌어올릴 것으로 보인다. 닐 모한 유튜브 최고 경영자는 “(비오는)여러분의 작업을 더 빠르고 효율적으로 만들고, 창의적인 아이디어를 더 빠르게 실현시켜 줄 것”이라고 자신했다. 그러나 테크업계에서는 세계 각국에서 딥페이크 피해가 잇따르는 가운데 구글의 조치가 자칫 이런 상황을 심화시킬 수 있다는 지적이 나온다. 구글은 이 같은 우려를 의식해 나름의 안전장치를 둔 것으로 보인다. AI도구 접목을 쇼츠로만 국한하고, AI생성 영상의 길이가 6초를 넘기지 못하게 한 것이 그 예다. 구글은 “비오로 생성된 창작물에는 워터마크(육안으로는 확인할 수 없는 식별 표시)를 삽입하고, 꼬리표(라벨)을 붙여 시청자들에게 해당 영상이 AI로 생성됐다는 사실을 명확히 알릴 것”이라고도 강조했다. (생략) <출처 : 한국일보 2024-09-20> <읽기자료 4> ’가짜‘ 알고도 ’진짜‘ 속는다 딥페이크(인공지능(AI) 기반 이미지 합성)로 제작된 콘텐츠를 실제로 본 사람들은 이 콘텐츠가 가짜인 것을 알고 보더라도 진짜처럼 인지한다는 연구 결과가 최근 소개됐다. 강진숙 중앙대 미디어커뮤니케이션 학과 교수와 박사 수료생 김지현씨가 올해 3월 한국방송학보에 발표한 논문 ’2030 세대 이용자의 딥페이크 기술 경험에 대한 사례 연구‘에 따르면, 연구진은 “대중들이 딥페이크 영상임을 인지하면서도 진짜와 가짜의 경계를 구분하지 않게 되는 태도가 나타나고 있다”고 분석했다. 연구진은 딥페이크로 제작된 영상을 접하거나 제작 프로세스를 경험한 20, 30대 기자·직장인·보안전문가·교직원·군인·대학생·대학원생 등 총 12명에 대해 심층 인터뷰와 초점 집단 인터뷰(FGI)를 진행했다. 이에 따르면 사례자들은 소셜 미디어를 통해 딥페이크 콘텐츠를 접했다. 조 바이든 미국 대통령이 트랜스젠터를 모욕하는 딥페이크 동영상, AI로 만든 젊은 남성 모델을 활용한 칠성사이다 광고 등이다. 연구 참여자들은 딥페이크 이미지와 영상이 실제와 구별하기 어려운 콘텐츠로 제작돼 진위성의 혼란을 가져왔다고 공통으로 지적했다. AI 활용 콘텐츠 등을 3년 5개월간 접해왔다는 연구 참여자 A씨는 “한 정치인이 막말하는(딥페이크) 영상을 본 적이 있다. 저도 모르게 진짜라고 생각했던 것 같다. 정교하게 만들어져 진짜인지 가짜인지 헷갈렸다”고 털어놨다. 또한 연구진은 사례 분석을 통해 딥페이크 기술은 과장되거나 정치적·선정적 효과를 만들기 위한 하나의 전략으로 이용된다고 설명했다. 이어 “알고리즘을 통해 공유되는 영상은 다양한 계층에 공유돼 대중의 판단을 흐린다”고 덧붙였다. 연구진은 딥페이크 여부를 영상에 표기할 수 있지만 이 또한 기술적으로 없앨 수 있다고 한 사례자의 진술을 인용해, 딥페이크의 출처 및 영상의 목적이나 용도를 명확히 할 수 있는 새로운 대책이 필요하다고 강조했다. 연구진은 아울러 “허위 정보와 범죄, 상업적 유린 등으로 딥페이크로 인한 혼란을 경험한 대중들은 진보한 의식과 태도를 갖고, 적극적으로 기술을 수용하면서 대항할 힘을 기르는 게 중요하다”고 밝혔다. <출처 : 한국일보 2024-09-02> <읽기자료 5> 딥페이크와 교육의 미래 딥페이크가 심각한 사회문제로 떠오르고 있다. 딥페이크는 인공 지능 기술을 이용하여 사진이나 영상을 조작하는 행위이다. 사용하기에 따라서 유용한 기술이지만 문제는 타인의 얼굴을 합성한 성범죄에 악용하는 사례가 급증하고 있다는 점이다. 이미 몇몇 대학교에서 심각한 수준의 사례가 발생하였고, 중고등학교, 심지어 초등학교에서까지 그 사례가 눈에 띄게 증가하고 있다. 이 범죄는 인공 지능의 발달에 따라 점점 더 정교해지고 일상화될 것이라는 점에서 한층 우려스러운 문제이다. 더욱 큰 문제는 이를 저지르는 사람들이 가벼운 재밋거리로 여기는 등 그 심각한 폐해를 제대로 인지하지 못한다는 점이다. 최근 국회 여성가족위원회는 딥페이크 피해 방지를 핵심으로 하는 성폭력방지 및 피해자 보호 개정안 등을 가결하였다. 실질적인 입법화가 시작되었다는 점에서 다행이지만, 디지털 범죄의 속성상 처벌만으로 한계가 있는 것도 사실이다. 그래서 좀 더 근본적인 해법도 요구된다. 이 딥페이크 성범죄는 몇 가지 특징이 있다. 첫째, 연령 면에서 청소년, 청년층이 주된 가해자이며, 둘째, 절대적으로 남성이 가해자, 여성이 피해자이며, 셋째, 전 세계 피해자의 절반 이상이 한국 여성일 정도로 우리나라에서 특히 심각한 문제라는 점이다. 가해자의 연령이 낮은 점은 무엇보다 교육의 필요성을 말해 준다. 한창 성에 민감하면서 도덕적 판단이 아직 미숙한 성장기에서 올바른 가치관이야말로 현재와 미래의 범죄를 예방할 수 있는 유효한 수단이다. 이메일, 문자 메시지 등 언어 환경의 변화에 따라 매체 언어 교육이 도입되었듯이, 급변하는 기술 환경에 대응하는 새 패러다임의 교육이 필요하다. 특히 인공지능은 기능적 교육과 더불어 사용 윤리 교육이 절실한 분야이다. 인간의 삶에 유용한 만큼 악용의 여지도 그만큼 크기 때문이다. 최근 한국청소년정책연구원 보고서에 따르면 청소년 10명 중 3명만 AI교육을 받았다고 하니 보다 진지하게 고민할 때이다. 딥페이크 성범죄가 유독 우리나라에서 빈발하는 점은 정말 눈여겨볼 점이다. 오늘날 우리 사회는 페미라는 말이 혐오의 뜻으로 쓰일 정도로 남녀 갈등이 극에 달해 있다. 이 왜곡된 젠더 의식과 협오의 환경이 과학기술과 결합하면서 딥페이크 범죄라는 괴물을 낳는 데 일조하는 것이다. 입시 교육, 취업 교육을 좀 줄이고, 올바른 가치관을 바탕으로 새로운 과학기술의 시대를 살아갈 수 있도록 도와주는 새롭고 전면적인 교육을 준비해야 한다. <출처 : 경남신문 2024-09-30> 4. 생각 열기 ◈ 기본활동 1) <읽기자료 1~2>를 읽고, 인공지능(AI)기술의 다양한 활용 사례에 대해 정리해 봅시다. - ◈ 기본활동 2) <읽기자료 1~2>를 읽고, 인공지능(AI) 기술 활용의 장점에 대해 써 봅시다. - ◈ 기본활동 3) <읽기자료 3>을 읽고, 유튜브에 동영상 생성AI ’비오‘(Veo)가 통합된다면 동영상 콘텐츠 제작과 소비 방식에 어떤 변화가 생길지 써 봅시다. - ◈ 기본활동 4) <읽기자료 4>를 읽고, 대중들이 딥페이크로 제작된 콘텐츠를 인지하는 방식에 대해 써 봅시다. - ◈ 기본활동 5) <읽기자료 5>를 읽고, 딥페이크 성범죄의 특징을 정리해 봅시다. -1) -2) -3) ◈ 기본활동 6) <읽기자료 4~5>를 읽고, 인공지능(AI) 기술의 책임 있는 사용과 규제를 위해 필요한 것은 무엇인지 써 봅시다. - 5. 생각 더하기 ▶ 다음 주제 중 하나를 정하여 이야기를 나누고 내 생각을 글로 써 봅시다. - 인간이 아닌 AI가 만든 콘텐츠의 저작권은 누가 가져야 할까? - AI로 유명인의 목소리를 복제하여 사용할 때 대가를 지불해야 할까? - 딥페이크로 생성된 콘텐츠를 이용하여 수익이 발생했을 때, 원작자와 딥페이크 제작자는 수익을어떻게 나눠야 할까? /이리 북일초 윤지선 교사
