지난 6월 1일에 진행한 세미나에 이어 29일에는 ai에 대한 세미나를 진행했습니다. <AI 기본법으로 딥페이크 성폭력을 다룰 수 있을까?> 라는 질문에 한사성은 무어라 답했을까요? 우리 사회에 휘몰아치듯 각양각색의 인공지능 서비스가 자리잡고, 이에 따라 AI기본법도 속도감 있게 제정되었습니다. 우선은 국내외의 AI 관련 법의 동향을 살펴보았습니다.
해외의 동향 : 유럽 AI Act
유럽의 AI Act는 유럽연합(EU)이 제정한 포괄적인 AI 규제 법안입니다. 이 법에서는 AI 시스템을 위험도에 따라 4단계로 구분하여 안전 조치를 취하고 있습니다. 이 네가지 구분을 자세히 살펴 보자면,
- 용납할 수 없는 위험 등급 : 특정 집단의 취약성을 악용하거나, 프로파일링에만 기반하여 예측 치안을 하거나, 무분별한 안면 인식 데이터베이스를 구축하거나, 민감한 개인의 특성을 추론하기 위해 생체 인식 분류를 사용하거나, 공공장소에서 실시간으로 원격 생체 인식을 진행하는 등의 편향과 차별로 사람들의 삶에 악영향을 줄 것으로 예상되는 AI는 금지됩니다.
- 고위험군 등급 : 안전 면이나 인권 면에서의 고위험군을 따로 분류하고 있습니다. 윤리 지침과 준수 요건을 명시해두고 있으며, 제공자와 배포자, 수입업자, 유통업자의 의무를 밝히고 있습니다. 고위험 인공지능 시스템에 대한 기본권 영향 평가의 책임도 명시하고 있습니다.
- 제한적 위험 등급 : 자연인과 직접 상호작용하거나, 콘텐츠를 생성하거나, 감정 및 생체 정보를 인식하고 분류하거나, 딥페이크를 생성하는- 4가지 기능을 수행하는 AI가 주로 속합니다. 적절한 방식으로 AI를 통해 생성된 정보임을 밝혀야 하는 의무를 집니다.
- 최소위험 등급 : 규제에서 제외되고, AI 법 상의 준수 의무는 없지만 저작권, 소비자보호, 개인정보보호, 공정거래, 근로기준, 환경법 등의 일반 의무를 준수해야 할 책임이 있습니다.
AI Act의 다른 특징으로는 영향 받는 자에 대한 권리를 보장하는 조항이 있다는 것과, 기본권에 대한 언급을 법안에서 여러 차례 하고 있다는 점입니다.
기본권에 관해서, 고위험 등급의 AI를 검토할 때는 AI를 통한 데이터가 추후 차별이나 잠재적 편견을 조장할 수도 있음을 고려해야 한다는 점을 명시하고, 제한적 위험 등급의 AI를 규제할 때 장애인 접근성이나 성평등 관련 영향 평가를 해야 한다고 명시하는 등 AI의 위험성이나 영향력을 평가할 때 기본권을 살피고 있음을 알 수 있었습니다. 또, 불평등 해소 목적과 사회적, 환경적으로 유익한 결과를 가져올 수 있는 AI 관련 연구나 개발을 적극적으로 지원하고 장려해야 한다고 명시한 점 역시 눈에 띕니다.
AI Act의 내용 중, 성적 딥페이크를 금지한 내용의 개정안(누드화 금지-the nudification ban)이 유럽의회를 통과하여 관련 내용을 조금 더 깊게 살펴보았습니다. 개정 전에는 딥페이크 생성 AI가 “제한적 위험” 등급으로 분류되었습니다. 개정 후에는 딥페이크를 통한 누드화 기술은 “금지” 등급으로 추가되었습니다. 구체적으로, 이 법은 아동 성학대 자료를 생성하거나, 특정인의 은밀한 신체 부위 또는 성적으로 노골적인 행위를 묘사하는 이미지, 비디오 및 오디오를 해당인의 동의 없이 제작하는 인공지능 시스템을 금지하고 있습니다. 제공업체는 이러한 자료의 생성을 방지하기 위한 적절한 기술적 안전장치를 갖추지 않은 경우 EU 시장에 이러한 시스템을 출시할 수 없습니다. 이 금지 조항은 해당 목적으로 시스템을 사용하는 배포자에게도 적용될 예정입니다.
국내의 동향 : 한국의 인공지능 기본법
우리나라도 AI기본법이 1월부터 본격적으로 시행되고, 정부가 「대한민국 인공지능 행동계획」을 올 2월에 발표하는 등 제도를 서둘러 정비하고 있습니다. 그러나 아직 공백이 많고 부실하게 느껴지는 것이 사실입니다. 특히 크게 문제로 꼽히는 것은 산업의 육성만 강조하고 젠더 관점이나 인권 관점이 부재하다는 점인데요. 이에 대해 한사성은 한국여성단체연합과 젠더교육플랫폼 효재의 주최로 지난 5월 “AI가 가져올 사회 변화, 젠더로 묻다”라는 제목의 라운드테이블에 참여하기도 했습니다.
관련 활동 보러가기 클릭
“우리는 어떤 것을 얼마나, 어떻게 규제할 수 있을까?”
[누드화 금지(the nudification ban)와 성폭력처벌법 제14조의 2]
우선 AI Act의 개정된 ‘누드화’에 대해 이야기했습니다.
- 법 적용의 대상으로 “특정인의 은밀한 신체 부위 또는 성적으로 노골적인 행위를 묘사하는 이미지, 비디오 및 오디오를 해당인의 동의 없이 제작하는 인공지능 시스템”이라고 규정해둔 문구에서 놓치는 피해 유형은 어떤 것이 있을까?
- 은밀한, 성적, 노골적, 동의… 등의 단어가 해석의 여지가 있을 적절한 기술적 안전장치를 누가 어떻게 무엇을 기준으로 판단할 수 있나?
- EU에서 말하는 동의는 누구의 동의이고, 이걸 어떻게 확인할 수 있는가?
한편, 성폭력처벌법(성폭력범죄의 처벌 등에 대한 특례법) 제14조의 2 중 1항, 2항과도 비교해보았습니다.
<제14조의 2>
① 사람의 얼굴ㆍ신체 또는 음성을 대상으로 한 촬영물ㆍ영상물 또는 음성물(이하 이 조에서 “영상물등”이라 한다)을 영상물등의 대상자의 의사에 반하여 성적 욕망 또는 수치심을 유발할 수 있는 형태로 편집ㆍ합성 또는 가공(이하 이 조에서 “편집등”이라 한다)한 자는 7년 이하의 징역 또는 5천만원 이하의 벌금에 처한다. <개정 2024. 10. 16.>
② 제1항에 따른 촬영물 또는 복제물(복제물의 복제물을 포함한다. 이하 이 조에서 같다)을 반포ㆍ판매ㆍ임대ㆍ제공 또는 공공연하게 전시ㆍ상영(이하 “반포등”이라 한다)한 자 또는 제1항의 촬영이 촬영 당시에는 촬영대상자의 의사에 반하지 아니한 경우(자신의 신체를 직접 촬영한 경우를 포함한다)에도 사후에 그 촬영물 또는 복제물을 촬영대상자의 의사에 반하여 반포등을 한 자는 7년 이하의 징역 또는 5천만원 이하의 벌금에 처한다. <개정 2018. 12. 18., 2020. 5. 19.>
<누드화 금지(the nudification ban)>
아동 성학대 자료를 생성하거나, 특정인의 은밀한 신체 부위 또는 성적으로 노골적인 행위를 묘사하는 이미지, 비디오 및 오디오를 해당인의 동의 없이 제작하는 인공지능 시스템을 금지하고 있습니다. 제공업체는 이러한 자료의 생성을 방지하기 위한 적절한 기술적 안전장치를 갖추지 않은 경우 EU 시장에 이러한 시스템을 출시할 수 없습니다. 이 금지 조항은 해당 목적으로 시스템을 사용하는 배포자에게도 적용됩니다.
우리의 성폭력특별법은 행위자를 대상으로 한 형사처벌이라 AI시스템을 대상으로 한 규제와는 다르다는 점을 확인할 수 있었습니다.
전기통신사업법과 ‘기술적 조치’
어떤 것을 어떻게 금지시킬지 얘기를 나누다가 한사성 활동가들은 어떤 기시감을 느꼈습니다. AI와 관련 사업자들에게 부과해야 하는 의무와 전기통신사업법의 ‘기술적 조치’가 겹쳐 보였기 때문입니다. 현재 기술적 조치의 의무를 지고 있는 플랫폼 사업자들이 의무의 일환으로 제출해야 하는 ‘투명성 보고서’가 형식적이라는 문제의식 아래, AI Act에서 말하는 ‘기술적 안전장치’는 어떻게 입증할 것이며 또 어떻게 관리감독 될 것인지 주의 깊게 살펴볼 필요를 느꼈습니다. 그러나 동시에, 전기통신사업법처럼 뭐라도 하자고 하는 게 나을까?라는 생각도 들었습니다. 지금의 한국의 AI 기본법으로는 안전성도, 투명성도 너무 부실하기 때문입니다. 적어도 어느 정도의 기본선을, 지금의 온라인 플랫폼 사업자들처럼 특정 단어나 이미지 필터링이라도 하는 최소한의 의무가 주어져야 하는 것은 아닐까 하는 생각이 들었습니다. 한편, 상상할 수 있는 제도적인 규제의 종류가 '금지된 문구를 입력하면 팝업창으로 경고' 정도의 협소한 방식이란 점에서 고민도 남았습니다.
여러 의견을 모아보았습니다.
- 현재 금지 조항이 없고, 기본법의 목적은 AI산업진흥에만 국한되어 있으니, AI 윤리를 다룰 수 있는 별도의 특별법을 만들어야할까?
- 만약 규제를 주장한다면, 우리는 무엇을 금지시켜야 한다고 주장해야 할까?
- 지금도 성폭력처벌법에 있어서 문제인 용어, ‘성적욕망’이나 ‘수치심’을 대체한 단어로 어떤 것을 써야 할까? AI Act처럼 특정인이나 비동의라는 단어를 추가해야 한다고 주장할까?
한국에도 AI Act와 같은 보다 강력한 규제가 필요하다고 주장하기 조심스럽게 느껴집니다. 한국에서 기존 사이버성폭력을 바라보고 처벌하는 방식은 언제나 ‘음란’의 정도가 기준이었기에, 폭력과 혐오 규제라기 보단 '음란' 그 자체에 대한 단속으로 전도될 수 있기 때문입니다. 이 때 단속되는 '음란'은 자유로운 성적 실천이 될 수도 있고, 여성의 섹슈얼리티를 처벌하는 방식으로 작동될 우려가 함께 있습니다.
법으로 딥페이크 성폭력을 막을 수 있을까?
딥페이크가 어느덧 우리 일상 속에 깊게 자리잡은 현 시점에서, 우리는 언제나 영상물에 대해 진짜vs가짜 논쟁에 시달리고 있습니다.
AI 기본법 제31조(인공지능 투명성 확보 의무) 3항에서 이런 내용을 확인할 수 있습니다.
③ 인공지능사업자는 인공지능시스템을 이용하여 실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상 등의 결과물을 제공하는 경우 해당 결과물이 인공지능시스템에 의하여 생성되었다는 사실을 이용자가 명확하게 인식할 수 있는 방식으로 고지 또는 표시하여야 한다. 이 경우 해당 결과물이 예술적ㆍ창의적 표현물에 해당하거나 그 일부를 구성하는 경우에는 전시 또는 향유 등을 저해하지 아니하는 방식으로 고지 또는 표시할 수 있다.
현재 발생하는 딥페이크 성폭력을 해결하기 위한 도구로 딥페이크인지 표시하는 것만으로는 불충분하다고 입을 모았습니다. 생성형 AI의 투명성을 위해 딥페이크라고 표시하는 것으로는 충분하지 않고, 나아가 실제 피해자가 존재하지 않는 폭력을 둘러싼 고민을 나누었습니다. 현행법으로는 피해자가 실존 인물으로 한정되어 있는데, 현실을 학습한 AI가 구현한 가상인물이 과연 완전한 가상일 수 있는지, 가상인물에 대한 폭력이 현실에 미치는 영향은 무엇인지, 또 이것이 법적으로 규제가 가능한지, 폭력이라는 개념으로 설명하는 것이 충분한지, 질문이 꼬리를 물고 이어졌습니다.
법의 언어보다는 여성혐오로 접근할 때 풀 수 있는 문제라고 느껴지기도 했습니다.
“우리는 AI 쟁점에서 무엇을 관심사로 붙잡고 갈 것인가?”
이야기가 흘러흘러, 여성혐오처벌법을 만들자는 농담 아닌 농담까지 나누다가 다시 원점으로 돌아왔습니다. AI라고 했을 때 우리가 상상이 되는 범위가 제한적이라 이전 세미나에 비해 논의가 쉽지 않았습니다. 이 산업의 생태계에 대해 확실히 잘 모른다는 느낌을 많이 공유했습니다.
한국에서 AI로 피해가 일어난 경우 처벌이 어떻게 되고 있는지 실태를 알기 위해 판례분석이 필요할 것 같다는 감상, 가상인물을 대상으로 한 폭력에 실제 여성들이 어떤 것을 피해라고 감각하는지 더 깊게 얘기할 수 있도록 제 2물결 페미니즘에 대해 공부를 해보자는 감상을 나누었습니다. 한사성도 새로운 입장을 다듬고 내놓아야 할 필요성을 절실히 느낍니다.
지난 6월 1일에 진행한 세미나에 이어 29일에는 ai에 대한 세미나를 진행했습니다. <AI 기본법으로 딥페이크 성폭력을 다룰 수 있을까?> 라는 질문에 한사성은 무어라 답했을까요? 우리 사회에 휘몰아치듯 각양각색의 인공지능 서비스가 자리잡고, 이에 따라 AI기본법도 속도감 있게 제정되었습니다. 우선은 국내외의 AI 관련 법의 동향을 살펴보았습니다.
해외의 동향 : 유럽 AI Act
유럽의 AI Act는 유럽연합(EU)이 제정한 포괄적인 AI 규제 법안입니다. 이 법에서는 AI 시스템을 위험도에 따라 4단계로 구분하여 안전 조치를 취하고 있습니다. 이 네가지 구분을 자세히 살펴 보자면,
- 용납할 수 없는 위험 등급 : 특정 집단의 취약성을 악용하거나, 프로파일링에만 기반하여 예측 치안을 하거나, 무분별한 안면 인식 데이터베이스를 구축하거나, 민감한 개인의 특성을 추론하기 위해 생체 인식 분류를 사용하거나, 공공장소에서 실시간으로 원격 생체 인식을 진행하는 등의 편향과 차별로 사람들의 삶에 악영향을 줄 것으로 예상되는 AI는 금지됩니다.
- 고위험군 등급 : 안전 면이나 인권 면에서의 고위험군을 따로 분류하고 있습니다. 윤리 지침과 준수 요건을 명시해두고 있으며, 제공자와 배포자, 수입업자, 유통업자의 의무를 밝히고 있습니다. 고위험 인공지능 시스템에 대한 기본권 영향 평가의 책임도 명시하고 있습니다.
- 제한적 위험 등급 : 자연인과 직접 상호작용하거나, 콘텐츠를 생성하거나, 감정 및 생체 정보를 인식하고 분류하거나, 딥페이크를 생성하는- 4가지 기능을 수행하는 AI가 주로 속합니다. 적절한 방식으로 AI를 통해 생성된 정보임을 밝혀야 하는 의무를 집니다.
- 최소위험 등급 : 규제에서 제외되고, AI 법 상의 준수 의무는 없지만 저작권, 소비자보호, 개인정보보호, 공정거래, 근로기준, 환경법 등의 일반 의무를 준수해야 할 책임이 있습니다.
AI Act의 다른 특징으로는 영향 받는 자에 대한 권리를 보장하는 조항이 있다는 것과, 기본권에 대한 언급을 법안에서 여러 차례 하고 있다는 점입니다.
기본권에 관해서, 고위험 등급의 AI를 검토할 때는 AI를 통한 데이터가 추후 차별이나 잠재적 편견을 조장할 수도 있음을 고려해야 한다는 점을 명시하고, 제한적 위험 등급의 AI를 규제할 때 장애인 접근성이나 성평등 관련 영향 평가를 해야 한다고 명시하는 등 AI의 위험성이나 영향력을 평가할 때 기본권을 살피고 있음을 알 수 있었습니다. 또, 불평등 해소 목적과 사회적, 환경적으로 유익한 결과를 가져올 수 있는 AI 관련 연구나 개발을 적극적으로 지원하고 장려해야 한다고 명시한 점 역시 눈에 띕니다.
AI Act의 내용 중, 성적 딥페이크를 금지한 내용의 개정안(누드화 금지-the nudification ban)이 유럽의회를 통과하여 관련 내용을 조금 더 깊게 살펴보았습니다. 개정 전에는 딥페이크 생성 AI가 “제한적 위험” 등급으로 분류되었습니다. 개정 후에는 딥페이크를 통한 누드화 기술은 “금지” 등급으로 추가되었습니다. 구체적으로, 이 법은 아동 성학대 자료를 생성하거나, 특정인의 은밀한 신체 부위 또는 성적으로 노골적인 행위를 묘사하는 이미지, 비디오 및 오디오를 해당인의 동의 없이 제작하는 인공지능 시스템을 금지하고 있습니다. 제공업체는 이러한 자료의 생성을 방지하기 위한 적절한 기술적 안전장치를 갖추지 않은 경우 EU 시장에 이러한 시스템을 출시할 수 없습니다. 이 금지 조항은 해당 목적으로 시스템을 사용하는 배포자에게도 적용될 예정입니다.
국내의 동향 : 한국의 인공지능 기본법
우리나라도 AI기본법이 1월부터 본격적으로 시행되고, 정부가 「대한민국 인공지능 행동계획」을 올 2월에 발표하는 등 제도를 서둘러 정비하고 있습니다. 그러나 아직 공백이 많고 부실하게 느껴지는 것이 사실입니다. 특히 크게 문제로 꼽히는 것은 산업의 육성만 강조하고 젠더 관점이나 인권 관점이 부재하다는 점인데요. 이에 대해 한사성은 한국여성단체연합과 젠더교육플랫폼 효재의 주최로 지난 5월 “AI가 가져올 사회 변화, 젠더로 묻다”라는 제목의 라운드테이블에 참여하기도 했습니다.
관련 활동 보러가기 클릭
“우리는 어떤 것을 얼마나, 어떻게 규제할 수 있을까?”
[누드화 금지(the nudification ban)와 성폭력처벌법 제14조의 2]
우선 AI Act의 개정된 ‘누드화’에 대해 이야기했습니다.
- 법 적용의 대상으로 “특정인의 은밀한 신체 부위 또는 성적으로 노골적인 행위를 묘사하는 이미지, 비디오 및 오디오를 해당인의 동의 없이 제작하는 인공지능 시스템”이라고 규정해둔 문구에서 놓치는 피해 유형은 어떤 것이 있을까?
- 은밀한, 성적, 노골적, 동의… 등의 단어가 해석의 여지가 있을 적절한 기술적 안전장치를 누가 어떻게 무엇을 기준으로 판단할 수 있나?
- EU에서 말하는 동의는 누구의 동의이고, 이걸 어떻게 확인할 수 있는가?
한편, 성폭력처벌법(성폭력범죄의 처벌 등에 대한 특례법) 제14조의 2 중 1항, 2항과도 비교해보았습니다.
<제14조의 2>
① 사람의 얼굴ㆍ신체 또는 음성을 대상으로 한 촬영물ㆍ영상물 또는 음성물(이하 이 조에서 “영상물등”이라 한다)을 영상물등의 대상자의 의사에 반하여 성적 욕망 또는 수치심을 유발할 수 있는 형태로 편집ㆍ합성 또는 가공(이하 이 조에서 “편집등”이라 한다)한 자는 7년 이하의 징역 또는 5천만원 이하의 벌금에 처한다. <개정 2024. 10. 16.>
② 제1항에 따른 촬영물 또는 복제물(복제물의 복제물을 포함한다. 이하 이 조에서 같다)을 반포ㆍ판매ㆍ임대ㆍ제공 또는 공공연하게 전시ㆍ상영(이하 “반포등”이라 한다)한 자 또는 제1항의 촬영이 촬영 당시에는 촬영대상자의 의사에 반하지 아니한 경우(자신의 신체를 직접 촬영한 경우를 포함한다)에도 사후에 그 촬영물 또는 복제물을 촬영대상자의 의사에 반하여 반포등을 한 자는 7년 이하의 징역 또는 5천만원 이하의 벌금에 처한다. <개정 2018. 12. 18., 2020. 5. 19.>
<누드화 금지(the nudification ban)>
아동 성학대 자료를 생성하거나, 특정인의 은밀한 신체 부위 또는 성적으로 노골적인 행위를 묘사하는 이미지, 비디오 및 오디오를 해당인의 동의 없이 제작하는 인공지능 시스템을 금지하고 있습니다. 제공업체는 이러한 자료의 생성을 방지하기 위한 적절한 기술적 안전장치를 갖추지 않은 경우 EU 시장에 이러한 시스템을 출시할 수 없습니다. 이 금지 조항은 해당 목적으로 시스템을 사용하는 배포자에게도 적용됩니다.
우리의 성폭력특별법은 행위자를 대상으로 한 형사처벌이라 AI시스템을 대상으로 한 규제와는 다르다는 점을 확인할 수 있었습니다.
전기통신사업법과 ‘기술적 조치’
어떤 것을 어떻게 금지시킬지 얘기를 나누다가 한사성 활동가들은 어떤 기시감을 느꼈습니다. AI와 관련 사업자들에게 부과해야 하는 의무와 전기통신사업법의 ‘기술적 조치’가 겹쳐 보였기 때문입니다. 현재 기술적 조치의 의무를 지고 있는 플랫폼 사업자들이 의무의 일환으로 제출해야 하는 ‘투명성 보고서’가 형식적이라는 문제의식 아래, AI Act에서 말하는 ‘기술적 안전장치’는 어떻게 입증할 것이며 또 어떻게 관리감독 될 것인지 주의 깊게 살펴볼 필요를 느꼈습니다. 그러나 동시에, 전기통신사업법처럼 뭐라도 하자고 하는 게 나을까?라는 생각도 들었습니다. 지금의 한국의 AI 기본법으로는 안전성도, 투명성도 너무 부실하기 때문입니다. 적어도 어느 정도의 기본선을, 지금의 온라인 플랫폼 사업자들처럼 특정 단어나 이미지 필터링이라도 하는 최소한의 의무가 주어져야 하는 것은 아닐까 하는 생각이 들었습니다. 한편, 상상할 수 있는 제도적인 규제의 종류가 '금지된 문구를 입력하면 팝업창으로 경고' 정도의 협소한 방식이란 점에서 고민도 남았습니다.
여러 의견을 모아보았습니다.
- 현재 금지 조항이 없고, 기본법의 목적은 AI산업진흥에만 국한되어 있으니, AI 윤리를 다룰 수 있는 별도의 특별법을 만들어야할까?
- 만약 규제를 주장한다면, 우리는 무엇을 금지시켜야 한다고 주장해야 할까?
- 지금도 성폭력처벌법에 있어서 문제인 용어, ‘성적욕망’이나 ‘수치심’을 대체한 단어로 어떤 것을 써야 할까? AI Act처럼 특정인이나 비동의라는 단어를 추가해야 한다고 주장할까?
한국에도 AI Act와 같은 보다 강력한 규제가 필요하다고 주장하기 조심스럽게 느껴집니다. 한국에서 기존 사이버성폭력을 바라보고 처벌하는 방식은 언제나 ‘음란’의 정도가 기준이었기에, 폭력과 혐오 규제라기 보단 '음란' 그 자체에 대한 단속으로 전도될 수 있기 때문입니다. 이 때 단속되는 '음란'은 자유로운 성적 실천이 될 수도 있고, 여성의 섹슈얼리티를 처벌하는 방식으로 작동될 우려가 함께 있습니다.
법으로 딥페이크 성폭력을 막을 수 있을까?
딥페이크가 어느덧 우리 일상 속에 깊게 자리잡은 현 시점에서, 우리는 언제나 영상물에 대해 진짜vs가짜 논쟁에 시달리고 있습니다.
AI 기본법 제31조(인공지능 투명성 확보 의무) 3항에서 이런 내용을 확인할 수 있습니다.
③ 인공지능사업자는 인공지능시스템을 이용하여 실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상 등의 결과물을 제공하는 경우 해당 결과물이 인공지능시스템에 의하여 생성되었다는 사실을 이용자가 명확하게 인식할 수 있는 방식으로 고지 또는 표시하여야 한다. 이 경우 해당 결과물이 예술적ㆍ창의적 표현물에 해당하거나 그 일부를 구성하는 경우에는 전시 또는 향유 등을 저해하지 아니하는 방식으로 고지 또는 표시할 수 있다.
현재 발생하는 딥페이크 성폭력을 해결하기 위한 도구로 딥페이크인지 표시하는 것만으로는 불충분하다고 입을 모았습니다. 생성형 AI의 투명성을 위해 딥페이크라고 표시하는 것으로는 충분하지 않고, 나아가 실제 피해자가 존재하지 않는 폭력을 둘러싼 고민을 나누었습니다. 현행법으로는 피해자가 실존 인물으로 한정되어 있는데, 현실을 학습한 AI가 구현한 가상인물이 과연 완전한 가상일 수 있는지, 가상인물에 대한 폭력이 현실에 미치는 영향은 무엇인지, 또 이것이 법적으로 규제가 가능한지, 폭력이라는 개념으로 설명하는 것이 충분한지, 질문이 꼬리를 물고 이어졌습니다.
법의 언어보다는 여성혐오로 접근할 때 풀 수 있는 문제라고 느껴지기도 했습니다.
“우리는 AI 쟁점에서 무엇을 관심사로 붙잡고 갈 것인가?”
이야기가 흘러흘러, 여성혐오처벌법을 만들자는 농담 아닌 농담까지 나누다가 다시 원점으로 돌아왔습니다. AI라고 했을 때 우리가 상상이 되는 범위가 제한적이라 이전 세미나에 비해 논의가 쉽지 않았습니다. 이 산업의 생태계에 대해 확실히 잘 모른다는 느낌을 많이 공유했습니다.
한국에서 AI로 피해가 일어난 경우 처벌이 어떻게 되고 있는지 실태를 알기 위해 판례분석이 필요할 것 같다는 감상, 가상인물을 대상으로 한 폭력에 실제 여성들이 어떤 것을 피해라고 감각하는지 더 깊게 얘기할 수 있도록 제 2물결 페미니즘에 대해 공부를 해보자는 감상을 나누었습니다. 한사성도 새로운 입장을 다듬고 내놓아야 할 필요성을 절실히 느낍니다.