지난 5월 6일, 서울여성플라자 시청각실에서 한국여성단체연합과 젠더교육플랫폼 효재의 주최로 “AI가 가져올 사회 변화, 젠더로 묻다”라는 제목의 라운드테이블이 진행되었습니다. 한국사이버성폭력대응센터의 여파 활동가도 “AI시대, 사이버성폭력 대응 현장의 고민”이라는 한 꼭지를 맡아 발제로 참여했습니다.
정부가 「대한민국 인공지능 행동계획」을 올 2월에 발표하고, 사회 전 분야에 걸쳐 인공지능 전환(AI AX)을 빠르게 추진하고 있는 상황이지만, 데이터와 알고리즘의 젠더 편향성 문제, 딥페이크를 비롯한 새로운 형태의 젠더폭력, AI활용 확대에 따른 여성노동권 문제, 개인정보 보호 문제 등 기존의 성차별과 불평등을 답습하거나 더욱 심화시킬 위험에 대한 충분한 논의는 부족합니다. 이번 토론회는 젠더 관점에서 인공지능 전환이 초래할 사회적 위험에 대해, 문제의식을 나누고 향후 과제와 대응 방향을 함께 모색하는 자리였습니다.
📖 젠더 관점에서 본 AI 활용과 사회 변화 - 김수아 (서울대 언론정보학과 교수)
AI를 잘 활용하면 할수록 생산성이 증대되고 효율성이 향상될 것이라는 기대가 크지만, 정작 AI로 인한 변화 속에서 빠진 질문들이 있습니다. “어떤 데이터를 누가 누구에게 학습시킬 때, 그 학습시킨 데이터에 대한 권리는 누구에게 있는 것인가?” “언어기반 인공지능 모델의 경우, 그렇다면 언어로 표상되지 않는 영역에 대해서는 어떻게 설명할 것인가?” 성평등한 사회로의 변화를 위해, AI 정책에서 상호윤리적 책무성을 디자인할 수 있는 구조를 마련해야 한다는 큰 과제가 남았습니다.
📖 여성운동 현장에서 바라본 정부의 AI정책방향 - 양이현경 (한국여성단체연합 상임대표)
"현재 이재명 정부는 거의 모든 영역에서 AI 기술을 통한 사회 전환을 계획하고 있지만, 인권에 관한 고민은 전무한 상황입니다. 모든 시민의 권리를 보장하기 위해, AI가 우리에게 미칠 영향을 충분히 고민하고 성평등과 인권을 기준으로 제도와 정책을 마련해야 할 시점입니다."
📖 젠더는 과기정통부 앞에서 멈춘다 : 과학기술 현장에서의 젠더 관점 부재에 대하여 - 조경숙 (도토리랩스 대표)
"AI 관련 정부 예산이 총 9조 9천억 원이 투여되는 상황에서, AI가 포함되는 연구 과제에서 윤리, 젠더, 성범죄 등이 포함된 과제는 0건에 불과합니다. “어떤 기술을 개발하지 않을 것인가?”라는 질문도 중요하지만, “그렇다면 어떤 기술을 개발할 것인가?”에 대한 전망 역시 꼭 필요합니다."
📖 정부와 기업은 왜 우리의 데이터를 원하는가 - 오병일 (디지털정의네트워크 대표)
"더 많은 데이터의 확보를 위해, 디지털화된 기록(교통카드 사용 기록, 핸드폰 사용 기록 등)의 수집은 더 광범위하게 일어나고 있습니다. 개인에 대한 정보의 과수집과 추적의 가능성은 시민에 대한 국가의 통제를 더욱 강화할 수도 있기 때문에, 우리에게 더 많은 민주주의가 필요합니다."
📖 페미니스트 관점으로 AI에 던지는 질문들 : <페미니스트가 함께 만든 AI가이드라인>’을 중심으로’ - 이민주(온다) (한국여성민우회 활동가)
"과학과 기술이 가치중립적일 것이라는 공고한 믿음 위에서, AI가 만들어내는 결과물이 고민 없이 받아들여지고 있습니다. 또한 기술 개발 및 운영의 과정에서 따라오는 윤리와 인권의 문제에 대해 기업 및 정부 등의 주체가 책무성을 갖추어야 합니다. 기술을 어떻게 활용할지, 또 어떤 기술을 장려하거나 제재할지 페미니즘 관점에서의 논의를 만들어야 합니다."
📖 AI시대, 사이버성폭력 대응 현장의 고민 - 김여진 (한국사이버성폭력대응센터 대표)
"이미지를 합성, 편집, 가공하는 방식을 통해 여성을 통제하여 남성 집단 내에서 남성성을 더 획득하려는 문화는 오래 전부터 있어왔지만, 우리 사회는 딥페이크 성폭력을 새롭게 등장한 성폭력으로 바라봅니다. 정교하게 합성되어 진짜인지 가짜인지 구분이 어려울 때만 진짜 피해로 인정하는 시각 역시 문제적입니다. 한편, ‘완벽한 삭제는 될 수 없는 삭제지원’에 국가가 AI를 도입하고 기술 개발에 골몰하는 사이, 정책은 삭제되지 않는 현실과 점점 동떨어지고 있다는 한계 역시 짚어야 할 부분입니다."
📢 종합토론
이후 이어진 전체토론에서는 다양한 AI 기술이 일터와 삶터로 확장되며 나타나고 있는 문제점과 우려되는 점을 두루 나누었습니다. 각 분야에서의 고민을 나누며, 인공지능 기술을 우리 사회에서 어떻게 활용해야 할지 질문이 끊이지 않는 시간이었습니다. 젠더 관점에서 인공지능과 과학, 그리고 기술에 보다 잘 접근하고 개입하기 위해, 한사성도 오늘의 치열한 고민을 안고 계속 나아가겠습니다!
생생한 현장을 영상으로 다시 보고싶다면 유튜브 링크를 참고해주세요.
https://www.youtube.com/live/O7FtbbbjLAc?si=4Fj2cwCXK0EhqEcC
👀 아래 자료집을 통해 보다 구체적인 내용을 확인하실 수 있습니다.
지난 5월 6일, 서울여성플라자 시청각실에서 한국여성단체연합과 젠더교육플랫폼 효재의 주최로 “AI가 가져올 사회 변화, 젠더로 묻다”라는 제목의 라운드테이블이 진행되었습니다. 한국사이버성폭력대응센터의 여파 활동가도 “AI시대, 사이버성폭력 대응 현장의 고민”이라는 한 꼭지를 맡아 발제로 참여했습니다.
정부가 「대한민국 인공지능 행동계획」을 올 2월에 발표하고, 사회 전 분야에 걸쳐 인공지능 전환(AI AX)을 빠르게 추진하고 있는 상황이지만, 데이터와 알고리즘의 젠더 편향성 문제, 딥페이크를 비롯한 새로운 형태의 젠더폭력, AI활용 확대에 따른 여성노동권 문제, 개인정보 보호 문제 등 기존의 성차별과 불평등을 답습하거나 더욱 심화시킬 위험에 대한 충분한 논의는 부족합니다. 이번 토론회는 젠더 관점에서 인공지능 전환이 초래할 사회적 위험에 대해, 문제의식을 나누고 향후 과제와 대응 방향을 함께 모색하는 자리였습니다.
📖 젠더 관점에서 본 AI 활용과 사회 변화 - 김수아 (서울대 언론정보학과 교수)
AI를 잘 활용하면 할수록 생산성이 증대되고 효율성이 향상될 것이라는 기대가 크지만, 정작 AI로 인한 변화 속에서 빠진 질문들이 있습니다. “어떤 데이터를 누가 누구에게 학습시킬 때, 그 학습시킨 데이터에 대한 권리는 누구에게 있는 것인가?” “언어기반 인공지능 모델의 경우, 그렇다면 언어로 표상되지 않는 영역에 대해서는 어떻게 설명할 것인가?” 성평등한 사회로의 변화를 위해, AI 정책에서 상호윤리적 책무성을 디자인할 수 있는 구조를 마련해야 한다는 큰 과제가 남았습니다.
📖 여성운동 현장에서 바라본 정부의 AI정책방향 - 양이현경 (한국여성단체연합 상임대표)
"현재 이재명 정부는 거의 모든 영역에서 AI 기술을 통한 사회 전환을 계획하고 있지만, 인권에 관한 고민은 전무한 상황입니다. 모든 시민의 권리를 보장하기 위해, AI가 우리에게 미칠 영향을 충분히 고민하고 성평등과 인권을 기준으로 제도와 정책을 마련해야 할 시점입니다."
📖 젠더는 과기정통부 앞에서 멈춘다 : 과학기술 현장에서의 젠더 관점 부재에 대하여 - 조경숙 (도토리랩스 대표)
"AI 관련 정부 예산이 총 9조 9천억 원이 투여되는 상황에서, AI가 포함되는 연구 과제에서 윤리, 젠더, 성범죄 등이 포함된 과제는 0건에 불과합니다. “어떤 기술을 개발하지 않을 것인가?”라는 질문도 중요하지만, “그렇다면 어떤 기술을 개발할 것인가?”에 대한 전망 역시 꼭 필요합니다."
📖 정부와 기업은 왜 우리의 데이터를 원하는가 - 오병일 (디지털정의네트워크 대표)
"더 많은 데이터의 확보를 위해, 디지털화된 기록(교통카드 사용 기록, 핸드폰 사용 기록 등)의 수집은 더 광범위하게 일어나고 있습니다. 개인에 대한 정보의 과수집과 추적의 가능성은 시민에 대한 국가의 통제를 더욱 강화할 수도 있기 때문에, 우리에게 더 많은 민주주의가 필요합니다."
📖 페미니스트 관점으로 AI에 던지는 질문들 : <페미니스트가 함께 만든 AI가이드라인>’을 중심으로’ - 이민주(온다) (한국여성민우회 활동가)
"과학과 기술이 가치중립적일 것이라는 공고한 믿음 위에서, AI가 만들어내는 결과물이 고민 없이 받아들여지고 있습니다. 또한 기술 개발 및 운영의 과정에서 따라오는 윤리와 인권의 문제에 대해 기업 및 정부 등의 주체가 책무성을 갖추어야 합니다. 기술을 어떻게 활용할지, 또 어떤 기술을 장려하거나 제재할지 페미니즘 관점에서의 논의를 만들어야 합니다."
📖 AI시대, 사이버성폭력 대응 현장의 고민 - 김여진 (한국사이버성폭력대응센터 대표)
"이미지를 합성, 편집, 가공하는 방식을 통해 여성을 통제하여 남성 집단 내에서 남성성을 더 획득하려는 문화는 오래 전부터 있어왔지만, 우리 사회는 딥페이크 성폭력을 새롭게 등장한 성폭력으로 바라봅니다. 정교하게 합성되어 진짜인지 가짜인지 구분이 어려울 때만 진짜 피해로 인정하는 시각 역시 문제적입니다. 한편, ‘완벽한 삭제는 될 수 없는 삭제지원’에 국가가 AI를 도입하고 기술 개발에 골몰하는 사이, 정책은 삭제되지 않는 현실과 점점 동떨어지고 있다는 한계 역시 짚어야 할 부분입니다."
📢 종합토론
이후 이어진 전체토론에서는 다양한 AI 기술이 일터와 삶터로 확장되며 나타나고 있는 문제점과 우려되는 점을 두루 나누었습니다. 각 분야에서의 고민을 나누며, 인공지능 기술을 우리 사회에서 어떻게 활용해야 할지 질문이 끊이지 않는 시간이었습니다. 젠더 관점에서 인공지능과 과학, 그리고 기술에 보다 잘 접근하고 개입하기 위해, 한사성도 오늘의 치열한 고민을 안고 계속 나아가겠습니다!
https://www.youtube.com/live/O7FtbbbjLAc?si=4Fj2cwCXK0EhqEcC
👀 아래 자료집을 통해 보다 구체적인 내용을 확인하실 수 있습니다.