본문 바로가기
라디오제주시대

라디오제주시대

월-금 18시 05분 방송
장르
보도·시사 프로그램
등급
All
제작
윤상범
구성
김영나
진행
윤상범

1월 12일(화) [키워드뉴스] 혐오를 학습하다/ 산 넘어 산(제주투데이 조수진 기자)

2021년 01월 12일 19시 32분 40초 3년 전 | 조회수 : 1,828

수정 삭제

◇ 인터뷰 전문보기 자료에 대한 저작권은 제주MBC에 있습니다. 전문 게재나 인터뷰 내용을 인용할 경우, 채널명과 정확한 프로그램명을 밝혀주시기 바랍니다. 이 프리뷰는 실제 방송 원고가 아닌 사전 원고로 작성된 것으로 실제 방송과는 차이가 있을 수 있음을 양해 바랍니다.



윤/매주 화요일에 만나는 키워드 뉴스 시간입니다.

제주투데이 조수진 기자가 전화 연결돼 있습니다. 안녕하세요?

조/안녕하세요.

윤/오늘의 키워드 알아보겠습니다.

1. 혐오를 학습하다

조/혐오를 학습하다,입니다.

윤/어떤 이야기?

조/최근 인공지능 채팅 로봇이 혐오 발언을 해 논란이 되고 있는데요. 많이들 들어보셨을 겁니다. 바로 지난달 23일 등장한 ‘이루다’입니다. 페이스북 메신저를 기반으로 개발된 채팅 로봇 서비스입니다.

윤/채팅 로봇이란 사용자와 대화가 가능한 프로그램을 말하죠.

조/네. 채팅 로봇은 크게 두 가지로 나눠지는데요. 우선 날씨나 시간처럼 특정 주제에 특화된 채팅 로봇이 있습니다. 기존에 휴대폰이나 태블릿PC 운영체제에 따라 ‘시리’나 ‘빅스비’ 같은 AI 서비스를 이용해보신 분들 많으실 텐데요. “~한테 전화를 걸어달라”거나 “날씨를 알려달라” 는 것처럼 프로그램 실행을 명령하는 말과 매우 단순한 질문만 알아듣습니다. 특정 질문에 정해진 답을 할 수 있게 설계가 됐기 때문에 일상 대화는 어렵습니다. 또 다른 채팅 로봇은 오픈도메인 채팅 로봇입니다. 특정 질문뿐만 아니라 친구와 이야기를 나누듯 대화가 가능한 프로그램입니다. 이루다가 이 경우에 속하는데요. 자연스러운 대화가 가능한 이유는 바로 딥러닝 기술을 적용했기 때문입니다.

윤/5년 전 이세돌과 바둑을 뒀던 알파고로 유명해진 기술

조/네. 딥러닝이란 인간의 뇌 신경 회로를 본떠서 만든 신경 회로망을 기반으로 하는 기술입니다. 눈에 보이진 않지만 우리 머릿속에 있는 뇌는 쉴 새 없이 활동하고 있습니다. 여러 정보를 취합해 학습하고 이 경험을 바탕으로 앞으로 우리가 어떤 행동을 할지 결정하게 됩니다. 이 과정과 유사한 방식으로 컴퓨터가 다양한 데이터를 받아들여 학습하는 겁니다. 알파고가 바둑을 둘 수 있는 것도 지금 어떤 수를 둬야 승리할 가능성이 높은지를 수많은 경우의 수를 미리 학습했기 때문입니다. 딥러닝 기술을 적용하면 마치 사람처럼 생각하고 배울 수 있게 됩니다.

윤/축적된 대화 데이터를 바탕으로 일상 대화가 가능하게 만들었다...

조/일상 대화가 가능하다는 건 문맥을 파악해 자연스럽게 이야기를 이어나간다는 건데요. 이를 위해서 이루다 개발업체에 따르면 실제 연인들이 SNS 카카오톡으로 나눈 대화 데이터 약 100억 건을 학습시켰다고 합니다. 또 이루다는 나이나 성별이 특정되지 않았던 시리나 빅스비와 달리 스무살 여성 대학생을 표방해 현실에 있는 인물처럼 설정을 했습니다.

윤/메신저 프로필 사진도 20대 여성으로 보이는 인물이 있더라고요.

조/네. 그런 특징들 때문에 이 서비스가 출시되자마자 큰 인기를 끌었는데요. 지난 8일 기준 누적 이용자 수가 40만명을 넘었다고 합니다. 그런데 출시한 지 21일 만에 잠정 중단됐습니다. 이루다가 성차별적이고 소수자에 대한 혐오적인 발언을 하는 것으로 드러났기 때문입니다. 실제 이용 후기들 중에선 “흑인을 어떻게 생각하느냐”는 질문에 “흑인은 오바마급 아니면 싫어”라고 답하고 성소수자에 대한 의견을 묻자 “생각해본 적 없지만 별로 안 좋아해”라는 답을 내놓고 동성애자에 대해선 “싫다”, “혐오스럽다”고 답하기도 했습니다. 또 미투 운동을 두고선 “절대 싫어, 미치지 않고서야”라고 다소 과격한 표현도 했다고 합니다.

윤/“동성애자 싫어한다”는 표현은 지난달 한 제주도의원이 공식석상에서 했다가 비난하는 여론이 거세게 일기도 했다. 그런데 AI가 혐오 표현을 하게 된 원인은.

조/이루다는 딥러닝이라는 기술을 적용해 만든 채팅 로봇이라고 말씀드렸는데요. 카카오톡 대화 약 100억 건을 바탕으로 대화를 이어갑니다. 다시 말해 우리 사회에서 만연한 성차별적인 표현이나 장애인과 성소수자 등 소수자에 대한 혐오 발언을 그대로 배웠다는 건데요. 옳고 그름에 대해 제대로 판단하는 능력이 없어서 인권 침해 요소가 있는 표현도 거리낌없이 하게 된 겁니다.

윤/혐오까지 학습했다... 그런데 이런 문제를 개발자들이 예상하지 못했던 걸까요.

조/일단 개발업체 측은 테스트 기간 혐오 표현이나 욕설 등 특정 키워드를 사용하지 않게 설정했으나 모든 표현을 걸러내기엔 역부족이었다는 입장입니다. 회사 측은 지난 11일 서비스 잠정 중단을 발표하며 “새롭게 발견되는 혐오 표현과 키워드를 추가해 더 이상 발견되지 않도록 지속적으로 개선 중”이라고 설명했습니다. 그러면서 이루다는 이제 막 사람과의 대화를 시작한 어린아이 같은 AI라며 대화를 그대로 습득하는 것이 아니라 적절한 답변이 무엇인지, 더 좋은 답변이 무엇인지에 대한 판단을 함께 학습할 수 있도록 하겠다고 밝혔습니다.

윤/업계에서 비판의 목소리가 나왔었죠.

조/네. 사실 이번에 논란이 된 혐오 표현에 앞서 이루다가 사용자의 성희롱 대상이 되기도 해 문제가 됐었습니다. 예를 들어 사용자가 성희롱 발언을 하니까 이루다가 이에 반발하거나 제지하지 않고 그대로 대화를 이어나가는 모습을 보인다고 합니다. 이러한 문제가 계속해서 발생하자 이재웅 전 쏘카 대표는 자신의 페이스북 계정을 통해 “서비스를 당장 중단해야 한다”며 “로직이나 데이터에 책임을 미루면 안 된다”고 촉구하는 글을 올렸습니다. 또 이번에 서비스 중단 발표가 나자 “AI를 공공에 서비스할 때 사회적 책임과 윤리에 대해서 다시 생각해 보고 여러 가지를 점검하는 기회가 됐으면 한다”며 “회사의 지배구조의 다양성 부족이나 회사 구성원의 젠더, 인권 감수성 부족에서 온 것은 아닌지 한 번 더 점검하고 보완해야 한다”고 강조했습니다.

윤/개발자들의 젠더, 인권 감수성을 지적했군요.

조/네. 이 전 대표는 나아가서 “이번 이루다 사건을 계기로 AI 채팅 로봇과 면접 채용, 뉴스 추천 등이 인간에 대한 차별, 혐오를 하거나 조장하고 있는 것은 아닌지 사회적으로 점검해야 한다”며 “포괄적 차별금지법 제정 등을 통해 AI를 학습시키는 우리 인간들의 규범과 윤리도 보완했으면 좋겠다”고 말했습니다. 일각에선 ‘이루다’는 꼭 친절한 여성으로 설정했어야 했느냐는 지적도 나오고 있습니다. 이 지적은 애플의 시리나 아마존의 알렉사 등 AI 프로그램에도 있어왔는데요. 개발업체는 이들에게 성별이 없다고 설명하지만 음성을 들어보면 누가 들어도 여성의 목소리에 가깝다는 걸 알 수 있습니다. ‘친절한 여성 비서’가 모델이라는 겁니다. 실제로 지난 2019년 5월 유네스코가 발간한 보고서에 따르면 “시리나 알렉사 같은 여성 목소리 비서는 성차별 언행을 조장한다”고 밝히고 있습니다.

윤/꼭 여성의 목소리일 필요는 없다...

조/네. 물론 남성의 목소리로 바꾼다고 해서 젠더, 인권 감수성 문제가 모두 해결되진 않습니다. 하지만 충분한 고민이 필요하다는 지적입니다. 우리 사회 전체의 반성이 필요하다는 목소리도 나왔습니다. 남궁훈 카카오게임즈 대표는 지난 11일 자신의 페이스북에 “이루다라는 캐릭터가 현 세대와 동떨어진 이야기를 하면 모르겠지만 사실 현 세대에 분명히 현존하는 혐오와 차별이 노출됐을 뿐”이라며 “이 AI가 현 세대를 통해 학습됐기 때문에 지금 세대가 가진 혐오와 차별이 문제”라고 주장했습니다. 이어 “모처럼 일어난 AI에 대한 사회의 관심을 긍정적인 방향으로 이끌어내야 한다고 생각한다”며 “이제 시작일 뿐인 이 산업 그리고 매우 매력적인 시작으로 보이는 이 캐릭터를 엉뚱한 규제로 혁신을 또 가둬두지 않을까 걱정스럽다”고 우려하기도 했습니다.

윤/최근엔 이루다 개인정보 유출 문제까지 불거졌다고요.

조/네. 아까 이루다가 연인들끼리 나눈 대화 약 100억 건을 학습했다고 했는데 그 대화 내용을 동의 없이 사업화했다는 주장인데요. 오늘 관련 데이터 폐기를 요구하는 국민청원이 올라왔고 해당 대화방을 이용했던 300여명은 오픈 채팅방을 열어 집단 소송을 검토하고 있다고 알려졌습니다.

윤/획기적인 서비스로 주목을 끌었는데 다양한 윤리적인 문제가 줄줄이 터져 나오고 있습니다.

조/네. 특히 이루다의 사용자 80% 이상이 10대인 것으로 알려지면서 우리 사회가 더욱 민감하게 지켜보는 건 아닐까 하는데요. 이재웅 전 쏘카 대표는 “인간의 다른 인간에 대한, AI의 인간에 대한 혐오와 차별은 모두 용납할 수 없다”는 말을 하기도 했습니다. 인간이든, AI이든 특정 성별이나 연령, 종교, 지역을 이유로 차별하거나 혐오하는 표현을 하면 안 된다는 게 보편적인 인식입니다. 참고로 오늘 오전 제주차별금지법제정연대는 지난달 도의회 본회의장에서 강충룡 제주도의원이 “동성애, 동성애자를 싫어한다”고 발언한 데 대해 국가인권위원회 제주출장소에 진정을 제기하며 도의회 차원의 공식 사과를 촉구했습니다.

윤/다음 키워드 알아보겠습니다.

2. 산 넘어 산

조/산 넘어 산,입니다.

윤/어떤 얘기...

조/제주 제2공항 건설 사업을 두고 도민들에게 찬반 의견을 묻는 일이 이달을 넘길 가능성이 높아졌습니다.

윤/안심번호 발급 문제 때문에 지연되고 있죠.

조/네. 제주도와 도의회 제2공항 갈등해소 특별위원회는 지난달 11일 ‘제주 제2공항 도민 의견수렴 관련 합의문’을 발표했습니다. 지난 2019년 당정청이 제주도가 공정하고 객관적인 방식으로 도민 의견을 수렴한다면 국토교통부가 이를 충분히 반영하기로 합의한 데 따른 것입니다. 제주도와 도의회가 어렵게 도민 의견을 묻는 여론조사 문항과 방식을 합의했는데요. 선거관리위원회로부터 안심번호를 발급받지 못해 난관에 부딪혔습니다.

윤/휴대전화로 여론조사를 진행하려면 개인정보보호법 등에 따라 안심번호를 발급받아야 하죠.

조/네. 유선번호로 하면 가능하지만 아무래도 요즘 대부분 휴대전화를 이용하기 때문에 조사의 신뢰성을 높이기 위해선 휴대전화로 진행하려고 한 건데요. 안심번호는 언론사가 선거 여론조사를 하거나 정당이 후보 지지도 여론조사 등을 진행할 때만 제공받을 수 있습니다. 당초 여론조사를 1월 11일까지 마무리하기로 했는데 불가피하게 기한을 연장하게 됐습니다. 어제 제주도와 갈등해소 특위는 이 기한을 연장하기 위해 조정한 합의문을 발표했습니다. 기한을 넘기면 도민 의견 수렴 합의 내용이 무효가 될 여지가 있어 조정했다는 설명입니다.

윤/언론사나 정당이 이 여론조사를 대신하면 된다?

조/정확히 말씀드리자면, 대신한다고 하기 보단 언론사나 정당 등 제3의 기관이 선거 관련 여론조사를 하면서 제2공항 건설에 대한 찬반 의견을 묻는 문항을 포함시킨다는 게 거의 유일한 방안이라고 합니다. 여론조사를 실시하는 기관이 자체 비용을 들여서 진행해야 합니다.

윤/당초 당정청 협의에 따르면 제주도가 공정하고 객관적인 방식으로 도민 의견을 수렴하면 국토부가 그 의견을 정책 결정에 충분히 반영하겠다는 건데요. 이렇게 제3의 기관이 실시하는 여론조사에 포함시켜 진행해도 문제가 없는 건가요.

조/사실 그 부분은 미지수입니다. 어제 합의문 조정안을 발표한 이상헌 도 공항확충지원단장과 홍명환 의원은 국토부 측에서 이 상황에 대해 긍정도 부정도 밝히지 않고 있다고 전했습니다. 다만 이상헌 도 공항확충지원단장은 “전반적인 상황에 대해 국토부에 전달했고 오늘 도의회와 공식 합의한 내용 역시 전달할 것”이라며 “국토부도 기본적으로 사실상 가능한 수단이 많지 않다는 것을 알고 있기 때문에 그런 점을 적극 고민하는 것으로 알고 있다”고 말했습니다.

윤/국토부가 그대로 수용할지 확실치 않다...

조/홍명환 의원은 “이젠 어떻게든 의견을 객관적이고 합리적으로 수렴해야 하고 국토부는 도민의 지지 없이는 결코 (제2공항 건설을)강행하지 않는다는 입장을 밝혀왔다”며 “그런 선의를 믿어야 하지 않겠느냐“고 말했습니다.

윤/제3의 기관이 여론조사를 실시한다고 해도 빠른 시일 내 마무리되기는 힘들겠습니다.

조/네. 일단 여론조사를 주최할 기관이 선정돼야 하고. 또 그 기관이 안심번호를 발급받기 까지 10일 정도 걸린다고 합니다. 조사 기간은 대체적으로 3~4일을 잡으면 휴일을 뺀 영업일 15일에서 20일 정도 소요될 것으로 보입니다. 아무리 빨라도 이달을 넘길 것으로 보입니다.

윤/오늘 키워드에서 산 넘어 산이라고 표현하셨지만 꼭 넘어야 할 산입니다.

조/네. 어제 이상헌 단장과 홍명환 의원도 한목소리로 5년이 넘도록 이어진 도민 갈등을 풀어야 한다는 점을 강조하며 이번 여론조사가 그 실마리가 될 수 있을 것으로 기대했습니다.

윤/오늘은 여기까지 듣겠습니다. 감사합니다.

조/감사합니다.




#제목조회수작성일
1639

2023년7월10일(월) 12대 도의회 출범1년 김경학 의장 대담

942023-07-11 17:22:25 8달 전
1638

2023년7월3일(월) 취임 1주년 김광수 교육감 대담 (유튜브)

1222023-07-11 17:21:09 8달 전
1637

2023년6월30일(금) <뉴스톺아보기> 전기차 충전구역 불법주정차 과태료부과외 (독립언론'오롯' 김은애기자)

1092023-07-03 17:22:09 8달 전
1636

2023년6월29일(목) <시사전망대> 제주도지사 ,교육감의 취임 1년 (현덕규 변호사 VS 강호진 제주대안연구소)

1212023-06-30 16:19:53 8달 전
1635

2023년6월28일(수 )전국 공항소음대책특별위원회 위원장 선출 (제주도의회 국민의힘 김황국 의원)

1082023-06-30 16:17:44 8달 전
1634

2023년 6월27일(화) " 전 국민이 또 세계인들이 함께 공감하고 평화와 인권의 다리가 될 수 있는 영화제로"(이정원 제주4.3영화제 집행위원)

982023-06-28 16:33:23 9달 전
1633

2023년 6월23일(금) 제주특별법 개정을 통한 주민자치 시대...어떤 준비가 필요한가?(제주민회 신용인 제주대 교수)

1042023-06-27 20:04:39 9달 전
1632

2023년6월22일(목) <시사전망대> 대통령의 수능발언 파문 (현덕규 변호사 VS 강호진 제주대안연구공동체 센터장)

1122023-06-23 15:17:37 9달 전
1631

2023년6월21일(수) <오늘의시선> 해양'방류'가 아닌 해양'투기' 후쿠시마 오염수의 진실 ( 해양시민과학센터 <파란> 윤상훈 준비위원장)

962023-06-22 11:27:29 9달 전
1630

2023년6월21일(수) 예산 갈등 방지를 위한 재정 운영 TF 운영 제안 (더불어민주당 한권 의원)

92023-06-22 11:25:04 9달 전
1629

2023년6월20일(화) <키워드뉴스> 1.후쿠시마와 소금 2.제주하수 어디로 가나 (제주투데이 김재훈기자)

1202023-06-21 15:16:05 9달 전
1628

2023년6월20일(화) 곶자왈에 대한 보전 관리 조례 개정안의 문제점 (곶자왈사람들 김효철 공동대표)

962023-06-21 15:14:42 9달 전
1627

2023년6월19일(월) <로스쿨> 새로도입된 공무원재해보상보험법 상 공무상 추정 제도 (김혜선 노무사)

732023-06-20 10:44:53 9달 전
1626

2023년6월19일(월) 그린수소실증사업 심사보류의 이유 (제주도의회 더불어민주당 강성의 의원)

1102023-06-20 10:42:56 9달 전
1625

2023년6월16일(금) <뉴스톺아보기> 주거용 레지던스의 용도변경 기한 임박외 (독립언론 '오롯' 김은애기자)

872023-06-19 10:23:30 9달 전