2021.05.01 (토)

  • 흐림동두천 9.6℃
  • 흐림강릉 9.8℃
  • 박무서울 10.2℃
  • 흐림대전 9.7℃
  • 대구 10.1℃
  • 울산 10.3℃
  • 광주 8.8℃
  • 부산 10.1℃
  • 구름조금고창 8.8℃
  • 맑음제주 11.6℃
  • 흐림강화 9.5℃
  • 흐림보은 8.5℃
  • 흐림금산 9.5℃
  • 구름많음강진군 9.6℃
  • 흐림경주시 10.7℃
  • 흐림거제 9.6℃
기상청 제공

생활경제

[이슈] 네이버와 다음 모바일 뉴스 AI, 공정하지 않고 편향돼

MBC 스트레이트, AI 편집하는 모바일도 보수 편중 지적

 

[폴리뉴스 박응서 기자] 인공지능(AI)이 뉴스를 편집하기 때문에 공정성에 문제가 없다고 주장하는 네이버와 다음. 그런데 이 AI가 편향적이어서 네이버와 다음의 뉴스가 불공정하게 서비스되고 있는 것으로 확인됐다.

7일 MBC 시사교양 프로그램 ‘탐사기획 스트레이트’는 지난 1월 8일부터 한 달간 네이버와 다음에서 제공하는 뉴스를 분석한 결과 네이버의 보수 대 진보 언론사 기사 노출 비율이 48대 3으로 나타나는 등 AI 알고리즘에 문제가 있다고 지적했다.

 

진보 성향 아이디에도 보수 언론 기사 추천

네이버는 2019년부터 뉴스 편집에 인공지능 알고리즘을 전면 도입했다. 한성숙 대표는 “네이버는 더 이상 뉴스편집을 하지 않고, 네이버 편집자가 더 이상 기사를 배열하지 않겠다”며 “네이버는 공간과 기술만 지원하는 역할로 물러나겠다”고 말했다.

이렇게 네이버가 뉴스 편집에 AI를 도입한 이유는 포털이지만 뉴스를 제공하면서 언론의 기능을 하고 있고, 뉴스에 편향성이 있다는 지적을 계속 받아왔기 때문이다. 이 같은 논란에서 벗어나기 위해 네이버는 뉴스를 편집하는 시스템에서 사람을 배제하고 AI를 이용하는 방식으로 전환을 선택했다. 이 같은 움직임에 다음도 편승해 다음도 뉴스 편집에 AI를 활용하고 있다.

보수에 편중된 뉴스 편집에 대한 지적에 네이버는 “구독자 수가 많은 언론사에 가중치를 주면서도 AI가 알아서 하고 있다”고 답변했다.

이에 스트레이트는 네이버가 자랑하는 AI 딥러닝 서비스인 ‘에어스’도 시험해봤다. 에어스는 로그인 한 상태에서 AI가 개인의 성향을 반영해서 뉴스를 추천해 주는 서비스다.

스트레이트는 보수 성향 아이디와 진보 성향 아이디를 각각 1개씩 만들었다. 보수 성향 아이디로는 조선일보 또는 중앙일보의 정치와 경제, 사회 기사를 5분에 한 번씩 클릭해 읽도록 하고, 진보 성향 아이디로는 경향신문과 한겨레 기사를 같은 방식으로 읽도록 했다. 또 사람처럼 기사마다 1분 동안 스크롤하며 읽도록 했다.

학습기간은 2주였다. 그 결과 보수 성향 아이디에는 중앙일보, 연합뉴스, KBS, 조선일보, YTN 순으로 많은 기사를 추천했다. 그런데 진보 성향 아이디에는 연합뉴스, 중앙일보, 조선일보, 지상파 방송 기사가 추천됐다. 경향신문과 한겨레 기사는 20위권에도 들지 못했다. 개인의 뉴스 소비 성향 차이를 인식해 맞춤형으로 뉴스를 서비스한다는 주장이 거짓으로 드러난 셈이다.

이에 대해 송경재 상지대 교양학부 교수는 방송에서 “상당히 충격적이다. 인공지능으로 뉴스기사 배열과 편집이 아주 객관적이고 중립적이라고 선전해왔는데, 전부 다 거짓일 수 있다라는 것. 해명과 함께 검증도 같이 이뤄져야 할 것”이라고 말했다. 반면 네이버는 “실제로 특정 언론사 기사만 읽는 이용자는 매우 적어 특이 현상이 벌어질 수 있다”며 “일반화해서는 안 된다”고 답변했다.

스트레이트는 네이버의 ‘언론사별 많이본 뉴스’도 분석했다. 그 결과 72개 언론사 중 52개 언론사는 조사기간 동안 첫 화면 점유율이 1%도 안 되고, 17개 언론사는 한 번도 노출되지 않을 정도였다.

그렇다면 다음은 어떨까. 스트레이트 분석에 따르면 다음은 중도언론 32.6%, 보수 언론 18.0%, 진보 언론 3.5%로 뉴스를 노출하고 있었다. 다음의 뉴스 편집 AI ‘루빅스’ 테스트에서도 보수 성향 아이디와 진보 성향 아이디 모두 네이버와 비슷하게 보수 언론이 상위에 노출되는 것으로 확인됐다. 네이버와 비슷하게 AI가 학습 결과와 다른 서비스를 제공하고 있는 것으로 나타났다.

이에 대해 다음은 “뉴스 알고리즘이 이용자의 성별이나 연령대, 관심사는 감안하지만, 언론사 선호 여부나 정치적 성향은 반영하지 않는다”고 말했다.

 

“AI는 사람이 세팅하고 학습시킨 대로 뉴스 선택”

김승주 고려대 정보보호대학원 교수는 방송에서 “‘사람이 뉴스 기사를 고르면 그 사람의 주관에 따라서 편향될 텐데, 인공지능은 완전무결할 거야’ 그건 아니다”라며 “사람이 셋팅한 대로, 사람이 학습시킨 대로, 인공지능은 뉴스 기사를 선택한다. 그 이상도 그 이하도 아니다”고 설명했다.

지난달 17일 네이버는 ‘네이버 AI 윤리 준칙’을 공개했다. 네이버의 모든 구성원이 AI 개발과 이용할 때 준수해야 하는 원칙으로 사람을 위한 AI 개발, 다양성의 존중, 합리적인 설명과 편리성의 조화, 안전을 고려한 서비스 설계, 프라이버시 보호와 정보 보안이라는 5개 조항이다. 이날 네이버는 AI 윤리 준칙이 구호에 그치지 않도록 유연한 사내 커뮤니케이션 채널을 마련해, 프로젝트 진행이나 서비스를 개발할 때 사안을 중심으로 문의하고, 논의할 수 있도록 할 예정이라고 밝혔다.

그러나 이 같은 네이버의 주장과 달리 스트레이트에 따르면 AI 윤리 준칙을 준수하지 못하는 AI를 이용해 뉴스를 제공하고 있는 셈이다. 네이버 관계자는 이 같은 지적에 대해 “뉴스추천 알고리즘울 포함해서 네이버 알고리즘에 대해서 2018년에 각 학회의 추천을 받아서 6개월 검토를 받은 뒤, 그 결과를 프레스센터에서 발표했다"며 "헤드라인 등 알고리즘에 문제가 없는 것으로 검증돼 AI 변경은 검토하고 있지 않다”고 설명했다.

네이버가 AI 윤리 준칙을 만든 것은 AI가 기술적 한계를 갖고 있음을 인정하기 때문이다. AI는 기존의 데이터를 학습하는데, 기존 데이터가 편향돼 있을 경우 편향성이 그대로 반영되면서 문제가 발생한다. 데이터 편향성은 다양한 사례로도 확인되고 있다.

2018년 전자상거래 기업 아마존은 인력 채용을 위해 도입한 AI 시스템을 폐기했다. 아마존은 지난 10년간 데이터를 바탕으로 지원자 이력서를 검토해 채용 적합도를 판단하는 AI 채용 시스템을 개발했다. 그런데 이 AI가 여성보다 남성 지원자를 선호하는 편향성을 갖고 있음을 확인해 폐기를 선택한 것.

한 미인대회에서는 객관적 외모평가를 위해 심사에 투입한 AI가 참가자 6000여명 중에서 수상자 44명 대부분을 백인으로 뽑았다. AI가 미인을 판단하는 데 사용한 학습 사진이 거의 백인이었기 때문이다.

흑인을 동물로 인식한 사례도 있다. MIT(매사추세츠공대) 미디어랩에 따르면 사진 분류 AI는 백인 사진의 인식 에러 확률이 1% 내외인 반면 흑인 사진은 최고 35%에 달했다.

이 같은 AI 편향성을 고려해, AI 개발진이 단순히 학습만 고려해 AI를 개발하면 안 되고, 데이터 특성에 대한 이해와 분석 등을 종합적으로 고려해 AI를 개발해야 한다는 방향에서 나온 것이 AI 윤리다.

이런 흐름과 언론과 협력을 모색하던 세계 최대 소셜미디어인 페이스북은 2019년 ‘뉴스 탭’에 배치될 뉴스를 경험 많은 언론인들이 편집하도록 하는 방침을 발표했다. 기존에는 알고리즘에 의존한 것으로 알려졌다.

관련기사








[폴리 4월 좌담회 전문 ④] 본격적인 대선정국, 잠룡 기지개에 개헌론 등장
<폴리뉴스>와 월간 <폴리피플>은 지난 4월21일 “4.7재보선 이후, 대선 앞으로 가속도 높이는 여야 정계개편”을 주제로 좌담회를 가졌다. 이날 좌담회에는 홍형식 한길리서치 소장, 차재원 부산 가톨릭대학교 특임교수, 황장수 미래경영연구소장, 그리고 본지 김능구 폴리뉴스 대표가 참석했다. 김능구 : 민주당과 국민의힘의 보선 이후 전망을 했는데, 이제는 대선 정국으로 성큼 들어서고 있다. 각 당들이 전당대회를 통해서 대선을 치를 체제를 구축하고 있는데, 실제로 5월 전당대회를 통해서 곧바로 대선 정국으로 가고 특히 민주당 같은 경우는 경선이 불과 3개월밖에 남지 않았다. 어쨌든 현재 대선 여론조사에서 보면 조금씩 차이들은 있지만 양강 구도로 보여진다. 홍형식 : 2강 1중으로 봐야될 것 같다. 갤럽은 아직도 비보조 인지도 조사라고 해서 주관식 형태로 하는데, 조사방법에 따라서 수치의 차이가 조금씩 다르기는 해도 2강 1중, 어떤 데서는 양강 이렇게 표현이 나온다. 어찌됐든 이번 재보궐 선거 이후 지지율의 흐름을 보면, 야당 쪽에는 윤석열은 반문 세력이 지지하는 거라고 예상이 됐던 거고, 여권에서는 약간의 지지율변화가 눈에 띈다. 비문 성향


[카드뉴스] 팽팽한 찬반 논란의 '지역상권법'…뭐길래

[폴리뉴스 김미현 기자] ‘지역상권 상생 및 활성화에 관한 법률안(지역상권법)’제정을 놓고 찬반 의견이 팽팽하게 맞붙고 있습니다. 이 법은 지역상생구역이나 자율상권구역으로 지정된 지역에 스타벅스 같은 대기업 계열 점포의 출점을 제한하는 것이 골자입니다. 대상은 유통산업발전법(유통법)과 중소기업 적합업종제도 등에 포함되지 않아 규제를 받지 않는 대기업입니다. 법안이 시행될 경우대기업이 운영하는 직영 점포의 신규 매장을 열기 위해서는 지역상인의 동의를 받아야 합니다. 이는 임대료 상승에 따른 소상공인의 내몰림 현상(젠트리피케이션) 문제를 막고자 마련됐습니다. 복합 쇼핑몰이 들어오면 주변 임대료가 뛰는 경향이 있습니다. 하지만 이를 두고 유통업계는 소비자들의 편의성을 떨어뜨리는 과도한 중복 규제라고 반발에 나섰습니다. 또 재산권과 영업의 자유를 침해하는데다 대기업 프랜차이즈보다 자영업체의 고용률이 낮아질 가능성도 우려하고 있습니다. 하지만 지역상권의 특색을 유지하기 위해서는 해당 법안의 제정이 필요하다는 의견도 나옵니다. 소상공인과 대기업 모두'상생'을 이룰 수 있는정책이 절실한 때입니다.

[카드뉴스] 日 원전 오염수 방류 결정… “안전성 불확실”

[폴리뉴스 김유경 기자]日 원전 오염수 방류 결정… “안전성 불확실” 최근 일본이 후쿠시마 제1핵발전소 물탱크에 보관하고 있던 방사능 오염수 125만톤을 30년에 걸쳐 방류하겠다고 발표했습니다. 방사성 물질 농도를 법정 기준치 이하로 낮추고 천천히 방류할 것이니 상관없다고 합니다. 오염수에는 유전자 변형, 생식기능 저하 등을 일으킬 수 있는 삼중수소(트리튬)가 들어 있습니다. 삼중수소가 바다에 뿌려지면 한국 중국 등 인근 국가 수산물에 흡수돼 이를 섭취한 인간에게 치명적인 영향을 끼칠 수 있습니다. 또 스트론튬90은 극소량으로도 골육종이나 백혈병을 일으킬 수 있다고 합니다. 일본은 안하무인입니다. 한 고위관료는 “중국과 한국 따위에는 (비판을) 듣고 싶지 않다”고 발언했습니다. 미국은 “국제 안전 기준에 따른 것”이라며 일본에지지 입장을 밝혔습니다. 정작 후쿠시마 사고 이후 현재까지 사고 부근 농수산물 수입을 금지하고 있으면서 말입니다. 그런데 우리 정부는 지난해 10월 “일본의 ALPS장비 성능에 문제가 없고 오염수 방류가 큰 위협이 되지 않는다”는 보고서를 냈다고 합니다. 안심할 수 있는 안전대책, 기대할 수 있을까요?




배너