2021.04.17 (토)

  • 구름조금동두천 8.5℃
  • 구름많음강릉 14.1℃
  • 황사서울 9.4℃
  • 흐림대전 10.6℃
  • 흐림대구 16.2℃
  • 흐림울산 16.0℃
  • 흐림광주 12.8℃
  • 흐림부산 15.4℃
  • 흐림고창 11.1℃
  • 흐림제주 15.4℃
  • 구름조금강화 6.7℃
  • 흐림보은 7.7℃
  • 구름많음금산 10.5℃
  • 흐림강진군 13.4℃
  • 흐림경주시 15.1℃
  • 흐림거제 15.4℃
기상청 제공

생활경제

[이슈] 네이버와 다음 모바일 뉴스 AI, 공정하지 않고 편향돼

MBC 스트레이트, AI 편집하는 모바일도 보수 편중 지적

 

[폴리뉴스 박응서 기자] 인공지능(AI)이 뉴스를 편집하기 때문에 공정성에 문제가 없다고 주장하는 네이버와 다음. 그런데 이 AI가 편향적이어서 네이버와 다음의 뉴스가 불공정하게 서비스되고 있는 것으로 확인됐다.

7일 MBC 시사교양 프로그램 ‘탐사기획 스트레이트’는 지난 1월 8일부터 한 달간 네이버와 다음에서 제공하는 뉴스를 분석한 결과 네이버의 보수 대 진보 언론사 기사 노출 비율이 48대 3으로 나타나는 등 AI 알고리즘에 문제가 있다고 지적했다.

 

진보 성향 아이디에도 보수 언론 기사 추천

네이버는 2019년부터 뉴스 편집에 인공지능 알고리즘을 전면 도입했다. 한성숙 대표는 “네이버는 더 이상 뉴스편집을 하지 않고, 네이버 편집자가 더 이상 기사를 배열하지 않겠다”며 “네이버는 공간과 기술만 지원하는 역할로 물러나겠다”고 말했다.

이렇게 네이버가 뉴스 편집에 AI를 도입한 이유는 포털이지만 뉴스를 제공하면서 언론의 기능을 하고 있고, 뉴스에 편향성이 있다는 지적을 계속 받아왔기 때문이다. 이 같은 논란에서 벗어나기 위해 네이버는 뉴스를 편집하는 시스템에서 사람을 배제하고 AI를 이용하는 방식으로 전환을 선택했다. 이 같은 움직임에 다음도 편승해 다음도 뉴스 편집에 AI를 활용하고 있다.

보수에 편중된 뉴스 편집에 대한 지적에 네이버는 “구독자 수가 많은 언론사에 가중치를 주면서도 AI가 알아서 하고 있다”고 답변했다.

이에 스트레이트는 네이버가 자랑하는 AI 딥러닝 서비스인 ‘에어스’도 시험해봤다. 에어스는 로그인 한 상태에서 AI가 개인의 성향을 반영해서 뉴스를 추천해 주는 서비스다.

스트레이트는 보수 성향 아이디와 진보 성향 아이디를 각각 1개씩 만들었다. 보수 성향 아이디로는 조선일보 또는 중앙일보의 정치와 경제, 사회 기사를 5분에 한 번씩 클릭해 읽도록 하고, 진보 성향 아이디로는 경향신문과 한겨레 기사를 같은 방식으로 읽도록 했다. 또 사람처럼 기사마다 1분 동안 스크롤하며 읽도록 했다.

학습기간은 2주였다. 그 결과 보수 성향 아이디에는 중앙일보, 연합뉴스, KBS, 조선일보, YTN 순으로 많은 기사를 추천했다. 그런데 진보 성향 아이디에는 연합뉴스, 중앙일보, 조선일보, 지상파 방송 기사가 추천됐다. 경향신문과 한겨레 기사는 20위권에도 들지 못했다. 개인의 뉴스 소비 성향 차이를 인식해 맞춤형으로 뉴스를 서비스한다는 주장이 거짓으로 드러난 셈이다.

이에 대해 송경재 상지대 교양학부 교수는 방송에서 “상당히 충격적이다. 인공지능으로 뉴스기사 배열과 편집이 아주 객관적이고 중립적이라고 선전해왔는데, 전부 다 거짓일 수 있다라는 것. 해명과 함께 검증도 같이 이뤄져야 할 것”이라고 말했다. 반면 네이버는 “실제로 특정 언론사 기사만 읽는 이용자는 매우 적어 특이 현상이 벌어질 수 있다”며 “일반화해서는 안 된다”고 답변했다.

스트레이트는 네이버의 ‘언론사별 많이본 뉴스’도 분석했다. 그 결과 72개 언론사 중 52개 언론사는 조사기간 동안 첫 화면 점유율이 1%도 안 되고, 17개 언론사는 한 번도 노출되지 않을 정도였다.

그렇다면 다음은 어떨까. 스트레이트 분석에 따르면 다음은 중도언론 32.6%, 보수 언론 18.0%, 진보 언론 3.5%로 뉴스를 노출하고 있었다. 다음의 뉴스 편집 AI ‘루빅스’ 테스트에서도 보수 성향 아이디와 진보 성향 아이디 모두 네이버와 비슷하게 보수 언론이 상위에 노출되는 것으로 확인됐다. 네이버와 비슷하게 AI가 학습 결과와 다른 서비스를 제공하고 있는 것으로 나타났다.

이에 대해 다음은 “뉴스 알고리즘이 이용자의 성별이나 연령대, 관심사는 감안하지만, 언론사 선호 여부나 정치적 성향은 반영하지 않는다”고 말했다.

 

“AI는 사람이 세팅하고 학습시킨 대로 뉴스 선택”

김승주 고려대 정보보호대학원 교수는 방송에서 “‘사람이 뉴스 기사를 고르면 그 사람의 주관에 따라서 편향될 텐데, 인공지능은 완전무결할 거야’ 그건 아니다”라며 “사람이 셋팅한 대로, 사람이 학습시킨 대로, 인공지능은 뉴스 기사를 선택한다. 그 이상도 그 이하도 아니다”고 설명했다.

지난달 17일 네이버는 ‘네이버 AI 윤리 준칙’을 공개했다. 네이버의 모든 구성원이 AI 개발과 이용할 때 준수해야 하는 원칙으로 사람을 위한 AI 개발, 다양성의 존중, 합리적인 설명과 편리성의 조화, 안전을 고려한 서비스 설계, 프라이버시 보호와 정보 보안이라는 5개 조항이다. 이날 네이버는 AI 윤리 준칙이 구호에 그치지 않도록 유연한 사내 커뮤니케이션 채널을 마련해, 프로젝트 진행이나 서비스를 개발할 때 사안을 중심으로 문의하고, 논의할 수 있도록 할 예정이라고 밝혔다.

그러나 이 같은 네이버의 주장과 달리 스트레이트에 따르면 AI 윤리 준칙을 준수하지 못하는 AI를 이용해 뉴스를 제공하고 있는 셈이다. 네이버 관계자는 이 같은 지적에 대해 “뉴스추천 알고리즘울 포함해서 네이버 알고리즘에 대해서 2018년에 각 학회의 추천을 받아서 6개월 검토를 받은 뒤, 그 결과를 프레스센터에서 발표했다"며 "헤드라인 등 알고리즘에 문제가 없는 것으로 검증돼 AI 변경은 검토하고 있지 않다”고 설명했다.

네이버가 AI 윤리 준칙을 만든 것은 AI가 기술적 한계를 갖고 있음을 인정하기 때문이다. AI는 기존의 데이터를 학습하는데, 기존 데이터가 편향돼 있을 경우 편향성이 그대로 반영되면서 문제가 발생한다. 데이터 편향성은 다양한 사례로도 확인되고 있다.

2018년 전자상거래 기업 아마존은 인력 채용을 위해 도입한 AI 시스템을 폐기했다. 아마존은 지난 10년간 데이터를 바탕으로 지원자 이력서를 검토해 채용 적합도를 판단하는 AI 채용 시스템을 개발했다. 그런데 이 AI가 여성보다 남성 지원자를 선호하는 편향성을 갖고 있음을 확인해 폐기를 선택한 것.

한 미인대회에서는 객관적 외모평가를 위해 심사에 투입한 AI가 참가자 6000여명 중에서 수상자 44명 대부분을 백인으로 뽑았다. AI가 미인을 판단하는 데 사용한 학습 사진이 거의 백인이었기 때문이다.

흑인을 동물로 인식한 사례도 있다. MIT(매사추세츠공대) 미디어랩에 따르면 사진 분류 AI는 백인 사진의 인식 에러 확률이 1% 내외인 반면 흑인 사진은 최고 35%에 달했다.

이 같은 AI 편향성을 고려해, AI 개발진이 단순히 학습만 고려해 AI를 개발하면 안 되고, 데이터 특성에 대한 이해와 분석 등을 종합적으로 고려해 AI를 개발해야 한다는 방향에서 나온 것이 AI 윤리다.

이런 흐름과 언론과 협력을 모색하던 세계 최대 소셜미디어인 페이스북은 2019년 ‘뉴스 탭’에 배치될 뉴스를 경험 많은 언론인들이 편집하도록 하는 방침을 발표했다. 기존에는 알고리즘에 의존한 것으로 알려졌다.

관련기사








[이슈] 4․16 당‧정‧청 전면개편, ‘통합’ 총리 김부겸-‘비문’ 정무 이철희…레임덕 잡는 카드 될까?
16일 여당과 청와대에서는 인사 전면 개편이 이루어졌다. 민주당에서는 ‘친문’ 윤호중 의원이 신임 원내대표로 당선되었다. 16일 하루만에 4.16 당정청 전면개편이 된 것이다. 4.7 재보선 참패로 당정청 전면개편은 5월2일 민주당 대표 경선만을 남겨놓고 있다. 이번 4.16 개각과 청와대 개편은 '비주류'‘비문’ 출신 인사들이 대거 지명된 반면, 당에서 선출된 원내대표는 '친문 강경파'가 당선되었다. 문 대통령 임기 마무리를 앞두고 친문 대 비문의 대결 구도가 형성될 수도 있다는 우려가 제기되고 있다. 청와대는 정세균 국무총리의 뒤를 이을 신임 국무총리 후보자로 김부겸 전 행정안전부 장관을 지명했다. 문 대통령은 청와대 정무수석 비서관에 이철희 전 더불어민주당 의원을 내정하는 개편을 단행했다. 이 밖에도 총 5개 부처 장관 교체와 참모진 배정을 진행됐다. 이 중에서도 김부겸 신임 국무총리 후보자와 이철희 신임 청와대 정무수석 내정자는 이번 개각의 성격을 가장 잘 보여주는 인물이다. ‘통합형’ 총리를 앞세운 김 전 장관과 ‘비문’ 출신 이 전 의원을 앞세워 남은 임기 동안 권력 누수 현상(레임덕)을 막아보겠다는 청와대의 의중이 담긴 인사로 보인다. ‘비주류’

[베스트단체장 인터뷰] 이재수 춘천시장① “문화도시 춘천, 느낌을 만나러 춘천에 온다”
[폴리뉴스 대담 김능구 대표, 정리 김자경 기자] “춘천은 문화도시로서의 충분한 자격을 갖고 있다. 이런 자산을 갖고도 문화도시 이미지를 못 얻는다는 건 불행한 거다. 그래서 반드시 (문화도시사업) 따내야 할 이유가 있었다. 이게 돈 되는 것도 아니고, 표가 되는 것도 아니지만 저는 장기적으로 사람들한테 행복을 줄 수 있다는 생각이 든다.” 이재수 춘천시장은 4월 6일 춘천시청 시장실에서 <폴리뉴스> 김능구 대표와 가진 ‘베스트 단체장’ 인터뷰에서 정부 공모사업인 ‘문화도시’에 “돈 때문에 선정되려고 노력한 건 아니다”며 이같이 말했다. 그는 취임 후 100억도 안되던 문화예술예산을 400억으로 대폭 늘렸다. 그는 “마임축제, 인형극 이런 것을 관에서 주도한 게 하나도 없다”면서 “예술계에서 자체적으로 시작해 30년 넘게 유지해오고 있다. 예술인들의 강력한 의지와 상호간의 연대가 얻어낸 놀라운 성과”라고 평가했다. 이 시장은 춘천을 “느낌이 좋은 도시”라고 소개했다. 둘러싸인 산 어디를 올라도 도시 전체가 한 눈에 들어오는데 “그 전경이 기가 막힌다”면서 “정약용, 김시습, 이항복 등 조선시대 숱한 문인들이 춘천에 와서 시를 썼다. 춘천에 오면

폴리TV [카드뉴스 동영상] 독해지는 유통가의 ‘최저가 전쟁’...왜 할까

최근 유통업계에 ‘최저가’ 경쟁이 갈수록 치열해지고 있습니다. 업계는 최근 급변하는 유통시장에서 생존 위기감이 팽배한 가운데, 시장 주도권을 놓고 출혈경쟁이 불가피하다는 입장인데요 폴리뉴스에서 알아봤습니다.

[카드뉴스] 독해지는 유통가의 ‘최저가 전쟁’...왜 할까

[폴리뉴스 김미현 기자] 최근유통업계에 ‘최저가’ 경쟁이 갈수록 치열해지고 있습니다. 업계는 최근 급변하는 유통시장에서 생존 위기감이 팽배한 가운데, 시장 주도권을 놓고 출혈경쟁이 불가피하다는 입장입니다. 쿠팡이 유료 회원이 아니어도 무료 로켓배송을 하겠다며 먼저 경쟁 신호탄을 쏘았습니다. 배송비 면제로 사실상 최저가 혜택을 제공한다는 것입니다. 이에 이마트는 쿠팡과 롯데마트몰, 홈플러스몰보다 구매 상품이 비싸면 그 차액을 자사 포인트로 적립해준다며 응수했습니다. 롯데마트도 맞불을 놨습니다. 이마트가 최저가를 선언한 생필품 500개 품목을 동일한 가격으로 판매합니다. 포인트도 5배 더 줍니다. 마켓컬리도 과일, 채소 등 60여종의 신선식품을1년 내내 최저가에 판매한다며 전쟁에 참가했습니다. 이에 질새라 편의점까지 가세했습니다. CU와 GS25는 6종의 친환경 채소를 대형 마트보다 싸게 판매합니다. 업계는 이를 통해 마케팅은 물론오프라인 매장으로 고객유도효과도노리고 있습니다. 이마트의 보상받은 차액 ‘e머니’는 오프라인에서 쓸 수 있고, 롯데마트는 오프라인 매장에서만 포인트 적립이 가능합니다. 하지만 제 살 깎아먹기식 출혈경쟁은 결국납품업체로 부담이 전가될 수


[4.16 당정청 개편] 노형욱 신임 국토부장관 …LH개혁, 2.4대책 중책 맡는다
[폴리뉴스 이민호 기자] 문재인 대통령은16일 변창흠 국토교통부 장관의 후임으로 노형우 전 국무조정실장을 지명했다. 기획재정부에서 기획·예산 분야 전문가로 꼽히는 노형욱 후보자는 변 장관에 이어 2·4 부동산 공급대책과, 한국토지주택공사(LH) 직원의 불법투기로 촉발된 LH 조직 개혁안을 마련하고 추진하는 중책을 맡게 됐다. 노 후보자는 박근혜 정부에서 2016년 2월 국무조정실 국무2차관(차관급)에 임명됐고, 문재인 정부에 들어와서도 자리를 유지하다 2018년 11월에서 지난해 5월까지 국무조정실장을 지냈다. 국무조정실장은 중앙행정기관의 행정을 지휘 감독하고, 정책 조정 및 사회위험·갈등의 관리하며 정부업무 평가 및 규제개혁에 관해 국무총리를 보좌하는 역할을 한다. 문 대통령은 임기가 끝날 때까지 국토부 정책을 안정적으로 관리하고, 이끌어갈 인물로 노 후보자를 발탁한 것으로 보인다. 특히 2·4 대책의 원활한 추진을 위해 오세훈 서울시장과 소통과 협력이 필요한 만큼 이에 어울리는 후보를 선택한 것으로 해석된다. 1962년 순창에서 태어난 노 후보는 연세대에서 정치외교학을 공부하고 서울대에서 행정대학원 석사를 1996년 파리정치대학대학원에서 국제경제학 석사


배너