2020.11.24 (화)

  • 흐림동두천 4.4℃
  • 흐림강릉 9.9℃
  • 흐림서울 6.1℃
  • 구름많음대전 10.2℃
  • 맑음대구 11.1℃
  • 구름조금울산 13.3℃
  • 맑음광주 11.3℃
  • 맑음부산 15.8℃
  • 맑음고창 10.1℃
  • 맑음제주 12.6℃
  • 흐림강화 5.8℃
  • 흐림보은 8.9℃
  • 구름많음금산 10.5℃
  • 맑음강진군 12.1℃
  • 구름많음경주시 13.0℃
  • 맑음거제 11.8℃
기상청 제공

IT·통신

윤영찬 ‘카카오 항의’가 불지핀 AI 공정성 논란... “검증 시스템 도입 필요해”

영국 정부, 대입시험에 AI 알고리즘 대입 논란... 가난한 학생은 더 낮은 점수 받아"
미국 아마존, 인공지능 채용 시스템 도입 취소... 이력에'여성' 단어 적히면 감점돼

 


[폴리뉴스 성소의 기자] 윤영찬 더불어민주당 의원의 ‘카카오 항의’ 논란이 인공지능 알고리즘의 중립성 논란으로까지 번지고 있다. 앞서 카카오와 네이버 등 인터넷 뉴스 서비스 사업자들은 뉴스 편집에 외압이 작용할 수 있냐는 논란에 대해 “뉴스 편집은 100% 인공지능 알고리즘이 한다”고 선을 그었다. 그러나 다음 창업자였던 이재웅 전 쏘카 대표가 “인공지능은 가치중립적이지 않다”고 알고리즘의 편향 가능성에 대해 문제를 제기하면서 인공지능 알고리즘의 중립성 논란에 불을 지폈다. 

이 전 대표는 9일 자신의 페이스북을 통해 “많은 사람들이 인공지능은 가치중립적이라고 생각하지만 그렇지 않다. 규칙 기반의 인공지능은 그 시스템을 설계하는 사람의 생각이 반영될 수 없다”며 인공지능 기반의 알고리즘이 사람을 대신해 공정하고 객관적인 판단을 내릴 것이라는 전제에 의문을 제기했다. 

그는 “인공지능 시스템은 회사가 원하는 인재상을 학습한다. 만약 그 회사에 남성이 70%, X대를 졸업한 사람이 50%에 달한다면 인공지능이 점수를 높게 준 지원자는 X대를 졸업한 남성일 경우가 높다”고 지적했다. 인공지능 알고리즘이 사회적으로 편향된 데이터를 바탕으로 학습하기 때문에 특정 성별, 인종, 계층에 차별적인 결과를 도출할 수 있다는 것이다.

해외에서도 인공지능 알고리즘의 공정성을 둘러싼 논란이 뜨겁다.

영국은 지난 8월 코로나19의 영향으로 대입시험을 치르지 않는 대신 인공지능 알고리즘을 기반으로 수험생들의 예상 성적을 산출해 대학입시에 활용했다. 그러나 전체 수험생의 40%가 예상보다 성적이 낮게 나와 논란을 빚었다. 특히 고소득층 학생들은 높은 학점이 주어진 반면 저소득층 학생들은 낮은 학점이 주어져 인공지능이 불평등을 강화한다는 지적이 제기됐다. 

미국 국립표준기술연구소(NIST)는 지난 해 12월 안면 인식 기술에 활용되는 인공지능 대다수가 편향된 데이터를 가지고 있다는 보고서를 발간해 논란이 일기도 했다. 국립표준기술연구소가 미국의 정부기관들과 인텔, 마이크로소프트, 파나소닉 등 주요 IT 기업들이 활용하고 있는 알고리즘을 분석한 결과에 따르면 인공지능이 범죄자를 판별할 때 아시아인과 아프리카계를 잘못 알아볼 확률이 백인 남성보다 월등하게 높았다. 알고리즘이 백인 인종에 편향된 데이터를 학습한 결과다. 

2018년에는 미국의 온라인 쇼핑몰 아마존이 자사 채용 시스템에 인공지능 알고리즘 접목하려다 여성에게 차별적인 결과를 산출하는 것으로 드러나 도입을 취소한 바 있다. 알고리즘이 지난 10년 동안 남성 중심인 IT업계의 채용 동향을 학습하고 여성 지원자에게 불리한 평가를 내린다는 결과였다. 지원자의 이력서에 ‘여성’이란 단어가 포함된 동아리 이름이 기재돼있으면 감점하는 식이다. 문제가 제기되자 아마존은 인공지능 알고리즘을 활용한 채용 시스템 도입을 취소했다.    

윤 의원이 불지핀 알고리즘 중립성 논란을 계기로 네이버와 카카오 등 IT기업과 정부가 나서서 알고리즘을 검증할 수 있는 시스템을 도입해야 한다는 목소리가 나온다.

한국인공지능윤리협회는 14일 성명서를 내고 “AI 기술은 아직 발전 중에 있는 기술로서 윤리적으로 지켜야 할 명확한 개발 가이드라인과 지침이 부족하다”며 “AI 알고리즘의 중립성을 판단하고 검증할 수 있는 시스템과 검증하고 가이드 할 수 있는 중립적 기구가 절실히 필요하다”고 촉구했다. 










[카드뉴스] K뉴딜, 지속가능한 경제사회로의 전환

코로나는 인류에게 공통의 시험문제를 주었다. 新문명의 주인공, 누가 될 것인가? 코로나가 던지는 질문: 인간이란 무엇인가? 마스크 없이 사는 세계 최초의 나라 한국판 뉴딜 전략 삶의 질 1등 국가 -내 삶을 바꾸는 뉴딜, 내 지역을 바꾸는 뉴딜, 한반도의 미래를 바꾸는 뉴딜 새로운 나라, 문명 창조 국가 한국판 뉴딜 자신감을 갖자 변방의 진(秦)은 중국을 창조 후진국 반도국가 그리스는 서양의 기원을 잉태 저지대의 작은 땅 네덜란드, 자본주의와 근대 서양의 시작 한국판 뉴딜로 진화하자 호모 사피엔스(“지혜로운 인간”) 한국판 뉴딜 성공한다면 싱가포르식 선진 시스템 도입 ⇒ 한국 경제규모 3조6천억 달러 실리콘밸리식 혁신 경제 ⇒ 한국 경제규모 6조 달러(세계 3위) 네덜란드식 스마트 팜 ⇒ 한국 농촌 세계 농업 수출 확대 데이터 댐을 통한 국민 건강 부문의 변화 디지털 집현전: 공공도서관을 학교, 마을, 국민들에게 자료의 신속한 디지털화 국가전자도서관의 고도화 → 체계적인 통합 전자도서관 구축 교육판 넷플릭스의 창조 한국판 뉴딜에 대한 우려① 너무 성급한 것 아닌가 -거대한 정책들이 성과를 보이기 위해서는 발전과 진화의 시간 필요(약 5~10년) · 루즈벨트의

[카드뉴스] 코로나19를 예방하는 방법

일상생활에서 5가지 전파위우험 조건에 유의하여 코로나19를 예방하는 방법 계속되는 코로나19 확산세에도 끝까지 방역에 참여하는 시민 여러분! 마스크 착용 유무, 접촉 시간, 환기 상태, 밀집도, 비말 발생 여건 등 5가지 전파위험 조건에 유의하여 일상생활에서 코로나19를 예방합시다. 1. 혼잡한 지하철에서 전화 통화하기 마스크 착용시 : 높음 마스크 미착용시 : 높음 2. 창문을 열어 둔 승용차에서 대화하기 마스크 착용시 : 낮음 마스크 미착용시 : 중간 3. 학교 교실에서 질문에 답하며 수업하기 마스크 착용시 : 중간 마스크 미착용시 : 높음 4. 야외카페에서 차 마시며 대화하기 마스크 착용시 : 낮음 마스크 미착용시 : 중간 5. 사람이 많은 극장에서 영화관람하기 마스크 착용시 : 높음 마스크 미착용시 : 높음 -서울시 공공보건의료재단 제공


공수처, 정의당 “국민의힘은 시간 끌기 전략 중단해야”
[폴리뉴스 이승은 기자] 정의당 강은미 원내대표는 24일 의원총회에서 여야가 공수처장 후보 추천위 재개에 합의한 것에 대해 “국민의힘이 기존 논의를 다시 원점에서 검토하자는 등의 힘 빼기, 시간 끌기 전략을 중단하길 바란다”라고 말하며 “반드시 공수처장 최종 후보를 선출해 공수처 출범을 완료해야 한다”고 밝혔다. 강 원내대표는 24일 의원총회에서 “국민의힘은 반대를 위한 반대가 더 이상 통하지 않음을 직시해야 한다”며 “검찰개혁을 시작하지도 못한 비난은 온전히 국민의힘에게 쏟아질 것”이라고 말했다. 그러면서 강 원내대표는 공수처의 성공 여부를 독립성에 두며 “추천위부터 양당의 정략적 이해관계에 영향을 받는 듯한 모양새를 내보이며 출범을 늦출수록 공수처에 대한 국민의 신뢰는 무너질 뿐”이라고 강조했다. 덧붙여서 강 원내대표는 공수처장 후보 추천위원들에게 “소신있는 수사와 공정한 기소를 이끌 수 있는 공수처장 후보를 선출하기 위해 최선을 다해주시기를 당부드린다”고 했다. 앞서 더불어민주당 김태년 원내대표와 국민의힘 주호영 원내대표가 지난 23일 박병석 국회의장과의 회동을 하고 공수처장 후보 추천위를 다시 열기로 합의했다. 재개되는 추천위 회의는 오는 25일 열릴


배너