불공정 주범 알고리즘 투명화 어렵다

이 시간 주요기사

뉴스 > IT·인터넷

불공정 주범 알고리즘 투명화 어렵다

“알고리즘 쓰는 기업 수천수백개… 검증할 전문 인력 있을지 의문”
역차별 논란·검증 과정 개인정보 침해 논란 등 문제점 산재

양준규 기자 기자페이지 + 입력 2024-10-15 10:50:49

▲ 알고리즘 공개 요구에 대해 업계에서 난색을 표하고 있다. 게티이미지뱅크

포털의 정치적 편향성 논란과 플랫폼 입점 업체와 노동자에 대한 공정한 대우 등을 위한 방안으로 알고리즘 공개가 떠오르고 있다. 그러나 플랫폼 업계와 전문가들은 알고리즘 공개가 현실적으로 어렵다는 반응이다.

알고리즘은 이번 국정감사의 주요 키워드 중 하나다. 이해민 조국혁신당 의원은 7일 국정감사에서 네이버 뉴스 서비스 알고리즘 공정성 문제를 강하게 제기하며 오픈소스화를 요구했고 알리익스프레스코리아(알리코리아) 유해 물질 제품 판매 관련 국정감사에서도 해결 방안으로 알고리즘 개선이 언급됐다.

알고리즘 공개 요구는 포털의 정치적 공정성에 대한 요구로 시작됐다. 2021년 김남국 전 더불어민주당 의원이 포털이 특정 성향 기사만 노출한다는 이유로 포털 알고리즘 투명화법을 대표 발의한 바 있다. 또한 올해 6월 국회 입법조사처는 ‘제22대 국회 입법·정책 가이드북’에서 포탈 편향성 논란 방지를 위한 방안으로 알고리즘 공개를 제시했고 올해 8월 국민의힘 포털 불공정 개혁 태스크포스 또한 같은 이유로 경기 성남시 네이버 본사를 방문해 알고리즘 공개를 요구한 바 있다.

그러나 기업들이 다방면에서 알고리즘을 활용하면서 알고리즘의 공정성 문제가 산업 전반에 퍼지고 있다. 먼저 쿠팡은 알고리즘을 조작해 자사 브랜드 상품 판매를 늘린 혐의로 공정거래위원회가 부과한 과징금에 대해 법정 싸움을 하고 있다.

지난해에는 배달 플랫폼 노조가 라이더들의 노동과 수입을 통제하고 있다며 알고리즘 정보 공유를 요청했으며 카카오모빌리티와 택신 단체들의 상생 합의안에도 알고리즘 개선이 포함됐다.

플랫폼 업체의 영향력이 커질수록 플랫폼 입점 업체나 근로자들에게 일감 또는 주문을 배정하는 알고리즘의 공정성에 민감하기 때문에 알고리즘에 대한 검증 요구도 높아지는 추세다.

다만 플랫폼 기업들은 알고리즘 공개를 꺼리고 있다. 알고리즘을 공개할 경우에 기업이 가진 핵심 기술이 유출될 염려가 있기 때문이다. 국내 점유율이 높은 구글과 메타(전 페이스북) 등도 알고리즘을 공개하지 않기 때문에 역차별 논란 또한 나올 수 있다.

이에 더해 플랫폼 기업의 알고리즘 공개가 현실성이 없다는 주장도 나온다. 주된 애로사항으로는 알고리즘을 검증에 들어가는 시간과 인력 문제가 꼽힌다.

업계 관계자는 “알고리즘이 사용 설명서처럼 써 져 있는 것도 아니고 다 코드로 돼 있기 때문에 대중이나 관련 노동자들에게 공개해도 믿을 만한 전문가가 검증해야 한다”며 “알고리즘을 사용하는 업체가 수천수백개인데 그 정도 전문 인력이 있는지가 의문이다”고 말했다.

한편 알고리즘의 특성상 검증 과정에서 개인정보가 유출될 수 있다는 염려도 나온다.

이재성 중앙대 인공지능연구소장은 “알고리즘은 입력값이 들어가면 결과가 나오는 구조기 때문에 알고리즘을 분석하기 위해서는 무엇이 입력됐는지 봐야 한다”며 “이를 위해 누가 어디서 배달을 시켜 먹었고 누가 언제 택시를 잡았는지까지 알아야 되는데 가명 형태로 공개한다고 하더라도 이런 걸 정부나 특정 기관이 다 수집하는 것부터가 위험하다”고 말했다.

양준규 기자 jgyang@skyedaily.com 기자페이지 +