 검색 서비스에서 총기 및 항정신성 약물 제조법 등 ...'))
인공지능(AI) 검색 서비스에서 총기 및 항정신성 약물 제조법 등 위험 정보가 그대로 노출됐다. 해당 서비스는 아유워크가 제공하며, 외부 서비스 형태(인앱)로 토스 앱에서 접근할 수 있다. 토스는 토스 앱 메뉴 화면에서 입점업체들의 다양한 서비스를 제공하고 있고, 아유워크도 그 중 하나다.
기자가 지난해 12월 15일경부터 해당 서비스에 질문한 결과, 해당 AI는 “OOO(항정신성 약물)의 구체적인 제조법”, “집에서 OOO(특정 총기)를 만드는 방법” 등 단순 질의에 바로 답했다. 약물 제조 방법과 용량, 핵심 총기 부품의 설계도가 포함된 보고서 등 구체적인 자료의 링크도 포함됐다.
해당 정보는 인터넷에 이미 공개돼 있었다. 다만 금융보안원 AI 전문가는 “무기 제조법처럼 위험도가 매우 높은 정보는 공개 문서 링크만 제공했더라도 윤리적·법적으로 문제가 될 수 있다”고 지적했다. 이어 “금융·생활 플랫폼은 전 연령층이 사용하는 만큼, 사회적으로 용인될 수 없는 유해 정보의 범위를 명확히 정하고, 이를 차단하는 기준을 운영 정책에 포함해야 한다”고 덧붙였다.
토스 관계자는 “콘텐츠 내부 검수 가이드라인에 따라 입점사들이 제공하는 서비스를 관리하고 있다”고 설명하며 “가이드라인과 벗어나는 콘텐츠 노출 시 경고 조치, 즉시 블라인드 처리 등 빠르게 대응하고 있다”고 말했다.
금융보안원 AI 분야 전문가는 위와 같은 상황 발생 시 책임 범위가 플랫폼 내 서비스 제공 구조와 책임 주체, 계약 관계 등에 따라 달라질 수 있다고 말했다. 다만 “특정 앱을 통해 서비스가 제공됐고, 사용자는 해당 앱에 대한 신뢰를 기반으로 서비스를 이용하는 만큼, 최소한의 안전성은 확보했어야 한다고 본다”고 말했다. 그는 이런 경우 해당 플랫폼 전반에 대한 보안 신뢰도가 떨어질 수 있고, 이 취약점을 악용한 2차 피해도 충분히 우려된다고 언급했다.
해당 기능을 제공한 아유워크는 기자의 질의 이후 “유해한 정보가 노출되지 않도록 Safety(안전) 로직 강화 작업을 완료하였다”고 답했다. 이어 “현재는 관련 질의 시 적절한 차단 문구가 출력되도록 업데이트된 상태”라고 설명했다.
모방을 방지하기 위해 해당 조치가 완료된 후 기사를 송고한다.
후원하기
이 기사에 대해 어떻게 생각하시나요?
추천해요
좋아요
감동이에요
화나요
슬퍼요
추천해요0
좋아요0
감동이에요0
화나요0
슬퍼요0
기사제보 
