 관련 법안이 시행된다. AI가 단순한 산...'))
세계 최초의 인공지능(AI) 관련 법안이 시행된다. AI가 단순한 산업 분야를 넘어 인류의 미래로 여겨지는 상황에서 AI 기본법 적용이 어떤 결과를 낳을지에 관심이 쏠리고 있다.
과학기술정보통신부(과기부)는 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI 기본법)'이 22일부터 시행된다고 밝혔다.
AI 기본법은 국가 인공지능 경쟁력을 높이고 안전하고 신뢰할 수 있는 AI 활용 기반을 조성하는 것을 목적으로 한다. AI 기본법은 2024년 12월 여·야 합의를 거쳐 국회를 통과했다.
한국은 전 세계에서 두 번째로 AI 관련 법안을 제정한 국가이며 첫 번째로 AI 관련 법안을 제정한 유럽연합(EU)은 고위험 AI에 대한 핵심 규제 적용을 2027년 12월로 연기했기 때문에 한국에서 최초로 AI 법안이 시행된다.
한국 AI 기본법은 국가 인공지능 행정 체계를 법제화하고 AI 산업 활성화와 기반 조성 및 AI 혁신을 뒷받침하는 안전 신뢰 기반에 관한 내용을 담고 있다.
구체적으로 국가 AI 행정 체계와 관련해 국가 인공지능 전략위원회의 법적 근거와 전략위원회 내 분과위원회, 지원단, 인공지능책임관 등에 관한 설치 근거를 마련해 AI 정책이 체계적이고 실효성 있게 추진될 수 있도록 했다.
또한 인공지능 산업 발전을 위해 AI 지원 사항에 더해 세부 기준과 절차 등을 시행령에서 구체화했다.
가장 주목받는 부분은 투명성 확보 의무다. 투명성 확보 의무는 고영향 또는 생성형 인공지능 기반 운용 사실의 사전 고지와 AI 생성물이 생성형 AI로 만들어졌다는 사실의 표시로 나뉜다.
이용자가 AI 제품·서비스 이용 과정에서 고영향․생성형 AI 기술이 적용된 사실을 미리 인지하고 주의를 기울일 수 있도록 하는 데 중점을 뒀다.
과기부는 고영향 AI의 범위를 보수적으로 잡아 레벨4 이상 자율주행 차량 정도에만 적용된다는 입장이다. 다만 AI 기술이 더 발달하고 이를 이용한 서비스가 출시되면 고영향 AI에 해당하는 사례가 늘어날 전망이다.
AI 생성물 표시 의무는 AI 생성물이 서비스 환경 내에서만 제공될 경우 사용자 이용 환경이나 상징 표출 등을 통해 유연하게 표시할 수 있다. 반면에 생성 결과물을 외부로 반출할 때는 워터마크 등 확실한 표시 적용이 요구된다.
다만 웹툰 등 최근 AI 사용이 확대되는 창작물의 경우 일부에만 AI를 사용했어도 소비자층이 거부감을 느끼는 사례가 많기 때문에 오히려 AI 도입을 느려지게 만들 수 있다는 우려가 나온다.
과기부는 “AI 생성물에 대한 워터마크 적용은 딥페이크 오용 등 기술의 부작용을 막기 위한 최소한의 안전장치이자 이미 주요 세계적 기업들이 도입하고 있는 세계적인 추세”라며 “제도 도입 초기 현장 준비 부족 우려가 있는 만큼 최소 1년 이상의 충분한 계도기간을 운영하며 업계와 긴밀히 소통해 제도가 현장에 원활히 안착할 수 있도록 지원하겠다”고 밝혔다.
후원하기
이 기사에 대해 어떻게 생각하시나요?
추천해요
좋아요
감동이에요
화나요
슬퍼요
추천해요0
좋아요0
감동이에요0
화나요0
슬퍼요0
기사제보 
