서울 12.6º
미세먼지 좋음
강릉 15.2º
미세먼지 보통
은 오늘날 가장 뜨거운 산업이자 중국의 필사적 추적...'))
인공지능(AI)은 오늘날 가장 뜨거운 산업이자 중국의 필사적 추적이 두드러지는 분야다. AI 기술의 세계적 중심지인 미국 캘리포니아주에서 AI 안전을 위한 규제 법안이 마련됐으나 주지사가 제동을 걸었다. 개빈 뉴섬 주지사는 29일(현지시간) AI 개발업체 책임을 강화한 법안 ‘SB1047’에 거부권 행사 사실을 밝혔다. 8월28일 법안이 주 의회를 통과한 지 약 한 달, 거부권 행사 시한(30일) 직전에 이뤄진 것이다.
뉴섬 주지사는 “(법안) 규제가 크고 비싼 AI 모델에만 집중돼 있다”며 “크기와 비용 기준의 규제일 뿐 실제 그 모델이 위험한 상황에 사용될지 여부를 고려하지 않았다”는 점을 문제삼았다. “소형 모델이라도 전력망이나 의료 기록 등 민감한 데이터를 다뤄 위험 상황을 초래할 수 있는 반면, 대형 모델들이 고객서비스처럼 위험도가 상대적으로 낮은 작업에 사용되기도 한다”는 것이다.
그는 또 “대규모 재난이 발생하기 전에 대책을 마련해야 한다는 규제 법안 지지자들 주장에 동의하지만 규제란 반드시 과학적 실증적 증거에 기반해야 한다”고 덧붙였다. 주지사의 거부권 행사로 기술 기업들이 한숨 돌릴 수 있게 됐다.
‘SB1047’은 1억 달러 이상 투입된 대규모 언어 모델에 안전성 테스트 의무화, AI 시스템이 다수 사망자나 5억 달러 이상의 재산 피해 등 사태를 방지하도록 개발사가 주의를 기울이게 했다. 통제 불능 시 작동을 멈출 ‘킬 스위치’ 도입, 규정 위반 시 주 법무장관 소송 제기 등도 포함된다.
민주당 스콧 위너 주 상원의원이 “AI가 통제할 수 없게 되기 전에 대중을 보호하기 위한 법률을 만들어야 한다”며 발의해 통과한 법안이었다. 그러나 마이크로소프트(MS)와 메타, 챗GPT 개발사 오픈AI 등 관련 업계에서 “기술혁신 속도를 늦출 것”이라며 반대했고 낸시 펠로시 전 하원의장, 런던 브리드 샌프란시스코 시장 등도 반대 입장을 밝혀 논란이 커졌다. 뉴섬 주지사는 ‘SB1047’ 거부권 발표와 함께 AI 학자이자 기업가인 페이 페이 리 등 여러 학자 주도의 ‘주요 AI모델 위험 및 역량 분석’을 실시하겠다고 강조했다.
한편 앞서 사람들의 두뇌 정보가 신경기술 회사에 의해 오남용되지 않도록 한 내용의 개인정보 보호법 개정안은 뉴섬 주지사 서명 후 공포된 상태다. 뉴욕타임스(NYT)에 따르면 이 법안은 두뇌 등 ‘신경 데이터’를 생체인식 정보인 얼굴 이미지·유전자(DNA)·지문 등 소비자 개인정보 보호법에서 이미 민감한 데이터로 간주되는 다른 정보와 동일 수준으로 보호하게끔 하고 있다. 명상이나 집중력 향상, 우울증 치료 같은 정신건강 관련 기기들 개발이 진행되면서 개인의 두뇌 정보 역시 오용될 가능성이 커졌기 때문이다.
신경 데이터엔 뇌·척수에서 신체의 나머지 부분으로 확장되는 말초 신경계가 생성한 데이터도 들어 간다. 보호해야 할 개인정보의 일부인 것이다. 이로써 뉴로테크 기업이 수집한 데이터의 요청·삭제·수정 등을 요구할 수 있으며 신경 데이터를 판매하거나 공유하는 회사에 정보를 빼달라고 할 수 있다. 민주당 조시 베커 상원의원(캘리포니아·민주당)은 이를 “신경 데이터의 프라이버시 보호에 매우 중요한 법안”으로 짚었다.
현재 스타트업뿐만 아니라 메타(페이스북 모회사)·애플 같은 거대 정보통신 기업들이 방대한 뇌·신경 정보 수집 장치를 개발 중이다. 이들 기업을 대표한 로비단체인 테크넷에선 이 개인정보 보호법이 인간행동을 기록하는 거의 모든 기술을 규제한다며 반대해 왔으나 아직 받아들여지지 못하고 있다.
후원하기
이 기사에 대해 어떻게 생각하시나요?
추천해요
좋아요
감동이에요
화나요
슬퍼요
추천해요0
좋아요0
감동이에요0
화나요0
슬퍼요0
연재기획 ‘반대세의 비밀’ 
연재소설 ‘최초의 당신’
기사제보 
