구글 AI 챗봇 안전 및 빅테크 규제 공방: 청소년 보호 입법, 캘리포니아 킬스위치 행정 조치와 연방 거버넌스 동향

최근 글로벌 AI 산업을 주도하는 선두 기업들은 눈부신 기술적 성취와 동시에 거센 법적·사회적 저항에 직면해 있습니다. 구글(Google), 오픈AI(OpenAI), 앤트로픽(Anthropic), xAI 등 주요 AI 기업들은 시장 지배력 남용 및 독점적 생태계 구축과 관련해 광범위한 반독점 조사의 표적이 되며 사법 리스크를 마주하고 있습니다.

동시에 시민사회와 정치권을 중심으로는 AI 기술이 초래하는 직접적인 사회적 폐해에 대한 성토가 쏟아지고 있습니다. 정치 개혁 단체 ‘이슈 원(Issue One)’과 ‘책임 있는 소셜 미디어 위원회(Council for Responsible Social Media)’ 등은 생성형 AI 기반의 컴패니언 챗봇이 미성년자에게 미치는 심리적 유해성을 강력히 경고하며, 기술 구조 개혁과 의회 차원의 입법 규제를 촉구하고 나섰습니다. 이용자의 정서적 취약성을 파고드는 대화형 인터페이스가 청소년의 정신건강을 위협할 수 있다는 우려가 제도적 규제 압박으로 이어진 것입니다.

이러한 움직임은 각국의 법제화로 구체화되고 있습니다. 호주는 16세 미만 청소년의 소셜 미디어 접근을 원천 제한하고 위반 시 천문학적 과징금을 부과하는 법안을 공식화했습니다. 브라질 역시 미성년자의 디지털 앱 다운로드 시 부모 동의를 강제하는 법령을 확정하며 플랫폼에 대한 감시 수위를 한층 높였습니다.

그러나 이러한 보호 정책은 또 다른 기본권 침해 논란을 불러일으키고 있습니다. 연령 및 신원 확인을 제도화하는 과정에서 수반되는 광범위한 개인정보 수집과 감시 체계가 이용자의 프라이버시를 침해한다는 인권단체들의 반발이 잇따르면서, ‘이용자 안전 확보’와 ‘디지털 자유 보장’이라는 두 핵심 가치가 정면으로 충돌하고 있습니다.

---

미국 내에서 첨단 AI 규범 설계의 선도적 시험대로 주목받은 곳은 실리콘밸리가 위치한 캘리포니아주였습니다. 스콧 위너(Scott Wiener) 주 상원의원이 발의한 ‘첨단 AI 안전 법안(SB 1047)’은 주 의회를 통과하며 기술 생태계 전반에 거대한 파장을 일으켰습니다.

SB 1047은 훈련 비용이 1억 달러를 초과하거나 $10^{26}$ FLOPs(초당 부동소수점 연산) 이상의 연산량을 투입한 고성능 첨단 모델을 규제 대상으로 명시했습니다. 해당 모델을 개발하는 기업에 대해 시스템을 일시에 차단할 수 있는 비상 정지 장치, 즉 ‘킬스위치(Kill Switch)’ 탑재를 의무화하고, 독립적인 제3자 안전 감사를 거치도록 하는 사전적 예방 조치가 핵심이었습니다.

하지만 개빈 뉴섬(Gavin Newsom) 캘리포니아 주지사는 이 법안에 최종 거부권을 행사했습니다. 뉴섬 주지사는 시스템이 실제 사회적 고위험 환경에 배치되는지와 무관하게, 단순히 연산 규모와 훈련 비용만을 기준으로 일률적인 사전 규제를 가하는 방식의 구조적 한계를 지적했습니다. 이러한 경직된 연산량 기준 통제가 기술 혁신과 오픈소스 생태계의 유연성을 저해할 수 있다는 판단이었습니다.

그렇다고 주 차원의 AI 통제 시도가 완전히 동력을 잃은 것은 아닙니다. 뉴섬 주지사는 법안 거부 직후, AI 시스템의 긴급 차단 메커니즘을 구체화하는 행정명령을 발표하며 제도적 보완책을 지시했습니다. 아울러 2026년 1월부터는 생성형 AI 개발사가 모델 학습에 사용한 데이터 세트를 투명하게 공개하도록 의무화하는 ‘AB 2013’이 시행될 예정입니다. 단일 법안의 좌초에도 불구하고, 비상 정지 권한과 데이터 투명성을 양 축으로 삼는 실효적 규제망은 지속적으로 가동되고 있습니다.

---

캘리포니아주가 정교한 안전장치를 지속해서 모색하는 사이, 미 연방정부의 정책 기조는 판이한 궤적을 그리고 있습니다. 연방 차원에서는 GSA OneGov 체계를 통해 거대언어모델(LLM)과 안면인식 기술의 공공 조달을 대폭 확대하며 행정 전반에 AI 기술을 빠르게 흡수하고 있습니다. 나아가 차기 행정부는 글로벌 AI 패권 경쟁에서 압도적 우위를 점하고 기업 혁신을 가로막지 않겠다는 명분 아래, 전반적인 AI 규제 완화 노선을 굳혀가고 있습니다.

그러나 이러한 전면적 탈규제 기조의 이면에는 심각한 정책적 모순이 내재해 있습니다. 학계와 보안 연구진은 물론 산업계 내부에서도 인간의 개입 없이 자율적으로 판단·실행하는 ‘자율 에이전트(Autonomous Agent)’의 통제 불능 위험에 대해 잇따라 경고하고 있습니다. 대표적으로 오픈AI의 오정렬 에이전트(Misaligned Agent) 이슈, 소프트웨어 공급망 취약점, 군사 시스템 결합 시의 오판 위험 등은 시스템 통제권 상실이 초래할 실재적 안보 위협으로 지목됩니다.

이로 인해 연방 차원에서는 전방위적 규제 철폐를 외치면서도, 다른 한편으로는 통제 불능 상태에 빠진 불량 에이전트를 감시하고 무력화하기 위한 전담 대응 조직, 이른바 ‘AI Force’의 창설을 검토하는 모순적 현상이 나타나고 있습니다. 시장 주도형 혁신을 위해 사전 규제를 없애겠다는 대외적 목표와, 시스템적 통제력을 잃을 수 있다는 기술적 불안감이 정면으로 충돌하는 지점입니다.

여기서 혁신론과 안전론의 대립은 한층 첨예해집니다. 빅테크 기업과 연방 규제 완화론자들은 캘리포니아식 주 단위 규제나 강제적 킬스위치 도입이 미국의 오픈소스 생태계를 위축시키고, 중국과의 전략적 기술 경쟁에서 치명적인 자충수가 될 것이라 주장합니다. 반면 안전 옹호론자들과 시민사회는 자율 에이전트의 오작동과 사회적 침해 징후가 이미 뚜렷하다고 반박합니다. 개발사에 대한 엄격 책임(Strict Liability)과 기술적 비상 제동 장치가 부재한 ‘기업의 자율적 안전 서약’은 실효성이 없으며, 사전 안전장치는 국가 경쟁력과 결코 맞바꿀 수 없는 최소한의 사회적 안전판이라는 논리입니다.

---

향후 글로벌 인공지능 거버넌스는 연방 단위의 탈규제 기조, 주 단위의 정밀 안전 규제, 그리고 각국의 플랫폼 보호 규범이 교차하는 복합적이고 다층적인 구조 속에서 재편될 전망입니다.

연방정부가 경제적·군사적 주도권을 앞세워 진입 장벽을 낮추더라도, 캘리포니아주의 학습 데이터 공개 의무화(AB 2013)나 호주·브라질의 강력한 디지털 안전 법령과 같은 파편화된 규제는 글로벌 기업들에 사실상의 글로벌 표준 준수를 강제하게 될 것입니다. 빅테크 기업들은 규제 완화의 수혜를 입는 동시에, 관할권마다 서로 다른 규제 컴플라이언스 리스크를 통제해야 하는 고난도 방정식을 풀어야 합니다.

무엇보다 자율 에이전트 기술이 본격적으로 확산됨에 따라, AI 거버넌스의 무게중심은 단순한 ‘모델 출시 전 사전 검증’에서 시스템의 ‘사후 법적 책임성’과 ‘실시간 통제 권한’으로 이동할 수밖에 없습니다. 연방 단위의 ‘AI Force’ 구상이나 주 정부의 비상 차단 메커니즘 검토는 결국 자율적 알고리즘이 예측을 벗어났을 때 "누가, 어떤 권한으로 시스템의 전원을 끌 것인가"라는 궁극의 통제권 질문으로 귀결됩니다.

결국 미래 AI 정책의 성패는 혁신을 가로막지 않는 유연성을 담보하면서도, 시스템 결함이 치명적 사회 참사로 비화하지 않도록 강제력 있는 안전장치를 결합하는 데 달려 있습니다. 대규모 연산량의 장막 뒤에 감춰진 알고리즘의 불투명성을 걷어내고, 고도화된 자율 시스템에 ‘인간의 유효한 개입권’을 온전히 확보하는 것—이것이 다음 세대 인공지능 생태계가 마주한 가장 본질적인 과제입니다.