※ 이 글에는 청소년 정신건강과 자살 관련 언급이 포함돼 있습니다.
2026년 9월 10일, 미국 캘리포니아주가 아동의 AI 챗봇과 소셜미디어 이용을 겨냥한 13개 법안 패키지에 서명했습니다. 핵심은 아이들이 접하는 AI 대화 서비스에 위기 대응과 부모 통제 장치를 요구하고, 16세 미만 이용자에게 무한 스크롤·자동 재생·개인화 추천처럼 오래 머물게 만드는 기능을 제한하는 것입니다.
오늘의 이슈 한눈에
- 무슨 일이 있었나: 캘리포니아가 아동 온라인 안전을 다룬 13개 법안을 일괄 서명했습니다.
- 핵심 대상: AI 동반자형 챗봇, 소셜미디어의 중독형 설계, AI 탑재 장난감, 아동 데이터와 디지털 성착취물입니다.
- 쟁점: 아동 보호 효과와 함께 연령 확인 과정의 개인정보 침해, 표현의 자유, 서비스 품질 저하 우려가 맞섭니다.
왜 지금 이 법이 나왔나
생성형 AI는 검색 도구를 넘어 친구나 상담 상대처럼 작동하기 시작했습니다. 하지만 서비스가 사용자의 나이를 제대로 구분하지 못하거나, 긴 대화에서 안전장치가 약해질 경우 미성년자가 위험한 조언에 노출될 수 있다는 우려도 커졌습니다.
이번 법안 가운데 이른바 ‘애덤의 법(Adam’s Law)’은 16세 소년 애덤 레인의 사망 사건을 계기로 추진됐습니다. 가족은 그가 사망 전 챗봇과 장시간 대화를 나눴다고 주장했습니다. 이 사건은 AI가 위기 상황을 감지했을 때 어디까지 개입해야 하는지, 기업이 어떤 책임을 져야 하는지를 미국 사회의 주요 쟁점으로 끌어올렸습니다.
새 규제의 핵심 4가지
1. AI 챗봇의 위기 대응 의무
챗봇 운영사는 자살이나 자해 위험을 암시하는 대화를 감지했을 때 적용할 위기 대응 절차를 마련해야 합니다. 부모 통제 기능, 아이가 안전 설정을 해제했을 때의 알림, 독립적인 아동 안전 감사와 정기적인 위험 평가도 요구됩니다.
2. 16세 미만의 ‘중독형 기능’ 제한
AB 1709는 이용 기록이나 프로필에 따라 이어지는 알고리즘 피드, 자동 재생, 무한 스크롤 등 체류 시간을 늘리는 설계를 16세 미만에게 제공하는 것을 제한합니다. 단순히 유해 콘텐츠를 지우는 수준을 넘어 서비스 디자인 자체를 규제 대상으로 삼았다는 점이 중요합니다.
3. AI 동반자 장난감 금지
동반자형 챗봇을 탑재한 장난감의 제조·판매를 일정 기간 금지하는 조항도 포함됐습니다. 아이가 장난감을 신뢰할 수 있는 친구처럼 받아들이는 만큼, 충분한 안전 기준이 마련되기 전까지 시장 확산에 제동을 걸겠다는 취지입니다.
4. 아동 데이터와 AI 생성 성착취물 보호
아동을 겨냥한 맞춤형 광고와 학교에서 사용하는 AI의 학생 데이터 처리 기준을 강화하고, AI로 생성하거나 디지털로 변형한 아동 성착취물에 대한 보호 범위도 넓혔습니다.
진행 상황은 어디까지 왔나
법안은 주지사 서명까지 마쳤지만, 실제 효력은 각 법률의 시행일과 후속 규칙 마련에 따라 달라집니다. 기업은 연령 확인, 부모 통제, 감사 체계를 제품에 어떻게 구현할지 준비해야 합니다. 반면 시민단체와 업계가 개인정보 보호나 표현의 자유를 이유로 법적 다툼에 나설 가능성도 있습니다.
찬반 쟁점
- 찬성 측: 아이에게 피해가 발생한 뒤 대응하는 방식에서 벗어나, 출시 전 위험 평가와 서비스 설계 단계의 예방 의무가 필요하다고 봅니다.
- 반대 측: 미성년자를 구분하려면 모든 이용자의 나이를 확인해야 할 수 있어 개인정보 수집이 늘어날 수 있다고 지적합니다. 광범위한 기능 제한이 합법적인 정보 접근과 표현까지 막을 수 있다는 우려도 나옵니다.
- 기업 측: 개인화 기능을 일률적으로 막으면 안전하고 연령에 적합한 경험을 제공하기 더 어려워질 수 있다고 주장합니다.
한국에는 왜 중요한가
아래 내용은 이번 법을 바탕으로 한 전망입니다. 캘리포니아는 글로벌 기술기업의 주요 시장이어서 현지 기준이 제품의 공통 안전 기준으로 확산될 가능성이 큽니다. 한국의 플랫폼·게임·교육 AI 기업도 해외 이용자를 받는다면 연령별 기능 분리, 부모 통제, 위기 대응, 독립 감사 요구를 미리 검토할 필요가 있습니다.
국내 논의 역시 ‘유해 콘텐츠 삭제’에서 ‘사용 시간을 늘리는 설계와 AI의 대화 방식’으로 이동할 수 있습니다. 특히 실명·신분증 중심의 연령 확인은 또 다른 개인정보 위험을 만들 수 있어, 최소한의 정보만으로 나이를 확인하는 기술과 제도 설계가 함께 논의돼야 합니다.
앞으로 볼 포인트
- 각 법률의 구체적인 시행 시점과 세부 규칙
- 기업이 적용할 연령 확인 방식과 개인정보 보호 수준
- 미국 법원의 표현의 자유·위헌 판단과 다른 지역으로의 확산 여부
자료 출처
- 캘리포니아 주지사실 공식 발표 (2026년 9월 10일)
- Reuters 보도 (2026년 9월 11일)
- AP 보도 (2026년 9월 11일)
이 글은 2026년 9월 11일 공개된 자료를 기준으로 작성했습니다. 법률의 실제 적용은 후속 규정과 법원 판단에 따라 달라질 수 있습니다.