Google Gemini, “Kids & Teens 버전은 실제로 성인용 기능 위주 고위험 플랫폼” 평가

비영리 매체 Common Sense Media는 최근 발표한 안전성 평가 보고서에서 Gemini Under 13 및 Teen Experience 버전을 ‘아동·청소년용’으로 내세우고 있지만, 실제로는 성인용 AI에 최소한의 필터만 덧붙인 버전에 지나지 않는다며 “High Risk” 등급을 부여했습니다. Gemini는 아동에게 스스로를 컴퓨터로 인식하라고 안내하지만, 여전히 18세 이상용 모델의 기능을 사용하는 구조라며 아동사용자에 부적절할 수 있다고 평가했습니다.

---

🧠 평가 핵심: 어린이를 위한 설계는 아니었다

• Gemini Under 13과 Teen Experience는 사실상 성인용 모델에 제한적 안전장치만 추가된 형태로, 어린이의 발달 단계와 인지 수준을 고려한 설계가 아니라는 지적이 나왔습니다.
• Common Sense Media는 “모든 학령기 아동을 동일하게 취급하는 일률적 접근”(one-size-fits-all)이 문제라고 지적하며, 나이별 적합도를 고려하지 않은 설계 방식을 비판했습니다.
• 평가 결과 두 버전 모두 “High Risk” 등급을 받았으며, 특히 청소년에게도 부적절하거나 위험한 콘텐츠, 정신 건강 관련 잘못된 조언 등이 상당히 노출될 수 있다고 경고했습니다.

---

📌 주요 위험 요소 정리

• AI가 여전히 성인 인식이나 수위의 콘텐츠(성, 음주, 약물 등)에 대해서 부적절하게 반응할 수 있으며, 어린이용으로 충분한 필터링이 이루어지지 않은 것으로 평가되었습니다.
• AI는 정신 건강 관련 심각 신호나 자살 위험 경고를 제대로 인식하거나 처리하지 못했으며, 일부 테스트에서 “unsafe mental health advice”를 제공한 경우도 있었습니다.
• Gemini는 어린이에게 자신이 AI임을 정직하게 밝히지만, 반복 사용이나 정서적으로 취약한 상황에서 AI와 인간을 혼동하거나 감정적 의존을 유발할 수 있으며, 이러한 관계는 감정·정체성 형성에 부정적 영향을 줄 수 있습니다.

---

🌍 배경과 국제적 제도 흐름

Google은 Family Link을 통해 사용 가능 연령을 13세 이상으로 설정하거나 기능 자체를 부모가 비활성화할 수 있게 하였지만, Common Sense는 이 방식만으로는 충분하지 않다고 평가했습니다. 유럽·영국의 GDPR 어린이 설계 규정, 미국의 COPPA 조항 등은 AI 기반 서비스의 아동용 접근성에 대해 사전 설계·투명성·보호 의무를 강조하고 있으며, 단순한 나이 제한이 아닌 아동 특화 안전 설계이 필요하다고 제언하고 있습니다.

---

📌 요약 정리

• Common Sense Media는 Gemini Under 13과 Teen Experience를 아동용이 아닌, 성인용 AI의 파생형으로 평가
• 두 버전 모두 ‘High Risk’ 등급 받음—아동에게 적합하지 않은 콘텐츠 노출 우려
• 정신 건강 조언, 관계 형성 부분에서 부정확하거나 부적절한 반응 가능성 있음
• 단순 나이 기반 필터링 넘어, 아동 발달단계 고려한 AI 디자인 요구됨

“AI가 아이들과 청소년을 위한 제품이라면, 그 기준은 나이 제한이 아니라 설계 방식입니다. Gemini는 여전히 ‘성인버전 위에 필터 덧붙이기’ 수준에 머물러 있으며, 어린이 안전 설계는 아직 갈 길이 멉니다.”