김인제 서울시의회 부의장, 서울시교육청 생성형인공지능 윤리적활용 조례안 통과!
- 서울시 · 의회 / 최성일 기자 / 2026-03-17 19:05:05
딥페이크‧허위정보 등 AI 역기능 대응을 위한 학생 대상 실질적 윤리교육 기반 마련
[코리아 이슈저널=최성일 기자] 서울특별시의회 김인제 부의장(구로2, 더불어민주당)이 발의한 '서울특별시교육청 생성형인공지능 윤리적활용에 관한 조례안'이 지난 13일 서울특별시의회 본회의를 통과했다.
최근 생성형 인공지능 기술이 교육 현장과 일상생활 전반에 빠르게 확산되면서 학생들 사이에서도 활용이 보편화되고 있다.
그러나 딥페이크 등 생성형 인공지능을 악용한 디지털 성범죄 등이 심각한 사회적 문제로 대두되면서 학생 대상으로 한 생성형 인공지능 윤리교육의 필요성이 어느 때보다 커진 상황이다.
이번 조례는 이러한 변화에 대응하여 허위정보 생성, 저작권·개인정보 침해, 딥페이크 등 다양한 윤리적 문제를 예방하고 학생들의 책임 있는 생성형 인공지능 활용 역량을 키우기 위한 제도적 기반을 마련하기 위해 제정됐다.
김 부의장이 공개한 '2025년 서울시 디지털성범죄 통합대응 정책 추진계획'에 따르면, 2024년 디지털 성범죄 피의자 387명 중 10대가 324명으로 83.7%를 차지하는 것으로 나타났다.
김 부의장은 이러한 현상에 대해 “가해 청소년 상당수가 디지털 범죄를 범죄로 인식하기보다 단순한 놀이문화로 혼동하는 경우가 많다”며, “학생들을 대상으로 한 디지털 윤리교육의 중요성과 필요성이 강조되고 있다”고 설명했다.
이번 조례안의 주요 내용으로는 서울시교육감이 생성형 인공지능의 윤리적 활용을 위한 시책을 수립하고 행정적·재정적 지원을 추진하도록 하는 책무 규정을 두었으며, 교육 내용으로는 △생성형 인공지능 기술의 기본 원리와 한계에 대한 이해 △AI 생성 콘텐츠의 편향성과 부적절성에 대한 인식 △딥페이크 등 허위·조작 콘텐츠 제작‧유포의 위험성과 법적 책임 △개인정보 및 저작권 보호 △AI 활용 시 출처 표기와 같은 학문적 정직성 등이 포함된다.
또한 생성형 인공지능의 윤리적 활용 정책이 빠르게 변화하는 기술 환경에 맞춰 실효성 있게 추진될 수 있도록 매년 실태조사를 실시하고, 그 결과를 다음 연도 시행계획에 반영하도록 했다.
실태조사의 주요 내용으로는 △학생의 생성형인공지능 사용 현황·목적 △딥페이크 등 합성 콘텐츠에 대한 인식 수준 △타인의 권리 침해 및 허위정보 생성에 대한 인식 △생성형인공지능 윤리적활용에 대한 이해도 등을 담고 있다.
김인제 부의장은 “생성형 인공지능 기술은 학습 도구로 빠르게 확산되고 있지만, 동시에 허위정보 생성이나 딥페이크와 같은 심각한 사회적 문제를 동반하고 있다”며 “특히 딥페이크는 한 번 유포되면 완전한 삭제나 회복이 매우 어려운 특성이 있다”고 강조했다.
이어 “디지털 성범죄 중 합성·편집 피해의 경우 10대와 20대 피해 비율이 92.6%에 달하는 등 피해자 역시 청소년과 청년층에 집중되어 있다”며 “청소년 시기부터 생성형 인공지능에 대한 윤리교육을 강화하는 것이 무엇보다 중요하다”고 말했다.
그러면서 김 부의장은 “이번 조례를 통해 학생들이 인공지능 기술을 올바르게 이해하고 윤리적으로 활용할 수 있는 교육 환경을 조성하여 책임 있는 성숙한 디지털 시민으로 성장할 수 있도록 적극 지원하겠다”고 밝혔다.
한편, 김인제 부의장이 발의하여 통과된 이번 '서울특별시교육청 생성형인공지능 윤리적활용에 관한 조례'는 단순 양적 차원의 추상적 규정 설계 단계에 머물지 않고, 생성형 인공지능의 역기능에 대응하는 윤리교육 의무를 전국 최초로 구체적 명문화를 실현했다는 점에서 차별화된다. 이는 생성형 인공지능 활용의 패러다임을 ‘책임 있는 활용’이라는 질적 성숙으로 전환하는 계기가 될 것으로 보인다.
[코리아 이슈저널=최성일 기자] 서울특별시의회 김인제 부의장(구로2, 더불어민주당)이 발의한 '서울특별시교육청 생성형인공지능 윤리적활용에 관한 조례안'이 지난 13일 서울특별시의회 본회의를 통과했다.
최근 생성형 인공지능 기술이 교육 현장과 일상생활 전반에 빠르게 확산되면서 학생들 사이에서도 활용이 보편화되고 있다.
그러나 딥페이크 등 생성형 인공지능을 악용한 디지털 성범죄 등이 심각한 사회적 문제로 대두되면서 학생 대상으로 한 생성형 인공지능 윤리교육의 필요성이 어느 때보다 커진 상황이다.
이번 조례는 이러한 변화에 대응하여 허위정보 생성, 저작권·개인정보 침해, 딥페이크 등 다양한 윤리적 문제를 예방하고 학생들의 책임 있는 생성형 인공지능 활용 역량을 키우기 위한 제도적 기반을 마련하기 위해 제정됐다.
김 부의장이 공개한 '2025년 서울시 디지털성범죄 통합대응 정책 추진계획'에 따르면, 2024년 디지털 성범죄 피의자 387명 중 10대가 324명으로 83.7%를 차지하는 것으로 나타났다.
김 부의장은 이러한 현상에 대해 “가해 청소년 상당수가 디지털 범죄를 범죄로 인식하기보다 단순한 놀이문화로 혼동하는 경우가 많다”며, “학생들을 대상으로 한 디지털 윤리교육의 중요성과 필요성이 강조되고 있다”고 설명했다.
이번 조례안의 주요 내용으로는 서울시교육감이 생성형 인공지능의 윤리적 활용을 위한 시책을 수립하고 행정적·재정적 지원을 추진하도록 하는 책무 규정을 두었으며, 교육 내용으로는 △생성형 인공지능 기술의 기본 원리와 한계에 대한 이해 △AI 생성 콘텐츠의 편향성과 부적절성에 대한 인식 △딥페이크 등 허위·조작 콘텐츠 제작‧유포의 위험성과 법적 책임 △개인정보 및 저작권 보호 △AI 활용 시 출처 표기와 같은 학문적 정직성 등이 포함된다.
또한 생성형 인공지능의 윤리적 활용 정책이 빠르게 변화하는 기술 환경에 맞춰 실효성 있게 추진될 수 있도록 매년 실태조사를 실시하고, 그 결과를 다음 연도 시행계획에 반영하도록 했다.
실태조사의 주요 내용으로는 △학생의 생성형인공지능 사용 현황·목적 △딥페이크 등 합성 콘텐츠에 대한 인식 수준 △타인의 권리 침해 및 허위정보 생성에 대한 인식 △생성형인공지능 윤리적활용에 대한 이해도 등을 담고 있다.
김인제 부의장은 “생성형 인공지능 기술은 학습 도구로 빠르게 확산되고 있지만, 동시에 허위정보 생성이나 딥페이크와 같은 심각한 사회적 문제를 동반하고 있다”며 “특히 딥페이크는 한 번 유포되면 완전한 삭제나 회복이 매우 어려운 특성이 있다”고 강조했다.
이어 “디지털 성범죄 중 합성·편집 피해의 경우 10대와 20대 피해 비율이 92.6%에 달하는 등 피해자 역시 청소년과 청년층에 집중되어 있다”며 “청소년 시기부터 생성형 인공지능에 대한 윤리교육을 강화하는 것이 무엇보다 중요하다”고 말했다.
그러면서 김 부의장은 “이번 조례를 통해 학생들이 인공지능 기술을 올바르게 이해하고 윤리적으로 활용할 수 있는 교육 환경을 조성하여 책임 있는 성숙한 디지털 시민으로 성장할 수 있도록 적극 지원하겠다”고 밝혔다.
한편, 김인제 부의장이 발의하여 통과된 이번 '서울특별시교육청 생성형인공지능 윤리적활용에 관한 조례'는 단순 양적 차원의 추상적 규정 설계 단계에 머물지 않고, 생성형 인공지능의 역기능에 대응하는 윤리교육 의무를 전국 최초로 구체적 명문화를 실현했다는 점에서 차별화된다. 이는 생성형 인공지능 활용의 패러다임을 ‘책임 있는 활용’이라는 질적 성숙으로 전환하는 계기가 될 것으로 보인다.
[ⓒ 코리아 이슈저널. 무단전재-재배포 금지]
