방송통신위원회, 생성형 인공지능 서비스 이용자 보호 가이드라인(2025.2.29)

2025년 2월 29일에 나온 것입니다.

보도자료

https://www.korea.kr/briefing/pressReleaseView.do?newsId=156676724

"「생성형 인공지능 서비스 이용자 보호 가이드라인」 발표"

 

 

https://kcc.go.kr/user.do?boardId=1113&page=A05030000&dc=K00000200&boardSeq=65685&mode=view

방송통신위원회 누리집 > 알림마당 > 보도자료 상세보기(“「생성형 인공지능 서비스 이용자 보

 

 

문서: 생성형 인공지능 서비스 이용자 보호 가이드라인

 

 

생성형 인공지능 서비스

이용자 보호 가이드라인

Ⅰ. 목적
이 가이드라인은 생성형 인공지능 서비스 이용 과정에서 발생할 수 있는 잠재적 위험들을 사전
에 방지하여 안전하고 신뢰할 수 있는 생성형 인공지능 서비스 이용 환경을 마련함으로써 이용자
의 권익을 보장하고, 생성형 인공지능의 올바른 사용으로 얻을 수 있는 혜택을 모든 사회구성원이
고루 누릴 수 있도록 하는 것을 목적으로 한다. 이때 생성형 인공지능 생태계 구성원의 책임감을
바탕으로 자율적인 참여를 통한 효과적인 이용자 보호 체계를 구축하고자 한다.

Ⅱ. 용어의 정의
1. “생성형 인공지능(generative AI)”이란 대규모 데이터를 학습하여 만들어진 모델을 사용하여
이용자의 요구에 따라 텍스트, 이미지, 비디오, 오디오, 코드 등 새로운 콘텐츠를 생성하는 인
공지능 기술을 말한다.
1-1. “생성형 인공지능 서비스”란 생성형 인공지능을 활용하여 공공 또는 민간에게 제공되는 서
비스를 말한다.
2. “개발사”란 생성형 인공지능의 파운데이션 모델을 개발하고 시장에 출시하여 서비스 제공자가
모델을 사용할 수 있게 하거나 자체 서비스를 제공하는 사업자를 말한다.
3. “서비스 제공자”란 생성형 인공지능 모델을 활용해 디지털 도구 및 서비스를 제공하는 사업자
를 말한다.
4. “이용자”란 생성형 인공지능 서비스를 이용하거나 이용하려는 자를 말하며 해당 서비스로 생성
된 콘텐츠를 유통하거나 소비하는 자를 모두 포함한다. 
5. “생성형 인공지능 산출물”은 이용자가 입력한 프롬프트에 기반하여 생성형 인공지능이 산출한 최종 결과물을 말한다.


Ⅲ. 적용 범위
이 가이드라인은 생성형 인공지능 개발사 및 서비스 제공자 등에 적용된다.


Ⅳ. 기본 원칙 (4가지 기본 원칙)
이 가이드라인에서 생성형 인공지능 서비스의 전반에 걸쳐 추구해야 할 기본적인 방향성을 다음
과 같이 제시한다.

1. 생성형 인공지능 서비스는 인간의 존엄성을 보호하고 개인의 자유와 권리를 보장하며, 인간이
적절하게 통제하고 감독할 수 있는 방식으로 제공되어야 한다.

2. 생성형 인공지능 서비스는 인공지능시스템 사용에 따른 작동 원리 및 결과, 이용자에게 미치는
영향 등에 대하여 이용자에게 알기 쉽게 설명되도록 제공되어야 한다.

3. 생성형 인공지능 서비스는 안전하게 작동되어야 하며, 예상치 못한 피해를 최소화하고 악의적
으로 이용되거나 변경되지 않도록 제공되어야 한다.

4. 생성형 인공지능 서비스는 이용자에게 차별 또는 불공정한 결과가 발생하지 않도록 제공되어
야 한다.


Ⅴ. 생성형 인공지능 서비스 이용자 보호를 위한 실행 방식 (6가지 실행 방식)
위의 기본 원칙이 제시하는 목표를 실현하기 위한 방식으로 다음과 같은 것들을 제시한다.

1. 생성형 인공지능 서비스의 이용자 인격권 보호
가. 개발사는 생성형 인공지능 기반 시스템이 이용자의 인격권을 침해할 수 있는 요소를 발견하
고 통제할 수 있는 알고리즘을 구축하도록 노력한다.
나. 서비스 제공자는 서비스를 구축하는 과정에서 사전에 이용자가 타인의 인격권을 침해하는
결과물을 생성하지 않도록 관리할 책임을 인지하고, 내부 모니터링 체계나 이용자 신고 프로
세스 등 관련 방안을 마련하도록 노력한다.
다. 서비스 제공자는 생성형 인공지능의 산출물이 이용자의 권리를 침해하지 않도록 서비스 제
공 범위와 방법을 고려한다.

2. 생성형 인공지능 서비스의 결정 과정을 알리려는 노력
가. 서비스 제공자는 생성형 인공지능 산출물이 생성형 인공지능으로 생성되었음을 자율적으로
선택한 방식으로 알린다.
나. 서비스 제공자는 해당 생성형 인공지능 서비스와 관련한 영업활동을 하는 사업자의 정당한
이익을 침해하지 않는 범위에서 생성형 인공지능의 결정 과정을 이해할 수 있는 기본적인 정
보를 이용자가 쉽게 접근하고 이해할 수 있는 방식으로 제공한다.

3. 생성형 인공지능 서비스의 다양성 존중 노력
가. 개발사와 서비스 제공자는 생성형 인공지능을 개발하고 운영하는 과정에서 알고리즘 설계,
데이터의 수집과 입력 및 알고리즘 실행 등 기술적으로 실현 가능한 범위 안에서 편향과 차
별을 줄이기 위해 노력한다.
나. 개발사와 서비스 제공자는 자사 서비스에서 생성형 인공지능 산출물의 편향성을 줄이고 다
양성을 보장하는 자체 원칙이나 기준을 마련한다.
다. 서비스 제공자는 생성형 인공지능의 이용자들이 차별적 사용을 하지 않도록 이에 대한 방지
와 필터링 기능을 제공한다.
라. 서비스 제공자는 이용자가 생성형 인공지능의 산출물이 편향적이라고 판단하였을 때 바로
신고할 수 있는 직관적인 방법을 제공하고 신고 내용을 처리하는 절차를 마련한다.

4. 생성형 인공지능 서비스의 입력데이터 수집·활용 과정에서의 관리
가. 서비스 제공자는 서비스 이용 과정에서 발생하는 이용자의 입력 및 생성 데이터를 학습데이터
로 활용할 경우, 이를 사전에 고지하고 이용자가 동의 혹은 거부할 수 있는 절차를 마련한다. 
나. 서비스 제공자는 서비스 이용 과정에서 발생하는 이용자의 입력 및 생성 데이터를 학습데이
터로 활용할 경우, 해당 활용 여부에 대한 이용자의 선택권을 보장하도록 노력한다.
다. 이용자의 입력 및 생성 데이터를 학습데이터로 활용하는 것과 관련하여, 서비스 제공자는 기
업 내 감시 조직을 갖추거나 책임자를 선정하여 이용자의 입력 및 생성 데이터가 안전하고
정당하게 활용될 수 있도록 관리한다.

5. 생성 콘텐츠 활용에서 발생할 수 있는 문제 해결을 위한 책임과 참여
가. 서비스 제공자는 생성형 인공지능 산출물과 관련하여 이용자의 이해를 돕기 위해 서비스 제
공자 및 이용자 각자의 책임 범위를 정의하고 이용 단계에서 이용자가 자기 책임을 명확히 인
지하도록 안내한다.
나. 서비스 제공자는 이용자가 인지하지 못한 피해의 발생을 최소화하기 위해 모니터링 시스템
을 갖추거나 다른 방식의 위험관리 체계를 마련한다.

6. 생성 콘텐츠의 건전한 유통·배포를 위한 노력
가. 서비스 제공자는 이용자가 생성형 인공지능 서비스를 이용하여 부적절한 콘텐츠를 생성하거
나 공유하지 않도록 안내한다.
나. 서비스 제공자는 이용자의 프롬프트 입력값과 생성된 산출물이 도덕적·윤리적 기준을 준수
하는지 검토하고 관리한다.
다. 서비스 제공자는 이용자가 의도적 혹은 비의도적으로 유해한 콘텐츠를 청소년에게 유포하지
않도록 노력한다. 

 

생성형 인공지능 서비스
이용자 보호 가이드라인 실행 방식 

Ⅰ. 배경 및 필요성
생성형 인공지능을 이용하여 다양한 콘텐츠를 생성할 수 있게 되면서 비즈니스 영역에서는 새로
운 서비스를 개발하고 사용자 경험을 향상하고 있습니다. 이용자들은 생성형 인공지능을 검색부
터 창작까지 다양한 기능으로 활용하고 있고, 업무 효율성을 높이는데도 적극 수용하고 있습니다.
다른 한편에서는 새로운 기술의 빠른 확산 과정에서 늘 나타났던 기술의 불완전성으로 인한 이슈
들, 그리고 신규 서비스에 대한 이용자의 경험과 이해 부족에 따른 이슈들이 사회 문제로 주목받
았습니다.
이에 대한 대응으로 개발사는 인공지능 모델 개발에서 윤리 원칙 준수를 실천하고, 서비스 제공
자는 생성형 인공지능 서비스에 대한 이용 정책을 마련하거나 기존 이용 정책을 보완하며, 활용성
이 높은 대학이나 공공기관 등에서는 해당 영역별 이용자 활용 가이드라인을 개발·배포하는 등
건전한 활용 환경을 조성하는 데 노력하고 있습니다.
생성형 인공지능 이용자 보호를 위한 본 가이드라인은 그러한 노력의 하나입니다. 먼저 현 시점
에서 생성형 인공지능의 기술적 한계와 제도적 미비, 산출물이 개인과 사회에 미치는 영향 등을
고려하였습니다. 그리고 기존과는 달리 서비스 활용 과정에서 이용자와의 상호작용이 미치는 영
향도 염두에 두었습니다.
본 가이드라인을 통해서 생성형 인공지능 생태계에서 기술·서비스 특성에 따라 이용자들이 겪
을 수 있는 문제들을 상기하는 한편, 사업자들의 모범적인 처리 방안을 널리 공유하여 향후 후발
주자의 서비스 론칭을 지원하는 동시에 이용자 권익 침해 요인의 최소화와 안전한 생성형 인공지
능 서비스 안착에 기여하고자 합니다. 


Ⅱ. 목적 및 지향점
• 이 가이드라인은 생성형 인공지능 서비스 이용 과정에서 발생할 수 있는 잠재적 위험들을 사전
에 방지하고 이용자 권익을 보호하기 위해 개발사 및 서비스 제공자 등이 염두에 두어야 할 실천
방안을 제시합니다.
• 안전하고 신뢰할 수 있는 생성형 인공지능 서비스 이용 환경을 마련함으로써 이용자의 권익을
보장하고, 생성형 인공지능의 올바른 사용으로 얻을 수 있는 혜택을 모든 사회구성원이 고루 누
릴 수 있도록 하는 것을 추구합니다. 

(이하생략)

 

 

모두 85쪽짜리 문서입니다.

각 항목에 대해 예시가 들어가있기도 하고, 

분량의 절반 이상이 실행사례 부록입니다.