AI기본법 시행 — 생성형 AI 결과물, ‘AI가 만들었다’ 표시해야
AI기본법 시행 — 생성형 AI 결과물, ‘AI가 만들었다’ 표시해야
- 정식 명칭은 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법’(AI기본법)으로, 2026년 1월 22일 시행됐습니다.
- AI사업자는 고영향·생성형 AI 기반 서비스를 제공할 때, 그 사실을 이용자에게 사전 고지해야 합니다(제31조 제1항).
- 생성형 AI가 만든 결과물은 AI로 생성됐음을 표시해야 합니다(제31조 제2항).
- 생명·신체·기본권에 큰 영향을 주는 ‘고영향 AI’는 안전성·신뢰성 확보와 영향평가 등 책무가 따릅니다(제33~35조).
AI가 만든 이미지·글·영상이 넘쳐나면서, “이게 사람이 만든 건지 AI가 만든 건지” 구분이 어려워졌습니다. 우리나라 첫 인공지능 규율 법인 AI기본법이 여기에 규칙을 세웠습니다. 일반 이용자 관점에서 정리했습니다.
첫 AI 규율 기본법
이 법은 인공지능의 건전한 발전과 신뢰 기반 조성을 통해 국민의 권익과 존엄성을 보호하는 것을 목적으로 합니다(제1조). 산업 진흥과 함께 이용자 보호·안전 장치를 담은 것이 특징입니다.
언제부터 — 2026년 1월 22일
AI기본법은 2026년 1월 22일부터 시행되고 있습니다. 세부 사항 중 상당수는 대통령령(시행령)으로 구체화됩니다.
투명성 의무 — AI 쓰면 알려야 (제31조 제1항)
AI사업자는 고영향 AI나 생성형 AI를 이용한 제품·서비스를 제공할 때, 그것이 해당 인공지능에 기반해 운용된다는 사실을 이용자에게 사전에 고지해야 합니다. 예컨대 AI 챗봇 상담이라면 ‘AI가 응대한다’는 점을 미리 알려야 하는 것입니다.
생성형 AI 결과물 표시 (제31조 제2항)
생성형 AI가 만든 결과물에 대해서는 AI로 생성됐다는 사실을 표시하도록 정합니다. 사람의 창작물처럼 보이는 AI 이미지·영상·글을 이용자가 식별할 수 있게 하려는 취지로, 딥페이크·가짜 콘텐츠 문제에 대응하는 성격도 있습니다.
‘고영향 AI’란 (제33조)
사람의 생명·신체의 안전이나 기본권에 중대한 영향을 미칠 수 있는 영역에 쓰이는 인공지능을 ‘고영향 AI’라고 합니다. 사업자는 자신의 AI가 고영향에 해당하는지 사전에 검토해야 하고, 필요하면 과학기술정보통신부장관에게 확인을 요청할 수 있습니다.
고영향 AI 사업자 책무·영향평가 (제34·35조)
고영향 AI를 제공하는 사업자는 안전성·신뢰성 확보를 위한 조치를 이행해야 하고(제34조), 그 제품·서비스가 사람의 기본권에 미치는 영향을 사전에 평가하도록 노력해야 합니다(제35조, 영향평가).
이용자에게 무슨 의미인가
이 법은 주로 AI사업자를 규율하지만, 이용자에게도 실익이 있습니다. 앞으로는 AI가 응대·생성한다는 사실을 고지·표시받게 되어, 정보를 더 알고 판단할 수 있습니다.
자주 묻는 질문
Q. 무엇이 바뀌나요?
AI 기반 서비스는 그 사실을 이용자에게 알려야 하고, 생성형 AI가 만든 결과물은 AI 생성임을 표시해야 합니다.
Q. 딥페이크도 규율되나요?
생성형 AI 결과물 표시 의무가 AI로 만든 이미지·영상 식별을 돕습니다. 다만 딥페이크 성범죄 등 처벌은 성폭력처벌법 등 별도 법률이 규율합니다.
Q. ‘고영향 AI’가 뭔가요?
생명·신체 안전이나 기본권에 중대한 영향을 줄 수 있는 영역의 AI로, 안전성·신뢰성 확보 조치와 영향평가 등 책무가 따릅니다.
Q. 개인 이용자도 규제받나요?
주로 AI사업자를 규율하는 법입니다. 이용자는 AI 고지·표시를 통해 더 알고 이용할 수 있게 됩니다.