EU AI Act 투명성 의무가 시작됐다: AI 생성 콘텐츠 ‘표시’ 업무를 운영 절차로 바꾸는 법

AI 콘텐츠 표시는 문구 하나를 붙이는 일이 아닙니다. 콘텐츠 분류, 생성 이력, 표시 방식, 배포 전 검수 기록을 연결하는 운영 체계에 가깝습니다.

들어가며 — 독자가 지금 이 문제를 검색하는 이유

생성형 AI로 만든 이미지, 영상, 음성, 텍스트를 외부에 배포하는 일이 늘면서 “AI로 만들었다고 어디까지 표시해야 하는가?”라는 질문도 커지고 있습니다.

이 문제를 콘텐츠 하단에 안내 문구를 붙이는 일로만 처리하기는 어렵습니다. 어떤 콘텐츠가 AI 생성 또는 변형에 해당하는지, 누가 생성·편집 이력을 남기는지, 사람이 최종 편집한 결과물은 어떻게 다룰지, 배포 전에는 무엇을 확인할지 정해두지 않으면 표시 정책은 일관되게 작동하기 어렵습니다.

EU 집행위원회는 AI Act의 Article 50 투명성 의무가 2026년 8월 2일부터 적용된다고 안내하고 있으며, 2026년 8월에는 관련 가이드라인을 게시했습니다. 이 가이드라인은 기계판독 가능한 표시와 딥페이크 등 투명성 의무의 적용 범위를 설명합니다.

다만 한국 기업이나 국내 서비스에 이 의무가 직접 적용되는지는 제공 지역, 조직의 역할, 서비스 유형 등에 따라 달라질 수 있으므로 개별 검토가 필요합니다.

AI 표시 정책의 출발점은 “문구”가 아니라 콘텐츠 분류입니다

외부 배포물을 모두 같은 방식으로 처리하면 불필요한 표시가 늘거나, 반대로 중요한 콘텐츠가 검수에서 빠질 수 있습니다. 먼저 조직이 배포하는 콘텐츠를 실제 업무 흐름에 맞춰 분류해야 합니다.

예를 들어 다음 질문에 답할 수 있어야 합니다.

• 이 콘텐츠는 AI가 생성했는가, 기존 자료를 AI로 변형했는가?
• 이미지·영상·음성·텍스트 가운데 어떤 형식인가?
• 외부 공개용인가, 내부 검토용인가?
• AI 결과물을 사람이 편집·검토하고 최종 책임을 지는가?
• 배포 과정에서 기계판독 가능한 표시가 필요한 유형인지 확인했는가?
• 콘텐츠가 사람이나 사건을 실제처럼 보이게 하는 합성·변형 결과물에 해당할 가능성이 있는가?

EU 집행위원회의 Article 50 가이드라인은 AI 생성·조작 콘텐츠의 투명성 문제를 다루며, 특히 기계가 읽을 수 있는 방식의 표시와 딥페이크 관련 투명성 의무를 설명합니다. 실무에서는 “AI를 썼는가?”만 기록하기보다 콘텐츠 유형과 배포 맥락을 함께 남기는 편이 낫습니다.

중요한 질문은 “AI를 썼는가?”보다 “누가 어떤 방식으로 만든 콘텐츠를 어디에 배포하는가?”입니다.

출처: EU 집행위원회 — Article 50 투명성 가이드라인

생성·편집 이력은 배포 전 검수의 근거가 됩니다

AI 콘텐츠 표시를 운영 절차로 만들려면, 게시 직전에 기억에 의존해 판단해서는 안 됩니다. 콘텐츠를 만드는 단계에서 최소한의 이력을 남기고, 배포 단계에서 이를 확인하는 구조가 필요합니다.

실무용 기록 항목은 다음처럼 간단하게 시작할 수 있습니다.

기록 항목	확인할 내용
콘텐츠 식별 정보	제목, 파일명, 게시 예정 채널
콘텐츠 유형	텍스트, 이미지, 영상, 음성, 복합 콘텐츠
AI 사용 방식	생성, 요약, 편집, 변형, 번역 등
사용 도구 및 시점	사용한 AI 도구와 작업 일시
사람의 검토 여부	검토자, 검토 범위, 최종 편집 책임자
외부 배포 여부	공개 웹, 소셜미디어, 광고, 고객 자료 등
표시 방식	화면상 고지, 메타데이터, 기계판독 가능한 표시 등
검수 결과	배포 가능, 수정 필요, 법무·정책 검토 필요

이 표의 목적은 모든 제작 과정을 감시하는 데 있지 않습니다. 배포 담당자가 “이 결과물에 어떤 표시와 검토가 필요한가?”를 판단할 수 있도록 최소한의 근거를 남기는 데 있습니다.

특히 콘텐츠 제작자와 게시자가 다른 조직에서는 이력이 없을 때 누락이 생기기 쉽습니다. 제작자는 AI 사용 사실을 남기고, 편집자 또는 게시 담당자는 표시 방식과 배포 가능 여부를 확인하는 식으로 역할을 나눌 필요가 있습니다.

표시 방식은 콘텐츠와 배포 채널에 맞춰 결정해야 합니다

AI 콘텐츠 표시에서는 사람이 보는 안내와 시스템이 처리할 수 있는 정보가 함께 고려될 수 있습니다. EU 집행위원회는 Article 50 가이드라인에서 기계판독 가능한 표시를 다루고 있습니다. 화면 문구만으로 충분한지, 파일·메타데이터·배포 시스템 수준의 처리가 필요한지는 콘텐츠 유형과 적용 가능 범위를 기준으로 검토해야 합니다.

운영 단계에서는 다음 기준을 둘 수 있습니다.

1. 콘텐츠가 AI 생성 또는 조작 결과물인지 확인합니다.

제작 이력과 원본 파일을 바탕으로 AI 사용 방식을 확인합니다.

2. 배포 대상과 채널을 확인합니다.

공개 웹페이지, 소셜미디어, 광고 소재, 고객 제출 자료 등 배포 맥락에 따라 검수 기준을 나눕니다.

3. 사람이 인지할 표시 방식을 정합니다.

독자가 콘텐츠의 생성·변형 사실을 오해할 가능성이 있는지 검토합니다.

4. 기계판독 가능한 표시가 필요한지 검토합니다.

기술적 표시 방식과 실제 배포 채널의 지원 여부는 별도로 확인해야 합니다.

5. 판단 근거와 검수 결과를 남깁니다.

게시 후 문제가 제기됐을 때 “표시했는가”뿐 아니라 “어떤 기준으로 표시 여부를 판단했는가”도 설명할 수 있어야 합니다.

법적 의무의 적용 여부를 내부 체크리스트만으로 확정할 수는 없습니다. EU 외 지역에서 운영하는 조직, EU 이용자에게 서비스를 제공하는 조직, 콘텐츠 생성 도구 제공자와 콘텐츠 배포자처럼 역할이 나뉜 조직은 각각 적용 범위가 달라질 수 있습니다. 법률 자문이나 규제 담당 검토가 필요한 사안은 별도 경로로 분류하는 편이 안전합니다.

출처: EU 집행위원회 — AI Act 규제 체계 및 적용 일정

바로 적용하는 AI 콘텐츠 배포 전 체크리스트

• [ ] 이 콘텐츠가 AI 생성 또는 AI 변형 결과물인지 제작 이력으로 확인했는가?
• [ ] 콘텐츠 유형과 외부 배포 채널을 분류했는가?
• [ ] 사람의 편집·검토 범위와 최종 책임자를 기록했는가?
• [ ] 독자가 오해할 가능성이 있는 합성·변형 콘텐츠인지 검토했는가?
• [ ] 화면상 안내가 필요한지 판단했는가?
• [ ] 기계판독 가능한 표시의 적용 필요성과 기술적 가능성을 확인했는가?
• [ ] 표시 여부를 판단한 근거와 검수 결과를 남겼는가?
• [ ] EU AI Act 적용 여부 또는 국내 규제 대응이 불명확한 경우, 법무·정책 담당 검토로 분류했는가?

마무리

AI 콘텐츠 투명성은 “AI 사용 사실을 밝혔는가”라는 한 가지 질문으로 끝나지 않습니다. 조직이 어떤 콘텐츠를 만들고, 어떤 이력을 남기며, 누가 배포 전 판단을 내릴지를 정하는 운영 문제입니다.

Article 50의 적용 일정과 가이드라인을 보면, 이 문제를 홍보 문구 차원의 선택지로만 보기는 어렵습니다. 필요한 것은 모든 콘텐츠에 같은 고지를 붙이는 정책이 아니라, 콘텐츠 유형별로 생성 이력과 표시·검수 책임을 연결하는 절차입니다.

생각해볼 질문: 우리 조직은 AI 콘텐츠의 “표시 문구”는 갖고 있지만, 그 문구를 적용해야 한다고 판단할 수 있는 생성·편집 이력도 함께 갖고 있을까요?