EU AI법 제50조 해설

EU의 AI 투명성 규칙이 당신의 Mac에 있는 파일에 어떤 의미인지 — 그리고 그 표식을 직접 확인하는 방법.

2026년 8월 2일부터 유럽연합의 AI법은 AI로 생성된 콘텐츠를 식별할 수 있도록 요구합니다. 이미지 모서리에 보이는 스탬프가 아니라, 파일 자체에 삽입된 기계 판독 가능한 표식을 통해서입니다. 당신이 이미 사용하는 많은 AI 도구는 수년간 이러한 표식을 조용히 추가해 왔습니다. 이 페이지는 법이 무엇을 말하는지, 표식이 어떻게 생겼는지, 그리고 그것이 무엇을 증명할 수 있고 없는지를 설명합니다.

제50조가 실제로 말하는 것

AI법(규정 (EU) 2024/1689) 제50조는 네 가지 투명성 의무를 규정합니다:

사람과 대화하는 AI 시스템은 맥락상 명백하지 않은 한, 당신이 AI와 상호작용하고 있음을 분명히 해야 합니다.
생성형 AI 제공자 — 합성 오디오, 이미지, 동영상 또는 텍스트를 생성하는 시스템 — 는 출력물이 기계 판독 가능한 형식으로 표시되고 인공적으로 생성 또는 조작되었음을 탐지할 수 있도록 해야 합니다.
감정 인식 및 생체 분류 시스템은 이에 노출된 사람에게 알릴 것을 요구합니다.
딥페이크는 인공적으로 생성 또는 조작되었음을 공개해야 하며, 명백히 예술적, 창작적 또는 풍자적인 작품에는 더 완화된 규칙이 적용됩니다.

당신의 디스크에 있는 파일에 미치는 의무는 두 번째입니다. 이는 AI 도구를 만드는 기업을 겨냥하며, 실질적인 결과는 단순합니다: 주요 생성기에서 나오는 이미지는 삽입된 출처 데이터를 지니고 있습니다. 제50조는 또한 EU AI 사무국에 제공자가 표시를 구현하는 방식을 표준화하는 행동 강령을 촉진하도록 임무를 부여합니다.

주요 일자

2024년 8월 1일 — AI법이 발효되었습니다.
2026년 8월 2일 — 제50조의 투명성 의무가 적용됩니다.

C2PA: 대형 도구들이 사용하는 표시 표준

가장 확립된 표시 기술은 C2PA로, Adobe, Microsoft, Intel, BBC 등이 설립한 산업 단체인 Coalition for Content Provenance and Authenticity의 개방형 표준입니다. 사용자에게 보이는 이름은 Content Credentials입니다.

C2PA 표식은 JUMBF라는 컨테이너 형식으로 파일 안에 삽입된, 암호학적으로 서명된 매니페스트입니다. 매니페스트는 어떤 도구가 이미지를 만들었는지, 언제, AI가 관여했는지, 그리고 어떤 편집이 뒤따랐는지를 기록할 수 있습니다. 매니페스트가 서명되어 있기 때문에 변조를 탐지할 수 있으며 — 파일 안에 함께 이동하므로 완전히 오프라인으로 읽을 수 있습니다. 데이터베이스 조회도, 업로드도 없습니다.

출력물에 Content Credentials를 삽입하는 도구로는 ChatGPT의 이미지 생성(OpenAI), Adobe Firefly, Microsoft의 Bing Image Creator 및 Designer, 그리고 Google의 이미지 모델이 있습니다. 이들로 이미지를 생성한 적이 있다면, 표식은 이미 당신의 파일 안에 있을 가능성이 매우 높습니다.

C2PA를 넘어: AI 도구가 남기는 다른 흔적

C2PA가 유일한 표식은 아닙니다. 이미지 파일에는 더 오래된 표준화된 메타데이터 필드가 있으며, AI 도구도 이를 사용합니다:

IPTC Digital Source Type. 이미지가 어떻게 만들어졌는지에 대한 통제된 어휘를 가진 표준 메타데이터 필드입니다. trainedAlgorithmicMedia 및 algorithmicMedia 값은 이미지가 AI로 만들어졌음을 의미하며(“Created using Generative AI”가 공식 라벨입니다), compositeWithTrainedAlgorithmicMedia 및 compositeSynthetic 값은 AI로 편집 또는 합성되었음을 의미합니다(“Edited using Generative AI”). 이는 Meta와 Google 생태계에서 선호되는 방식입니다.
생성기 서명. 많은 도구가 자신의 이름이나 생성 매개변수를 파일에 기록합니다 — 소프트웨어 태그, 주석 필드 또는 PNG의 텍스트 청크에.

도구마다 서로 다른 흔적을 남깁니다. 어떤 것은 완전히 서명된 매니페스트를 삽입하고, 어떤 것은 단일 메타데이터 필드를 기록하며, 어떤 것은 둘 다 합니다.

내 AI 이미지에 직접 라벨을 붙여야 하나요?

일반적으로는 아닙니다. AI법은 그 의무를 AI 시스템 제공자와 이를 배치하는 조직에 부과하며 — 순전히 개인적이고 비직업적인 용도로 AI를 사용하는 개인에게는 명시적으로 적용되지 않습니다(제2조). 개인적 용도로 AI 이미지를 만든다면, 표시 의무는 당신이 아니라 도구에 있습니다. 직업적 및 상업적 사용은 별개의 문제이며, 법 위에 플랫폼 규칙이 추가로 적용될 수 있습니다. 이 페이지는 일반적인 정보이며 법률 자문이 아닙니다.

반대 측면도 알아둘 가치가 있습니다: 도구가 출력물을 자동으로 표시하기 때문에, 당신의 AI 이미지는 의도했든 아니든 이미 라벨이 붙어 있을 수 있습니다.

표식이 증명할 수 있는 것과 없는 것

여기서는 정직함이 중요합니다. 파일 안의 표식은 AI가 관여했다는 강력한 증거입니다. 표식의 부재는 아무것도 증명하지 않습니다: 메타데이터는 제거될 수 있고, 다시 저장하거나 스크린샷을 찍으면 사라지며, 어떤 생성기는 표식을 전혀 추가하지 않습니다. 출처 데이터는 파일이 스스로에 대해 무엇을 선언하는지 알려줍니다. 그것은 정말 유용하지만 — 확정적인 AI 판별과 같지는 않습니다.

직접 파일을 확인하세요 — 로컬에서

Privacy Scanner는 이러한 표식을 당신의 Mac에서 읽습니다: 이미지에서 C2PA Content Credentials와 AI 관련 메타데이터를 확인하고, 어떤 유형의 표식을 찾았는지 정확히 보여줍니다. 스캔은 무료이며, 어떤 것도 기기를 벗어나지 않습니다 — 업로드도, 계정도, 네트워크 접근도 전혀 없습니다.

출처: 규정 (EU) 2024/1689, 제50조 및 제2조 (EUR-Lex) · C2PA 사양 (c2pa.org) · IPTC Digital Source Type 어휘 (iptc.org)