한눈에 보는 핵심 5가지
- EU가 AI 생성 콘텐츠 투명성 행동강령(Code of Practice on Transparency of AI-generated Content)을 마련했어요. AI로 만들거나 조작한 콘텐츠에 표시를 붙이는 게 이제 선택이 아닌 의무로 굳어지고 있어요.
- EU AI법(AI Act)의 투명성 관련 규정은 법적 구속력이 있어요. 행동강령 자체는 자율 참여지만, 그 기반이 되는 규정은 지키지 않으면 법적 책임이 생겨요.
- AI 시스템 제공자는 생성한 콘텐츠에 기계가 읽을 수 있는 표시(machine-readable markers)를 넣고, 소비자에게 AI 사용 여부를 알리는 아이콘을 제공해야 해요.
- 딥페이크처럼 실제 촬영물로 오인할 수 있는 AI 합성 영상·이미지·음성은 그 사실을 명확하게 밝혀야 해요.
- Experian Marketing Services의 고객 참여 담당 디렉터 데비 오츠(Debbie Oates)는 AI 거버넌스가 제대로 작동하려면 신뢰할 수 있는 고품질 데이터가 뒷받침돼야 한다고 강조했어요.
AI로 광고를 만드는 건 이제 흔한 일이에요. 이미지 한 장을 만드는 데 몇 분, 영상 스크립트를 다듬는 데 10분이면 충분해졌으니까요. 그런데 EU가 최근 내놓은 새 기준은 만들 수 있느냐가 아니라, 어떻게 만들었는지 소비자에게 알릴 수 있느냐를 묻기 시작했어요.
EU가 AI 콘텐츠에 투명성을 요구하기 시작한 이유
EU AI법(AI Act)은 생성형 AI로 만든 콘텐츠에 투명성 표시 의무를 부과해요. 이 의무는 법적 구속력이 있어요.
EU는 최근 AI 생성 콘텐츠 투명성 행동강령을 공개했어요. AI법의 투명성 관련 조항을 기업이 실제로 적용하는 방법을 안내하기 위한 문서예요.
행동강령 자체에 자율 참여한다는 게 아무 의무도 없다는 뜻은 아니에요. 행동강령의 토대가 되는 EU AI법의 투명성 규정은 법적 구속력을 가지고 있어요. 다시 말해, 행동강령에 서명하지 않더라도 AI법이 정한 투명성 의무는 지켜야 해요.
이 흐름은 지금까지 광고·마케팅 업계가 생성형 AI를 도입한 방식과 충돌하는 부분이 있어요. 대부분의 기업이 AI를 어떻게 쓸까 고민했지만, AI를 썼다는 걸 어떻게 알릴까는 크게 신경 쓰지 않았거든요.
광고 콘텐츠에 어떤 표시가 필요한가
AI로 만든 콘텐츠에는 기계가 읽을 수 있는 표시와 소비자에게 보이는 아이콘을 함께 붙여야 해요.
행동강령이 제시하는 기술적 기준 중 하나는 기계가 인식할 수 있는 표시(machine-readable markers)예요. 사람 눈에는 보이지 않지만, AI 감지 시스템이나 플랫폼이 자동으로 읽어낼 수 있는 메타데이터를 이미지·영상·음성 파일에 심어두는 방식이에요. 콘텐츠를 배포할 때 이 표시가 함께 따라다니게 돼요.
소비자에게 직접 보여주는 방식도 있어요. AI 사용 여부를 알리는 아이콘을 콘텐츠 옆에 붙이는 거예요. 인스타그램이나 유튜브 같은 플랫폼에서 이미 도입하고 있는 AI 생성 표시가 이런 방향을 가리켜요.
특히 주목할 부분은 딥페이크 관련 규정이에요. 딥페이크는 AI로 특정 사람의 얼굴이나 목소리를 합성한 영상·이미지를 말해요. 실제 촬영한 것처럼 보이게 만들 수 있어서, 소비자가 사실과 AI 생성물을 구별하기 어렵죠. EU는 이런 콘텐츠에 대해 AI로 만들었다는 사실을 명확히 표시하도록 요구하고 있어요.
여기서 광고업계가 집중해야 할 대목이 생겨요. 유명인 모델의 이미지를 AI로 수정하거나, 실제 배우 목소리를 AI로 재현한 광고 나레이션은 딥페이크 규정 범위에 걸릴 수 있어요. 제작 단계에서부터 어느 정도가 AI로 만들어졌는지를 기록해두는 게 필요해진 거예요.
브랜드가 내부 검토 체계를 갖춰야 하는 이유
AI가 콘텐츠를 만들어도, 사람이 최종 검토하고 책임지는 체계를 갖추는 것이 규제 대응의 핵심이에요.
EU 기준은 AI 사용 자체를 막지 않아요. 대신, AI가 결과물을 만드는 경우와 사람이 AI의 결과물을 검토하고 편집해 내놓는 경우를 다르게 봐요. 사람이 최종 콘텐츠를 검토하고 게시 여부를 판단하는 과정이 있는지가 중요해졌어요.
브랜드 입장에서 이 기준을 충족하려면 내부 검토 체계가 필요해요. AI가 광고 카피를 만들어도, 누가 검토했고 어느 단계에서 최종 승인이 났는지를 추적할 수 있어야 해요. 생성부터 배포까지 완전히 자동화된 파이프라인은 이 요건에서 까다로운 상황에 놓일 수 있어요.
데이터 품질이 AI 마케팅 규제 대응의 출발점인 이유
AI가 사용하는 데이터의 출처와 정확성을 기업이 직접 확인할 수 있어야 규제 대응이 가능해요.
Experian Marketing Services의 고객 참여 담당 디렉터 데비 오츠(Debbie Oates)는 AI가 마케팅 전반에 확산되면서 규제가 거버넌스와 투명성, 책임성을 더욱 중요하게 보고 있다고 설명했어요. 그는 이 원칙이 제대로 작동하려면 신뢰할 수 있는 고품질 데이터가 뒷받침돼야 한다고 강조했어요.
AI가 타기팅과 개인화에 활용될 때, AI가 판단의 근거로 쓰는 데이터가 어디서 왔고 얼마나 정확한지를 기업이 직접 확인할 수 있어야 한다는 거예요. 기업이 데이터의 출처와 수집 과정을 파악하고, AI가 실제 소비자 정보가 아닌 추측이나 부정확한 정보를 바탕으로 판단하지 않도록 관리해야 한다는 뜻이에요.
데이터의 품질이 낮으면 AI를 도입하더라도 두 가지 문제가 동시에 생겨요. 소비자 경험이나 마케팅 성과를 개선하기 어려워지고, 책임 있는 AI 활용이라는 규제 요구에도 제대로 대응하기 어려워져요. 규제 이전에, 마케터 스스로를 위해서도 데이터 품질 점검이 필요한 이유예요.
자주 묻는 질문
Q. EU AI법이 한국 브랜드에도 영향을 미치나요?
A. EU 내 소비자를 대상으로 광고나 서비스를 내보내는 경우라면 적용 대상이 될 수 있어요. 한국에 본사가 있어도 유럽 시장에서 접근 가능한 광고를 집행한다면 EU AI법의 투명성 규정을 고려해야 해요.
Q. AI로 배경만 바꾼 이미지도 표시 대상인가요?
A. EU 행동강령은 AI가 생성하거나 조작한 콘텐츠 모두를 표시 대상으로 봐요. 원본 사진 위에 AI로 배경을 교체하거나 일부를 수정한 경우도 포함될 수 있어요. 기준이 정립되는 단계라, 플랫폼과 기업 모두 구체적인 가이드라인이 나오는 대로 확인이 필요해요.
Q. AI 사용을 밝히면 광고 효과가 떨어지지 않을까요?
A. 단기적으로 걱정이 생길 수 있어요. 하지만 투명하게 밝히지 않다가 나중에 알려지는 것보다, 처음부터 공개하는 브랜드가 소비자 신뢰를 장기적으로 쌓는 데 유리해요. 소비자가 AI 사용을 인식하고도 브랜드를 선택한다면 그 신뢰는 더 단단한 거예요.
Q. 생성형 AI를 쓰는 에이전시도 이 기준을 지켜야 하나요?
A. 에이전시 역시 클라이언트 브랜드와 함께 책임을 나누는 구조예요. AI가 어디에 쓰였는지, 최종 검토를 누가 했는지를 클라이언트와 투명하게 공유하고 문서화하는 관행이 필요해질 거예요. 광고 제작 계약서나 크리에이티브 브리프에 AI 활용 범위를 명시하는 방향으로 업계 관행이 바뀌어 갈 수 있어요.
지금 당장 시작할 수 있는 것
EU의 움직임은 AI 마케팅의 기준점이 만들 수 있느냐에서 어떻게 만들었는지 설명할 수 있느냐로 이동했음을 보여줘요.
AI가 어디에 쓰였는지 소비자가 알 수 있도록 하고, 사람이 최종 판단과 책임을 맡으며, 그 과정에 사용되는 데이터를 제대로 관리하는 것까지 AI 활용의 일부가 됐어요. 규제가 구체화될수록 이 투명성이 소비자 신뢰와 연결되는 기준이 될 거예요.
지금 당장 할 수 있는 첫걸음은 간단해요. 우리 팀이 AI를 사용해 광고를 만드는 과정에서 누가, 어느 단계에서, 무엇을 검토했는지를 기록해두는 거예요. 규제보다 앞서 체계를 만드는 브랜드가 유리한 위치에 서게 될 거예요.
