생성형 AI 기술의 발전으로 텍스트, 이미지, 영상 등 다양한 콘텐츠 제작이 쉬워진 가운데, 이에 따른 책임과 투명성을 요구하는 목소리가 커지고 있다. 최근 정부의 법적 규제와 글로벌 플랫폼들의 정책이 동시에 강화되면서, AI 생성물을 활용하는 기업과 크리에이터들의 주의가 요구된다.

우선 1월 22일 국내에서 시행된 '인공지능 기본법(AI 기본법)'에 따르면, 앞으로 생성형 AI를 활용해 만든 결과물에는 사용자가 이를 식별할 수 있도록 'AI로 생성됨'이라는 표기를 의무적으로 남겨야 한다. 적용 대상은 AI 기술을 제공하는 사업자 뿐만 아니라, 영리 목적으로 서비스를 운영하거나 콘텐츠를 게시하는 모든 경우가 포함된다.

공정거래위원회 소관의 '표시광고법' 또한 엄격한 잣대를 적용한다. 쇼핑몰이나 광고 등에서 실제 상품이 아닌 AI로 생성된 이미지를 사용하면서 이를 밝히지 않을 경우, 소비자를 속이는 '기만적인 표시·광고'로 간주되어 과태료 등의 제재를 받을 수 있다. 예를 들어, 의류 쇼핑몰에서 실제 모델이 착용한 핏이 아님에도 AI를 통해 가상의 모델 핏을 생성하고 이를 명시하지 않는다면 법적 처벌 대상이 될 수 있다.

법적 규제와 별도로 주요 소셜 미디어 플랫폼들도 자체적인 강제 규정을 운영 중이다. 이를 어길 경우 콘텐츠가 삭제되거나 계정 이용에 제재를 받을 수 있어 각별한 주의가 필요하다.

유튜브는 실제 사람, 장소, 사건 등 현실적으로 보이는 콘텐츠를 AI로 생성하거나 변형했을 경우, 업로드 시 'AI로 생성 또는 변형된 콘텐츠' 옵션을 반드시 체크하도록 하고 있다. 창작자가 이 옵션을 선택하면 영상 설명란이나 플레이어 상단에 '합성 또는 조작된 콘텐츠'라는 라벨이 자동으로 부착된다.

인스타그램 역시 AI로 생성된 사실적인 이미지나 비디오에 'AI Info' 또는 'Made with AI' 라벨을 부착하도록 규정하고 있다. 특히 이미지 파일 정보(메타데이터)에 AI 생성 정보가 남아있을 경우, 시스템이 이를 감지해 자동으로 라벨을 붙이기도 한다.

그렇다면 AI 생성물은 어떻게 표기해야 할까? 현재 명확한 디자인 규격이 정해진 것은 아니지만, 핵심은 '소비자가 AI 생성물임을 쉽게 인지할 수 있어야 한다'는 점이다.

가장 권장되는 방식은 ▲텍스트 명시 ▲워터마크 삽입 ▲플랫폼 기능 활용이다. 게시물 하단이나 설명란에 '이 이미지는 AI로 생성되었습니다' 혹은 'AI 모델 적용 이미지입니다'라고 명확히 글귀를 적거나, 이미지 구석에 AI 생성물임을 알리는 로고나 텍스트(워터마크)를 삽입하는 것이 좋다. 아울러 인스타그램이나 유튜브 업로드 시 제공되는 'AI 생성물 표시' 기능을 활성화하는 것이 플랫폼 정책을 준수하는 가장 확실한 방법이다.