AI로 글, 이미지, 음성, 영상을 만들었다는 이유만으로 모든 개인에게 동일한 워터마크가 요구되는 것은 아닙니다. 실제 의무 주체와 결과물의 성격, 제공 방식, 예외 여부를 나누어 판단해야 제재 위험을 줄일 수 있습니다.
AI 생성물 표시 의무에서 먼저 정리할 법적 쟁점
대한민국의 기준은 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」, 약칭 인공지능기본법에 마련되어 있습니다. 현재 시행 중인 법은 2026년 7월 21일부터 적용되며, 투명성 확보 의무는 제31조에 규정되어 있습니다.
제31조제1항은 “인공지능사업자는 고영향 인공지능이나 생성형 인공지능을 이용한 제품 또는 서비스를 제공하려는 경우 제품 또는 서비스가 해당 인공지능에 기반하여 운용된다는 사실을 이용자에게 사전에 고지하여야 한다”고 정합니다. (국가법령정보센터 「인공지능기본법」 제31조제1항)
법에서 말하는 생성형 인공지능은 입력 데이터의 구조와 특성을 모방해 글, 소리, 그림, 영상 등 다양한 결과물을 만드는 인공지능시스템입니다. 따라서 텍스트뿐 아니라 이미지, 음성, 영상 제작 서비스도 표시 문제와 연결될 수 있습니다.
의무의 주체는 단순히 AI 도구를 한 번 사용한 사람이 아니라 인공지능사업자입니다. 인공지능을 개발해 제공하는 사업자뿐 아니라, 제공받은 인공지능을 이용해 제품이나 서비스를 제공하는 인공지능이용사업자도 포함됩니다.
개인이 업무나 사업 과정에서 AI 결과물을 이용해 유료 콘텐츠, 광고물, 상담 서비스, 교육 자료 등을 제공한다면 구체적인 운영 형태에 따라 인공지능이용사업자에 해당할 가능성을 검토해야 합니다. 반대로 사적인 내부 사용만으로 곧바로 외부 표시 의무가 발생한다고 단정할 수는 없습니다.
핵심은 워터마크라는 특정 기술을 반드시 사용해야 하는지가 아닙니다. 법령은 이용자가 AI 활용 사실을 알 수 있도록 표시할 것을 요구하고, 시행령은 사람이 읽는 방식과 기계가 판독하는 방식을 모두 인정합니다.
따라서 화면에 문구를 표시하는 방식, 파일에 식별 정보를 넣는 방식, 안내 음성을 제공하는 방식 등을 결과물과 이용 환경에 맞게 선택할 수 있습니다. 다만 표시가 눈에 띄지 않거나 이용자가 사실을 알기 어려우면 투명성 확보 취지가 약해집니다.
성립 요건과 판단 기준
첫째로 제품이나 서비스를 제공하는 사업자인지 살펴야 합니다. AI 개발사뿐 아니라 AI를 활용해 콘텐츠, 소프트웨어, 광고, 교육, 상담 등 외부 제공물을 만드는 사업자도 법 적용 검토 대상이 될 수 있습니다.
둘째로 제공 대상이 생성형 인공지능을 이용한 제품 또는 서비스인지 확인합니다. 단순한 자동화 기능인지, 글이나 이미지처럼 새로운 결과물을 생성하는 기능인지에 따라 표시 의무의 판단이 달라질 수 있습니다.
셋째로 결과물이 실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상인지 살펴야 합니다. 이런 결과물은 이용자가 실제 자료로 오인하지 않도록 AI가 만들었다는 사실을 명확하게 인식할 수 있는 방식으로 표시해야 합니다.
사전고지는 제품 또는 서비스와 관련해 이용자가 인공지능 기반 운용 사실을 알 수 있도록 제공해야 합니다.
표시 방법은 사람이 인식할 수 있는 방식이나 기계가 판독할 수 있는 방식을 사용할 수 있습니다.
활용 사실이 명백한 경우, 내부 업무 용도로만 사용하는 경우, 과학기술정보통신부장관이 정한 경우에는 표시 의무의 전부 또는 일부가 적용되지 않을 수 있습니다. 내부 업무 용도로만 사용하는 경우도 예외에 포함되지만, 외부 이용자에게 제공하는 순간 판단이 달라질 수 있습니다.
절차 진행과 준비 자료
실무에서는 결과물을 공개하기 전에 AI 사용 범위를 먼저 기록하는 것이 좋습니다. 어떤 도구를 사용했는지, 결과물이 어느 단계에서 생성되었는지, 사람이 어느 정도 수정했는지를 내부 기록으로 남기면 판단 과정이 분명해집니다.
표시 문구는 이용자가 결과물과 함께 확인할 수 있어야 합니다. 글이라면 본문 앞이나 결과물 설명에 표시할 수 있고, 이미지나 영상이라면 화면이나 게시 설명에 표시하는 방식을 검토할 수 있습니다.
기계 판독 방식만 선택하는 경우에는 안내 문구나 음성 등을 1회 이상 제공해야 합니다. 파일 내부 정보만 남겨 일반 이용자가 알기 어려운 구조라면 시행령이 요구하는 인식 가능성을 충족하지 못할 수 있습니다.
표시를 적용할 때는 원본 파일, 생성 과정 기록, 수정 전후 파일, 게시 화면, 이용약관, 고지 문구를 함께 보관하는 것이 안전합니다. 분쟁이 생기면 최종 결과물만으로는 표시 여부와 제공 당시의 운영 방식을 설명하기 어렵기 때문입니다.
외부 플랫폼에 게시하는 경우에는 게시 시점의 화면을 저장해 두는 것이 유용합니다. 플랫폼의 자동 변환이나 압축으로 표시 정보가 사라질 수 있으므로, 업로드 전 파일과 게시 후 화면을 각각 보존하는 편이 좋습니다.
서비스를 여러 채널에서 제공한다면 채널마다 표시가 유지되는지 확인해야 합니다. 웹페이지, 모바일 화면, 내려받은 파일, 영상 재생 화면처럼 이용자가 접하는 형태가 달라지면 표시 방법도 달라질 수 있습니다.
분쟁 대응에서 유의할 부분
제31조제2항과 제3항의 표시 의무 위반은 신고나 민원의 대상이 될 수 있습니다. 과학기술정보통신부장관은 위반 혐의가 있으면 관련 자료 제출을 요구하거나 사업장과 사무소에 대한 조사를 진행할 수 있습니다.
조사 결과 위반 사실이 인정되면 해당 위반행위의 중지나 시정을 위한 조치 명령이 내려질 수 있습니다. 이때는 표시를 추가하거나 제공 방식을 고치는 등 명령의 내용에 맞춰 이행해야 합니다.
법 제43조가 직접 정한 3천만원 이하 과태료 항목에는 제31조제1항의 사전고지 위반이 포함됩니다. 반면 제31조제2항과 제3항의 단순 표시 누락은 조사와 시정명령의 대상이 될 수 있으므로, 제재 가능성이 없다고 보아서는 안 됩니다.
특히 시정명령이나 중지명령을 이행하지 않으면 3천만원 이하 과태료 대상이 될 수 있습니다. 표시 문제를 뒤늦게 발견했다면 게시물과 파일을 그대로 방치하기보다, 표시를 보완하고 조치 내역을 남기는 것이 대응에 도움이 됩니다.
분쟁이 발생하면 AI를 사용했다는 사실만 주장하거나 부인하기보다, 결과물의 생성 과정과 이용자에게 제공된 고지 내용을 함께 제시해야 합니다. 최종 파일, 게시 화면, 약관, 안내 문구의 변경 이력을 서로 맞춰 설명하는 것이 중요합니다.
표시의 적정성은 결과물의 종류와 제공 방식에 따라 달라질 수 있습니다. 같은 이미지라도 광고에 사용한 경우와 내부 검토용으로만 사용한 경우의 판단이 다를 수 있으므로, 실제 공개 범위와 이용자 접근 가능성을 중심으로 검토해야 합니다.
자주 묻는 질문 FAQ
Q1) AI로 작성한 블로그 글에도 워터마크를 붙여야 하나요?
텍스트 결과물에는 이미지처럼 눈에 보이는 워터마크만 가능한 것은 아닙니다. 사업자가 생성형 인공지능을 이용해 서비스를 제공하는 경우에는 AI 생성 사실을 이용자가 알 수 있도록 적절한 표시를 검토해야 합니다. 다만 개인의 단순 사용인지, 외부에 제품이나 서비스로 제공하는지에 따라 적용 여부가 달라집니다.
Q2) 워터마크를 지우면 바로 과태료가 부과되나요?
법 제43조의 과태료 조항은 제31조제1항의 사전고지 위반과 중지명령 또는 시정명령 불이행을 직접 대상으로 합니다. 제31조제2항과 제3항의 표시 문제는 사실조사와 시정명령으로 이어질 수 있습니다. 그 명령을 이행하지 않으면 과태료 문제가 발생할 수 있으므로 표시를 임의로 제거하는 것은 위험합니다.
Q3) 내부 업무에서 만든 AI 결과물도 표시해야 하나요?
인공지능사업자의 내부 업무 용도로만 사용되는 경우에는 표시 의무의 전부 또는 일부가 적용되지 않을 수 있습니다. 그러나 결과물을 외부 고객, 이용자, 거래처 또는 일반 대중에게 제공하면 내부 사용 예외를 그대로 적용하기 어렵습니다. 외부 제공 여부와 제공 당시의 화면, 파일, 약관을 기준으로 판단해야 합니다.
본 글은 일반적인 정보 제공 목적이며, 구체적 사안은 변호사 상담을 권장합니다.