콘텐츠 필터는 무엇이고 왜 차단되나요?
검사 단계와 차단 사유를 이해하고 표시된 사유에 맞춰 대응하세요.
1. 콘텐츠 필터는 어느 단계에서 작동하나요?
콘텐츠 필터는 모델 공급사가 안전·권리 관련 기준에 따라 입력이나 결과를 검사하는 장치입니다. 하나의 검사만 있는 것이 아니라 생성 전후에 여러 단계의 검사(레이어)가 적용될 수 있습니다.
아래는 이해를 돕기 위한 일반적인 흐름입니다. 기업·모델·제공 경로마다 검사 대상, 기준, 순서와 공개되는 사유가 다르며 모든 모델이 같은 구조를 사용하는 것은 아닙니다.
지시문·참고 자료 → 입력 검사 → AI 생성 → 결과 검사 → 결과 제공
| 단계 | 무엇을 확인하나요? | 사용자에게 보일 수 있는 상황 |
|---|---|---|
| 생성 전: 지시문 검사 | 요청 내용이 공급사의 안전·권리 기준에 맞는지 확인 | 생성 시작 전 지시문 제한 안내 |
| 생성 전: 참고 자료 검사 | 입력한 이미지·영상 등 지원되는 자료의 내용 확인 | 특정 참고 자료 때문에 진행 제한 |
| 생성 후: 결과 검사 | 만들어진 이미지·영상, 모델에 따라 함께 생성된 오디오 확인 | 생성에 시간이 걸렸어도 결과 제공 제한 |
입력 검사를 통과해도 생성된 장면이나 소리가 결과 검사에서 제한될 수 있습니다. 생성 결과가 달라지면 결과 검사에서 검토하는 내용도 달라질 수 있어요. 필터의 강도나 민감도를 낮춰 검사를 피할 수는 없습니다.
2. Seedance에서는 이런 경우에 차단돼요
Seedance는 차단 사유를 저작권, 실존 인물, 민감한 콘텐츠 세 가지로 구분해 알려 줍니다. 아래는 공급사 BytePlus가 공개한 오류 기준을 정리한 것입니다. BytePlus ModelArk 오류 코드
2.1 저작권
| 어디에서 걸렸나요? | 이런 경우에 생길 수 있어요 | 이렇게 해 보세요 |
|---|---|---|
| 입력한 설명 | 특정 작품·캐릭터·곡명이나 가사를 직접 언급 | 고유한 이름 대신 원하는 분위기·외형·동작을 설명 |
| 참고 이미지·영상·오디오 | 영화·애니메이션·뮤직비디오 장면, 상업 음원 등 권리가 있는 자료를 첨부 | 직접 만들었거나 사용 권한이 있는 자료로 교체 |
| 생성된 영상 | 입력은 통과했지만 결과 장면이 기존 작품과 비슷하게 만들어짐 | 입력 자료와 설명을 바꿔 다시 생성 |
| 생성된 오디오 | 자동으로 만들어진 배경음악·소리가 기존 음원과 비슷함 | 소리 생성을 끄고 다시 생성하거나 오디오 차단 대응 확인 |
2.2 실존 인물
참고 이미지·영상에 실존 인물로 보이는 얼굴이 있으면 입력 단계에서 거절될 수 있어요. 본인 사진이라도 같은 기준이 적용될 수 있습니다. 실존 인물 대신 직접 만든 캐릭터 이미지를 사용해 보세요.
2.3 민감한 콘텐츠 (선정성·폭력성 등)
설명·참고 자료·생성 결과에 선정적이거나 폭력적인 표현 등 공급사 이용 정책상 민감한 내용이 있다고 판단되면 차단돼요. 생성 결과에서는 영상과 오디오가 각각 검사됩니다. Seedance는 이 사유를 선정성·폭력성 등으로 더 나눠 알려 주지 않으므로 ZCRE에서도 어떤 장면이 원인인지 정확히 확인하기 어렵습니다. 노출, 신체 훼손, 무기 사용처럼 오해받기 쉬운 표현을 줄이거나 완곡하게 바꿔 보세요.
2.4 참고하세요
- ZCRE에서 확인된 Seedance 차단은 대부분 생성이 끝난 뒤 결과 검사에서 발생했어요. 같은 설정이어도 결과가 매번 달라 차단 여부도 달라질 수 있습니다.
- ZCRE 화면은 입력 설명·참고 자료·생성 영상·생성 오디오 중 어디에서 걸렸는지를 알려 드리지만, 위 세 가지 사유를 모두 구분해 표시하지는 않을 수 있어요.
- 생성된 오디오만 차단됐다면 화면의 소리 없이 다시 시도를 이용할 수 있어요. 결과 없이 차단된 생성의 크레딧은 차감되지 않습니다.
- 차단 사유 표현과 기준은 공급사 정책에 따라 바뀔 수 있습니다.
3. 오탐이란?
허용 가능한 자료가 위험한 것으로 잘못 분류되는 경우를 오탐이라고 합니다. 의도하지 않은 요소가 결과에 만들어져 차단되는 경우도 있어요.
3.1 영상은 일부 장면만 검사할 수 있어요
생성된 영상을 검사할 때는 영상 전체를 처음부터 끝까지 이어서 보는 대신, 일부 장면(키 프레임)을 뽑아 검사하는 경우가 많습니다. 아래처럼 뽑힌 장면만 확인하기 때문에 앞뒤 맥락을 보지 못한 채 한 장면으로 판단하게 돼요.
영상 12장면 중 3장면만 검사하는 예시
그래서 영상 전체로 보면 문제가 없는 장면도 차단될 수 있습니다. 예를 들어 요리 영상에서 칼을 드는 한 장면이 폭력적인 장면으로 분류될 수 있어요.
3.2 이런 경우에도 오탐이 생길 수 있어요
- 직접 만든 캐릭터가 유명인과 닮은 경우: 실존 인물이 아니어도 유명인이나 실존 인물로 판단될 수 있어요.
- 아이가 곤란을 겪는 장면: 아이가 울거나 다치는 등 곤란한 상황에 놓인 장면은 아동 학대와 관련된 엄격한 기준이 적용돼 차단될 수 있어요.
- 자동으로 만들어진 음악: 새로 생성된 배경음악이 기존 곡과 비슷하다고 판단될 수 있어요.
다만 차단 이유가 이해되지 않는다는 것만으로 오탐이 확정되지는 않아요. 표시된 사유와 자료를 함께 검토해야 합니다.
4. 오탐으로 보일 때 ZCRE 팀의 대응
ZCRE 팀은 오탐으로 보이는 사례를 모아 공급사와 기준을 논의합니다. 다만 공급사의 검사 기준이 바뀌려면 시간이 걸려, 특정 자료가 단기간에 허용되지는 않아요. 같은 자료로 다시 시도하기보다 다른 자료(에셋)로 바꿔 시도해 보세요.
5. 상황별 다음 행동
- 입력 자료 제한: 표시된 자료의 내용과 사용 권한을 확인하고 적합한 자료로 수정합니다.
- 결과 오디오 제한: 오디오 차단 대응을 확인합니다.
- 원인이 불분명함: 제공되는 경우 IP 검사·정밀검사를 활용합니다.
- 정상적인 사용으로 보이는데 반복됨: 같은 자료로 다시 시도하기보다 다른 자료로 바꿔 시도합니다.