tencent cloud

Cloud Streaming Services

문서Cloud Streaming Services기능 사례콜백 이벤트 정보 알림음란물 감지 이벤트 알림

음란물 감지 이벤트 알림

PDF
포커스 모드
폰트 크기
마지막 업데이트 시간: 2025-11-14 15:41:21
라이브 음란물 감지는 라이브 스크린샷&음란물 템플릿 설정 규칙에 따라 라이브 스트림에서 스크린샷을 캡처하여 COS에 저장합니다. 음란물 감지 콜백은 유형, 평점 및 스크린샷 시점을 포함한 감지된 음란물 이미지 정보를 푸시하는 데 사용됩니다. 콜백 템플릿에서 음란물 감지 콜백 메시지를 수신할 서버 주소를 구성하고 템플릿을 푸시 도메인 이름에 바인딩해야 합니다. 음란물 감지 이벤트가 라이브 스트림에 의해 트리거되면 Tencent Cloud CSS 백엔드가 음란물 이미지 정보를 설정된 수신 서버로 다시 호출합니다.
본 문서에서는 음란물 감지 콜백 이벤트 발생 시 Tencent Cloud CSS가 사용자의 콜백 메시지 알림 필드로 발송하는 과정을 설명합니다.

주의 사항

Tencent Cloud CSS의 콜백 기능 설정 방법을 이해하신 후 본 문서를 읽으실 것을 권장합니다. 콜백 메시지를 수신하는 방법은 이벤트 알림 수신 방법을 참고 바랍니다.
라이브 방송 음란물 감지는 기본적으로 의심스러운 결과만 콜백하며, 정상적인 결과는 콜백하지 않습니다.
이미지를 사용한 type으로 음란물 판정을 진행할 것을 권장합니다. 감지 시스템의 정확도가 100%를 달성할 수는 없기 때문에, 일부 이미지가 음란물 의심 판정을 받거나 잘못된 인식 결과가 나올 수 있습니다. 실제 응용 시나리오에 따라 육안으로 2차 확인 작업을 진행할 수 있습니다.

화면 캡처 이벤트 매개변수 설명

이벤트 유형 매개변수

이벤트 유형
필드 값 설명
라이브 방송 음란물 감지
event_type = 317

콜백 공용 매개변수

필드 이름
유형
설명
t
int64
만료 시간, 이벤트 알림 서명 만료 UNIX 타임스탬프입니다.
Tencent Cloud 메시지 알림의 기본 만료 시간은 10분입니다. 메시지 알림의 t 값으로 지정된 시간이 만료되었을 경우, 해당 알림을 무효라고 판정할 수 있으며, 네트워크 리플레이 공격을 방지할 수 있습니다.
t의 형식은 10진법 UNIX 타임스탬프입니다. 즉, 1970년 01월 01일(UTC/GMT의 자정)부터 경과한 초 단위 수입니다.
sign
string
이벤트 알림 보안 서명은 sign = MD5(key + t)입니다.설명: Tencent Cloud는 암호화된 key와 t의 문자열 연결 후, MD5 계산을 통해 sign 값을 얻은 후, 이를 알림 메시지에 입력합니다. 사용자의 백엔드 서버는 알림 메시지 수신 후 같은 계산법으로 sign이 정확한지 확인하고, 메시지 출처가 Tencent Cloud 백엔드인지 확인할 수 있습니다.
설명：
key는 이벤트 센터 > 라이브 방송 콜백의 콜백 키로 주로 인증에 사용됩니다. 데이터 정보를 안전하게 보호하기 위해 입력을 권장합니다.




콜백 메시지 매개변수

매개변수
필수 입력 여부
데이터 유형
설명
streamId
선택 사항
String
스트림 이름
channelId
선택 사항
string
채널 ID
img
필수 입력
string
알람 이미지 링크
type
필수 입력
Array
감지 결과 우선순위가 가장 높은 악성 레이블에 해당하는 분류 값을 말하며, 구체적인 의미는 매개변수 label이 반환하는 보충 텍스트 설명을 참고하십시오.
score
필수 입력
Array
type 해당 평점
ocrMsg
선택 사항
string
이미지의 OCR 인식 정보(존재할 경우)
suggestion
필수 입력
string
권장 값. 옵션 값:
Block: 차단
Review: 재심사
Pass: 정상
label
필수 입력
string
이 필드는 감지 결과(LabelResults) 우선순위가 가장 높은 악성 레이블을 반환하는데 사용되며 모델이 추천하는 심사 결과를 표시합니다. 필요에 따라 다양한 위반 유형 및 권장 값에 따라 처리할 것을 권장합니다.
subLabel
필수 입력
string
이 필드는 감지 결과 우선 순위가 가장 높은 악성 레이블의 서브 레이블 이름을 반환에 사용됩니다. 예: 음란물-성행위, 서브 레이블 미스 시 공백 반환.
labelResults
선택 사항
이 필드는 분류 모델에 의해 히트된 악성 레이블의 세부 인식 결과 반환에 사용되며, 음란물, 광고 및 기타 불쾌하거나 안전하지 않거나 부적절한 콘텐츠 유형 인식 결과를 포함합니다.
참고: 이 필드는 null을 반환할 수 있으며, 이는 유효한 값을 얻을 수 없음을 의미합니다.
objectResults
선택 사항
이 필드는 객체 감지 모델의 자세한 감지 결과 반환에 사용됩니다. 엔터티, 광고 로고, QR 코드 등 콘텐츠에 히트된 레이블 이름, 레이블 점수, 좌표 정보, 시나리오 인식 결과, 권장 작업 등 콘텐츠 식별 정보를 포함합니다. 자세한 반환 값 정보는 해당 데이터 구조(ObjectResults) 설명에서 확인 가능합니다.
참고: 이 필드는 null을 반환할 수 있으며, 이는 유효한 값을 얻을 수 없음을 의미합니다.
ocrResults
선택 사항
이 필드는 OCR 텍스트 인식의 자세한 감지 결과 반환에 사용됩니다. 텍스트 좌표 정보, 텍스트 인식 결과, 권장 작업 등 콘텐츠 인식 정보를 포함합니다. 자세한 반환 값 정보는 해당 데이터 구조(OcrResults)의 설명을 참고하십시오.
참고: 이 필드는 null을 반환할 수 있으며, 이는 유효한 값을 얻을 수 없음을 의미합니다.
libResults
선택 사항
리스크 이미지 라이브러리 심사 결과
screenshotTime
필수 입력
Number
화면 캡처 시간
sendTime
필수 입력
Number
요청 발송 시간, UNIX 타임스탬프
stream_param
선택 사항
String
푸시 스트림 매개변수
app
선택 사항
String
푸시 스트림 도메인
appid
선택 사항
Number
비즈니스 ID
appname
선택 사항
String
푸시 스트림 path 경로

LabelResult

분류 모델 히트 결과.
이름
유형
설명
Scene
String
모델이 인식한 시나리오 결과 반환. 예: 광고, 음란물, 유해 콘텐츠 등 시나리오.
Suggestion
String
현재 악성 레이블의 후속 작업에 대한 권장 사항을 반환합니다. 판정 결과를 받은 후, 반환값은 시스템에서 권장하는 후속 작업을 의미합니다. 필요에 따라 다양한 위반 유형 및 권장 값에 따라 처리할 것을 권장합니다. 반환값:
Block: 차단 권장
Review: 수동 재심사 권장
Pass: 통과 권장
label
String
이 필드는 감지 결과에 해당하는 악성 레이블 반환에 사용됩니다.
SubLabel
String
서브 레이블 이름
Score
Integer
해당 레이블 모델 히트 점수
Details
Array of LabelDetailItem
분류 모델의 서브 레이블 히트 상세 결과

LabelDetailItem

분류 모델 서브 레이블 히트 결과.
이름
유형
설명
Id
Integer
시리얼 넘버
Name
String
서브 레이블 이름
Score
Integer
서브 레이블 점수, 점수 범위 0점 - 100점

ObjectResult

엔터티 감지 상세 결과.
이름
유형
설명
Scene
String
엔터티가 인식한 시나리오 결과 반환, 예: QR 코드, logo, 이미지 OCR 등 시나리오.
Suggestion
String
현재 악성 레이블의 후속 작업에 대한 권장 사항을 반환합니다. 판정 결과를 받은 후, 반환값은 시스템에서 권장하는 후속 작업을 의미합니다. 필요에 따라 다양한 위반 유형 및 권장 값에 따라 처리할 것을 권장합니다. 반환값:
Block: 차단 권장
Review: 수동 재심사 권장
Pass: 통과 권장
label
String
이 필드는 감지 결과에 해당하는 악성 레이블 반환에 사용됩니다.
SubLabel
String
서브 레이블 이름
Score
Integer
해당 시나리오 모델의 서브 레이블 히트 점수, 점수 범위 0점 - 100점
Names
Array of String
엔터티 이름 리스트
Details
Array of ObjectDetail
감지 상세 결과

ObjectDetail

감지 상세 결과로서, 감지 시나리오가 엔터티, 광고 마크, QR 코드인 경우 모델 감지 타깃 창의 레이블 이름, 레이블 값, 레이블 점수 및 감지 창의 위치 정보를 표시합니다.
이름
유형
설명
Id
Integer
이 매개변수는 식별 및 구분을 용이하게 하기 위해 인식된 객체의 ID를 반환하는 데 사용됩니다.
Name
String
이 매개변수는 히트된 엔터티 레이블 반환에 사용됩니다.
Value
String
이 매개변수는 해당 엔터티 레이블에 해당하는 값 또는 내용을 반환하는 데 사용됩니다. 예: 레이블이 QR 코드(QrCode)인 경우 이 필드는 인식된 QR 코드에 해당하는 URL 주소입니다.
Score
Integer
이 매개변수는 해당 엔터티 레이블의 점수 값을 0-100 사이의 값으로 반환하는 데 사용됩니다. 예: QrCode 99는 인식된 콘텐츠가 QR 코드 장면 레이블에 도달할 가능성이 매우 높음을 의미합니다.
Location
이 필드는 엔터티 관련 정보의 신속한 위치 지정을 용이하게 하기 위해 엔터티 감지 프레임의 좌표 위치(좌측 상단 xy 좌표, 길이 및 너비, 회전 각도)를 반환하는 데 사용됩니다.

Location

좌표.
이름
유형
설명
X
Float
왼쪽 상단 가로 좌표
Y
Float
왼쪽 상단 세로 좌표
Width
Float
폭
Height
Float
높이
Rotate
Float
감지 창의 회전 각도

OcrResult

OCR 결과 감지 상세 내용.
이름
유형
설명
Scene
String
인식된 시나리오. 기본 값 OCR(이미지 OCR 인식).
Suggestion
String
우선순위가 가장 높은 악성 레이블에 상응하는 후속 작업에 대한 권장 사항을 반환합니다. 판정 결과를 받은 후, 반환값은 시스템에서 권장하는 후속 작업을 의미합니다. 필요에 따라 다양한 위반 유형 및 권장 값에 따라 처리할 것을 권장합니다. 반환값:
Block: 차단 권장
Review: 수동 재심사 권장
Pass: 통과 권장
label
String
이 필드는 감지 결과에 해당하는 악성 레이블 반환에 사용됩니다.
SubLabel
String
서브 레이블 이름
Score
Integer
해당 시나리오 모델의 서브 레이블 히트 점수, 점수 범위 0점 - 100점.
Text
String
텍스트 콘텐츠
Details
Array of OcrTextDetail
OCR 상세 결과

OcrTextDetail

OCR 텍스트 상세 결과.
이름
유형
설명
Text
String
OCR 인식 텍스트 콘텐츠 반환(OCR 텍스트 인식5000 바이트 이내로 제한) .
label
String
이 필드는 감지 결과에 해당하는 악성 레이블 반환에 사용됩니다.
Keywords
Array of String
해당 레이블에 히트된 키워드
Score
Integer
해당 레이블 모델의 히트 점수. 점수 범위: 0점 - 100점.
Location
OCR 텍스트 좌표 위치

LibResult

블록/얼로우 라이브러리 상세 내용.
이름
유형
설명
Scene
String
모델의 시나리오 인식 결과. 기본 값: Similar.
Suggestion
String
후속 작업에 대한 권장 사항을 반환합니다. 판정 결과를 받은 후, 반환값은 시스템에서 권장하는 후속 작업을 의미합니다. 필요에 따라 다양한 위반 유형 및 권장 값에 따라 처리할 것을 권장합니다. 반환값:
Block: 차단 권장
Review: 수동 재심사 권장
Pass: 통과 권장
label
String
이 필드는 감지 결과에 해당하는 악성 레이블 반환에 사용됩니다.
SubLabel
String
서브 레이블 이름
Score
Integer
이미지 인덱스 모델 인식 점수. 점수 범위 0점 - 100점.
Details
Array of LibDetail
블록/얼로우 라이브러리 결과 상세 내용

LibDetail

사용자 정의 라이브러리/블록/얼로우 라이브러리 상세 내용.
이름
유형
설명
Id
Integer
시리얼 넘버
ImageId
String
이미지 ID
label
String
이 필드는 감지 결과에 해당하는 악성 레이블 반환에 사용됩니다.
Tag
String
사용자 정의 레이블
Score
Integer
모델 인식 점수. 점수 범위: 0점 - 100점.

콜백 메시지 예시

{
        "ocrMsg": "",
        "type": [1],
        "socre": 99,
        "screenshotTime": 1610640000,
        "level": 0,
        "img": "http://1.1.1.1/download/porn/test.jpg",
        "abductionRisk": [],
        "faceDetails": [],
        "sendTime": 1615859827,
        "suggestion": "Block",
        "label": "Porn",
        "subLabel": "PornHigh",
        "labelResults": [{
                "HitFlag": 0,
                "Scene": "Illegal",
                "Suggestion": "Pass",
                "Label": "Normal",
                "SubLabel": "",
                "Score": 0,
                "Details": []
        }, {
                "HitFlag": 1,
                "Scene": "Porn",
                "Suggestion": "Block",
                "Label": "Porn",
                "SubLabel": "PornHigh",
                "Score": 99,
                "Details": [{
                        "Id": 0,
                        "Name": "PornHigh",
                        "Score": 99
                }, {
                        "Id": 1,
                        "Name": "WomenChest",
                        "Score": 99
                }]
        }, {
                "HitFlag": 0,
                "Scene": "Sexy",
                "Suggestion": "Pass",
                "Label": "Normal",
                "SubLabel": "",
                "Score": 0,
                "Details": []
        }, {
                "HitFlag": 0,
                "Scene": "Terror",
                "Suggestion": "Pass",
                "Label": "Normal",
                "SubLabel": "",
                "Score": 0,
                "Details": []
        }],
        "objectResults": [{
                "HitFlag": 0,
                "Scene": "QrCode",
                "Suggestion": "Pass",
                "Label": "Normal",
                "SubLabel": "",
                "Score": 0,
                "Names": [],
                "Details": []
        }, {
                "HitFlag": 0,
                "Scene": "MapRecognition",
                "Suggestion": "Pass",
                "Label": "Normal",
                "SubLabel": "",
                "Score": 0,
                "Names": [],
                "Details": []
        }, {
                "HitFlag": 0,
                "Scene": "PolityFace",
                "Suggestion": "Pass",
                "Label": "Normal",
                "SubLabel": "",
                "Score": 0,
                "Names": [],
                "Details": []
        }],
        "ocrResults": [{
                "HitFlag": 0,
                "Scene": "OCR",
                "Suggestion": "Pass",
                "Label": "Normal",
                "SubLabel": "",
                "Score": 0,
                "Text": "",
                "Details": []
        }],
        "streamId": "teststream",
        "channelId": "teststream",
        "stream_param": "txSecret=40f38f69f574fd51126c421a3d96c374&txTime=5DEBEC80",
        "app": "5000.myqcloud.com",
        "appname": "live",
        "appid": 10000,
        "event_type": 317,
        "sign": "ac920c3e66**********78cf1b5de2c63",
        "t": 1615860427
}


이전 주제: 화면 캡처 이벤트 알림다음 주제: 푸시 오류 이벤트 알림

도움말 및 지원

문제 해결에 도움이 되었나요?

피드백