검열 특정 단어 및 이미지

Question

내 질문은 어떻게 내 응용 프로그램에서 나쁜 언어와 누드 이미지를 검열 할 수 있습니다, 사용자가 도입 한 콘텐츠를 필터링 할 수있는 일종의 프레임 워크입니까? 당신은이 문제를 해결하기 위해이 순간을 사용하는 IOS 전문가입니까?

Answer 1

귀하의 질문에 두 부분이 있습니다 : 1) 검열 텍스트, 2) 이미지 검열.

텍스트의 경우 사전을 저장하고 사용자 입력을 검열 할 단어와 대조 할 수 있습니다. 그러나 나쁜 언어를 어떻게 정의합니까? 단어는 컨텍스트에 따라 의미가 있으며 소프트웨어는 컨텍스트를 결정할 수 없습니다. 즉 누군가가 검열해야하는 수박을 먹는 걸 좋아한다는 말입니까? 특정 집단의 사람들에게 적용되면 인종 차별적 인 것으로 간주 될 수 있습니다. 그리고 그것은 사전이 말할 수없는 것입니다.

이미지의 경우 알고리즘을 통해 누드를 식별하는 신뢰할 수있는 방법이 없습니다. 실제로 이미지 검열을하는 모든 웹 사이트는 인간을 사용하여 사용자가 제공 한 이미지를 분류하고 검열합니다. 그리고 인간조차도 실수를합니다. 최근에 FB는 벌거 벗은 가슴에 팔꿈치를 잘못 짚었 기 때문에 목욕탕에서 한 여성의 이미지를 거부했습니다.