너무 성적이라며 양파사진이 페이스북으로 부터 경고

식물의 씨앗을 판매하는 기업이, 시즌을 향해서 양파 씨앗의 광고를 Facebook에 게재하려고 했는데, 광고내에서 사용한 사진이 「명백히 성적이다」라고 판단되어 광고의 게재 중지를 피할 수 없게 되었습니다. 도대체 왜 양파 이미지가 성적이라고 판단되는지 광고 신청을 담당한 매니저가 말합니다.

 

채소와 꽃씨를 판매하는 The Seed Company의 매니저 잭슨 매클린 씨에 따르면 페이스북으로 양파의 일종인 왈라왈라 스위트 어니언 광고를 하려다 광고에 담긴 양파 이미지가 페이스북 광고 가이드라인을 위반해 상품 광고를 할 수 없었다는 것이다.

 

아래 사진은 The Seed Company가 왈라왈라 스위트 어니언의 광고용 이미지로 준비한 것. 바구니에 담긴 양파와 반으로 자른 양파가 있어 전혀 문제가 없어 보입니다.

 

그런데, The Seed Company는 광고에 관해서 Facebook으로부터 다음과 같은 메시지를 받았습니다. 메시지에는 「분명히 성적인 상품입니다. 성적인 내용을 시사하는 방법으로 상품이나 서비스를 배치해서는 안됩니다」라고 쓰여져 있습니다.

우리가 준비한 이미지들이 드러내놓고 성적인 이미지라고 판단돼 페이스북에 광고 게재를 중단해야 했습니다.어쩌면 양파의 둥근 모양이 모유 또는 뭔가인 것처럼 오해를 받은 것일지도 모릅니다.웃을 수 밖에 없었어요.인간이 이 양파를 보고 뭔가 성적인 것을 느끼기 위해서는 상당한 상상력이 필요할 것입니다」라고 맥린씨는 말합니다.

 

또, 양파의 이미지에 대해 Facebook이 「성적이다」라고 판정해 버린 이유는, 아마 AI의 자동 체크에 의한 것일 가능성이 높다고 맥린 씨는 추측하고 있습니다.페이스북은 AI를 이용한 콘텐츠 자동 체크 시스템을 도입하고 있으며 2020년 4월부터 2020년 6월 사이에 페이스북 상에서 성적인 내용이 포함된 유해 콘텐츠 약 3570만 건이 삭제되었습니다.AI를 통한 콘텐츠 자동 검사 기술은 발전 중이며, 과거에는 Tumblr을 통한 AI의 이미지 검사 기준이 너무 모호하다는 비난을 많이 받고 있습니다.