페이스 북, 불쾌한 밈과 증오심 표현을 중단하기위한 "증오 성 밈 챌린지"발표

페이스 북은 "증오스러운"밈이 인터넷에 나타나는 것을 막기위한 새로운 이니셔티브를 발표했습니다. "증오스러운 밈 챌린지"라고 불리는이 새로운 알고리즘은 저널리스트와 연구자들이 검토를 위해 액세스 할 수 있으며, 그러면 웹을 검색 할 때 "위험한 밈"을 "긍정적 인"것으로 만들 수 있습니다.

Firstly, if you want a quick summary of Facebook’s newly announced program to curb hateful memes, you can check out Memology 101’s video 바로 여기에:

에 따르면 비디오를 보지 않은 경우에 따르면 facebook.com, it is said by Douwe Kiela (research scientist), Hamed Firooz (applied research scientist), and Aravind Mohan (data scientist), that harmful content “affects the entire tech industry and society at large.”

In addition to the above, here’s one of the many pitches behind The Hateful Memes Challenge and what it aims to accomplish:

“We’ve built and are now sharing a data set designed specifically to help AI researchers develop new systems to identify multimodal hate speech. This content combines different modalities, such as text and images, making it difficult for machines to understand.

Hateful Memes 데이터 세트에는 Facebook AI에서 만든 10,000 개 이상의 새로운 멀티 모달 예제가 포함되어 있습니다. 연구원들은 데이터 세트를 사용하여 작업을 지원할 수 있도록 Getty Images의 이미지에 라이센스를 부여했습니다. 우리는 또한 기본 훈련 모델에 대한 코드를 발표하고 있습니다.

We are also launching the Hateful Memes Challenge, a first-of-its-kind online competition hosted by DrivenData with a $100,000 total prize pool. The challenge has been accepted as part of the NeurIPS 2020 competition track.”

Facebook AI, along with the Hateful Memes Challenge, is said by the three scientists and the Facebook team to be the best solution at this current moment. However, the team is also looking at ways to prevent potential misuse, and that’s why there will be limited access.

이는 참가자 (저널리스트 및 연구원)가 해당 데이터를 사용, 저장 및 처리하는 방법에 대한 엄격한 사용 약관에 동의해야 함을 의미합니다.

또한 팀은 AI 알고리즘이 혐오스러운 예를 잠재적 오탐과 구별하도록 돕기 위해 노력하고 있음을 알게되었습니다. 분류 결정이 실행 가능한지 확인하기 위해 팀은 증오심 표현을 구체적으로 정의하기 위해 다음 예제를 작성했습니다.

“A direct or indirect attack on people based on characteristics, including ethnicity, race, nationality, immigration status, religion, caste, sex, gender identity, sexual orientation, and disability or disease. We define attack as violent or dehumanizing (comparing people to non-human things, e.g., animals) speech, statements of inferiority, and calls for exclusion or segregation. Mocking hate crime is also considered hate speech.”

Lastly, the team is said to be making progress on improving AI systems to detect “hate speech” and other “harmful content” on Facebook. However, the team wants the Hateful Memes Challenge to spread beyond Facebook and on to other platforms to “keep people safe.”