Hatebase는 온라인 "증오심 표현"을 제거하고 "백인 민족 주의자"용어를 따라 잡기를 원합니다.

사회 정의에 의해“증오심 표현”및“온라인 독성”으로 알려진 웹을 통한 매운 링고와의 대화는 Hatebase가 계속해서 올해의 회사를 돕는 새로운 도구로 매운 대화 및“백인 민족주의”와 관련된 모든 것을 제거하려고합니다. . 문제의 도구는 정적 인 것이 아니며 매운 행동을 멈추기 위해 다소 감각적 인 방식으로 발전 할 것입니다.

웹 사이트 게이머 제니퍼 응 우옌 (Jennifer Nguyen), 미트베이스 (Hatebase)의 멤버와 대화를 통해 회사가 어떻게 형성되고 있는지, 다른 회사가이 기술을 사용하여 매운 행동을 줄이는 방법을 측정 할 수있었습니다.

Nguyen에 따르면, Hatebase는 온라인 게임에서 증오심 표현을 "식별"및 "감소"에 관심을 가질뿐만 아니라 인터넷이라고하는 끊임없이 성장하고 있습니다.

이 조직은 대부분의 회사가 스스로 소유 할 수없는 수준의 기술을 제공한다고 주장하며 다음 세 가지에 중점을 둡니다.

  • 모니터링을 통한 증오심 표현 감소
  • 증오심 표현의 수용 가능성 감소
  • 증오심 표현으로 주장되는 폭력 예방

다시 말해서, 벌집 마음 감정에 따라 무엇이 옳고 그른지를 말하고 싶어하는 것은 불안전 한 사람들입니다.

어쨌든 Nguyen은 Hatebase가 100 국가에 걸쳐 거의 180 언어를 보유하고 있으며 다른 회사가 "증오심 표현"이라는이 문제를 해결하는 데 도움이되도록 3,624 용어가 문서화되어 있다고 설명합니다.

Nguyen은 또한 웹 사이트에 다음과 같이 말함으로써 팀이 사람들과 "백인 민족 주의자"로부터 진화하는 "증오심 표현"을 찾아 복제하는 데 어려움을 겪고 있다고 말합니다.

“온라인 커뮤니티의 과제는 1와 같은 다른 사람들이 서로 다른 증오심 표현에 대한 관점을 가지고 있기 때문에 증오심 표현을 식별, 모니터링 및 격리하기가 매우 어렵다는 것입니다 (예 : 한 맥락에서 양성으로 여겨지는 단어는 증오로 보일 수 있음) 다른 사용자들과 2) 사용자는 기초적인 콘텐츠 필터를지나 차별적 인 콘텐츠를 얻는 것에 대해 점점 더 정통 해지고 있습니다. 우리는 백인 민족주의 운동에서 많이 본 것입니다.”

이 웹 사이트는 Microsoft와 Phil Spencer가 "증오심 표현"을 중단하려는 방식과 Hatebase가 어떻게 소규모 기업이나 사용자 기반을 제어하려는 사람들을 활용하기 위해 개입 할 수 있는지 설명합니다.

올해 XNUMX 월부터 "비디오 게임 : 세계를위한 통합의 힘"이라는 제목의 블로그 게시물에서 Spencer는 이러한 노력이 모든 사용자를위한 안전하고 포괄적 인 게임 환경을 만드는 것을 목표로한다고 말했습니다. 그러기 위해서는 증오 발언, 편견, 여성 혐오를보다 효과적인 방법으로 처리해야합니다. Spencer는 X 박스 안전 팀은이 목표를 향해 열심히 노력합니다. 스펜서의 목표는 훌륭하고 다른 사람들이 따라야 할 훌륭한 예이지만 Microsoft가하는 리소스를 보유한 조직은 거의 없습니다.

 

이곳은 Hatebase가 빛을 발할 수있는 곳이며, 앞으로도 계속 발전하기 위해 Hatebase 및 이와 유사한 프로젝트가 집중되어야하는 이유입니다. Hatebase에서 생성 한 강력한 도구를 활용하려는 소규모 조직은 월별 라이센스 비용으로이를 수행 할 수 있으며, 비영리 단체, 학계 및 커뮤니티 그룹과 같은 다른 조직은 라이센스에 무료로 액세스 할 수 있습니다. Nguyen은 계속해서 "우리의 목표는 온라인 커뮤니티가이 문제를보다 잘 처리하고보다 덜 내용적인 내용을 인간 중재자에게 전송하도록 돕는 것입니다."

또한 Hatebrain이라는 시스템은 대중 대화에 대한 언어 분석을 수행하고 데이터를 저장할 수 있습니다. 이는 정적 인 기존의 연구와 달리이 학습 알고리즘은 속어, 용어 및 기타 다른 유형의 단어를 포함하여 진화 할 수 있습니다.

“웹 사이트를 통해 작업 방식과 작업 예를 정확하게 확인할 수 있습니다. 증오심 표현이 다양하고 속어가 빠른 속도로 언어가 발전함에 따라 전통적인 연구에서 모든 형태의 증오심 표현을 찾기가 어려울 수 있습니다. Hatebase는 공개 대화에 대한 언어 분석을 수행하기 위해 자연어 엔진 인 Hatebrain이라고하는 것을 사용합니다. 그런 다음 웹 인터페이스를 통해 데이터를 사용할 수 있습니다.

 

즉, 증오심 표현에 대한 기존의 연구와 달리 조사가 진행되는 시점에 정적이고 동결 될 수있는 증오심 표현은 더 최근의 토론으로 데이터베이스를 발전시키고 있습니다. 이러한 대화가 어디에서 이루어 졌는지는 명확하지 않으며 분석을 위해 정확히 데이터가 스크랩되는 위치를 아는 것이 유용 할 것입니다.”

바로 지금, hatebase.org 회사, 비영리 단체, 학계, 정부 및 미디어를위한 세계 최대의 지역화 된 다국어 증오심 표현 저장소라고합니다.