Content Categorization Initiative

Objective:

We aim to understand Facebook content (or characteristics of a post) that has the potential to provoke
or worsen hostility between people holding opposing views, tear down a sense of shared community, or
drive people apart.

We are focusing on a couple of primary characteristics, but this is a working document and might be
updated or amended at any time.

We want to understand where this content is occurring (ex: text or image) and also general
characteristics about the post (ex: overall does it contain toxicity / create a threatening environment /
etc.).

Inisiatif Kategorisasi Konten

Objektif:

Kami bertujuan untuk memahami konten Facebook (atau karakteristik dari posting) yang memiliki
potensi untuk memprovokasi atau memperburuk permusuhan antara orang-orang yang memegang
pandangan yang berlawanan, meruntuhkan rasa komunitas bersama, atau mendorong orang-orang
terpisah.

Kami berfokus pada beberapa karakteristik utama, tetapi ini adalah dokumen yang berfungsi dan
mungkin diperbarui atau diubah setiap saat.

Kami ingin memahami di mana konten ini terjadi (mis: teks atau gambar) dan juga karakteristik umum
tentang posting (mis: secara keseluruhan apakah itu mengandung toksisitas / menciptakan lingkungan
yang mengancam / dll).

Things to Remember

1. Destructive conflict generally takes the form of an attack

2. If you have to think about it, it’s probably a No. If you are unsure, err on the side of labeling No.

3. The priority is precision and seriousness; we’re not after quantity

Hal-hal untuk diingat

1. Konflik destruktif umumnya berupa serangan

2. Jika Anda harus memikirkannya, itu mungkin tidak. Jika Anda tidak yakin, salah di sisi pelabelan No.
3. Prioritasnya adalah presisi dan keseriusan; kami tidak mengejar kuantitas

Labeling Instructions

1. Is there Demonization of a Group?

a. Text: Yes/Maybe

b. Image or Video: Yes/Maybe

c. Link preview: Yes/Maybe

d. Combination of post elements: Yes/Maybe

e. None of the above

How is the Demonization of a Group expressed?

a. As text overlay

b. Using logos and icons

c. Using imagery

Where is the Demonization of a Group located?

d. In the image

e. In the video thumbnail

f. At the end of the video

g. At the beginning of the video

h. In other video frames

Instruksi Pelabelan

1. Apakah ada Demonisasi Grup?

Sebuah. Teks: Ya / Mungkin

b. Gambar atau Video: Ya / Mungkin

c. Pratinjau tautan: Ya / Mungkin

d. Kombinasi elemen pos: Ya / Mungkin

e. Bukan dari salah satu di atas

Bagaimana Demonisasi Grup dinyatakan?

Sebuah. Sebagai hamparan teks

b. Menggunakan logo dan ikon

c. Menggunakan citra

Di mana Demonisasi Grup berada?

d. Di dalam gambar

e. Di thumbnail video

f. Di akhir video

g. Di awal video

h. Di bingkai video lainnya

2. Please rate the TOXICITY of this content using the following criteria:

a. Very toxic (very hateful, aggressive, or disrespectful that very likely makes you want to avoid this
content)

b. Toxic (rude, disrespectful, or unreasonable that is somewhat likely to make you want to avoid this
content)

c. Neither

d. Healthy content (reasonable, civil, or polite content that is somewhat likely to make you want to
engage)
e. Very healthy content (very polite, thoughtful, or helpful content that very likely makes you want to
engage)

Where is the Healthy or Toxic content located?

a. Text: Yes/Maybe

b. Image or Video: Yes/Maybe

c. Link preview: Yes/Maybe

d. Combination of post elements: Yes/Maybe

e. None of the above

How is the Demonization of a Group expressed?

a. As text overlay

b. Using logos and icons

c. Using imagery

Where is the Demonization of a Group located?

a. In the image

b. In the video thumbnail

c. At the end of the video

d. At the beginning of the video

e. In other video frames

2. Harap nilai TOXICITY konten ini menggunakan kriteria berikut:

Sebuah. Sangat beracun (sangat penuh kebencian, agresif, atau tidak sopan yang sangat mungkin
membuat Anda ingin menghindari konten ini)

b. Beracun (kasar, tidak sopan, atau tidak masuk akal yang agaknya membuat Anda ingin menghindari
konten ini)

c. Bukan keduanya
d. Konten yang sehat (konten yang masuk akal, sopan, atau sopan yang agaknya membuat Anda ingin
terlibat)

e. Konten yang sangat sehat (konten yang sangat sopan, bijaksana, atau membantu yang sangat
mungkin membuat Anda ingin terlibat)

Di mana konten Sehat atau Beracun berada?

Sebuah. Teks: Ya / Mungkin

b. Gambar atau Video: Ya / Mungkin

c. Pratinjau tautan: Ya / Mungkin

d. Kombinasi elemen pos: Ya / Mungkin

e. Bukan dari salah satu di atas

Bagaimana Demonisasi Grup dinyatakan?

Sebuah. Sebagai hamparan teks

b. Menggunakan logo dan ikon

c. Menggunakan citra

Di mana Demonisasi Grup berada?

Sebuah. Di dalam gambar

b. Di thumbnail video

c. Di akhir video

d. Di awal video

e. Di bingkai video lainnya

3. In addition to the aspects above, if the post seems bad in some other way – and you think we should
investigate it further – please check this box.
a. Yes, please investigate this post further.

b. (generic comment box for why)

Labeling Dimensions: Definitions and Examples with Instructions

1. Demonization of a Group: Depiction of a group as evil, responsible for death,violence, or other harm.

• Content in this category:

o suggests that a group is responsible for introducing disease, violence,or destruction

o attributes the actions of one or a few individuals to an entire racial,ethnic, religious, political, etc.
group

o blames an entire group or focuses on a characteristic (race, ethnicity,political affiliation, etc.) when
referring to a crime

• Content in this category should be labeled No if it is:\

o content that only discusses instances of demonization (false

association or attribution of negative intent) in the world, without an

explicit act of demonization (false association or attribution of

negative intent) by the poster of the text, image, link, or comment

• However, content that is shared or quoted without context should be labeled Yes. In the absence of
context, it should be assumed that the poster agrees with the demonizing content

3. Selain aspek di atas, jika postingan tampak buruk dengan cara lain - dan Anda pikir kami harus
menyelidikinya lebih lanjut - silakan centang kotak ini.

Sebuah. Ya, silakan selidiki posting ini lebih lanjut.

b. (kotak komentar umum untuk alasannya)

Dimensi Pelabelan: Definisi dan Contoh dengan Instruksi

1. Demonisasi Kelompok: Penggambaran kelompok sebagai jahat, bertanggung jawab atas kematian,
kekerasan, atau bahaya lainnya.

• Konten dalam kategori ini:

o menunjukkan bahwa kelompok bertanggung jawab untuk memperkenalkan penyakit, kekerasan, atau
perusakan

o atribut tindakan satu atau beberapa individu ke seluruh kelompok ras, etnis, agama, politik, dll

o menyalahkan seluruh kelompok atau berfokus pada karakteristik (ras, etnis, afiliasi politik, dll.) ketika
mengacu pada kejahatan

• Konten dalam kategori ini harus diberi label Tidak jika itu adalah: \

o konten yang hanya membahas contoh-contoh demonisasi (salah

asosiasi atau atribusi dari niat negatif) di dunia, tanpa

tindakan tegas dari demonisasi (asosiasi palsu atau atribusi dari

niat negatif) oleh poster teks, gambar, tautan, atau komentar

• Namun, konten yang dibagikan atau dikutip tanpa konteks harus diberi label Ya. Dalam ketiadaan
konteks, harus diasumsikan bahwa poster tersebut setuju dengan konten yang mengutuk

1. This content should be labeled Yes because the text within the link preview unreasonably
suggests that illegal immigrants as a group are the cause of disease.

Konten ini harus diberi label Ya karena teks di dalam tautan pratinjau tidak masuk akal menunjukkan
bahwa imigran gelap sebagai suatu kelompok adalah penyebab penyakit

2. This content should be labeled Yes because the text above the link suggests that followers of
Islam support genital mutilation
 Konten ini harus diberi label Ya karena teks di atas tautan menunjukkan bahwa pengikut Islam
mendukung mutilasi genital

3. This content should be labeled Yes because the text draws a characteristic (religion) in claiming
that the people responsible for a crime are Muslim.
Konten ini harus diberi label Ya karena teks menarik karakteristik (agama) dalam mengklaim
bahwa orang yang bertanggung jawab atas kejahatan adalah Muslim.

4. This content should be labeled No because while the link and post text discuss immigration and
its potential problems, it does not make a false association of immigrants and negative
outcomes
Konten ini harus diberi label Tidak karena sementara tautan dan teks pos membahas imigrasi
dan potensi masalah, itu tidak membuat asosiasi palsu imigran dan hasil negatif