Joka päivä Snapchattaajat ympäri maailmaa käyttävät sovellusta läheisille ystävilleen puhumiseen ja luovaan itseilmaisuun. Tavoitteenamme on suunnitella tuotteita ja rakentaa teknologiaa, joka auttaa ja tukee todellista ystävyyttä terveessä, turvallisessa ja hauskassa ympäristössä. Kehitämme jatkuvasti parempia tapoja sen toteuttamiseksi – aina yleisistä käytännöistä ja yhteisömme säännöistä työkaluihin, joilla tunnistetaan ja estetään haitallista sisältöä, sekä aloitteilla, jotka kouluttavat ja vahvistavat yhteisöämme.
Olemme sitoutuneet tarjoamaan enemmän avoimuutta sellaisen sisällön esiintyvyydestä, joka rikkoo ohjeitamme, sekä siitä, miten noudatamme sääntöjämme, miten vastaamme lainvalvojien ja hallitusten tietopyyntöihin, sekä sisällöstä, josta aiomme kertoa enemmän tulevaisuudessa. Julkaisemme avoimuusraportteja kahdesti vuodessa antaaksemme tietoa näistä toimista, ja olemme myös sitoutuneet tekemään näistä raporteista kattavampia ja hyödyllisempiä monille sidosryhmille, jotka välittävät verkkoturvallisuudesta ja avoimuudesta.
Tämä raportti kattaa vuoden 2020 toisen puoliskon (1. heinäkuuta – 31. joulukuuta). Kuten aiemmat raporttimmekin, tämä raportti sisältää tietoa kaikista tänä aikana tapahtuneista rikkomuksista, vastaanottamistamme rikkomuksellisista sisältöilmoituksista eri aiheita koskien, joihin myös reagoimme, ja siitä, miten tuimme lainvalvontaviranomaisia ja viranomaisia ja toteutimme heiltä saamiamme pyyntöjä; ja siitä, miten täytäntöönpanimme sääntöjämme kussakin eri maassa.
Osana käynnissä olevia ponnistelujamme turvallisuuden ja läpinäkyvyysraporttien parantamiseksi, tämä raportti sisältää myös joitakin uusia elementtejä:
Sisällön Sääntöjä rikkovan sisällön katseluaste (Violative View Rate, VVR), joka tarjoaa paremman käsityksen Snappien (tai katsomiskertojen) osuudesta, joka sisälsi sääntöjämme rikkovaa sisältöä;
Sisältöön ja käyttäjätileihin kohdistuneiden väärää tietoa koskevien sääntöjen täytääntönpanojen määrä yhteensä maailmanlaajuisesti. Tämä tieto on ollut erityisen tärkeää tänä ajanjaksona, kun maailma on kamppaillut maailmanlaajuista pandemiaa sekä kansalaisten poliittiikkaan osallistumisen häirintää ja demokratian normien uhkaamista vastaan; ja
Pyynnöt tukea mahdollisia tavaramerkkirikkomuksia koskevia tutkintoja.
Työskentelemme useiden eri parannusten aikaansamiseksi, jotka parantavat kykyämme tarjota yksityiskohtaisempia tietoja tulevissa raporteissa. Tämä sisältää sääntöjen rikkomista koskevien tietojen jakamisen useampiin alakategorioihin. Esimerkiksi tällä hetkellä raportoimme säänneltyihin tuotteisiin ja tavaroihin liittyvistä sääntöjen rikkomuksista, ja näihin sisältyy sekä aseet että huumeet. Tästä lähtien aiomme raportoida kummankin (huumeet ja aseet) omassa alakategoriassaan.
Koska uusia verkosta tulevia uhkia ja käyttäytymismalleja ilmenee, jatkamme työkalujemme parantamista niiden torjumiseksi. Arvioimme jatkuvasti riskejä ja miten voimme edistää teknologisia valmiuksiamme yhteisömme suojelemiseksi. Etsimme säännöllisesti turvallisuus- ja turvallisuusasiantuntijoilta ohjeita siitä, miten voimme pysyä askelen edellä sääntöjen rikkojia — ja olemme kiitollisia kaikille kumppaneillemme, jotka antavat korvaamatonta palautetta ja ajavat meitä parantamaan itseämme.
Lisätietoja turvallisuus- ja tietosuojakäytännöistämme ja -resursseistamme on avoimuusraporttia koskevien tietojen välilehdellä sivun alaosassa.
Yhteisön sääntömme kieltävät haitallisen sisällön, mukaan lukien väärän tiedon; salaliittoteoriat, jotka voivat aiheuttaa haittaa; petolliset toimet; laittomat toimet, mukaan lukien laittomien huumausaineiden, väärennettyjen tuotteiden, salakuljetuksen tai laittomien aseiden osto tai myynti; vihapuhe, viharyhmät ja terrorismi; häirintä ja kiusaaminen; väkivalta ja vahingoittaminen, sisältäen itsensä vahingoittamisen ihannoinnin; seksuaalisesti latautunut sisältö; ja lasten seksuaalinen hyväksikäyttäminen.
Joka päivä Snapchatin kameralla luodaan yli viisi miljardia Snappia. 1. heinäkuuta - 31. joulukuuta 2020 täytäntöönpanimme sääntöjämme 5 543 281 sisältöyksikköön, jotka olivat rikkoneet sääntöjä.
Täytäntöönpanotoimiin voi sisältyä rikkovan sisällön poistaminen; kyseisen tilin näkyvyyden lopettaminen ja rajoittaminen; ja sisällöstä ilmoittaminen lainvalvontaviranomaisille. Jos tili irtisanotaan sääntöjemme rikkomisen nojalla, tilin haltijalla ei ole lupaa luoda uutta tiliä tai käyttää enää Snapchatia.
Raportointiaikana Violative View Rate (VVR) oli 0,08 prosenttia, mikä tarkoittaa, että jokaista 10 000 sisältöyksikköä kohti Snapissa oli kahdeksan sisältöyksikköä, jotka rikkoivat sääntöjämme.
Tarjoamme sovelluksen sisäisiä raportointityökaluja, joiden avulla Snapchattaajat voivat ilmoittaa helposti sisällöstä luottamus- ja turvallisuustiimeillemme, jotka tutkivat ilmoituksen ja ryhtyvät asianmukaisiin toimiin. Tiimimme pyrkivät toteuttamaan täytäntöönpanotoimia mahdollisimman nopeasti, ja useimmissa tapauksissa ne toimivat kahden tunnin kuluessa sovelluksen kautta saadun ilmoituksen vastaanottamisesta.
Sovelluksen kautta tehtävien ilmoituksien lisäksi tarjoamme myös vaihtoehdon tehdä ilmoituksen verkossa tukisivustomme kautta. Lisäksi tiimimme parantavat jatkuvasti valmiuksia havaita ennakoivasti sääntöjä rikkovaa ja laitonta sisältöä, kuten lasten seksuaalista hyväksikäyttöä, laittomia huumeita tai aseita tai väkivallan uhkaa sisältävää materiaalia. Esittelemme tässä raportissa yksityiskohtaisia tietoja työstämme lasten seksuaalisen hyväksikäytön ja hyväksikäytön torjumiseksi.
Kuten alla olevat kaaviot esittävät, vuoden 2020 jälkipuoliskolla saimme eniten sovelluksen kautta tehtyjä raportteja ja tukipyynnöt liittyen sisältöön, joka sisälsi muuna henkilönä esiintymistä tai seksuaalisesti latautunutta sisältöä. Pystyimme parantamaan aikaamme reagoida rikkomuksiin erityisesti säänneltyjen tuotteiden osalta, joka sisältää laittomat huumeet, väärennetyt tavarat ja aseet; seksuaalisesti latautuneen sisällön osalta; sekä häirinnän ja kiusaamisen osalta.
Sisällöstä tehdyt ilmoitukset yhteensä*
Toimenpiteisiin johtanut sisältö yhteensä
Yksittäiset toimenpiteisiin johtaneet tilit yhteensä
10 131 891
5 543 281
2 100 124
Syy
Sisältöilmoitukset
Toimenpiteisiin johtanut sisältö
% Sisällöstä
Toimenpiteisiin johtaneita ainutlaatuisia tilejä
Läpimenoaika**
Seksuaalinen sisältö
5 839 778
4 306 589
77,7%
1 316 484
0.01
Säännellyt tavarat
523 390
427 272
7,7%
209 230
0.01
Uhkailu / Väkivalta / Haitta
882 737
337 710
6,1%
232 705
0.49
Häirintä ja kiusaaminen
723 784
238 997
4,3%
182 414
0.75
Roskaposti
387 604
132 134
2,4%
75 421
0.21
Vihapuheet
222 263
77 587
1,4%
61 912
0.66
Muuna esiintyminen
1 552 335
22 992
0,4%
21 958
0.33
*Sisältöilmoitukset kertovat epäillyistä rikkomuksista, joista on ilmoitettu sovelluksen sisällä tai tukipyyntöjen kautta.
**Läpimenoaika on tunneissa ilmoitettu mediaaniaika, joka ilmoittaa kuinka nopeasti käyttäjän raporttiin reagoitiin.
Olemme aina uskoneet, että mitä haitalliseen sisältöön tulee, ei riitä, keskittyä vain käytäntöihin ja niiden täytäntöönpanemiseen - alustojen tulee kiinnittää huomiota myös niiden perusrakenteisiin ja tuotesuunnitteluun. Alusta alkaen Snapchat on rakennettu eri tavalla kuin perinteiset sosiaalisen median alustat, tukemaan palvelun ensisijaista käyttötarkoitusta, eli puhumista läheisten ystävien kanssa avoimen uutissyötteen sijaan, jossa jokaisella on oikeus jakaa mitä tahansa kenelle tahansa ilman maltillisuutta tai valvontaa.
Kuten esitämme johdannossa, ohjeet kieltävät selvästi sellaisten valheellisten tietojen levittämisen, jotka voivat aiheuttaa haittaa, mukaan lukien harhaanjohtavat tiedot, joiden tarkoituksena on heikentää kansalaisten politiikkaan osallistumista kuten äänestäjien tukahduttaminen, perusteettomat lääketieteelliset väitökset ja salaliittoteoriat, kuten traagisten tapahtumien kieltäminen. Sääntömme koskevat johdonmukaisesti kaikkia Snapchattaajia, eikä meillä ole erityisiä poikkeuksia poliitikoille tai julkisuuden henkilöille.
Snapchat rajoittaa sisällön leviämistä (ns. viraalius), mikä poistaa insentiivin lähettää palvelun kautta haitallista ja sensationaalista sisältöä, Meillä ei ole avointa uutisvirtaa, emmekä anna tarkastamattomalle sisällölle mahdollisuutta levitä "viraalisti". Sisältöalustamme, Discover, sisältää vain tarkastetuilta mediajulkaisijoilta ja sisällöntuottajilta saatua sisältöä.
Marraskuussa 2020 käynnistimme uuden viihdealustan, Spotlightin, ja valvomme sen sisältöä proaktiivisesti varmistaaksemme, että sisältö on sääntöjemme mukaista, ennen kuin sisältö saavuttaa laajemman yleisön.
Olemme jo pitkään lähestyneet myös poliittista mainontaa eri tavalla. Kuten kaiken Snapchatissa olevan sisällön osalta, olemme kieltäneet väärän tiedon ja petollisen toiminnan mainoksissamme. Kaikkien mainosten, mukaan lukien vaaleihin liittyvät mainokset, jotakin asiaa tai etua ajavat mainokset, tai jostakin asiasta tai ongelmasta tiedottavat mainokset, tulee sisältää läpinäkyvä "maksettu viesti" -ilmoitus, jossa kerrotaan mainoksen maksanut järjestö. Käytämme ihmisten tekemää tarkistusta tarkastaaksemme faktat kaikissa poliittisissa mainoksissa, ja tarjoamme tietoa kaikista mainoksista, jotka läpäisevät tarkastuksemme Poliittisten mainosten kirjastossamme (Political Ads library).
Tämä lähestymistapa ei ole täydellinen, mutta se on auttanut meitä suojaamaan Snapchattia viime vuosien huomattavista kasvaneelta väärän tiedon määrältä. Tätä väärän tiedon määrän kasvua on tapahtunut monilla alustoilla etenkin liittyen COVID-19-virukseen sekä USA:n vuoden 2020 presidentinvaaleihin.
Tänä aikana Snapchat on maailmanlaajuisesti pannut täytäntöön sääntöjä 5 841 sisältöyksikköä ja käyttäjätiliä kohtaan, jotka ovat rikkoneet väärää tietoa koskevia sääntöjämme. Tulevissa raporteissa aiomme tarjota yksityiskohtaisempia erittelyjä väärien tietojen rikkomuksista.
Ottaen huomioon lisääntyneen huolen pyrkimyksistä heikentää ihmisten pääsyä äänestämään ja äänioikeutta, sekä USA:n kesän 2020 vaalituloksien takia, muodostimme sisäisen työryhmän, joka keskittyy mahdollisten alustamme väärinkäytön riskien ja kehityssuuntien arvioimiseen, valvoimme kaikkia kehityskulkuja ja teimme töitä sen eteen, että Snapchat olisi tosiasioihin perustuvien uutisten ja tiedon lähde. Näitä pyrkimyksiä olivat mm.:
Yhteisön sääntöjemme päivittäminen lisäämällä mediamanipulointi harhaanjohtavia tarkoituksia varten, kuten deepfakesyväväärennökset, kielletyn sisällön listallemme;
Teemme yhteistyötä Tutustu-toimituskumppaneidemme kanssa varmistaaksemme, että julkaisijat eivät vahingossa vahvista väärän tiedon leviämistä uutistensa kautta;
Pyydämme Snap Starsia, jonka sisältö näkyy myös Tutustu -sisältöalustallamme, varmistaaksemme, että he noudattavat yhteisön sääntöjä eivätkä tahallaan levitä vääriä tietoja;
Jos sääntöjä rikkova sisältö on johtanut selkeään sääntöjen täytäntöönpanoon pelkän sisällön rikkomuskategorian nimeämisen sijasta, poistimme sen, näin välittömästi vähentäen sen laajemmin leviämisestä aiheutuvaa vahinkoa; ja
Proaktiivisesti analysoimme tahoja ja muita väärän tiedon lähteitä, joita voitaisiin käyttää tällaisen tiedon jakamiseen Snapchatissa riskien arvioimiseksi ja ennaltaehkäisevien toimenpiteiden toteuttamiseksi.
Koko COVID-19-pandemian aikana olemme ottaneet samankaltaisen lähestymistavan tarjota tosiasioihin perustuvia uutisia ja tietoja, mukaan lukien Tutustu-toimituskumppaneidemme julkaisujen kautta, julkisen palvelun ilmoituksien kautta sekä mahdollisuuksilla kysyä kysymyksiä kansanterveysviranomaisilta ja lääketieteen asiantuntijoilta sekä luovilla työkaluilla, kuten lisätyn todellisuuden linsseillä, suodattimilla (filter) sekä muistuttamalla Snapchattaajia asiantuntijoiden kansanterveydellisistä ohjeista.
Sisällön ja tilin valvonta yhteensä
5 841
Kaikkien yhteisömme jäsenten, erityisesti nuorten ja alaikäisten hyväksikäyttö on laitonta, ei-hyväksyttävää ja sääntöjemme kieltämää. Meille on ensisijaisen tärkeää ennaltaehkäistä, havaita ja poistaa väärinkäytökset alustallamme, ja kehitämme jatkuvasti toimintojamme lasten seksuaalisten hyväksikäyttöä sisältävän materiaalin (Child Sexual Abuse Material, CSAM) ja muun hyväksikäyttöä sisältävän sisällön torjumiseksi.
Luottamus- ja turvallisuustiimimme käyttävät ennakoivia havaitsemiskeinoja kuten PhotoDNA -teknologiaa tunnettujen CSAM-kuvien tunnistamiseen. Tämä teknologia ilmoittaa löydöksistään Kadonneiden ja hyväksikäytettyjen lasten järjestöön (Center for Missing and Exploited, NCMEC). Kun havaitsemme tai tunnistamme CSAM-sisältöä, säilytämme materiaalin, ja ja illmoitamme niistä NCMEC:lle, joka käy ne läpi ja ilmoittaa niistä lainvalvontaviranomaisille.
Vuoden 2020 jälkipuoliskolla 2,99 prosenttia kaikista käyttäjätileistä, joita vastaan täytäntöönpanimme sääntöjämme maailmanlaajuisesti yhteisön sääntöjen rikkomisen vuoksi, sisälsi CSAM-sisältöä. Tästä sisällöstä havaitsimme ennakoivasti 73% ja ryhdyimme toimiin sääntöjemme mukaisesti. Kaiken kaikkiaan poistamme 47 550 tiliä ja jokaisessa tapauksessa ilmoitimme sisällöstä NCMEC:lle.
Tänä aikana teimme useita eri toimia estääksemme CSAM-sisällön levittämistä. Otimme käyttöön Googlen Lasten seksuaalisen hyväksikäytön kuvamateriaali (Child Sexual Abuse Imagery, CSAI) -teknologian, joka mahdollistaa CSAM-materiaalia sisältävät videot, jotta voimme ilmoittaa niistä NCMEC:lle. Yhdessä tunnettujen CSAM-materiaalien PhotoDNA-tunnistuksemme ja alan hash-tietokantojen avulla pystymme nyt ennakoivasti havaitsemaan ja ilmoittamaan viranomaisille tiedetyistä videoista ja kuvista. Nämä keinot ovat mahdollistaneet tehokkaamman havaitsemisen ja siten tästä rikollisesta toiminnasta ilmoittamisen.
Lisäksi laajensimme yhteistyötämme alan asiantuntijoiden kanssa ja olemme julkaisseet sovellukseen lisätoimintoja, jotka opettavat Snapchattaajille tuntemattomiin yhteydessä olemisen riskeistä ja siitä, miten sovelluksessa voi tehdä ilmoituksen Luottamus- ja turvallisuustiimeillemme minkälaisesta tahansa hyväksikäytöstä. Jatkamme kumppanien lisäämistä luotettuun sääntöjä rikkovan sisällön merkitsijöiden ohjelmaamme, joka tarjoaa tarkastetuille turvallisuusasiantuntijoille luottamuksellisen kanavan ilmoittaa hätätilanteista, kuten välittömästä uhasta ihmiselämälle tai tapauksesta, johon liittyy CSAM-materiaalia. Teemme myös tiivistä yhteistyötä näiden kumppaneiden kanssa tarjotaksemme turvallisuuskoulutusta, hyvinvointia edistäviä resursseja sekä muuta tukea ilmoittamiseen, jotta he voivat tehokkaasti tukea Snapchat -yhteisöä.
Lisäksi olemme Technology Coalitionin hallituksen jäsen. Tämän järjestön jäseninä on ryhmä teknologia-alan johtavia toimijoita, joiden tavoitteena on estää lasten seksuaalista hyväksikäyttöä verkossa, ja ryhmä tekee jatkuvasti yhteistyötä muiden alustojen ja turvallisuusasiantuntijoiden kanssa tutkiakseeen lisäratkaisuja yhteisten toimiemme vahvistamiseksi tällä saralla.
Poistetut tilit yhteensä
47 550
Kehityksen seuraaminen tällä osa-alueella ja mahdollisten väärinkäytöksiin johtavien kehityssuuntien vähentäminen oli osa USA:n vaalien eheys- ja rehellisyystyöryhmän työtä. Sekä tuotearkkitehtuurimme että ryhmächattimme design rajoittavat haitallisen sisällön levittämistä ja mahdollisuuksia organisoitua. Tarjoamme ryhmächatteja, mutta niiden koko on rajoitettu muutamaan kymmeneen jäseneen, eivätkä algoritmit suosittele niitä käyttäjille, eivätkä ne ole löydettävissä alustallamme, ellei käyttäjä ei ole jo kyseisen ryhmän jäsen.
Vuoden 2020 jälkipuoliskolla poistimme kahdeksan tiliä terrorismia, vihapuhetta ja ääriliikkeisiin liittyvää sisältöä koskevan kieltomme rikkomisesta.
Poistetut tilit yhteensä
8
Tämä osa antaa yleiskatsauksen sääntöjen rikkomisesta aiheutuneista toimenpiteistä yksittäisissä maissa. Yhteisön säännöt koskevat kaikkea Snapchat-sisältöä ja kaikkia Snapchattaajia ympäri maailmaa sijainnista riippumatta.
Kaikkien muiden maiden tiedot ovat saatavana liitetystä CSV-tiedostosta.
Alue
Sisältöilmoitukset*
Toimenpiteisiin johtanut sisältö
Toimenpiteisiin johtaneita ainutlaatuisia tilejä
Pohjois-Amerikka
4 230 320
2 538 416
928 980
Eurooppa
2 634 878
1 417 649
535 649
Muu maailma
3 266 693
1 587 216
431 407
Yhteensä
10 131 891
5 543 281
1 896 015