Certains messages WhatsApp peuvent être vus par les modérateurs, affirme ProPublica [U]

le 07/09/2021 09:30

Certains messages WhatsApp peuvent être vus par les modérateurs, affirme ProPublica [U]

Un rapport d'une source digne de confiance suggère que la société mère fausses allégations de maltraitance d'enfants en Inde, et canulars messages de coronavirus dans le monde entier. La société est connue pour essayer de résoudre ces problèmes par limitant la possibilité de transmettre aveuglément des messages, et d'utiliser d'autres formes de métadonnées pour essayer d'identifier les messages susceptibles d'être du spam. Cependant, la société a été catégorique sur le fait que WhatsApp utilise un cryptage de bout en bout, ce qui signifie que Facebook n'a pas la capacité de voir le ProPublica la pièce suggère que ce n'est pas vrai:

Ces assurances ne sont pas vraies. WhatsApp compte plus de 1 000 contractuels qui remplissent les étages d'immeubles de bureaux à Austin, au Texas, à Dublin et à Singapour, où ils examinent des millions de contenus d'utilisateurs. Assis devant des ordinateurs dans des pods organisés par tâches de travail, ces travailleurs horaires utilisent un logiciel Facebook spécial pour passer au crible des flux de messages privés, d'images et de vidéos qui ont été signalés par les utilisateurs de WhatsApp comme inappropriés, puis filtrés par les systèmes d'intelligence artificielle de l'entreprise. Ces entrepreneurs portent un jugement sur tout ce qui clignote sur leur écran — des allégations de fraude ou de spam à la pornographie juvénile et au complot terroriste potentiel — généralement en moins d'une minute [ Bon nombre des affirmations des modérateurs de contenu travaillant pour WhatsApp sont reprises par une plainte confidentielle de dénonciateur déposée l'année dernière auprès de la Securities and Exchange Commission des États-Unis. La plainte, obtenue par ProPublica, détaille l'utilisation étendue par WhatsApp de sous-traitants externes, de systèmes d'intelligence artificielle et d'informations de compte pour examiner les messages, images et vidéos des utilisateurs. Il allègue que les prétentions de l'entreprise de protéger la vie privée des utilisateurs sont fausses. “Nous n'avons pas vu cette plainte”, a déclaré le porte-parole de l'entreprise. La SEC n'a pris aucune mesure publique à ce sujet; un porte-parole de l'agence a refusé de commenter. Le rapport indique que les modérateurs de WhatsApp travaillent dans des conditions de secret strictes. Les offres d'emploi annoncent des postes de "Revue de contenu" et ne font aucune mention de Facebook ou WhatsApp. Les documents d'emploi énumèrent le titre initial des travailleurs comme " associé à la modération de contenu."La rémunération commence autour de 16,50 an de l'heure. Les modérateurs sont chargés de dire à toute personne qui le demande qu'ils travaillent pour Accenture, et sont tenus de signer des accords de non-divulgation. Cependant, la description de ce qui se passe est confuse.Facebook Instagram et Facebook étant donné que le contenu de WhatsApp est crypté, les systèmes d'intelligence artificielle ne peuvent pas analyser automatiquement tous les chats, images et vidéos, comme ils le font sur Facebook et Instagram. Au lieu de cela, les examinateurs WhatsApp ont accès à du contenu privé lorsque les utilisateurs cliquent sur le bouton “Signaler” de l'application, identifiant un message comme violant prétendument les conditions d'utilisation de la plateforme. Cela transmet cinq messages-le prétendument offensant ainsi que les quatre précédents de l'échange, y compris des images ou des vidéos — à WhatsApp sous forme non brouillée, selon d'anciens ingénieurs et modérateurs de WhatsApp. Les systèmes automatisés alimentent ensuite ces tickets en files d'attente” réactives " pour que les contractuels puissent les évaluer.

Mise à jour: Cette partie de la pièce suggère que les seuls messages signalés peuvent être visualisés. Une déclaration de Facebook n'a pas abordé directement le problème du chiffrement de bout en bout.

Dans les réponses écrites pour cet article, le porte-parole de l'entreprise a déclaré: “Nous créons WhatsApp de manière à limiter les données que nous collectons tout en nous fournissant des outils pour prévenir le spam, enquêter sur les menaces et interdire les abus, y compris en fonction des rapports d'utilisateurs que nous recevons. Ce travail demande des efforts extraordinaires d'experts en sécurité et d'une équipe de confiance et de sécurité précieuse qui travaille sans relâche pour aider à fournir au monde une communication privée.“Le porte-parole a noté que WhatsApp a publié de nouvelles fonctionnalités de confidentialité, y compris” plus de contrôles sur la façon dont les messages des gens peuvent disparaître " ou être consultés une seule fois. Il a ajouté “ " Sur la base des commentaires que nous avons reçus des utilisateurs, nous sommes convaincus que les gens comprennent quand ils font des rapports à WhatsApp, nous recevons le contenu qu'ils nous envoient."

ProPublicaest une organisation de journalisme d'investigation à but non lucratif avec une solide réputation. Nous avons contacté Facebook pour commenter.

Sur le même sujet