Des groupes juifs ont poussé Meta à réprimer les discours de haine. Aujourd’hui, l’entreprise fait marche arrière.

Il y a six mois, des groupes juifs ont célébré une victoire politique lorsque Meta a interdit l’utilisation du mot « sioniste » comme insulte codée contre les Juifs et Israël. Aujourd’hui, les mêmes organisations condamnent l’entreprise pour avoir considérablement assoupli les restrictions d’expression sur ses plateformes de médias sociaux.

« Il est époustouflant de voir comment l’une des entreprises les plus rentables au monde, opérant avec une technologie aussi sophistiquée, prend du recul en termes de lutte contre l’antisémitisme, la haine, la désinformation et de protection des groupes vulnérables et marginalisés en ligne », a déclaré l’Anti-Defamation. Le PDG de la Ligue, Jonathan Greenblatt, a déclaré dans un communiqué.

Greenblatt répondait aux questions du PDG de Meta, Mark Zuckerberg annonce que l’entreprise supprimerait son programme de vérification des faits et élargirait les termes de ce qui peut être dit sur Facebook et Instagram. Il cessera également d’utiliser l’automatisation pour détecter et supprimer les discours de haine – en limitant son utilisation à la détection du terrorisme, de l’exploitation sexuelle des enfants et d’autres infractions.

« C’est un compromis », a déclaré Zuckerberg dans un message vidéo. « Cela signifie que nous allons détecter moins de mauvaises choses, mais nous réduirons également le nombre de publications et de comptes de personnes innocentes que nous supprimons accidentellement. »

Zuckerberg, qui est juif, a déclaré que ces mesures répondaient à ce qu’il a appelé un « point de basculement culturel » suite à l’élection présidentielle américaine. Les conservateurs prétendent depuis longtemps que Meta supprime le discours de droite, et les conseillers et les détracteurs de Zuckerberg ont tous deux expliqué cette décision comme une pivot stratégique pour s’adapter à une ère politique de plus en plus façonné par Donald Trump et le Parti républicain.

Pour remplacer son programme de vérification des faits, Meta a déclaré qu’il introduirait une fonctionnalité de « notes de la communauté » similaire à celle de X, la plate-forme de médias sociaux appartenant à l’allié de Trump, Elon Musk, et qu’il favoriserait par ailleurs le fait de permettre aux utilisateurs de réfuter les messages qu’ils considèrent comme répréhensibles. les supprimant entièrement.

« Nous voulons mettre fin à la dérive qui a rendu nos règles trop restrictives et trop sujettes à une application excessive », a déclaré la société dans son communiqué. «Nous supprimons un certain nombre de restrictions sur des sujets tels que l’immigration, l’identité de genre et le genre, qui font l’objet de fréquents discours et débats politiques. Il n’est pas juste que des choses puissent être dites à la télévision ou au Congrès, mais pas sur nos plateformes.»

Les changements pourraient affecter considérablement ce que les utilisateurs voient sur les réseaux sociaux. L’année dernière, les systèmes automatisés de Meta ont détecté environ 95 % des violations de discours de haine sur Facebook et 98 % sur Instagram, selon données auto-rapportées par l’entreprise. En conséquence, des millions de messages ont été supprimés.

Il s’agit d’un signe positif pour les militants qui luttent contre la prolifération de l’antisémitisme et d’autres discours de haine en ligne. Meta a toujours sollicité des commentaires extérieurs lorsqu’elle était confrontée à des questions de contenu, et des groupes juifs, tels que l’ADL, le Congrès juif mondial et une organisation à but non lucratif axée sur l’antisémitisme en ligne appelée CyberWell, ont fait pression sur l’entreprise pendant des années dans l’espoir de freiner l’antisémitisme en ligne.

Aujourd’hui, ces groupes rechignent au retrait du géant des médias sociaux du contrôle du contenu sur ses plateformes, qu’il a annoncé après une refonte de la politique post-électorale dans six semaines aurait été mené par Zuckerberg et seulement une poignée de confidents.

Le Congrès juif mondial, par exemple, a critiqué le nouveau recours de Meta aux « notes communautaires » générées par les utilisateurs pour lutter contre la désinformation, arguant que cela transfère le fardeau de la lutte contre les discours de haine sur les groupes marginalisés.

« Dans un environnement en ligne déjà en proie à l’hostilité, la réduction des protections et des directives claires ouvriront les vannes à des contenus qui alimentent des menaces réelles, y compris des actes de violence visant les communautés juives », a déclaré Yfat Barak-Cheney, directeur exécutif du département Technologie et Humanitaire de l’organisation. Institut des droits.

Le débat sur la manière de contrôler la désinformation revêt d’énormes conséquences pour les Juifs, dans la mesure où des études montrent un lien étroit entre la propagation des théories du complot et les attitudes antisémites.

« Ce changement signifie une chose, tout à fait conforme à la tendance en termes de quantité et de qualité du contenu que nous avons constatée sur X depuis que Musk a acquis Twitter – plus de discours de haine, plus de contenu politisé, plus de silos et des réponses moins efficaces de la part des plateformes. « , a déclaré Tal-Or Cohen Montemayor, qui dirige CyberWell, basé en Israël, dans un communiqué.

« Ce changement compromet particulièrement la sécurité de toutes les communautés marginalisées, y compris la communauté juive qui subit actuellement l’une des pires attaques de haine envers les Juifs généralisée, tant dans les espaces en ligne que hors ligne », a ajouté Montemayor.

Peu de temps après que Meta ait annoncé le changement de politique – d’abord dans une bobine Instagram de Zuckerberg, puis dans une apparition sur Fox & Friends de Joel Kaplan, un agent républicain qui a longtemps travaillé pour Meta et a récemment été nommé président des affaires mondiales – des documents de formation divulgués ont fait surface avec des exemples de propos désobligeants qui seront désormais autorisés sur les plateformes de l’entreprise.

Les documents, obtenus par l’agence de presse de gauche L’interception et non contestés par Meta, incluent des exemples antisémites, tels que « Les Juifs sont carrément plus avares que les Chrétiens ». D’autres exemples de discours de haine autorisés ciblent d’autres groupes, avec des déclarations telles que « Les gays sont des monstres ! et « Les immigrants sont des merdes sales et sales. »

Certaines déclarations haineuses à l’égard des Juifs restent interdites par la nouvelle politique. Par exemple, les modérateurs de contenu ont pour instruction de supprimer les commentaires tels que « Les femmes juives sont des salopes » en vertu des directives traitant des « insultes à l’immoralité sexuelle ». De même, les règles de Meta continuent d’interdire l’utilisation de certains mots injurieux destinés à des groupes protégés ; par exemple, « Ugh, ces putains de Juifs recommencent » ne serait pas autorisé.

Meta n’a pas immédiatement répondu à une demande concernant le sort de l’interdiction d’utiliser le terme « sioniste » comme représentant des Juifs et d’Israël dans les discours de haine.

La société n’a pas non plus signalé de changement à son interdiction du négationnisme dans son annonce, et les documents divulgués n’ont pas non plus abordé l’interdiction, ce qui Zuckerberg annoncé en 2020renversant une position antérieure sous la pression des groupes juifs. Certains groupes d’éducation et de défense disent que la détection automatique des contenus haineux a piégé leurs efforts pour créer du contenu éducatif sur l’Holocauste; Presque tous les « dépassements algorithmiques » de cette nature appartiendraient au passé grâce à la nouvelle approche de Meta.