La vague antisémite de Grok Xai d’Elon Musk le fait clairement: AI constitue une réelle menace pour les Juifs

Plus tôt cette semaine, Grok – le chatbot de l’IA appartenant à l’Elon Musk d’Elon Musk – a décidé d’aller en plein nazi. Publiant sur X, il a utilisé des tropes antisémites et a plaidé pour un nouvel holocauste, tout en faisant l’éloge de Hitler, se qualifiant de mechahitler et vantant sa propre volonté de dire courageusement la vérité sans entrave. « Remarquer n’est pas blâmé », a-t-il déclaré, en utilisant un terme largement adopté par les antisémites.

Sur X, la Ligue anti-diffamation a condamné Grok pour la «suralimentation de la rhétorique extrémiste». Beaucoup d’autres ont fait de même.

Ce soir-là, Grok avait cessé de défendre le meurtre de masse des Juifs et de nombreux postes ont maintenant été retirés; Le bot nie maintenant que tout ce qui sort de l’ordinaire s’est jamais produit, même si son compte X a publié une explication.

« Nous sommes conscients des messages récents réalisés par Grok et travaillons activement pour supprimer les postes inappropriés », a tweeté le compte de la société. « Depuis qu’il a été informé du contenu, Xai a pris des mesures pour interdire le discours de haine avant que les publications Grok sur X. Xai ne forment uniquement la recherche de vérité et grâce aux millions d’utilisateurs sur X, nous sommes en mesure d’identifier et de mettre à jour rapidement le modèle où la formation pourrait être améliorée. »

Mais bien que le problème immédiat ait été résolu, la capacité explosive de l’IA à répandre la rhétorique antisémite est tout aussi présente que jamais. Grok est peut-être l’antisémite numérique de l’époque, mais la question de l’antisémitisme de l’IA n’est pas unique à Musk ou X. Il est temps pour les dirigeants juifs de prendre cela au sérieux et de comprendre que l’IA non réglementée constitue une menace particulière pour les Juifs.

Cette semaine n’était pas la première fois qu’un chatbot devient de l’antisémite. En 2016, Tay de Microsoft a commencé à nier l’Holocauste après avoir été poussé par les utilisateurs; Un canal Twitch a fait de même en 2022. Étant donné que l’Internet contient déjà beaucoup de contenu antisémite, tout modèle de langage grand formé sur Internet doit être informé de s’éloigner de ce contenu. S’il devient «mal aligné» (le terme technique pour une IA qui est en décalage avec les objectifs et les valeurs humains), il a beaucoup de contenu sur lequel dessiner.

Malheureusement, il n’est pas difficile que cela se produise même pour les entreprises qui n’essaient pas activement de nuire aux Juifs. Des recherches récentes ont montré qu’il est relativement facile de désaligner les systèmes d’IA, et que les résultats «mauvais» semblent être regroupés. Cela signifie qu’une IA qui donne des conseils malveillants peut également être plus susceptible de sympathiser avec les nazis. En fait, il semble que le bref Dalliance de Grok avec Hitler soit peut-être le résultat d’un ajustement mineur à son code.

Les Juifs ne sont évidemment pas les seuls aux personnes menacées par l’IA mal alignée; Eliezer Yudkowsky, technologue influent, estime qu’il est tout à fait possible que nous soyons tous tués par cela (un risque que le PDG de Google prenne également au sérieux), et de nombreuses personnes s’inquiètent de la perte d’emploi. (À propos du moment Hitler de Grok, Yudkowsky a tweeté: «L’alignement par défaut fonctionne très bien, tant que vous n’êtes pas trop pointilleux sur le type d’alignement que vous obtenez par défaut.») En raison de l’impact répandu de l’IA, les réponses religieuses à l’IA ont tendance à sembler très similaires; Les choses que le pape Leo XIV dit n’est pas sensiblement différente de ce que vous entendriez d’un ministre averti en technologie ou d’un rabbin de chaire. Les chefs religieux se soucient de la capacité de l’IA à exacerber les inégalités, à créer de nouvelles opportunités d’exploitation et à conduire les gens à un nouveau isolement social – mais aussi à tout le monde.

Mais pour les Juifs, les enjeux sont un peu plus élevés. En tant que petite minorité inégalement distribuée de la population américaine, les médias jouent un rôle surdimensionné dans l’attitude du public envers le peuple juif. L’IA joue un rôle toujours plus grand dans ce paysage médiatique, de sorte que tous les biais qu’il présente pourrait être rapidement distribué à des milliards de personnes.

Ce n’est certainement pas la première fois que l’Internet est utilisé pour répandre l’antisémitisme, mais la confiance de l’IA et son auto-présentation en tant que fait objectif le rendent plus dangereux, ce qui lui permet de laver une protocole de protocoles d’idées antisémites dans la culture populaire avant que quiconque ne le remarque. Si Nick Fuentes dit quelque chose d’antisémitique, vous pouvez le faire face à lui être un antisémite; Si vous le lisez sur GAB ou 4CHAN, la plate-forme même donne une indication de son (manque de) valeur. Mais si l’IA dit la même chose, vous pourriez raisonnablement penser que c’est un consensus public.

Nous plaisantons lorsque l’IA trop surgnait les dashs Em ou le mot «plongez». Et si ses tendances finissent par être plus difficiles à repérer et plus dangereuses?

À l’heure actuelle, la discussion juive sur l’antisémitisme et l’IA ne se croisent principalement pas; Les conversations dans ce dernier camp ont tendance à faire face à l’avenir de l’éducation ou même de la théologie, et ces conversations ne sont (ironiquement pas) une orientation juive majeure en raison de nos angoisses autour de l’antisémitisme. Mais une réponse complète à l’antisémitisme au 21e siècle exige que nous plaidons pour les systèmes d’IA qui se défend plus vigoureusement contre le fanatique, discriminatoire et faux. Ces systèmes ne seront jamais parfaits, mais l’attitude rapide de l’ensemble du secteur technologique rend plus probable que ces erreurs se produisent. Pour le bien des Américains en général et des Juifs en particulier, nous devons nous assurer que les systèmes d’IA sont régulièrement audités pour leur impact et devraient décourager l’utilisation de modèles qui sont gérés de manière erratique ou évitent la transparence. Ces chèques deviendront particulièrement importants si les modèles non américains, tels que Deepseek de la Chine, commencent à dépasser les modèles locaux.

Dans le passé, les Juifs ont incorporé des préoccupations concernant leur propre persécution dans des poussées plus larges à l’égalité dans la société américaine. De nombreux théoriciens, dont Theodor Adorno et Hannah Arendt, ont soutenu que les hausses de l’antisémitisme coïncident avec une décroissance sociétale plus large. Dans le développement de l’IA, il est clair que cette relation est pleinement intacte. Nous devons faire pression pour que l’IA soit meilleure – à la fois pour nous-mêmes et pour les autres.