Moonbounce a récemment levé 12 millions de dollars pour améliorer la modération de contenu grâce à l’IA. L’entreprise a développé un grand modèle de langage capable d’évaluer le contenu en temps réel.
Écouter l’article
Écoutez l’article avec une voix IA naturelle.
IA expliquée
Comment Moonbounce utilise l'IA pour la modération de contenu en temps réel ?
Moonbounce a développé un modèle d'IA capable d'analyser et modérer le contenu en moins de 300 millisecondes selon les politiques clients. Cette solution cible les plateformes avec du contenu généré par les utilisateurs, notamment dans les applications de rencontres, les personnages IA et les générateurs d'images. L'entreprise réalise plus de 40 millions d'évaluations quotidiennes et dessert plus de 100 millions d'utilisateurs actifs.
- En bref: Moonbounce utilise un grand modèle de langage pour modérer le contenu en temps réel sur diverses plateformes.
- Pourquoi c’est pertinent: La modération rapide et précise est essentielle face à la montée des contenus générés par IA et aux limites des modérateurs humains.
- Point clé: La technologie permet de bloquer ou limiter la diffusion de contenu problématique avant une évaluation humaine.
Moonbounce lance un modèle d’IA pour la modération de contenu en temps réel
Moonbounce, fondée par Brett Levenson, vise à améliorer la modération de contenu pour les plateformes gérant du contenu généré par les utilisateurs. L’entreprise a créé un modèle d’IA capable d’analyser le contenu en se basant sur les politiques clients et de fournir une réponse en moins de 300 millisecondes. Cela permet de prendre rapidement des décisions concernant le contenu, soit en le bloquant, soit en limitant sa diffusion jusqu’à ce qu’une évaluation humaine soit possible.
Levenson, ancien employé d’Apple, a constaté que les méthodes traditionnelles de modération n’étaient pas suffisantes. Les modérateurs humains disposaient de peu de temps pour évaluer le contenu, ce qui entraînait des imprécisions. Avec la montée des chatbots IA, les défis liés à la modération se sont intensifiés. Moonbounce cible trois secteurs principaux : les applications de rencontres, les entreprises développant des personnages IA, et les générateurs d’images IA. L’entreprise réalise déjà plus de 40 millions d’évaluations quotidiennes et dessert plus de 100 millions d’utilisateurs actifs.
Perspective pour le marché français
Analyse AIny : Moonbounce propose une solution concrète pour les entreprises françaises souhaitant renforcer la sécurité de leurs plateformes numériques. En intégrant des outils de modération pilotés par l’IA, les développeurs français peuvent réduire les risques liés aux contenus nuisibles. Cette technologie est particulièrement pertinente pour les sociétés travaillant avec du contenu généré par les utilisateurs et les technologies d’IA.
Source : TechCrunch
Lire aussi : Une étude révèle la reddition cognitive des utilisateurs d’IA
