Moonbounce ha recaudado recientemente 12 millones de dólares para mejorar la moderación de contenido mediante IA. La empresa ha desarrollado un modelo de lenguaje grande capaz de evaluar contenido en tiempo real.
Escuchar el artículo
Escucha el artículo con una voz de IA natural.
IA explicada
¿Cómo mejora Moonbounce la moderación de contenido con IA?
Moonbounce ha desarrollado un modelo de lenguaje grande que evalúa contenido en tiempo real según las políticas del cliente. Su sistema responde en menos de 300 milisegundos para bloquear o limitar contenido hasta la revisión humana. Actualmente realiza más de 40 millones de evaluaciones diarias y atiende a más de 100 millones de usuarios activos.
- Resumen: Moonbounce usa IA para moderar contenido generado por usuarios en tiempo real, mejorando la precisión y rapidez.
- Por qué importa: La solución aborda las limitaciones de la moderación humana frente al aumento de contenido y chatbots de IA.
- Punto clave: Su modelo permite decisiones rápidas y adaptadas a políticas específicas, útil para plataformas digitales con alto volumen de usuarios.
Moonbounce lanza modelo de IA para moderación de contenido en tiempo real
Moonbounce, fundada por Brett Levenson, tiene como objetivo mejorar la moderación de contenido para plataformas que gestionan contenido generado por usuarios. La empresa ha desarrollado un modelo de IA que puede analizar contenido basándose en las políticas del cliente y ofrecer respuestas en menos de 300 milisegundos. Esto permite tomar decisiones rápidas sobre el contenido, ya sea bloqueándolo o limitando su distribución hasta que pueda ser revisado por humanos.
Levenson, quien trabajó anteriormente en Apple, descubrió que los métodos tradicionales de moderación de contenido no eran suficientes. Los moderadores humanos disponían de poco tiempo para evaluar el contenido, lo que provocaba imprecisiones. Con el aumento de los chatbots de IA, los desafíos en la moderación de contenido se han vuelto más urgentes. Moonbounce se centra en tres áreas principales: aplicaciones de citas, empresas de IA que desarrollan personajes y generadores de imágenes con IA. La empresa ya realiza más de 40 millones de evaluaciones diarias y atiende a más de 100 millones de usuarios activos.
Perspectivas para el mercado español
Valoración breve de AIny: Moonbounce ofrece una solución concreta para empresas españolas que buscan mejorar la seguridad en sus plataformas digitales. Implementar herramientas de moderación impulsadas por IA puede ayudar a desarrolladores españoles a reducir riesgos asociados con contenido dañino. Esto resulta especialmente relevante para compañías que trabajan con contenido generado por usuarios y tecnología de IA.
Fuente: TechCrunch
Lee también: OpenAI adquiere el programa tecnológico TBPN para impulsar el debate sobre IA
