Moonbounce, una nueva empresa tecnológica fundada por el exdirector de integridad de negocios de Meta, Brett Levenson, ha levantado una ronda de financiación para desarrollar herramientas de moderación de contenido diseñadas para la era de la inteligencia artificial.
Brett Levenson dejó Apple en 2019 para unirse a Facebook, ahora Meta, y liderar su equipo de integridad comercial. Según un perfil de la empresa, su misión era abordar los complejos problemas de moderación de contenido que plagaban a la red social.
Sin embargo, su experiencia dentro de la compañía lo llevó a concluir que los sistemas existentes, que dependían en gran medida de revisores humanos con políticas poco claras y tiempo limitado, eran insuficientes y reactivos.
Levenson declaró que la precisión de aquellas decisiones humanas rápidas era “ligeramente mejor que del 50%”, según recoge un reportaje. Este enfoque tardío no sirve para contener a actores malintencionados y se ha vuelto aún más problemático con la proliferación de chatbots de IA generativa.
La necesidad de un sistema nuevo y más ágil fue el germen de Moonbounce.
La startup de Levenson ha cerrado con éxito una ronda de financiación. Reportes de medios especializados indican que el monto recaudado asciende a 12 millones de dólares. El capital se destinará a impulsar el desarrollo de su tecnología principal.
Moonbounce construye herramientas que analizan contenido en tiempo real para plataformas que utilizan modelos de lenguaje grande (LLMs) y chatbots. A diferencia de los sistemas tradicionales que actúan después de que el daño ocurre, su tecnología pretende identificar conversaciones potencialmente dañinas, como aquellas que podrían conducir a autolesiones, en milisegundos o menos.
La acción no es necesariamente bloquear. El sistema puede ralentizar la distribución del contenido mientras espera una revisión humana o, de manera más innovadora, redirigir la conversación.
Esto significa modificar las instrucciones del usuario en tiempo real para guiar al chatbot hacia una respuesta más empática y de apoyo, en lugar de ofrecer un rechazo directo.
La propuesta de valor reside en su velocidad y su enfoque proactivo. Para plataformas sociales y desarrolladores de chatbots, esto podría significar una reducción significativa del riesgo asociado a interacciones dañinas automatizadas.
La tecnología busca ser un componente esencial en la pila de cualquier empresa que despliegue asistentes de IA conversacionales. El modelo de negocio de Moonbounce parece ser el de una empresa de software independiente que vende sus herramientas a otras compañías, aunque su fundador reconoce el encaje natural que tendría dentro de la operación de su antiguo empleador, Meta.