Select your country

Not finding what you are looking for, select your country from our regional selector:

Buscar

| Blog

De «Dinootoo» a «Live Intelligence»: entre bastidores de una plataforma de IA segura con Steve Jarrett

Lo esencial de tu actualidad sobre ciberseguridad

  • Lanzamiento de una plataforma de IA segura dentro del grupo Orange: Orange creó «Dinootoo» en 2023 para ofrecer una herramienta de IA segura, utilizada inicialmente a nivel interno, que rápidamente ganó popularidad y permitió crear más de 20.000 asistentes personalizados para mejorar el trabajo de los empleados;
  • Un entorno de IA seguro y soberano: diseñado para evitar el uso no controlado de la IA («Shadow AI»), «Dinootoo» integra modelos de IA de proveedores reconocidos, con un alojamiento seguro en Europa, para garantizar el cumplimiento normativo y la seguridad de los datos;
  • De una herramienta interna a una solución comercial: tras su éxito, la plataforma pasó a llamarse «Live Intelligence» y comenzó a ofrecerse a los clientes B2B del grupo Orange, con perspectivas de integración de IA agéntica para 2026, con el objetivo de automatizar y optimizar aún más la ejecución de tareas complejas.

La creación de un entorno de trabajo con IA seguro y soberano

En septiembre de 2023, Orange lanzó su herramienta interna de IA, «Dinootoo». Menos de un año después de la irrupción de ChatGPT en nuestras vidas, la plataforma integró este modelo, así como Gemini, Claude y Mistral. El proyecto tuvo tanto éxito dentro del Grupo que posteriormente dio lugar a «Live Intelligence», una plataforma de IA soberana impulsada por Orange Business y protegida por Orange Cyberdefense. Mientras el uso de la IA se generaliza en las empresas, hemos entrevistado a Steve Jarrett, director de IA de Orange, para conocer todos los detalles sobre la importancia de contar con una inteligencia artificial fiable y segura en el entorno laboral.

¿Cuál es su visión de la IA y la ciberseguridad?

Steve Jarrett, director de IA de Orange: «La inteligencia artificial (IA) representa tanto una oportunidad como un riesgo en materia de ciberseguridad. Día tras día, vemos cada vez más contenidos creados con inteligencia artificial generativa (también conocida como IA generativa o Gen AI) que resultan cada vez más convincentes, pero que no son reales. Creo que asistiremos a un uso fraudulento masivo de la IA para engañar a las personas, ya sea para conseguir que divulguen información confidencial o privada, o para inducirlas a comprar productos inexistentes. Por lo tanto, existen numerosos riesgos.

Pero estoy convencido de que la IA también es la mejor manera de resolver estos problemas. Puede ayudar a identificar patrones inusuales o a detectar si un contenido - ya sean imágenes, vídeos o textos - ha sido generado por una máquina o por un ser humano. También facilitará la interacción con potentes herramientas de defensa.

Para mí, uno de los grandes avances que representa la IA generativa es la capacidad de comunicarse de forma natural con un ordenador. Esta capacidad nos permite hoy en día crear o interactuar con herramientas potentes que antes estaban reservadas a los programadores. Gracias a la IA, ahora es posible obtener rápidamente un primer borrador, e incluso el prototipo de una herramienta, simplemente describiendo con lenguaje natural el tipo de proyecto que queremos desarrollar.

Este es exactamente el tipo de interacción que podremos tener con un sistema de ciberseguridad: describir qué tipo de información queremos recibir, en qué situaciones necesitamos recibir alertas urgentes, quién debe enviárnoslas, etc. Creo que la IA no solo nos ayudará a combatir los ciberataques, sino que también permitirá mantener conversaciones en lenguaje natural para configurar y personalizar las defensas de ciberseguridad.

Más allá de los analistas y expertos en ciberseguridad, la IA también será útil en el día a día de los consumidores. Por ejemplo, podrán pedirle que «filtre los mensajes de personas que no conozco». Y si sospechan que un contenido ha sido generado por IA, o simplemente consideran que es inapropiado, podrán pedirle que lo «elimine».

Permitir que el software se adapte a las necesidades de cada persona mediante una conversación natural será una herramienta muy potente. Precisamente este tipo de interacciones y experiencias personalizadas son las que se desarrollarán en numerosos ámbitos, incluida la ciberseguridad».

¿Se diseñó «Dinootoo» para mejorar la eficiencia de los equipos o como respuesta al uso no controlado de la IA?

Steve Jarrett: «Teníamos ambos objetivos en mente. Al principio, se trataba de un proyecto de investigación desarrollado por un pequeño equipo, que respondía a nuestros requisitos de seguridad y ofrecía una alternativa para evitar el uso no controlado de la IA («Shadow AI»).

Nuestro objetivo era crear una herramienta de IA de uso general que fuera potente, fácil de utilizar, segura y conforme con los requisitos europeos relativos al almacenamiento y uso de los datos.

Identificamos oportunidades reales para ofrecer una amplia gama de modelos de IA con el fin de mejorar el trabajo diario de los empleados. Sin embargo, también existían preocupaciones sobre la transmisión de datos a modelos fuera de nuestro control, alojados en plataformas no gestionadas y sin obligaciones contractuales en materia de seguridad.

También observamos un uso creciente de la «Shadow AI»: los empleados utilizaban estas herramientas sin supervisión, lo que aumentaba los riesgos.

Lanzamos «Dinootoo» a finales de 2023, integrando modelos de IA de proveedores como OpenAI, Google, Anthropic y Mistral.

Esta herramienta segura permite a los empleados de Orange realizar sus tareas diarias, como resumir reuniones, mejorar documentos y analizar grandes cantidades de información interna y externa.

Además, hemos seguido incorporando nuevas funcionalidades en función de los comentarios y las solicitudes que hemos recibido».

¿Se creó «Dinootoo» como una «prueba de concepto» (POC) con vistas a desarrollar una solución comercial?

Steve Jarrett: «Inicialmente, no concebimos «Dinootoo» como la base de un proyecto comercial. En sus orígenes, se diseñó para responder a las necesidades internas del grupo Orange.

Al principio, pensábamos que lo utilizaría un número reducido de empleados. Sin embargo, resultó ser muy popular. Una de las funcionalidades más solicitadas por nuestros empleados dentro del Grupo era la posibilidad de crear asistentes personalizados, dedicados a tareas específicas. Y los empleados de Orange han creado más de 20.000 asistentes.

Fue una grata sorpresa para nosotros: no solo se valoraba positivamente nuestra herramienta inicial, sino que la posibilidad de personalizarla según las necesidades de cada usuario tuvo una acogida entusiasta.

Por ejemplo, nuestra plataforma de IA ahora puede crear presentaciones de PowerPoint a partir de simples instrucciones (prompts). Hemos trabajado intensamente para incorporar los comentarios de los usuarios internos.

Dentro de este entorno seguro, combatimos la «Shadow AI» garantizando la integración de modelos de IA validados y supervisados, con alojamiento de los datos en Europa».

La creciente popularidad de Dinootoo dentro del grupo Orange ha superado mis expectativas. Además, hemos recibido comentarios muy positivos de numerosos clientes B2B.

¿Cómo consiguieron convencer a estas plataformas de IA para que se integraran en «Dinootoo»?

Steve Jarrett: «En Orange tenemos la suerte de contar con un equipo de investigación altamente especializado, especialmente en el ámbito de la IA. Más de 100 doctorandos de mi equipo se dedican por completo a la investigación y han centrado su trayectoria profesional en la inteligencia artificial.

Gracias a la calidad de este equipo, los proveedores de modelos de IA nos reconocen como un socio de confianza.

Se mostraron muy receptivos a la posibilidad de que utilizáramos sus modelos en un entorno seguro, ubicado en Europa, con restricciones sobre la transferencia de datos fuera de la empresa y su utilización para entrenar otros modelos.

Fuimos uno de los primeros socios de Google y Mistral en este ámbito. Además, fuimos la primera empresa francesa en establecer una relación comercial directa con OpenAI.

Nuestra sólida reputación nos ha permitido llevar a cabo estas iniciativas con todos nuestros socios».

¿Cómo pasó esta plataforma interna de IA a convertirse en una solución comercial completa?

Steve Jarrett: «Nuestro objetivo inicial era alcanzar unos 10.000 usuarios entre los empleados de Orange. Hoy nos acercamos a los 100.000 usuarios, de una plantilla total de aproximadamente 130.000 personas.

Hacemos un seguimiento exhaustivo del uso de la plataforma y de las distintas formas en que se utiliza, y realizamos encuestas para medir el nivel de satisfacción. De media, los empleados del Grupo afirman que pueden ahorrar dos horas a la semana gracias a esta herramienta.

Supervisamos las tasas de uso semanales y mensuales y escuchamos atentamente sus necesidades para seguir mejorando la solución.

Este éxito nos llevó a cambiar su nombre por «Live Intelligence» para ofrecerla a nuestros clientes B2B. Orange Business consideró que se trataba de una solución muy interesante para empresas similares a la nuestra.

De hecho, muchas empresas necesitan una solución de IA potente, segura y capaz de responder a las necesidades de numerosos empleados, a un precio razonable en comparación con otras plataformas.

«Live Intelligence» responde hoy a una necesidad real: ofrecer herramientas potentes y asequibles para todos.

Estamos incorporando cada vez más herramientas de análisis e integrando también los modelos de IA más recientes.

Muchos de estos nuevos modelos tienen capacidad de razonamiento. Esto significa que pueden elaborar planes o esquemas de las acciones que deben llevarse a cabo y, posteriormente, proponer una serie de pasos para resolver problemas más complejos.

Esto resulta especialmente interesante, ya que también permite ofrecer una asistencia cada vez más especializada, sobre todo para tareas complejas».

¿Cuáles son los próximos pasos para «Live Intelligence»?

Steve Jarrett: «La IA agéntica representa un paso importante: le asignas una tarea a tu agente y este dispone de mayor autonomía para decidir qué herramientas utilizar para llevarla a cabo. Y próximamente, estos agentes de IA se integrarán en «Live Intelligence» en 2026».

Inteligencia artificial: ¿ángel o demonio?

Descubre la segunda edición de «Ctrl: 8 minutos para mantener el control».

Línea de atención