Un ataque a Fireworks, proveedor de IA de Notion, expone conversaciones con su asistente: qué pasó y qué hacer

Notion, la aplicación de notas y trabajo en equipo, ha confirmado que conversaciones de algunos clientes con su asistente Notion AI quedaron expuestas tras un ataque a Fireworks AI, una empresa que le prestaba servicios de infraestructura para ejecutar modelos de inteligencia artificial. Según el aviso de seguridad de Notion, el incidente afecta a menos del 1 % de los espacios de trabajo y los sistemas propios de Notion no fueron vulnerados.

El caso es un recordatorio de un riesgo poco visible: lo que se escribe a un asistente de IA puede acabar procesado, y a veces almacenado, por empresas distintas de la que ofrece el servicio.

Qué datos se vieron afectados

Según Notion, el conjunto de datos afectado incluía transcripciones de chats de Notion AI usadas para la función Insights, que permite a los administradores ver cómo usa la herramienta su equipo. La empresa precisa que, en la mayoría de los espacios afectados, esas transcripciones son «no atribuibles»: no indican quién las escribió ni a qué espacio de trabajo pertenecen, y no incluyen los resultados de las herramientas que usa el asistente.

El riesgo está en el contenido. Si un usuario pegó en el chat datos internos, contraseñas o claves de acceso, esa información puede estar en manos de terceros. Por eso Notion pide a los clientes afectados que traten esos datos como expuestos.

Cronología

Según el aviso de Notion y VentureBeat:

• 9 de octubre: Fireworks publica un primer boletín sobre un incidente de seguridad.
• 23 de octubre: un proveedor de nube que alojaba máquinas de desarrollo de Fireworks sufre un incidente.
• 24 de octubre: un tercero no autorizado usa ese acceso para llegar a esas máquinas, lo que causa un impacto adicional en datos de clientes.
• 2 de noviembre: Fireworks avisa a Notion de un acceso a un pequeño conjunto de datos que, según la investigación de Notion, solo contenía datos de prueba sintéticos.
• 3 de noviembre: como precaución, Notion se desconecta de Fireworks y borra todos sus datos en esa plataforma.
• 6 de noviembre: Fireworks informa de que pudo haberse accedido a datos de clientes.
• 8 de noviembre: Fireworks confirma el conjunto final de datos afectados.
• 9 de noviembre: Notion contacta con los clientes afectados.
• 11 de noviembre: Notion revoca claves de su API que había encontrado expuestas en mensajes de usuarios afectados.

Quién estaría detrás

Fireworks atribuye la actividad a un grupo con motivación económica cuyo objetivo es vender acceso no autorizado a grandes modelos de lenguaje, según VentureBeat. Es lo que se conoce como LLMjacking: apropiarse del acceso a modelos de IA ajenos para usarlo o revenderlo. TodoWeb explicó esta práctica a propósito del agente «Skynet» descrito por Symantec. Las fuentes consultadas no identifican al grupo.

La letra pequeña de la «retención cero»

VentureBeat pone el foco en un detalle. Fireworks anuncia retención cero de datos por defecto en la inferencia, pero su propia documentación reconoce que algunas funciones sí almacenan contenido de los clientes, como las respuestas guardadas, los trabajos por lotes o el entrenamiento. Su actualización del 9 de noviembre afirma que no detectó impacto en la inferencia y otros servicios con retención cero por defecto. Ninguna de las dos empresas ha explicado qué función de Fireworks guardaba las transcripciones de Notion, según ese medio.

Qué ha hecho Notion

• Ha desactivado la función Insights mientras dura la investigación.
• Ha dejado de usar Fireworks para servir modelos de pesos abiertos en su producto.
• Ha enviado correos a los clientes afectados con instrucciones para recuperar y revisar sus datos de forma segura.
• Ha revocado las claves de su API que encontró expuestas.

Qué hacer si usas Notion

Notion da tres indicaciones:

1. Si no has recibido un aviso, la empresa no ha identificado tu espacio de trabajo como afectado y, por ahora, no tienes que hacer nada. Notion dice que contactará con cualquier cliente que identifique más adelante.
2. Si tu espacio de trabajo está afectado, trata como expuesta la información de esos chats.
3. Si pegaste contraseñas, claves de API u otras credenciales en Notion AI durante el periodo del incidente, cámbialas. VentureBeat añade un matiz de Fireworks: borrar una clave guardada no la invalida; hay que revocarla o rotarla en el servicio que la emitió.

Lectura de TodoWeb

El incidente no afecta a los servidores de Notion, pero muestra que la cadena de un asistente de IA es más larga de lo que parece. Detrás de una sola aplicación puede haber varios proveedores que ejecutan modelos o clasifican datos, y cada eslabón añade un punto de exposición. Para cualquier usuario, la recomendación práctica es la misma con cualquier asistente: no pegar contraseñas ni claves en un chat. Para las empresas, la pregunta abierta es qué datos guardan sus proveedores de IA, algo que las fuentes consultadas no han aclarado en este caso.

Más noticias sobre modelos, empresas y riesgos de la inteligencia artificial en la sección de IA.