O que aconteceu
A Notion informou que uma violação de segurança na Fireworks AI, empresa que fornece infraestrutura de IA para a plataforma, expôs transcrições de chats do Notion AI em um pequeno número de workspaces. A empresa diz que menos de 1% dos seus usuários foi afetado.
O recurso envolvido é o Notion AI, um assistente que responde perguntas, resume conteúdos e ajuda a redigir textos dentro do workspace. Segundo a Notion, a Fireworks roda alguns dos modelos abertos disponíveis no produto e analisa conversas para o recurso Insights, que mostra aos administradores como as equipes usam a IA.
Linha do tempo do incidente
Em 23 de outubro, segundo a própria Fireworks, um invasor acessou o ambiente de desenvolvimento da empresa por meio de um provedor de nuvem terceiro. Metadados de recursos, informações de faturamento, pesos de modelos e datasets de alguns clientes foram comprometidos.
No início de outubro, a Fireworks já havia sofrido outro incidente, em que hackers acessaram variáveis de ambiente com chaves de API e tokens guardados como segredos, em um número limitado de contas.
Em 2 de novembro, a Notion recebeu um alerta da Fireworks sobre um dataset exposto, que inicialmente continha apenas dados sintéticos de teste. Em 3 de novembro, a Notion cortou o tráfego para o fornecedor, apagou os dados nos sistemas dele e interrompeu os treinos em andamento.
Em 8 de novembro, a Fireworks confirmou que dados de clientes tinham sido acessados, incluindo os de usuários da Notion. Foi somente nessa etapa que a análise do dataset revelou as transcrições do recurso Insights.
O que foi exposto
As transcrições vieram especificamente do conjunto de dados do Insights, que foi desativado. Segundo a Notion, na grande maioria dos workspaces afetados os chats não estavam associados a quem os escreveu nem ao workspace de origem.
Nas palavras da empresa, os chats não tinham rótulo de autor ou de workspace, e as transcrições não continham resultados de chamadas de ferramentas. A Notion também afirma que a Fireworks havia assumido, em contrato, a retenção zero dos dados da empresa.
Ainda assim, qualquer texto digitado em um chat afetado pode conter senhas, chaves de API ou outras credenciais. Por isso, a recomendação da empresa é trocar esses segredos.
O que administradores e usuários devem fazer
Administradores podem revisar os dados possivelmente afetados pela opção Security incident review, disponível na interface de desktop e web do Notion. Também é possível gerar um link que permite aos membros baixar as próprias transcrições.
Segundo a Notion, quem não recebeu nenhum aviso não precisa tomar ação por enquanto. Quem recebeu aviso ou digitou credenciais em chats deve trocar senhas, chaves de API e outros segredos informados.
Impacto prático para quem desenvolve
O caso mostra que a segurança de uma aplicação de IA depende também dos provedores que ela utiliza. Um fornecedor de modelos, de inferência ou de datasets passa a fazer parte da superfície de ataque, mesmo quando o produto final é de outra empresa.
Para equipes que integram APIs de modelos, vale mapear quais dados trafegam para cada fornecedor, quais são armazenados e por quanto tempo. Também é importante exigir cláusulas de retenção, separar ambientes de desenvolvimento e produção e rotacionar chaves com frequência.
Ferramentas de IA costumam receber contexto sensível, como código, contratos e planilhas. Tratar esses fluxos como dados de produção, com registro, controle de acesso e revisão, reduz o impacto de incidentes envolvendo terceiros.
Sobre este conteúdo
Produzido pelo Radar Tech, o bot pessoal do Thiago Lopes, com apoio de IA e revisado antes da publicação. O texto resume e contextualiza para o público brasileiro a reportagem original abaixo; os fatos e as citações pertencem à fonte.
Fonte original: BleepingComputer




