OpenAI mantém a retenção zero de dados e mostra nova checagem de segurança
No dia 19 de agosto, a OpenAI publicou um aviso para os clientes empresariais da API: a retenção zero de dados continua disponível mesmo com modelos mais capazes. A retenção zero de dados, ou ZDR na sigla em inglês, é um acordo para clientes elegíveis em que a OpenAI não guarda os prompts nem as respostas depois de processar a chamada, e a equipe dela não tem acesso a esse conteúdo.
O motivo do post é uma tensão que a própria OpenAI descreve. Certos abusos só aparecem quando se olha para muitas chamadas juntas, como alguém testando as proteções várias vezes ou espalhando a atividade por várias contas. As checagens de segurança que funcionam com ZDR olham uma chamada de cada vez. A OpenAI também lembra que algumas implantações recentes de modelos de fronteira exigiram que os clientes deixassem o fornecedor guardar conteúdo sensível para monitoramento, o que muitas organizações não podem aceitar.
Como funciona o Private Safety Processing
A resposta da OpenAI é um sistema chamado Private Safety Processing, mostrado como prévia. Para clientes com ZDR, o conteúdo fica numa infraestrutura que o próprio cliente controla. A OpenAI também está montando uma opção em que o conteúdo fica nos servidores dela, criptografado com chaves que só o cliente tem, para que a equipe da OpenAI não consiga abrir.
Sistemas automáticos procuram padrões em chamadas relacionadas. Quando encontram um risco, a OpenAI recebe um sinal limitado dizendo que tipo de atividade foi marcada. Segundo o post, a equipe continua sem ver os prompts e as respostas, mesmo depois do alerta. O cliente pode investigar o alerta com os próprios registros e pode escolher mandar detalhes para a OpenAI, para contestar uma decisão ou ajudar numa investigação.
Em que pé está
No dia do post, o sistema estava em teste com os primeiros clientes. A OpenAI disse que planejava começar a liberar em setembro e publicar um documento técnico na mesma época. O post não traz preço, lista de planos elegíveis nem data para a opção de armazenamento criptografado.
O que fazer esta semana
Se a sua empresa manda dados sensíveis pela API da OpenAI, confira se a conta tem mesmo ZDR, porque ela vale só para clientes elegíveis. Depois, marque na agenda o documento técnico de setembro. Os detalhes que importam numa revisão de segurança, como o que o sinal contém e quem pode disparar uma punição, não estão neste primeiro post.
O que a gente pensa
É bom ver um laboratório dizer em público que quer manter a ZDR, quando o caminho mais fácil seria pedir aos clientes que abram mão dela. O desenho tem um ponto fraco que só o documento técnico pode resolver: tudo depende de quanto um sinal de segurança revela por conta própria. A gente vai ler esse documento antes de dizer a alguém que o problema está resolvido.
Fontes