A privacidade diferencial foi introduzida em 2006 por Cynthia Dwork, Frank McSherry, Kobbi Nissim e Adam Smith. Nos últimos anos, com a chegada da regulamentação e maior consciência sobre a importância da privacidade, o assunto tem recebido enorme atenção, já existindo muitas implementações para casos de uso importantes. Com a privacidade diferencial, as partes interessadas podem fazer consultas em conjuntos de dados e gerar estatísticas agregadas sem que seja possível a identificação de indivíduos específicos.

​

Com a privacidade diferencial, as partes interessadas podem fazer consultas em conjuntos de dados e gerar estatísticas agregadas sem que seja possível a identificação de indivíduos específicos. A contribuição dos dados de cada indivíduo pode ser “mascarada” a ponto de sequer ser possível saber se os dados foram ou não utilizados para a obtenção dos resultados das consultas. Assim, as agências de pesquisa podem publicar informações demográficas ou outros agregados estatísticos preservando a privacidade dos participantes das pesquisas. O mesmo mecanismo pode ser incorporado em
algoritmos para proteger resultados retornados por modelos de Machine Learning.