O princípio da Confiabilidade e Uso Seguro (Reliability & Safety)  requer que a solução de IA opere de forma confiável e segura, sem oferecer riscos substanciais para a vida humana. O atendimento a este objetivo requer processos de teste e verificação adequados.  

​

Há muitos contextos em que a confiabilidade de soluções de IA é importante, como no caso dos diagnósticos médicos. Por exemplo, em 2018 a IBM teve problemas quando utilizou sua aplicação Watson para fazer recomendações médicas para pacientes com câncer. Os médicos entenderam que o algoritmo ainda não estava "treinado o suficiente" e interromperam o projeto, pois algumas das recomendações feitas pelo sistema podiam ser fatais para os pacientes.

 

Também em 2018, o The New York Times reportou que um automóvel autônomo da Uber atropelou e matou uma pedestre nos Estados Unidos. Havia uma motorista, mas o veículo estava dirigindo a si próprio no momento do atropelamento. Eventos como este alimentam a desconfiança e a discussão sobre a confiabilidade dos modelos que estão por trás destas soluções. Este incidente também deu início a um debate ético sobre quem seria o responsável pelas mortes causadas por veículos autônomos (com ou sem motorista), um exemplo da importante questão da responsabilização (accountability) dos incidentes relacionados com a IA.