Este artigo explica com uma abordagem introdutória a ferramenta SHAP (SHapley Additive exPlanations) como apoio para a explanabilidade das predições geradas por modelos de Machine Learning. Como sabemos, a IA tem sido usada tanto para apoiar decisões humanas quanto para tomar decisões por si própria, de forma autônoma. Em qualquer caso, o princípio da Transparência na Inteligência Artificial requer que seja possível explicar como as saídas (decisões) do modelo foram geradas, sobretudo se tais decisões têm impactos sobre seres humanos. O modelo prevê que João tem diabetes, mas Maria não. Qual é a explicação?  O modelo prediz que José deve ser chamado para uma entrevista de emprego, mas Paulo não. Qual o motivo desta decisão? O modelo prevê que uma casa com certos atributos deve custar R$ 400.000,00. Como chegou a este valor? O SHAP é uma forma de resolver o complexo problema da explanabilidade. A base teórica é fundamentada na Teoria dos Jogos, e a ideia é explicar como as features utilizadas no treinamento contribuem para uma determinada predição ou saída pelo modelo. Além de uma explicação de como o SHAP funciona, o texto traz exemplos de gráficos gerados pela ferramenta, e é complementado por um código em Python (Notebook) mostrando o uso do SHAP em um exemplo prático (modelo de classificação para previsão de diabetes utilizando o algoritmo KNN (k-Nearest Neighbors).