​A filosofia da inteligência artificial (IA) é um campo interdisciplinar que investiga as implicações conceituais, éticas e ontológicas da criação e uso de sistemas de IA. Algumas questões importantes neste domíno são:

​

O que é inteligência?

É possível que máquinas desenvolvam inteligência comparável à humana? Importa se uma máquina está realmente pensando, como uma pessoa pensa, ou se está apenas produzindo resultados que aparentam ser fruto do pensamento?

​

Consciência artificial

É possível que algum dia um computador, manipulando zeros e uns, reproduza a capacidade dos neurônios de criar mentes, com estados mentais (compreensão percepção) e, em última instância, adquira algum correlato artificial da consciência humana? Uma "mente artificial" é uma apenas uma simulação (hipótese da IA fraca) ou se deve ser considerada uma realidade ontológica (hipótese da IA forte)?

​

Ética e responsabilidade

É possível alinhar as ações da IA com os valores morais humanos? Quem é responsável pelas ações de sistemas autônomos? Como a IA afeta a sociedade, o trabalho e as relações humanas?​

​

Direitos das máquinas

É possivel atribuir aos sistemas de IA avançados direitos humanos ou status moral? Por exemplo, robôs podem receber cidadania? A IA algum dia poderá votar, adquirir patrimônio ou assinar contratos? 

 

A filosofia nasce do espanto, e prospera na discórdia

Há muitos ​pensadores importantes atuando neste domínio, e como tudo em filosofia, há bons argumentos nos dois lados para todas as questões. Vejamos por exemplo a segunda questão (a possibilidade da IA se tornar consciente):

• De um lado John Searle diz que "simular não é o mesmo que duplicar", e que sem substrato biológico não pode haver mente ou consciência. Esta mesma posição (a consciência exige algo que a IA não tem) é defendida pelo físico Roger Penrose (ganhador do prêmio Nobel de Física), que entende que os computadores hoje são incapazes de ter inteligência porque são "sistemas determinísticos algorítmicos". Outro simpatizante desta tese é o filósofo Hubert Dreyfus. 

• Do outro lado temos David Chalmers, renomado filósofo da mente, que propõe que sistemas de inteligência artificial (IA) avançados poderiam, no futuro, desenvolver uma forma de "consciência funcional" — distinta da humana, mas ainda assim significativa em sua própria perspectiva. Como a consciência emergiu de redes neurais biológicas, ela bem poderia emergir de redes neurais artificiais, sob as condições corretas (ex: memória de trabalho global, loops recursivos, integração de múltiplas modalidades). Essa posição é defendida por cientistas como Yoshua Bengio e engenheiros como Demis Hassabis (CEO da DeepMind), também ganhador do prêmio Nobel. 

​

A minha posição atual é mais alinhada ao funcionalismo de Chalmers. Se aceitarmos que a consciência é um fenômeno emergente de uma estrutura funcional (como uma rede neural natural ou artificial), então é filosoficamente possível que uma IA venha a ser consciente em algum sentido. No entanto, pelo que sei a consciência como experiência subjetiva ("o que é ser") ainda não tem uma definição operacional clara nem mesmo em humanos, então entendo que ainda não temos ferramentas para concluir este debate.

 

Neste website além de investigar o que a IA pode fazer, desejamos refletir sobre o que a IA deve fazer. Ou seja, estamos particularmente interessados na terceira questão acima - como assegurar um comportamento ético e responsável (compatível com valores morais humanos) nos sistemas de IA.