Ética da aplicação de inteligências artificiais e chatbots na saúde mental: uma perspectiva psicanalítica

Paulo Victor dos Reis Silveira; João Luiz Leitão Paravidini

doi:10.33361/RPQ.2024.v.12.n.30.717

Autores

Paulo Victor dos Reis Silveira UFU https://orcid.org/0000-0002-4617-2620
João Luiz Leitão Paravidini UFU https://orcid.org/0000-0002-2685-3808

DOI:

https://doi.org/10.33361/RPQ.2024.v.12.n.30.717

Palavras-chave:

Inteligência Artificial, Saúde Mental, Psicanálise, Ética

Resumo

Este artigo discute as implicações éticas do uso de Inteligências Artificiais (IAs) ou chatbots terapeutas na saúde mental através do método da revisão narrativa da literatura. Define-se o que são esses dispositivos, quais são seus benefícios e seus limites para a prática clínica. Em seguida, examinam-se quais problemas éticos que resultam dessas tecnologias pela perspectiva da psicanálise. Destacam-se os riscos de danos afetivos complexos, de falta de validade e confiabilidade das informações e de ausência de responsabilização dos agentes envolvidos. Por fim, apresentam-se algumas recomendações para o desenvolvimento de IAs mais éticas e as questões que se colocam nesse sentido.

Downloads

Não há dados estatísticos.

Métricas

Carregando Métricas ...

Referências

COGHLAN, S.; LEINS, K.; SHELDERICK, S.; CHEONG, M.; GOODING, P.; D’AlFONSO, S. To chat or bot to chat: Ethical issues with using chatbots in mental health. Digital Health, Londres, v. 9, n.1 p. 1-10, jun. 2023.Disponível em: https://doi.org/10.1177/20552076231183542. Acesso em: 22 set. 2023. DOI: https://doi.org/10.1177/20552076231183542

CORDEIRO, A. M.; OLIVEIRA, G. M. de; RENTERÍA, J. M.; GUIMARÃES, C. A. Revisão sistemática: uma revisão narrativa. Revista do Colégio Brasileiro de Cirurgiões, Rio de Janeiro, v. 34, n. 6, p. 428–431, nov. 2007. Disponível em: https://doi.org/10.1590/S0100-69912007000600012. Acesso em: 29 set. 2023. DOI: https://doi.org/10.1590/S0100-69912007000600012

COSTARDI, G. G.; ENDO, P. C. Ética da psicanálise, educação e civilização. Estilos clin., São Paulo, v. 18, n. 2, p. 327-341, ago. 2013. Disponível em http://pepsic.bvsalud.org/scielo.php?script=sci_arttext&pid=S1415-71282013000200008&lng=pt&nrm=iso. Acesso em: 29 set. 2023. DOI: https://doi.org/10.11606/issn.1981-1624.v18i2p327-341

ELIAS, C. S. R.; SILVA, L. A.; MARTINS, M. T.; RAMOS, N. A.; SOUZA, M. G.; HIPÓLITO, R. L. Quando chega o fim?: uma revisão narrativa sobre terminalidade do período escolar para alunos deficientes mentais. Rev. Eletrônica Saúde Mental e drogas, Ribeirão Preto, v. 8, n. 1, p. 48-53, abr. 2012. Disponível em: http://pepsic.bvsalud.org/scielo.php?script=sci_arttext&pid=S1806-69762012000100008&lng=pt&nrm=iso. Acesso em: 30 jan. 2024 DOI: https://doi.org/10.11606/issn.1806-6976.v8i1p48-53

FISKE, A.; HENNINGSEN, P.; BUYX, A. Your robot therapist will see you now: ethical implications of embodied artificial intelligence in psychiatry, psychology, and psychotherapy. Journal of medical Internet research, Toronto v. 21, n. 5, p. e13216, maio. 2019. Disponível em: https://doi.org/10.2196/13216. Acesso em: 22 set. 2023. DOI: https://doi.org/10.2196/13216

FREUD, S. Sobre o início do tratamento: novas recomendações sobre a técnica da Psicanálise. In: FREUD, S. O caso Schreber, artigos sobre técnicas e outros trabalhos. Edição standard brasileira das obras psicológicas completas de Sigmund Freud Vol. 12. Tradução de J. Salomão. Rio de Janeiro: Imago, 1990a. p. 74-89. (Trabalho original publicado em 1913).

FREUD, S. Linhas de progresso na terapia psicanalítica. In: FREUD, S. História de uma neurose infantil e outros trabalhos. Edição Standard Brasileira das Obras Completas de Sigmund Freud Vol. 17. Tradução de J. Salomão. Rio de Janeiro: Imago, 1996. p. 98-104. (Trabalho original publicado em 1919).

FREUD, S. Psicologia de grupo e análise do ego. In: FREUD, S. Além do princípio do prazer. Edição Standard Brasileira das Obras Completas de Sigmund Freud Vol. 18. Tradução de J. Salomão. Rio de Janeiro: Imago, 1996. p. 44-90. (Trabalho original publicado em 1921).

GRODNIEWICZ, J. P.; HOHOL, M. Waiting for a digital therapist: three challenges on the path to psychotherapy delivered by artificial intelligence. Frontiers in Psychiatry, Laussane, v. 14, n.1 p. 01, maio. 2023. Disponível em: https://doi.org/10.3389/fpsyt.2023.1190084. Acesso em: 22 set. 2023. DOI: https://doi.org/10.3389/fpsyt.2023.1190084

HAGENDORFF, T. The ethics of AI ethics: an evaluation of guidelines. Minds & Machines, Cham v. 30, n.1 p. 99-120, fev. 2020. Disponível em: https://doi.org/10.1007/s11023-020-09517-8. Acesso em: 29 set. 2023. DOI: https://doi.org/10.1007/s11023-020-09517-8

LACAN, J. Seminário 7 – A Ética da psicanálise. Tradução de A. V. Milani. Rio de Janeiro: Jorge Zahar Editor, 1997. (Trabalho original publicado em 1959-60).

LUCAS, G. M.; GRATCH, J.; KING, A.; MORENCY, L-P. It’s only a computer: virtual humans increase willingness to disclose. Computers in Human Behavior, Amsterdam, v. 37, n.1, p. 94-100, ago. 2014. Disponível em: https://www.sciencedirect.com/science/article/abs/pii/S0747563214002647?via%3Dihub. Acesso em: 22 set. 2023. DOI: https://doi.org/10.1016/j.chb.2014.04.043

OLIVEIRA, G. D. F.; CORREA, H. C. S. Entre encontros faltosos e excessivos: laços amorosos e uso de tecnologias para pensar o sujeito. Tempo psicanalítico, Rio de Janeiro, v. 55, n. 1, p. 32-56, jun. 2023. Disponível em http://pepsic.bvsalud.org/scielo.php?script=sci_arttext&pid=S0101-48382023000100002&lng=pt&nrm=iso. Acesso em: 27 set. 2023.

POSSATI, L. M. Unconscious Networks: Philosophy, Psychoanalysis, and Artificial Intelligence. New York, NY: Routledge, 2023. Disponível em: https://doi.org/10.4324/9781003345572. Acesso em: 23 set. 2023. DOI: https://doi.org/10.4324/9781003345572

PROCHASKA, J. J.; VOGEL, E. A.; CHIENG, A.; BAIOCCHI, M.; PAJARITO, S.; PIRNER, M. DARCY, A.; ROBINSON, A. A relational agent for treating substance use in adults: Protocol for a randomized controlled trial with a psychoeducational comparator. Contemporary Clinical Trials, Amsterdam. v. 127, n1. P. 01, abr. 2023. Disponível em: https://doi.org/10.1016/j.cct.2023.107125. Acesso em: 22 set. 2023. DOI: https://doi.org/10.1016/j.cct.2023.107125

RADFORD, A.; NARASIMHAN, K.; SALIMANS, T.; SUTSKEVER, I. Improving language understanding by generative pre-training. Preprint. 1-12. 2018. Disponível em: https://www.cs.ubc.ca/~amuham01/LING530/papers/radford2018improving.pdf. Acesso em: 25 jan. 2024.

RANA, U.; SINGH, R. The Role of Artificial Intelligence in Mental Health Care. SocArXiv Papers, College Park. p.1. set. 2023 Disponível em: https://doi.org/10.31235/osf.io/r4umy . Acesso em: 22 set. 2023. DOI: https://doi.org/10.31235/osf.io/r4umy

ROSA, M. D.; CARIGNATO, T. T.; BERTA, S. L. Ética e política: a psicanálise diante da realidade, dos ideais e das violências contemporâneos. Ágora: Estudos em Teoria Psicanalítica, Vitória, v. 9, n. 1, p. 35-48, jan. 2006. Disponível em: https://doi.org/10.1590/S1516-14982006000100003. Acesso em: 22 set. 2023. DOI: https://doi.org/10.1590/S1516-14982006000100003

ROTHER, E. T. Revisão sistemática X revisão narrativa. Acta Paulista de Enfermagem, São Paulo. v. 20, n. 2, p. v–vi, abr. 2007. Disponível em: https://www.scielo.br/j/ape/a/z7zZ4Z4GwYV6FR7S9FHTByr/#. Acesso em: 09 fev. 2024. DOI: https://doi.org/10.1590/S0103-21002007000200001

SEDLAKOVA, J.; TRACHSEL, M. Conversational Artificial Intelligence in Psychotherapy: A New Therapeutic Tool or Agent? The American Journal of Bioethics, Londres, v. 23, n .5, p .4 -13, maio. 2023.Disponível em: https://doi.org/10.1080/15265161.2022.2048739. DOI: https://doi.org/10.1080/15265161.2022.2048739

SUHARWARDY, S.; RAMACHANDRAN. M.; LEONARD S. A.; GUNASEELAN A.; LYELL D. J.; DARCY A.; ROBINSON A.; JUDY A. Feasibility and impact of a mental health chatbot on postpartum mental health: a randomized controlled trial. AJOG Global Reports, Amsterdam, v. 3, n. 3, p. 1, ago. 2023.Disponível em: https://doi.org/10.1016/j.xagr.2023.100165. Acesso em: 29 set. 2023. DOI: https://doi.org/10.1016/j.xagr.2023.100165

TAWFEEQ, T. M.; AWQATI, A. J.; JASIM, Y. A. The Ethical Implications of ChatGPT AI Chatbot: A Review. Journal of Modern Computing and Engineering Research, Mosul, v.2023, n.1 p .49 -57, jul. 2023.Disponível em: https://jmcer.org/research/the-ethical-implications-of-chatgpt-ai-chatbot-a-review/. Acesso em: 25 set. 2023.

TEKIN, Ş. Ethical issues surrounding artificial intelligence technologies in mental health: psychotherapy chatbots In: ROBSON, G. J.; TSOU, J. (ed.). Technology ethics: A philosophical introduction and readings. Londres: Routledge, 2023. p. 152 -159. Disponível em: https://doi.org/10.4324/9781003189466. DOI: https://doi.org/10.4324/9781003189466

WALKER, L. Belgian man dies by suicide following exchanges with chatbot. The Brussels Times, Bruxelas. 28 mar. 2023. Disponível em: https://www.brusselstimes.com/430098/belgian-man-commits-suicide-following-exchanges-with-chatgpt. Acesso em: 22 set. 2023.