Ética da aplicação de inteligências artificiais e chatbots na saúde mental: uma perspectiva psicanalítica

Paulo Victor dos Reis Silveira; João Luiz Leitão Paravidini

doi:10.33361/RPQ.2024.v.12.n.30.717

Authors

Paulo Victor dos Reis Silveira UFU https://orcid.org/0000-0002-4617-2620
João Luiz Leitão Paravidini UFU https://orcid.org/0000-0002-2685-3808

DOI:

https://doi.org/10.33361/RPQ.2024.v.12.n.30.717

Keywords:

Artificial Intelligence, Mental Health, Psychoanalysis, Ethics

Abstract

This paper discusses the ethical implications of the use of Artificial Intelligences (AIs) or therapist chatbots in mental health through the method of narrative literature review. It defines what these devices are, their benefits and limitations for clinical practice. Then, it examines the ethical problems that the result from these technologies from perspective of psychoanalysis. It highlights the risks of complex emotional harm, lack of validity and reliability of information, and absence of accountability of the agents involved. Finally, it presents some recommendations for the development of more ethical AIs and the questions that arise in this sense.

Downloads

Download data is not yet available.

Metrics

Metrics Loading ...

References

COGHLAN, S.; LEINS, K.; SHELDERICK, S.; CHEONG, M.; GOODING, P.; D’AlFONSO, S. To chat or bot to chat: Ethical issues with using chatbots in mental health. Digital Health, Londres, v. 9, n.1 p. 1-10, jun. 2023.Disponível em: https://doi.org/10.1177/20552076231183542. Acesso em: 22 set. 2023. DOI: https://doi.org/10.1177/20552076231183542

CORDEIRO, A. M.; OLIVEIRA, G. M. de; RENTERÍA, J. M.; GUIMARÃES, C. A. Revisão sistemática: uma revisão narrativa. Revista do Colégio Brasileiro de Cirurgiões, Rio de Janeiro, v. 34, n. 6, p. 428–431, nov. 2007. Disponível em: https://doi.org/10.1590/S0100-69912007000600012. Acesso em: 29 set. 2023. DOI: https://doi.org/10.1590/S0100-69912007000600012

COSTARDI, G. G.; ENDO, P. C. Ética da psicanálise, educação e civilização. Estilos clin., São Paulo, v. 18, n. 2, p. 327-341, ago. 2013. Disponível em http://pepsic.bvsalud.org/scielo.php?script=sci_arttext&pid=S1415-71282013000200008&lng=pt&nrm=iso. Acesso em: 29 set. 2023. DOI: https://doi.org/10.11606/issn.1981-1624.v18i2p327-341

ELIAS, C. S. R.; SILVA, L. A.; MARTINS, M. T.; RAMOS, N. A.; SOUZA, M. G.; HIPÓLITO, R. L. Quando chega o fim?: uma revisão narrativa sobre terminalidade do período escolar para alunos deficientes mentais. Rev. Eletrônica Saúde Mental e drogas, Ribeirão Preto, v. 8, n. 1, p. 48-53, abr. 2012. Disponível em: http://pepsic.bvsalud.org/scielo.php?script=sci_arttext&pid=S1806-69762012000100008&lng=pt&nrm=iso. Acesso em: 30 jan. 2024 DOI: https://doi.org/10.11606/issn.1806-6976.v8i1p48-53

FISKE, A.; HENNINGSEN, P.; BUYX, A. Your robot therapist will see you now: ethical implications of embodied artificial intelligence in psychiatry, psychology, and psychotherapy. Journal of medical Internet research, Toronto v. 21, n. 5, p. e13216, maio. 2019. Disponível em: https://doi.org/10.2196/13216. Acesso em: 22 set. 2023. DOI: https://doi.org/10.2196/13216

FREUD, S. Sobre o início do tratamento: novas recomendações sobre a técnica da Psicanálise. In: FREUD, S. O caso Schreber, artigos sobre técnicas e outros trabalhos. Edição standard brasileira das obras psicológicas completas de Sigmund Freud Vol. 12. Tradução de J. Salomão. Rio de Janeiro: Imago, 1990a. p. 74-89. (Trabalho original publicado em 1913).

FREUD, S. Linhas de progresso na terapia psicanalítica. In: FREUD, S. História de uma neurose infantil e outros trabalhos. Edição Standard Brasileira das Obras Completas de Sigmund Freud Vol. 17. Tradução de J. Salomão. Rio de Janeiro: Imago, 1996. p. 98-104. (Trabalho original publicado em 1919).

FREUD, S. Psicologia de grupo e análise do ego. In: FREUD, S. Além do princípio do prazer. Edição Standard Brasileira das Obras Completas de Sigmund Freud Vol. 18. Tradução de J. Salomão. Rio de Janeiro: Imago, 1996. p. 44-90. (Trabalho original publicado em 1921).

GRODNIEWICZ, J. P.; HOHOL, M. Waiting for a digital therapist: three challenges on the path to psychotherapy delivered by artificial intelligence. Frontiers in Psychiatry, Laussane, v. 14, n.1 p. 01, maio. 2023. Disponível em: https://doi.org/10.3389/fpsyt.2023.1190084. Acesso em: 22 set. 2023. DOI: https://doi.org/10.3389/fpsyt.2023.1190084

HAGENDORFF, T. The ethics of AI ethics: an evaluation of guidelines. Minds & Machines, Cham v. 30, n.1 p. 99-120, fev. 2020. Disponível em: https://doi.org/10.1007/s11023-020-09517-8. Acesso em: 29 set. 2023. DOI: https://doi.org/10.1007/s11023-020-09517-8

LACAN, J. Seminário 7 – A Ética da psicanálise. Tradução de A. V. Milani. Rio de Janeiro: Jorge Zahar Editor, 1997. (Trabalho original publicado em 1959-60).

LUCAS, G. M.; GRATCH, J.; KING, A.; MORENCY, L-P. It’s only a computer: virtual humans increase willingness to disclose. Computers in Human Behavior, Amsterdam, v. 37, n.1, p. 94-100, ago. 2014. Disponível em: https://www.sciencedirect.com/science/article/abs/pii/S0747563214002647?via%3Dihub. Acesso em: 22 set. 2023. DOI: https://doi.org/10.1016/j.chb.2014.04.043

OLIVEIRA, G. D. F.; CORREA, H. C. S. Entre encontros faltosos e excessivos: laços amorosos e uso de tecnologias para pensar o sujeito. Tempo psicanalítico, Rio de Janeiro, v. 55, n. 1, p. 32-56, jun. 2023. Disponível em http://pepsic.bvsalud.org/scielo.php?script=sci_arttext&pid=S0101-48382023000100002&lng=pt&nrm=iso. Acesso em: 27 set. 2023.

POSSATI, L. M. Unconscious Networks: Philosophy, Psychoanalysis, and Artificial Intelligence. New York, NY: Routledge, 2023. Disponível em: https://doi.org/10.4324/9781003345572. Acesso em: 23 set. 2023. DOI: https://doi.org/10.4324/9781003345572

PROCHASKA, J. J.; VOGEL, E. A.; CHIENG, A.; BAIOCCHI, M.; PAJARITO, S.; PIRNER, M. DARCY, A.; ROBINSON, A. A relational agent for treating substance use in adults: Protocol for a randomized controlled trial with a psychoeducational comparator. Contemporary Clinical Trials, Amsterdam. v. 127, n1. P. 01, abr. 2023. Disponível em: https://doi.org/10.1016/j.cct.2023.107125. Acesso em: 22 set. 2023. DOI: https://doi.org/10.1016/j.cct.2023.107125

RADFORD, A.; NARASIMHAN, K.; SALIMANS, T.; SUTSKEVER, I. Improving language understanding by generative pre-training. Preprint. 1-12. 2018. Disponível em: https://www.cs.ubc.ca/~amuham01/LING530/papers/radford2018improving.pdf. Acesso em: 25 jan. 2024.

RANA, U.; SINGH, R. The Role of Artificial Intelligence in Mental Health Care. SocArXiv Papers, College Park. p.1. set. 2023 Disponível em: https://doi.org/10.31235/osf.io/r4umy . Acesso em: 22 set. 2023. DOI: https://doi.org/10.31235/osf.io/r4umy

ROSA, M. D.; CARIGNATO, T. T.; BERTA, S. L. Ética e política: a psicanálise diante da realidade, dos ideais e das violências contemporâneos. Ágora: Estudos em Teoria Psicanalítica, Vitória, v. 9, n. 1, p. 35-48, jan. 2006. Disponível em: https://doi.org/10.1590/S1516-14982006000100003. Acesso em: 22 set. 2023. DOI: https://doi.org/10.1590/S1516-14982006000100003

ROTHER, E. T. Revisão sistemática X revisão narrativa. Acta Paulista de Enfermagem, São Paulo. v. 20, n. 2, p. v–vi, abr. 2007. Disponível em: https://www.scielo.br/j/ape/a/z7zZ4Z4GwYV6FR7S9FHTByr/#. Acesso em: 09 fev. 2024. DOI: https://doi.org/10.1590/S0103-21002007000200001

SEDLAKOVA, J.; TRACHSEL, M. Conversational Artificial Intelligence in Psychotherapy: A New Therapeutic Tool or Agent? The American Journal of Bioethics, Londres, v. 23, n .5, p .4 -13, maio. 2023.Disponível em: https://doi.org/10.1080/15265161.2022.2048739. DOI: https://doi.org/10.1080/15265161.2022.2048739

SUHARWARDY, S.; RAMACHANDRAN. M.; LEONARD S. A.; GUNASEELAN A.; LYELL D. J.; DARCY A.; ROBINSON A.; JUDY A. Feasibility and impact of a mental health chatbot on postpartum mental health: a randomized controlled trial. AJOG Global Reports, Amsterdam, v. 3, n. 3, p. 1, ago. 2023.Disponível em: https://doi.org/10.1016/j.xagr.2023.100165. Acesso em: 29 set. 2023. DOI: https://doi.org/10.1016/j.xagr.2023.100165

TAWFEEQ, T. M.; AWQATI, A. J.; JASIM, Y. A. The Ethical Implications of ChatGPT AI Chatbot: A Review. Journal of Modern Computing and Engineering Research, Mosul, v.2023, n.1 p .49 -57, jul. 2023.Disponível em: https://jmcer.org/research/the-ethical-implications-of-chatgpt-ai-chatbot-a-review/. Acesso em: 25 set. 2023.

TEKIN, Ş. Ethical issues surrounding artificial intelligence technologies in mental health: psychotherapy chatbots In: ROBSON, G. J.; TSOU, J. (ed.). Technology ethics: A philosophical introduction and readings. Londres: Routledge, 2023. p. 152 -159. Disponível em: https://doi.org/10.4324/9781003189466. DOI: https://doi.org/10.4324/9781003189466

WALKER, L. Belgian man dies by suicide following exchanges with chatbot. The Brussels Times, Bruxelas. 28 mar. 2023. Disponível em: https://www.brusselstimes.com/430098/belgian-man-commits-suicide-following-exchanges-with-chatgpt. Acesso em: 22 set. 2023.