The ethics of applying artificial intelligence and chatbots in mental health: a psychoanalytic perspective
DOI:
https://doi.org/10.33361/RPQ.2024.v.12.n.30.717Keywords:
Artificial Intelligence, Mental Health, Psychoanalysis, EthicsAbstract
This paper discusses the ethical implications of the use of Artificial Intelligences (AIs) or therapist chatbots in mental health through the method of narrative literature review. It defines what these devices are, their benefits and limitations for clinical practice. Then, it examines the ethical problems that the result from these technologies from perspective of psychoanalysis. It highlights the risks of complex emotional harm, lack of validity and reliability of information, and absence of accountability of the agents involved. Finally, it presents some recommendations for the development of more ethical AIs and the questions that arise in this sense.
Downloads
Metrics
References
COGHLAN, S.; LEINS, K.; SHELDERICK, S.; CHEONG, M.; GOODING, P.; D’AlFONSO, S. To chat or bot to chat: Ethical issues with using chatbots in mental health. Digital Health, Londres, v. 9, n.1 p. 1-10, jun. 2023.Disponível em: https://doi.org/10.1177/20552076231183542. Acesso em: 22 set. 2023. DOI: https://doi.org/10.1177/20552076231183542
CORDEIRO, A. M.; OLIVEIRA, G. M. de; RENTERÍA, J. M.; GUIMARÃES, C. A. Revisão sistemática: uma revisão narrativa. Revista do Colégio Brasileiro de Cirurgiões, Rio de Janeiro, v. 34, n. 6, p. 428–431, nov. 2007. Disponível em: https://doi.org/10.1590/S0100-69912007000600012. Acesso em: 29 set. 2023. DOI: https://doi.org/10.1590/S0100-69912007000600012
COSTARDI, G. G.; ENDO, P. C. Ética da psicanálise, educação e civilização. Estilos clin., São Paulo, v. 18, n. 2, p. 327-341, ago. 2013. Disponível em http://pepsic.bvsalud.org/scielo.php?script=sci_arttext&pid=S1415-71282013000200008&lng=pt&nrm=iso. Acesso em: 29 set. 2023. DOI: https://doi.org/10.11606/issn.1981-1624.v18i2p327-341
ELIAS, C. S. R.; SILVA, L. A.; MARTINS, M. T.; RAMOS, N. A.; SOUZA, M. G.; HIPÓLITO, R. L. Quando chega o fim?: uma revisão narrativa sobre terminalidade do período escolar para alunos deficientes mentais. Rev. Eletrônica Saúde Mental e drogas, Ribeirão Preto, v. 8, n. 1, p. 48-53, abr. 2012. Disponível em: http://pepsic.bvsalud.org/scielo.php?script=sci_arttext&pid=S1806-69762012000100008&lng=pt&nrm=iso. Acesso em: 30 jan. 2024 DOI: https://doi.org/10.11606/issn.1806-6976.v8i1p48-53
FISKE, A.; HENNINGSEN, P.; BUYX, A. Your robot therapist will see you now: ethical implications of embodied artificial intelligence in psychiatry, psychology, and psychotherapy. Journal of medical Internet research, Toronto v. 21, n. 5, p. e13216, maio. 2019. Disponível em: https://doi.org/10.2196/13216. Acesso em: 22 set. 2023. DOI: https://doi.org/10.2196/13216
FREUD, S. Sobre o início do tratamento: novas recomendações sobre a técnica da Psicanálise. In: FREUD, S. O caso Schreber, artigos sobre técnicas e outros trabalhos. Edição standard brasileira das obras psicológicas completas de Sigmund Freud Vol. 12. Tradução de J. Salomão. Rio de Janeiro: Imago, 1990a. p. 74-89. (Trabalho original publicado em 1913).
FREUD, S. Linhas de progresso na terapia psicanalítica. In: FREUD, S. História de uma neurose infantil e outros trabalhos. Edição Standard Brasileira das Obras Completas de Sigmund Freud Vol. 17. Tradução de J. Salomão. Rio de Janeiro: Imago, 1996. p. 98-104. (Trabalho original publicado em 1919).
FREUD, S. Psicologia de grupo e análise do ego. In: FREUD, S. Além do princípio do prazer. Edição Standard Brasileira das Obras Completas de Sigmund Freud Vol. 18. Tradução de J. Salomão. Rio de Janeiro: Imago, 1996. p. 44-90. (Trabalho original publicado em 1921).
GRODNIEWICZ, J. P.; HOHOL, M. Waiting for a digital therapist: three challenges on the path to psychotherapy delivered by artificial intelligence. Frontiers in Psychiatry, Laussane, v. 14, n.1 p. 01, maio. 2023. Disponível em: https://doi.org/10.3389/fpsyt.2023.1190084. Acesso em: 22 set. 2023. DOI: https://doi.org/10.3389/fpsyt.2023.1190084
HAGENDORFF, T. The ethics of AI ethics: an evaluation of guidelines. Minds & Machines, Cham v. 30, n.1 p. 99-120, fev. 2020. Disponível em: https://doi.org/10.1007/s11023-020-09517-8. Acesso em: 29 set. 2023. DOI: https://doi.org/10.1007/s11023-020-09517-8
LACAN, J. Seminário 7 – A Ética da psicanálise. Tradução de A. V. Milani. Rio de Janeiro: Jorge Zahar Editor, 1997. (Trabalho original publicado em 1959-60).
LUCAS, G. M.; GRATCH, J.; KING, A.; MORENCY, L-P. It’s only a computer: virtual humans increase willingness to disclose. Computers in Human Behavior, Amsterdam, v. 37, n.1, p. 94-100, ago. 2014. Disponível em: https://www.sciencedirect.com/science/article/abs/pii/S0747563214002647?via%3Dihub. Acesso em: 22 set. 2023. DOI: https://doi.org/10.1016/j.chb.2014.04.043
OLIVEIRA, G. D. F.; CORREA, H. C. S. Entre encontros faltosos e excessivos: laços amorosos e uso de tecnologias para pensar o sujeito. Tempo psicanalítico, Rio de Janeiro, v. 55, n. 1, p. 32-56, jun. 2023. Disponível em http://pepsic.bvsalud.org/scielo.php?script=sci_arttext&pid=S0101-48382023000100002&lng=pt&nrm=iso. Acesso em: 27 set. 2023.
POSSATI, L. M. Unconscious Networks: Philosophy, Psychoanalysis, and Artificial Intelligence. New York, NY: Routledge, 2023. Disponível em: https://doi.org/10.4324/9781003345572. Acesso em: 23 set. 2023. DOI: https://doi.org/10.4324/9781003345572
PROCHASKA, J. J.; VOGEL, E. A.; CHIENG, A.; BAIOCCHI, M.; PAJARITO, S.; PIRNER, M. DARCY, A.; ROBINSON, A. A relational agent for treating substance use in adults: Protocol for a randomized controlled trial with a psychoeducational comparator. Contemporary Clinical Trials, Amsterdam. v. 127, n1. P. 01, abr. 2023. Disponível em: https://doi.org/10.1016/j.cct.2023.107125. Acesso em: 22 set. 2023. DOI: https://doi.org/10.1016/j.cct.2023.107125
RADFORD, A.; NARASIMHAN, K.; SALIMANS, T.; SUTSKEVER, I. Improving language understanding by generative pre-training. Preprint. 1-12. 2018. Disponível em: https://www.cs.ubc.ca/~amuham01/LING530/papers/radford2018improving.pdf. Acesso em: 25 jan. 2024.
RANA, U.; SINGH, R. The Role of Artificial Intelligence in Mental Health Care. SocArXiv Papers, College Park. p.1. set. 2023 Disponível em: https://doi.org/10.31235/osf.io/r4umy . Acesso em: 22 set. 2023. DOI: https://doi.org/10.31235/osf.io/r4umy
ROSA, M. D.; CARIGNATO, T. T.; BERTA, S. L. Ética e política: a psicanálise diante da realidade, dos ideais e das violências contemporâneos. Ágora: Estudos em Teoria Psicanalítica, Vitória, v. 9, n. 1, p. 35-48, jan. 2006. Disponível em: https://doi.org/10.1590/S1516-14982006000100003. Acesso em: 22 set. 2023. DOI: https://doi.org/10.1590/S1516-14982006000100003
ROTHER, E. T. Revisão sistemática X revisão narrativa. Acta Paulista de Enfermagem, São Paulo. v. 20, n. 2, p. v–vi, abr. 2007. Disponível em: https://www.scielo.br/j/ape/a/z7zZ4Z4GwYV6FR7S9FHTByr/#. Acesso em: 09 fev. 2024. DOI: https://doi.org/10.1590/S0103-21002007000200001
SEDLAKOVA, J.; TRACHSEL, M. Conversational Artificial Intelligence in Psychotherapy: A New Therapeutic Tool or Agent? The American Journal of Bioethics, Londres, v. 23, n .5, p .4 -13, maio. 2023.Disponível em: https://doi.org/10.1080/15265161.2022.2048739. DOI: https://doi.org/10.1080/15265161.2022.2048739
SUHARWARDY, S.; RAMACHANDRAN. M.; LEONARD S. A.; GUNASEELAN A.; LYELL D. J.; DARCY A.; ROBINSON A.; JUDY A. Feasibility and impact of a mental health chatbot on postpartum mental health: a randomized controlled trial. AJOG Global Reports, Amsterdam, v. 3, n. 3, p. 1, ago. 2023.Disponível em: https://doi.org/10.1016/j.xagr.2023.100165. Acesso em: 29 set. 2023. DOI: https://doi.org/10.1016/j.xagr.2023.100165
TAWFEEQ, T. M.; AWQATI, A. J.; JASIM, Y. A. The Ethical Implications of ChatGPT AI Chatbot: A Review. Journal of Modern Computing and Engineering Research, Mosul, v.2023, n.1 p .49 -57, jul. 2023.Disponível em: https://jmcer.org/research/the-ethical-implications-of-chatgpt-ai-chatbot-a-review/. Acesso em: 25 set. 2023.
TEKIN, Ş. Ethical issues surrounding artificial intelligence technologies in mental health: psychotherapy chatbots In: ROBSON, G. J.; TSOU, J. (ed.). Technology ethics: A philosophical introduction and readings. Londres: Routledge, 2023. p. 152 -159. Disponível em: https://doi.org/10.4324/9781003189466. DOI: https://doi.org/10.4324/9781003189466
WALKER, L. Belgian man dies by suicide following exchanges with chatbot. The Brussels Times, Bruxelas. 28 mar. 2023. Disponível em: https://www.brusselstimes.com/430098/belgian-man-commits-suicide-following-exchanges-with-chatgpt. Acesso em: 22 set. 2023.
Downloads
Published
How to Cite
Issue
Section
License
Copyright (c) 2024 Qualitative Research Journal
This work is licensed under a Creative Commons Attribution 4.0 International License.
Essa revista é licenciada pelo sistema creative commons 4.0, não-comercial.
