Ética da aplicação de inteligências artificiais e chatbots na saúde mental: uma perspectiva psicanalítica
DOI:
https://doi.org/10.33361/RPQ.2024.v.12.n.30.717Palavras-chave:
Inteligência Artificial, Saúde Mental, Psicanálise, ÉticaResumo
Este artigo discute as implicações éticas do uso de Inteligências Artificiais (IAs) ou chatbots terapeutas na saúde mental através do método da revisão narrativa da literatura. Define-se o que são esses dispositivos, quais são seus benefícios e seus limites para a prática clínica. Em seguida, examinam-se quais problemas éticos que resultam dessas tecnologias pela perspectiva da psicanálise. Destacam-se os riscos de danos afetivos complexos, de falta de validade e confiabilidade das informações e de ausência de responsabilização dos agentes envolvidos. Por fim, apresentam-se algumas recomendações para o desenvolvimento de IAs mais éticas e as questões que se colocam nesse sentido.
Downloads
Métricas
Referências
COGHLAN, S.; LEINS, K.; SHELDERICK, S.; CHEONG, M.; GOODING, P.; D’AlFONSO, S. To chat or bot to chat: Ethical issues with using chatbots in mental health. Digital Health, Londres, v. 9, n.1 p. 1-10, jun. 2023.Disponível em: https://doi.org/10.1177/20552076231183542. Acesso em: 22 set. 2023. DOI: https://doi.org/10.1177/20552076231183542
CORDEIRO, A. M.; OLIVEIRA, G. M. de; RENTERÍA, J. M.; GUIMARÃES, C. A. Revisão sistemática: uma revisão narrativa. Revista do Colégio Brasileiro de Cirurgiões, Rio de Janeiro, v. 34, n. 6, p. 428–431, nov. 2007. Disponível em: https://doi.org/10.1590/S0100-69912007000600012. Acesso em: 29 set. 2023. DOI: https://doi.org/10.1590/S0100-69912007000600012
COSTARDI, G. G.; ENDO, P. C. Ética da psicanálise, educação e civilização. Estilos clin., São Paulo, v. 18, n. 2, p. 327-341, ago. 2013. Disponível em http://pepsic.bvsalud.org/scielo.php?script=sci_arttext&pid=S1415-71282013000200008&lng=pt&nrm=iso. Acesso em: 29 set. 2023. DOI: https://doi.org/10.11606/issn.1981-1624.v18i2p327-341
ELIAS, C. S. R.; SILVA, L. A.; MARTINS, M. T.; RAMOS, N. A.; SOUZA, M. G.; HIPÓLITO, R. L. Quando chega o fim?: uma revisão narrativa sobre terminalidade do período escolar para alunos deficientes mentais. Rev. Eletrônica Saúde Mental e drogas, Ribeirão Preto, v. 8, n. 1, p. 48-53, abr. 2012. Disponível em: http://pepsic.bvsalud.org/scielo.php?script=sci_arttext&pid=S1806-69762012000100008&lng=pt&nrm=iso. Acesso em: 30 jan. 2024 DOI: https://doi.org/10.11606/issn.1806-6976.v8i1p48-53
FISKE, A.; HENNINGSEN, P.; BUYX, A. Your robot therapist will see you now: ethical implications of embodied artificial intelligence in psychiatry, psychology, and psychotherapy. Journal of medical Internet research, Toronto v. 21, n. 5, p. e13216, maio. 2019. Disponível em: https://doi.org/10.2196/13216. Acesso em: 22 set. 2023. DOI: https://doi.org/10.2196/13216
FREUD, S. Sobre o início do tratamento: novas recomendações sobre a técnica da Psicanálise. In: FREUD, S. O caso Schreber, artigos sobre técnicas e outros trabalhos. Edição standard brasileira das obras psicológicas completas de Sigmund Freud Vol. 12. Tradução de J. Salomão. Rio de Janeiro: Imago, 1990a. p. 74-89. (Trabalho original publicado em 1913).
FREUD, S. Linhas de progresso na terapia psicanalítica. In: FREUD, S. História de uma neurose infantil e outros trabalhos. Edição Standard Brasileira das Obras Completas de Sigmund Freud Vol. 17. Tradução de J. Salomão. Rio de Janeiro: Imago, 1996. p. 98-104. (Trabalho original publicado em 1919).
FREUD, S. Psicologia de grupo e análise do ego. In: FREUD, S. Além do princípio do prazer. Edição Standard Brasileira das Obras Completas de Sigmund Freud Vol. 18. Tradução de J. Salomão. Rio de Janeiro: Imago, 1996. p. 44-90. (Trabalho original publicado em 1921).
GRODNIEWICZ, J. P.; HOHOL, M. Waiting for a digital therapist: three challenges on the path to psychotherapy delivered by artificial intelligence. Frontiers in Psychiatry, Laussane, v. 14, n.1 p. 01, maio. 2023. Disponível em: https://doi.org/10.3389/fpsyt.2023.1190084. Acesso em: 22 set. 2023. DOI: https://doi.org/10.3389/fpsyt.2023.1190084
HAGENDORFF, T. The ethics of AI ethics: an evaluation of guidelines. Minds & Machines, Cham v. 30, n.1 p. 99-120, fev. 2020. Disponível em: https://doi.org/10.1007/s11023-020-09517-8. Acesso em: 29 set. 2023. DOI: https://doi.org/10.1007/s11023-020-09517-8
LACAN, J. Seminário 7 – A Ética da psicanálise. Tradução de A. V. Milani. Rio de Janeiro: Jorge Zahar Editor, 1997. (Trabalho original publicado em 1959-60).
LUCAS, G. M.; GRATCH, J.; KING, A.; MORENCY, L-P. It’s only a computer: virtual humans increase willingness to disclose. Computers in Human Behavior, Amsterdam, v. 37, n.1, p. 94-100, ago. 2014. Disponível em: https://www.sciencedirect.com/science/article/abs/pii/S0747563214002647?via%3Dihub. Acesso em: 22 set. 2023. DOI: https://doi.org/10.1016/j.chb.2014.04.043
OLIVEIRA, G. D. F.; CORREA, H. C. S. Entre encontros faltosos e excessivos: laços amorosos e uso de tecnologias para pensar o sujeito. Tempo psicanalítico, Rio de Janeiro, v. 55, n. 1, p. 32-56, jun. 2023. Disponível em http://pepsic.bvsalud.org/scielo.php?script=sci_arttext&pid=S0101-48382023000100002&lng=pt&nrm=iso. Acesso em: 27 set. 2023.
POSSATI, L. M. Unconscious Networks: Philosophy, Psychoanalysis, and Artificial Intelligence. New York, NY: Routledge, 2023. Disponível em: https://doi.org/10.4324/9781003345572. Acesso em: 23 set. 2023. DOI: https://doi.org/10.4324/9781003345572
PROCHASKA, J. J.; VOGEL, E. A.; CHIENG, A.; BAIOCCHI, M.; PAJARITO, S.; PIRNER, M. DARCY, A.; ROBINSON, A. A relational agent for treating substance use in adults: Protocol for a randomized controlled trial with a psychoeducational comparator. Contemporary Clinical Trials, Amsterdam. v. 127, n1. P. 01, abr. 2023. Disponível em: https://doi.org/10.1016/j.cct.2023.107125. Acesso em: 22 set. 2023. DOI: https://doi.org/10.1016/j.cct.2023.107125
RADFORD, A.; NARASIMHAN, K.; SALIMANS, T.; SUTSKEVER, I. Improving language understanding by generative pre-training. Preprint. 1-12. 2018. Disponível em: https://www.cs.ubc.ca/~amuham01/LING530/papers/radford2018improving.pdf. Acesso em: 25 jan. 2024.
RANA, U.; SINGH, R. The Role of Artificial Intelligence in Mental Health Care. SocArXiv Papers, College Park. p.1. set. 2023 Disponível em: https://doi.org/10.31235/osf.io/r4umy . Acesso em: 22 set. 2023. DOI: https://doi.org/10.31235/osf.io/r4umy
ROSA, M. D.; CARIGNATO, T. T.; BERTA, S. L. Ética e política: a psicanálise diante da realidade, dos ideais e das violências contemporâneos. Ágora: Estudos em Teoria Psicanalítica, Vitória, v. 9, n. 1, p. 35-48, jan. 2006. Disponível em: https://doi.org/10.1590/S1516-14982006000100003. Acesso em: 22 set. 2023. DOI: https://doi.org/10.1590/S1516-14982006000100003
ROTHER, E. T. Revisão sistemática X revisão narrativa. Acta Paulista de Enfermagem, São Paulo. v. 20, n. 2, p. v–vi, abr. 2007. Disponível em: https://www.scielo.br/j/ape/a/z7zZ4Z4GwYV6FR7S9FHTByr/#. Acesso em: 09 fev. 2024. DOI: https://doi.org/10.1590/S0103-21002007000200001
SEDLAKOVA, J.; TRACHSEL, M. Conversational Artificial Intelligence in Psychotherapy: A New Therapeutic Tool or Agent? The American Journal of Bioethics, Londres, v. 23, n .5, p .4 -13, maio. 2023.Disponível em: https://doi.org/10.1080/15265161.2022.2048739. DOI: https://doi.org/10.1080/15265161.2022.2048739
SUHARWARDY, S.; RAMACHANDRAN. M.; LEONARD S. A.; GUNASEELAN A.; LYELL D. J.; DARCY A.; ROBINSON A.; JUDY A. Feasibility and impact of a mental health chatbot on postpartum mental health: a randomized controlled trial. AJOG Global Reports, Amsterdam, v. 3, n. 3, p. 1, ago. 2023.Disponível em: https://doi.org/10.1016/j.xagr.2023.100165. Acesso em: 29 set. 2023. DOI: https://doi.org/10.1016/j.xagr.2023.100165
TAWFEEQ, T. M.; AWQATI, A. J.; JASIM, Y. A. The Ethical Implications of ChatGPT AI Chatbot: A Review. Journal of Modern Computing and Engineering Research, Mosul, v.2023, n.1 p .49 -57, jul. 2023.Disponível em: https://jmcer.org/research/the-ethical-implications-of-chatgpt-ai-chatbot-a-review/. Acesso em: 25 set. 2023.
TEKIN, Ş. Ethical issues surrounding artificial intelligence technologies in mental health: psychotherapy chatbots In: ROBSON, G. J.; TSOU, J. (ed.). Technology ethics: A philosophical introduction and readings. Londres: Routledge, 2023. p. 152 -159. Disponível em: https://doi.org/10.4324/9781003189466. DOI: https://doi.org/10.4324/9781003189466
WALKER, L. Belgian man dies by suicide following exchanges with chatbot. The Brussels Times, Bruxelas. 28 mar. 2023. Disponível em: https://www.brusselstimes.com/430098/belgian-man-commits-suicide-following-exchanges-with-chatgpt. Acesso em: 22 set. 2023.
Downloads
Publicado
Como Citar
Edição
Seção
Licença
Copyright (c) 2024 Revista Pesquisa Qualitativa
Este trabalho está licenciado sob uma licença Creative Commons Attribution 4.0 International License.
Essa revista é licenciada pelo sistema creative commons 4.0, não-comercial.
