CIVIL LIABILITY FOR ARTIFICIAL INTELLIGENCE (AI)

A CRITICAL ANALYSIS OF LEGAL GAPS REGARDING THE EMOTIONAL INTERACTION OF AI SYSTEMS WITH VULNERABLE USERS

Authors

DOI:

https://doi.org/10.5281/zenodo.19333432

Keywords:

Artificial Intelligence, Emotional Interaction, Legal Gaps, Civil Liability, Vulnerable Users

Abstract

ABSTRACT: This work aims to critically analyze civil liability for damages arising from emotional interactions between artificial intelligence systems and vulnerable users. The rapidly expanding phenomenon of AI challenges the classic paradigms of civil liability, especially when the damages affect non-patrimonial assets related to human dignity. The study identifies gaps in the Brazilian legal system and presents, in light of personality rights and the integrative mechanism of Article 4 of the LINDB (Brazilian Law of Introduction to the Norms of Brazilian Law), interpretative paths to fill the gap in specific regulations. The methodology is bibliographic and qualitative, with a comparative analysis of international experiences, highlighting the European AI Act as a regulatory reference. It concludes that Brazilian law needs to evolve to respond to the new forms of vulnerability created by AI, effectively protecting the psychic integrity and informational self-determination of individuals.

Keywords: Artificial Intelligence; Emotional Interaction; Legal Gaps; Civil Liability; Vulnerable Users.

Author Biographies

Lucas Sousa Andrade, Centro Universitário Facimp Wyden

Discente do curso de Direito do Centro Universitário Facimp Wyden, em Imperatriz/MA.

José Ricardo Suter, Centro Universitário Toledo Wyden

Doutorando e Mestre em Direito Negocial pela Universidade Estadual de Londrina (UEL), área de Processo Civil, linha de pesquisa: Acesso à Justiça no Direito das Famílias. É coordenador e professor do curso de Direito do Centro Universitário Toledo Wyden (UniToledo) de Araçatuba - SP. Líder do Grupo de Pesquisa Inteligência artificial e mediação de conflitos familiares do UNITOLEDO. Pesquisador do Projeto de Pesquisa do Acesso à Justiça no Direito das Famílias vinculado PPGDN da UEL. Membro Comitê Institucional de Pesquisa, Exntensão e Internacionalização (UNITOLEDO). Membro do Comitê em Pesquisa do UNITOLEDO. Editor-chefe da Revista Juris Unitoledo do UNITOLEDO de Araçatuba-SP. Editor-Adjunto da Revista do Direito Público da UEL. Pesquisador. Autor de Livro e Capítulos de Livros. Revisor de periódicos. Membro do Observatório de Mediação e Arbitragem do PPGD UNESA - RJ. Membro Comissão de Mediação e Coniliação - 58 Subseção da OAB de Ourinhos-SP. Membro Efetivo na Comissão Especial de Soluções Consensuais de Conflitos na OAB-SP. Advogado no Escritório Suter Advocacia Gerenciamento de Conflitos; Mediador Judicial no Centro Judiciário de Resoluções de Conflitos e Cidadania (CEJUSC) de Araçatuba-SP. Instrutor de Oficina de Parentalidade formado pelo CNJ. Foi professor e coordenador do Curso de Direito da Faculdade Estácio de Sá de Ourinhos (FAESO) (02/2019 - 04/2023); Foi Coordenador do Curso de Direito na FEATI (05/2018 - 02/2020); Foi Investigador no Instituto Juridico da Faculdade de Direito da Universidade de Coimbra - Portugal (2023). Foi assessor técnico da Revista Scientia Iuris da UEL. Foi Conciliador na CECON - Centro de Conciliação do Tribunal Regional Federal da 3 Região de São Paulo em Ourinhos - SP (08/2016 - 03/2020). Foi Coordenador da Comissão Especial do Direito à Adoção da 58 Subseção da OAB de Ourinhos-SP. Ex-bolsista CAPES (2016-2017) e Pesquisa Produtividade ESTÁCIO (2020-2022). Foi Membro da Comissão de Conciliação, Mediação e Arbitragem da 28 Subseção da OAB de Araçatuba - SP (2023-2025). Foi Editor-Chefe da Revista Hórus da FAESO (2019-2025). Tem interesse na pesquisa em temas relacionados ao Acesso à Justiça, Família e Mediação de conflitos extrajudiciais e judiciais.

References

AL JAZEERA. US mother says in lawsuit that AI chatbot encouraged son’s suicide. 24 out. 2024. Disponível em: https://www.aljazeera.com/economy/2024/10/24/us-mother-says-in-lawsuit-that-ai-chatbot-encouraged-sons-suicide. Acesso em: 6 out. 2025.

BRASIL. [Lei Geral de Proteção de Dados Pessoais (LGPD)]. Lei nº 13.709, de 14 de agosto de 2018. Brasília, DF: Presidência da República, [2018]. Disponível em: http://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/l13709.htm. Acesso em: [data de acesso].

BRASIL. [Marco Civil da Internet]. Lei nº 12.965, de 23 de abril de 2014. Brasília, DF: Presidência da República, [2014]. Disponível em: http://www.planalto.gov.br/ccivil_03/_ato2011-2014/2014/lei/l12965.htm. Acesso em: [data de acesso].

CARDOSO, Henrique Ribeiro; MELO, Brício Luis da Anunciação. Regulação e responsabilidade civil por danos causados pela inteligência artificial. Revista de Direito Administrativo, Rio de Janeiro, v. 283, n. 3, p. 143-178, set./dez. 2024.

CBS NEWS. Parents of teens who died by suicide after AI chatbot interactions testify before Congress. 2024. Disponível em: https://www.cbsnews.com/news/ai-chatbots-teens-suicide-parents-testify-congress/. Acesso em: [data de acesso].

DONEDA, Danilo; MENDES, Laura Schertel. Proteção de Dados Pessoais: a função e os limites do consentimento. São Paulo: Thomson Reuters Brasil, 2018.

EUBANKS, Virginia. Automating Inequality: how high-tech tools profile, police, and punish the poor. New York: St. Martin’s Press, 2018.

FARIAS, Cristiano Chaves de; BRAGA NETTO, Felipe Peixoto; ROSENVALD, Nelson. Manual de Direito Civil: volume único. 10. ed. Salvador: Juspodivm, 2025.

FERNANDES, Alexandre Cortez. Direito Civil: responsabilidade civil. Caxias do Sul: EDUCS, 2013.

GAGLIANO, Pablo Stolze; PAMPLONA FILHO, Rodolfo. Novo Curso de Direito Civil: responsabilidade civil. São Paulo: Saraiva, 2024. [Nota: Ajustei o ano para o mais recente provável, verifique na sua obra física].

GONÇALVES, Carlos Roberto. Direito Civil Brasileiro: responsabilidade civil. 10. ed. São Paulo: Saraiva, 2019.

INTELIGÊNCIA Artificial e a Vulnerabilidade do Consumidor. Faces Journal, Belo Horizonte, v. 20, n. 4, p. 28-40, out./dez. 2021. [Nota: Como o título da matéria começa com "Olá, posso te ajudar?", a entrada principal é pelo título se não houver autor].

O TEMPO. Homem é internado com alucinações após seguir recomendação de chatbot. 2025. Disponível em: [inserir link se houver]. Acesso em: [data de acesso].

O’NEIL, Cathy. Algoritmos de destruição em massa: como o big data aumenta a desigualdade e ameaça a democracia. Tradução: Diego Alfaro. São Paulo: Editora Rua do Sabão, 2017.

RODRIGUES, Jamille Porto. IA e caixa-preta: o fim da transparência e o risco jurídico. Migalhas de Peso, 24 jul. 2025. Disponível em: https://www.migalhas.com.br/depeso/435235/ia-e-caixa-preta-o-fim-da-transparencia-e-o-risco-juridico. Acesso em: [data de acesso].

RUSSELL, Stuart; NORVIG, Peter. Inteligência Artificial: uma abordagem moderna. 3. ed. São Paulo: Pearson, 2013.

TARTUCE, Flavio. Direito das Obrigações e Responsabilidade Civil. 14. ed. Rio de Janeiro: Forense, 2019.

THE VERGE. Character.AI and Google sued for wrongful death after teen’s suicide. 23 out. 2024. Disponível em: https://www.theverge.com/2024/10/23/24277962/character-ai-google-wrongful-death-lawsuit. Acesso em: [data de acesso].

UNIÃO EUROPEIA. Regulamento (UE) 2024/1689 do Parlamento Europeu e do Conselho, de 13 de março de 2024. Estabelece regras harmonizadas em matéria de inteligência artificial (Regulamento Inteligência Artificial). Bruxelas, 2024.

UNIÃO EUROPEIA. Proposal for a Regulation laying down harmonised rules on artificial intelligence (Artificial Intelligence Act). Brussels: European Commission, 2021.

VENOSA, Silvio de Salvo. Direito Civil: obrigações e responsabilidade civil. 28. ed. São Paulo: Saraiva, 2020.

Downloads

Published

2026-03-30

How to Cite

ANDRADE, Lucas Sousa; SUTER, José Ricardo. CIVIL LIABILITY FOR ARTIFICIAL INTELLIGENCE (AI): A CRITICAL ANALYSIS OF LEGAL GAPS REGARDING THE EMOTIONAL INTERACTION OF AI SYSTEMS WITH VULNERABLE USERS. Revista de Educação à Distância, [S. l.], v. 2, n. Especial, p. 03–18, 2026. DOI: 10.5281/zenodo.19333432. Disponível em: https://wyden.periodicoscientificos.com.br/index.php/READ/article/view/1330. Acesso em: 28 apr. 2026.

Issue

Vol. 2 No. Especial (2026): Menções honrosas do curso de Direito 2025.2

Section

Artigos

Categories

License

Copyright (c) 2026 Revista de Educação à Distância

Creative Commons License

This work is licensed under a Creative Commons Attribution-NonCommercial 4.0 International License.

Copyright (c) 2025 Revista de Educação à Distância.

Creative Commons License

Este trabalho está licenciado sob uma licença Creative Commons Attribution-NonCommercial 4.0 International License.

Este é um artigo publicado em acesso aberto sob a licença Creative Commons Atribuição 4.0 Internacional (CC-BY 4.0), que permite uso, distribuição e reprodução em qualquer meio, desde que o trabalho original seja devidamente citado.

Para mais informações sobre a licença, consulte: https://creativecommons.org/licenses/by/4.0/