Inteligência Artificial e Responsabilidade Civil: necessidade de aceitação de existência de uma lacuna

Daniela Martins Rosas Inteligência Artificial e Responsabilidade Civil: Necessidade de aceitação de existência de uma lacuna outubro de 2023 Inteligência Artificial e Responsabilidade Civil: Necessidade de aceitação de existência de uma lacuna Daniela Martins Rosas UMinho|2023 Universidade do Minho Escola de Direito Daniela Martins Rosas Inteligência Artificial e Responsabilidade Civil: Necessidade de aceitação de existência de uma lacuna outubro de 2023 Dissertação de Mestrado Mestrado em Direito dos Contratos e da Empresa Trabalho efetuado sob a orientação da Profª. Doutora Eva Sónia Moreira da Silva Universidade do Minho Escola de Direito ii DIREITOS DE AUTOR E CONDIÇÕES DE UTILIZAÇÃO DO TRABALHO POR TERCEIROS Este é um trabalho académico que pode ser utilizado por terceiros desde que respeitadas as regras e boas práticas internacionalmente aceites, no que concerne aos direitos de autor e direitos conexos. Assim, o presente trabalho pode ser utilizado nos termos previstos na licença abaixo indicada. Caso o utilizador necessite de permissão para poder fazer um uso do trabalho em condições não previstas no licenciamento indicado, deverá contactar o autor, através do RepositóriUM da Universidade do Minho. Atribuição CC BY https://creativecommons.org/licenses/by/4.0/ iii Agradecimentos A realização desta dissertação não seria possível sem apoio e ajuda de várias pessoas e recursos. Neste sentido, agradecemos, desde já, à Professora Doutora Sónia Moreira pela atenção atribuída a todo o nosso trabalho, bem como orientação. Também somos profundamente gratos à nossa família, amigos e, sobretudo, aos nossos pais, que sempre nos incentivaram e apoiaram durante todo este processo. Não podemos, como é claro, deixarmos de agradecer ao nosso fiel companheiro de quatro patas, Simba, por nos oferecer companhia e conforto durante a realização desta dissertação. A todos aqueles que desempenharam um papel, grande ou pequeno, na realização desta dissertação, o nosso sincero agradecimento. Este trabalho é o resultado de esforço coletivo, dedicação e apoio, e somos imensamente gratos por todas as contribuições. iv DECLARAÇÃO DE INTEGRIDADE Declaro ter atuado com integridade na elaboração do presente trabalho académico e confirmo que não recorri à prática de plágio nem a qualquer forma de utilização indevida ou falsificação de informações ou resultados em nenhuma das etapas conducente à sua elaboração. Mais declaro que conheço e que respeitei o Código de Conduta Ética da Universidade do Minho. v Inteligência Artificial e Responsabilidade Civil: Necessidade de aceitação de existência de uma lacuna Resumo: A Inteligência Artificial está a evoluir constantemente e encontra-se cada vez mais presente no nosso dia-a-dia, veja-se o uso de eletrodomésticos inteligentes, os próprios assistentes do nosso telemóvel, os veículos autónomos, os robots juízes que auxiliam na tomada de decisões, as aplicações de encontros, ou até o chat GPT ou o Bard. A Inteligência Artificial veio para ficar e embora apresente diversos benefícios, como é visível, desde logo, na área da saúde, pela capacidade de aperfeiçoamento dos diagnósticos, a verdade é que também acarreta diversos riscos, desde logo, pela imprevisibilidade no seu comportamento, uma vez que os agentes autónomos conseguem tomar atitudes de forma autónoma e aprender com o meio em que se encontram. Deste modo, o objetivo principal desta dissertação é responder à seguinte questão: “Que caminho deve ser seguido no âmbito da responsabilidade por danos causados pela IA?”. Assim, de modo a responder a esta questão, começaremos por (1) esclarecer o conceito de Inteligência Artificial, além disso (2) será feito um breve contexto do tratamento que lhe é atribuído pelos ordenamentos jurídicos internacionais. Também (3) será apresentado um conjunto de dificuldades que a Inteligência Artificial apresenta no âmbito da responsabilidade civil, partindo-se deste ponto, (4) para expor a problemática da personalidade jurídica. De seguida iremos apresentar as soluções para a questão a que esta dissertação se propõe responder, neste sentido, (5) começaremos pela tentativa de adaptação do regime existente, (6) expondo a questão da indemnização pelos danos causados pelos sistemas de Inteligência Artificial, (6) bem como pela possibilidade de aplicação de propostas alternativas. Por fim, (7) será feita uma análise dos avanços feitos pela União Europeia neste âmbito. Palavras-Chave: Autonomia, Imprevisibilidade, Inteligência Artificial, Responsabilidade Civil Objetiva, Responsabilidade Civil Subjetiva. vi Artificial Intelligence and Civil Liability: The necessity of accepting the existence of a gap Abstract: Artificial Intelligence is constantly evolving and is increasingly becoming a part of our daily lives, for example the use of smart household appliances, our own cell phone assistants, autonomous vehicles, robot judges who help with decision-making, dating apps, or even ChatGPT or Bard. Artificial Intelligence is here to stay and although it has several benefits, such as the ability to improve diagnoses in health, it also carries several risks, first and foremost due to the unpredictability of its behavior, since it can act autonomously and learn from its environment. Therefore, the main goal of this dissertation is to answer the following question: "What path should be followed in the area of liability for damage caused by AI?". So, to answer this question, we will begin by (1) clarifying the concept of Artificial Intelligence and (2) giving a brief context of how other legal systems are dealing with Artificial Intelligence. We will also (3) present a set of difficulties that Artificial Intelligence presents in the context of civil liability, and from this point we will (4) expose the problem of legal personality in the context of Artificial Intelligence. Next, we will present the solutions to the question that this dissertation proposes to answer, in this sense, (5) we will begin by attempting to adapt the existing regime, (6) exposing the issue of compensation for damages caused by Artificial Intelligence systems, (6) as well as the possibility of applying alternative proposals. Finally, (7) an analysis will be made of the advances of the European Union in the field of civil liability in relation to Artificial Intelligence. Keywords: Artificial Intelligence, Autonomy, Strict Liability, Subjective Civil Liability, Unpredictability. vii Índice DIREITOS DE AUTOR E CONDIÇÕES DE UTILIZAÇÃO DO TRABALHO POR TERCEIROS ...... ii Agradecimentos .............................................................................................................. iii DECLARAÇÃO DE INTEGRIDADE ....................................................................................... iv Resumo ............................................................................................................................. v Abstract ............................................................................................................................ vi Lista de abreviaturas ........................................................................................................ ix Introdução ........................................................................................................................ 1 Capítulo I – Considerações gerais sobre a Inteligência Artificial ...................................... 3 1. Definição de IA ........................................................................................................................ 3 1.2 Conceito de autonomia como característica principal dos sistemas de IA .............................. 7 Capitulo II – A Inteligência artificial e responsabilidade civil à luz das legislações internacionais ................................................................................................................ 11 Capitulo III – Desafios da Inteligência Artificial .............................................................. 16 1. Desafios da IA no âmbito da responsabilidade civil ................................................................ 16 2. Personalidade Jurídica dos sistemas dotados de Inteligência Artificial .................................... 18 Capitulo IV – Possíveis soluções ..................................................................................... 23 1. Adaptação do regime da responsabilidade civil como possível solução ................................... 23 1.1 Breve enquadramento do regime de responsabilidade civil português ...................................... 24 1.2 Responsabilidade subjetiva ..................................................................................................... 26 1.2.1 Responsabilidade contratual – análise crítica da possível aplicação do artigo 800.º do CC 38 1.3 Responsabilidade Objetiva ...................................................................................................... 42 1.3.1 Responsabilidade do comitente ....................................................................................... 44 1.3.2 Danos causados por animais .......................................................................................... 47 1.3.3 Responsabilidade dos acidentes causados por veículos ................................................... 49 1.3.4 Responsabilidade do produtor ......................................................................................... 51 1.4 Responsabilidade civil subjetiva vs. Responsabilidade civil objetiva: qual deve ser aplicada? Qual a mais adequada? ........................................................................................................................ 59 1.5 Questão da indemnização da responsabilidade pelos danos causados pela Inteligência Artificial .................................................................................................................................................... 61 2. Proposta e alternativas à adaptação do sistema vigente ............................................................ 63 5 encontra-se categorizada, de forma que seja possível à máquina dotada de IA incluir ou excluir um caso concreto. Por categoria entenda-se, por exemplo, conter as características de algo, como um gato 16 . Por conseguinte, o funcionamento destes sistemas pode ser dividido em duas modalidades, um algoritmo supervisionado e um algoritmo não supervisionado. O algoritmo supervisionado recebe dados compostos por uma resposta correta, devendo por isso cada um ser minuciosamente catalogado. Desta forma, quando os dados são inseridos no sistema, o algoritmo pode atribuir-lhes um peso específico, isto é, pode determinar o quanto errado ou certos são em relação à tarefa que pretende alcançar, sendo isto fundamental para o processo de resposta. Por outro lado, no caso do algoritmo não supervisionado, os dados não necessitam de estar catalogados ao pormenor, uma vez que este algoritmo é inserido num sistema de banco de dados para encontrar e agrupar os padrões tendo em conta a relação entre as características e pesos de cada dado 17 . Embora a caracterização apresentada possa conduzir à ideia errada de que estes sistemas podem aprender com o comportamento humano, trata-se na verdade de uma aprendizagem funcional 18 . Isto é, podem conseguir realizar tarefas específicas para as quais não estão programados, aprendendo através de computações anteriores. Os sistemas de machine learning podem ser comparados com o comportamento humano no sentido em que quando um humano aprende a realizar uma tarefa, verificamos se pela sua experiência ele melhorou a aptidão para realizar a mesma, ou seja, o seu progresso é medido num sentido funcional; no caso dos sistemas dotados de machine learning , o grau de desenvolvimento é verificado da mesma forma, sendo este grau de desenvolvimento que determinará o tipo de aprendizagem deste sistema 19 . Por sua vez, deep learning é considerado um ramo superior da IA. Embora, utilize algoritmos que atuam de maneira semelhante aos de machine learning , estes apresentam uma organização diferente, por inúmeras camadas, sendo que cada uma oferece uma interpretação diferente dos dados que a sustenta. Estas camadas constituem uma rede neural artificial, tratando-se no fundo de uma tentativa de imitar as redes neurais humanas 20 . Esta rede neural artificial apresenta-se como um cérebro humano, em que o objetivo é reproduzir o poder do cérebro, podendo ter comportamentos inteligentes, como o de conseguir aprender 21 . O recurso ao deep learning tem como objetivo que os computadores consigam aprender com a própria prática e, através de uma hierarquia de conceitos, entender o mundo 22 . Por hierarquia de conceitos deverá entender-se, a construção de um conjunto de 16 JOSÉ A.R.L. GONZÁLEZ, «Responsabilidade por danos e Inteligência Artificial (IA)», cit., p. 73. 17 ARLINDO OLIVEIRA, “Inteligência Artificial”, Fundação Francisco Manuel dos Santos, Lisboa, 2019 pp. 81 e ss. 18 HARRY SURDEN, «Artificial Intelligence and Law: An Overview», Georgia State University Law Review , Vol. 35, 2019, p. 1311. 19 Arlindo OLIVEIRA, Inteligência Artificial, cit., pp. 81 e ss. 20 JOSÉ A.R.L. GONZÁLEZ, «Responsabilidade por danos e Inteligência Artificial (IA)», cit., p. 73. 21 PAILIUS CERKA/JURGITA GRIGIEN/GINTAR SIRBIKYT, «Liability for damages caused by artificial intelligence», Computer Law & Security Review, n.º 31, 2015, p. 380. 22 JOSÉ A.R.L. GONZÁLEZ, «Responsabilidade por danos e Inteligência Artificial (IA)», cit., p. 75. 6 conhecimentos de forma que o computador os consiga perceber, havendo uma grande parte de pesquisa e desenvolvimento de IA que se dedica a esta tarefa do “knowledge representation”. No fundo, “knowledge representation” é um conjunto de convenções que descreve algo, como um objeto, uma regra, um estado, um evento 23 . Esta hierarquia de conceitos vai permitir ao computador desenvolver ideias complexas com base em ideias mais simples. Assim, o sistema composto por deep learning é capaz de ultrapassar obstáculos ao contrário daquele que apenas têm machine learning 24 . Posto isto, podemos concluir do anteriormente exposto que as máquinas compostas por deep learning são similares em vários aspetos ao ser humano e à sua racionalidade. Independentemente da forma que estas máquinas dotadas de deep learning adotem, elas já são uma realidade no nosso presente 25 - 26 , prevendo-se uma utilização ampla num futuro não longínquo. Deste modo, a pergunta: “quem responde pelos danos causados por estas máquinas?”, afigura-se pertinente 27 . Portanto, para que uma entidade seja considerada inteligente, é necessário que reúna as seguintes características, possuir conhecimento sobre si própria, ou seja, conhecimento interno, bem como possuir conhecimento do mundo exterior e utilizar a informação aprendida. Além disto, ter uma capacidade de atuar para o alcance de objetivos, bem como criatividade, isto é, ter uma capacidade de encontrar soluções para quando a sua ação inicial não lhe permite alcançar o resultado pretendido. Por último, a entidade deve possuir a capacidade de comunicar, aliás, quanto mais fácil for a comunicação com a entidade, mais inteligente esta parece 28 . Importa ainda referir que, a IA pode ser classificada segundo três tipos de inteligência: forte ( Artificial Super Intelligence ), média ( Artificial General Intelligence ) e fraca ( Artificial Narrow Intelligence ). A IA fraca é aquela que se dedica a uma única área, possuindo um certo objetivo, por exemplo, as máquinas que estão treinadas para jogar xadrez. Por outro lado, a IA média é aquela que imita o cérebro humano, conseguindo compreender conceitos complexos, bem como solucionar problemas tendo em conta a sua experiência. Por fim, a IA forte é aquela que consegue ser igual ao cérebro 23 CARY DEBESSONET/GEORGE CROSS, «An Artificial Intelligence application in the Law: CCLIPS, a computer program that processes legal information», Berkeley Technology Law Journal, 329, 1986, pág. 331 24 JOSÉ A.R.L. GONZÁLEZ, «Responsabilidade por danos e Inteligência Artificial (IA)», cit., p. 76. 25 Por exemplo, o uso de sistemas de IA no setor financeiro para detetar fraudes, lavagem de dinheiro, também o uso destes sistemas a nível militar, como armas para proteger os países. - ERDÉLYI, Olivia J./GOLDSMITH, Judy, Regulating Artificial Intelligence Proposal for a Global Solution, 2018 AAAI/ACM Conference on AI, Ethics, and Society (AIES '18), New Orleans, LA, USA, February 2--3, 2018, pág. 1 Além disso, estes sistemas também estão a ser usados na justiça para o policiamento preditivo e condenação. 26 Até a nível das prisões, a IA tem sido utilizada com a Coreia do Sul a ter o primeiro robot guarda prisional, que consegue ler emoções, identificar comportamento anormal e alertar as autoridades para possíveis situações. – REID, Melanie, «Rethinking the Fourth Amendment in the Age of Supercomputers, Artificial Intelligence, and Robots» , West Virginia Law Review, vol. 119, 2017, pág. 865 27 GONZÁLEZ, Jose A. R. L ., Responsabilidade por danos e Inteligência Artificial (IA), cit., pp. 76 a 77. 28 GABRIEL HALLEVY, «The criminal liability of artificial intelligence entities - from Science fiction to legal social control», Akron Intellectual Property Journal, vol. 4, nº 2, 2010, pp. 175 a 176, disponível em https://ideaexchange.uakron. edu/akronintellectualproperty/vol4/iss2/1 , consult. a 21/10/2023. 7 humano, podendo até superá-lo e que possuiria capacidade sociais. A IA forte ainda não existe atualmente 29 . 1.2 Conceito de autonomia como característica principal dos sistemas de IA O conceito de autonomia encontra-se presente em várias definições de IA, sendo apontado implicitamente ou explicitamente como uma característica destes sistemas. A Resolução do PE de 2017 incentiva a Comissão a propor definições de robots inteligentes, de sistemas autónomos e do conceito de autonomia 30 . Como este conceito vai ser fundamental no âmbito do tema central da presente dissertação convém fazer uma breve explicação do mesmo. O Centre for Computational Neuroscience and Robotics da University of Sussex , dividiu a autonomia em dois tipos, a autonomia comportamental e a autonomia constitutiva. A autonomia comportamental divide-se em três subcategorias, sendo a primeira referente a um uso mais amplo, acabando por abranger todos os robots móveis, mesmo que controlados remotamente 31 . No entanto, esta definição é demasiado abrangente, tornando-se inaplicável na prática, visto que, seria equivalente à automação, pois o comportamento do agente é amplamente determinado 32 . Outra subcategoria, defendida por BEER, NOLFI, FLOREANO E FRANKLIN, considera que um sistema autónomo é aquele que é capaz de atingir um objetivo, bem como gerir novos 33 . Por seu turno, SMITHERS, PFEIFER E VIERSCHURE, contribuíram para a subcategoria que caracteriza o sistema autónomo pela sua flexibilidade de comportamento e robustez 34 . Há ainda autores que conjugaram as definições apresentadas anteriormente e que consideram que só há inteligência se existir autonomia. Estes sistemas devem ter objetivos para alcançar, flexibilidade perante obstáculos, ser dotados de independência, robustez, atenção seletiva e uma capacidade de interagir com o meio ambiente. Trata-se de uma noção que se enquadra na autonomia comportamental 35 . Por seu lado, a autonomia constitutiva é explicada como uma característica da autoprodução, sendo um sistema organizado como uma rede de processo de 29 JÚNIOR, Marcos Ehrhardt; SILVA, Gabriela Buarque Pereira, Pessoa e Sujeito de Direito: Reflexões sobre a Proposta Europeia de Personalidade Jurídica Eletrônica, RJLB, ano 7, nº 2, 2021, pp. 1100 a 1101, disponível em https://www.cidp.pt/revistas/rjlb/2021/2/2021_02_1089_1117.pdf , consult. a 20/07/2023. 30 Resolução do Parlamento Europeu, de 16 de fevereiro de 2017, s/p, disponível para consulta em https://eur-lex.europa.eu/legalcontent/PT/TXT/PDF/?uri=CELEX:52017IP0048&from=EN , consult. a 21/10/2023. 31 TOM FROESE/NATHANIEL VIRGO/EDUARDO IZQUIERDO, «Autonomy: A Review and a Reappraisal», Advances in Artificial /Life - 9th , European Conference, EXAL 2007, Lisbon, Portugal, September 2007 Proceedings, Springer, 2007, p. 456. 32 MARKUS CHRISTEM/THOMAS BURRI/JOSEPH CHAPE/RAPHAEL SALVI/FILIPPO SANTONI DE SIO/JOHN SULLINS, «An Evaluation Scheme for the Ethical Use of Autonomous Robotic Systems in Security Applications», Digital Society Initiative of the University of Zurich, DSI White Paper Series , White Paper nº 1, 2017, p. 36, disponível para consulta em https://www.merlin.uzh.ch/contributionDocument/download/10417, consult. a 20/07/2023. 33 TOM FROESE/NATHANIEL VIRGO/EDUARDO IZQUIERDO,« Autonomy: A Review and a/ Reappraisal», cit., p. 457. 34 Ibidem. 35 AIRE A. COVRIGARU/ROBERT K. LINDSAY, «Deterministic Autonomous Systems», AI Magazine, vol. 12, n.º 3, 1991, disponível para consulta em https://doi.org/10.1609/aimag.v12i3.907, pp. 111 a 114, consult. A 20/07/2023. 8 produção que se regenera e realiza continuamente a rede que os produz e que constituem uma unidade distinguível no domínio em que existem 36 . No entanto, estes conceitos apresentados apenas se aplicavam aos sistemas vivos, sendo insuficientes para abordar os sistemas artificiais. Assim, surgiu a Closure Thesis , defendida por VARELA, que tentou transformar as conclusões oferecidas pela autonomia dos sistemas vivos em uma caraterização da autonomia viva ou não viva. VARELA defende que, todo o sistema autónomo é organizacionalmente fechado 37 . Há ainda autores que pensaram na autonomia como uma continuação que abrangia a autonomia comportamental e constitutiva 38 , sendo que esta conjugação pode ser benéfica, pois embora a autonomia constitutiva apenas se aplique a organismos reais 39 , através desta podemos atingir outros patamares. Vejamos agora a definição proposta pelas entidades europeias, de onde podemos concluir que a autonomia, como característica dos sistemas dotados de IA, tem vindo a ser aceite unanimemente. A Comissão Europeia definiu a autonomia de robot como puramente tecnológica e dependente do modo como a interação do robot com o ambiente foi produzido, considerando a autonomia como uma capacidade que este tem de tomar e aplicar decisões, independentemente da influência externa e do controlo 40 . Em 2018, na Comunicação da Comissão ao Parlamento Europeu, ao Conselho Europeu, ao Comité Económico e Social Europeu e ao Comité das Regiões - Inteligência Artificial para a Europa, a existência de um certo nível de autonomia nos sistemas de IA foi aceite 41 . No entanto, como foi exposto anteriormente, um Grupo Independente de Peritos de Alto Nível Sobre a Inteligência Artificial criado pela Comissão Europeia, aprimorou a definição da mesma, onde a autonomia da IA foi discutida, tendo-se considerado que estes não eram sistemas autónomos, mas sim incorporados em sistemas de maior dimensão 42 . Ademais, este Grupo Independente de Peritos de Alto Nível refere que os atos tomados pelos sistemas de IA não demonstram que estes sejam completamente autónomos, pois são o ato de selecionar a ação a realizar. Consideram também que uma decisão pode ser a escolha de algo que vai recomendar ao ser humano, que tomará a decisão final. No fundo, admitem que existe autonomia nestes sistemas, mas que os atos realizados por estes não são completamente 36 FRANCISCO J. VARELA, Patterns of Life: Intertwining Identity and Cognition, Brain and Cognition , n. º 34, 1997, p. 75. 37 FRANCISCO J. VARELA, Principles of Biological Autonomy, Elsevier North Holland, Nova Iorque, 1979, p. 458. 38 TOM FROESE/NATHANIEL VIRGO/EDUARDO IZQUIERDO, «Autonomy: A Review and a/ Reappraisal», cit., p. 459. 39 Ibidem. 40 Resolução do Parlamento Europeu, de 16 de fevereiro de 2017, cit., s/p. 41 COMISSÃO EUROPEIA, Comunicação da Comissão ao Parlamento Europeu, ao Conselho Europeu, ao Conselho, ao Comité Económico e Social Europeu e ao Comité das Regiões, Inteligência Artificial para a Europa, de 25 de abril de 2018, Bruxelas, p. 1, disponível para consulta em https://eurlex.europa.eu/legal-content/PT/TXT/?qid=1587467683263&uri=CELEX:52018DC0237, consult. a 20/07/2023. 42 GRUPO INDEPENDENTE DE PERITOS DE ALTO NÍVEL SOBRE A INTELIGÊNCIA ARTIFICIAL, Uma Definição de IA: Principais Capacidades e Disciplinas Científicas - Definição desenvolvida para efeitos dos documentos elaborados pelo grupo, 8 de abril de 2019, p. 1, disponível para consulta em https://eurlex.europa.eu/, consult. a 20/07/2023. 9 autónomos 43 . É ainda importante salientar que, embora na Comunicação da Comissão ao Parlamento Europeu, ao Conselho Europeu, ao Conselho, ao Comité Económico e Social e ao Comité das Regiões - Plano Coordenado para a Inteligência Artificial, de 7 de Dezembro de 2018, se adote a ideia presente na primeira comunicação de 25 de abril de 2018 e se aceite a presença de autonomia nos sistemas de IA, o mesmo já não acontece no Livro Branco sobre a IA da Comissão Europeia, onde a autonomia é aceite como característica dos sistemas de IA, referindo-se que estes são capazes de tomar decisões autónomas com base no seu ambiente e sem ter em conta um conjunto de instruções predeterminado, mas que, no entanto, o comportamento destes sistemas é em grande parte definido e limitado pelos seus criadores 44 . Não foram apenas as entidades europeias que se debruçaram sobre este tema, tendo também outras instituições internacionais refletido sobre a autonomia como uma característica dos sistemas de IA. Veja-se, por exemplo, o US Department Transport, nos Estados Unidos, que no que diz respeito aos veículos autónomos utiliza seis níveis de autonomia, fornecidos pela Society of mobile Engineers 45 . No nível 0 não existe autonomia, o veículo é dirigido e controlado totalmente pelo condutor, sendo o veículo apenas capaz de fornecer avisos. No caso do nível um é fornecida pelo sistema assistência ao condutor, é exemplo deste nível de autonomia o sistema de controlo cruzeiro. Por sua vez o nível dois diz respeito a uma autonomia parcial e fornecimento de recursos de assistência, mas o veículo é conduzido totalmente pelo condutor. Por seu turno, nos restantes níveis o sistema já tem autonomia. No entanto, no caso do nível três, o condutor pode ser chamado a intervir em certas situações, o mesmo acontece no nível quatro, em que o sistema não é dependente da intervenção humana, mas apenas está ativo quando as condições forem as ideais. O nível cinco é o nível de independência máxima, em que o sistema é totalmente autónomo e capaz de conduzir o veículo em todas as situações 46 . Ademais, também no Reino Unido se refletiu sobre a autonomia destes sistemas, tendo-se distinguido no Relatório do Comité de Inteligência Artificial da Câmara dos Lordes um sistema 43 GRUPO INDEPENDENTE DE PERITOS DE ALTO NÍVEL SOBRE A INTELIGÊNCIA ARTIFICIAL, Uma Definição de IA: Principais Capacidades e Disciplinas Científicas - Definição desenvolvida para efeitos dos documentos elaborados pelo grupo, cit., p. 3. 44 COMISSÃO EUROPEIA , Livro Branco sobre Inteligência Artificial - Uma abordagem europeia virada para a excelência e a confiança , 19 de fevereiro de 2020, pp. 13-18, disponível para consulta em https://ec.europa.eu/info/sites/info/files/commission-white-paper-artificial-intelligence-feb2020_pt.pdf, consult. a em 20/07/2023. 45 Cfr. SAE J3016, disponível para consulta em https://www.sae.org/standards/content/j3016_201806/ . 46 Estes níveis estão agrupados no documento denominado J3016, revisto em junho de 2018, disponível para consulta em https://www.sae.org/standards/content/j3016_201806/ , consult. a 20/07/2023 e ainda na tabela disponível para consulta em https://www.sae.org/news/2019/01/sae-updates-j3016-automated-driving-graphic, consult. a 20/07/2023. 10 autónomo de um sistema automatizado 47 . O sistema autónomo tem objetivos internos, sendo capaz de responder e adaptar-se a situações para as quais não foi programado inicialmente e de tomar decisões com base em conhecimentos externos. Por outro lado, o sistema automatizado realiza tarefas definidas em ambientes estruturados e apresenta resultados conhecidos e consistentes 48 . Por fim, importa responder à seguinte questão: será que a intervenção humana define um sistema como mais ou menos autónomo? Não existe uma resposta única a esta questão, mas podemos considerar que um sistema será mais autónomo se houver menor intervenção humana. Há autores que consideram que a intervenção humana é o que define se um sistema é ou não autónomo 49 . Neste sentido, há autores que consideram que estes sistemas são capazes de executar a grande parte das suas tarefas sem intervenção humana direta, mas é exercido algum controlo nas suas ações 50 . Posto isto podemos concluir que, tal como no que toca à definição de IA também não existe nenhuma definição, nem abordagem uniforme quanto à autonomia, característica destes sistemas de IA, que podemos considerar como aceite de forma unânime. 47 Relatório do Comité de Inteligência Artificial da Câmara dos Lordes, 2016, disponível para consulta em https://publications.parliament.uk/pa/cm201617/cmselect/cmsctech/145/14507.htm#_idTextAnchor028, consult. a 20/07/2023. 48 Ibidem. 49 MADELEINE DE COCK BUNING/LUCKY BELDER/ROELAND DE BRUIN, « Mapping the Legal Framework for the Introduction into Society of Robots as Autonomous Intelligent Systems», The Law of the Future and the Future of Law, vol. II, 2012, p. 198. 50 NICK JENNINGS/ MICHAEL WOOLDRIDGE, «Software Agents», IEE Review, janeiro de 1996, p. 17, disponível para consulta em http://www.cs.ox.ac.uk/people/michael.wooldridge/pubs/iee-review96.pdf , consultado em 20/07/2023. 11 Capitulo II – A Inteligência artificial e responsabilidade civil à luz das legislações internacionais Neste capítulo não iremos explorar as várias abordagens por parte da UE à responsabilidade civil no âmbito da IA, uma vez que tal será aprofundado no capítulo seguinte. As questões da IA não são alvo de atenção apenas por parte das intuições europeias, havendo a nível internacional uma crescente preocupação. Embora este seja um tema recente, a verdade é que existem países como a Coreia do Sul, que já em 2011 tinha em vigor uma lei dedicada à IA, a Intelligent Robots Development and Distribution Promotion Act , embora esta não tivesse como foco as questões levantadas pela responsabilidade civil 51 . Vejamos agora o que tem sido feito no Reino Unido neste âmbito. No Relatório do Comité de Inteligência Artificial da Câmara dos Lordes, referido anteriormente, havia uma preocupação pelas questões da responsabilidade civil aplicadas aos sistemas de IA, procurando encontrar-se o responsável no caso de danos causados por estes, tendo sido apontadas as pessoas responsáveis por fazer estes sistemas 52 . Assim, começaram a surgir algumas propostas de regulamentação, possíveis de encontrar no Pathway to Driverless Cars: Proposals to support advanced driver assistance systems and automated vehicle technologies , que diziam respeito aos carros autónomos, onde uma das propostas foi um seguro automóvel obrigatório 53 . Este seguro automóvel obrigatório tem como objetivo proteger as partes no caso de colisão, tendo sido proposto um alargamento dos requisitos deste seguro, bem como uma alteração da lei existente, de forma que não fosse apenas coberta a responsabilidade do produtor, mas também de outras entidades, bem como os danos ocorridos no caso de o motorista, passageiro ou terceiro não possuírem culpa. Por fim, era também proposto que existisse um sistema de classificação dos veículos autónomos de maneira que produtores, seguradoras e consumidores conseguissem saber a que veículos era aplicado o seguro 54 . Este documento propunha também o seguro first party insurance model, em que no caso de uma colisão e uma vez que a responsabilidade só seria apurada posteriormente, a vítima poderia reclamar diretamente à seguradora os danos que tivesse no veículo 51 MINKYU KIM, «New Legislation and the Reform of the Rules on Robots in Korea», Robotics, Autonomics, and the Law, 2017 ,p. 132, disponível para consulta em https://www.nomos-elibrary.de/10.5771/9783845284651-129/new-legislation-and-the-reform-of-the-rules-on-robots-in-korea?page=18 , consult. a 20/07/2023. 52 Relatório do Comité de Inteligência Artificial da Câmara dos Lordes, 2016, cit., consult. a 20/07/2023. 53 CENTRE FOR CONNECTED AND AUTONOMOUS VEHICLES, Pathway to Driverless Cars: Proposals to support advanced driver assistance systems and automated vehicle technologies , 2016, disponível para consulta em https://assets.publishing.service.gov.uk/government/uploads/system/uploads/attachment_data/file/536365/driverless-cars-proposals-for-adasand_avts.pdf , consult. a 20/07/2023. 54 CENTRE FOR CONNECTED AND AUTONOMOUS VEHICLES, Pathway to Driverless Cars: Proposals to support advanced driver assistance systems and automated vehicle technologies , 2016 , cit., p.19, consult. a 20/07/2023. 12 independentemente da responsabilidade 55 . Este documento também refere que a legislação existente relativa à responsabilidade do produtor seria suficiente, não sendo necessária nenhuma alteração devido à introdução destes veículos autónomos no mercado 56 . No mesmo sentido foi aprovada no Reino Unido a lei Automated and Electric Vehicles Act 2018 , que veio alargar o seguro dos carros comuns a estes veículos autónomos, passando a seguradora e o proprietário a ser responsabilizados por qualquer dano causado por estes veículos, tendo em conta certas circunstâncias. Esta lei consagra situações em que o dano é causado por alterações não permitidas ao software por parte do utilizador, bem como erros em atualizações, bem como os casos em que existe negligência do condutor por deixar que o automóvel opere de forma automática, sem as devidas condições. Por erro em atualizações devemos entender falhas críticas no que concerne à segurança e que o segurado tinha conhecimento de que esta era posta em causa ou pelo menos conhecimento de que se tratava de falhas críticas, sendo que nestes casos a responsabilidade da seguradora pode ser limitada ou excluída. O mesmo seria aplicável no caso de alterações ao software do veículo proibidas, mas levadas a cabo pelo utilizador ou com o seu conhecimento. Por sua vez, no caso de o condutor permitir que o automóvel atue de forma autónoma sem as condições necessárias estarem reunidas, a culpa será do condutor, sendo a responsabilidade do proprietário e da seguradora excluídas 57 . Na Alemanha entrou em vigor a German Road Traffic Act . Esta não foi inovadora no que à responsabilidade civil diz respeito, mas permitiu a condução de veículos autónomos, mediante o cumprimento de certos requisitos, sendo que a condução do mesmo é controlada pelo condutor. O condutor deverá assumir o controlo do veículo, sempre que que perceba que as condições de funcionamento do sistema autónomo não estão reunidas ou quando tal lhe seja solicitado pelo próprio sistema. No âmbito da responsabilidade civil, o proprietário e o condutor continuam a ser responsabilizados, tendo sido apenas definidos limites para as indemnizações no caso de danos causados por estes veículos autónomos. Ainda, definiu que por quem o veículo é controlado deve ser registado numa espécie de “caixa negra”, ficando gravado quem estava a controlar o veículo em certos momentos, podendo estes dados ser transmitidos às autoridades 58 . 55 CENTRE FOR CONNECTED AND AUTONOMOUS VEHICLES, Pathway to Driverless Cars: Proposals to support advanced driver assistance systems and automated vehicle technologies , 2016 , cit., p. 20, consult. a 20/07/2023. 56 Idem , p. 23. 57 Automated and Electric Vehicles Act 2018, 19 de julho de 2018, disponível para consulta em https://www.legislation.gov.uk/ukpga/2018/18, consult. a 20/07/2023. 58 German Road Traffic Act, tradução livre em Inglês, julho de 2017, pp. 2 a 5, disponível para consulta em https://www.researchgate.net/publication/320813344_English_Translation_of_the_German_Road_Traffic_Act_Amendment_Regulating_the_Use_of_Mo tor_Vehicles_with_Highly_or_Fully_Automated_Driving_Function_from_July_17_2017, consult. a 20/07/2023. 13 Por sua vez, na Rússia surgiu a Grishim Law, que veio propor uma alteração ao Código Civil da Federação Russa, com a apresentação de uma proposta de regulamentação legal no campo da robótica. Neste projeto de lei, os robots são considerados independentes, possuidores de capacidade legal e capazes de responder pelos seus atos em certas situações, mas para isso tem de haver um registo e anúncio público do mesmo, pois, até estes, os atos realizados pelos robots serão da responsabilidade do seu possuidor. Aliás, esta proposta de lei apenas se aplica a robots que se encontrem registados 59 . Assim, desde já, é realizada uma diferenciação entre robots que possuem capacidade legal, sujeitos a registo, e robots como propriedade 60 . No entanto, há uma diferenciação clara entre a responsabilidade por danos causados por um robot que tenha capacidade legal ou um robot que seja uma espécie de propriedade 61 . Quando estes robots são uma espécie de propriedade será responsabilizado pelos seus atos a pessoa que o possui, aquele que efetuou a sua manutenção, o fabricante ou pessoa que o desenvolveu 62 . Como referido anteriormente, também nos EUA, no Estado da Califórnia, foi aprovado um projeto de lei que teve relevância no que diz respeito à definição de bot , sendo que no âmbito deste o ser humano que utilize um bot para comunicar com outra pessoa, não será responsabilizado desde que revele que está a utilizar um bot . A utilização de um bot por alguém para comunicar com outra pessoa, não é permitida se a pessoa estiver a enganar a outra sobre a sua identidade artificial 63 . Por fim, também no Brasil ocorreram avanços quanto à regulação da IA impulsionados pela OCDE, que no âmbito da IA criou um conjunto de políticas orientadoras intergovernamentais com o objetivo de os Estados produzirem normativas pautadas pelos direitos humanos, valores democráticos, inovação, fiabilidade e segurança. Assim, no Brasil surgiu o Projeto de Lei nº 20/21 na Câmara dos Deputados, que estabelece direitos e deveres para o uso da IA, bem como o marco legal para o desenvolvimento e sua utilização por parte de entidades diversas. Este projeto constrói um marco regulatório da IA, onde os direitos e deveres de pessoas envolvidas com esta se encontram 59 Projeto de lei de Dmitry Sergeevich Grishin, Grishin Robotics, 2017, tradução livre em inglês, disponível para consulta em https://www.dentons.com/en/insights/alerts/2017/january/27/dentons-develops-first-robotics-draft-law-in-russia, consult. a 20/07/2023. 60 AA VASILYEV/ZH I IBRAGIMOV/E V GUBERNATOROVA, «The Russian draft bill of “the Grishin Law” in terms of improving the legal regulation of relations in the field of robotics: critical analysis», Jornal of Physics: Conference Series , n.º. 1333, 2019, p. 2, disponível para consulta em https://iopscience.iop.org/article/10.1088/1742-6596/1333/5/052027/pdf, consult. a 20/07/2023. 61 A. ATABEKOV/O. YASTREBOV, «Legal Status of Artificial Intelligence Across Countries: Legislation on the Move», European Research Studies Journal , vol. 21, secção 4, 2018, p. 779. 62 AA VASILYEV/ZH I IBRAGIMOV/E V GUBERNATOROVA, «The Russian draft bill of “the Grishin Law” in terms of improving the legal regulation of relations in the field of robotics: critical analysis», Cit., p. 4, consult. a 20/07/2023. 63 Projeto de lei no estado da Califórnia, disponível para consulta em http://leginfo.legislature.ca.gov/faces/billTextClient.xhtml?bill_id=201720180SB1001 , consult. a 20/07/2023. 14 disciplinados, bem como a obrigatoriedade de seguir um conjunto de princípios consagrados no âmbito internacional 64 . Ademais, este projeto de lei contém princípios orientadores da sua produção e desenvolvimento, como a transparência, a segurança, explicabilidade, responsabilização, e outros princípios que possam surgir, pois se houver algum princípio que surja e não esteja presente neste projeto, ele não será excluído. Além disto, este projeto de lei cria a figura do agente de IA, possuidor de responsabilidades próprias da relação do ser humano com o sistema tecnológico, procurando, no fundo, tratar da relação existente entre os algoritmos de IA e os seres humanos. É de salientar que, esta figura do agente de IA não diz respeito, como podemos concluir do acima exposto, aos sistemas de IA, mas sim a todos aqueles que participam na construção e utilização destes sistemas 65 . Ademais, esta figura encontra-se dividida em agentes de desenvolvimento e agentes de operação, sendo, deste modo, impostas por este projeto atribuições específicas a quem desempenhar cada uma das funções relacionadas com a utilização e construção destes sistemas. Além disso, engloba pessoas físicas ou jurídicas de direito público ou privado, bem como entes sem personalidade jurídica. Assim, os agentes de desenvolvimento são todos os agentes de IA que participam nas fases de planeamento, processamento e coleta de dados, construção do modelo, bem como implementação dos sistemas ou verificação e validação. Por outro lado, os agentes de operação são todos os agentes de IA que participam nas fases de controlo e operação do sistema. Posto isto, destas definições podemos retirar que agente de desenvolvimento é o que está ligado às fases anteriores à utilização do sistema de IA, por isso, podemos afirmar que estes são empresas de tecnologia. Esta figura do agente de desenvolvimento demonstra uma preocupação com eventuais problemas independentes da utilização do sistema, relacionados com a sua origem. Diferente dos agentes de desenvolvimento, os agentes de operação estão relacionados com o uso do sistema de IA, ou seja, para o momento em que este se encontra inserido e a interagir com a realidade social. O agente de operação acaba por ser obrigado a monitorizar o sistema constantemente, sendo da sua responsabilidade calibrar o sistema à medida que este se vá alterando na interação com o utilizador. Este agente também deve adotar medidas de diminuição do risco, sendo que aqui se inclui a segurança e a privacidade 66 . Importa ainda referir que esta distinção entre agente de desenvolvimento e agente de operação é essencial para a responsabilização por danos causados por estes sistemas de IA. No âmbito deste 64 HÉRICA CRISTINA PAES NASCIMENTO/MAIQUE BARBOSA DE SOUZA/PATRICIA DA SILVEIRA OLIVEIRA, «A Regulação da Inteligencia Artificial e Novos Contornos para Caracterização da Responsailidade Civil» , Revista de Direito, Governança e Novas Tecnologias, V.7, n.º 2, 2021, pp. 74 a 80. 65 Ibidem. 66 HÉRICA CRISTINA PAES NASCIMENTO/MAIQUE BARBOSA DE SOUZA/PATRICIA DA SILVEIRA OLIVEIRA, «A Regulação da Inteligencia Artificial e Novos Contornos para Caracterização da Responsabilidade Civil» , cit., pp. 74 a 80. 21 fundamento antropológico-axiológico suficiente para justificar a criação de uma personalidade eletrónica 89 . Outro argumento que pode ser utilizado contra a atribuição de personalidade jurídica a estes entes é o facto de estes terem um dono, serem de alguém; sendo assim, parece inconcebível que um sujeito de relações jurídicas possa ser objeto de direito de propriedade de um ser humano 90 . Além disso, devemos refletir se fará sentido um agente autónomo ser titular dos direitos de personalidade, previstos nos art.ºs 70.º a 81.º do CC. Isto porque, com a aquisição de personalidade adquirem-se direitos de personalidade, uma vez que são inatos da pessoa 91 . Assim, será que faz sentido, atribuir a uma máquina direito à vida, imagem, integridade física, autodeterminação, livre desenvolvimento? De acordo, com SÓNIA MOREIRA, atribuir um estatuto jurídico semelhante ao do ser humano a uma máquina é diminuir o ser humano, coisificando-o, atentando contra a sua dignidade 92 . Por último, veja-se o exemplo dos animais e o seu lugar na nossa ordem jurídica. Os animais não possuem personalidade jurídica, não havendo nenhum artigo relativo a estes que diga que são possuidores de direitos. Aliás, o artigo 201.º-D do CC, diz que a estes deve ser aplicado o regime das coisas como regime subsidiário. Mais, o artigo 1302.º, n.º 1 e n.º 2, do CC considera que os animais são objetos de direito de propriedade, ainda que sejam diferenciados das restantes coisas 93 . Embora, não possamos comparar os animais aos sistemas de IA, podemos usar a sua posição no ordenamento jurídico como um argumento contra a atribuição de personalidade jurídica aos entes de IA. Ainda sobre a personalidade jurídica dos entes de IA, MAFALDA MIRANDA BARBOSA considera que, a atribuição de personalidade jurídica não resolveria problema nenhum no âmbito da responsabilidade civil, uma vez que os robots não têm propriedade, não sendo capazes de garantir o ressarcimento pelos danos causados 94 . No mesmo sentido, também NUNO SILVA E SOUSA, começa por afirmar que a personalidade jurídica dos robots apenas está a ser discutida para efeitos de responsabilidade civil. De seguida, explica que no âmbito da responsabilidade subjetiva, de acordo com o art.º 488.º do CC, se pressupõe a existência de um querer e entender. Mas será que estes entes de IA possuem este querer e entender? Ora, para o autor, por um lado e tendo em conta a autonomia pela qual se caracterizam estes agentes podemos aceitar que esta capacidade está presente. No entanto, a generalidade das 89 MARCOS EHRHARDT JÚNIOR/GABRIELA BUARQUE PEREIRA SILVA, «Pessoa e Sujeito de Direito: Reflexões sobre a Proposta Europeia de Personalidade Jurídica Eletrônica», cit., pp. 1111 e ss. 90 SÓNIA MOREIRA, IA e Robótica: A Caminho da Personalidade Jurídica? IA e Robótica: A Caminho da Personalidade Jurídica? , cit., pp. 545 a 549. 91 HEINRICH EWALD HÖRSTER/EVA SÓNIA MOREIRA DA SILVA, A Parte Geral do Código Civil Português , cit ., p. 330. 92 SÓNIA MOREIRA, IA e Robótica: A Caminho da Personalidade Jurídica? IA e Robótica: A Caminho da Personalidade Jurídica? , cit., pp. 545 a 549. 93 Ibidem. 94 MAFALDA MIRANDA BARBOSA, «O futuro da responsabilidade civil desafiada pela inteligência artificial: as dificuldades dos modelos tradicionais e caminhos de solução», cit., pp. 294 a 295. 22 escolhas destes agentes não é propriamente moral, sendo que, por isso, e visto que a culpa é um juízo de censura ético-jurídica, podemos questionar a possibilidade de afirmar a culpa de robots . Ademais, também o padrão de culpa, presente no art.º 487.º do CC, é de difícil adaptação a estes robots . Contudo, no art.º 489.º do CC, são tratados os casos em que pode haver responsabilidade subsidiária do incapaz, não havendo capacidade delitual. Deste modo, havendo a possibilidade de seguir pela via da inimputabilidade dos agentes de IA, a personalidade jurídica iria permitir uma aproximação aos regimes da responsabilidade dos pais pelos atos das crianças ou até mesmo ao regime de responsabilidade pelos atos praticados pelos escravos, no direito romano. Se esta solução fosse considerada, haveria a possibilidade de permitir uma responsabilização a título próprio do agente de IA. De seguida, o autor afirma que, tendo em conta que a uma personalidade jurídica está sempre associada um património, a atribuição de uma personalidade jurídica aos robots dificilmente servirá os interesses do lesado. O autor conclui, por fim, que a questão no âmbito da responsabilidade civil passa mais pela obrigação de indemnizar por danos causados e pela necessidade de existir um património para satisfazer estas eventuais indemnizações do que propriamente pela personalidade jurídica 95 . Ainda contra a atribuição de uma personalidade jurídica, parece estar ANA ELIZABETE FERREIRA, que considera que a atribuição de personalidade jurídica aos robots associada à responsabilidade dos mesmos é desnecessária. Considera que, se quisermos criar um tipo de personalidade jurídica e adaptar à IA o podemos fazer “mutatis mutandis” e com razões idênticas, bem como tendo em conta os pressupostos da personalidade jurídica atribuída às pessoas coletivas. No entanto, afirma que não haveria proveito em conceder a personalidade jurídica, uma vez que apenas o estaríamos a fazer para os responsabilizarmos 96 . Portanto, parece-nos que conceder uma personalidade jurídica aos robots semelhante à dos seres humanos irá trazer muito pouco contributo para os desafios colocados à responsabilidade civil, pois esta concessão ia trazer consigo um novo obstáculo, a falta de património destes agentes de IA. Visto que, as soluções para esta falta de património passam por seguros obrigatórios, defendemos que a concessão de personalidade jurídica acaba por ser desnecessária e que ao contrário da personalidade jurídica concedida às pessoas coletivas, não iria trazer grandes benefícios para a pessoa singular. Ademais, e concordando com SÓNIA MOREIRA, criar um tipo de personalidade jurídica para os entes de IA seria no fundo diminuir o ser humano, pondo em causa os seus direitos fundamentais. 95 NUNO SOUSA E SILVA, «Inteligência Artificial, robots e responsabilidade civil: o que é que é diferente?», Revista de Direito Civil, v. 4, n.º 4, Coimbra, 2019, pp. 707 a 708. 96 ANA ELIZABETE FERREIRA, «Responsabilidade Civil Extracontratual por danos causados por robôs autônomos: breves reflexões», Revista Portuguesa do Dano Corporal, nº27, Coimbra, 2016, pp. 43 a 48. 23 Capitulo IV – Possíveis soluções 1. Adaptação do regime da responsabilidade civil como possível solução Embora um robot seja ainda algo desprovido de dignidade, não podemos negar que estamos perante um agente capaz de tomar decisões autónomas, ainda que resultantes da ponderação de vários princípios e fatores. Tendo em conta que, com o aumento da utilização destes agentes de IA, também aumenta a sua potencialidade danosa, bem como esferas de imputação, impera uma necessidade de estabelecer o que deve ser aplicado no caso de danos causados por agentes de IA. Ora, se pensarmos num simples programa de computador em comparação a um agente de IA podemos argumentar que o princípio da precaução impõe um maior cuidado no que aos agentes de IA diz respeito. Contudo, não nos podemos esquecer que estes agentes de IA são mais imprevisíveis que um simples programa de computador, sendo que um padrão muito elevado de segurança se revelaria demasiado oneroso ou até mesmo impossível, podendo até ter um impacto negativo no desenvolvimento tecnológico e económico relativo à IA 97 . No que aos danos causados por estes agentes de IA concerne, há várias questões a ser consideradas, tais como a diluição da identidade dos agentes responsáveis com a aproximação destas tecnologias aos utilizadores, a necessidade de verificar a existência de possíveis contratos e o seu conteúdo. No caso de haver um contrato, é preciso verificar a existência de cláusulas de limitação e exclusão de responsabilidade, cláusulas estas cuja validade tem de ser analisada nos termos gerais. Além disso, também devem ser considerados os deveres presentes em legislação especial, como é o caso do DL n.º 69/2005, de 17 de março, que consagra o dever de segurança geral, bem como o DL n.º 103/2008, de 24 de junho, que diz respeito à colocação no mercado e entrada em serviço de máquinas 98 . Ainda se impõe uma necessidade de refletir sobre a IA de “caixa-negra” 99 e se esta técnica é aceitável à luz do direito, ponderando se esta não pode ser considerada uma violação do princípio actio libera in causa 100 . 97 NUNO SOUSA E SILVA, «Inteligência Artificial, robots e responsabilidade civil: o que é que é diferente?», cit., pp. 697 a 698. 98 Ibidem. 99 A IA de caixa-preta aparece por oposição à IA de caixa-branca. A IA de caixa-branca caracteriza-se pelo facto de o sistema ser criado de maneira “tradicional” e as linhas do código se encontrarem claramente refletidas no resultado obtido pelo software . Por outro lado, os sistemas de IA são desenvolvidos de forma diferente, estando mais próximos da ideia de caixa-preta, uma vez que não é possível entender, de facto, o que está a acontecer no sistema. A caixa-preta é a capacidade de um sistema de IA fornecer ou ganhar respostas de maneiras inesperadas. Por exemplo, um sistema de IA que, sem estar programado para tal, ganha a capacidade de entender um novo idioma. – BBC NEWS MUNDO, «O que é a misteriosa “caixa-preta” da inteligência artificial que preocupa os especialistas», BBC NEWS BRASIL , 2023, disponível para consulta em https://www.bbc.com/portuguese/articles/c870xmd2dv0o , consult. a 05/09/2023. 100 NUNO SOUSA E SILVA, «Inteligência Artificial, robots e responsabilidade civil: o que é que é diferente?», cit., pp. 697 a 698. 24 De acordo com HENRIQUE SOUSA ANTUNES, os robots carecem de imputabilidade, devendo a sua responsabilização ser procurada na pessoa física que se encontra associada com a produção ou atuação destes agentes de IA 101 . O facto é que existe a necessidade de saber que regime aplicar aos danos causados por estes agentes. Assim, iremos começar pela analogia com as leis existentes. Começaremos por tentar adaptar o regime da responsabilidade subjetiva aos agentes autónomos de IA, indo de seguida para o regime da responsabilidade objetiva, o qual consideramos mais fácil de adaptar, desde logo, porque os robots não têm uma personalidade jurídica, o que torna difícil o preenchimento dos pressupostos necessários para que se possa aplicar o regime da responsabilidade subjetiva, mormente a culpa. Antes de mais, será feito um breve enquadramento do regime da responsabilidade civil à luz do quadro normativo vigente. 1.1 Breve enquadramento do regime de responsabilidade civil português A figura da responsabilidade civil surge pela imposição prevista na lei da obrigação de reparar os danos causados a outrem por parte do beneficiário de certa atividade ou autor de certos factos. O instituto da responsabilidade civil visa colocar o lesado sem dano, isto é, na situação que estaria se o facto danoso não tivesse ocorrido. A pessoa responsável pelo facto danoso tem a obrigação de colocar o lesado na posição que estaria sem a lesão, de acordo com os arts.º 483.º e 562.º do CC. De acordo com o art.º 566.º, n.º 1, do CC, esta reconstituição deve ser feita, em primeiro lugar, mediante reconstituição natural; no caso de não ser possível, excessivamente onerosa ou insuficiente, a restituição deverá acontecer mediante uma indemnização em dinheiro. É de salientar que a reconstituição por via de uma indemnização em dinheiro é a opção maioritária 102 . Ora, sendo assim, o que é que esta indemnização engloba? No direito civil português são tidos em conta, na fixação de uma indemnização, os danos patrimoniais e os danos não patrimoniais, que pela sua gravidade mereçam tutela, como pode ser visto no art.º 496.º, n.º1, do CC. Os danos patrimoniais são os prejuízos que podem ser alvo de uma avaliação em dinheiro. De acordo com o art.º 564.º, n.º 1, do CC, aqui está compreendido o dano emergente, isto é, os valores que constavam no património do lesado e deixaram de figurar neste em consequência da lesão, e o lucro cessante, que corresponde às vantagens que deixaram de entrar no património do lesado em virtude da mesma. Por sua vez, os danos não patrimoniais referem-se a valores de ordem espiritual ou moral, insuscetíveis de avaliação 101 HENRIQUE SOUSA ANTUNES, Direito e Inteligência Artificial, Universidade Católica, 2020, p. 26. 102 LUÍS MENEZES LEITÃO, Direito das Obrigações, vol. I, Introdução: Da Constituição das Obrigações, 15.ª edição, Coimbra, Almedina, 2020, pp. 283-287. 25 pecuniária: são danos que coloquem em causa a integridade física, saúde, tranquilidade, reputação, bem-estar físico e psíquico, entre outros. Os danos morais verificam-se, normalmente, quando existe uma lesão de direitos de personalidade. A atribuição de uma soma pecuniária à lesão destes direitos legitima-se pela ideia de compensação e não de indemnização ou reconstituição, uma vez que não se trata de prejuízos avaliáveis em dinheiro. Não é possível reintegrar estes danos, mesmo que por equivalente, assim para contrabalançar o dano, é possível compensá-lo, mediante a satisfação que o uso do dinheiro possa vir a trazer. Não se trata da atribuição de um preço à dor, mas sim de proporcionar uma satisfação, por via da realização de interesses que o dinheiro tem aptidão para realizar 103 . No nosso regime jurídico encontramos estabelecida uma responsabilidade subjetiva e uma responsabilidade objetiva. O nosso sistema jurídico, tem preferência pela responsabilidade subjetiva, isto é, a responsabilidade que exige a culpa do agente, sendo a responsabilidade objetiva aplicada de forma muito limitada. Deste modo, como é que se justifica esta preferência do sistema vigente pela necessidade de culpa, bem como à não atenção dada à reparação do dano, caso não exista dolo ou negligência por parte do autor do dano? O princípio da culpa é compreendido como condido sine qua non da responsabilidade, sendo que essa parece ser a solução socialmente mais conveniente e justa, porque a exigência da culpa do sujeito é um apelo à liberdade moral – a responsabilidade civil tem, assim, um fundamento ético 104 -, bem como uma apresentação dos danos como consequências que se poderiam evitar, podendo assim contribuir-se para um aumento do zelo e cuidado de forma a impedir estes danos. Ademais, a responsabilidade objetiva atribui uma segurança às potenciais vítimas de danos, sendo que isto poderá contribuir para que ocorra uma diminuição da ponderação por parte do homem nas consequências que o dano poderá causar, ou seja, se houver uma garantia de que poderá estar isento das responsabilidades no caso de ter atuado com todo o zelo, cuidado, competência e diligência que deveria, isto poderá afetar a sua ponderação no momento de realização de certos factos que poderão ser danosos. Por fim, este regime pode ser considerado arbitrário, podendo ser visto como a escolha de uma vítima pelo acaso, sob o ponto de vista da justiça 105 . Assim, ao considerar a culpa como um paradigma no nosso sistema de responsabilidade civil, estamos a estabelecer uma ligação com o conceito de responsabilidade moral. A responsabilidade moral é diferente da responsabilidade jurídica civil, uma vez que pertence ao domínio dos deveres do homem para consigo mesmo e da consciência, não tendo em conta as consequências externas que a 103 Ibidem. 104 A este respeito ver também HEINRICH EWALD HÖRSTER/EVA SÓNIA MOREIRA DA SILVA, A Parte Geral do Código Civil Português , cit ., pp. 77 a 78. 105 LUÍS MENEZES LEITÃO, Direito das Obrigações, cit., pp. 283 a 287. 26 conduta possa causar e apenas estando sujeita às sanções do ordenamento ético. No fundo, o que se pretende dizer com esta ligação é que a responsabilidade assente na culpa tem o mesmo fundamento que a responsabilidade moral, ou seja, tem como base a aceitação da liberdade do homem, de um certo indeterminismo na execução das suas condutas, o sentimento, a experiência, bem como a identificação do agente com os resultados do seu atuar, sendo exatamente pelo indeterminismo na execução das suas condutas e por poder ter agido diversamente que os deve assumir 106 . Posto isto, mais à frente iremos abordar a responsabilidade subjetiva e objetiva mais a fundo, uma vez que serão estes os dois regimes que iremos tentar adaptar à responsabilidade pelos danos causados por agentes autónomos. 1.2 Responsabilidade subjetiva Segundo o artigo 483.º, n.º 1, do CC, “[a]quele que, com dolo ou mera culpa, violar ilicitamente o direito de outrem ou qualquer disposição legal destinada a proteger interesses alheios fica obrigado a indemnizar o lesado pelos danos resultantes da violação”. Este artigo é a consagração do regime regra da responsabilidade extracontratual subjetiva, sendo possível daqui retirar um conjunto de pressupostos que têm de estar reunidos, que são a ilicitude, que é a infração de um dever jurídico, o nexo de imputação do facto ao lesante, o dano, o nexo de causalidade entre o facto e o dano, e, por fim, o um facto voluntário do agente 107 . Iremos agora passar a uma análise destes pressupostos, bem como das várias questões associadas com estes. O primeiro pressuposto é o facto voluntário do lesante, ou seja, tem de existir uma conduta dominada pela vontade e que possa ser imputada a um ser humano. Esta conduta deve ainda ser vista como a atuação de um sujeito responsável. Não é aqui exigido que este comportamento seja intencional, bastando uma conduta que possa ser imputada ao agente, em virtude de este estar sob o controlo da sua vontade. Assim, acontecimentos exteriores causadores de danos, como quedas de raios, ciclones, terramotos, não são considerados factos voluntários, pois encontram-se fora do controlo do ser humano. No entanto, não são apenas os acontecimentos exteriores ao agente que podem não ser considerados factos voluntários, também os acontecimentos respeitantes ao agente podem não ser classificados como factos voluntários. Aqui, encontram-se os atos praticados pelo agente, em que este não estava a exercer a sua vontade ou em que lhe tenha faltado a consciência. Por exemplo, o caso 106 Ibidem. 107 MÁRIO JÚLIO DE ALMEIDA COSTA, Direito das Obrigações , 12.ª edição Revista e Atualizada, 2.ª Reimpr., Lisboa, Almedina, 2013, pp. 561 a 567. 27 em que o agente tem um ataque cardíaco e em virtude deste cai por cima de um vaso partindo-o, aqui não há facto voluntário, não se encontra envolvida a responsabilidade civil. Mas, imaginemos o caso em que este vaso não é partido por via de um ataque cardíaco, mas sim por um gesto brusco do agente, aqui já se poderia considerar a existência de algum domínio da vontade, podendo, assim, envolver a responsabilidade civil 108 . Ademais, de acordo com os arts.º 483.º e 486.º do CC, o facto voluntário pode assumir duas formas, a ação e a omissão. No caso da ação, a imputação do comportamento ao agente é simples; o mesmo já não se verifica com a omissão. Na omissão, a imputação ao agente exige que, como um dever específico da prática do ato omitido, ocorra a sua oneração. Realmente, não existe um dever genérico de impedir o acontecimento de danos na esfera jurídica de outrem, aliás, a imposição deste dever tornaria a vida social impossível. Assim, para que ocorra a imputação do dano por via da omissão, é exigido que para além dos pressupostos da responsabilidade civil, exista um dever específico que transforme o agente como garante da não verificação desses acontecimentos danosos. Este dever específico de garante pode ser imposto por lei, como se pode verificar pelas disposições presentes nos arts.ºs 491.º, 492.º e 493.º do CC, bem como por um contrato, segundo o art.º 486.º do CC. A doutrina dos “deveres de prevenção do perigo delituais” ou “deveres de segurança no tráfego”, acolhida entre nós, defende que alguém que exerça atividades consideradas perigosas tem o dever de evitar a verificação de danos a outrem, podendo ser responsabilizado por omissão se não o fizer. Ou seja, aquilo que esteja sobre o controlo do sujeito e que seja considerado perigoso delimita um campo de imputação específico, onde o agente pode ser responsabilizado pela ocorrência de danos 109 . Assim, tendo em conta a explicação do que consiste o pressuposto do facto voluntário, serão os agentes dotados de IA capazes de praticar um facto voluntário? Será que estes agentes podem ser responsabilizados? Ou serão aqueles que deles tiram proveitos quem deve ser responsabilizado? Os agentes dotados de IA possuem um certo grau de imprevisibilidade no seu comportamento, pois conseguem com a sua experiência própria aprender de forma autónoma, bem como interagir de forma única e imprevisível com o ambiente. Assim, como não é possível os produtores, proprietários e utilizadores da máquina dotadas de IA, conseguirem prever o seu comportamento, não devem ser responsabilizados pela sua conduta 110 . Segundo JOANNA J. BRYSON, um robot autónomo incorpora a sua motivação e mecanismos de decisões, mas somos nós que escolhemos as suas motivações, bem como desenhamos o seu sistema 108 LUÍS MENEZES LEITÃO, Direito das Obrigações, cit., pp. 287 a 289. 109 LUÍS MENEZES LEITÃO, Direito das Obrigações, cit., pp. 287 a 289. 110 ANDREA MATTHIAS, «The responsibility gap: Ascribing responsibility for the actions of learning automata», Ethics and Information Technology, nº 6, 2004, p. 175, disponível para consulta em https://link.springer.com/article/10.1007/s10676-004-3422-1, consultado em 10/08/2023. 28 de decisão, assim, todos os seus objetivos vêm de nós, das pessoas que criam o sistema de IA. Desta forma, a autora defende que mesmo aos sistemas autónomos deve ser aplicada a teoria instrumentalista, que poderá denominar-se de “Instrumentalismo 2.0“, devendo ser responsabilizado pelos danos causados pelos agentes de IA aquele que o utiliza 111 . No entanto, este pensamento não é desprovido de dificuldades, uma vez que poderá afetar o desenvolvimento dos sistemas de IA mais avançados, pois os engenheiros de software e fabricantes podem não desenvolver, bem como deixar de comercializar estes sistemas para evitarem ser responsabilizados 112 . Além disso, se seguirmos estes pensamentos, podemos estar a assistir ao surgimento da “Escravidão 2.0”, relacionada com a empatia e sentimento 113 . Veja-se o exemplo de soldados dos EUA que começaram a criar laços com os robots que estão consigo nas missões, sofrendo com a sua destruição, atribuindo-lhes medalhas, sendo que estes comportamentos dificultam que estes robots sejam vistos apenas como meros instrumentos 114 . Seguindo outro sentido, EMAD DAHIYAT, considera que responsabilizar alguém que não tenha previsto nem contribuído para os danos causados será injusto 115 . Por outro lado, DAVID J. GUNKEL apresenta como solução para este problema uma responsabilidade híbrida, devendo a responsabilidade ser distribuída entre a máquina e o ser humano. Esta proposta vai no sentido do “problem of many hands”, isto é, quando temos várias partes a contribuírem de maneiras diferentes para o desenvolvimento dos sistemas de IA 116 . Veja-se o caso do robot Gaak, que fugiu da arena, tendo causado danos. Esse robot através da sua experiência tomou uma decisão independente para sobreviver 117 . No entanto, uma vez que temos demasiadas partes envolvidas no seu desenvolvimento, é difícil atribuir a responsabilidade ao produtor, programador, utilizador ou proprietário 118 . Mas, por outro lado, também não é possível responsabilizar o próprio robot . Além do facto voluntário, também temos como pressuposto a culpa e a ilicitude. 111 JOANNA J. BRYSON, «Robots Should Be Slaves», Artifical Models of Natural Intelligence , University of Bath, BA2 7AY, Reino Unido, 2009, pp. 10 a 11, disponível para consulta em https://www.semanticscholar.org/paper/Robots-should-be-slaves-Bryson/5b9f4b2a2e28a74669df3789f6701aaed58a43d5 , consult. a 10/08/20203. 112 DAVID J. GUNKEL, «Mind the gap: responsible robotics and the problem of responsibility», in Ethics and Information Technology, n.º 22, 2020, p.314, disponível para consulta em https://link.springer.com/content/pdf/10.1007/s10676-017-9428-2.pdf , consult. a 10/08/2023. 113 Idem , p. 315. 114 JOEL GARREAU, «Bots on the Ground», The Washington Post , Retrieved, 6 de maio de 2007, disponível para consulta em http://www.washingtonpost.com/wp-dyn/content/article/2007/05/05/AR2007050501009.html , consult. a 10/08/2023. 115 EMAD DAHIYAT, “Intelligent agents and liability: is it a doctrinal problem or merely a problem of explanation?”, Artificial Intelligence Law , n.º18, 2010, Springer, p. 106, disponível para consulta https://www.researchgate.net/publication/220539471_Intelligent_agents_and_liability_Is_it_a_doctrinal_problem_or_merely_a_problem_of_explanation , consult. a 10/08/2023. 116 DAVID J. GUNKEL, «Mind the gap: responsible robotics and the problem of responsibility», cit., p. 317. 117 PAULIUS CERKA/JURGITA GRIGIENÈ/GINTARÉ SIRBIKYTÈ, «Liability for damages caused by artificial intelligence», cit., p. 382. 118 EMAD DAHIYAT, «Intelligent agents and liability: is it a doctrinal problem or merely a problem of explanation?», cit., p. 107. 29 Podemos definir a culpa como um juízo de censura ao agente pelo facto de ter adotado uma conduta, estando antes obrigado a ter uma outra conduta, de acordo com o comando legal 119 . Segundo o art.º 483.º do CC, são admitidas duas formas de culpa, o dolo e a negligência. O dolo pode ser visto como a intenção do agente de praticar um facto. Por outro lado, na negligência não há essa intenção, mas como o agente omitiu um comportamento a que estava obrigado, a sua conduta não deixa de ser censurável. Esta distinção entre dolo e ilicitude revela uma grande importância para efeitos da dogmática do direito civil. No caso do dolo, se existir a lesão de algum interesse objetivo de uma norma de proteção ou de algum direito subjetivo, o agente atua logo ilicitamente. No entanto, se o agente não tiver atuado com dolo, apenas irá existir ilicitude, por isso admite-se a negligência como não só uma forma de culpa, mas também como um requisito suplementar de ilicitude 120 . De acordo com o art.º 487.º, n.os 1 e 2 do CC, exceto nos casos em que existe presunção de culpa, cabe ao lesado provar a culpa do autor da lesão, sendo esta culpa aferida pela “diligência de um bom pai de família”. Assim, a diligência devida é aquela que um bom pai de família teria tido se se encontrasse nas circunstâncias em que o agente se encontrava 121 . Mas, será possível adaptar o padrão do “bom pai de família” aos agentes de IA? A doutrina aponta uma necessidade de revisão deste padrão. De acordo com HENRIQUE SOUSA ANTUNES, tendo em conta as características da IA, este padrão deve ser substituído pelo melhor comportamento possível do robot na circunstância em concreto 122 . No mesmo sentido, RYAN ABBOT também defende a substituição do padrão, mas por um padrão informático razoável, tendo sempre em conta a tecnologia industrial média, habitual e mais segura 123 . Por outro lado, existem autores como JACOB TURNER e ANA RITA MAIA que defendem que não é possível aplicar este padrão. ANA RITA MAIA considera que para se aplicar este padrão é necessário definir-se o que é o comportamento normal, bem como aceitar a ocorrência de erros, sendo que quanto aos agentes de IA existe a dificuldade de prever o comportamento 124 . Por outro lado, JACOB TURNER considera que não será possível aplicar o mesmo padrão a todos os agentes de IA, pois estes podem ser desenvolvidos de formas diferentes, sendo que esta diferenciação nas técnicas de desenvolvimento vai aumentar o desenvolvimento tecnológico 125 . Antes de passarmos à análise das presunções de culpa, é importante referir a questão da imputabilidade. Ora, para que alguém seja imputável tem de possuir a liberdade de autodeterminação, 119 LUÍS MENEZES LEITÃO, Direito das Obrigações, cit., p. 309. 120 LUÍS MENEZES LEITÃO, Direito das Obrigações, cit., pp. 287-289. 121 ANA PRATA, Código Civil Anotado, vol. I, 2.ª edição Revista e Atualizada, Coimbra, Almedina, 2019, p. 669. 122 HENRIQUE SOUSA ANTUNES, «Inteligência Artificial e Responsabilidade Civil: Enquadramento», Revista de Direito da Responsabilidade, ano 1, 2019, p. 34. 123 RYAN ABBOTT, «The Reasonable Computer: Disrupting the Paradigm of Tort Liability», George Washington Law Review , vol. 86, n.º 1, 2018, p. 41, disponível para consulta em https://papers.ssrn.com/sol3/papers.cfm?abstract_id=2877380 , consult. a 10/08/2023. 124 ANA RITA MAIA, «A Responsabilidade Civil na Era da Inteligência Artificial - Qual o caminho?», cit., p. 32. 125 JACOB TURNER, Robot Rules: Regulating Artificial Intelligence, Londres, Palgrave Macmillan, 2019, e-book, disponível para consulta em https://doi.org/10.1007/978-3-319-96235-1 , consult. a 10/08/2023, p. 90. 30 bem como ter a capacidade, no momento da prática do ato de compreender as consequências que deste podem resultar 126 . De acordo com ANA RITA MAIA, mesmo que até possa estar preenchido o nexo de causalidade, depois falha esta questão da imputabilidade 127 . Se seguíssemos por esta via, poderia existir aqui uma aproximação ao regime da responsabilidade dos pais pela atuação dos filhos (crianças e incapazes) ou mesmo até o regime de responsabilidade pela atuação dos escravos no direito romano 128 . Analisando a primeira parte do art.º 483º, n.º 1, do CC, podemos afirmar que, o lesado tem o ónus da prova da culpa, devendo em tribunal conseguir demonstrar o carácter objetivamente censurável da conduta 129 . Uma vez que esta prova é de difícil realização, foram concebidas presunções de culpa que devem ser aplicadas em determinadas situações, nomeadamente situações em que há uma fonte específica de perigo e a sua custódia está atribuída a um certo sujeito, existindo assim a sua responsabilização pela violação de deveres de segurança, que lhe impunham evitar a ocorrência de danos que fossem resultantes dessa fonte de perigo, sendo isto visível na segunda parte do art.º 487.º, n.º 1, do CC 130 . No ordenamento jurídico português, as presunções de culpa encontram-se consagradas nos arts.º 491.º a 493.º do CC. Segundo a presunção de culpa do art. 491.º, a pessoa que tinha como obrigação vigiar outra é responsável pelo dano que por esta seja causado, não sendo responsabilizada apenas se demonstrar que o seu dever de vigilância estava cumprido ou que aquele dano ter-se-ia verificado mesmo que tivesse cumprido o seu dever de vigilância. Também, no art.º 492.º, n.º 1, do CC está prevista outra presunção de culpa, segundo a qual, a presunção de culpa recai sobre o possuidor ou proprietário de obra de ruir, por algum defeito de conservação ou vício de construção, a menos que consiga provar que aquele dano teria ocorrido, mesmo que tivesse atuado com toda a diligência ou que não existiu culpa da sua parte. No art.º 493.º, n.º 1, do CC encontra-se prevista a presunção de culpa por danos de coisas ou animais, sendo que aqui a presunção recai sobre aquele que tiver assumido o encargo de vigilância, a menos que consiga provar que aqueles danos ter-se-iam verificado, mesmo que tivesse atuado com toda a diligência ou que não houve culpa. Por último, no art.º 493.º, n.º 2, do CC está prevista a presunção de culpa por danos causados por atividades perigosas, sendo definido que a presunção recai sobre aquele que provocar danos a outra pessoa em virtude do exercício de uma atividade que seja considerada perigosa pelos meios utilizados ou pela sua própria natureza. Neste 126 ANA PRATA, Código Civil Anotado, cit., p. 670. 127 ANA RITA MAIA, «A Responsabilidade Civil na Era da Inteligência Artificial - Qual o caminho?», cit., p. 33. 128 NUNO SOUSA E SILVA, «Inteligência Artificial, Robots e Responsabilidade Civil: o que é que é diferente?», cit., p. 707. 129 LUÍS MENEZES LEITÃO, Direito das Obrigações, cit., p. 318. 130 Idem, pp. 318 e 319. 37 sistema de IA que causou os danos ou algum componente que consigo está interligado que causou o problema na sua interação com a IA. Posto isto, torna-se importante perceber em que medida é que os componentes tecnológicos podem estar envolvidos nos danos causados pelas máquinas dotadas de IA 166 . Esta ideia segue, no fundo, o requisito de transparência pelo qual se deve pautar uma IA de confiança. Para que haja transparência no sistema de IA, devem os dados, bem como todos os processos que produzem a decisão do sistema de IA, desde os processos de recolha e etiquetagem de dados, algoritmos utilizados, ser documentados para permitir que haja uma rastreabilidade, bem como esta transparência aqui mencionada. Além disto, todos os processos e decisões humanas relacionadas com o sistema de IA devem estar documentados e todos os seres humanos que interajam com este sistema de IA devem ser informados de que estão a interagir com IA 167 . Como refere HENRIQUE SOUSA ANTUNES, há uma dificuldade em encontrar a identidade dos agentes responsáveis, sendo que assim há uma exigência de alteração dos critérios em que assenta a identificação do autor da lesão 168 . O Parlamento Europeu procurou resolver este problema, na Resolução do Parlamento Europeu de 2017, Considerando 56, onde defende que a responsabilidade das partes deve estar ligada ao nível de autonomia e das instruções dadas aos robots , dessa forma, quanto mais autónoma e com instruções for a máquina dotada de IA, mais responsável será o seu “professor”. Ainda, afirma que, na busca por um responsável para os danos causados pelas máquinas dotadas de IA, as competências que esta possui por via da sua “formação” não devem ser confundidas com as competências que advém da sua autoaprendizagem. É ainda de salientar que, de acordo com esta resolução, a pessoa que deve ser responsabilizada nesta fase, deve sempre ser um humano e não um robot 169 . Contudo, na Resolução do Parlamento Europeu de 2020, já se considera que quem deve ser responsabilizado pelos danos causados pelos sistemas de IA são todos os intervenientes nas cadeias de desenvolvimento e de fornecimento dos serviços e produtos de IA 170 . Esta ideia de que devem ser responsabilizados todos os intervenientes no processo de criação/desenvolvimento dos sistemas de IA não é de fácil concretização, uma vez que neste processo pode haver intervenientes mais responsáveis que outros, sendo uma forma de solucionar esta questão o acompanhamento do percurso do sistema de IA. No caso de não ser possível acompanhar o sistema, vai existir um problema na atribuição da responsabilidade 171 . Será que esta situação poderá ser 166 MARK COECKELBERGH, «Artificial Intelligence, Responsibility Attribution, and a Relational Justification of Explainability», Science and Engineering Ethics , 2020, n.º 26, pp. 2057 a 2058, disponível para consulta em https://doi.org/10.1007/s11948-019-00146-8 , consult. a 10/08/2023. 167 GRUPO INDEPENDENTE DE PERITOS DE ALTO NÍVEL SOBRE A INTELIGÊNCIA ARTIFICIAL, Orientações Éticas para uma IA de Confiança , cit., p. 22. 168 HENRIQUE SOUSA ANTUNES, «Inteligência Artificial e Responsabilidade Civil», cit., p. 21. 169 Resolução do Parlamento Europeu, de 16 de fevereiro de 2017, cit ., s/p. 170 Resolução do Parlamento Europeu (2020/2012(INL)), de 20 de outubro de 2020, cit ., s/p. 171 MARK COECKELBERGH, «Artificial Intelligence, Responsibility Attribution, and a Relational Justification of Explainability», cit., p. 2057. 38 resolvida por via da responsabilidade solidária? Com a responsabilidade solidária prevista no art.º 497.º do CC, existindo vários responsáveis responderão todos solidariamente, sendo que a indemnização pode ser pedida apenas a um, havendo depois, nas relações internas, direito de regresso, devendo averiguar-se quem foi mais ou menos responsável, nos termos dos art.º 497.º, n.os1 e 2 do CC. Além de tudo isto, também existe o problema da prova de que o sistema de IA originou os danos, uma vez que esta para o lesado pode ser difícil, sobretudo no caso de os danos terem sido provocados devido a erros no algoritmo que trabalha com o hardware do sistema. Estes erros, ao contrário dos simples defeitos de hardware que se conseguem detetar com facilidade, necessitam de um especialista na matéria para os analisar, por isso além de difícil prova, esta também pode acabar por ser bastante dispendiosa para o lesado 172 . Esta questão pode agravar-se, no caso de os próprios sistemas de IA estarem envolvidos no próprio desenvolvimento do código e melhoria. Por exemplo, os bots que o Facebook utilizou numa experiência, em que estes negociavam entre si, começaram a ter conversas sem sentido, tendo esta alteração na linguagem acontecido, porque estes ou desenvolveram uma nova linguagem ou estariam a tentar modificar a linguagem humana 173 . Por fim, aqui ainda podemos apontar a questão das atualizações de software , pois se estas forem feitas por outras pessoas que não o produtor original, encontrar erros no código pode ser ainda mais difícil e terá de envolver especialistas, podendo estes erros ser no código original ou não, além de que os dados e o seu processamento podem ter falhas em si 174 . Terminada esta análise dos pressupostos da responsabilidade civil impõe-se ainda o problema da indemnização, que apresenta vários desafios, desde logo, o facto de estes agentes de IA não possuírem um património. Esta questão da indemnização será abordada mais à frente. Portanto, o regime da responsabilidade civil subjetiva não parece ser de aplicar aos agentes de IA, desde logo por todas as dificuldades associadas aos pressupostos desta, agravadas pela falta de personalidades destes agentes. 1.2.1 Responsabilidade contratual – análise crítica da possível aplicação do artigo 800.º do CC Antes de começarmos a análise da responsabilidade objetiva, deve ser referido o art.º 800.º do CC, que diz respeito à responsabilidade contratual do devedor pelos atos praticados pelos representantes 172 EXPERT GROUP ON LIABILITY AND NEW TECHNOLOGIES, Liability for Artificial Intelligence and other emerging digital technologies , cit., p. 20. 173 CHRIS BARANIUK, «The 'creepy Facebook AI' story that captivated the media», BBC News , 1 de agosto de 2017, disponível para consulta em https://www.bbc.com/news/technology-40790258 , consult. a 10/08/2023. 174 EXPERT GROUP ON LIABILITY NEW TECHNOLOGIES, Liability for Artificial Intelligence and other emerging digital technologies , cit., p. 20. 39 legais ou auxiliares que sejam utilizados no cumprimento de determinada obrigação 175 . Iremos analisar esta possível aplicação do art.º 800.º do CC de forma individual, uma vez que, desde já, não consideramos que este deva ser aplicado aos danos causados pelos sistemas de IA. Segundo o art.º 800.º, n.º 1, do CC, “[o] devedor é responsável perante o credor pelos actos dos seus representantes legais ou das pessoas que utilize para o cumprimento da obrigação, como se tais actos fossem praticados pelo próprio devedor”. Deve este artigo ser aplicado aos danos causados pelos sistemas de IA? Em primeiro lugar, este artigo quando refere auxiliares, refere-se a pessoas, assim, só através de uma analogia muito generosa é que podemos aplicar este artigo a robots 176 . Em segundo lugar, existe a possibilidade de haver apenas responsabilidade do devedor, de este ter culpa própria, por exemplo, as situações em que o dano foi causado por escolha do devedor ou em que ocorre uma falha devido a um erro de alguém que atua a montante do fornecedor, nestes casos não é possível recorrer ao art.º 800.º do CC. Aliás, no caso de o erro acontecer por culpa de alguém a montante do fornecedor é este que responde pelos danos perante o utilizador 177 . Em terceiro lugar, imaginemos a situação contrária à exposta anteriormente, isto é, os casos em que não existe culpa “ in eligendo ”, “ in vigilando ” ou “ in instruendo ” do devedor e em que o dano é causado por uma deficiente atuação do robot . Nesta situação deve o devedor responder como se de atos próprios se tratasse pelos danos causados? Ora, a resposta afirmativa a esta questão não se encontra desprovida de dificuldade, desde logo porque, de acordo com a lei, o devedor responde pelos atos dos auxiliares como se dos seus próprios se tratasse, assim, no caso de os auxiliares atuarem sem culpa, nenhuma responsabilidade será imputada ao devedor. Mas, para que este artigo possa ser aplicado aos sistemas de IA é necessário uma generosa adaptação, desde logo, porque estes não são suscetíveis de ser objeto de um juízo de censura, nem de um juízo de censura ético-jurídico, nem suscetíveis de um juízo de imputabilidade 178 . Posto isto, e supondo que o art.º 800, n.º 1, do CC fosse aplicado aos danos causados pelos sistemas de IA, será que o devedor poderia excluir ou limitar a sua culpa, por acordo prévio? De acordo com o art.º 800.º, n.º 2 do CC, “a responsabilidade pode ser convencionalmente excluída ou limitada, mediante acordo prévio dos interessados, desde que a exclusão ou limitação não compreenda actos que representem a violação de deveres impostos por normas de ordem pública”. 175 ANTÓNIO PINTO MONTEIRO, «Qui Facit Per Alium, Facit Per Se – Será Ainda Assim na Era Robótica?», Revista de Legislação e de Jurisprudência, n.º 4015, p.19. 176 ANTÓNIO PINTO MONTEIRO, «Qui Facit Per Alium, Facit Per Se – Será Ainda Assim na Era Robótica?», cit., p.19 a 30. 177 Ibidem. 178 Ibidem. 40 Desta forma, para respondermos a esta questão, podemos utilizar o art.º 800.º, n.º 2 do CC, que permite ao devedor excluir ou limitar a sua responsabilidade, no caso dos atos praticados pelos auxiliares ou representantes legais, mesmo que exista culpa e dolo graves por parte destes, havendo apenas como único limite a ordem pública. Importa ainda salientar que o art.º 800.º do CC se deve aplicar a auxiliares dependentes e independentes, sendo que apenas no caso dos auxiliares independentes é que se justificará que o devedor possa excluir a responsabilidade de forma mais generosa do que se tivesse sido o próprio a cumprir ou tivesse recorrido a auxiliares dependentes 179 . Posto isto, em que situações é que se pode aplicar o art.º 800.º, do n.º 2, do CC? A resposta a esta questão deve ser feita tendo em conta o diferente tipo de relacionamento entre as pessoas utilizadas para o cumprimento da obrigação, daí ter sido importante a referência de que o art.º 800.º do CC se aplica a auxiliares dependentes e independentes. Esta distinção entre auxiliares dependentes e independentes é relevante para efeitos de exclusão de responsabilidade 180 . No caso de um auxiliar dependente que possui uma ligação com o devedor, esta relação normalmente advém de um contrato de trabalho. Diferente disto, é a situação em que o devedor recorre a pessoas alheias à sua organização, que atuam com autonomia, embora colaborem com o devedor no cumprimento da obrigação, nestes casos estamos perante um auxiliar independente. Apenas neste caso é que podemos considerar que o devedor está numa posição favorável para exonerar ou limitar a responsabilidade. Aqui, o devedor pode excluir a sua responsabilidade, pois não se trata de atos próprios, mas sim de atos de terceiros. Portanto, apenas em caso de terceiro independente é que pode o devedor se fazer valer de uma cláusula de exclusão de responsabilidade, mediante acordo prévio. No caso, de estarmos perante um auxiliar dependente deve ser aplicado o art.º 809.º do CC 181 . Deste modo, para tentativa de adaptação de o acima mencionado aos sistemas de IA, é necessário fazer uma distinção entre robots autónomos e sem autonomia. No caso dos robots sem autonomia, estes seriam de equiparar aos auxiliares dependentes, enquanto, os robots autónomos devem ser equiparados aos auxiliares independentes. Assim, no caso dos robots sem autonomia apenas seria possível a exclusão da responsabilidade do devedor, no caso de culpa simples ou leve destes auxiliares. Por sua vez, no caso dos robots autónomos, podemos considerar os seus atos como atos de terceiros, sendo, deste modo, possível o devedor excluir a responsabilidade mesmo no caso de dolo ou culpa grave. No entanto, esta adaptação, utilizando a distinção entre auxiliares dependentes e 179 ANTÓNIO PINTO MONTEIRO, «Qui Facit Per Alium, Facit Per Se – Será Ainda Assim na Era Robótica?», cit., p.19 a 30. 180 Ibidem. 181 Ibidem. 41 independentes, deve ser realizada cum grano salis , pois os robots , como vimos anteriormente, não são suscetíveis de ser objeto de juízos de censura, ou seja, não podem ser culpados, seja na modalidade de mera culpa ou dolo 182 . Portanto, poder-se-ia equacionar a exclusão da responsabilidade do devedor pela utilização de um robot autónomo como auxiliar, através do art.º 800.º, n.º 2, do CC, existindo apenas como limite o da ordem pública. O mesmo já não poderá sequer ser ponderado, no caso de r obots sem autonomia, devendo nesta situação ser aplicado o art.º 809.º do CC, sendo cláusulas exoneratórias válidas apenas em caso de culpa leve dos auxiliares. Aqui, volta a ser importante salientar que, atualmente, não é possível imputar um juízo de culpa aos sistemas de IA, por isso a responsabilidade acabará sempre por recair no devedor. Posto isto, os robots não podem ser tidos como auxiliares do devedor no sentido próprio do termo para efeitos do art.º 800.º do CC, sendo o devedor o responsável pela utilização de robots , recaindo sobre ele qualquer juízo de culpa 183 . Mas, e se estivermos perante um caso em que o devedor não tem culpa pelos danos causados por um robot? Um caso em que, por exemplo, estamos perante um defeito de programação do robot? Esta é mais uma das falhas que encontramos na possível adaptação deste regime aos danos causados por agentes de IA, uma vez que podem existir situações em que o devedor não tem culpa, não podendo ser responsabilizado. Aliás, no caso de, por exemplo, um defeito de fabrico, poderíamos recorrer a um outro regime, nomeadamente, o regime da responsabilidade do produtor. Diferente de esta situação, é aquela em que o devedor recorre a um terceiro para o auxiliar no cumprimento de determinada obrigação e este terceiro recorre ao uso de agentes de IA, se resultar danos, também sobre o auxiliar recairá um juízo de culpa, pois o agente com maior ou menor autonomia, atua sempre na dependência de um ser humano 184 . Segundo NUNO SOUSA E SILVA, no que toca à utilização de robots para o cumprimento de obrigações, pode haver culpa na conceção, na utilização ou escolha do robot , mas se houver danos e não existir culpa do ser humano que escolheu, concebeu ou utiliza o robot , então iremos ter de ponderar a aplicação do regime da responsabilidade objetiva por factos de terceiros 185 . Posto tudo isto, será a aplicação deste artigo de se considerar ou a melhor solução? A resposta a esta questão é “não”, pois não consideramos que este artigo deve sequer ser visto como uma possível solução. Para nós, o regime aqui em análise não deve ser considerado como uma solução, desde logo, pelo facto de os sistemas de IA não possuírem personalidade jurídica, não sendo possível 182 ANTÓNIO PINTO MONTEIRO, «Qui Facit Per Alium, Facit Per Se – Será Ainda Assim na Era Robótica?», cit., p.19 a 30. 183 Ibidem. 184 Ibidem. 185 NUNO SOUSA E SILVA, «Inteligência Artificial, Robots e Responsabilidade Civil: o que é que é diferente?», cit., p. 703. 42 lhes imputar um juízo de culpa, o que faria com que o devedor fosse sempre considerado responsável, solução que não nos parece a mais justa. A menção deste artigo apenas aconteceu para que possamos ter uma noção dos problemas que os agentes de IA podem levantar no âmbito da responsabilidade contratual, até porque é conveniente discutir estas questões antes de uma possível intervenção do legislador: é sempre preferível uma lacuna a uma má lei. 1.3 Responsabilidade Objetiva O artigo 483.º, n.º 2, do Código Civil refere o seguinte, “[só] existe obrigação de indemnizar independentemente de culpa nos casos especificados na lei”. Aqui está consagrado o principio da tipicidade da responsabilidade sem culpa, bem como a responsabilidade pelo risco. A responsabilidade pelo risco baseia-se na delimitação de uma certa esfera de riscos pela qual deve responder alguém que não o lesado. Esta esfera de risco pode resultar de várias conceções, que se podem cumular entre si. Além disto, tendo em conta a conceção de risco criado, cada pessoa que cria uma situação de perigo deve responder pelos danos que por esta sejam originados. Assim, numa conceção de risco-proveito, devem responder pelos danos, aqueles que retirem proveito da atividade causadora dos mesmos. Já numa conceção de risco de autoridade deve responder pelos danos aquele que possui controlo sobre a atividade. O regime da responsabilidade pelo risco apenas é aplicado nos casos previstos taxativamente na lei. Assim, são consideradas situação de responsabilidade pelo risco as seguintes: a atuação de pessoas em proveito alheio, prevista nos arts.º 500.º CC e 501.º do CC, bem como a utilização de coisas perigosas, presente no art.º 502.º do CC, os veículos, consagrados nos arts.º 503.º e ss. do CC e, por fim, instalações de energia e gás, presentes nos arts.º 509.º e ss. do CC. Fora do CC, ainda existem disposições consagradas em diplomas especiais 186 , como é o caso do regime da responsabilidade do produtor, previsto no DL n.º 383/89, de 6 de novembro, alterado o pelo DL n.º 131/2001, de 24 de abril. No entanto, podemos afirmar que, tendo em conta o art.º 483.º, n.º 2, do CC não será possível proceder a uma aplicação analógica destas disposições relativas à responsabilidade pelo risco 187 . Assim, será possível a aplicação do regime da responsabilidade objetiva aos sistemas de IA? Em primeiro lugar, a existência de numerus clausus da responsabilidade objetiva é, desde logo, um entrave à aplicação deste regime aos sistemas de IA. Isto é, para responsabilizarmos um ente, seja 186 LUÍS MENEZES LEITÃO, Direito das obrigações , cit., pp. 365 a 366. 187 LUÍS MENEZES LEITÃO, Direito das obrigações , cit., pp. 365 a 366. 43 humano, seja dotado de IA, tem de existir uma previsão expressa do legislador nesse sentido 188 . Atualmente, não existe nenhuma norma no ordenamento jurídico que se refira especificamente aos danos causados pelos sistemas de IA, por isso, podemos estar aqui desamparados, pois não existe uma norma que se destine à resolução deste problema em específico 189 . Além disto, transpondo o entendimento ubi commoda, ibi incommoda sob o qual assenta este regime para os danos causados pelas máquinas dotadas de IA, significa que aquele que recolhe o proveito ou benefício desta máquina terá de suportar com os prejuízos que da sua utilização possam resultar. Aqui trata-se de danos que advêm de atividades lícitas, mas que nem sempre se conseguem evitar, devendo ser suportados por quem retire proveito destas atividades 190 . Relativamente à aplicabilidade deste instituto como solução, surge a seguinte questão: a utilização da IA corresponde a um risco que está presente na sociedade? A resposta terá de ser conclusivamente que sim, na medida em que a sua utilização não constituí um tipo legal de crime e, por isso, é lícita. Além de que é possível enquadrar a atividade da IA como perigosa, uma vez que a jurisprudência 191 a tem definido como a aptidão para produzir danos que resultam da sua própria natureza. Posto isto, e tendo em conta o carácter volitivo da IA conseguimos qualificar a sua atividade como perigosa e dessa forma aplicar este regime 192 . Outro problema deste regime relaciona-se com a dificuldade de encontrar o verdadeiro responsável, sendo que neste sentido, tem sido defendida a criação de um seguro de responsabilidade civil associado ao robot dotado de IA, permitindo, na ocorrência de dano, a transferência da responsabilidade do proprietário ou beneficiário da atividade para a seguradora 193 . Além deste seguro, considera-se essencial a criação de um fundo de garantia, para compensar os danos quando não se encontre um responsável, bem como assegurar os danos que não sejam cobertos pelo seguro 194 . Contudo, não nos podemos esquecer que a criação deste fundo vai colocar a necessidade de determinar quem deve ser responsável pela sua criação 195 . Posto isto, ainda que não seja desprovido de problemas, consideramos que a aplicação deste regime pode ser uma boa forma de superar os desafios colocados pela IA no âmbito da responsabilidade civil, desde logo porque, permite a superação do problema de à IA não ser possível 188 MAFALDA MIRANDA BARBOSA, «O Futuro da Responsabilidade Civil Desafiada Pela Inteligência Artificial: As dificuldades dos Modelos Tradicionais e Caminhos de Solução», cit., p. 285. 189 MAFALDA MIRANDA BARBOSA, «O Futuro da Responsabilidade Civil desafiada pela Inteligência Artificial: as Dificuldades dos Modelos Tradicionais e Caminhos de Solução», cit., p. 285. 190 HEINRICH EWALD HÖRSTER/EVA SÓNIA MOREIRA DA SILVA, A Parte Geral do Código Civil Português , cit., p. 85. 191 Ac. TRL, de 10/09/2019, proc. n.º 922/15.4T8VFX.L1-7, relatado por Higina Castelo, disponível para consulta em www.dgsi.pt , consultado em 20/08/2023 – Aqui defende-se que “o que determina a qualificação de uma actividade como perigosa é a sua especial aptidão para produzir danos, o que resultará da sua própria natureza ou da natureza dos meios empregados e só poderá ser apurado face às circunstâncias do caso concreto.” 192 ANA RITA MAIA, «A Responsabilidade Civil na Era da Inteligência Artificial – Qual o caminho?», cit., p. 26. 193 ANA RITA MAIA, «A Responsabilidade Civil na Era da Inteligência Artificial – Qual o caminho?», cit., pp. 26 a 27. 194 MAFALDA MIRANDA BARBOSA, «Inteligência Artificial, E-Persons e Direito: Desafios e Perspetivas», RJLB , ano 3, n.º 6, 2017, p. 1479. 195 ANTÓNIO PINTO MONTEIRO, «Qui facit per alium, facit per se” – será ainda assim na era da robótica?», cit., p. 200. 44 imputar culpa. Também defendemos a criação de um seguro obrigatório para estes robots dotados de IA, pois dessa forma consegue-se superar o problema da determinação do culpado, mas, como não há regulamentação que imponha a obrigatoriedade de seguro, permitindo aos responsáveis isentarem-se da culpa, deve ser criado um fundo de garantia. Deste modo, em primeiro lugar será feita a análise das várias normas previstas no CC para a responsabilidade pelo risco, seguida pela explicação e adaptação do regime da responsabilidade do produtor. 1.3.1 Responsabilidade do comitente Segundo o art.º 500 do CC “[a]quele que encarrega outrem de qualquer comissão responde, independentemente de culpa, pelos danos que o comissário causar, desde que sobre este recaia também a obrigação de indemnizar”. De seguida, o art.º 500, n.º 2, do CC consagra que “[a] responsabilidade do comitente só existe se o facto danoso for praticado pelo comissário, ainda que intencionalmente ou contra as instruções daquele, no exercício da função que lhe foi confiada”. Por fim, ainda no art.º 500.º, n.º 3, do CC é estabelecido que “[o] comitente que satisfizer a indemnização tem o direito de exigir do comissário o reembolso de tudo quanto haja pago, excepto se houver também culpa da sua parte; neste caso será aplicável o disposto no n.º 2 do artigo 497.º”. Deste modo, estamos perante uma responsabilidade objetiva, não dependente de culpa sua nas instruções dadas ao comissário, na vigilância do mesmo ou até na sua escolha. Nesta responsabilidade podemos definir duas relações, uma externa entre comitente e lesado e uma interna entre comitente e comissário, sendo que a responsabilidade objetiva apenas existe na relação externa, uma vez que na relação interna, o comitente tem direito de exigir ao comissário tudo o que pagou ao lesado, exceto no caso em que ele próprio tenha culpa, caso este em que se aplicará o regime da pluralidade de responsáveis pelo dano, presente no art.º 500.º, n.º 3 do CC 196 . Assim, só se verifica o direito de regresso do comitente sobre o comissário nos casos em que o comissário tenha atuado com culpa. Ora, aqui estamos perante uma ideia de responsabilidade direta do comitente face ao lesado, entendendo-se que o comitente deve responder em primeira linha pelos danos causados pelo seu comissário. Deste modo, nas relações externas, no caso de considerarmos que o comitente tem uma função de garante da indemnização em relação ao lesado, ele responderá diretamente perante o lesado, mas depois terá direito de ser reembolsado nas relações internas. No caso de tanto comissário como comitente terem culpa pelos danos causados ao lesado, o direito de regresso dependerá da 196 LUÍS MENEZES LEITÃO, Direito das obrigações, cit., pp. 366-367. 45 culpa de cada um Além disso, se não existir culpa do comissário e do comitente, o comitente terá direito de ser reembolsado na totalidade pela indemnização paga ao lesado. Por fim, já não existe um direito de regresso previsto pela lei, no caso de o lesado exigir a indemnização ao comissário, uma vez que o comissário é o primeiro causador do dano e não apenas um garante da indemnização 197 . Neste sentido, podemos afirmar que esta responsabilidade tem por objetivo garantir o pagamento de uma indemnização ao lesado, pois, normalmente, os comissários são pessoas sem património capaz de suportar o pagamento de uma indemnização elevada, e, uma vez que estes atuam por conta e no interesse do comitente, deve caber a este o pagamento destas indemnizações por possíveis danos que sejam causados. Consequentemente, com esta responsabilidade do comitente, a lei concede ao lesado uma pretensão direta contra o comitente, de modo que este seja ressarcido pelos danos provocados pelo comissário, podendo esta ser exercida cumulativamente ou separadamente com a pretensão de indemnização que adquiriu contra o comissário 198 . Por fim, do art.º 500.º, n.º 1, do CC podemos retirar três pressupostos que têm de estar preenchidos para que este regime possa ser aplicado e que são os seguintes: a existência de uma relação de comissão, “o facto de o dano dever ser causado no exercício da função”, por fim, a obrigação de o comissário indemnizar 199 . No que diz respeito ao primeiro pressuposto, podemos definir a relação de comissão como “qualquer vínculo entre duas pessoas do qual resulte uma subordinação daquele que é incumbido do exercício de uma função àquele que disso o encarrega” 200 . É importante ressaltar que, para que seja possível esta tentativa de adaptação deste regime aos agentes de IA, o conceito de subordinação deve sofrer uma interpretação ampla 201 . Assim podemos considerar que, ao personificar a máquina, não há obstáculos para que ela, na qualidade de comissária, esteja juridicamente ligada ao comitente por meio de um contrato de trabalho ou uma situação jurídica semelhante 202 . No entanto, tendo em conta que os entes dotados de IA não possuem personalidade jurídica, defendemos que não é possível que entre um comitente e um comissário que seja um robot exista uma relação de comissão. Aliás, mesmo que sigamos uma interpretação ampla do conceito de subordinação, é necessário personificar a máquina para que lhe seja possível a aplicação deste conceito. Ora, para personificar a máquina 197 HEINRICH EWALD HÖSTER/EVA SÓNIA MOREIRA DA SILVA, A Parte Geral do Código Civil Português , cit., nota de rodapé 118, pp. 89-90. 198 LUÍS MENEZES LEITÃO, Direito das obrigações, cit., pp. 366-367. 199 Ibidem. 200 JOSÉ A.R.L. GONZÁLEZ, «Responsabilidade por danos e Inteligência Artificial (IA)», cit., p. 98. 201 Ac. do STJ, de 13/03/2018, proc. n.º 940/14.0TBCBR.C1.S1, relatado por Pedro de Lima Gonçalves, consult. a 20/08/2023– Aqui é considerado que “comissão” tem um sentido amplo de tarefa ou atividade realizada por conta de outrem. Nesse sentido também veja-se o Ac. do STJ, de 15/03/2005, proc. n.º 04A4808, relatado por Nuno Cameira, disponível para consulta em www.dgsi.pt, em consult. a 20/08/2023. 202 JOSÉ A.R.L, GONZÁLEZ, «Responsabilidade por danos e Inteligência Artificial (IA)», cit., p. 99. 46 dotada de IA, teríamos de a ver como uma pessoa e um ser humano e um agente de IA são muito distintos. Em relação ao segundo pressuposto, não existe conflito em aplicar esta condição ao caso em questão, pois a máquina dotada de IA está a ser utlizada na função exercida, produzindo um dano digno de ressarcibilidade 203 . Por fim, embora o comitente, independentemente de culpa, seja responsável pelos atos danosos do seu comissário, e consequentemente ter a obrigação de indemnizar o lesado, a lei estabelece que o comissário, enquanto pessoa jurídica, teria também de ser responsável pelo dano, sendo esta a posição seguida pela doutrina maioritária. Há doutrina, que se opõem a esta, pelo facto de defender que a responsabilidade do comitente sobre os atos do comissário não depende apenas de o comissário agir com culpa. Se assim fosse, poderíamos encontrar situações em que o lesado ficaria desprotegido. Deste modo, é defendido que basta a prática de um ato danoso que seja imputável ao comissário, para que esta responsabilidade recaía sobre o comitente 204 . Neste ponto confrontamo-nos com a impossibilidade de ocorrer a responsabilidade do comitente, já que “o comissário”, o agente de IA, não possuí personalidade jurídica. Assim sendo, a doutrina dominante considera que, apenas no caso de ser reconhecida uma personalidade jurídica à máquina dotada de IA, é que podemos considerar a existência de uma relação de comissão, bem como a aplicação deste regime 205 . Ademais, outro problema que esta adaptação enfrenta prende-se com o direito de regresso. O direito de regresso previsto no art.º 500.º, n.º 3 do CC, determina que o comitente poderá exigir do comissário o reembolso do que tenha pagado, a não ser que exista também culpa da sua parte. O direito de regresso previsto no art.º 500.º, n.º 3 do CC, determina que o comitente poderá exigir do comissário o reembolso do que tenha pagado, a menos que haja também sua culpa 206 . Posto isto, podemos desde logo, no que aos agentes de IA diz respeito, considerar que a questão do direito de regresso a nível das relações internas será difícil de superar, pois estes robots não possuem um património autónomo, nem um seguro 207 . Portanto, o regime aqui em análise não deverá ser aplicado nos casos em que estejamos perante danos causados por agentes de IA, uma vez que dificilmente podemos considerar a existência de uma relação de comissão entre um comitente e uma máquina dotada de IA, desde já, porque estas não possuem personalidade jurídica. Ademais, para que o comitente responda tem de na figura do 203 GONZÁLEZ, José A. R. L., “Responsabilidade por danos e Inteligência Artificial (IA)”, cit., p. 103. 204 HEINRICH EWALD HÖSTER/EVA SÓNIA MOREIRA DA SILVA, A Parte Geral do Código Civil Português , cit., nota de rodapé 117, pp. 88 a 89. 205 ANA RITA MAIA, « A Responsabilidade Civil na Era da Inteligência Artificial – Qual o caminho?», cit. , p. 29. 206 JOSÉ A.R.L. GONZÁLEZ, «Responsabilidade por danos e Inteligência Artificial (IA)», cit., p. 95. 207 JOSÉ A. R. L. GONZÁLEZ, «Responsabilidade por danos e Inteligência Artificial (IA)», cit., p. 95. 53 Seguindo este sentido também o PE, no Considerado 8 da Resolução do Parlamento Europeu de 2020, considera que o conceito de produtor deve englobar criadores, fabricantes, prestadores de serviços e operadores de backend 233 . Posto isto, resta saber, se o dano em causa foi provocado por uma vicissitude que se enquadre no conceito de “defeito”. No art.º 3 do DL n.º 383/89 define-se produto como alguma coisa móvel, ainda que se encontre incorporada em outra coisa móvel ou imóvel. Nos termos do art.º 4 do DL n.º 383/89, um produto é defeituoso quando não apresenta a segurança com que legitimamente se pode contar, tendo em conta todas as circunstâncias, nomeadamente a apresentação, utilização que dele possa ser feita e o momento de entrada no mercado 234 . No que ao conceito de produto diz respeito, o PE, no Considerando 8 da Resolução de 2020, considera que a Diretiva relativa à responsabilidade decorrente dos produtos deverá ser transformada num regulamento, no sentido de esclarecer a definição de produtos, bem como determinar se os serviços digitais e conteúdos digitais se encontram abrangidos pelo seu âmbito de aplicação 235 . Ora, os componentes de IA são considerados produtos, bem como o software 236 que está integrado em produtos corpóreos, mas atualmente este software é descarregado, ou seja, inicialmente não se encontra num produto corpóreo, mas despois de descarregado já se encontrará num produto corpóreo 237 . Contudo, num futuro próximo, o BEUC acredita que o hardware e software serão vendidos em separado e assim, surge a dúvida sobre se o software poderá ser considerado como produto nos termos da diretiva em causa. Posto isto, esta organização considera que o conceito de produto deverá ser revisto, de modo que as coisas tangíveis e não tangíveis, bem como os serviços digitais e conteúdos digitais sejam incluídos no conceito 238 . Porém, um software não precisa de estar integrado numa coisa corpórea para ser considerado uma coisa e deste modo, um produto no âmbito do art.º 3, n.º 1, do DL em causa. Pois, podemos utilizar o art.º 202.º, n.º 1, do CC, segundo o qual “[di]z-se coisa tudo aquilo que pode ser objecto de 233 Resolução do Parlamento Europeu, de 20 de outubro de 2020, que contém recomendações à Comissão sobre o regime de responsabilidade civil aplicável à inteligência artificial (2020/2014(INL)), cit., s/p. 234 ANA RITA MAIA, «A Responsabilidade Civil na Era da Inteligência Artificial - Qual o caminho?», cit., pp. 17 a 18. 235 Resolução do Parlamento Europeu, de 20 de outubro de 2020, que contém recomendações à Comissão sobre o regime de responsabilidade civil aplicável à inteligência artificial (2020/2014(INL)), cit., s/p. 236 Na Proposta de Diretiva Do Paralamento Europeu e do Conselho relativa à responsabilidade decorrente dos produtos defeituosos de 28/09/2022, existe uma preocupação com a definição de produto e a sua adapatação ao desenvolvimento tecnologico, nomeadamente da IA, sendo que no art.º4.º, al. (1), o software já se encontra incluído na definição de produto. Ver Proposta de Diretiva do Parlamento Europeu e do Conselho Relativa à responsabilidade decorrente de produtos defeituoso, cit, p. 27. 237 CENTRE ON REGULATION IN EUROPE, UE Liabulity Rules for the age of artificial intelligence, março de 2021, o. 51, disponível https://cerre.eu/publications/eu-liability-rules-age-of-artificial-/intelligence-ai/ , consult. a 17/08/2023. 238 No considerando 12 da Proposta de Diretiva do Parlamento Europeu e do Conselho relativa à responsabilidade decorrente dos produtos defeituosos, já se vem a considerer o software que se encontra armazenado num disposito ou na nuvem, tendo se de aceder a este por meio de tecnologias de computação como um produto. Ver Ver Proposta de Diretiva do Parlamento Europeu e do Conselho Relativa à responsabilidade decorrente de produtos defeituoso, cit , p. 18. 54 relações jurídicas”. Este artigo deve ser visto em conjunto com o art.º 203.º, n.º 1 e art.º 202.º, n.º 2 do CC. O art.º 202.º, n.º2 do CC determina o que é coisa de acordo com a perspetiva de comercio jurídico. Assim, o facto de o artigo determinar que estão fora de comércio todas as coisas que não possam ser “objeto de direitos privados”, indica que o art.º 202.º, n.º 1 do CC considera como coisa apenas as que existem em função do comércio jurídico, podendo ser objeto de negócios jurídicos, através dos quais se transmitem direitos e obrigações que sobre elas incidem. No art.º 203.º encontramos definido a classificação de coisas, assim, a junção dos arts.º 202.º e 203.º permite construir a figura na totalidade, bem como determinar os seus contornos. Posto isto, coisa é tudo aquilo sobre o qual se pode transmitir e estabelecer direitos privados, correspondendo ao objeto mediato das relações jurídicas. Deste modo, não se encontra abrangido pelo conceito de coisa as pessoas singulares, os direitos familiares pessoais, bem como os direitos não patrimoniais, uma vez que não podem ser objeto de direitos 239 . Assim, para avaliar se algo se encontra abrangido pelo conceito de coisa, devemos avaliar a sua capacidade para ser objeto de direitos subjetivos privados. Assim, tendo em conta que sobre os sistemas de IA e software se podem estabelecer ou transmitir direitos, estes deverão ser incluídos no conceito de coisa, mesmo que não estejam incorporados num hardware . Ademais, seguindo o pensamento de CALVÃO SILVA, consideramos que á luz do regime atual da responsabilidade do produtor, os entes dotados de IA devem ser considerados como produto, pois estamos perante uma coisa originária e naturalmente móvel 240 . Posto isto, podemos afirmar a existência de uma necessidade de revisão dos conceitos de produto, de forma a que este seja adaptado ao desenvolvimento tecnológico que assistimos. Vários autores defendem esta necessidade de revisão do conceito de produto, como é o caso de HENRIQUE SOUSA ANTUNES 241 . No que toca à questão do produto defeituoso e do que poderá ser considerado como defeito no âmbito dos sistemas de IA, temos de distinguir o defeito da má evolução do algoritmo, ou seja, da falha na autonomia deliberativa que sustentou aquele procedimento. É de considerar a existência de defeito, para a aplicação deste regime, quando se consiga provar que os danos têm como fundamento defeitos de conceção, de informação carreada para o ente dotado de IA, e no seu fabrico 242 . 239 HEINRICH EWALD HÖSTER/EVA SÓNIA MOREIRA DA SILVA, A Parte Geral do Código Civil Português , cit., pp. 190 a 193. 240 JOÃO CALVÃO DA SILVA, Responsabilidade Civil do Produtor, Almedina, Coimbra, 1999, p. 612 e ss. 241 HENRIQUE SOUSA ANTUNES, «Responsabilidade Civil do Produtor: Os Danos Ressarcíveis na Era Digital», Revista de Direito da Responsabilidade, ano 1, 2019, p. 1478. 242 JULIANA CAMPOS , «Responsabilidade Civil do Produtor pelos Danos Causados por Robôs Inteligentes à Luz do Decreto-Lei n.º 383/89, de 6 de novembro», cit. , p. 712. 55 Como vimos anteriormente, na definição de “produto defeituoso” presente no art.º 4.º do DL em análise, o momento de entrada em circulação do produto é relevante, uma vez que os produtores não são responsáveis pelos defeitos, depois de o produto ter sido colocado no mercado. Nos produtos habituais, o produtor não possui qualquer controlo sobre o produto produzido depois de este ser colocado no mercado 243 . Assim, coloca-se aqui a questão das atualizações dos sistemas de IA. Por exemplo, os sistemas de IA podem sofrer de atualizações constantes. Nos termos do art.º 6.º, n.º 1, al. b), do DL n.º 36/2022, os produtores deverão vigiar o desenvolvimento da técnica e do estado de arte de todos os produtos que colocam no mercado. Assim, têm a obrigação de realizar todas ações ao seu alcance para que o produto não se torne perigoso. Transpondo para os sistemas de IA, isto quer dizer que, o produtor é responsável por realizar todas as atualizações necessárias para que estes continuem a ser seguros. No caso de não o realizarem, podem ser responsabilizados, segundo o art.º 483.º, n.º 1 ou 493.º, n.º 2 do CC 244 . Quanto a esta questão da atualização do software , HENRIQUE SOUSA ANTUNES, questiona se um produto poderá ser considerado defeituoso por não permitir atualizações, podendo, neste caso, o produtor invocar a inexistência de uma vulnerabilidade do software ao mesmo tempo da colocação do produto em circulação 245 . De acordo com MAFALDA MIRANDA BARBOSA, no caso de o produtor continuar a fornecer atualizações de software depois de este entrar em circulação no mercado, deixa de fazer sentido o momento de entrada em circulação no mercado, passando-se tudo como se o produtor estivesse a promover continuamente a entrada no mercado de produtos desmaterializados, intangíveis 246 . Neste sentido, o EXPERT GROUP ON LIABILITY AND NEW TECHNOLOGIES, considera que os produtores devem ser responsabilizados pelos defeitos que possam surgir após a entrada em circulação do produto, sendo que para isso o produtor deve estar no controlo das atualizações realizadas nos sistemas de IA 247 . Além disto, segundo SÓNIA MOREIRA, deve-se ainda considerar como defeito, a falta de informação devida a prestar ao consumidor ou erros na informação prestada (por exemplo, nos manuais de instrução), pois estas situações podem levar a que um produto intrinsecamente não defeituoso passe a ser perigoso (e, portanto, defeituoso, de acordo com a definição legal), colocando a 243 CENTRE ON REGULATION IN EUROPE, UE Liability Rules for the age of artificial intelligence, cit., p. 52. 244 SÓNIA MOREIRA, «Considerações sobre Inteligência Artificial e Responsabilidade Civil: o caso dos Veículos Autónomos», cit., p. 85. 245 HENRIQUE SOUSA ANTUNES, «Inteligência Artificial e Responsabilidade Civil», cit., p. 24. 246 MAFALDA BARBOSA, «O Futuro da Responsabilidade Civil desafiada pela Inteligência Artificial: as Dificuldades dos Modelos Tradicionais e Caminhos de Solução», cit., pp. 320 a 321. 247 EXPERT GROUP ON LIABILITY AND NEW TECHNLOGIES, Liability for Artificial Intelligence and other emerging digital technologies, cit., p. 42. 56 segurança do utilizador em causa 248 . No caso de aplicação deste regime, o produtor tem o dever de provar que seguiu os standards técnicos exigidos na data em que o robot foi colocado em circulação, com o objetivo de se isentar de uma qualquer responsabilidade 249 . Ainda a nível do produto defeituoso, há ainda uma questão importante, que se prende com o risco de desenvolvimento, isto é, o constante desenvolvimento e inovação, pode levar a alterações dos dados iniciais do algoritmo. Mas será que deve o produtor ser responsabilizado por este risco? No que toca ao risco de desenvolvimento, segundo o DL n.º 383/89, art.º 5.º, al. e), o produtor pode afastar a responsabilidade se provar que no momento em que colocou o produto em circulação, o estado do conhecimento científico e técnico não permitia detetar a existência de um defeito 250 - 251 . Ou seja, o produtor tem aqui uma forma de facilmente afastar a responsabilidade. No sentido de solucionar este problema são apontadas várias formas. Desde logo, o EXPERT ON LIABILITY AND NEW TECHNOLOGIES 252 considera que, os produtores não podem utilizar o risco de desenvolvimento para se defender no caso de o defeito ser um resultado da autonomia do sistemas de IA. De acordo com MAFALDA MIRANDA BARBOSA, a solução apontada pelo EXPERT ON LIABILITY AND NEW TECHNOLOGIES não vai trazer uma alteração legislativa, apenas vai realizar uma adequada mobilização do que é o risco de desenvolvimento, pois, ao produzir um software que tem uma capacidade de aprendizagem não supervisionada e colocá-lo no mercado, não é possível afirmar que, de acordo com o estado da ciência e da técnica, não era possível prever uma lesão, uma vez que a aprendizagem do algoritmo, através da interação com o meio será algo imprevisível 253 . Por outro lado, para JULIANA CAMPOS, a solução para este problema, passa por eliminar a al. e) do diploma referido acima, bem como pela modificação do conceito de “produtor”, só assim é que seria possível que os produtores fossem responsabilizados pelo risco de desenvolvimento 254 . Seguindo esta ideia, o BEUC também defende a necessidade de ampliação do conceito de defeito, passando um produto a ser considerado defeituoso se não for ao encontro das expectativas razoáveis que os utilizadores têm para o produto. Assim, passam a estar englobadas no conceito de 248 SÓNIA MOREIRA, «Considerações Sobre Inteligência Artificial e Responsabilidade Civil: O caso dos veículos autónomos», cit., p. 82. 249 ANA RITA MAIA , «A Responsabilidade Civil na Era da Inteligência Artificial - Qual o caminho?», cit., p.18. 250 JOÃO CALVÃO DA SILVA, Compra e Venda de Coisas Defeituosas (Conformidade e Segurança), 5.ª edição, Almedina, 2008, p. 211. 251 No que ao risco de desenvolvimento diz respeito, a Proposta de Diretiva do Parlamento Europeu e do Conselho relativa à responsabilidade decorrente dos produtos defeituosos mantem a mesma posição, pois considera que o fabricante deve ser responsabilizado pelo risco de desenvolvimento, mas se demonstrar que na altura o estado do conhecimento técnico e científico não permitia a deteção de uma qualidade defeituosa deixa de ser responsabilizado pelo dano causado pelo produto defeituoso. – Ver considerando 23 e art.º 10, n.º1, al. (e) da Proposta de Diretiva do Parlamento Europeu e do Conselho Relativa à responsabilidade decorrente de produtos defeituoso, cit, p. 32. 252 EXPERT GROUP ON LIABILITY AND NEW TECHNLOGIES, Liability for Artificial Intelligence and other emerging digital technologies, cit., p. 43. 253 MAFALDA MIRANDA BARBOSA, «O Futuro da Responsabilidade Civil desafiada pela Inteligência Artificial: as Dificuldades dos Modelos Tradicionais e Caminhos de Solução», cit., p. 322. 254 JULIANA CAMPOS, «A responsabilidade civil do produtor pelos danos causados por robôs inteligentes à luz do regime do decreto-lei n.º383/89, de 6 de novembro», cit. , pp. 715 a 716. 57 produto defeituoso, as situações em que o produto não oferece a segurança que se espera, os casos em que seja afetado por falhas de cibersegurança/segurança, bem como no caso de se desviar das regras do RGPD e os comportamentos autónomos dos sistemas de IA que devem também ser considerados explicitamente abrangidos pelo conceito de “defeito” 255 . Além de tudo o que até aqui foi discutido, importa ainda referir uma questão que se prende com o beneficiário da responsabilidade do produtor. Assim, quem serão os beneficiários deste regime? Podemos afirmar que o beneficiário deste regime são os utilizadores do bem defeituoso, bem como o núcleo de pessoas que se encontrem espacialmente próximas do dano causado pelo defeito 256 . JOSÉ GONZÁLEZ para indicar quem deve ser considerado como terceiros espacialmente próximos, recorre aos seguintes exemplos: o exemplo do fogão estragado e de um automóvel com defeitos. No caso do fogão estragado, os terceiros espacialmente próximos serão o consumidor e os seus familiares que o utilizem. Por sua vez, no caso do automóvel, podemos considerar como terceiros espacialmente próximos, as pessoas que sejam transportadas pelo automóvel, bem como o proprietário. Assim, o fabricante deve ser responsabilizado perante as pessoas aqui indicadas 257 . No que concerne aos danos materiais que possam surgir por virtude do defeito, serão estes comtemplados na indemnização consagrada no regime da responsabilidade do produtor? O regime aqui em causa, prevê a indemnização de danos pessoais, mas não abrange qualquer tipo de dano material decorrente do defeito, não consagrando também os contratos de prestação de serviços. O objetivo deste regime é reparar os danos resultantes do uso de produtos defeituosos 258 . Para CALVÃO SILVA, somente os danos em coisas que o consumidor utilizava em conjunto com o produto defeituoso são passíveis de indemnização, desde que fossem utilizadas para uso pessoal. Assim, o regime da responsabilidade do produtor não consagra o ressarcimento de lucros cessantes associados aos danos materiais, a indemnização de danos económicos puros, a indemnização de danos pela privação do uso e a compensação de danos em coisas de utilização profissional. Posto isto, acreditamos que é necessário o legislador realizar alterações ao regime da responsabilidade do produtor, de modo a que este passe a abranger indemnizações por danos em coisas materiais, próprias ou de terceiros, de forma a que as indemnizações deixem de ser apenas concedidas quando o bem é utilizado para uso particular e privado 259 . 255 EUROPEAN CONSUMER ORGANISATION (BEUC), Product Liability 2.0 - How to make UE rules fit for consumers in the digital age , maio de 2020, disponível para consulta em https://www.beuc.eu/publications/beuc-x-2020-024_product_liability_position_paper.pdf , consult. a 17/08/2023, pp. 13 a 14. 256 ANA RITA MAIA, «A Responsabilidade Civil na Era da Inteligência Artificial - Qual o caminho?», cit., pp.18 a 19. 257 JOSÉ ALBERTO GONZÁLEZ, Direito da Responsabilidade Civil, cit ., p. 457. 258 ANA RITA MAIA, «A Responsabilidade Civil na Era da Inteligência Artificial - Qual o caminho?», cit., p.19. 259 JOÃO CALVÃO DA SILVA , Compra e Venda de Coisas Defeituosas (Conformidade e Segurança), cit., pp. 215 e ss. 58 Por fim, na aplicação deste regime surgem ainda dificuldades não só quanto à prova de que o dano foi causado efetivamente por um robot , pois o lesado, que tem o ónus de realizar esta prova, não possui, à partida conhecimentos suficientes para a elaborar, mas também quanto ao facto de o defeito ser cognoscível à data da produção ou de que o defeito foi originado por uma atualização de software da responsabilidade do produtor 260 . De acordo com o art.º 4.º da Diretiva da Responsabilidade do Produtor, o lesado deve provar o defeito do produto, bem como o nexo de causalidade adequada entre o defeito apresentado e o dano 261 . Esta disposição apresenta desde logo problemas, pois o lesado não possui o conhecimento do produtor, por isso será muito difícil e dispendioso para ele provar que o defeito era do conhecimento do produtor antes da entrada em circulação do produto ou que este teve resultado numa atualização do sistema de IA controlada pelo produtor 262 - 263 . No que ao ónus de culpa diz respeito, a lei, em certas situações, procedeu a uma inversão do ónus de prova ao presumir a culpa do lesante. Ora, uma vez que o produtor é aquele que possui mais conhecimentos sobre o produto e capacidade económica, faz sentido a criação de uma presunção de culpa de que os danos foram causados por um defeito do sistema de IA. Esta presunção poderia ser ilidível pelo produtor, que mais facilmente o conseguirá fazer do que o lesado provar que os danos se devem a um defeito do produto 264 . No caso de não se criar este regime especial para os danos causados por agentes de IA, sempre se pode aplicar o art.º 483.º, n.º 1, do CC, mediante o preenchimento dos respetivos pressupostos. Ainda se poderia equacionar a aplicação da presunção de culpa quando os danos são causados pela realização de uma atividade perigosa, que se encontra prevista no art.º 493.º, n.º 2, do CC. No entanto, esta presunção poderia ser afastada pelo produtor, no caso de este afirmar que empregou todas as providências exigidas pelas circunstâncias. Por último, sempre se poderia ponderar a aplicação do art.º 493.º, n.º 1, do CC, nos termos do qual os danos provocados pela coisa são da responsabilidade de quem possui o dever de vigilância, mas também neste caso, o produtor conseguiria com facilidade ilidir esta presunção, através da prova de inexistência de culpa ou 260 SÓNIA MOREIRA, «Considerações sobre Inteligência Artificial e Responsabilidade Civil: o caso dos Veículos Autónomos», cit., p. 83. 261 JOÃO CALVÃO DA SILVA, Compra e Venda de Coisas Defeituosas (Conformidade e Segurança), cit., p. 200. 262 ANA RITA MAIA, «A Responsabilidade Civil na Era da Inteligência Artificial - Qual o caminho?», cit., p. 22. 263 CENTRE ON REGULATION IN EUROPE , UE Liability Rules for the age of artificial intelligence , op. cit., p. 55. 264 SÓNIA MOREIRA, «Considerações sobre Inteligência Artificial e Responsabilidade Civil: o caso dos Veículos Autónomos», cit., p. 88. 59 mostrando que os danos teriam acontecido, mesmo que tivesse exercido o dever de vigilância com toda a diligência 265 . Posto isto, JOSÉ GONZÁLEZ, considera que este regime não pode ser aplicado aos atos praticados pela IA, pois para o autor temos de aceitar que os danos são provocados pela autonomia que o robot tem e não pelo produtor. Isto é, se o dano tiver sido causado no exercício da autonomia do robot não o podemos considerar como um defeito. Apenas poderá ser de aceitar a aplicação do regime da responsabilidade do produtor, quando a atuação do robot se conceba como um defeito 266 . Este, é desde já, um pensamento com o qual não concordamos, pois para nós a posição do Expert Group on Liability and New Technologies sobre o produtor não poder excluir a sua responsabilidade com base no risco de desenvolvimento é a mais adequada. O facto de o momento em que o produtor coloca o produto no mercado este não ser perigoso não pode ser suficiente para excluir a sua responsabilidade. Se o produto em causa, por possuir autonomia, sofrer alterações na sua programação, o produtor deve responder pelos danos causados. Quem coloca no mercado um produto com capacidade de autoaprendizagem tem de ser responder pelos riscos de este poder se desenvolver de forma imprevisível e perigosa. 1.4 Responsabilidade civil subjetiva vs. Responsabilidade civil objetiva: qual deve ser aplicada? Qual a mais adequada? Como vimos, tanto um regime como o outro apresentam as suas dificuldades quanto à adaptação aos danos causados pelos sistemas de IA. Mesmo, a própria doutrina se divide quanto à possível adaptação de um destes regimes aos agentes de IA. Assim, será o regime da responsabilidade subjetiva o mais adequado? Ou o regime da responsabilidade objetiva? Para nós, como referido anteriormente, a resposta a esta pergunta passa pelo regime da responsabilidade objetiva. O EXPERT GROUP ON LIABILITY AND NEW TECHNOLOGIES considera que o regime da responsabilidade objetiva é o mais adequado aos riscos que tanto a IA como outras tecnologias apresentam, no caso de poderem vir a ser operadas em espaços públicos, onde os danos que podem vir a causar são significativos. Aqui deve-se entender veículos, drones ou semelhantes. Esta conclusão a que o grupo chegou deveu-se ao facto de que os Estados-Membros possuem regimes de responsabilidade objetiva que já se podem aplicar às tecnologias digitais emergentes, sendo exemplo disso o regime da responsabilidade por danos causados por veículos. Por outro lado, relativamente, a eletrodomésticos 265 JULIANA CAMPOS, «A responsabilidade civil do produtor pelos danos causados por robôs inteligentes à luz do regime do decreto-lei n.º 383/89, de 6 de novembro», cit., pp. 722 a 723. 266 JOSÉ A. R. L. GONZÁLEZ, «Responsabilidade por danos e Inteligência Artificial (IA)», cit., p. 91. 60 domésticos inteligentes, já considera que não se deverá aplicar o regime da responsabilidade objetiva. No que a robots cirúrgicos e industriais dotados de IA concerne, também se considera que não deve ser aplicado o regime da responsabilidade objetiva, uma vez que estes estão protegidos pela responsabilidade contratual e são utilizados num ambiente específico, onde apenas um grupo específico de pessoas se encontra exposto ao risco 267 . Também a defender a aplicação do regime da responsabilidade objetiva, HENRIQUE SOUSA ANTUNES 268 , considera que, o facto de existir o anonimato do autor, bem como a extensão da responsabilidade a terceiros é a prova de que a responsabilidade civil objetiva poderá ser adequada a esta responsabilidade. Seguindo um sentido contrário à aplicação da responsabilidade objetiva, YAVAR BATHAEE considera que este regime poderá vir a colocar barreiras para as pequenas empresas que não terão poder económico para arcar com os riscos que a responsabilidade objetiva traz. Para este autor, a aplicação da responsabilidade objetiva sufocará a inovação e impulsionará a monopolização do mercado dos agentes de IA 269 . RYAN ABBOT afirma que, a responsabilidade objetiva incentiva os fabricantes a produzir produtos mais seguros, contudo, revela uma preferência pela aplicação da responsabilidade subjetiva. Portanto, o autor considera que tanto a aplicação subjetiva como objetiva dependerá da prova realizada pelo fabricante. Desta maneira, para que seja aplicada a responsabilidade subjetiva é necessário que o fabricante/produtor demonstre que o sistema de IA é, em média, mais seguro do que uma pessoa. Contudo, esta demonstração de segurança deve ter como foco se poderá existir uma redução dos acidentes no geral ou não e não se existe uma redução de facto dos acidentes 270 . ANAT LIOR defende que se deve aplicar o regime da responsabilidade objetiva, pois para si não existe uma relação forte entre a responsabilidade objetiva e a monopolização da IA. Além disso, acredita que os seguros funcionam como niveladores entre pequenas e grandes empresas, acabando por incentivar as empresas a aceitar os riscos. Por fim, ainda considera que o regime da responsabilidade subjetiva seria de difícil aplicação, tendo em consideração que muitos sistemas de IA são “caixas-negras”, o que os torna bastante difíceis de analisar 271 . 267 EXPERT GROUP ON LIABILITY AND NEW TECHNOLOGIES, Liability for Artificial Intelligence and other emerging digital technologies, cit. p. 40. 268 HENRIQUE SOUSA ANTUNES, «Inteligência Artificial e Responsabilidade Civil», cit., p. 21. 269 YAVAR BATHAEE, «The Artificial Intelligence Black Box and the Failure of Intent and Causation», Harvard Journal of Law & Technology, vol. 31, n.º 2, Spring, 2018, p. 932, disponível para consulta em https://jolt.law.harvard.edu/assets/articlePDFs/v31/The-Artificial-Intelligence-Black-Box-and-the-Failureof-Intent-and-Causation-Yavar-Bathaee.pdf. 270 RYAN ABBOTT, «The Reasonable Computer: Disrupting the Paradigm of Tort Liability», George Washington Law Review, vol. 86, n.º 1, 2018, pp. 22 a 23, disponível para consulta em https://papers.ssrn.com/sol3/papers.cfm?abstract_id=2877380. 271 ANAT LIOR, «AI Strict Liability Vis-à-vis AI Monopolization», The Columbia Science & Technology Law Review , vol. XXII, 2020, pp. 93 a 112, disponível para consulta em https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3707110. 61 DAVID C. VLADECK também considera que a responsabilidade objetiva é o regime mais adequado, pois, por ser um regime mais previsível, estimula a inovação e diminui os custos que poderiam vir a ser gastos em litígios demorados e complexos 272 . JACOB TURNER defende que quanto mais imprevisível a falha, maior será o grau de dificuldade de responsabilizar o produtor e/ou utilizador, sem se recorrer à responsabilidade civil objetiva 273 . Por fim, embora anteriormente, o PE possa ter defendido a aplicação do regime da responsabilidade objetiva, atualmente já o não parece fazer, uma vez que na Proposta de Diretiva Do Parlamento Europeu e do Conselho relativa à adaptação das regras de responsabilidade civil extracontratual à inteligência artificial, considera a aplicação do regime da responsabilidade subjetiva, com presunções de culpa a favor do lesado. Assim, e embora, considere que de cinco em cinco anos deve se reavaliar para verificar se não há necessidade de aplicação da responsabilidade subjetiva, a verdade é que já não podemos afirmar que o PE defende aplicação do regime da responsabilidade subjetiva aos danos provocados por máquinas dotadas de IA. Portanto, para nós ainda que exista a possibilidade de a IA vir a superar a capacidade intelectual do ser humano, a verdade é que no presente ainda não estamos nessa situação, assim, continuamos a ter os problemas relacionados com os pressupostos da responsabilidade subjetiva para superar. Deste modo, acreditamos que não há uma ligação entre a responsabilidade objetiva e a monopolização da IA e que este, embora não estando livre de problemas, poderá ser o regime existente mais adequado para os danos causados pela IA, no momento. 1.5 Questão da indemnização da responsabilidade pelos danos causados pela Inteligência Artificial Como vimos anteriormente a existência de um dano exige a sua reparação, nos termos dos art.ºs 562.º e 566.º do CC, havendo uma clara preferência pela reconstituição natural em vez da indemnização em dinheiro. No entanto, a indemnização será sempre em dinheiro, nos casos em que a reconstituição natural não é possível, bem como nas situações em que esta não é suficiente para reparar os danos ou quando esta for muito onerosa para o devedor 274 . Nos casos da responsabilidade objetiva, os danos causados podem ser demasiado onerosos, ultrapassando as capacidades económicas de qualquer lesante, assim é justificável que em muitas 272 DAVID C. VLADECK, «Machines Without Principals: Liability Rules and Artificial Intelligence», Washington Law Review, vol. 89, n. º 1, 2014, pp. 146 a 147, disponível para consulta em https://digitalcommons.law.uw.edu/wlr/vol89/iss1/6/. 273 JACOB TURNER , Robot Rules: Regulating Artificial Intelligence, Londres, Palgrave Macmillan, 2019, e-book, p. 89, disponível para consulta em https://doi.org/10.1007/978-3-319-96235-1. 274 LUÍS MENEZES LEITÃO, Direito das Obrigações, cit., p. 402. 62 situações de responsabilidade civil exista a obrigatoriedade de um seguro 275 . Como vimos anteriormente, isto é o caso dos veículos de circulação terrestre, bem como dos animais perigosos ou potencialmente perigosos. Ora, o benefício económico associado aos agentes de IA implica que estes estejam vinculados a um dever de indemnização no caso de provocarem danos a terceiros. No entanto, como mencionamos anteriormente, esta questão gera inúmeros desafios, principalmente porque os sistemas de IA não têm bens próprios. Deste modo, como será discutido a seguir, as soluções para este problema envolvem geralmente a implementação de um regime de seguros obrigatórios. Assim, no que diz respeito aos danos causados pelos agentes de IA, e tendo em consideração que estes agentes não possuem património, o Parlamento Europeu, no ponto 57 da Resolução de 2017, considerou que devia ser criado um regime de seguros obrigatórios para os sistemas de IA. Além disto, de acordo com o ponto 59, al. a), da Resolução de 2017, os produtores ou proprietários teriam a obrigação de aderir a este regime de seguros de maneira a cobrir os danos que pudessem vir a ser causados pelos sistemas de IA 276 . Ademais, segundo o ponto 58 da Resolução de 2017, este regime de seguros obrigatórios deveria funcionar na mesma medida que o existente para os veículos de circulação terrestre, devendo ser completado por um fundo de garantia para a reparação de danos que não se encontrem abrangidos por nenhum seguro 277 . Por outro lado, MAFALDA MIRANDA BARBOSA, considera que esta solução não parece ser a melhor, uma vez que um fundo de garantia que não atue subsidiariamente poderá ter como consequência a eliminação da vertente da responsabilidade 278 . O Parlamento Europeu também considerava, nos temos do ponto 59, alínea c), da Resolução de 2017, que, no caso do fabricante, de o programador, de o utilizador ou de o proprietário contribuírem para um fundo de compensação ou subscreverem conjuntamente um seguro para garantir a indemnização, deveriam beneficiar de uma responsabilidade limitada 279 . Apontando mais soluções para a questão da obrigação de indemnizar, a Resolução de 2020, no considerando 22 do anexo B, sugeria a criação de um fundo especial para indemnizações, que seria utilizado no caso de os danos verificados serem superiores aos montantes máximos definidos. Era ainda proposta a criação de fundos de compensação específicos, com o objetivo de estes serem 275 HEINRICH EWALD HÖRSTER/EVA SÓNIA MOREIRA SILVA, A Parte Geral do Código Civil Português , cit., p. 91. 276 Resolução do Parlamento Europeu, de 16 de fevereiro de 2017, cit., s/p. 277 Resolução do Parlamento Europeu, de 16 de fevereiro de 2017, cit., s/p. 278 MAFALDA MIRANDA BARBOSA, «Inteligência Artificial, e - persons e direito: desafios e perspetivas», Revista Jurídica Luso-Brasileira, Ano 3, 2017, n.º6, p. 1479, disponível para consulta em https://www.cidp.pt/revistas/rjlb/2017/6/2017_06_1475_1503.pdf , consult. a 20/08/2023. 279 Resolução do Parlamento Europeu, de 16 de fevereiro de 2017, cit ., s/p. 69 Posto isto, existem vários fatores através dos quais irá ser possível identificar se estamos perante um sistema de IA de alto risco ou não, de acordo com o art.º 3.º, al. c), do anexo B da Resolução de 2020, nomeadamente, o grau de autonomia, o tipo de prejuízo ou dano e se este podia ser esperado ou não 304 . Ademais, como referido anteriormente a responsabilidade objetiva é a preferida para os danos causados pelos agentes de IA, no entanto, na Resolução de 2020 é estabelecido o uso do regime da responsabilidade subjetiva, tendo por base a culpa, para os casos em que o sistema de IA não é de alto risco. Ainda nesta Resolução é possível encontrar, no art.º 1 do anexo B, um conjunto de regras que apenas são aplicáveis nos casos em que as pessoas singulares intentem contra operadores de agentes de IA ações de responsabilidade civil 305 . Para além disso, as regras que se encontram nesta resolução no âmbito da responsabilidade civil, devem poder aplicar-se a todas as operações dos agentes de IA, independentemente do local onde a operação se realiza, bem como de esta operação ocorrer física ou virtualmente. Isto é estabelecido com o objetivo de proteger a vítima de danos ou prejuízos, para os quais a prova poderia ser difícil, havendo, por isso, dificuldade de provar a culpa do operador de IA 306 . Além disto, nesta resolução também se encontra definido o que deve entender-se por “operador” de sistemas de IA. De acordo com o considerando 12 e art.º 3.º, al. d), do anexo B da Resolução de 2020, o termo operador abrange quer o operador de frontend como o operador de backend , desde que o operador de backend não se encontre coberto pela Diretiva relativa à responsabilidade decorrente dos produtos 307 . Além de definir o que deve ser entendido por “operador”, na Resolução em análise, também se estabelece o que se deve entender por operador de backend e operador de frontend , sendo isto visível no considerando 12 da resolução. O operador de frontend é a “pessoa singular ou coletiva que exerce um grau de controlo sobre um risco relacionado com a operação e o funcionamento do sistema de IA e beneficia desse facto”. Por outro lado, o operador de backend é a “pessoa singular ou coletiva que, de forma contínua, define as características da tecnologia, fornece dados e presta serviços essenciais de apoio de backend e, por conseguinte, exerce igualmente algum controlo sobre o risco ligado à operação 304 Resolução do Parlamento Europeu, de 20 de outubro de 2020, que contém recomendações à Comissão sobre o regime de responsabilidade civil aplicável à inteligência artificial (2020/2014(INL)), cit., s/p. 305 Ibidem. 306 Considerando 11 da Resolução do Parlamento Europeu, de 20 de outubro de 2020, que contém recomendações à Comissão sobre o regime de responsabilidade civil aplicável à inteligência artificial (2020/2014(INL)), cit., s/p. 307 Resolução do Parlamento Europeu, de 20 de outubro de 2020, que contém recomendações à Comissão sobre o regime de responsabilidade civil aplicável à inteligência artificial (2020/2014(INL)), cit., s/p. 70 e ao funcionamento do sistema de IA” 308 . Assim, tendo em conta esta definição de operador de backend aqui apresentada, deverá a este, no caso de danos causado pelos agentes de IA, ser aplicada a Resolução de 2020 ou a Diretiva relativa à Responsabilidade decorrente dos Produtos? Se o operador de backend for apenas produtor do sistema de IA, deverá ser aplicada a mencionada Diretiva; se, por outro lado, o operador de backend for simultaneamente produtor e operador do sistema, a Resolução em análise deverá prevalecer sobre a Diretiva 309 . Posto isto, resta a situação em que existe mais do que um operador, por exemplo, um operador de backend e um operador de frontend , neste caso, quem deverá responder pelos danos causados pelos agentes de IA? Ora, a Resolução de 2020 dá resposta a esta questão, considerando que, neste caso, o operador de backend e o operador de frontend deverão responder solidariamente pelos danos causados, devendo a proporção da responsabilidade ser determinada pelo nível de controlo que os operadores possuem sobre o risco relacionado com o funcionamento do agente de IA e com a operação 310 . Relativamente aos utilizadores, deverão estes ser responsabilizados pelos danos causados pelos agentes de IA ou não? Segundo a resolução em análise, os utilizadores dos sistemas de IA apenas serão responsabilizados se forem considerados operadores também. No caso de não serem considerados operadores do agente de IA, poderá existir responsabilidade culposa do utilizador perante o requerente tendo em conta o grau de contribuição intencional ou por negligência grave para os danos ou prejuízos causados 311 . Como referido anteriormente, nesta Resolução define-se um regime de responsabilidade objetiva para os danos provocados por um sistema de IA de alto risco e um regime de responsabilidade subjetiva para restantes. Ora, no caso dos sistemas de IA de alto risco, como poderá o operador excluir a responsabilidade? Este apenas se poderá eximir da responsabilidade, no caso de os danos terem sido causados por motivos de força maior. Além disto, o operador, independentemente de ser backend ou frontend deverá fazer com que as operações do agente de IA se encontrem cobertas por um seguro adequado aos montantes e dimensão das indemnizações. Numa situação em que a indemnização seja superior aos montantes previstos, esse valor deverá ser reduzido proporcionalmente, de forma que a indemnização não seja superior aos montantes estabelecidos na resolução em análise. 308 Resolução do Parlamento Europeu, de 20 de outubro de 2020, que contém recomendações à Comissão sobre o regime de responsabilidade civil aplicável à inteligência artificial (2020/2014(INL)), cit., s/p. 309 Considerando 12 da Resolução do Parlamento Europeu, de 20 de outubro de 2020, que contém recomendações à Comissão sobre o regime de responsabilidade civil aplicável à inteligência artificial (2020/2014(INL)), cit., s/p. 310 Considerando 13 da Resolução do Parlamento Europeu, de 20 de outubro de 2020, que contém recomendações à Comissão sobre o regime de responsabilidade civil aplicável à inteligência artificial (2020/2014(INL)), cit., s/p. 311 Considerando 11 do anexo B da Resolução do Parlamento Europeu, de 20 de outubro de 2020, que contém recomendações à Comissão sobre o regime de responsabilidade civil aplicável à inteligência artificial (2020/2014(INL)), cit., s/p. 71 Por outro lado, no caso dos agentes de IA que não são considerados de alto risco, o operador é responsabilizado com base na culpa, estando sujeito à responsabilidade culposa e apenas se podendo eximir desta se demonstrar que os danos se verificaram sem a sua culpa, uma vez que existe a presunção de culpa do produtor. Ademais, apenas poderá provar que não teve culpa, através de dois motivos, o sistema ter sido ativado sem o seu conhecimento, mas foram cumpridas todas as diligências para que essa ativação do sistema fosse evitada, bem como ter sido observada a devida diligência na execução do conjunto das seguintes ações, correta colocação em funcionamento do sistema de IA, controlo das atividades e manutenção da operação, através da instalação de todas as atualizações disponíveis, bem como a seleção de um sistema de IA adequado para todas as tarefas e capacidades em causa 312 . De acordo com o art.º 8.º, n.º 2, da Resolução de 2020, o operador não poderá utilizar para eximir a sua responsabilidade, o facto de os danos terem sido provocados por atos autónomos do sistema. Também de acordo com o art.º 8.º, n.º 3, do anexo B da resolução em análise, no caso de o dano ter sido causado por interferência de um terceiro, o operador continuará como responsável no caso de esse terceiro não ser possível de localizar ou não possuir recursos financeiros 313 . A Resolução de 2020 não se encontra livre de critícas: segundo CHRISTIANE WENDEHORST, esta resolução é demasiado onerosa para os operadores, uma vez que, para que consigam eximir-se da culpa é necessário demonstrar que atuaram com toda a diligência. Além de que, a resolução não se restringe apenas aos operadores profissionais, podendo considerar os consumidores operadores, sendo assim responsáveis por qualquer tipo de dispositivo, um fogão, um cortador de relva 314 . Também o CENTRE ON REGULATION IN EUROPE criticou a Resolução de 2020, desde logo pela distinção entre sistemas de alto risco e outros sistemas de IA, uma vez que agrupar os sistemas como de alto risco, pode levar à suposição de que os sistemas de IA de alto risco criem todos riscos semelhantes, independentemente do contexto em que atuam. Também apontou o faco de esta distinção poder ser de difícil aplicação para os Estados-Membros. Por fim, consideram que esta distinção feita pela Resolução de 2020, pode ser uma fonte de incerteza jurídica, uma vez que antes de se aplicar qualquer regime de responsabilidade civil seria necessário determinar se o sistema de IA é de alto risco ou não, devendo este regime ser bem claro para que fosse possível de aplicar 315 . 312 Art.º 8.º, n.º 2 do anexo B Resolução do Parlamento Europeu, de 20 de outubro de 2020, que contém recomendações à Comissão sobre o regime de responsabilidade civil aplicável à inteligência artificial (2020/2014(INL)), cit., s/p. 313 Resolução do Parlamento Europeu, de 20 de outubro de 2020, que contém recomendações à Comissão sobre o regime de responsabilidade civil aplicável à inteligência artificial (2020/2014(INL)), cit., s/p. 314 CHRISTIANE WENDEHORST, «Strict Liability for AI and other Emerging Technologies», Journal of European Tort Law, vol. 11, capítulo 2, disponível para consulta em https://www.degruyter.com/document/doi/10.1515/jetl-2020-0140/html, p. 157, consult. a 13/08/2023. 315 CENTRE ON REGULATION IN EUROPE, UE Liability Rules for the age of artificial intelligence , cit., p. 61. 72 Ora, na Resolução de 2020 é sugerido que os sistemas de IA de alto risco sejam enumerados de forma exaustiva num anexo à resolução, o qual deverá ser revisto de seis em seis meses, devido à evolução tecnológica 316 . Também na Resolução de 2017 já se tinha considerado a criação de um sistema de registo de robots avançados no mercado interno da UE, para o qual a Comissão Europeia deveria estabelecer critérios para a classificação dos robots que deveriam ser registados 317 . Ademais, a Resolução de 2017 e a Resolução de 2020 apresentam visões diferentes no que ao estatuto jurídico diz respeito: na Resolução de 2017, o PE defende a criação de um estatuto jurídico específico para os robots 318 . No entanto, na Resolução de 2020 o PE considera inexistente a necessidade de atribuir uma personalidade jurídica aos sistema de IA 319 . Segundo o considerando 22 do anexo B da Resolução de 2020, os fundos de compensação, que na Resolução de 2017 eram de aplicação geral 320 , passam a ser de aplicação reduzida 321 . Portanto, podemos concluir que a Resolução de 2020 se diferencia da Resolução de 2017 quanto à não concessão e criação de personalidade jurídica para os agentes de IA, bem como na diferenciação entre os sistemas de IA de alto risco e os outros sistemas de IA, e por fim, no que concerne aos fundos de compensação, que na Resolução de 2020 passam a ser específicos para certas situações em vez de gerais, como na Resolução de 2017. 3. Regulamento do Parlamento Europeu de 21 de abril de 2021 No dia 21 de abril de 2021 foi apresentado pela Comissão Europeia o primeiro quadro jurídico de regulação da IA. Esta proposta de um regulamento do PE e do Conselho não se foca na questão da responsabilidade civil, mas ainda assim há alguns pontos que se demonstram relevantes. Este regulamento aborda essencialmente a colocação de IA no mercado, colocação e utilização de agentes de IA na UE, os requisitos específicos que os sistemas de alto risco devem cumprir, bem como as obrigações dos operadores dos agentes de IA. Além disso, foca-se também nas regras de transparência para os sistemas de IA que interagem com pessoas, reconhecem emoções, manipulam imagens, áudio e vídeo, bem como nas regas de fiscalização e vigilância do mercado 322 . 316 Resolução do Parlamento Europeu, de 20 de outubro de 2020, que contém recomendações à Comissão sobre o regime de responsabilidade civil aplicável à inteligência artificial (2020/2014(INL)), cit., s/p. 317 Resolução do Parlamento Europeu, de 16 de fevereiro de 2017, cit., s/p. 318 Ponto 59, al. f) da Resolução do Parlamento Europeu, de 16 de fevereiro de 2017, cit., s/p. 319 Considerando 7 da Resolução do Parlamento Europeu, de 20 de outubro de 2020, que contém recomendações à Comissão sobre o regime de responsabilidade civil aplicável à inteligência artificial (2020/2014(INL)), cit., s/p. 320 Resolução do Parlamento Europeu, de 16 de fevereiro de 2017, cit., s/p 321 Resolução do Parlamento Europeu, de 20 de outubro de 2020, que contém recomendações à Comissão sobre o regime de responsabilidade civil aplicável à inteligência artificial (2020/2014(INL)), cit., s/p. 322 Proposta de regulamento do Parlamento Europeu e do Conselho, que estabelece regras harmonizadas em matéria de inteligência artificial e altera determinados atos legislativos da União, de 21 de abril de 2021 COM(2021) 206 final, cit., p.42. 73 Ademais, este regulamento aplica-se a fornecedores que coloquem no mercado ou em serviço a IA na UE, utilizadores de sistemas de IA na UE, bem como fornecedores de sistemas de IA de um país terceiro, mas cujo resultado alcançado pelo sistema for utilizado na UE. No entanto, este regulamento não se aplica a sistemas de IA utilizados exclusivamente para fins militares 323 . Este regulamento, ao contrário da Resolução de 2020 em que tínhamos uma classificação bipartida, apresenta uma distinção entre sistemas de IA que criam um risco inaceitável, um risco baixo ou mínimo e um risco elevado 324 . Além disto, neste regulamento também é fixado, no seu titulo II, uma lista de práticas que englobam todos os agentes de IA que violam os valores da União Europeia. Dentro desta lista encontram-se os sistemas IA que implementam técnicas que manipulam a consciência das pessoas, podendo alterar o seu comportamento 325 . Embora apresente uma distinção dos sistemas de IA diferente da Resolução de 2020, esta proposta de regulamento apresenta uma definição de sistema de IA de risco elevado: aquele que, tendo em conta a sua finalidade, representa um risco elevado de causar danos à segurança dos direitos fundamentais das pessoas, bem como saúde, como é o caso dos sistemas de IA de identificação biométrica, os sistemas que são utilizados na formação profissional e educação, fornecimento de água, eletricidade, entre outros 326 . Além disto, o título II deste regulamento é dedicado aos sistemas de IA com risco elevado e no anexo III encontra-se um conjunto de sistemas de IA que devem ser considerados de alto risco 327 . Portanto, as grandes diferenças entre a Resolução de 2020 e esta proposta de regulamento são sobretudo o facto de esta proposta não ter disposições relativas aos danos causados pela IA, bem como a distinção entre sistema de IA de risco mínimo ou baixo, elevado e inaceitável. Embora não tenha disposições relativas à responsabilidade civil, o que aqui foi apresentado como sistemas de IA proibidos, bem como a definição de agentes de IA de risco alto no anexo III, pode ter impacto na questão dos danos causados pelos agentes de IA. 323 Idem, pp. 42 e 43. 324 Proposta de regulamento do Parlamento Europeu e do Conselho, que estabelece regras harmonizadas em matéria de inteligência artificial e altera determinados atos legislativos da União, de 21 de abril de 2021 COM(2021) 206 final, cit., p. 43. 325 Idem , p. 47. 326 Idem , pp. 28 a 32. 327 Idem , pp. 49 a 50. 74 4. Resolução do Parlamento Europeu, de 3 de maio de 2022, sobre a inteligência artificial na era digital Iremos abordar de forma breve os aspetos relevantes para esta dissertação da Resolução do PE de 2022, sobre a IA na era digital. A nível do quadro jurídico, nesta Resolução apresenta-se um conjunto de pontos que são necessários para a que a União Europeia esteja preparada para lidar com a IA. Aqui reconhece-se os desafios jurídicos trazidos pelos sistemas de IA, bem como uma necessidade de rever as normas específicas em vigor em matéria de responsabilidade. Além isto, considera-se que os regimes nacionais de responsabilidade civil, bem como a Diretiva relativa à responsabilidade decorrente de produtos defeituosos, poderão continuar a ser os principais atos legislativos no que aos danos causados pela IA concerne. No entanto, reconhece que, em alguns casos os regimes e disposições existentes poderão ser inadequados, havendo uma necessidade de a revisão necessária aos quadros legislativos da responsabilidade civil ser realizada tendo-se sempre em conta a legislação em vigor em matéria de segurança dos produtos. Além disto, esta revisão, tão necessária, deve assentar na identificação clara de lacunas, bem como ser orientada para o futuro e poder ser efetivamente aplicada e assegurar a proteção das pessoas e, eventualmente, lesados 328 . Na Resolução de 2022 também se observa uma necessidade de alteração de algumas definições jurídicas, como “produtor”, “operador de backend ”, “prestador de serviços e fornecedor de dados”, bem como a definição de “produto”, de forma que sejam incluídas aplicações integradas de software , serviços digitais e dependência entre produtos 329 . Ademais, na resolução em análise também se sublinha que o quadro legal, quando se tratar de compreender os riscos, não deve sujeitar crianças e adultos ao mesmo nível de responsabilidade pessoal 330 . Por fim, o Parlamento Europeu salienta que, tendo em conta as características dos agentes de IA, como a conectividade, opacidade, vulnerabilidade, complexidade, a possibilidade de sofrer alterações devido a atualizações, a autonomia, capacidade de autoaprendizagem, bem como o facto de existir uma multiplicidade de intervenientes envolvidos na criação, implementação e utilização destes sistemas, as disposições da União Europeia em matéria de responsabilidade civil enfrentam vários desafios quanto à eficácia. Assim, embora considere que não é necessária uma revisão integral dos regimes, é necessário que sejam realizados ajustes específicos e coordenados de regimes da 328 Resolução do Parlamento Europeu, de 3 de maio de 2022, sobre a inteligência artificial na era digital, disponível em https://www.europarl.europa.eu/doceo/document/TA-9-2022-0140_PT.html , consult. a 04/09/2023. 329 Idem. 330 Idem. 75 responsabilidade europeus e nacionais, com o objetivo de evitar que as pessoas sofram danos ou que não sejam ressarcidas pelos danos que lhes sejam causados 331 . Tal como na Resolução de 2020, também na Resolução de 2022 se considera que aos sistemas de IA de alto risco deve ser aplicado o regime da responsabilidade objetiva à qual se deve juntar um seguro obrigatório. Por outro lado, a todos os outros agentes de IA deve ser aplicado o regime da responsabilidade culposa, devendo os lesados beneficiar de presunção de culpa por parte do operador, a menos que este consiga provar que respeitou todas as diligências necessárias 332 . Portanto, do exposto podemos concluir que a Resolução de 2022 vai no mesmo sentido que a Resolução de 2020 quanto à aplicação dos regimes de responsabilidade civil, bem como na distinção entre agentes de IA de alto risco e os restantes agentes de IA. Ademais, reconhece a necessidade de revisão do quadro jurídico existente e dos próprios conceitos, de forma a que estes acompanhem a evolução tecnológica, bem como a necessidade de coordenação entre o âmbito nacional e europeu. 5. Proposta de Diretiva do Parlamento Europeu e do Conselho relativa à adaptação das regras de responsabilidade civil extracontratual à inteligência artificial (Diretiva Responsabilidade da IA) O Parlamento Europeu e o Conselho, no dia 28 de setembro de 2022, vieram propor uma harmonização, através da proposta de Diretiva do Parlamento Europeu e do Conselho relativa à adaptação das regras de responsabilidade civil extracontratual à inteligência artificial 333 . Antes de começarmos a abordar esta Proposta de Diretiva, iremos realizar uma breve análise da proposta de revisão da Diretiva 87/374/CEE, isto é, a Proposta de Diretiva do Parlamento Europeu e do Conselho relativa à responsabilidade decorrente dos produtos defeituosos. O objetivo desta revisão passa, essencialmente, pela clarificação de orientações e conceitos, sendo que esta necessidade advém do desenvolvimento tecnológico e dos desafios associados, nomeadamente da questão da responsabilidade por danos causados por agentes de IA. Assim, uma avaliação da Diretiva 87/34/CEE foi feita no sentido de avaliar a sua importância e valor acrescentado para a UE, bem como a eficiência, coerência e eficácia 334 . 331 Resolução do Parlamento Europeu, de 3 de maio de 2022, sobre a inteligência artificial na era digital, disponível em https://www.europarl.europa.eu/doceo/document/TA-9-2022-0140_PT.html , cit. 332 Resolução do Parlamento Europeu, de 3 de maio de 2022, sobre a inteligência artificial na era digital, disponível em https://www.europarl.europa.eu/doceo/document/TA-9-2022-0140_PT.html , cit. 333 ISA PINTO PEREIRA, «O impacto da inteligência artificial no atual regime da responsabilidade do produtor: um regime em revisão pelas instâncias europeias», Revista Eletrónica de Direito, N.º 2 (VOL. 31), junho 2023, pp. 231-240, disponível para consulta em https://cij.up.pt//client/files/0000000001/8-isa-pereira_2170.pdf , consult. a 24/10/2023. 334 ISA PINTO PEREIRA, «O impacto da inteligência artificial no atual regime da responsabilidade do produtor: um regime em revisão pelas instâncias europeias», cit., pp. 231-240. 76 Além do objetivo principal de revisão de conceitos, esta Proposta de Diretiva 335 pretende ainda alcançar “cinco objetivos específicos”. Estes passam por: “assegurar que as regras de responsabilidade refletem a natureza e os riscos dos produtos na era digital; assegurar que as regras de responsabilidade refletem a natureza dos produtos na economia circular; assegurar que existe sempre uma pessoa estabelecida na UE responsável por produtos defeituosos adquiridos a produtores fora da UE; reduzir o ónus da prova no caso de produtos complexos e esclarecer a responsabilidade por defeitos não detetáveis, assegurando simultaneamente um justo equilíbrio entre produtores e consumidores; por fim, reduzir as restrições à propositura de ações, assegurando simultaneamente um justo equilíbrio entre produtores e consumidores” 336 . Esta Proposta de Diretiva traz várias inovações, desde logo, a inclusão do software no conceito de produto. Além de propor uma definição alargada de produto, também o faz quanto ao dano, acrescentando a “perda ou corrupção de danos fora da esfera estritamente profissional”. Ademais, também é introduzido por esta proposta novos operadores económicos, o que é visível no art.º 7 da mesma. Neste artigo não se fala de “produtor”, mas sim de agentes, sendo que por agentes devemos entender o distribuidor do produto, o prestador de serviços de execução, fabricantes do produto, o importador e o mandatário do fabricante, nos casos em que este esteja fora da UE. Também no art.º 9 desta proposta é possível encontrar uma inovação quanto ao ónus de prova, introduzindo-se presunções a favor do lesado. Assim, o produto passa a ser considerado defeituoso quando o lesado provar que o defeito por um mau funcionamento do produto se verifica em circunstâncias que são consideradas normais para a sua utilização, bem como quando o lesado provar que o produto não cumpre todos os requisitos de segurança e, por fim, os agentes não apresentarem elementos de prova suficientes. No art.º 14 da Proposta de Diretiva é possível encontrar alterações no que aos prazos de prescrição diz respeito, havendo um alargamento do período de dez anos para intentar ação judicial a contar da data em que o produto defeituoso foi colocado no mercado, no caso de o lesado não ter intentado a ação judicial devido a um período de latência do dano corporal. Relativamente à inclusão no conceito de “produto” dos softwares, podemos afirmar que há uma preocupação nesta Proposta de Diretiva com o facto de os produtos na era digital poderem ser tangíveis ou intangíveis, bem como pelo facto de o software poder funcionar de forma autónoma, mas também poder ser uma componente de outro produto. Assim, para esta Proposta de Diretiva, para efeitos de responsabilidade, o software independentemente do modo de utilização ou fornecimento é 335 A partir deste momento, sempre que nos referirmos a “Proposta de Diretiva” estamos a falar da Proposta de Diretiva do Parlamento Europeu e do Conselho Relativa à responsabilidade decorrente de produtos defeituoso. 336 Ibidem. 77 considerado um produto. Aqui, engloba-se os que estão armazenados em outros aparelhos, bem como na nuvem. No entanto, o código-fonte que constituí estes softwares não deve ser considerado um produto, pois trata-se de uma mera informação 337 . Ademais, nesta Proposta de Diretiva também é possível encontrar que tipo de software não é considerado produto, encontrando-se aqui todo o software que esteja livre e que seja fornecido ou desenvolvido fora de uma atividade comercial, por exemplo software que é partilhado publicamente. Portanto, segundo esta Proposta de Diretiva para que um software seja considerado produto é necessário que seja desenvolvido ou fornecido no âmbito de uma atividade comercial 338 . Para além disto, o facto de a definição de dano ter sido alargada, passando-se a considerar a “perda ou corrupção de danos fora da esfera estritamente profissional” tem relevância, pois vem dar resposta à problemática que se prende com o tipo de danos que devem ser alvo de indemnização no âmbito da responsabilidade do produtor, vindo em matéria de IA, a superar lacunas existentes ao abranger este tipo de danos 339 - 340 . O facto de na presente Proposta de Diretiva, se reconhecer que deve ser indemnizada a perda ou alteração de dados, como é o caso da eliminação do conteúdo de um disco rígido, demonstra uma preocupação com os ativos intangíveis. No caso de eliminação do conteúdo de um disco rígido, a indemnização deve cobrir os custos de restauro dos dados 341 . Ainda no que concerne aos sistemas de IA, o art.º 6 indica as circunstâncias segundo as quais um produto é considerado defeituoso quando não apresenta a segurança esperada. Assim, nas alíneas. c), d) e f) é tido em conta a capacidade que um produto possa ter de aprender após a sua utilização, bem com o efeito que outros produtos possam ter em outros produtos em que a utilização em conjunto possa ser esperada e, por fim, é de ter em conta as expectativas do cliente final, bem como os requisitos de segurança 342 . Posto isto, o que é que esta Proposta de Diretiva refere quanto ao risco de desenvolvimento? Neste ponto, a Proposta de Diretiva parece manter o que anteriormente se tinha estabelecido quanto ao risco de desenvolvimento. Ora, a Proposta de Diretiva não excluí a responsabilidade do produtor em matéria de risco de desenvolvimento, devendo se ter em conta o momento em que o produto é colocado no mercado, bem como o período em que produto esteve com o produtor para atualizações. 337 Considerando 12 da Proposta de Diretiva do Parlamento Europeu e do Conselho Relativa à responsabilidade decorrente de produtos defeituoso , cit, p. 18. 338 Considerando 13 da Proposta de Diretiva do Parlamento Europeu e do Conselho Relativa à responsabilidade decorrente de produtos defeituoso, cit, p. 18. 339 ISA PINTO PEREIRA, «O impacto da inteligência artificial no atual regime da responsabilidade do produtor: um regime em revisão pelas instâncias europeias», cit., pp. 231-240. 340 Considerando 16 da Proposta de Diretiva do Parlamento Europeu e do Conselho Relativa à responsabilidade decorrente de produtos defeituoso, cit,pp.18-19. 341 Ibidem. 342 Ibidem. 78 Deve-se também ter em conta, o momento em que a identificação do defeito ocorreu, sempre com base nos conhecimentos técnicos e científicos do produtor. Assim, a Proposta de Diretiva considera que, o produtor deve ser responsável por defeitos e respetivos danos que o software possa vir a causar depois do momento em que é introduzido no mercado. Isto porque, como vimos anteriormente, podem surgir defeitos num produto devido a atualizações, evoluções ou até mesmo devido à capacidade que os algoritmos apresentam de aprendizagem 343 . No entanto, o produtor continua a ter a possibilidade de não responder por estes danos se, nos termos do art.º 10, n.º 1, al. e) da Proposta de Diretiva, no momento de colocação do produto no mercado ou no momento em que o produto estava sobre o seu controlo, os conhecimentos científicos e técnicos não permitirem a deteção da qualidade defeituosa 344 . É de salientar que, que o defeito se encontra ligado à ideia de segurança do produto. Deste modo, o produtor também poderia ser responsabilizado pela falta de informação, como por exemplo, instruções de utilização e de cuidado 345 . Ademais, as orientações da Proposta de Diretiva em causa, vão no sentido de que as ações devem ser contra o operador de um sistema de IA, no que à responsabilidade por danos causados por agentes de IA diz respeito. Esta ideia de responsabilidade do operador de um sistema de IA advém do facto de este exercer um grau de controlo sobre um risco ligado à operação e funcionamento de um sistema de IA. No caso dos sistemas de IA podemos ter mais do que um operador, por isso convém esclarecer o que deve ser entendido por operador. Por “operador” deve-se entender o operador de frontend e de backend 346 . Portanto, estas melhorias ao regime da responsabilidade do produtor apresentadas por esta Proposta de Diretiva vêm ajudar a preencher certas lacunas existentes, bem como reforçar a proteção do lesado 347 . Podemos ainda acrescentar que, verifica-se nesta Proposta de Diretiva uma preocupação crescente com a adequação ao desenvolvimento tecnológico, sendo isso visível, desde logo, pela inclusão de software como produto, bem como pela preocupação com o valor dos bens intangíveis, e, pelo facto de se ter em consideração os produtos que fazem parte de outros produtos. Também salientamos o facto, de a Proposta de Diretiva referir que tipo de software é considerado produto, deixando claro que nem todo o software pode ser considerado produto, apenas o que é desenvolvido ou fornecido no âmbito de uma atividade comercial. 343 Ibidem. 344 Proposta de Diretiva do Parlamento Europeu e do Conselho Relativa à responsabilidade decorrente de produtos defeituoso, cit, pp.32-33. 345 Ibidem. 346 ISA PINTO PEREIRA, «O impacto da inteligência artificial no atual regime da responsabilidade do produtor: um regime em revisão pelas instâncias europeias», cit., pp. 231-240. 347 Ibidem. 85 os desafios colocados pela IA pela criação de normas para os agentes de IA, tal como as disposições existentes para os drones e o art.º 503.º do CC que pode ser aplicado aos veículos autónomos se conjugado com a obrigatoriedade de seguro. Além de que, desta forma, o obstáculo de o regime da responsabilidade objetiva ser aplicado taxativamente aos casos previstos na lei e diplomas especiais era possível de superar. 86 Bibliografia ABBOTT, Ryan, “The Reasonable Computer: Disrupting the Paradigm of Tort Liability”, George Washington Law Review, vol. 86, n.º 1, 2018, disponível para consulta em https://papers.ssrn.com/sol3/papers.cfm?abstract_id=2877380. ALCAIDE, Sofia Patrícia Travassos De Freitas, A Responsabilidade Civil por Danos Causados por Veículos autónomos, Coimbra, Almedina, 2021 p. 147. ANTUNES, Henrique Sousa, «Inteligência Artificial e Responsabilidade Civil», in ROCHA, Manuel Lopes/PEREIRA, Rui Soares (coords.), Inteligência Artificial & Direito, Almedina, 2020, pp. 19 a 35. ANTUNES, Henrique Sousa, «Responsabilidade Civil do Produtor: Os Danos Ressarcíveis na Era Digital», “Revista de Direito da Responsabilidade”, ano 1, 2019, pp. 139 a 154. ASIMOV, ISAAC, Runaround , I, Robot, Gnome Press, 1950. ATABEKOV, A. /YASTREBOV, O., «Legal Status of Artificial Intelligence Across Countries: Legislation on the Move», European Research Studies Journal , vol. 21, secção 4, 2018, pp. 773 a 782. Atualidade Parlamento Europeu, Inteligência artificial: oportunidades e desafios , 2023, disponível para consulta em https://www.europarl.europa.eu/news/pt/headlines/society/20200918STO87404/inteligenciaartificial-oportunidades-e-desafios?&at_campaign=20234Digital&at_medium=Google_Ads&at_platform=Search&at_creation=RSA&at_goal=TR_G&at_audience=i ntelig%C3%AAncia%20artifical&at_topic=Artificial_intelligence&at_location=PT&gclid=EAIaIQobChMIw64zY_9gAMVkYZoCR1Ycgn2EAMYASAAEgL70_D_BwE (consultado em 05/06/2023). Atualidade Parlamento Europeu , Lei da UE sobre IA: primeira regulamentação de inteligência artificial , 2023, disponível para consulta em https://www.europarl.europa.eu/news/pt/headlines/society/20230601STO93804/lei-da-ue-sobre-iaprimeira-regulamentacao-de-inteligencia-artificial (consultado em 05/06/2023). 87 Atualidade Parlamento Europeu, O que é a inteligência artificial e como funciona?, 2023, disponível em: https://www.europarl.europa.eu/news/pt/headlines/society/20200827STO85804/o-que-e-ainteligencia-artificial-e-como-funciona (consultado em 05/06/2023). Automated and Electric Vehicles Act 2018, 19 de julho de 2018, disponível para consulta em https://www.legislation.gov.uk/ukpga/2018/18 (consultado em 20/07/2023). BARANIUK, Chris, «The 'creepy Facebook AI' story that captivated the media», BBC News , 1 de agosto de 2017, disponível para consulta em https://www.bbc.com/news/technology-40790258 (consultado em 10/08/2023). BARBOSA, Mafalda Miranda, «Inteligência Artificial, e - persons e direito: desafios e perspetivas », Revista Jurídica Luso-Brasileira, Ano 3, 2017, n.º6, pp. 1475 a 1503, disponível para consulta em https://www.cidp.pt/revistas/rjlb/2017/6/2017_06_1475_1503.pdf (consultado a 20/08/2023). BARBOSA, Mafalda Miranda, «O Futuro da responsabilidade civil desafiada pela inteligência artificial: as dificuldades dos modelos tradicionais e caminhos de solução», Revista de Direito de Responsabilidade, Ano 2, 2020, pp. 280 a 326. BARBOSA, Mafalda Miranda , Inteligência Artificial entre a utopia e a distopia, alguns problemas jurídicos , Gestlegal, Coimbra, 2021. BATHAEE, Yavar, «The Artificial Intelligence Black Box and the Failure of Intent and Causation », Harvard Journal of Law & Technology , vol. 31, n.º 2, Spring, 2018, pp. 890 a 938, disponível para consulta em https://jolt.law.harvard.edu/assets/articlePDFs/v31/The-Artificial-Intelligence-Black-Box-and-theFailure-of-Intent-and-Causation-Yavar-Bathaee.pdf (consultado a 20/08/2023). BBC NEWS MUNDO, «O que é a misteriosa “caixa-preta” da inteligência artificial que preocupa os especialistas», BBC NEWS BRASIL , 2023, disponível para consulta em https://www.bbc.com/portuguese/articles/c870xmd2dv0o (consultado a 05/09/2023). BRYSON, Joanna J., “Robots Should Be Slaves”, in Artifical Models of Natural Intelligence, University of Bath , BA2 7AY, Reino Unido, 2009, disponível para consulta em https://www.semanticscholar.org/paper/Robots-should-be-slavesBryson/5b9f4b2a2e28a74669df3789f6701aaed58a43d5 (consultado a 10/08/20203). 88 BUNIG, Madeleine de Cock/BELDER, Lucky/BRUIN, Roeland de, «Mapping the Legal Framework for the Introduction into Society of Robots as Autonomous Intelligent Systems», in MULLER, Sam; ZOURIDIS, Stavros; FRISHMAN, Morly; KISTEMAKER, Laura (eds.), The Law of the Future and the Future of Law , vol. II, 2012, pp. 195 a 210. CALO, Ryan/FROOMKIN, A. Michael/KERR, Ian (eds.), Robot Law , Edward Elgar Publishing, 2016. CAMPOS, Juliana, «A responsabilidade civil do produtor pelos danos causados por robôs inteligentes à luz do regime do decreto-lei n.º383/89, de 6 de novembro», Revista de Direito da Responsabilidade, Ano 1, 2019, pp. 700 a 730, disponível para consulta em https://revistadireitoresponsabilidade.pt/2019/a-responsabilidade-civil-do-produtor-pelos-danoscausados-por-robos-inteligentes-a-luz-do-regime-do-decreto-lei-n-o383-89-de-6-de-novembro-julianacampos/ (consultado a 29/10/2023). CARVALHO, Orlando de, Teoria Geral do Direito Civil , 4ª Edição, Gestlegal, 2021. CENTRE FOR CONNECTED AND AUTONOMOUS VEHICLES, Pathway to Driverless Cars: Proposals to support advanced driver assistance systems and automated vehicle technologies , 2016, disponível para consulta em https://assets.publishing.service.gov.uk/government/uploads/system/uploads/attachment_data/file/ 536365/driverless-cars-proposals-for-adas-and_avts.pdf (consultado a 29/10/2023). CENTRE ON REGULATION IN EUROPE, UE Liability Rules for the age of artificial intelligence , março de 2021, disponível https://cerre.eu/publications/eu-liability-rules-age-of-artificial-intelligence-ai/ (consultado a 29/10/2023). CERKA, Paulius / GRIGIENÈ, Jurgita / SIRBIKYTÈ, Gintaré, «Liability for damages caused by artificial intelligence», Computer Law & Security Review , 31, 2015, pp. 376 a 389, disponível para consulta em https://www.sciencedirect.com/science/article/abs/pii/S026736491500062X (consultado a 29/10/2023). CHRISTEN, Markus/ BURRI, Thomas/ CHAPA, Joseph/ SALVI, Raphael/ SANTONI DE SIO, Filippo/ SULLINS, John, «An Evaluation Scheme for the Ethical Use of Autonomous Robotic Systems», Security Applications, Digital Society Initiative of the University of Zurich , DSI White Paper Series, White Paper nº 89 1, 2017, disponível para consulta em https://www.merlin.uzh.ch/contributionDocument/download/10417 (consultado a 29/10/2023). COECKELBERGH, Mark, «Artificial Intelligence, Responsibility Attribution, and a Relational Justification of Explainability», Science and Engineering Ethics, 2020, n.º 26, pp. 2051 a 2068, disponível para consulta em https://doi.org/10.1007/s11948-019-00146-8 (consultado a 29/10/2023). COELHO, Hélder, inteligência Artificial em 25 lições , 1ª Edição , Fundação Calouste Gulbenkian, Lisboa, 1995. COELHO, Pereira, «O nexo de causalidade na responsabilidade civil », Boletim da Faculdade de Direito , suplemento IX, 1951. COMISSÃO EUROPEIA, Comunicação da Comissão ao Parlamento Europeu, ao Conselho Europeu, ao Conselho, ao Comité Económico e Social Europeu e ao Comité das Regiões, Inteligência Artificial para a Europa, de 25 de abril de 2018, Bruxelas, disponível para consulta em https://eur-lex.europa.eu/legalcontent/PT/TXT/?qid=1587467683263&uri=CELEX:52018DC0237 , (consultado a 29/10/2023). COMISSÃO EUROPEIA , Livro Branco sobre Inteligência Artificial - Uma abordagem europeia virada para a excelência e a confiança , 19 de fevereiro de 2020, disponível para consulta em https://ec.europa.eu/info/sites/info/files/commission-white-paper-artificial-intelligence-feb2020_pt.pdf (consultado a 29/10/2023). COMISSÃO EUROPEIA, Uma abordagem europeia da inteligência artificial , 2023, disponível para consulta em https://digital-strategy.ec.europa.eu/pt/policies/european-approach-artificial-intelligence (consultado a 29/10/2023). COSTA, Mário Júlio de Almeida, Direito das Obrigações , 12.ª edição Revista e Atualizada, 2.ª Reimpr., Lisboa, Almedina, 2013. COVRIGARU, Aire A. /LINDSAY, Robert K., «Deterministic Autonomous Systems», AI Magazine, vol. 12, n.º 3, 1991, pp. 110 a 117. 90 DAHIYAT, Emad, «Intelligent agents and liability: is it a doctrinal problem or merely a problem of explanation?», Artificial Intelligence Law, n.º18, 2010, Springer, pp. 103 a 121, disponível para consulta em https://www.researchgate.net/publication/220539471_Intelligent_agents_and_liability_Is_it_a_doctri nal_problem_or_merely_a_problem_of_explanation (consultado a 29/10/2023). DEBESSONET, Cary/CROSS, George, «An Artificial Intelligence application in the Law: CCLIPS, a computer program that processes legal information», Berkeley Technology Law Journal , 329, 1986. ERDÉLYI, Olivia J./GOLDSMITH, Judy, Regulating Artificial Intelligence Proposal for a Global Solution, 2018 AAAI/ACM Conference on AI, Ethics, and Society (AIES '18), New Orleans, LA, USA, February 2--3, 2018. EUROPEAN CONSUMER ORGANISATION (BEUC), Product Liability 2.0 - How to make EU rules fit for consumers in the digital age, maio de 2020, disponível para consulta em https://www.beuc.eu/publications/beuc-x2020024_product_liability_position_paper.pdf (consultado a 29/10/2023). EXPERT GROUP ON LIABILITY AND NEW TECHNOLOGIES, Liability for Artificial Intelligence and other emerging digital technologies, 2019, disponível para consulta em https://ec.europa.eu/transparency/regexpert/index.cfm?do=groupDetail.groupMeetingDoc&docid=366 08 (consultado a 29/10/2023). FERREIRA, Ana Elisabete, «Responsabilidade civil extracontratual por danos causados por robôs autónomos - breves reflexões», Revista Portuguesa do Dano Corporal , n.º27, ano XXV, Associação Portuguesa de Avaliação do Dano Corporal, 2016, pp. 39 a 63. FROESE, Tom / VIRGO, Nathaniel / IZQUIERDO, Eduardo, «Autonomy: A Review and a Reappraisal», in COSTA, Fernando / ROCHA, Luis / COSTA, Ernesto / HARVEY, Inman / COUTINHO, António (eds.), Advances in Artificial Life - 9th European Conference, EXAL 2007, Lisbon, Portugal, September 2007 Proceedings, Springer, 2007, pp. 455 a 464. German Road Traffic Act, tradução livre em Inglês, julho de 2017, disponível para consulta em https://www.researchgate.net/publication/320813344_English_Translation_of_the_German_Road_Tr 91 affic_Act_Amendment_Regulating_the_Use_of_Motor_Vehicles_with_Highly_or_Fully_Automated_Driv ing_Function_from_July_17_2017 (consultado a 29/10/2023). GONZÁLEZ, José A. R. L. (I), «Responsabilidade por danos e Inteligência Artificial (IA)», Revista De Direito Comercial, 26/02/2020, pp. 69 a 111. GONZÁLEZ, José Alberto (II), Direito da Responsabilidade Civil , Quid Juris – Sociedade Editora, Lisboa, 2017. GRUPO INDEPENDENTE DE PERITOS DE ALTO NÍVEL SOBRE A INTELIGÊNCIA ARTIFICIAL criado pela Comissão Europeia em junho de 2018, Orientações Éticas para uma IA de Confiança , 8 de abril de 2019, disponível para consulta em https://eur-lex.europa.eu/ (consultado a 29/10/2023). GRUPO INDEPENDENTE DE PERITOS DE ALTO NÍVEL SOBRE A INTELIGÊNCIA ARTIFICIAL criado pela Comissão Europeia em junho de 2018, Uma definição de IA: Principais Capacidades e Disciplinas Científicas, 8 de abril de 2019, disponível para consulta em https://eur-lex.europa.eu/ (consultado a 29/10/2023). GUNKEL, David J., »Mind the gap: responsible robotics and the problem of responsibility», Ethics and Information Technology, n.º 22, 2020, pp. 307 a 320, disponível para consulta em https://link.springer.com/content/pdf/10.1007/s10676-017-9428-2.pdf (consultado a 29/10/2023). HORSTER, Heinrich Ewald / SILVA, Eva Sónia Moreira da, A Parte Geral do Código Civil Português , 2.ª edição, Coimbra, Almedina, 2020 (reimpr.). JENNINGS, Nick/WOOLDRIDGE, Michael, «Software Agents», IEE Review, janeiro de 1996, disponível para consulta em http://www.cs.ox.ac.uk/people/michael.wooldridge/pubs/iee-review96.pdf (consultado a 20/07/2023). JOHNSON, Deborah G e VERDICCHIO, Mario, « Why robots should not be treated like animals», Ethics and Information Technology, vol. 20, n.º 4, dezembro, 2018, pp. 291-301. JÚNIOR, Marcos Ehrhardt; SILVA, Gabriela Buarque Pereira, Pessoa e Sujeito de Direito: Reflexões sobre a Proposta Europeia de Personalidade Jurídica Eletrônica, RJLB, ano 7, nº 2, 2021, pp. 1100-1101, disponível em https://www.cidp.pt/revistas/rjlb/2021/2/2021_02_1089_1117.pdf . KIM, Minkyu, «New Legislation and the Reform of the Rules on Robots in Korea», Robotics, Autonomics, and the Law, 2017, disponível para consulta em https://www.nomos- 92 elibrary.de/10.5771/9783845284651-129/new-legislation-and-the-reform-of-the-rules-on-robots-inkorea?page=18 (consultado a 29/10/2023). LEITÃO, Luiz Menezes, Direito das Obrigações, vol. I, Introdução: Da Constituição das Obrigações, 15.ª edição, Coimbra, Almedina, 2020. LIOR, Anat, «AI Strict Liability Vis-à-vis AI Monopolization», The Columbia Science & Technology Law Review, vol. XXII, 2020, pp. 90 a 126, disponível para consulta em https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3707110 (consultado a 29/10/2023). MAIA, Ana Rita, «A Responsabilidade Civil na Era da Inteligência Artificial – Qual o caminho?», Julgar online, maio de 2021. MATTHIAS, Andrea, «The responsibility gap: Ascribing responsibility for the actions of learning automata», Ethics and Information Technology , nº 6, 2004, pp. 175 a 183, disponível para consulta em https://link.springer.com/article/10.1007/s10676-004-3422-1 (consultado a 29/10/2023). MENDES, Pedro Manuel Pimenta, «Inteligência Artificial e Responsabilidade Civil: As Possíveis “Soluções” do Ordenamento Jurídico Português », Revista de Direito da Responsabilidade , Ano 2, pp. 950 a 968, disponível para consulta em https://revistadireitoresponsabilidade.pt/2020/inteligenciaartificial-e-responsabilidade-civil-as-possiveis-solucoes-do-ordenamento-juridico-portugues-pedro-pimentamendes/ (consultado a 29/10/2023). MONTEIRO, António Pinto, «Qui facit per alium, facit per se” – será ainda assim na era da robótica?» , Revista de Legislação e de Jurisprudência”, n.º 4015, p. 200211. MOREIRA, Sónia, IA e Robótica: A Caminho da Personalidade Jurídica?, artigo disponível em https://repositorium.sdum.uminho.pt/bitstream/1822/82209/1/2022_IA-E-ROBOTICA.pdf (consultado a 29/10/2023). NASCIMENTO, Hérica Cristina Paes/SOUZA, Maique Barbosa de/OLIVEIRA, Patricia da Silveira, «A Regulação da Inteligencia Artificial e Novos Contornos para Caracterização da Responsabilidade Civil» , Revista de Direito, Governança e Novas Tecnologias, V.7, n.º 2, 2021, pp. 73 – 90. OLIVEIRA, Arlindo, Inteligência Artificial, Lisboa, Fundação Francisco Manuel dos Santos, 2019. 93 PEREIRA, Isa Pinto, «O impacto da inteligência artificial no atual regime da responsabilidade do produtor: um regime em revisão pelas instâncias europeias», Revista Eletrónica de Direito, N.º 2 (VOL. 31), junho 2023, pp. 231-240, disponível para consulta em https://cij.up.pt//client/files/0000000001/8-isapereira_2170.pdf (consultado a 24/10/2023). PRATA, Ana (coord.), Código Civil Anotado, vol. I, 2.ª edição Revista e Atualizada, Almedina, 2019. Projeto de lei de Dmitry Sergeevich Grishin, Grishin Robotics, 2017, disponível para consulta em https://www.dentons.com/en/insights/alerts/2017/january/27/dentons-develops-first-robotics-draftlaw-in-russia (consultado a 29/10/2023). Projeto de lei no estado da Califórnia, disponível para consulta em http://leginfo.legislature.ca.gov/faces/billTextClient.xhtml?bill_id=201720180SB1001 (consultado a 29/10/2023). Proposta de Diretiva do Parlamento Europeu e do Conselho Relativa à responsabilidade decorrente de produtos defeituoso, disponível para consulta em https://op.europa.eu/pt/publication-detail/- /publication/b9a6a6fe-3ff4-11ed-92ed-01aa75ed71a1/language-pt (consultado a 28/10/2023). Proposta de DIRETIVA DO PARLAMENTO EUROPEU E DO CONSELHO relativa à adaptação das regras de responsabilidade civil extracontratual à inteligência artificial (Diretiva Responsabilidade da IA), disponível para consulta em https://eur-lex.europa.eu/legalcontent/PT/TXT/PDF/?uri=CELEX:52022PC0496&from=EN (consultado a 24/10/2023). Proposta de regulamento do Parlamento Europeu e do Conselho, que estabelece regras harmonizadas em matéria de inteligência artificial e altera determinados atos legislativos da União, de 21 de abril de 2021 COM(2021) 206 final, disponível para consulta em https://eur-lex.europa.eu/legalcontent/EN/TXT/?qid=1623335154975&uri=CELEX%3A52021PC0206 (consultado a 29/10/2023). REID, Melanie, Rethinking the Fourth Amendment in the Age of Supercomputers, Artificial Intelligence, and Robots, West Virginia Law Review, vol. 119, 2017. Relatório do Comité de Inteligência Artificial da Câmara dos Lordes, 2016, disponível para consulta em https://publications.parliament.uk/pa/cm201617/cmselect/cmsctech/145/14507.htm#_idTextAnch or028 (consultado a 29/10/2023). 94 Resolução do Parlamento Europeu, de 3 de maio de 2022, sobre a inteligência artificial na era digital, disponível em https://www.europarl.europa.eu/doceo/document/TA-9-2022-0140_PT.html (consultado a 04/09/2023). RIBEIRO, Júlia Melo Carvalho Melo, «Inteligência artificial e responsabilidade sob a perspectiva do direito do consumidor», Direito e Tecnolgia: Novos Modelos e Tendências , Porto Alegre, RS: Editora Fi, 2021. SILVA, João Calvão da , Compra e Venda de Coisas Defeituosas (Conformidade e Segurança), 5.ª edição, Almedina, 2008. SILVA, João Calvão da, Responsabilidade Civil do Produtor, Almedina, Coimbra, 1999. SILVA, Nuno Sousa e, «Direito e Robótica: uma primeira aproximação», Revista da Ordem dos Advogados , Ano 77, I-II 2017, pp. 487 – 540. SILVA, Nuno Sousa e, «Inteligência artificial, robots e responsabilidade civil: o que é diferente?”, “Revista de Direito Civil”, v. 4, n.º 4, Coimbra, 2019, pp. 691-711. SURDEN, Harry, «Machine Learning and Law», Washington Law Review , vol. 89, 2014, pp. 87 a 115, disponível para consulta em https://digitalcommons.law.uw.edu/wlr/vol89/iss1/5/?utm_source=digitalcommons.law.uw.edu%2Fwl r%2Fvol89%2Fiss1%2F5&utm_medium=PDF&utm_campaign=PDFCoverPages (consultado a 29/10/2023). TURNER, Jacob, Robot Rules: Regulating Artificial Intelligence , Londres, Palgrave Macmillan, 2019, ebook, disponível para consulta em https://doi.org/10.1007/978-3-319-96235-1 (consultado a 29/10/2023). VARELA, Francisco J., “Patterns of Life: Intertwining Identity and Cognition”, in Brain and Cognition , nº 34, 1997, pp. 72 a 87. VARELA, João de Matos Antunes , Das Obrigações em geral , Vol. I, 10.ª ed., Coimbra, Almedina, 2000. VASILYEV, A. A./IBRAGIMOV, Zh. I./GUBERNATOROVA, E. V., «The Russian draft bill of “the Grishin Law” in terms of improving the legal regulation of relations in the field of robotics: critical analysis», Jornal of Physics: Conference Series , vol. 1333, 2019, secção 5, disponível para consulta em