A responsabilidade civil da inteligência artificial nas relações de consumo

Resumo: Trata-se dos aspectos contemporâneos sobre a responsabilidade civil da inteligência artificial nas relações de consumo, conceituando-se inteligência artificial e sua relação com o Direito, a sua influência na vida do consumidor, a responsabilidade civil quanto aos danos provocados pela máquina, o impacto na vida do desenvolvedor, e a personificação da inteligência artificial, porquanto é um assunto em pauta em todo o mundo, atualmente, com última repercussão significativa registrada na Europa, onde o parlamento europeu discutiu sobre a possibilidade de atribuir à inteligência artificial o que chamam de “personalidade eletrônica”. Para tanto, foi utilizado o estudo bibliográfico e documental, por meio do método dedutivo.

Palavras-chave: Ferramentas autônomas, inteligência artificial, responsabilidade da máquina.

Sumário: 1 Introdução; 2 A Inteligência Artificial e sua Relação Com o Direito; 2.1 Inteligência Artificial; 2.2 A Relação da Inteligência Artificial com o Direito; 3 A Influência da Inteligência Artificial na Vida do Consumidor; 4 A Responsabilidade Civil da Inteligência Artificial nas Relações de Consumo; 5 O Impacto da Inteligência Artificial na Vida do Desenvolvedor, Seja ele Empregado, Empresário ou Empresa, sob a Égide Jurídica; 6 Conclusão; Referência.

---

1. INTRODUÇÃO

A evolução tecnológica segue em ritmo acelerado, e o Direito não está conseguindo acompanhar, a não ser por jurisprudências, quando o Poder Judiciário, sem outra alternativa, é obrigado a “legislar”, indiretamente, razão pela qual se espera que esse movimento 4.0, protagonizado pelos novos juristas, e jovens acadêmicos, seja suficiente para, ao menos, fazer com que, desta vez, o Direito se antecipe aos prováveis prejuízos que o desenvolvimento da inteligência artificial poderá causar, porquanto é algo que impactará diretamente a vida das pessoas nas relações de consumo, como se verá a seguir, e, por muitas vezes, provocará danos irreversíveis.

Atualmente, a inteligência artificial é utilizada em diversos produtos, bem como para prestar serviços diretamente ao consumidor, sem intermediação de um ser humano, por meio de chatbots e organizador de agendas e reuniões, como a tecnologia do Google Duplex, por exemplo, que é uma extensão do aplicativo Google Assistente. Então, tudo isso despertou o interesse de muitos estudiosos contemporâneos, de todas as áreas do conhecimento, mas, sobretudo, da área jurídica, visto que um novo personagem passou a fazer parte das relações de consumo, a máquina (hardware ou software) detentora de inteligência artificial. Dessa forma, prestando serviço diretamente, ou por estar presente no mesmo ambiente que o consumidor, como é o caso de produtos, como a Alexa, da Amazon, a máquina dotada de inteligência artificial, por meio de decisões autônomas, é capaz de se comportar de maneiras não previstas pelo seu criador, gerando prejuízos em níveis de gravidade inimagináveis.

Nesse sentido, qual deve ser a responsabilidade civil da inteligência artificial? Qual é a relação existente entre a inteligência artificial e o Direito? Como esse tipo de máquina influencia na vida do consumidor? Isso quer dizer que a inteligência artificial tem, ou deve ter, personalidade jurídica própria? Qual é o impacto negativo que a inteligência artificial pode trazer para a vida do desenvolvedor, seja ele empregado, empresário ou empresa, sob a égide jurídica? A intenção do presente trabalho é responder todas essas questões, analisando se um sistema dotado de capacidade autônoma pode, ou deve, ser responsabilizado pelos seus próprios atos nas relações de consumo, e delineando a forma como o Estado deve prover segurança jurídica, sopesando a hipossuficiência do consumidor e o dolo ou culpa do desenvolvedor, seja ele empregado, empresário ou empresa. Para tanto, foi utilizado o estudo bibliográfico e documental, por meio do método dedutivo.

---

2. A INTELIGÊNCIA ARTIFICIAL E SUA RELAÇÃO COM O DIREITO

2.1 INTELIGÊNCIA ARTIFICIAL

A Inteligência Artificial, em sua essência, foi introduzida na sociedade no ano de 1950, pelo matemático britânico Alan Turing, por meio de uma publicação em um jornal da época, de sua autoria, que possuía a seguinte chamada:

1. O Jogo da Imitação

Proponho considerar a questão: “As máquinas podem pensar?”

(TURING, A.M., 1950, traduzido)2

Contudo, a expressão “Inteligência Artificial” somente foi utilizada, pela primeira vez, em 1955, por meio da conferência: A Proposal For The Dartmouth Summer Research Projection on Artificial Intelligence (J. McCarthy, et al, 1955) 3.

A inteligência artificial é uma característica atribuída às máquinas (hardware ou software)4 que possuem autonomia para executar tarefas, sem intervenção humana. Existem, basicamente, três tipos de aprendizado de máquina5:

• Supervisionado: um banco de dados com imagens que possuem descrição, por exemplo (a máquina associa o texto da descrição com a imagem – Machine Learning);

• Não supervisionado: um banco de dados com imagens sem descrição, por exemplo (a máquina enxerga a imagem, mas precisa categorizar algo que não conhece, sem orientação – Machine Learning);

• Baseado em reforço: é a máquina que aprende por meio de tentativa e erro – Deep Learning.

Hodiernamente, o que mais se observa nas relações de consumo é o uso da inteligência artificial baseada em aprendizado supervisionado, visto que é o modelo mais adequado para implementar em uma relação tão sensível.

Nota-se esse tipo de implementação em várias plataformas digitais, como a de streaming, Netflix, que usa a inteligência artificial para categorizar os filmes e séries de acordo com o interesse do consumidor, assim como nas redes sociais, Instagram, Facebook, Youtube, no Spotify, quando se recomenda uma música, entre outras, que oferecem conteúdo que estejam de acordo com os desejos do consumidor.

Por outro lado, o modelo de aprendizado em ascensão, que tornará a inteligência artificial mais sofisticada e passível de maior regulamentação, esta que deve ser pensada a partir de agora, é o baseado em reforço, pois se trata do deep learning, técnica que se espelha na forma de aprendizado do ser humano, simulando, no robô, ou ferramenta inteligente, um tipo de raciocínio constituído por neurônios artificiais.6

2.2 A RELAÇÃO DA INTELIGÊNCIA ARTIFICIAL COM O DIREITO

A pesquisadora Joy Buolamwini, uma cientista da computação do Instituto de Pesquisa Media Lab, localizado nos Estados Unidos da América (EUA), em um documentário exibido na rede Netflix7, mostrou uma descoberta que a deixara irresignada. Em seu estudo, realizou diversos testes com softwares de reconhecimento facial, baseados em inteligência artificial, e notou que vários apresentaram erros, pois não reconheciam sua face. Mas, ao persistir em seus testes, colocou uma máscara, na cor branca, e o software reconheceu seu rosto. Com isso, atribuiu a falha a um comportamento racista da máquina, já que sua pele é preta, e não fora reconhecida por esse detalhe, exclusivamente.

Somando a isso, um caso chocou todas as pessoas do mundo, em 2015, quando uma das empresas protagonistas na área tecnológica, a Amazon.com, anunciou, publicamente, que tinha sob seu domínio uma tecnologia baseada em inteligência artificial realizando recrutamento, que avaliava 100 (cem) currículos e escolhia os 5 (cinco) melhores para conceder a(s) vaga(s). A máquina identificou que a maioria dos candidatos à vaga de desenvolvedor de software eram homens, assim, obviamente, eram os mais escolhidos, simplesmente por estarem em maioria. A ferramenta de recrutamento inteligente, então, entendeu, equivocadamente, que homens eram preferíveis, e não compreendeu que eles eram mais escolhidos por serem maioria no banco de currículos, porquanto não havia tantas mulheres interessadas nessa área. Dessa forma, por um entendimento superficial, a máquina passou a considerar o gênero feminino como questão prejudicial, penalizando todos os currículos que continham o termo “mulher”.8

No primeiro caso, a inteligência artificial foi treinada com imagens predefinidas, de pessoas com pele branca, o que acarretou o comportamento discriminatório da máquina. De outro modo, no segundo caso, a inteligência artificial não recebeu currículos selecionados, e sim um acervo geral, pelo que foi exposto, e esse banco de dados, coincidentemente, concentrava uma maior quantidade de documentos de candidatos do gênero masculino, reflexo da própria sociedade, já que, à época, as mulheres não eram predominantes na área tecnológica, o que permanece até hoje, segundo uma pesquisa da empresa Anitab.org, que registrou, em 2020, uma representatividade de 28,8% por parte das mulheres em empresas ou áreas de tecnologia, apenas9.

Assim, conforme aduz a Dra. e escritora Patrícia Peck Pinheiro, em sua obra “Direito Digital”, com sua primeira versão lançada em 2002: “Toda mudança tecnológica é uma mudança social, comportamental, portanto, jurídica”.10

Diante disso, torna-se nítida a necessidade de comunicação entre essa nova tecnologia e o direito, visto que ainda não está em seu auge, o que denota que há muita coisa, ainda, para acontecer, motivo pelo qual deve haver regulamentação, de maneira responsável, a fim de atenuar os impactos que serão causados de agora em diante, no que tange, sobretudo, ao âmbito consumerista, onde mais se utiliza a inteligência artificial, atualmente.

---

3. A INFLUÊNCIA DA INTELIGÊNCIA ARTIFICIAL NA VIDA DO CONSUMIDOR

A inteligência artificial está sendo utilizada, principalmente, para angariar clientes e fomentar as relações de consumo, contudo, para isso, as formas de uso dessa tecnologia estão limitando a capacidade de desenvolvimento das pessoas, e prejudicando diversos outros aspectos da vida de cada um.

Existe uma dinâmica no meio tecnológico, muito usado por profissionais de marketing, chamado de content loop11, em que se oferece um conteúdo ao usuário (consumidor), o qual clica, consome, e, após isso, recebe novas recomendações de teores semelhantes ao último conteúdo consumido, um ciclo que se repete eternamente, visto que fica vinculado aos dados de registro do consumidor (no caso de uma rede social), ou ao aparelho, computador ou celular, por meio de identificadores próprios, como o Protocolo de Internet (IP).

Na empresa de streaming Netflix, já mencionada, no Youtube, no Facebook, no Instagram, e no Spotify, por exemplo, esse recurso é utilizado com maestria, tendo em vista que, após consumir o conteúdo, essas plataformas entregam vários outros conteúdos semelhantes ao anterior, repetidas vezes, o que é bom, por um ponto de vista, já que se recebe somente aquilo que interessa, mas, por outro lado, é muito ruim, já que as plataformas estão modelando a personalidade de quem consome, de forma que impossibilita o desenvolvimento pessoal, aprisionando o consumidor no content loop.

Outrossim, esse ciclo sem fim, além de moldar a personalidade de quem consome, também faz com que se crie e sustente, para sempre, um viés ideológico por meio da confirmação12, quando se passa a ler informações e conteúdo que se gosta, somente. Ademais, fortalece o viés de dissonância cognitiva13, que é quando se decide não ler ou consumir conteúdo do qual discorda, pois causa desconforto ao consumidor, sustentando, ainda mais, as suas próprias crenças, sem possibilidade de ceder para qualquer outro tipo de ideia a qual seja apresentado(a).

Ideia essa retratada, também, por Danilo Doneda, o qual aduz: “As decisões automatizadas, baseadas em um método estatístico para análise de grande volume de dados e informações, podem ter grande impacto sobre os direitos individuais, especialmente no que se refere à autonomia, igualdade e personalidade”.14

As palavras de Doneda apenas alertam que o conteúdo gerido por uma inteligência artificial afeta, além dos direitos de personalidade do consumidor, o direito de livre escolha, amparado pelo Princípio da Liberdade de Escolha. 15

A ideia de ter uma ferramenta revolucionária, que vende os produtos para a empresa, assim como faria um ser humano, ou até melhor, utilizando-se das técnicas mais sofisticadas de persuasão, de forma automatizada e sem a necessidade de intervenção humana, agrada os ouvidos de qualquer visionário ambicioso, que, certamente, não medirá esforços para colocar isso para funcionar o quanto antes. Contudo, não se vê, a tempo, as consequências negativas que isso trará, razão pela qual a introdução da máquina baseada em inteligência artificial deve ser bem dosada, de maneira que permita a evolução da tecnologia, sem que cause sérios danos à sociedade, de modo que, também, permita ser acompanhada pelo Direito, que, com o movimento 4.0, agirá mais rápido para tornar o ambiente mais favorável à inserção dessa nova tecnologia.

---

4. A RESPONSABILIDADE CIVIL DA INTELIGÊNCIA ARTIFICIAL NAS RELAÇÕES DE CONSUMO

Sabe-se que a responsabilidade civil é o ônus de reparar, atribuído a quem comete algum dano a outrem, por qualquer ação ou omissão voluntária, negligência ou imprudência, conforme preleciona o artigo 186 cumulado com o artigo 927 do Código Civil de 2002 (CC/02)16, os quais dispõem:

Art. 186. Aquele que, por ação ou omissão voluntária, negligência ou imprudência, violar direito e causar dano a outrem, ainda que exclusivamente moral, comete ato ilícito.

Art. 927. Aquele que, por ato ilícito (arts. 186 e 187), causar dano a outrem, fica obrigado a repará-lo.

(Lei nº 10.406 de 2002 - grifado) 17

Essa responsabilidade de reparar danos sempre será conferida àquele que é considerado um sujeito que adquire direitos e contrai deveres, que possui uma personalidade jurídica predefinida. Esse conceito geral surgiu quando o CC/02 estabeleceu, em seus artigos 1º e 2º, que toda pessoa é capaz de direito e deveres, e a personalidade civil, também chamada de personalidade jurídica, de qualquer pessoa, começa a partir do seu nascimento com vida.

Art. 1º Toda pessoa é capaz de direitos e deveres na ordem civil.

Art. 2º A personalidade civil da pessoa começa do nascimento com vida; mas a lei põe a salvo, desde a concepção, os direitos do nascituro.

(Lei 10.406 de 2002 - grifado)

Após conhecer esses conceitos, surge o questionamento sobre a possibilidade de uma máquina dotada de inteligência artificial ser apta a adquirir direitos e contrair obrigações, já que se entende que todos os seus atos são voluntários, pois o seu criador, por muitas vezes, estabelece um comando que pode ser desvirtuado pela própria máquina, em sua condição autônoma.

Outrossim, nas relações de consumo, no Brasil, a responsabilidade civil é objetiva, excluindo-se a obrigação de reparar o dano apenas nos casos elencados nos artigos 12 e 14 do Código de Defesa do Consumidor (CDC)18, os quais estabelecem que:

Art. 12. O fabricante, o produtor, o construtor, nacional ou estrangeiro, e o importador respondem, independentemente da existência de culpa, pela reparação dos danos causados aos consumidores por defeitos decorrentes de projeto, fabricação, construção, montagem, fórmulas, manipulação, apresentação ou acondicionamento de seus produtos, bem como por informações insuficientes ou inadequadas sobre sua utilização e riscos.

Art. 14. O fornecedor de serviços responde, independentemente da existência de culpa, pela reparação dos danos causados aos consumidores por defeitos relativos à prestação dos serviços, bem como por informações insuficientes ou inadequadas sobre sua fruição e riscos.

(grifado)19

Contudo, quando se tratar de uma máquina, robô, ou ferramenta inteligente, nos casos em que não houve erro de desenvolvimento, deve-se entender que a máquina é a única responsável pelo dano causado, cabendo ao Estado determinar a pena adequada, sendo possível a proibição de produção da respectiva máquina e/ou modelo, inclusive. Somando a isso, caso uma nova ferramenta inteligente, produzida pelo mesmo criador, cause um novo dano a alguém, deve-se atribuir nova pena, que alcançará o criador da máquina.

Quando se tratar de ferramenta inteligente prestadora de serviços, deve-se manter a imputação da responsabilidade objetiva à empresa, porquanto a posse direta, manutenção, e qualquer outro risco inerente ao uso da coisa, foi avocado pela empresa quando resolveu manter o controle e gerência sobre a máquina.

Contudo, quando se tratar de compra e venda, a imputação da responsabilidade objetiva deve ser mantida nos casos em que o consumidor não foi informado, de forma clara e de fácil compreensão20 para qualquer pessoa de conhecimento mediano, sobre as possíveis consequências prejudiciais ao se fazer uso da ferramenta inteligente, quando se tratar de uma máquina, física ou virtual, vendida ao consumidor, visto que, assim como se compra um cachorro de porte grande, ríspido, e suscetível a causar dano, como a raça Pitbull, por exemplo, as ferramentas inteligentes, mesmo que programadas corretamente, podem ser prejudiciais, se manuseadas ou ensinadas de forma incorreta.

Com isso, o objetivo é afastar, inicialmente, a responsabilidade do programador, seja ele empregado, empresário ou empresa, visto que a tarefa de se criar uma espécie com capacidade autônoma é algo complexo, mas benéfico para a sociedade, uma vez que a ferramenta inteligente é capaz de aprender por meio de tentativas e erros, assim como uma criança, como informado anteriormente, capaz de evitar erros previsíveis, que serão observados pelo inventivo, a fim de auxiliar o ser humano em diversas áreas, de maneira eficaz. Para tanto, é preciso que a ferramenta, ou robô, inteligente alcance certa idade, de plena atividade, sem causar danos, algo a ser interpretado como estágio probatório, período no qual o inventivo será totalmente responsável pelos atos da máquina, e, após isso, terá a máquina adquirido personalidade civil.

A personalidade civil da inteligência artificial já está em discussão no parlamento europeu desde fevereiro de 2017, quando se recomendou as chamadas “Disposições de Direito Civil sobre Robótica”21, a qual atribui a essa personalidade civil uma nova nomenclatura, a chamada “Personalidade Eletrônica”.

O documento diz o seguinte:

Criar um estatuto jurídico específico para os robôs a longo prazo, de modo a que, pelo menos, os robôs autônomos mais sofisticados possam ser determinados como detentores do estatuto de pessoas eletrônicas responsáveis por sanar quaisquer danos que possam causar e, eventualmente, aplicar a personalidade eletrônica a casos em que os robôs tomam decisões autônomas ou em que interagem por qualquer outro modo com terceiros de forma independente.

(Disposições de Direito Civil sobre Robótica, 16 fev. 2017, grifado)

Nesse sentido, considerando que o Brasil é um país que tem o costume de importar legislações de outros Estados, ou tomá-las como fonte de inspiração, como a Consolidação das Leis do Trabalho (CLT), inspirada na Carta del Lavoro, da Itália22, bem como a tradição pátria de aguardar a efetividade de uma norma em Estado estrangeiro, antes de implementar regimento semelhante no país, como foi o caso de diversas normas, dentre elas, a Lei Geral de Proteção de Dados (LGPD) e o Marco Legal da Inteligência Artificial (MLIA), ainda em formato de projeto de lei, todas pensadas após implementação de normativo semelhante em vários países estrangeiros, é nítida a possibilidade, neste caso, de se implementar, futuramente, uma norma com teor semelhante ao disposto na Europa, como citado acima, de modo que se atribua uma personalidade eletrônica à máquina detentora de inteligência artificial.

Em mesmo sentido, não se mostraria razoável aplicar uma pena, ou responsabilização direta, de pronto, ao desenvolvedor da ferramenta inteligente, seja ele empregado, empresário ou empresa, porquanto seria como se aos pais de um jovem adulto fossem arrogadas as obrigações por ele adquiridas, assim como acontece na Coréia do Norte, segundo relatos do ex-embaixador do Brasil, que atuava naquele país, à revista Veja, em 2017, onde os pais podem ser condenados pelas faltas cometidas pelo(a) filho(a)23. Nessa esteira, é adequado, como citado alhures, que se permita que a ferramenta inteligente, com capacidade autônoma, seja observada durante um estágio probatório, e que, após esse período, adquira sua personalidade eletrônica, de modo que, durante o estágio probatório, ficará o inventivo, seja ele empregado, empresário ou empresa, responsável por qualquer dano causado pela sua criação, de forma objetiva.

Não obstante isso, é possível que, a fim de que se indenize as pessoas lesadas por qualquer invenção dotada de inteligência artificial, seja criado um seguro obrigatório, conforme o que é defendido no documento do parlamento europeu, “Disposições de Direito Civil sobre Robótica”:

Destaca que uma possível solução para a complexidade de atribuir responsabilidade pelos danos causados pelos robôs cada vez mais autónomos pode ser um regime de seguros obrigatórios, conforme acontece já, por exemplo, com os carros; observa, no entanto que, ao contrário do que acontece com o regime de seguros para a circulação rodoviária, em que os seguros cobrem os atos e as falhas humanas, um regime de seguros para a robótica deveria ter em conta todos os elementos potenciais da cadeia de responsabilidade24

(Disposições de Direito Civil sobre Robótica, 16 fev. 2017, grifado)

Infere-se, pois, que há possibilidade real de conduzir o movimento 4.0 de maneira que o consumidor se beneficie do que lhe será disponibilizado no mercado, e de forma a fomentar a criação dos produtos dotados de inteligência artificial, atribuindo-lhes uma personalidade civil, a personalidade eletrônica, após um estágio probatório, para que a ferramenta inteligente seja validada na sociedade, e/ou implementando uma espécie de seguro obrigatório, de forma que as vítimas sejam ressarcidas sem que haja prejuízo substancial para si, e para que não seja o desenvolvedor, seja ele empregado, empresário ou empresa, onerado demasiadamente.

Por fim, será de grande valia a implementação de um código de ética, ou algum estatuto próprio, para adequar as máquinas inteligentes aos padrões preestabelecidos pela sociedade, como aduz o documento discutido no parlamento europeu, e citado anteriormente, “Disposições de Direito Civil sobre Robótica”, bem como o que preleciona a Dra. e escritora Patrícia Peck Pinheiro em sua obra, “Direito Digital”, com sua primeira versão lançada em 200225, pela qual expõe:

Nesses temas de inovação tecnológica, pensando um mundo conectado e globalizado, a capacidade de criar regulamentações mais internacionais e uniformes é extremamente importante para a segurança jurídica dos indivíduos e das instituições. Como um código de ética a ser seguido por fabricantes e desenvolvedores de máquinas com inteligência artificial, de forma a garantir que novos robôs sigam padrões de privacidade e respeitem valores de dignidade humana. Um estatuto legal único, padronizado, que possa já vir direto de fábrica e que determine direitos, obrigações e responsabilidades.

(PINHEIRO, P. P. 2021, grifado)26

Assim, o país certamente estará mais preparado do que esteve em outras revoluções tecnológicas.

---

5. O IMPACTO DA INTELIGÊNCIA ARTIFICIAL NA VIDA DO DESENVOLVEDOR, SEJA ELE EMPREGADO, EMPRESÁRIO OU EMPRESA, SOB A ÉGIDE JURÍDICA

É cediço que o ordenamento pátrio se baseia, em grande parte, no princípio da presunção de hipossuficiência e vulnerabilidade do consumidor, garantindo algumas proteções importantes, como a inversão do ônus da prova, o afastamento da necessidade de dolo, por parte do fornecedor do produto ou serviço, caracterizando-se, sempre, em regra, a responsabilidade civil objetiva, e vedando a denunciação da lide, conforme preconiza o art. 88 do CDC, o qual dispõe:

Art. 88. Na hipótese do art. 13, parágrafo único deste código, a ação de regresso poderá ser ajuizada em processo autônomo, facultada a possibilidade de prosseguir-se nos mesmos autos, vedada a denunciação da lide.27

(grifado)

Assim, a implantação de novas dinâmicas no mercado de consumo, como a inserção de mecanismos, ferramentas, produtos e serviços com capacidade de decisão autônoma, certamente, acarretará vários embates diretos com as normas jurídicas atuais, jurisprudências e, sobretudo, costumes, ficando o desenvolvedor, seja ele empregado, empresário ou empresa, sujeito a enfrentar diversos obstáculos, sendo a responsabilização o maior deles.

Acredita-se que o meio termo, para a pacífica inserção da inteligência artificial na sociedade do consumo, seja um equilíbrio, no sentido de dar ciência plena ao consumidor sobre os reais requisitos e condições para se ter posse de um produto dotado de inteligência artificial, ficando ele responsável por qualquer situação, dano ou comportamento da máquina que o desagrade, como nos casos em que o produto adquirido possa ser uma ferramenta inteligente que aprende o que o consumidor/dono ensina, bem como seja o desenvolvedor, seja ele empregado, empresário ou empresa, responsável pelos serviços dotados de inteligência artificial que oferece, como, por exemplo, o serviço de análise de crédito feita com o uso de inteligência artificial, que, atualmente, já está bem difundida.28

Esse equilíbrio precisa ser pensado desde o primeiro momento em que o Estado resolve legislar sobre o tema, visto que uma norma genérica não terá qualquer utilidade, se não abordar as questões de maior impacto.

O Projeto de Lei nº 21 de 2020 é um claro exemplo disso, apelidado, hoje, de marco legal da inteligência artificial, o projeto de lei se mostra bem genérico, no que tange à responsabilidade a ser atribuída aos desenvolvedores, os quais são chamados, pelo diploma legal, de “agentes de inteligência artificial”, dispondo o seguinte:

Art. 9º São deveres dos agentes de inteligência artificial:

(...)

V - responder, na forma da lei, pelas decisões tomadas por um sistema de inteligência artificial; (...)

Parágrafo único. Para fins do inciso VI deste artigo, a responsabilidade pelos sistemas de inteligência artificial deve residir nos agentes de desenvolvimento e de operação de sistemas de inteligência artificial, observadas as suas funções.29

(grifado)

Essa imputação genérica pode ocasionar sérios problemas ao desenvolvedor, seja ele empregado, empresário ou empresa, a depender da inteligência artificial que ocasionar o dano, devendo o Estado, como explanado acima, observar se a ferramenta inteligente que provocou o dano é proveniente de algum produto adquirido pelo consumidor, que não teve qualquer erro em seu desenvolvimento, ou se houve, claramente, erro do desenvolvedor, que deverá, certamente, responder pela ação ou omissão danosa.

De tal modo, deve-se avaliar com cautela o marco legal da inteligência artificial, permitindo-se a participação plena dos desenvolvedores, sejam eles empregados, empresários, empresas e pesquisadores, a fim de que se aproveite esse movimento 4.0, em que diversos jovens e grandes conhecedores do tema, no âmbito jurídico, auxiliam o Estado, para que não se cometa os mesmos erros anteriores, em que o Direito não alcançou, em tempo, as revoluções tecnológicas passadas.

---

6. CONCLUSÃO

Trata-se, portanto, de um tema muito delicado, o qual não se submeterá a normativos gerais, devido à tamanha complexidade, motivo pelo qual o presente estudo buscou evidenciar parte das possibilidades de se encarar a inteligência artificial como um instrumento aliado, e, por vezes, um ser autônomo, a depender do nível de sofisticação da máquina, bem como demonstrar que essa personificação da máquina, até certo limite, é um recurso necessário, a fim de que não se responsabilize desenvolvedores, sejam eles empregados, empresários ou empresas, por danos provocados por comportamentos alheios à instrução dada inicialmente à ferramenta, mas que foram provocados por sua própria vontade e condição autônoma.

Outrossim, foi possível observar que outros países comungam do mesmo pensamento, porquanto é o destino natural da implementação dessa tecnologia em meio à sociedade, e não se pode olvidar que penalizar o criador, de modo que o impeça de fomentar a indústria, é algo bastante prejudicial para todas as partes. Contudo, é plenamente possível regular rigidamente esse processo de implementação, como se pôde notar, apenas com aplicação de condições específicas para que a máquina dotada de inteligência artificial adquira sua capacidade civil, bem como seja o criador devidamente responsabilizado durante determinado período.

Por outro lado, a hipossuficiência e vulnerabilidade do consumidor são institutos perenes, e merecem ser preservados, e a aplicação da responsabilidade civil objetiva deve permanecer nas relações consumeristas, nos casos em que a máquina dotada de inteligência artificial provocar danos por ação ou omissão voluntária do desenvolvedor, bem como por negligência, imprudência ou imperícia.

Ademais, verificou-se que essa vulnerabilidade do consumidor, de modo geral, é a porta de entrada para todos os meios de manipulação possíveis, recurso bastante explorado por diversas empresas de tecnologia, e um estudo mais aprofundado sobre essa questão, certamente, merece atenção, porém, para o objetivo geral da presente pesquisa, não houve necessidade de se aprofundar.

Por fim, o movimento 4.0, composto por estudiosos e jovens juristas, é o precursor da mudança mais significativa, e revolução mais intensa, que haverá na sociedade, e esse engajamento é o que proporcionará à comunidade jurídica, desta geração, realizar o que as anteriores não puderam: fazer com que o Direito acompanhe a transformação tecnológica, pela primeira vez, após vários anos de tentativas sem sucesso. Isso, porém, não está escrito nas estrelas, e dependerá da mobilização desse movimento 4.0, porquanto a sintonia entre o âmbito político e o âmbito jurídico precisam estar em perfeita harmonia.

---

REFERÊNCIAS

ANITAB.ORG, 2020 Top Companies for Women Technologists, [s.l], [s.d]. Disponível em: https://anitab.org/research-and-impact/top-companies/2020-results/. Acesso em: 23 set. 2022.

BRAGA, João Luiz, Cada um Cria a sua Própria Bolha nas Redes Sociais! [s.l], 23 ago. 2022. 1 vídeo (58 s). Publicado pelo Bruno Perini - Você MAIS Rico. Disponível em: https://www.youtube.com/watch?v=qRLE-U2crfo&list=RDCMUCCE-jo1GvBJqyj1b287h7jA. Acesso em: 23 set. 2022.

BRASIL, Lei n. 10406, de 10 de janeiro de 2006. Institui o Código Civil. Disponível em: https://www.planalto.gov.br/ccivil_03/leis/2002/l10406compilada.htm. Acesso em: 21 out. 2022.

BRASIL, Lei n. 8078, de 11 de setembro de 1990. Dispõe sobre a proteção do consumidor e dá outras providências. Disponível em: https://www.planalto.gov.br/ccivil_03/leis/l8078compilado.htm. Acesso em: 21 out. 2022.

BRASIL, Ministério Público de Minas Gerais, Princípio da Liberdade de Escolha, [s.l], 19 nov. 2019. Disponível em: https://www.mpmg.mp.br/portal/menu/areas-de-atuacao/cidadania/consumidor/codigo-do-consumidor/principio-da-liberdade-de-escolha.shtml. Acesso em: 24 set. 2022.

BRASIL, Projeto de Lei n. 21 de 2020. Estabelece princípios, direitos e deveres para o uso de inteligência artificial no Brasil, e dá outras providências. Disponível em: https://www.camara.leg.br/proposicoesWeb/prop_mostrarintegra?codteor=1853928. Acesso em: 22 out. 2022.

CORTIZ, Diogo, Curso de Inteligência Artificial Para Todos. [s.l], [s.d]. 1 vídeo (38 min). Disponível em: https://www.youtube.com/watch?v=Ze-Q6ZNWpco&list=PLtQM10PgmGogjn0cikgWi8wpQUnV6ERkY&index=1. Acesso em: 22 set. 2022.

DONEDA, Danilo Cesar Maganhoto et al. Considerações Iniciais Sobre Inteligência Artificial, Ética E Autonomia Pessoal. Pensar, Fortaleza. V. 23. N.4, p.1-17, out/dez.2018.

EUROPA, Disposições de Direito Civil sobre Robótica, 16 fev. 2017, Estrasburgo. Disponível em: https://www.europarl.europa.eu/doceo/document/TA-8-2017-0051_PT.pdf. Acesso em: 24 set. 2022.

JUSBRASIL, História: A criação da CLT, 2013, [s.l]. Disponível em: https://trt-24.jusbrasil.com.br/noticias/100474551/historia-a-criacao-da-clt. Acesso em: 10 out. 2022.

KANTAYYA, Shalini, Coded Bias, [s.l], 26 jan. 2020. Disponível em: https://www.netflix.com/br/title/81328723. Acessado em: 23 set. 2022.

MARCHISIO, E. Em apoio às regras de responsabilidade civil “sem culpa” para inteligência artificial, [s.l], 25 nov. 2020. Disponível em: https://pubmed.ncbi.nlm.nih.gov/34693310. Acesso em: 17 out. 2022.

MCCARTHY, J. et al, A Proposal For The Dartmouth Summer Research Projection on Artificial Intelligence, Stanford University, 1955. Disponível em: https://jmc.stanford.edu/articles/dartmouth/dartmouth.pdf. Acesso em: 22 set. 2022.

Mind, Volume LIX, ed. 236, out. 1950, [s.l], p. 433–460. Disponível em: https://doi.org/10.1093/mind/LIX.236.433. Acesso em: 21 out. 2022.

PERINI, Bruno, Cada um Cria a sua Própria Bolha nas Redes Sociais! [s.l], 23 ago. 2022. 1 vídeo (58 s). Publicado pelo Bruno Perini - Você MAIS Rico. Disponível em: https://www.youtube.com/watch?v=qRLE-U2crfo&list=RDCMUCCE-jo1GvBJqyj1b287h7jA. Acesso em: 23 set. 2022.

PINHEIRO, Patrícia Peck. Direito Digital. 7. ed. São Paulo: Editora Saraiva Educação, 2021, p. 45.

REUTERS, Amazon desiste de ferramenta secreta de recrutamento que mostrou viés contra mulheres, [s.l], 10 out. 2018. Disponível em: https://epocanegocios.globo.com/Empresa/noticia/2018/10/amazon-desiste-de-ferramenta-secreta-de-recrutamento-que-mostrou-vies-contra-mulheres.html. Acesso em: 23 set. 2022

VEJA, 15 coisas que são proibidas na Coreia do Norte, 30 ago. 2017, [s.l]. Disponível em: https://veja.abril.com.br/mundo/15-coisas-que-sao-proibidas-na-coreia-do-norte/. Acesso em: 13 out. 2022.

---

Notas

1. Centro Universitário Estácio, Samambaia, Distrito Federal, Brasil. ORCID: https://orcid.org/0009-0001-5132-4887︎

2. Mind, Volume LIX, ed. 236, out. 1950, p. 433–460, Disponível em: https://doi.org/10.1093/mind/LIX.236.433. Acesso em: 21 out. 2022.︎

3. MCCARTHY, J. et al, A Proposal For The Dartmouth Summer Research Projection on Artificial Intelligence, Stanford University, 1955. Disponível em: https://jmc.stanford.edu/articles/dartmouth/dartmouth.pdf. Acesso em: 22 set. 2022.︎

4. Hardware: parte física do computador; Software: parte lógica do computador (programas de computador).︎

5. CORTIZ, Diogo, Curso de Inteligência Artificial Para Todos. [s.l], [s.d]. 1 vídeo (38 min). Disponível em: https://www.youtube.com/watch?v=Ze-Q6ZNWpco&list=PLtQM10PgmGogjn0cikgWi8wpQUnV6ERkY&index=1. Acesso em: 22 set. 2022.︎

6. CORTIZ, Diogo, Curso de Inteligência Artificial Para Todos. [s.l], [s.d]. 1 vídeo (38 min). Disponível em: https://www.youtube.com/watch?v=Ze-Q6ZNWpco&list=PLtQM10PgmGogjn0cikgWi8wpQUnV6ERkY&index=1. Acesso em: 22 set. 2022.︎

7. KANTAYYA, Shalini, Coded Bias, [s.l], 26 jan. 2020. Disponível em: https://www.netflix.com/br/title/81328723. Acessado em: 23 set. 2022.︎

8. REUTERS, Amazon desiste de ferramenta secreta de recrutamento que mostrou viés contra mulheres, [s.l], 10 out. 2018. Disponível em: https://epocanegocios.globo.com/Empresa/noticia/2018/10/amazon-desiste-de-ferramenta-secreta-de-recrutamento-que-mostrou-vies-contra-mulheres.html. Acesso em: 23 set. 2022︎

9. ANITAB.ORG, 2020 Top Companies for Women Technologists, [s.l], [s.d]. Disponível em: https://anitab.org/research-and-impact/top-companies/2020-results/. Acesso em: 23 set. 2022.︎

10. PINHEIRO, P P. Direito Digital. 7. ed. São Paulo: Editora Saraiva Educação, 2021, p. 45.︎

11. CORTIZ, Diogo, Curso de Inteligência Artificial Para Todos. [s.l], [s.d]. 1 vídeo (38 min). Disponível em: https://www.youtube.com/watch?v=Ze-Q6ZNWpco&list=PLtQM10PgmGogjn0cikgWi8wpQUnV6ERkY&index=1. Acesso em: 22 set. 2022.︎

12. PERINI, Bruno, Cada um Cria a sua Própria Bolha nas Redes Sociais! [s.l], 23 ago. 2022. 1 vídeo (58 s). Disponível em: https://www.youtube.com/watch?v=qRLE-U2crfo&list=RDCMUCCE-jo1GvBJqyj1b287h7jA. Acesso em: 23 set. 2022.︎

13. BRAGA, João Luiz, Cada um Cria a sua Própria Bolha nas Redes Sociais! [s.l], 23 ago. 2022. 1 vídeo (58 s). Disponível em: https://www.youtube.com/watch?v=qRLE-U2crfo&list=RDCMUCCE-jo1GvBJqyj1b287h7jA. Acesso em: 23 set. 2022.︎

14. DONEDA, Danilo Cesar Maganhoto et al. Considerações Iniciais Sobre Inteligência Artificial, Ética E Autonomia Pessoal. Pensar, Fortaleza. V. 23. N.4, p.1-17, out/dez.2018.︎

15. BRASIL, Ministério Público de Minas Gerais, [s.l], 19 nov. 2019. Disponível em: https://www.mpmg.mp.br/portal/menu/areas-de-atuacao/cidadania/consumidor/codigo-do-consumidor/principio-da-liberdade-de-escolha.shtml Acesso em: 24/09/2022. ︎

16. BRASIL, Lei n. 10406, de 10 de janeiro de 2006. Institui o Código Civil. Disponível em: https://www.planalto.gov.br/ccivil_03/leis/2002/l10406compilada.htm. Acesso em: 21 out. 2022.︎

17. BRASIL, Lei n. 10406, de 10 de janeiro de 2006. Institui o Código Civil. Disponível em: https://www.planalto.gov.br/ccivil_03/leis/2002/l10406compilada.htm. Acesso em: 21 out. 2022.︎

18. BRASIL, Lei n. 8078, de 11 de setembro de 1990. Dispõe sobre a proteção do consumidor e dá outras providências. TÍTULO I, CAPÍTULO IV - Da Qualidade de Produtos e Serviços, da Prevenção e da Reparação dos Danos. Disponível em: https://www.planalto.gov.br/ccivil_03/leis/l8078compilado.htm. Acesso em: 21 out. 2022.︎

19. BRASIL, Lei n. 8078, de 11 de setembro de 1990. Dispõe sobre a proteção do consumidor e dá outras providências. TÍTULO I, CAPÍTULO IV - Da Qualidade de Produtos e Serviços, da Prevenção e da Reparação dos Danos. Disponível em: https://www.planalto.gov.br/ccivil_03/leis/l8078compilado.htm. Acesso em: 21 out. 2022.︎

20. BRASIL, Lei n. 8078, de 11 de setembro de 1990. Dispõe sobre a proteção do consumidor e dá outras providências. TÍTULO I, CAPÍTULO V - Das práticas comerciais. Disponível em: https://www.planalto.gov.br/ccivil_03/leis/l8078compilado.htm. Acesso em: 21 out. 2022.︎

21. EUROPA, Disposições de Direito Civil sobre Robótica, 16 fev. 2017, Estrasburgo. Disponível em: https://www.europarl.europa.eu/doceo/document/TA-8-2017-0051_PT.pdf. Acesso em: 24 set. 2022.︎

22. JUSBRASIL, História: A criação da CLT, 2013, [s.l]. Disponível em: https://trt-24.jusbrasil.com.br/noticias/100474551/historia-a-criacao-da-clt. Acesso em: 10 out. 2022.︎

23. VEJA, 15 coisas que são proibidas na Coreia do Norte, 30 ago. 2017, [s.l]. Disponível em: https://veja.abril.com.br/mundo/15-coisas-que-sao-proibidas-na-coreia-do-norte/. Acesso em: 13 out. 2022.︎

24. EUROPA, Disposições de Direito Civil sobre Robótica, 16 fev. 2017, Estrasburgo. Disponível em: https://www.europarl.europa.eu/doceo/document/TA-8-2017-0051_PT.pdf. Acesso em: 24/09/2022.︎

25. PINHEIRO, P P. Direito Digital. 7. ed. São Paulo: Editora Saraiva Educação, 2021, p. 41 - 42.︎

26. PINHEIRO, P P. Direito Digital. 7. ed. São Paulo: Editora Saraiva Educação, 2021, p. 41 - 42.︎

27. BRASIL, Lei n. 8078, de 11 de setembro de 1990. Dispõe sobre a proteção do consumidor e dá outras providências. TÍTULO III, CAPITULO I – Das disposições gerais. Disponível em: https://www.planalto.gov.br/ccivil_03/leis/l8078compilado.htm. Acesso em: 21 out. 2022.︎

28. MARCHISIO, E. Em apoio às regras de responsabilidade civil “sem culpa” para inteligência artificial, 25 nov. 2020. Disponível em: https://pubmed.ncbi.nlm.nih.gov/34693310. Acesso em: 17/10/2022.︎

29. BRASIL, Projeto de Lei n. 21 de 2020. Estabelece princípios, direitos e deveres para o uso de inteligência artificial no Brasil, e dá outras providências. Disponível em: https://www.camara.leg.br/proposicoesWeb/prop_mostrarintegra?codteor=1853928︎

---

The Civil Liability Of Artificial Intelligence In Consumer Relations

Abstract: These are contemporary aspects of the civil liability of artificial intelligence in consumer relations, conceptualizing artificial intelligence and its relationship with the Law, its influence on the consumer's life, civil liability for damages caused by the machine, the impact on the life of the developer, and the personification of artificial intelligence, as it is an issue on the agenda around the world, currently, with the last significant repercussion registered in Europe, where the European parliament discussed the possibility of attributing to artificial intelligence what called the "electronic personality". For that, a bibliographical and documental study was used, through the deductive method.

Keywords: Autonomous tools, artificial intelligence, machine liability.