Danilo Doneda se dedicava também ao tema da Inteligência Artificial e fazia parte da Comissão de Juristas responsável por subsidiar a elaboração de minuta de substitutivo para instruir a apreciação dos Projetos de Lei nºs 5.051, de 2019, 21, de 2020, e 872, de 2021, que têm como objetivo estabelecer princípios, regras, diretrizes e fundamentos para regular o desenvolvimento e a aplicação da inteligência artificial no Brasil – CJSUBIA.
Abaixo seguem notas esparsas sobre o tema que o jurista deixou como reflexão ou parte das propostas de textos ou artigos que pretendia escrever:
“A Inteligência Artificial é um tema autônomo porém, de certa forma, é um desmembramento do debate sobre proteção de dados pessoais.
O tema da Inteligência Artificial passa pelas redes neurais e o seu desenvolvimento é devido à disponibilidade de dados pessoais.
Considerar a ética na Inteligência Artificial para anteceder debates sobre problemas que não eram concretos a ponto de requerer intervenção regulatória, pensando na singularidade e controle.
Materialmente, há enorme sobreposição entre princípios éticos e propostas regulatórias por isso a dificuldade em fazer um corte material entre as disciplinas. O debate ético ANTECIPOU o debate regulatório. É preciso pensar qual o PAPEL DA ÉTICA em um contexto no qual a IA é regulada.
FLORIDI:
– Ética para suplementar a regulação
– Ética para antecipar tendências
Com a IA, os problemas começam a ser de MAIORES DIMENSÕES e exigir respostas rápidas. O momento é propício. Refletir sobre a IA “simular pensamento”.
Pesquisar a INSERÇÃO de IA na nossa vida e a demanda por
REGULAÇÃO de IA.
Os desafios são considerar os direitos fundamentais, o alto grau de tecnicidade e a necessidade de atualizar regras e princípios. A questão passa pela transparência e explicabilidade. A transparência é saber as regras de um algoritmo, saber como uma decisão foi tomada e ter supervisão humana ou participação. A demanda por regulação internacional observa os padrões éticos.
Estabelecer as ligações entre Inteligência Artificial e Proteção de dados. Nas leis de proteção de dados há quatro décadas nos preocupamos com dados e decisões. E a agora com a IA? Decisões automatizadas devem ser reguladas.
Com a LGPD conquista-se transparência, explicabilidade, intervenção humana (ideia da ‘desumanidade’) e QUALIDADE e PERTINÊNCIA dos dados utilizados. os RISCOS na IA são: discriminação e eliminação do elemento humano. Os ricos específicos são a demasiada ÊNFASE no aspecto QUANTITATIVO, o que incentivaria decisões automatizadas com MENOR SUPERVISÃO ou que humanos NÃO sejam MEROS AUXILIARES. Por isso a IA deve ser auxiliada e supervisionada. Este NÃO É um PROBLEMA PURAMENTE TÉCNICO. A questão é a exacerbação de desigualdades.
Um marco REGULATÓRIO da IA, em que a regulação da IA deve ter em conta:
– Seu papel INSTRUMENTAL e AUXILIAR
– principalmente em decisões ADMINISTRATIVAS
– Possibilidade de INTERVENÇÃO HUMANA
– Dosagem de RISCOS
A LGPD teve consequências diferentes:
– TRANSVERSAL
– Direito FUNDAMENTAL
– liberou um avanço que estava REPRESADO
LGPD fez com que diversas áreas e institutos do direito se voltassem ao problema da INFORMAÇÃO pela primeira vez de forma mais aplicada.
ÉTICA em IA
– soft law
– flexibilidade
– possibilidade de antever e considerar cenários futuros e ainda hipotéticos
– analisar e entender a tecnologia
Para chegar a conclusões MORALMENTE justificáveis
“ALGORITMOS ENVIESADOS E PRECONCEITUOSOS”
– já é um viés
– exemplos de algoritmos que procuram corrigir preconceitos humanos
– VIÉS (bias) – Reconhecimento Facial
– Policiamento preditvo
– Racismo
– Datasets
– RC
– carros autônomos
– poucas normas
– cláusulas gerais
Necessidade de recorrer a um leque mais amplo e mesmo criativo de instrumentos
– consideração do risco
– RC menos eficaz por vários motivos. Subjetividade. Caráter global da cadeia de responsáveis pela RC
MOMENTO:
– surgimento de aplicações de IA que começam a se inserir na nossa vida cotidiana
– MODELAR
– FORMAR
– nosso COMPORTAMENTO
Tecnologias:
– Corretor de texto
– Identificação – reconhecimento facial
– Previsão de comportamento
– Score de crédito
– Progressão de regime penal
DECISÕES são tomadas por AGENTES capazes de CONSIDERAR o AMBIENTE e procurar ATINGIR OBJETIVOS.
As PREMISSAS existem há DÉCADAS. Teve o GRANDE INVERNO da IA e novo alento nesta DÉCADA com a Grande CAPACIDADE COMPUTACIONAL.
Novas possibilidades
Grande VELOCIDADE de desenvolvimento graças a tecnologias de
– MACHINE LEARNING
– REDES NEURAIS
– Grandes PROMESSAS
– Grandes DESAFIOS e RISCOS
Função mais VITAL e ESTRATÉGICA
– RISCO clássico de perda da autonomia
– substituição do humano pela máquina
– subjetividade da máquina
– RISCOS “novos”
– Discriminação.
– Estratificação
– Bias
– Participação humana
– Homogeneização e padronização de comportamentos
Propostas regulatórias
1. Formulação de princípios. Desenvolvimento de Ética para IA
2. Com a sua consolidação,
– Instrumentos Regulatórios mais incisivos
– Riscos mais acentuados e atuais
– tanto em setores específicos (SAÚDE) como para implementações com maior potencial de risco (Reconhecimento Facial espaços públicos)
– Demanda pela elaboração de INSTRUMENTOS REGULATÓRIOS COMPREENSIVOS
– uma NOVA ETAPA na Consolidação de um Marco regulatório da informação
– parte da PD
– ex Decisões Automatizadas LGPD (20); RGPD (22)
– a IA vai ALÉM da Proteção de Dados Pessoais”