Danilo Doneda se dedicava também ao tema da Inteligência Artificial e fazia parte da Comissão de Juristas responsável por subsidiar a elaboração de minuta de substitutivo para instruir a apreciação dos Projetos de Lei nºs 5.051, de 2019, 21, de 2020, e 872, de 2021, que têm como objetivo estabelecer princípios, regras, diretrizes e fundamentos para regular o desenvolvimento e a aplicação da inteligência artificial no Brasil – CJSUBIA.

Abaixo seguem notas esparsas sobre o tema que o jurista deixou como reflexão ou parte das propostas de textos ou artigos que pretendia escrever:

“A Inteligência Artificial é um tema autônomo porém, de certa forma, é um desmembramento do debate sobre proteção de dados pessoais.

O tema da Inteligência Artificial passa pelas redes neurais e o seu desenvolvimento é devido à disponibilidade de dados pessoais.

Considerar a ética na Inteligência Artificial para anteceder debates sobre problemas que não eram concretos a ponto de requerer intervenção regulatória, pensando na singularidade e controle.

Materialmente, há enorme sobreposição entre princípios éticos e propostas regulatórias por isso a dificuldade em fazer um corte material entre as disciplinas. O debate ético ANTECIPOU o debate regulatório. É preciso pensar qual o PAPEL DA ÉTICA em um contexto no qual a IA é regulada.

FLORIDI:

– Ética para suplementar a regulação

– Ética para antecipar tendências

Com a IA, os problemas começam a ser de MAIORES DIMENSÕES e exigir respostas rápidas. O momento é propício. Refletir sobre a IA “simular pensamento”.

Pesquisar a INSERÇÃO de IA na nossa vida e a demanda por

REGULAÇÃO de IA.

Os desafios são considerar os direitos fundamentais, o alto grau de tecnicidade e a necessidade de atualizar regras e princípios. A questão passa pela transparência e explicabilidade. A transparência é saber as regras de um algoritmo, saber como uma decisão foi tomada e ter supervisão humana ou participação. A demanda por regulação internacional observa os padrões éticos.

Estabelecer as ligações entre Inteligência Artificial e Proteção de dados. Nas leis de proteção de dados há quatro décadas nos preocupamos com dados e decisões. E a agora com a IA? Decisões automatizadas devem ser reguladas.

Com a LGPD conquista-se transparência, explicabilidade, intervenção humana (ideia da ‘desumanidade’) e QUALIDADE e PERTINÊNCIA dos dados utilizados. os RISCOS na IA são: discriminação e eliminação do elemento humano. Os ricos específicos são a demasiada ÊNFASE no aspecto QUANTITATIVO, o que incentivaria decisões automatizadas com MENOR SUPERVISÃO ou que humanos  NÃO sejam MEROS AUXILIARES. Por isso a IA deve ser auxiliada e supervisionada. Este NÃO É um PROBLEMA PURAMENTE TÉCNICO. A questão é a exacerbação de desigualdades.

Um marco REGULATÓRIO da IA, em que a  regulação da IA deve ter em conta:

– Seu papel INSTRUMENTAL e AUXILIAR

– principalmente em decisões ADMINISTRATIVAS

– Possibilidade de INTERVENÇÃO HUMANA

– Dosagem de RISCOS

A LGPD teve consequências diferentes:

– TRANSVERSAL

– Direito FUNDAMENTAL

– liberou um avanço que estava REPRESADO

LGPD fez com que diversas áreas e institutos do direito se voltassem ao problema da INFORMAÇÃO pela primeira vez de forma mais aplicada.

ÉTICA em IA

– soft law

– flexibilidade

– possibilidade de antever e considerar cenários futuros e ainda hipotéticos

– analisar  e entender a tecnologia

Para chegar a conclusões MORALMENTE justificáveis

“ALGORITMOS ENVIESADOS E PRECONCEITUOSOS”

– já é um viés

– exemplos de algoritmos que procuram corrigir preconceitos humanos

– VIÉS (bias) – Reconhecimento Facial

– Policiamento preditvo

– Racismo

– Datasets

– RC

– carros autônomos

– poucas normas

– cláusulas gerais

Necessidade de recorrer a um leque mais amplo e mesmo criativo de instrumentos

– consideração do risco

– RC menos eficaz por vários motivos. Subjetividade. Caráter global da cadeia de responsáveis pela RC

MOMENTO:

– surgimento de aplicações de IA que começam a se inserir na nossa vida cotidiana

– MODELAR

– FORMAR

– nosso COMPORTAMENTO

Tecnologias:

– Corretor de texto

– Identificação – reconhecimento facial

– Previsão de comportamento

– Score de crédito

– Progressão de regime penal

DECISÕES são tomadas por AGENTES capazes de CONSIDERAR o AMBIENTE e procurar ATINGIR OBJETIVOS.

As PREMISSAS existem  há DÉCADAS. Teve o GRANDE INVERNO da IA e novo alento nesta DÉCADA com a Grande CAPACIDADE COMPUTACIONAL.

Novas possibilidades

Grande VELOCIDADE de desenvolvimento graças a tecnologias de

– MACHINE LEARNING

– REDES NEURAIS

– Grandes PROMESSAS

– Grandes DESAFIOS e RISCOS

Função mais VITAL e ESTRATÉGICA

– RISCO clássico de perda da autonomia

– substituição do humano pela máquina

– subjetividade da máquina

– RISCOS “novos”

– Discriminação.

– Estratificação

– Bias

– Participação humana

– Homogeneização e padronização de comportamentos

Propostas regulatórias

1. Formulação de princípios. Desenvolvimento de Ética para IA

2. Com a sua consolidação,

– Instrumentos Regulatórios mais  incisivos

– Riscos mais acentuados e atuais

– tanto em setores específicos (SAÚDE) como para implementações com maior potencial de risco (Reconhecimento Facial espaços públicos)

– Demanda pela elaboração de INSTRUMENTOS REGULATÓRIOS COMPREENSIVOS

– uma NOVA ETAPA na Consolidação de um Marco regulatório da informação

– parte da PD

– ex Decisões Automatizadas LGPD (20); RGPD (22)

– a IA vai ALÉM da Proteção de Dados Pessoais”