Acessibilidade
Inteligência Artificial - TJAC
Classificação de Risco
Solução IA | Funcionalidade Principal | Classificação | Justificativa resumida |
|---|---|---|---|
ADA — Assistente Digital Ampliada | IA generativa destinada a auxiliar magistrados e assessores na análise, organização e sumarização de documentos processuais, transcrição de audiências, aprimoramento textual e elaboração de textos/minutas de apoio à atividade jurisdicional, sempre sujeitos à revisão humana. | À definir | À definir |
Sistema Humanize IA | Auxilia magistrados na localização de precedentes, decisões e opiniões consultivas da Corte Interamericana de Direitos Humanos, apresentando resultados e grau de pertinência para casos submetidos à apreciação judicial. | À definir | À definir |
Berna | Analisa petições e documentos processuais utilizando processamento de linguagem natural para identificar similaridade e agrupar processos relacionados, auxiliando na detecção de demandas repetitivas ou potencial litigância abusiva. | À definir | À definir |
Gemini | Assistente de IA generativa integrado ao ambiente institucional Google Workspace, apoiando atividades em Gmail, Docs, Planilhas, Meet e Drive, incluindo produção, organização, resumo e aprimoramento de conteúdos e apoio a tarefas administrativas. | À definir | À definir |
ChatBot — Multi Canal | Assistente de IA generativa integrado ao ambiente institucional Google Workspace, apoiando atividades em Gmail, Docs, Planilhas, Meet e Drive, incluindo produção, organização, resumo e aprimoramento de conteúdos e apoio a tarefas administrativas. | À definir | À definir |
Matriz de Riscos e Ações de Mitigação
Risco Específico da Solução | Descrição do Risco | Impacto | Probabilidade | Nível de Risco | Ações Implementadas / Medidas de Mitigação em Curso |
|---|---|---|---|---|---|
ADA — Conteúdo
juridicamente incorreto
ou impreciso
(alucinação) | Respostas com erro
factual, interpretação
equivocada da norma
ou aplicação incorreta
de jurisprudência
quando não ancoradas
na base de
conhecimento oficial. | À definir | À definir | À definir | Validação humana
obrigatória; ancoragem RAG
em base oficial; engenharia
de prompt; testes de
acurácia e feedback
contínuo. |
ADA — Excesso de
confiança do usuário
(automation bias) | Confiança excessiva
nas sugestões, com
redução do rigor da
revisão crítica dos atos
gerados. | À definir | À definir | À definir | Capacitação continuada
reforçando a
responsabilidade humana;
alertas na interface;
auditorias amostrais dos
resultados. |
ADA — Introdução ou
amplificação de vieses | Reprodução ou
amplificação de vieses
do modelo ou dos
dados, afetando a
imparcialidade das
análises. | À definir | À definir | À definir | Curadoria de prompts;
avaliação de vieses
incorporada à AIA; revisão
multidisciplinar;
monitoramento contínuo. |
ADA — Baixa
explicabilidade (caixa-
preta) | Dificuldade de
rastreamento do
raciocínio algorítmico,
limitando a
auditabilidade do
resultado. | À definir | À definir | À definir | Uso de RAG para maior
rastreabilidade;
documentação de prompts;
logs e registros de uso para
auditoria posterior. |
ChatBot — Resposta
fora do escopo ou
informação incorreta ao
cidadão | Fornecimento de
informação equivocada
ou tentativa de desvio
de finalidade na
interação. | À definir | À definir | À definir | Prompt de sistema restritivo;
ancoragem em bases
oficiais; encaminhamento a
atendente humano;
monitoramento e ajuste
contínuo. |
ChatBot — Exposição
de dados pessoais
(LGPD) | Tratamento indevido de
dados pessoais no
curso do atendimento. | À definir | À definir | À definir | Restrição de escopo sem
acesso a dados processuais
sensíveis; minimização de
dados; registros e
observabilidade (Graylog). |
HUMANIZE IA —
Recuperação de
precedente não
aderente | Priorização de resultado
menos aderente ao
contexto pretendido,
embora o conteúdo
retornado seja o texto
integral da fonte. | À definir | À definir | À definir | Exibição integral das fontes
para validação humana;
refinamento de filtros e
termos de busca; revisão
contínua com feedback. |
HUMANIZE IA — Viés
na seleção de
precedentes | Seleção que reforce
determinada linha
jurisprudencial em
detrimento de outras
pertinentes. | À definir | À definir | À definir | Curadoria e transparência
das fontes; validação
humana; monitoramento
contínuo dos resultados. |