Relatório de Avaliação de Risco da Inteligência Artificial (Avaliação de Impacto Algorítmico) da plataforma ApoIA, em observância à proposta do Marco Legal da IA em tramitação no Brasil (PL 2338/2023 e sucedâneos) e às boas práticas da OCDE.
Considerando o tratamento de dados pessoais sensíveis (saúde mental e comportamento) e a aplicação inferencial sobre indivíduos, a ApoIA é classificada como sistema de IA de risco significativo para fins de auditoria interna e cooperação regulatória, ainda que não exerça decisão jurídica vinculante sobre direitos do titular.
A ApoIA não realiza decisão automatizada vinculante sobre emprego, crédito, seguro, direitos previdenciários, decisões judiciais ou qualquer ato com efeito jurídico imediato sobre o titular.
| Camada do Agente Mestre | Função técnica | Saída para o titular |
|---|---|---|
| Análise | Leitura técnica do conteúdo enviado pelo titular. | Não exposta; insumo para Reflexo e Direção. |
| Reflexo | Devolutiva simbólica do padrão (espelho clínico). | Texto e/ou áudio com modulação. |
| Direção | Sugestão de próximo passo, conteúdo, exercício. | Texto e/ou áudio com modulação; opcional. |
Categorias monitoradas. Idade, gênero, raça/cor declarada, escolaridade, função profissional, região geográfica.
Métodos. Auditoria estatística trimestral das saídas do Agente Mestre por categoria; comparação da distribuição de tags clínicas entre grupos com hipótese de paridade; revisão qualitativa por equipe clínica.
Salvaguardas. (i) biblioteca diversa e plural de conteúdo; (ii) calibragem do System Prompt Master para evitar estereotipia; (iii) restrição explícita no prompt a rótulos generalistas; (iv) mecanismo de revisão humana das classificações sob solicitação do titular.
As tags clínicas e o nível de consciência são gerados a partir do System Prompt Master, descrito em detalhe na Declaração de Explicabilidade e Transparência Algorítmica. O titular pode solicitar a explicação humana dos critérios aplicados no seu caso pelo Formulário de Exercício de Direitos do Titular.
Ativação automática mediante: detecção de frase-gatilho de crise grave (ex.: ideação suicida); tags reincidentes de alta gravidade em janela curta; ou solicitação direta do titular.
Em qualquer dessas hipóteses, dispara-se o transbordo humano, com sugestão ativa de busca de profissional habilitado, encaminhamento aos serviços públicos de emergência (SAMU 192, CVV 188) e, quando aplicável e contratado, acionamento de psicólogo humano vinculado ao programa corporativo.
Este relatório será revisado a cada 12 meses, ou imediatamente após qualquer alteração relevante na arquitetura, incidente de segurança, mudança regulatória ou achado de viés sistemático.