Título do projeto: Guardrails e Policy Agents para LLMs em Saúde Mental: Detecção de Jailbreak e Gestão de Risco Clínico

Nível: Mestrado

Breve descrição: Este trabalho propõe uma arquitetura de guardrails e policy agents para chatbots de saúde mental baseados em LLMs. O sistema combina classificação de risco clínico, detecção de jailbreak e uma máquina de estados para gerenciar transições entre níveis de intervenção, de suporte geral a protocolo de crise, garantindo respostas seguras e eticamente alinhadas a usuários em situação de vulnerabilidade. 

Orientador: Profa. Dra. Helena de Medeiros Caseli