ChatGPT e a Constituição: quando a denúncia digital ameaça direitos fundamentais

Nova política da OpenAI: ChatGPT poderá "entregar usuários" à polícia em casos de ameaça

A recente decisão da OpenAI de monitorar conversas do ChatGPT e, em casos extremos, denunciar ameaças de violência à polícia, acendeu um intenso debate jurídico e ético sobre privacidade digital e segurança pública.

A decisão da OpenAI

Segundo a empresa, conversas contendo ameaças contra outras pessoas serão direcionadas a revisores humanos. Caso seja identificada uma iminência de dano físico grave, os diálogos poderão ser encaminhados às autoridades policiais.
Por outro lado, a OpenAI afirmou que não reportará casos de suicídio ou automutilação, por considerar que essas interações exigem privacidade reforçada.

O dilema jurídico

Essa medida expõe uma contradição: enquanto a OpenAI alega proteger a privacidade dos usuários em ações judiciais contra veículos de imprensa, como o The New York Times, adota uma postura ativa de cooperação com a polícia em cenários específicos.
A discussão coloca em pauta dois princípios centrais:

• Direito à privacidade: garantido em legislações como a GDPR europeia e a LGPD brasileira.

• Dever de prevenção: obrigação de evitar danos, em consonância com a doutrina da proteção à vida e à segurança coletiva.

Impactos no campo jurídico

Para a comunidade jurídica, a questão levanta dúvidas importantes:

• Até que ponto empresas de tecnologia podem agir como "agentes de denúncia" sem autorização judicial?

• Essa prática pode configurar quebra de sigilo ou estaria amparada pelo estado de necessidade e pelo dever de prevenção?

• O que acontecerá com essas informações se forem requisitadas em processos criminais ou civis?

O que está em jogo

O caso reflete um conflito estrutural do mundo digital:

• Proteção de dados e confiança do usuário versus cooperação compulsória com autoridades.

• Liberdade individual versus segurança coletiva.

A medida também evidencia um paradoxo: Sam Altman, CEO da OpenAI, já havia admitido que usar o ChatGPT como "terapeuta ou advogado" não garante sigilo equivalente a profissionais humanos. Isso reforça a importância de esclarecer os limites legais do uso de inteligência artificial em situações sensíveis.

Convite para o próximo artigo da TVForense.com:
No próximo artigo, vamos analisar se a denúncia de usuários por plataformas digitais pode se chocar com direitos constitucionais, como o sigilo das comunicações e a presunção de inocência.