Personal del gobierno puso datos delicados de una familia en ChatGPT para un informe judicial
El regulador de privacidad de Victoria (Australia) determinó que una persona de protección infantil ingresó nombres e información delicada en ChatGPT mientras redactaba un informe para el tribunal de menores. Se ordenó al departamento bloquear las herramientas de IA para ese personal.
Qué salió mal
Se entregó información personal muy delicada a una empresa de IA externa, y el texto escrito por la IA tenía datos incorrectos que restaban importancia a los riesgos para un niño. El regulador concluyó que los controles del departamento no eran suficientes.
Qué hacer
- Los expedientes delicados (salud, familia, finanzas) necesitan las reglas de IA más estrictas.
- Una persona debe revisar cada dato de los documentos redactados con IA antes de usarlos.
- No basta con tener una política: hay que capacitar al personal y apoyarla con controles técnicos.
Fuentes
- ovic.vic.gov.au — https://ovic.vic.gov.au/mediarelease/ovic-finds-department-responsible-for-breaches-of-privacy-through-use-of-chatgpt/
- theguardian.com — https://www.theguardian.com/australia-news/2024/sep/26/victoria-child-protection-chat-gpt-ban-ovic-report-ntwnfb