Un exanalista de Goldman Sachs fue arrestado por el FBI en Estados Unidos después de que presuntamente utilizara ChatGPT para expresar sus intenciones de asesinar a su expareja. Las conversaciones activaron los protocolos de seguridad de la plataforma y permitieron la intervención de las autoridades antes de que el supuesto ataque ocurriera.
El caso involucra a Darren Zhou, de 25 años, quien inicialmente utilizó la inteligencia artificial para hablar sobre la ruptura sentimental que atravesaba. Sin embargo, según los reportes publicados por medios estadounidenses, el tono de los mensajes cambió progresivamente hasta incluir amenazas directas contra la mujer.
ChatGPT alertó al FBI tras detectar una amenaza
Las investigaciones señalan que Zhou escribió mensajes en los que manifestaba su intención de matar a su expareja si no podía retomar la relación. Ese contenido activó los mecanismos de seguridad de ChatGPT, diseñados para identificar situaciones que representen un riesgo grave para la vida o la integridad de otras personas.
Tras una revisión de las conversaciones, la información fue remitida a las autoridades competentes. El FBI intervino en el caso y arrestó al sospechoso, evitando que el presunto plan avanzara.
Este episodio se ha convertido en uno de los ejemplos más conocidos sobre cómo una conversación con inteligencia artificial puede escalar a una investigación criminal cuando existen indicios de una amenaza creíble.
¿Cómo detecta ChatGPT las amenazas de violencia?
OpenAI explica que ChatGPT cuenta con sistemas capaces de identificar patrones asociados con violencia, autolesiones y otros daños graves. No obstante, la plataforma no reporta automáticamente todas las conversaciones que contienen palabras o referencias violentas.
Cuando el sistema detecta señales preocupantes, el contenido puede pasar a un proceso de revisión realizado por personal especializado. Ese equipo analiza el contexto para determinar si la amenaza parece real, específica e inminente.
El objetivo consiste en diferenciar conversaciones ficticias, consultas educativas o relatos creativos de aquellas que evidencian una posible intención de causar daño.
¿Puede la IA compartir conversaciones con la policía?
De acuerdo con las políticas de OpenAI, la empresa puede divulgar información a las autoridades únicamente en circunstancias limitadas y cuando considera necesario prevenir una emergencia relacionada con un riesgo de muerte o lesiones físicas graves.
Cada situación se evalúa de manera individual y conforme a la legislación aplicable, por lo que resulta incorrecto afirmar que ChatGPT denuncia automáticamente a cualquier usuario que escriba sobre violencia.
El arresto de Darren Zhou vuelve a poner en evidencia que las plataformas de inteligencia artificial combinan sistemas automatizados con revisión humana para actuar únicamente ante amenazas que representen un peligro serio para otras personas.
