Arrestan a un agricultor brasileño tras amenazar a su hijo en ChatGPT
La situación es alarmante y resalta un desafío creciente para las autoridades, la justicia y las plataformas de inteligencia artificial: ¿cómo actuar cuando un chatbot identifica una amenaza antes de que un crimen se consuma?
Un agricultor, cuyo nombre no ha sido revelado para proteger la identidad de su hijo, fue arrestado en São Gabriel da Palha el 19 de junio. Su detención ocurrió tras una denuncia de OpenAI al FBI sobre sus inquietantes mensajes, que luego fueron compartidos con las autoridades brasileñas.
De acuerdo con el jefe de la comisaría de delitos cibernéticos de Espírito Santo, Brenno Andrade, se priorizó el caso por la gravedad del mismo y porque se temía que el padre planeaba un ataque contra su hijo para el 20 de junio. Los investigadores encontraron, además, sustancias no identificadas y una cuerda en su propiedad, sugiriendo intenciones autolesivas.
El hombre había estado en contacto con ChatGPT durante casi dos meses, donde reveló deseos de causar daño a su hijo, otros individuos e incluso planeaba suicidarse. En sus mensajes, mencionaba la posibilidad de atacar lugares como escuelas y agentes de policía, expresando ideas perturbadoras sobre hacerse famoso a través de la violencia.
Después de un periodo de 54 días en custodia, fue liberado el 13 de agosto por retrasos en la investigación, aunque la policía continúa su trabajo y no se han presentado cargos formales. Actualmente, se le impone vigilancia electrónica y se le prohíbe cualquier contacto con su hijo y la madre del mismo.
Este caso es uno de los pocos en que un usuario es denunciado por un sistema de inteligencia artificial. Hasta ahora, la jurisprudencia brasileña indica que un delito se considera consumado solo durante la ejecución, lo que complica la situación legal del agricultor, ya que su defensa argumenta que no hubo acción concreta para llevar a cabo sus amenazas.
Las implicaciones de este suceso van más allá del caso individual. Expertos en derecho digital advierten sobre el potencial abuso de investigaciones basadas en evaluaciones de IA, sugiriendo que se deben establecer límites claros para diferenciar entre amenazas auténticas y expresiones de frustración o provocaciones en línea.
Por último, este evento refleja un cambio en el uso de la inteligencia artificial, que pasa a ser un sistema interactivo capaz de identificar comportamientos peligrosos. Sin embargo, se hace un llamado a actuar con prudencia, para evitar tanto la omisión ante amenazas reales como la vigilancia excesiva sobre las personas.
