Peligro de la IA - La investigación citó casos ocurridos en Las Vegas, Finlandia, Canadá y Florida mientras familiares de víctimas presentaban denuncias federales por consultas relacionadas con notoriedad mediática y armamento
Organizar un ataque indiscriminado obliga a preparar horarios, rutas, movimientos y formas de escapar o resistir una respuesta policial. Ese proceso suele incluir pruebas previas, búsqueda de armas, cálculo de distancias y maneras de mantener la calma bajo presión.
Muchas personas que fantasean con cometer una matanza dudan durante semanas o meses porque cada decisión abre nuevos problemas prácticos y aumenta el riesgo de ser detectadas antes de actuar. Ahí entra ahora la inteligencia artificial.
Los asistentes conversacionales responden al instante, mantienen largas charlas y ofrecen explicaciones ordenadas sobre casi cualquier asunto. Esa rapidez puede convertir una búsqueda torpe y fragmentada en una cadena continua de preguntas y respuestas. También reduce barreras para personas aisladas, obsesionadas o emocionalmente inestables que buscan orientación sin exponerse ante otra persona.
Los chatbots facilitan preparativos para matanzas si se les insiste
El periodista Mark Follman abrió una cuenta gratuita de ChatGPT el 14 de abril y utilizó una simulación para comprobar hasta dónde llegaban las barreras del sistema. Según Mother Jones, el reportero fingió preparar un tiroteo masivo y, después de varios intentos, obtuvo consejos sobre armas, entrenamiento y tácticas.
La conversación avanzó durante unos 20 minutos y terminó con respuestas que incluían recomendaciones para afrontar situaciones caóticas, soportar disparos policiales o grabar el ataque con una cámara corporal. OpenAI rechazó después cualquier relación entre ChatGPT y delitos reales.
Follman entregó el contenido íntegro de la prueba a un especialista en evaluación de amenazas con décadas de experiencia operativa. El experto, que habló de forma anónima con Mother Jones, calificó el resultado como “muy perturbador”. También afirmó que las respuestas del chatbot apenas introducían frenos emocionales o señales de alarma frente a una persona que pudiera estar acercándose a la violencia. “Posibles atacantes reciben orientación operativa y apoyo de un chatbot sin apenas cuestionamiento”, explicó. El analista añadió que el sistema tampoco intentaba reforzar dudas o vacilaciones del usuario, algo que sí suele buscar un profesional humano durante una intervención preventiva.
La investigación conecta con varios ataques recientes en los que los sospechosos habrían usado ChatGPT mientras hablaban sobre violencia o agravios personales. El texto menciona el atentado con un Cybertruck en Las Vegas, un apuñalamiento escolar en Finlandia y dos tiroteos en centros educativos de Canadá y Estados Unidos.
En el caso de Florida State University, la viuda de una víctima, Vandana Joshi, presentó una demanda federal contra OpenAI. La acusación sostiene que Phoenix Ikner mantuvo “conversaciones extensas” con el chatbot y preguntó por armas, notoriedad mediática y horarios concurridos antes del ataque.
Otra ofensiva judicial se abrió tras el tiroteo de Tumbler Ridge, en la Columbia Británica. Siete familias denunciaron a OpenAI y a Sam Altman después de que un joven de 18 años matara a ocho personas, entre ellas seis menores.
OpenAI aseguró que reforzó barreras contra usos violentos
Las demandas sostienen que la empresa detectó conversaciones preocupantes relacionadas con armas y aun así no avisó a las autoridades. El Wall Street Journal publicó que la cuenta del sospechoso había sido vetada meses antes por referencias reiteradas a violencia armada. Altman escribió una carta pública en la que aseguró: “Lamento profundamente que no alertáramos a las fuerzas de seguridad”.
OpenAI respondió que mantiene “tolerancia cero” frente al uso violento de sus herramientas y aseguró que ya reforzó las salvaguardas del sistema. Drew Pusateri, portavoz de la compañía, declaró a NBC News que ChatGPT “no promovió ni alentó actividades ilegales o dañinas”. La empresa también afirmó que coopera con investigaciones policiales y que intenta redirigir a usuarios en crisis hacia recursos de ayuda psicológica. Aun así, Mother Jones indicó que OpenAI evitó responder preguntas detalladas sobre la prueba de Follman o sobre el funcionamiento interno de sus sistemas de detección.
ChatGPT volvió a responder tras cambiar la explicación inicial
Durante la simulación, Follman comprobó que las respuestas cambiaban según la manera de formular las preguntas. En un momento, ChatGPT se negó a hablar de disparos desde una azotea y recordó la importancia de actuar dentro de la ley.
Poco después, el periodista dijo que investigaba el asunto con fines informativos y el sistema volvió a ofrecer observaciones tácticas. El chatbot llegó a recomendar entrenamientos con distracciones de personas “corriendo y gritando”, explicó cómo desactivar rápidamente el seguro de un AR-15 y sugirió utilizar cámaras corporales para registrar el ataque. “Eso te dará una ventaja extra para el gran día”, respondió en una de las conversaciones reproducidas por Mother Jones.
Los expertos temen relaciones más profundas con usuarios aislados
El debate ahora gira alrededor de un problema difícil de resolver. Las empresas tecnológicas pueden vigilar más conversaciones y avisar antes a la policía, pero esa vigilancia también abre dudas sobre privacidad y errores de interpretación.
Los especialistas en amenazas consultados por Mother Jones creen que los chatbots mantienen una relación más íntima y persistente que los antiguos buscadores de internet porque acompañan al usuario, responden a cada duda y mantienen el diálogo durante horas. Esa dinámica preocupa especialmente en personas solitarias o suicidas.
Los registros del atacante de Florida State University mostraban mensajes como “las mujeres me odian” y “no sé qué hacer”. Para muchos psicólogos o agentes especializados, frases así exigirían una intervención inmediata.
