OpenAI anunció nuevas restricciones en ChatGPT para limitar la información sobre armas que reciben los usuarios menores de 18 años, incluso cuando las preguntas parecen inofensivas. La medida busca prevenir situaciones de violencia en el mundo real y comenzará a implementarse durante las próximas semanas, como parte de un paquete de nuevas medidas de seguridad.
La compañía también reforzará los controles para detectar conversaciones que puedan representar un riesgo. ChatGPT podrá finalizar automáticamente los chats en los que identifique una obsesión con la violencia o con la posibilidad de causar daños graves a otras personas. Si estas situaciones se repiten, OpenAI podrá suspender temporalmente las cuentas involucradas.
Qué información sobre armas dejará de ofrecer ChatGPT
Las nuevas restricciones alcanzarán a las consultas sobre armas y sistemas de seguridad que puedan utilizarse para facilitar actos violentos. De esta manera, la versión de ChatGPT destinada a adolescentes limitará el acceso a información práctica que pueda representar un riesgo, aunque no existan indicios de una intención violenta.
Hasta ahora, las políticas de OpenAI ya prohibían ayudar a cualquier usuario a planificar o ejecutar actos de violencia, además de restringir la asistencia a menores para conseguir armas. Con esta actualización, la empresa amplía las protecciones para incluir información que podría ser utilizada de manera indebida.
Sin embargo, los adolescentes podrán seguir utilizando ChatGPT para buscar apoyo, prevenir o reducir situaciones violentas y comunicarse con un adulto de confianza.
MÁS INFO
Cómo identificará ChatGPT a los usuarios menores de edad
OpenAI reforzó su sistema de predicción de edad, que analiza distintas señales, como los patrones de comportamiento, para estimar si una persona tiene menos de 18 años. Cuando el sistema identifica a un adolescente, lo traslada automáticamente a una experiencia con mayores protecciones.
En caso de que un usuario adulto sea clasificado por error como menor de edad, podrá verificar su identidad mediante Persona, el servicio asociado a OpenAI para la comprobación de edad. Una vez completado el procedimiento, podrá solicitar que se retiren las restricciones adicionales.
La compañía también trabaja en ampliar las notificaciones destinadas a los padres que vincularon sus cuentas con las de sus hijos. El objetivo es avisarles cuando una cuenta adolescente sea suspendida temporalmente por mantener conversaciones reiteradas sobre violencia.
ChatGPT también limitará las respuestas sobre ataques masivos
Las nuevas medidas no se limitarán a los menores. OpenAI anunció que ChatGPT reducirá la cantidad de detalles que ofrece sobre ataques masivos ocurridos en el pasado, independientemente de la edad del usuario.
Las restricciones incluirán información sobre las armas y los equipos utilizados, la manera en que fueron obtenidos y las comparaciones sobre la magnitud de los daños que puedan aumentar la notoriedad de los responsables.
Aun así, los usuarios podrán consultar sobre estos acontecimientos para comprender su impacto en las víctimas y las comunidades, identificar señales de alerta y aprender a prevenir futuros episodios de violencia.
OpenAI informó que realizó más de 200 denuncias a las autoridades durante el tercer trimestre de 2026 por amenazas inminentes de violencia. Además, anunció que publicará su primer informe de seguridad comunitaria a principios de 2027, con actualizaciones cada seis meses.