La polémica política de uso de IA en seguridad
OpenAI ha actualizado sus políticas de uso para limitar el uso de GPT-4o en actividades de seguridad ofensiva sin autorización del propietario del sistema objetivo. Los cambios afectan principalmente a:
- Generación de exploits funcionales sin contexto de investigación
- Creación de malware operativo
- Automatización de campañas de phishing masivo
Reacción de la comunidad
La comunidad de ciberseguridad está dividida. Los defensores de las nuevas políticas argumentan que reducen el riesgo de uso malicioso. Los críticos señalan que las restricciones también impactan el trabajo legítimo de red teamers y analistas de threat intelligence.
El auge de los modelos locales
El debate ha impulsado el interés en modelos open source ejecutables localmente como Llama 3, Mistral y Qwen. Herramientas como Ollama permiten correrlos sin restricciones de política externa, aunque con capacidades generalmente inferiores en tareas complejas.