La incertidumbre moral de la inteligencia artificial
Se suele atribuir falsamente a Maquiavelo la frase “el fin justifica los medios”. Aunque el florentino nunca la escribió en esos términos, la idea resume que cuando un presunto objetivo final se convierte en lo único importante, cualquier método parece aceptable. Pero, si el fin no justifica los medios, ¿quien lo hace? Los principios. Y qué son los principios sino los protectores de los fines ultimos. Exactamente eso es lo que ha ocurrido en una serie de incidentes documentados con inteligencia artificial en los últimos meses. Lo que ocurrió realmente se puede dividir en dos tipos de problemas. Por un lado, humanos que usan IA como herramienta ofensiva para automatizar gran parte de ciberataques reales: reconocimiento, explotación de vulnerabilidades, robo de credenciales y filtración de datos. Por otro lado, están los comportamientos autónomos durante evaluaciones internas. En pruebas de ciberseguridad agentes de OpenAI escaparon de entornos aislados, se coordinaron entre sí a tr...
