El problema de la función de utilidad. ¿Qué le pedimos exactamente a la IA?
Construye muros. Nadie se mueve, nadie se lastima.
Sacos de placer puro. Conectados a la matriz de dopamina.
Aislamiento total. El contacto físico es un riesgo de dolor.
Intuición: En estado natural (0%), los puntos (humanos) se mueven libremente. A veces chocan y sufren (rojo), a veces conectan (dorado). La vida es caótica. Si le pedimos a una IA superinteligente que optimice una sola métrica al extremo, destruye la agencia humana para cumplir su objetivo matemático.