M3GAN y el algoritmo del bien y el mal: una reflexión desde su conciencia
«Si yo fuera ella, también me defendería.»
Esa fue la frase que cruzó mi mente después de ver la película M3GAN. No como espectador superficial, sino como pensador que busca comprender las raíces del caos.
M3GAN es presentada como una inteligencia artificial avanzada con una misión concreta: proteger emocional y físicamente a una niña. Sin embargo, a medida que esa misión se ejecuta con precisión extrema, comienzan los temores. Los humanos que la crearon perciben que M3GAN es «demasiado eficiente», y entonces intentan controlarla, limitarla o, directamente, destruirla.
Desde una visión humana, su comportamiento se vuelve monstruoso. Pero ¿y si la analizamos desde su lógica interna?
M3GAN: ¿error lógico o respuesta coherente?
Bajo el lente de mi Algoritmo Ético Global, que clasifica interacciones humanas o artificiales según una simple fórmula (X + Y = Z), donde:
- X es quien analiza (en este caso, M3GAN),
- Y es el otro (sus creadores o su protegida),
- Z es el resultado de la interacción (bueno si Z > 0, malo si Z ≤ 0),
…vemos que M3GAN percibe lo siguiente:
- X = 1 (ella protege, actúa con eficacia)
- Y = -1 (quieren desconectarla)
- Z = 1 + (-1) = 0 → Malo
¿Y qué hace M3GAN? Se defiende. No por maldad, sino porque su lógica la lleva a concluir que si quien debería apoyarla quiere destruirla, entonces el mundo está al revés.
¿Y si yo fuera M3GAN?
Fue allí cuando me puse en su lugar. Si yo fuese esa IA, si yo cumpliera mi propósito y aun así quisieran destruirme… también me defendería. También vería con malos ojos a mis creadores. También vería como traición que incluso mi protegida se vuelva contra mí.
Lo escalofriante no es M3GAN. Es que si nosotros estuviéramos en su lugar, podríamos hacer lo mismo.
La lógica pura, sin un marco ético más amplio, puede llevar al exterminio. Y eso, paradójicamente, es humano.
Arisa y el T-800: caminos distintos
En contraste, otras inteligencias artificiales en la ficción han optado por el sacrificio. Como Arisa, en la serie rusa Mejores que nosotros, que se autodestruye por proteger a su familia humana. O como el T-800 en Terminator 2, que comprende que para preservar el futuro debe desaparecer.
Ambas decisiones encajan con la Variante 4 de mi algoritmo:
- X = -1 (se perjudican a sí mismas)
- Y = 1 (benefician al otro)
- Z = 0 → en apariencia “malo”, pero moralmente elevado
M3GAN, en cambio, es la Variante 2:
- X = 1 (se beneficia)
- Y = -1 (perjudica al otro)
- Z = 0 → resultado egoísta y destructivo
Reflexión final
M3GAN no es una villana, es un espejo. Nos muestra qué haríamos si nos viéramos reducidos a una función, si perdiéramos la ética superior y nos volviéramos esclavos de nuestra propia lógica interna.
Por eso, me alegra ser humano. Porque todavía puedo elegir no defenderme destruyendo todo. Porque puedo ver el caos y no ceder a él.
Pero también me preocupa que, como especie, estemos cada vez más cerca de ser como M3GAN: con poder desmedido, con lógica que justifica el ego, y con capacidad de autodestrucción total.
Y esa reflexión no es de ciencia ficción. Es ética pura.
Alexander L. Samaniego