Sabemos que existimos porque nuestros sentimientos nos lo recuerdan a cada momento. Sin cuerpo no hay sentimientos, por eso una IA difícilmente puede ser consciente.
Publicidad
Dice el neurocientífico António Damásio (Lisboa, 1944) que la diferencia entre percibir dolor y percibir una nube en el cielo no es precisamente sutil. El cerebro no puede dialogar con una nube. Pero la herida sí puede hablar con el cerebro repetidamente (dolor mediante), esperando una respuesta. ¿El día que las inteligencias artificiales puedan hablar con las propias heridas en su código, podremos darnos por fastidiados los humanos?
Damásio responde tranquilo a Newtral.es en su visita a Madrid, presentando Inteligencia Natural y la lógica de la consciencia (Destino, 2025). “Mira a tu alrededor, los humanos vivimos insertos en una sociedad (bulliciosa en medio de esta entrevista). Las IA no están insertadas en la sociedad ni en la cultura, son su producto. No son individuos. Nosotros sí lo somos: tenemos vida, riesgo de enfermedad y muerte”. La vulnerabilidad es uno de los ingredientes de la consciencia. Nuestro cuerpo y su madeja nerviosa, su mensajera.
Durante décadas, el cerebro y la razón han estado en el centro de la idea de consciencia. Quizás por eso, la aparición de redes neuronales artificiales, capaces de aprender automáticamente a imitación de nuestra sesera, nos han dibujado futuros de máquinas conscientes, espejos negros que reflejan temores tan antiguos como literarios. Pero resulta que no.
Damásio, director del Instituto del Cerebro y la Creatividad en la USC, pide volver a los sentimientos como eje de la consciencia… y de la felicidad. Cerebro y cuerpo no pueden ir por libre, sostuvo en su anterior libro. La separación cartesiana de víscera y pensamiento muere definitivamente en su última obra, a modo de recado a las máquinas.
- PREGUNTA. Ni mente ni alma pueden ir por libre. Este libro no le va a gustar a Descartes; ni a Dios. ¿Por qué no terminamos de matar nunca esa dualidad?
- RESPUESTA. Bueno, ya había un buen grupo de científicos preocupados por que la dualidad no fuera la expresión de lo que realmente sucede en nuestra vida y en nuestro ser. Pero creo que la idea de que hay un proceso mental separado del cuerpo ha perdido atractivo. Tenemos cuerpo y mente unidos; y nada expresa mejor esa idea que la aparición de la consciencia. La consciencia es un gran ejemplo de algo que se produce a partir de la combinación del cuerpo y del sistema nervioso, y que realmente lo integra todo en un principio común.
- P. Usted también ha dicho que somos como “marionetas manejadas por el dolor”. Esto sí le va a gustar a Schopenhauer.
- R. Esto es importante [ríe]. El dolor es un sentimiento fundamental para la consciencia porque es un buen ejemplo de cómo los sentimientos homeostáticos (calor, picor, placer, taquicardia, etc.) funcionan como alertas, como centinelas de algo que va bien o no tan bien. Así que, cuando tienes dolor, tienes una señal muy fuerte de que algo va mal en tu organismo y de que debe hacerse algo al respecto o te arriesgas a perder la vida.
- P. ¿Ser seres conscientes nos convierte en seres dolientes? ¿Le debemos la vida al dolor?
- R. Todos los sentimientos son centrales para vivir. Primero, porque son sentimientos conscientes desde el principio. Si no fueran espontáneamente conscientes, no los conoceríamos. El conocimiento de nuestros sentimientos depende por completo del proceso de consciencia. Y es anterior a la razón.
Lo segundo que importa es que esos sentimientos homeostáticos pueden ser negativos, pero también positivos, placenteros. Te dicen cuando está todo bien. Y te dan la posibilidad de explorar el mundo en tu beneficio. - P. O reproducirte.
- R. Exacto. Aunque suene metafórico, es totalmente cierto.
- P. Planteémoslo en sentido contrario: cuando alguien ataca nuestras creencias más sólidas, ¿está también atacando físicamente a nuestro sistema nervioso, de algún modo?
- R. Si atacas mis creencias y yo sufro con ese ataque, estás produciendo un daño. Ese daño se traducirá en sufrimiento. Y muchos malos sentimientos terminarán perjudicando a mis órganos.
- P. ¿Puede haber razón sin vísceras?
- R. Esto es interesante. Creo que puede haber situaciones en las que la razón actúa casi sola, sin sentimiento. Pero en la mayoría de los casos, la razón opera sobre un sentimiento.
- P. ¿Esto es lo que recoge la expresión “gut feeling” de los anglosajones, “lo que nos sale de las entrañas”?
- R. Las sensaciones viscerales son, con más frecuencia, negativas. Como presagios. Pero es fascinante que como seres humanos hayamos descubierto que el intestino literalmente [la microbiota] proporciona información importante [al cerebro]. La gente no debería ignorar esas sensaciones viscerales. Al contrario. “Pensar con las tripas”. Me parece una buena forma de explicar de qué estamos hablando.
- P. Las máquinas no tienen tripas, aunque las IA sí tienen un código fuente, de algún modo, su lenguaje. ¿Cómo de ligados están lenguaje, inteligencia y consciencia?
- R. Literalmente, el lenguaje es el ejemplo máximo de cómo traducir nuestros pensamientos, que originalmente no están formulados en palabras. Los grandes modelos de lenguaje, como ChatGPT o Claude, usan el lenguaje. Y el lenguaje es una forma de expresar la inteligencia, sí. Pero lenguaje no es lo mismo que inteligencia.
Sabemos que existimos porque nuestros sentimientos nos lo recuerdan a cada momento, señala Damásio. Hasta en sueños hay cierta consciencia, sólo interrumpida ante una anestesia general. Esta privación clínica de la consciencia es, quizás, el (no) sentimiento más cercano a estar muertos. “Nuestra biología, cuanto más compleja se vuelve, más nos ayuda a evitar la muerte y prolongar la vida”, gracias a la consciencia. No hay organismo artificial que pueda competir con eso. Un sistema que no sufre ni muere no tiene razones para sentirse vivo.
En tiempos de IA, Damásio reivindica la inteligencia natural (IN) como madre de toda inteligencia. “Las posibilidades de que una IA desarrolle algo semejante a la consciencia humana son muy pequeñas. Puede desarrollar algún tipo de consciencia, entre comillas, pero no sería como la nuestra al carecer de cuerpo”, además de esa ausencia de cultura social y de la sensación tan humana de vivir al filo de la navaja, sentenciados a muerte desde nuestro nacimiento. Sin sentimientos no hay consciencia.
“Modelos como ChatGPT o Claude usan el lenguaje, que es una forma de expresar la inteligencia, sí. Pero lenguaje no es lo mismo que inteligencia“.
Damásio está más preocupado por otro efecto de la IA y de otras tecnologías digitales: son devoradoras de nuestro tiempo y de nuestra atención (¿de nuestro cerebro?). “Apoyo los desarrollos de inteligencia artificial, nos ayudan”, no lo duda. Pero está en juego “nuestra felicidad, que depende de mirar al otro y sentir curiosidad”. Sentir. Porque la consciencia –que a veces confundimos con inteligencia, pero no– nace de esa madeja de sentimientos que emergen de cada recóndita víscera de nuestro organismo, además de la información de los sentidos, como esa nube en el cielo. “La consciencia es un mecanismo de alerta” y no es exclusivamente humano.
- P. Por la misma razón, ¿resultaría inútil para tener una consciencia prolongada descargar nuestra mente en una especie de disco duro que acoplar a una máquina? ¿O, incluso, un trasplante de cerebro?
- R. Sabemos que un cerebro aislado no es una posibilidad real a nivel quirúrgico. Así que estamos ante un experimento mental. Trasplantar la corteza cerebral, por ejemplo, te daría acceso al pensamiento, te permitiría algún tipo de mente perceptiva —ver, oír, tocar— pero no te daría toda la información procedente del cuerpo vivo. El trasplante de cerebro sería de muy poca utilidad si no recibiera toda la información procedente de todas las partes del cuerpo. Lo que resulta crucial en términos de sentimientos no lo crea la corteza (cuyas neuronas funcionan de manera un tanto digital), lo crea otra parte del sistema nervioso extendida por todo el cuerpo, que es más primitiva y que opera de un modo mucho más analógico.
P. Entonces, ¿habría que poner un cuerpo completo a una máquina para que la IA fuera realmente consciente?
R. A los sistemas artificiales les falta la vida desde el principio. No pueden sufrir. Pueden ser dañados, claro, si rompes un ordenador con un martillo. Pero ese sistema no va a sufrir por esa destrucción. No hay sufrimiento ahí. No hay consciencia.
Imagen: Ximo Ferrández, J.A. Trinidad | Sonido: Alfre Camarote | Edición: M.V.
Proyecto ALIEN o cómo estudiar la lengua secreta que usan las máquinas cuando se las deja a solas
Se podría añadir también que los seres vivos estamos formados por miles de millones de células que están vivas, que necesitan alimento, que se comunican con las demás, que nos envían señales de dolor y de placer. Somos un macroorganismo con muchas células diferentes, especializadas, así como de bacterias, que también participan en nuestro funcionamiento interno. Una máquina está compuesta por materiales sin vida, que funcionan mediante mecanismos accionados por personas, como puede ser un coche o una lavadora. Se pueden añadir muchos más mecanismos para que den sensación externa de que están vivos, pero son como una planta de plástico muy realista. Una IA es un generador de texto, un programa, un mecanismo automático que recibe un input y devuelve un output, un engranaje de relojero, pero eléctrico en lugar de usar piezas mecánicas.