Una propuesta para abordar la conciencia, la identidad personal y la inteligencia artificial en 1.º de Bachillerato
¿Qué nos hace ser quienes somos?
¿Somos nuestro cerebro? ¿Somos nuestro cuerpo? ¿Somos aquello que pensamos, sentimos y recordamos? ¿En qué consiste eso que llamamos conciencia y que nos permite reconocernos como sujetos de nuestras propias experiencias?
Son preguntas que acompañan a la filosofía desde sus orígenes y que adquieren una particular relevancia durante la adolescencia. En una etapa en la que los alumnos comienzan a construir una imagen más consciente de sí mismos, a cuestionar las expectativas que reciben de su entorno y a proyectar su futuro, interrogarse sobre la propia identidad no es un ejercicio abstracto. Son cuestiones que todos se plantean a su manera y que tienen que ver con su experiencia de la libertad, los mecanismos que rigen su voluntad, el control sobre sus actos y la responsabilidad que asumen por ellos, así como con su individualidad y el sentido que dan, o quieren encontrar, a su propia existencia. Cuando nuestros alumnos cursan 1.º de Bachillerato, probablemente ya se han planteado, de un modo u otro, algunas de las cuestiones clave que laten en este apartado del currículo de la asignatura: ¿Hasta qué punto somos dueños de nuestras decisiones? ¿Qué parte de lo que somos depende de nuestra biología, de nuestra educación o de las circunstancias en las que vivimos? ¿Podríamos ser de otra manera? ¿Qué significa realmente ser uno mismo?
La filosofía de la mente ofrece un marco privilegiado para abordar estos interrogantes de un modo riguroso y proporcionar al alumnado herramientas para una reflexión fecunda. En las conversaciones cotidianas, es frecuente que la reflexión sobre estos temas conduzca a callejones de difícil salida: discusiones improvisadas sobre la independencia de la mente respecto al cerebro; la suposición de un yo que observa una actividad mental que transcurre al margen de él; la contraposición tajante entre determinismo y libertad; o las analogías entre máquinas y seres humanos, que unas veces se utilizan como prueba de subjetividad en las primeras y otras como demostración de que los segundos no somos más que mecanismos. Tradicionalmente, la filosofía y la ciencia han tratado de esclarecer la naturaleza de los estados mentales y su relación con el organismo físico: cómo se relacionan el pensamiento y el cerebro, de dónde proceden las emociones, qué significa tener una experiencia consciente o cómo es posible que procesos materiales den lugar a una vida subjetiva.
Los avances de la biología y la neurociencia, así como el conocimiento cada vez mayor de los mecanismos neuronales, han abierto nuevos campos de debate al permitirnos comprender mejor la relación entre los procesos cerebrales y nuestras capacidades cognitivas, emocionales y perceptivas. Al mismo tiempo, el desarrollo de la informática, la robótica y, más recientemente, la vertiginosa expansión de la inteligencia artificial, nos enfrenta a una posibilidad que hasta hace poco pertenecía principalmente al terreno de la especulación y la ciencia ficción: la construcción de sistemas artificiales capaces de reproducir algunas de las funciones que tradicionalmente habíamos considerado propias de la mente humana. De este modo, la cuestión ya no consiste solamente en preguntarnos cómo funciona nuestra mente, sino también en determinar qué propiedades la caracterizan y si algunas de ellas podrían darse en sistemas no biológicos.
Hace cuatro siglos, René Descartes estableció una distinción radical entre la sustancia pensante (res cogitans) y la sustancia extensa (res extensa), situando en el centro del debate filosófico la relación entre lo mental y lo corpóreo. La capacidad de pensar y razonar, así como la experiencia consciente, correspondían al alma racional, que consideraba exclusiva del ser humano. Los animales, en cambio, eran interpretados como organismos cuyo comportamiento podía explicarse mediante mecanismos materiales, sin necesidad de atribuirles una mente o una conciencia semejantes a las humanas. La distinción entre el ser humano y el resto de los seres vivos encontraba así uno de sus fundamentos en la naturaleza del pensamiento.
Esta concepción se inscribe en una tradición filosófica y religiosa en la que la dimensión espiritual del ser humano se ha asociado con frecuencia a sus facultades intelectuales y racionales, y se ha contrapuesto a su naturaleza corpórea. Aunque el problema de la espiritualidad y la trascendencia tiene un recorrido propio y, en este caso, puede complicar el análisis, conviene tener presente su influencia en la visión histórica de la mente humana y de su especificidad: tradicionalmente, frente al resto de los seres vivos; hoy también, frente a los sistemas artificiales inteligentes. Es posible que algunos presupuestos vinculados a esa tradición condicionen las discusiones en clase, por ejemplo, cuando se aborda la oposición entre monismo y dualismo.
Hoy, el desarrollo de las ciencias cognitivas y de la inteligencia artificial obliga a revisar algunas de las fronteras que se han establecido entre lo material y lo mental. Si determinados procesos cognitivos pueden explicarse mediante mecanismos físicos y si una máquina puede reproducir funciones que asociamos al razonamiento, la memoria, el aprendizaje o la resolución de problemas, ¿qué es exactamente aquello que nos distingue? ¿Basta con reproducir las funciones de una mente para tener una mente? ¿Es posible pensar sin experimentar el pensamiento? ¿Puede existir inteligencia sin conciencia?
No se trata de dar por supuesto que las máquinas piensan o sienten como nosotros. Tampoco de considerar que la inteligencia humana pueda reducirse a un conjunto de operaciones computacionales. Se trata, más bien, de aprovechar el desafío que plantea la inteligencia artificial para revisar nuestros propios conceptos de pensamiento, conciencia, libertad e identidad. Podemos desarrollar el tema siguiendo el siguiente orden conceptual:
Una primera cuestión consiste en distinguir entre la capacidad de realizar operaciones inteligentes y la existencia de una experiencia mental propia. Un programa informático puede resolver problemas matemáticos, reconocer imágenes, traducir textos o mantener una conversación. Los actuales modelos de lenguaje, además, pueden elaborar argumentos, resumir información, producir textos y responder a preguntas complejas. Sin embargo, ¿significa esto que comprenden lo que dicen? ¿Existe detrás de sus respuestas una experiencia subjetiva o estamos ante un sistema que procesa información y produce resultados sin experimentar nada? La pregunta nos conduce a uno de los grandes debates de la filosofía contemporánea: la relación entre el funcionamiento de un sistema y la existencia de estados mentales.
► Algunas corrientes significativas
- El conductismo: ¿podemos explicar la mente desde la conducta?
El conductismo, especialmente en sus formulaciones metodológicas y psicológicas más estrictas, propone estudiar la conducta observable y explicar el comportamiento atendiendo a las relaciones entre estímulos, respuestas, aprendizaje y condiciones ambientales. Desde esta perspectiva, la psicología debe evitar recurrir a supuestos estados mentales internos como explicaciones que no puedan someterse a una investigación objetiva. No todas las versiones del conductismo sostienen exactamente lo mismo: mientras que el conductismo metodológico deja fuera de su objeto de estudio los estados mentales privados, el conductismo filosófico o lógico analiza los conceptos mentales en términos de disposiciones o tendencias a comportarse de determinadas maneras.
Así, desde una perspectiva conductista, hablar de una persona que tiene miedo puede llevarnos a describir cómo reacciona ante determinadas situaciones, qué evita o qué comportamientos manifiesta. El interés se centra en las condiciones y regularidades de su conducta, no en explicar sus actos a partir de una supuesta experiencia interna a la que solo tendríamos acceso mediante la introspección.
El estudio de esta corriente psicológica nos ofrece la oportunidad de ejemplificar una forma de aproximarse al comportamiento humano que no concede a los procesos subjetivos el protagonismo explicativo habitual. También permite introducir una comparación entre el comportamiento humano y el de las máquinas sin tener que atribuir de entrada a estas últimas una vida mental semejante a la nuestra.
- El funcionalismo: la mente como organización de funciones
A diferencia del conductismo metodológico, el funcionalismo no deja de lado los estados mentales internos, sino que intenta explicar qué son atendiendo al papel causal que desempeñan dentro de un sistema. No se conforma con describir y explicar regularidades de la conducta observable: considera también las relaciones que se establecen entre los estímulos, los distintos estados internos y las respuestas o conductas. La diferencia es importante, porque dos sistemas podrían presentar una misma respuesta externa sin que eso bastara para demostrar que comparten los mismos estados mentales o la misma organización interna.
El funcionalismo sostiene que los estados mentales no deben identificarse necesariamente con un determinado material o estructura biológica, sino con el papel que desempeñan dentro de un sistema. Por ejemplo, el dolor puede entenderse como un estado que se produce ante determinados estímulos, interviene en otros procesos mentales, genera una disposición a evitar aquello que lo provoca y condiciona nuestra conducta. Desde esta perspectiva, lo importante no sería que el dolor se produjera exactamente mediante las mismas estructuras neuronales en todos los seres, sino que existiera una organización causal capaz de desempeñar las funciones correspondientes. Esta posición permite plantear que una mente no tendría que estar necesariamente constituida por neuronas. Si un sistema artificial reprodujera la organización funcional pertinente, podría, en principio, desarrollar estados mentales.
Una de las ideas fundamentales asociadas al funcionalismo es la realizabilidad múltiple: un mismo tipo de estado mental podría realizarse mediante soportes físicos diferentes. No sería imprescindible que toda mente tuviera un cerebro biológico. Esta posibilidad abre un interrogante decisivo para la inteligencia artificial: si una máquina llegara a reproducir la organización funcional de una mente, ¿tendríamos que reconocerle también la posibilidad de pensar y experimentar?
Imaginemos, por ejemplo, que una persona retira la mano al tocar una superficie caliente y que un dispositivo robótico realiza exactamente el mismo movimiento al detectar una temperatura elevada. Ambos sistemas presentan una respuesta semejante, pero no podemos concluir que ambos experimenten dolor. La respuesta observable, por sí sola, no nos permite saber qué procesos intervienen en cada caso ni si existe una experiencia subjetiva. ¿Estamos identificando la experiencia por lo que hace o estamos explicando lo que hace porque existe una experiencia? Esta dificultad nos conduce directamente al problema de la conciencia.
► Autores de referencia
- Chalmers: ¿qué significa tener una experiencia propia?
Podemos explicar muchos procesos mentales mediante mecanismos físicos, químicos y neuronales. Sabemos, por ejemplo, que determinadas áreas cerebrales intervienen en la percepción, la memoria, el lenguaje o la regulación emocional. También conocemos numerosos mecanismos que relacionan los estímulos del entorno con las respuestas de nuestro organismo. Pero hay una cuestión que sigue resultando especialmente difícil: ¿por qué esos procesos van acompañados de una experiencia subjetiva?
No es lo mismo procesar información sobre el color rojo que experimentar el color rojo. Tampoco es lo mismo detectar una lesión que sentir dolor.
El filósofo David Chalmers denominó problema difícil de la conciencia a la dificultad de explicar cómo y por qué determinados procesos físicos van acompañados de experiencias subjetivas. Podemos investigar los mecanismos que permiten percibir, recordar, atender o responder a los estímulos, pero ¿cómo explicamos que exista algo que se siente desde dentro?
La distinción entre el procesamiento de información y la experiencia consciente resulta fundamental para abordar el debate sobre la inteligencia artificial.
- Turing: ¿pueden pensar las máquinas?
En 1950, el matemático y pionero de la informática Alan Turing publicó su célebre artículo Maquinaria computacional e Inteligencia, en el que planteaba una pregunta aparentemente sencilla: ¿pueden pensar las máquinas? Ante la dificultad de definir qué significa pensar, Turing propuso sustituir la pregunta por otra más concreta, basada en el comportamiento: el denominado juego de imitación, que posteriormente se conocería como test de Turing.
Si una máquina consigue mantener una conversación de tal manera que un interlocutor no pueda distinguir sus respuestas de las de una persona, ¿qué valor tendría esa capacidad como indicio de inteligencia? La propuesta de Turing supone un desplazamiento importante: en lugar de intentar acceder directamente a una supuesta vida mental interior, plantea evaluar las capacidades de un sistema a partir de sus manifestaciones observables.
Sin embargo, esta prueba no resuelve necesariamente el problema de la conciencia. Que una máquina pueda conversar de forma convincente no demuestra por sí mismo que comprenda lo que dice ni que tenga experiencias subjetivas.
- Searle: el argumento de la habitación china
El filósofo John Searle formuló en 1980 uno de los argumentos más conocidos contra la identificación entre procesamiento computacional y comprensión. Imaginemos que una persona que desconoce completamente el chino se encuentra encerrada en una habitación. Dispone de un manual con instrucciones para manipular símbolos chinos y responder adecuadamente a los mensajes que recibe desde el exterior. Siguiendo esas instrucciones, puede producir respuestas que resultan perfectamente comprensibles para quienes están fuera de la habitación. Estos podrían llegar a pensar que allí dentro hay alguien que domina el chino. Sin embargo, la persona que manipula los símbolos no entiende su significado. Se limita a seguir unas reglas formales.
Searle utiliza este ejemplo para cuestionar que la manipulación correcta de símbolos sea suficiente para producir comprensión. Una máquina puede procesar información y generar respuestas aparentemente inteligentes sin que ello implique necesariamente que comprenda su significado.
Su argumento distingue entre sintaxis, las reglas formales que permiten manipular símbolos, y semántica, el significado de esos símbolos. La objeción plantea una dificultad importante para las teorías que identifican la mente con el procesamiento computacional: ¿puede obtenerse comprensión real mediante la aplicación de reglas formales sin que exista una comprensión del significado?
- Dennett: la atribución de intenciones
Daniel Dennett ofrece una perspectiva diferente. Su propuesta interpretativa, conocida como postura intencional consiste en atribuir creencias, deseos y objetivos a un sistema cuando hacerlo permite explicar y predecir satisfactoriamente su comportamiento. Podemos decir que un programa "busca" una solución o que un ordenador "intenta" corregir un error sin que necesariamente estemos afirmando que experimenta esos objetivos como lo haría una persona.
Para Dennett, las atribuciones intencionales pueden constituir una estrategia legítima para comprender sistemas complejos. No es necesario imaginar una pequeña conciencia dentro de la máquina que dirija sus operaciones. Esta posición permite introducir una distinción relevante: atribuir funcionalmente creencias y deseos a un sistema no equivale automáticamente a demostrar que posee una experiencia subjetiva.
¿Puede una inteligencia artificial tener conciencia?
Las distintas posiciones que hemos visto permiten abordar una pregunta que adquiere especial actualidad con los sistemas de inteligencia artificial generativa. Conviene reparar en esta última característica: estos sistemas no se limitan a seleccionar respuestas previamente escritas para cada situación, sino que generan resultados a partir de patrones aprendidos durante su entrenamiento y de las condiciones de cada interacción. Pueden producir respuestas nuevas, combinar información y elaborar textos que no han sido redactados de antemano por sus creadores. Sin embargo, esta capacidad generativa no significa que actúen al margen de los algoritmos, los datos y los criterios de diseño que hacen posible su funcionamiento, ni demuestra por sí misma que comprendan lo que producen.
Así, cuando conversamos con ChatGPT u otros modelos de lenguaje, encontramos respuestas que parecen manifestar comprensión, razonamiento, memoria contextual, preferencias e incluso emociones. Pero ¿qué podemos concluir de estas manifestaciones?
Aquí conviene distinguir tres conceptos:
- Agencia: capacidad de actuar de acuerdo con determinados objetivos o de orientar la propia actividad hacia la consecución de ciertos resultados. Un sistema puede procesar información, establecer subobjetivos y modificar sus estrategias para alcanzar determinados fines. Que manifieste este tipo de comportamiento no implica necesariamente que tenga conciencia o voluntad propia.
- Conciencia: existencia de una experiencia subjetiva. No se trata solamente de procesar información, sino de que haya algo que sea experimentar ese procesamiento.
- Sensibilidad: capacidad de experimentar sensaciones, especialmente aquellas que tienen una valencia positiva o negativa, como el placer, el dolor, la satisfacción o el sufrimiento.
Estas propiedades no son equivalentes. Un sistema puede presentar comportamientos orientados a objetivos sin que podamos afirmar que tiene conciencia. Y la existencia de una experiencia consciente no implica necesariamente que haya experiencias de placer o sufrimiento. Esta distinción resulta especialmente importante para abordar el debate contemporáneo sobre el bienestar de la inteligencia artificial.
El debate no se limita a determinar si una IA puede resolver problemas o mantener conversaciones inteligentes. Algunos investigadores y filósofos se preguntan si determinados sistemas artificiales podrían llegar a tener intereses propios y ser susceptibles de bienestar o sufrimiento.
La cuestión tiene consecuencias éticas importantes. Si una inteligencia artificial pudiera experimentar sufrimiento, ¿seguiría siendo moralmente indiferente apagarla, modificarla o someterla a determinadas condiciones? ¿Deberíamos reconocerle alguna forma de consideración moral? Sin embargo, estas preguntas dependen de un problema previo: ¿qué razones tenemos para atribuirle una experiencia propia?
Aquí aparece una de las objeciones más interesantes al funcionalismo aplicado a la inteligencia artificial. Que una máquina reproduzca determinadas funciones asociadas a la mente humana no demuestra necesariamente que comparta la naturaleza de los estados mentales que atribuimos a las personas.
Un termostato puede detectar una temperatura, compararla con un valor de referencia y activar un mecanismo para corregirla. Podemos describir su funcionamiento diciendo que "busca" mantener una temperatura determinada. Pero sería injustificado concluir que siente frío cuando la temperatura desciende.
La dificultad consiste en determinar en qué momento una organización funcional deja de ser una mera reproducción de determinados comportamientos y permite hablar de una auténtica experiencia subjetiva. En este contexto conviene distinguir entre tres posibilidades, lo que nos permite introducir algunos conceptos clave para nuestro análisis:
- Simulación: un sistema reproduce o representa el comportamiento de un proceso sin que necesariamente se produzca el proceso simulado. Una simulación del dolor no tiene por qué experimentar dolor.
- Realización: un sistema implementa físicamente una determinada organización o proceso. Un ordenador, por ejemplo, realiza operaciones de cálculo mediante sus componentes físicos.
- Instanciación: un sistema posee efectivamente la propiedad de la que hablamos. Si una IA instanciara un estado mental consciente, no estaríamos ante una mera representación de la conciencia, sino ante un sistema que sería realmente consciente.
Estas distinciones no resuelven por sí mismas el debate: precisamente una de las cuestiones discutidas es si una organización funcional artificial puede llegar a realizar o instanciar estados mentales conscientes. El funcionalismo permite contemplar esa posibilidad, pero no todas las teorías de la mente aceptan que la equivalencia funcional sea suficiente para explicar la experiencia subjetiva. David Chalmers, con su distinción entre el funcionamiento cognitivo y la experiencia fenomenológica, y John Searle, con su argumento de la habitación china, representan dos importantes vías de cuestionamiento de la equivalencia entre comportamiento inteligente y conciencia.
La cuestión permanece abierta: ¿podría existir una inteligencia artificial que no se limitara a comportarse como si tuviera una mente, sino que tuviera realmente una experiencia propia?
El debate sobre la inteligencia artificial nos devuelve, finalmente, a algunas de las preguntas que nos planteábamos al comienzo. Si una máquina puede resolver problemas, establecer objetivos y tomar decisiones, ¿podemos considerarla un agente? ¿Significa esto que es libre? ¿Es responsable de sus acciones?
Conviene distinguir entre autonomía operativa y autonomía moral. Un sistema puede actuar sin que cada una de sus respuestas haya sido prevista expresamente por sus programadores. Puede incluso producir resultados inesperados. Pero eso no significa necesariamente que tenga voluntad propia o que pueda responder moralmente por sus decisiones.
La responsabilidad de los sistemas artificiales nos conduce así a una cuestión más amplia: ¿qué condiciones hacen que una acción sea propiamente nuestra? ¿Basta con que se produzca mediante un proceso de decisión o necesitamos también conciencia de lo que hacemos, capacidad de comprender sus consecuencias y posibilidad de actuar de otra manera?
También aquí la inteligencia artificial puede ayudarnos a revisar nuestras propias concepciones. Si atribuimos a una máquina capacidad de decisión por sus resultados, ¿qué diferencia existe entre esa capacidad y la libertad humana? ¿Hasta qué punto nuestras decisiones están condicionadas por mecanismos biológicos, procesos inconscientes, aprendizajes y circunstancias que no controlamos?
No se trata de equiparar la mente humana con un programa informático, sino de reconocer que el desarrollo tecnológico plantea preguntas que afectan directamente a nuestra comprensión de nosotros mismos. El mayor interés filosófico de este debate quizá no resida tanto en su aspecto más llamativo a primera vista —averiguar si las máquinas acabarán pensando como nosotros— como en un problema de fondo relativo a nuestra propia identidad: comprender mejor qué significa pensar, sentir, decidir y ser un sujeto. Porque, al preguntarnos si una máquina puede tener una mente, estamos obligándonos a revisar qué entendemos por la nuestra.
Cuestionario
Completo el desarrollo del tema con un cuestionario destinado a alumnos de 1º de Bachillerato:
Cuestionario: el problema mente-cuerpo y la inteligencia artificial Selecciona una respuesta en cada pregunta. Al finalizar, pulsa Corregir cuestionario: verás tu puntuación y el solucionario razonado. Cada pregunta tiene una sola respuesta correcta. |




