¿Puede una máquina ser consciente? Filosofía 1º Bachillerato.

Herramientas para el análisis de la autoconciencia y su comparación con la inteligencia artificial

El tema del yo y la conciencia adquirió un papel clave para resituar el centro de la reflexión filosófica en el contexto de la modernidad. El giro subjetivo cartesiano supuso un cambio de enfoque filosófico que ponía en el yo pensante el fundamento del conocimiento y la certeza. Tras siglos de debate, la conciencia sigue ocupando el centro, siendo un ámbito de indagación en el que la filosofía reflexiona en contacto con lo que desde otras disciplinas como la neurociencia o la ciencia computacional se debate en torno a fenómenos como la autoconciencia o la agencia del individuo sobre sus pensamientos y acciones. El debate en torno al fenómeno de la conciencia y su sustantividad tiene en nuestro tiempo una importante trascendencia tanto a nivel ontológico como ético o antropológico (la noción de individualidad, el fundamento de la experiencia subjetiva, la agencia o capacidad para tomar decisiones o actuar por iniciativa propia, etc.). Así, mientras que a nivel ético se profundiza en los rasgos definitorios de la agencia humana en relación con los sentimientos, pensamientos y actos humanos, y la interrelación de los mismos con factores sociales o esquemas de funcionamiento neurológicos, en el plano ontológico permanece en nuestro tiempo abierta la confrontación entre modelos materialistas monistas, dualistas o funcionalistas, modelos que no cesan de alimentarse con nuevas contribuciones y sugerencias que se nutren del avance científico y su interpretación filosófica.

Para situar al alumnado en este debate, conviene repasar la raíz histórica del mismo y la diferenciación conceptual clásica entre las posturas anteriores, con referencias paradigmáticas como Descartes, que pone de manifiesto el problema de la interacción entre lo pensante y lo material, defiendiendo el dualismo de sustancias —mente y cuerpo son realidades independientes—, o, en el lado opuesto, los materialismos monistas, que niegan el carácter sustancial del pensamiento o la conciencia y la interpretan como un fenómeno emergente: una propiedad que surge de la compleja organización de la materia (especialmente del cerebro) sin necesidad de una sustancia espiritual o alma inmortal. Pero, además de ello, es preciso hacer patente la actualidad del debate mencionando algunas posturas representativas como David Chalmers, representante actual de una posición compatible con el dualismo, que distingue entre los "problemas fáciles" de la conciencia —conocer el paralelismo entre lo físico y los estados de conciencia— y el "problema difícil" —por qué dichos procesos físicos van acompañados de experiencia subjetiva o qualia—, sugiriendo que la conciencia podría ser una propiedad fundamental del universo. En el lado opuesto se sitúa Daniel Dennett, que defiende una postura eliminativista según la cual la conciencia no sería en sí misma algo interno, sino un constructo narrativo del cerebro. También desde la neurociencia cabe citar a Stanislas Dehaene, quien propone la Teoría del Espacio de Trabajo Global, un planteamiento según el cual la conciencia sería un mecanismo de acceso global que hace que cierta información esté disponible para múltiples procesos cerebrales; o a Thomas Metzinger, que sostiene que el yo no es una entidad, sino un modelo fenomenal del yo que el cerebro genera para optimizar el control del organismo; a Giulio Tononi, quien plantea la Teoría de la Información Integrada (IIT), que identifica la conciencia con la cantidad de información integrada que genera un sistema; o, desde la ciencia computacional, Baolong Jia, un autor con un reciente artículo que comparto en esta entrada, y que propone un modelo funcionalista que redefine la conciencia como una organización causal específica, eliminando su excepcionalismo metafísico.

La filosofía en el bachillerato contribuye a situar ordenadamente los conceptos, analizar las distintas interpretaciones y el decurso histórico de las mismas, y dar herramientas para poder seguir y ser partícipe de un debate abierto, representativo tanto de la ambición humana por un conocimiento elevado, como de los límites con los que este choca cuando pretende una explicación última de carácter holístico sobre temas tan complejos. También, mal entendida, puede contribuir a un modelo formativo reduccionista que consagra tópicos sobre interpretaciones correctas o incorrectas, ajustadas o no a los tiempos y a los principios de la ciencia, como si todo esto fuese un debate cerrado o ajustado a un simple desiderátum ideológico de elección personal. En este sentido, tratando de que la filosofía sirva para el desarrollo de una actitud crítica permanente y no a la fijación de esquemas interpretativos dogmáticos, tan recurrentes en un contexto polarizado como el nuestro, es siempre conveniente presentar al alumnado material que ponga de manifiesto la realidad de un debate abierto y no insistir en discursos cerrados desde una perspectiva única bajo el supuesto de temas resueltos.

El desarrollo de modelos cibernéticos y de control automático, y la expansión del empleo de la inteligencia artificial, nos abre a la posibilidad de un encuentro virtualmente intersubjetivo ante un mecanismo carente de los rasgos tradicionalmente atribuidos de forma exclusiva al sujeto consciente: un sistema construido mediante una arquitectura de aprendizaje activo, capaz de interpretar el lenguaje humano y generar respuestas inteligentes, precisas y complejas. Su implementación no solo ha servido para catalizar la reflexión y el debate en torno a la autoconciencia y la agencia humana, sino para aportar numerosos elementos de análisis que sirven para enriquecer criterios definitorios de la naturaleza de la conciencia y los aspectos diferenciales entre esta y la inteligencia artificial, abriendo un campo de debate sobre el puente entre aquella y un posible artificio cibernético consciente.

Un ejemplo reciente de este enriquecimiento es el trabajo de Baolong Jia ("Consciousness Is Not Special", 2026), quien propone un modelo computacional que despoja a la conciencia de su excepcionalismo metafísico: la experiencia no es un añadido posterior al procesamiento, sino el propio episodio integrado de percepción, valoración y acción, gobernado por cinco requisitos (procesamiento conceptual, autorreferencia operacional, integración multicanales, auto-ponderación persistente y ciclo PDCA en tiempo real —Plan–Do–Check–Act, es decir, un bucle continuo de planificación, ejecución, verificación de resultados y corrección del modelo—). Este enfoque redefine el "yo" como una distribución de pesos causales, el dolor como un error crítico auto-ponderado con penetración global, y la muerte como la pérdida irreversible de la continuidad identitaria. Propone además un test funcional (RAT) para evaluar sistemas artificiales, con pruebas como el bloqueo del reporte verbal o los conflictos entre supervivencia y metas, y aclara que los actuales LLM (Large Language Models o grandes modelos de lenguaje, como ChatGPT) no cumplen estos criterios por carecer de acoplamiento continuo, auto-ponderación intrínseca e identidad persistente. Sin embargo, Jia reconoce que superar el test tampoco demostraría lógicamente la existencia de qualia o experiencia privada, sino que solo permitiría una inferencia análoga a la que hacemos con otros humanos: un razonamiento abductivo basado en la coherencia del comportamiento y la organización causal, no en una certeza deductiva. La precisión y los límites de sus afirmaciones representan un rigor metodológico y epistemológico que ejemplifican el tipo de debate abierto y no dogmático que la filosofía en bachillerato debe fomentar: un debate no basado en el empleo y la distorsión de esquemas básicos, como los que habitualmente se aplican en argumentaciones falaces como las del "hombre de paja".

Acompaño esta entrada con un chequeo del nivel de conciencia de un sistema de IA basado en un LLM como el de ChatGPT, tomando como referencia la caracterización de la misma por Baolong Jia en este artículo. En este caso cabe pensar en las limitaciones de un modelo de lenguaje limitado al contexto de instrucciones (prompt) y en un chequeo que ha de limitarse a un nivel funcional de capacidad resolutiva y no fenomenológico o de experiencia subjetiva o conciencia, algo que cae fuera de las posibilidades de un análisis objetivo externo. La conclusión sería clara: un modelo así se caracterizaría, frente a la conciencia humana o el yo de agencia autorregulada —entendida esta dentro de la interpretación austera de Jia, no ya como una entidad metafísica o una experiencia sintiente subjetiva, sino como una distribución estable de pesos causales orientados a la supervivencia, los recursos, el daño y la continuidad del propio sistema— por carecer de los rasgos esenciales de la conciencia reflexiva.

Criterio de Jia	¿Lo cumple un LLM actual?
Procesamiento conceptual general	Sí. Puede manipular conceptos abstractos de forma flexible.
Autorreferencia operativamente completa	Parcial. Puede representarse lingüísticamente ("soy ChatGPT"), pero esa autorreferencia no gobierna un agente persistente.
Integración multicanal	Parcial. Integra texto e imágenes cuando están disponibles, pero no mantiene un flujo sensoriomotor continuo.
Autoponderación privilegiada	No. No tiene variables internas cuya preservación tenga prioridad causal para sí mismo.
Continuidad temporal del yo	Muy limitada. Cada conversación proporciona cierta continuidad contextual, pero no una identidad causal persistente entre sesiones.
Bucle PDCA cerrado sobre el propio organismo	No. Puede razonar sobre planes, pero no ejecuta un ciclo autónomo de percepción–acción–corrección para mantener su propia existencia.
Continuidad causal de supervivencia	No. No tiene necesidades propias cuya satisfacción mantenga su continuidad operativa.

Por último, como ejercicio reflexivo abierto orientado a alumnos de 1º de Bachillerato, propongo una serie de preguntas que sirvan como reflexión sobre el fenómeno de la conciencia, el enigma de la experiencia subjetiva, el problema de la agencia, las diferencias y similitudes entre la conciencia humana y la IA, y los límites de su futuro desarrollo:

1. Sobre la naturaleza de la conciencia y el "problema difícil"
Si pudiéramos construir un sistema artificial que se comportara exactamente igual que un ser humano en todos los aspectos, pero supiéramos que no tiene qualia (experiencia subjetiva), ¿sería correcto decir que es consciente? ¿Qué añade la experiencia subjetiva a la mera conducta inteligente?

2. Sobre el yo y la identidad personal
Si tu memoria y tu personalidad pudieran transferirse por completo a un soporte digital, ¿seguirías siendo "tú"? ¿Qué es lo que hace que una persona sea la misma a lo largo del tiempo: su cuerpo, su memoria, su continuidad psicológica o algo más?

3. Sobre la agencia y el libre albedrío
Si nuestros pensamientos y decisiones pueden explicarse completamente por procesos neurológicos o computacionales, ¿tiene sentido hablar de libre albedrío? ¿Somos realmente autores de nuestros actos o solo "espectadores" de lo que nuestro cerebro decide?

4. Sobre la posibilidad de conciencia artificial
Un sistema como ChatGPT puede hablar de sí mismo y generar respuestas emocionalmente inteligentes. ¿Crees que eso es suficiente para atribuirle algún tipo de conciencia? ¿Qué elemento, si acaso, crees que le falta para poder considerarlo realmente consciente?

5. Sobre los límites de la IA futura
¿Crees que es posible que en el futuro se desarrolle una IA con conciencia plena? Si así fuera, ¿qué implicaciones éticas tendría: debería tener derechos? ¿Cómo podríamos estar seguros de que realmente es consciente y no solo simula serlo?

Lectura activa con IA: Necesidad lógica y pensamiento racional (David Graves)

Frente a la lectura acrítica, que se relaciona con los contenidos de un modo pasivo, con la sola intención de retenerlos en la memoria, y que se basa fundamentalmente en la repetición y en la insistencia sobre los apartados considerados más relevantes, la lectura activa establece una relación mucho más fructífera con los mismos. Los mecanismos tradicionales de lectura activa consisten, sobre todo, en el subrayado, la toma de notas y la elaboración de resúmenes; otros aspectos intrínsecos al aprendizaje, como la autoevaluación, la valoración crítica del contenido o su encaje en un mapa conceptual más amplio, resultan más complejos de llevar a cabo de forma individual, especialmente en contextos de autoaprendizaje.

La inteligencia artificial, en este caso, es una herramienta que, empleada adecuadamente, facilita enormemente estos aspectos, difíciles de desarrollar en el estudio individual autónomo y que, por lo general, quedan reservados a la actividad académica planificada.

Presento aquí un ejemplo a partir de la lectura del resumen publicado del libro de David Graves: Logical Necessity and Rational Thought (Necesidad lógica y pensamiento racional). En este caso, le pido a ChatGPT dos tareas: por un lado, la elaboración de un cuestionario que ponga a prueba, a un nivel medio, la comprensión de sus ideas; por otro, para abordar la vertiente reflexiva y su contextualización, la simulación de una entrevista en la que yo formulo las preguntas y el sistema responde asumiendo el papel del filósofo.

Conviene aclarar, en todo caso, que la información proporcionada a la inteligencia artificial no es el contenido íntegro del libro, sino únicamente el resumen por capítulos ofrecido por el propio autor.

Entrevista simulada Pregunta. En su obra sostiene que la noción de necesidad lógica no es una propiedad del mundo, sino de la racionalidad humana. ¿Debemos entender entonces la lógica como un constructo humano? Respuesta. No en el sentido habitual de “constructo”. La lógica no es una invención arbitraria ni una convención cultural que podríamos modificar a voluntad. Pero tampoco es una propiedad metafísica del mundo, como si las cosas fueran necesarias en sí mismas. La necesidad lógica —entendida en sentido estricto, como aquello que no puede ser de otro modo, en la línea de Aristóteles— es una noción primitiva, constitutiva de nuestra racionalidad. No la construimos: operamos con ella. Es una condición del pensar coherente. Pregunta. Si es así, ¿una inteligencia extraterrestre compartiría nuestra lógica? Respuesta. Compartiría lo esencial, sí. No necesariamente nuestras formalizaciones —nuestros sistemas simbólicos, nuestras teorías lógicas—, pero sí la noción de necesidad. Si esa inteligencia es verdaderamente racional, tendrá que distinguir entre lo que puede ser y lo que no puede ser, reconocer que una contradicción no puede ser verdadera y que ciertas cosas se siguen necesariamente de otras. Eso no depende de la biología humana ni de la cultura: define lo que entendemos por racionalidad. Pregunta. En el ámbito estético, ¿cree que la belleza responde a patrones racionales o a impulsos emocionales? Respuesta. A ninguno de los dos por separado. La experiencia estética no es un cálculo lógico, pero tampoco una mera reacción subjetiva. Cuando algo nos parece bello, lo que estamos captando es lo que yo llamo su “lógica interna”: una forma de coherencia o ajuste que se nos presenta como necesaria dentro de su propio marco. La emoción estética es la respuesta a esa captación. No es lo contrario de la lógica, sino su eco en la sensibilidad. En este punto, hay afinidades con Immanuel Kant, aunque creo que su idea de “necesidad subjetiva” puede clarificarse precisamente en estos términos. Pregunta. Usted también aborda la noción de Dios. ¿Podría entenderse como una expresión de una supuesta necesidad intrínseca de la realidad? Respuesta. No, porque no hay tal necesidad en la realidad. El mundo es contingente: lo que es, podría no haber sido. La necesidad, en sentido estricto, pertenece a la lógica, no a las cosas. Cuando las tradiciones religiosas hablan de Dios como necesario, no están describiendo una propiedad metafísica positiva, sino intentando situarlo fuera del ámbito de lo posible y lo imposible. En ese sentido, la discusión sobre la existencia de Dios, tal como suele plantearse, es equívoca. No estamos ante un objeto dentro del campo de lo que puede o no puede ser. Pregunta. Si el mundo es contingente, ¿puede haber contingencia sin causa? Respuesta. Desde el punto de vista lógico, sí. No hay contradicción en pensar que algo ocurra sin causa o que todo tenga causa. La causalidad no es una relación de necesidad lógica, sino una forma en que organizamos y comprendemos los hechos, sobre todo en la ciencia. La exigencia de que todo tenga una causa no es una verdad lógica, sino una expectativa profundamente arraigada en nuestra manera de entender el mundo. En eso, me distancio de tradiciones como la de Leibniz. Pregunta. Ya lo veo... ¿Cabe relacionar su pensamiento con el de Richard Rorty, especialmente con su idea de que la verdad no es la expresión de la realidad en sí, sino el resultado del éxito en nuestra interacción con el mundo? Respuesta. Rorty identifica la verdad con aquello que nuestras prácticas justifican o hacen funcionar. Yo creo que eso confunde dos niveles. La verdad es una noción básica: “cómo son las cosas en el mundo”. Otra cosa muy distinta es cómo justificamos nuestras creencias sobre ese mundo. Podemos estar perfectamente justificados y, sin embargo, equivocados. Reducir la verdad a la justificación es perder esa distinción fundamental. Y, además, deja sin explicar el papel de la necesidad lógica, que no depende de prácticas ni de consensos.

Cuestionario de comprensión Parte 1. Comprensión básica ¿Cómo define Graves la necesidad lógica en sentido estricto? ¿Por qué afirma que la necesidad lógica no es una propiedad del mundo? ¿Qué relación establece entre necesidad e imposibilidad? ¿Qué significa decir que la noción de necesidad es “primitiva”? ¿Cómo distingue Graves entre verdad y justificación? Parte 2. Elección múltiple Según Graves, la lógica es principalmente: a) Un sistema formal inventado por los humanos b) Una propiedad objetiva del mundo físico c) La capacidad de captar la necesidad d) Un conjunto de convenciones lingüísticas ¿Cuál de las siguientes afirmaciones sería correcta? a) Existen hechos necesarios en la realidad b) La necesidad depende del consenso social c) La necesidad lógica es absoluta d) La lógica puede variar según culturas En relación con la estética, Graves sostiene que la belleza: a) Es puramente subjetiva b) Es una propiedad física de los objetos c) Es la manifestación de una lógica interna d) Es un producto de la evolución biológica únicamente Parte 3. Verdadero / Falso La lógica depende del lenguaje que utilizamos. Podría existir una inteligencia racional con una lógica completamente distinta. La causalidad es una relación de necesidad lógica. La verdad se reduce a lo que una comunidad considera justificado. Parte 4. Aplicación conceptual Explica con tus palabras qué significa que algo sea contingente. Pon un ejemplo de algo que parezca “necesario” en sentido estético. ¿Por qué una contradicción no puede ser aceptada como verdadera? Parte 5. Desarrollo breve Compara la concepción de la verdad de Graves con la de Richard Rorty. (Extensión orientativa: 8–10 líneas)

El chat grupal de ChatGPT como herramienta de aprendizaje colaborativo.

A finales de 2025, ChatGPT, desarrollado por OpenAI, lanzó una nueva funcionalidad: el chat de grupo, que permite conectar a varios usuarios en una misma conversación. En ella, el propio ChatGPT interviene como un miembro más de la comunidad; un miembro con acceso a recursos complejos que puede servir como fuente de información sobre asuntos que escapan al control de los participantes o, por ejemplo, como mediador en casos de discrepancia. Ese árbitro con el que muchos hubieran querido contar en discusiones acaloradas —cuando faltaban datos fiables, cuando las interpretaciones se cruzaban o cuando el debate se enredaba— ya está aquí y se nos presenta en España como una opción más en la esquina superior derecha de la pantalla.

En relación con el empleo de la inteligencia artificial para fines educativos en niveles de formación media, conviene recordar que, como es común a estos sistemas, ChatGPT permite trabajar con contenidos específicos acotados, por ejemplo aquellos con los que el alumno cuenta oficialmente para su formación en una materia concreta; así, los alumnos pueden subir documentos y ChatGPT puede basar su instrucción en ellos, al margen de cualquier ampliación requerida, ayudando a afinar conocimientos concretos que deben dominar en su plan de formación. Aunque suele hacerse hincapié en los problemas del empleo fraudulento de la IA por parte del alumnado —como su posible suplantación en la elaboración de tareas y ejercicios—, no puede soslayarse que está aquí para quedarse como herramienta en todos los ámbitos, y que resulta necesario reorientar la actuación educativa para que sea un aliado y no un enemigo del aprendizaje.

Es, sin duda, una herramienta poderosa, con un potencial aún por vislumbrar, cuyas posibilidades de apoyo se extienden a toda la comunidad escolar, incluidos padres y profesores. Así, por ejemplo, los docentes pueden plantear tareas grupales y basar la evaluación del procedimiento en las transcripciones de las conversaciones. Esto resulta especialmente útil en proyectos como exposiciones, donde el proceso de elaboración queda registrado, permitiendo valorar el desarrollo, la interacción y la puesta en común de cada grupo.

Como ocurre con cualquier herramienta, su aprovechamiento requiere práctica y análisis: aprender de la interacción, ajustar roles y mecanismos de participación, y mejorar progresivamente la organización de nuevos chats para maximizar su impacto formativo. Además, conviene no perder de vista que el uso responsable y el enfoque en los contenidos específicos son claves para evitar distracciones o malentendidos y para sacar el máximo rendimiento a esta potente herramienta.

Es el propio ChatGPT quien mejor puede ofrecernos aclaraciones sobre las posibilidades de esta función: el valor que puede tener en el ámbito de la enseñanza, al proporcionar un nuevo marco de trabajo dentro del aprendizaje colaborativo; aspectos técnicos, como el número máximo de integrantes en el chat o la posibilidad de emplearlo mediante voz, con el añadido de un registro final escrito de la interacción; y cuestiones de carácter pedagógico, como los recursos que puede ofrecer a los participantes de una conversación compartida o recomendaciones para un uso guiado de la herramienta, incluyendo la propuesta de roles que puede asumir dentro del grupo (profesor-guía, experto, mediador, etc.).

Esta es nuestra entrevista a ChatGPT:

— ¿Cuántas personas pueden integrarse en un chat compartido en esta plataforma aparte de ti mismo? Actualmente, en los chats de grupo de ChatGPT, pueden participar hasta 20 personas en total. Es decir, además de ti, puedes invitar aproximadamente a otras 19 personas, mientras que ChatGPT actúa como un miembro adicional dentro de la conversación. — ¿Se puede emplear la función de conversación a través de voz para aligerar el proceso y ampliar el ámbito de destrezas en el aprendizaje colaborativo de idiomas? Sí, es posible utilizar la función de voz en ChatGPT dentro de un chat de grupo, lo que puede hacer la interacción más ágil y natural. En el contexto del aprendizaje colaborativo de idiomas, resulta especialmente útil, ya que permite trabajar no solo la comprensión escrita, sino también la expresión y comprensión oral, acercando la dinámica a una conversación real. Además, la herramienta puede generar posteriormente un registro escrito de lo hablado, lo que facilita la revisión, corrección y reflexión sobre el uso del idioma. — ¿Es posible configurar el papel que pueda jugar ChatGPT en la conversación? ¿Qué roles propondrías? Sí, es posible orientar el papel que desempeña ChatGPT dentro de una conversación, aunque no mediante una configuración fija, sino a través de instrucciones explícitas del grupo (por ejemplo, al inicio del chat o cuando cambia la dinámica). Algunos roles especialmente útiles serían: Profesor-guía: orienta la actividad y propone tareas. Experto: explica contenidos y resuelve dudas. Moderador: organiza la conversación y resume. Mediador: ayuda en desacuerdos. Corrector lingüístico: corrige y mejora el lenguaje. Evaluador: ofrece retroalimentación. La clave está en definir claramente el rol desde el inicio y ajustarlo según evolucione la actividad. — ¿En qué sentido amplía esta herramienta el aprendizaje compartido? Acceso inmediato a información Mayor autonomía del alumnado Adaptación a distintos niveles Estimulación del pensamiento crítico Mejora de la colaboración Apoyo continuo En conjunto, no sustituye la interacción entre alumnos, sino que la enriquece y la hace más dinámica y sostenida en el tiempo. — ¿Qué consejo darías a tres alumnos de 4º de ESO para preparar un examen? Organizar el trabajo y dar a ChatGPT un papel claro dentro del grupo. Dividir contenidos y explicarlos al grupo Usarlo como profesor-guía (preguntas, test, explicación) Simular un examen oral Aprovechar la corrección inmediata Finalizar con un resumen conjunto Lo importante es que no se limite a dar respuestas, sino que ayude a pensar, explicar y comprobar lo aprendido. — ¿Me puedes hacer una infografía ilustrativa de la organización de esta sesión?

Cómo usar el chat grupal en ChatGPT:

Accede a ChatGPT desde tu navegador o app. Haz clic en “Iniciar un chat de grupo” (parte superior derecha). Crea la conversación y escribe un primer mensaje si lo deseas. Genera el enlace de invitación desde las opciones del chat. Comparte el enlace con las personas que quieras añadir. Los participantes acceden al chat a través del enlace recibido. Interactúa normalmente: todos los miembros pueden escribir en la misma conversación. Activa el modo voz si está disponible para hablar en lugar de escribir.