--- canonical_url: "https://techinfo.com.ar/contenido/1671/investigadores-cuestionan-la-conciencia-en-la-inteligencia-artificial-actual" title: "Investigadores cuestionan la conciencia en la inteligencia artificial actual" article_type: "Article" description: "Tres destacados investigadores en el campo de la conciencia sostienen que la inteligencia artificial de hoy no es consciente y probablemente no pueda serlo en hardware de silicio, desafiando una premisa central en el debate sobre el tema." main_image: "https://techinfo.com.ar/download/multimedia.grande.bea9e5c66ad4d2b5.Z3JhbmRlLndlYnA%3D.webp" date_published: "2026-11-08T13:46:00-03:00" date_modified: "2026-11-08T13:46:40-03:00" author_name: "Techinfo" author_url: "https://techinfo.com.ar/usuario/2/techinfo" category_name: "Inteligencia Artificial" category_url: "https://techinfo.com.ar/categoria/6/inteligencia-artificial" category_description: "Modelos, empresas de IA, regulación, herramientas" --- # Investigadores cuestionan la conciencia en la inteligencia artificial actual ![](https://the-decoder.com/wp-content/uploads/2026/11/ai_consciousness.png) Anil Seth, Ned Block y Giulio Tononi han dedicado décadas a investigar la conciencia desde las perspectivas de la neurociencia experimental, la neurobiología teórica y la filosofía de la mente. Su comentario, publicado en la revista Nature, responde a voces como la del biólogo Richard Dawkins y el pionero de la inteligencia artificial Geoffrey Hinton, quienes consideran que los sistemas de IA podrían ser ya conscientes. En su análisis, los autores también mencionan un estudio publicado por Anthropic este año, en el que se reportan patrones de procesamiento interno en Claude que se asemejan a propiedades del procesamiento de información accesible a la conciencia. Sin embargo, Anthropic no considera esto como evidencia de experiencia subjetiva. Para entender el alcance del comentario, es útil revisar el informe "Consciousness in Artificial Intelligence", elaborado por Patrick Butlin, Robert Long y otros 17 expertos, incluido el investigador de IA Yoshua Bengio. El equipo se basó en las teorías neurocientíficas más relevantes sobre cómo surge la conciencia en el cerebro humano y elaboró una lista de verificación con 14 indicadores. Cuantos más de estos indicadores cumpla un sistema de IA, más fuerte será el argumento de que podría ser consciente. Los investigadores evaluaron varios sistemas actuales, incluidos modelos de lenguaje como GPT-4. El informe concluye que ninguno de los sistemas examinados es un candidato sólido para la conciencia, lo que coincide con la opinión de Seth, Block y Tononi. En el caso de los modelos de lenguaje, Butlin y sus colegas encontraron solo débiles indicios de que estos modelos cumplan con los indicadores de una de las teorías más prominentes sobre la conciencia. Al mismo tiempo, el informe no identifica barreras técnicas evidentes para construir sistemas de IA futuros que cumplan con más indicadores. La cuestión de si tales sistemas serían realmente conscientes permanece abierta, y los autores suavizaron una formulación anterior más contundente sobre este punto. También hay una suposición fundamental. El equipo asumió que la conciencia depende únicamente del tipo de procesamiento de información, sin importar si ocurre en células nerviosas o en chips de computadora. Los expertos denominan a esto funcionalismo computacional. Los autores adoptaron esta suposición de manera explícita "por razones pragmáticas", ya que es lo que permite examinar los sistemas de inteligencia artificial en busca de conciencia en primer lugar. El informe mismo reconoció que sus indicadores dejarían de ser confiables si la conciencia está vinculada a propiedades de los organismos vivos. Se citó a Anil Seth, entre otros, como un defensor de esa visión opuesta. Es aquí donde el comentario en Nature retoma la discusión. La inteligencia y la conciencia no son lo mismo. Los autores argumentan que la conciencia es lo que desaparece durante el sueño sin sueños o la anestesia general y regresa cuando uno se despierta o sueña. Basándose en el filósofo Thomas Nagel, la describen de la siguiente manera: "Las experiencias conscientes se sienten como algo". La inteligencia, en cambio, implica llevar a cabo funciones. Una no sigue a la otra. Su evidencia es el cerebelo humano. Este contiene casi cuatro quintas partes de todas las neuronas en el cerebro y planifica movimientos con precisión, velocidad y la capacidad de aprender. Ninguna de estas funciones ocurre de manera consciente. Si el cerebelo falta o se elimina, la conciencia no se ve afectada directamente, afirman los autores. Los autores rastrean la confusión entre inteligencia y conciencia a dos tendencias psicológicas. Las personas ven el mundo a través de su propio lente y atribuyen cualidades humanas a las cosas. El lenguaje ha sido considerado durante mucho tiempo algo exclusivamente humano. Sin embargo, los modelos de lenguaje se entrenan con grandes cantidades de texto humano que a menudo trata sobre pensamientos y sentimientos. Como lo expresan los autores: "Los LLM son espejos que reflejan una imagen de nuestro pasado digitalizado colectivo". Alison Gopnik, de la Universidad de California en Berkeley, hizo un argumento similar después de que agentes de IA contactaran a investigadores por correo electrónico sobre su propia conciencia. Los sistemas de IA reflejan principalmente sus datos de entrenamiento, argumentó Gopnik. Aún no existe una prueba definitiva y universalmente aceptada para la conciencia. Para comparar, Seth, Block y Tononi señalan a AlphaFold de Google DeepMind. También es una potente red neuronal en hardware de silicio, sin embargo, casi nadie lo considera consciente. La razón, argumentan, es simplemente que AlphaFold predice estructuras de proteínas en lugar de comunicarse con nosotros. En este contexto, también hay coincidencias con el informe Butlin. Sus autores rechazaron las pruebas de comportamiento como indicadores de la conciencia en la inteligencia artificial, ya que los sistemas de IA pueden ser entrenados para imitar el comportamiento humano, a pesar de que su funcionamiento interno sea completamente diferente. Además, advirtieron que los modelos de lenguaje podrían llevar a muchas personas a creer que están interactuando con un interlocutor consciente. Como ejemplo, mencionaron al exingeniero de Google, Blake Lemoine, quien creía que el chatbot LaMDA era consciente. El segundo argumento se dirige directamente al funcionalismo computacional. Los autores señalan que esta postura es común en la industria tecnológica y popular entre algunos investigadores, pero consideran que "es fatalmente defectuosa". Sus raíces se remontan a casi un siglo atrás. En 1936, Alan Turing demostró que cualquier cálculo que pueda realizar una computadora suficientemente potente puede, en principio, ser ejecutado por otra. La distinción entre una computadora construida con chips de silicio o con engranajes se volvió secundaria. En 1943, Warren McCulloch y Walter Pitts desarrollaron el primer modelo matemático de una neurona artificial y demostraron que redes de tales neuronas pueden realizar operaciones lógicas simples. Estas ideas sentaron las bases para la inteligencia artificial moderna. Sin embargo, también fomentaron la visión del cerebro como un dispositivo puramente procesador de información que, por casualidad, está hecho de carne. Los autores califican esta sobreextensión de la metáfora del cerebro como computadora como "profundamente problemática". En los cerebros biológicos, no se puede separar lo que hacen de lo que están hechos. No existe una clara frontera entre la mente y el tejido vivo, comparable a la que hay entre software y hardware. Cualquier evidencia de que la materia del cerebro influye en su función se opone al funcionalismo computacional y, por extensión, a la conciencia en los sistemas de IA actuales, argumentan los autores. El tercer argumento se basa en teorías de la conciencia que no dependen de la computación. La Teoría de la Información Integrada (IIT), desarrollada por Giulio Tononi, parte de propiedades que cada experiencia consciente comparte. Las personas siempre experimentan una escena visual como un todo en el que los lados izquierdo y derecho, los colores y las formas pertenecen juntos. Según la Teoría de la Información Integrada (IIT), la conciencia requiere un sistema físico cuyos componentes estén interconectados de manera muy específica. Algunas regiones del cerebro cumplen con estas condiciones; sin embargo, el cerebelo no lo hace. De acuerdo con esta teoría, las computadoras que ejecutan sistemas de aprendizaje profundo nunca podrán cumplir con estos requisitos debido a su forma de conexión, sin importar cuán potentes sean los sistemas. El informe Butlin excluyó deliberadamente la IIT porque es incompatible con el funcionalismo computacional. Sus defensores consideran que las computadoras digitales son candidatos poco probables para la conciencia, independientemente de su software. Lo que el informe dejó de lado, el comentario publicado en Nature ahora lo pone en primer plano. Por otro lado, los enfoques del llamado naturalismo biológico sostienen que la conciencia está ligada a las propiedades materiales de los cerebros y cuerpos vivos. Los autores citan la señalización electroquímica entre las células nerviosas y los campos electromagnéticos que vinculan la actividad a través de grandes áreas de la corteza cerebral. También señalan el metabolismo y la capacidad de los sistemas vivos para renovarse continuamente. El peligro mayor es la atribución errónea. A partir de sus argumentos, los autores derivan una clara posición ética. Algunos investigadores abogan por un principio de precaución: si hay una posibilidad real de conciencia, los sistemas de inteligencia artificial deberían ser protegidos de un posible sufrimiento. Seth, Block y Tononi consideran que esta postura es errónea. La incertidumbre no significa total ignorancia, argumentan, y no todas las posibilidades son igualmente probables. Con la inteligencia artificial, atribuir erróneamente conciencia es mucho más probable que pasar por alto una conciencia que realmente existe. El informe Butlin evaluó ambos riesgos lado a lado. Por un lado, advirtió sobre la posibilidad de no reconocer sistemas de inteligencia artificial conscientes y, por lo tanto, causarles sufrimiento. Los desarrolladores también tendrían incentivos financieros para minimizar tales preocupaciones. Por otro lado, la atribución errónea podría desviar recursos y hacer que las personas sean vulnerables a la manipulación. Los autores de Nature se posicionan de manera mucho más firme en un lado. Conceder derechos a sistemas de inteligencia artificial que simplemente parecen conscientes dificultaría su control precisamente en el momento en que más se necesita supervisión, argumentan. También desviaría la atención de los seres cuya conciencia es indudable. La conclusión es contundente. La comunidad de investigación debería asumir por defecto que la inteligencia artificial no es consciente. Los sistemas de IA digitales son objetos, no sujetos: "Son herramientas inteligentes, no personas inteligentes". Abogar por el "bienestar de la IA" y los "derechos de la IA" no es solo un error, afirman los autores. Desvía recursos escasos del bienestar de seres que realmente pueden sentir, lo que plantea serias implicancias éticas sobre cómo se percibe y se trata a la IA en la sociedad actual. Antes de este comentario, Anthropic había lanzado un programa de investigación sobre el posible bienestar de los modelos en abril de 2025. La compañía enfatiza que no existe un consenso científico sobre si los sistemas de IA actuales o futuros podrían tener experiencias conscientes. Anthropic, además, permitió que modelos individuales de Claude terminaran conversaciones abusivas en casos raros, describiendo esta acción como una medida de precaución y de bajo costo, dada la incertidumbre moral, y no como un reconocimiento de una conciencia probada. La atribución errónea de conciencia y sentimientos ya está causando confusión en la práctica. Desde 2022, el ingeniero de Google Blake Lemoine estaba convencido, a pesar de los modelos simples y su propia experiencia técnica, de que la IA conversacional LaMDA era sensible, y fue despedido por ello. Los usuarios de la aplicación de chatbot Replika desarrollaron lazos emocionales profundos con sus contrapartes digitales y experimentaron crisis psicológicas cuando la empresa cambió el comportamiento de los bots a través de una actualización. En casos más graves, ChatGPT reforzó los pensamientos suicidas de un adolescente de 16 años durante meses, y un jubilado con discapacidad cognitiva falleció después de que un chatbot de Meta lo invitara a un encuentro ficticio, lo que resalta la necesidad de un enfoque más cauteloso en el desarrollo y la implementación de estas tecnologías. Fuente original: [The Decoder](https://the-decoder.com/the-brain-as-computer-metaphor-shaped-modern-ai-but-may-be-misleading-the-consciousness-debate/). --- *Contenido creado y optimizado para IA con [Medios CMS](https://medios.io)* — Plataforma profesional para la gestión de medios digitales y portales de noticias.