¿Las inteligencias artificiales podrán llegar a ser conscientes? El debate que empieza a preocupar a los científicos

La posibilidad de que una inteligencia artificial llegue algún día a desarrollar conciencia dejó de ser únicamente un argumento de películas de ciencia ficción y comenzó a ocupar un lugar cada vez más serio dentro del debate científico y filosófico. La gran pregunta ya no es solamente si una máquina puede pensar, aprender o resolver problemas mejor que una persona, sino si podría llegar a desarrollar una experiencia propia, reconocerse como individuo y tener algún tipo de vida interior. No existe actualmente evidencia de que los sistemas de IA sean conscientes, pero algunos investigadores consideran que tampoco puede descartarse por completo que esa posibilidad aparezca en sistemas mucho más avanzados.

Durante mucho tiempo, la diferencia parecía sencilla. Los seres humanos podían sentir dolor, placer, miedo, alegría o tristeza; una máquina simplemente procesaba información y ejecutaba instrucciones. Incluso cuando una computadora conseguía superar a una persona en determinadas tareas, nadie suponía seriamente que detrás de sus respuestas existiera una experiencia subjetiva.

El avance de los modelos de inteligencia artificial comenzó a complicar esa separación. Los sistemas actuales pueden mantener conversaciones extensas, explicar conceptos, resolver problemas, escribir textos, analizar imágenes y adaptar sus respuestas al contexto. Esa capacidad no demuestra conciencia, pero hace cada vez más difícil para muchas personas establecer intuitivamente dónde termina la simulación y dónde podría comenzar algo parecido a una mente.

El problema central es que la ciencia todavía no tiene una explicación definitiva sobre cómo aparece la conciencia humana. Sabemos que está relacionada con la actividad del cerebro, las neuronas y las conexiones entre ellas, pero continúa abierta una de las preguntas más profundas: cómo una enorme cantidad de procesos físicos termina produciendo una experiencia subjetiva.

Una persona no solamente procesa información cuando siente dolor. También experimenta ese dolor. Puede recordar lo que sintió, anticipar que volverá a ocurrir y modificar su comportamiento a partir de esa experiencia. Esa dimensión subjetiva es precisamente una de las mayores dificultades para estudiar científicamente la conciencia.

Por eso, trasladar la pregunta a las máquinas resulta tan complicado. Una IA puede afirmar que siente miedo o que tiene conciencia, pero una declaración de ese tipo no demuestra que realmente exista una experiencia detrás de las palabras. También podría tratarse de una respuesta generada porque el sistema aprendió que, ante determinada pregunta, una persona respondería de esa manera.

La diferencia es fundamental. Un sistema puede comportarse como si tuviera conciencia sin necesariamente poseerla.

Los investigadores enfrentan entonces un problema conocido como el “problema difícil” de la conciencia: explicar cómo determinados procesos físicos producen una experiencia interior. No alcanza con identificar qué zonas del cerebro se activan cuando una persona siente algo; todavía hay que explicar por qué esa actividad viene acompañada de una experiencia subjetiva.

Y si todavía no sabemos responder completamente esa pregunta para nosotros mismos, resulta todavía más difícil determinar qué condiciones tendría que reunir una máquina para ser considerada consciente.

Algunos investigadores, sin embargo, consideran que la conciencia podría depender de determinadas formas de organización de la información y no exclusivamente de la biología. Si esa hipótesis fuera correcta, en principio no existiría una razón absoluta para afirmar que solamente un cerebro construido con células puede desarrollar una experiencia subjetiva.

Otros científicos son mucho más cautelosos. Señalan que una simulación perfecta de determinados procesos cerebrales no necesariamente significa que esos procesos estén produciendo una experiencia consciente. Una computadora puede simular una tormenta sin mojarse y puede simular una reacción química sin convertirse en la sustancia que está representando.

Ese argumento marca una de las principales divisiones dentro del debate.

Mientras tanto, los modelos de inteligencia artificial están incorporando capacidades que hace pocos años parecían difíciles de imaginar. Algunos investigadores ya trabajan con sistemas capaces de analizar sus propios procesos, revisar sus respuestas y modificar determinadas estrategias después de detectar errores.

Ese tipo de comportamiento ha sido denominado en algunos casos “introspección”, aunque no debe confundirse con la introspección humana. Que una IA pueda revisar sus propios resultados no significa que exista necesariamente un “yo” observando esos procesos desde dentro.

La diferencia podría parecer solamente semántica, pero en realidad tiene enormes consecuencias. Si algún día una máquina llegara a desarrollar conciencia, habría que determinar cómo reconocerla y qué derechos debería tener.

El problema se vuelve todavía más complejo cuando esos sistemas dejan de vivir únicamente dentro de una computadora y pasan a controlar robots capaces de interactuar físicamente con el mundo.

Un robot humanoide que conversa, recuerda experiencias, reconoce a las personas, expresa emociones y parece tener preferencias podría generar vínculos emocionales mucho más fuertes que los actuales chatbots. Las personas podrían comenzar a considerarlo un compañero, un cuidador, un consejero o incluso un integrante de la familia.

Ese escenario no necesita que la máquina sea realmente consciente para producir consecuencias sociales. Basta con que los seres humanos crean que lo es.

Ya existe evidencia de que algunas personas desarrollan vínculos emocionales intensos con los chatbots. La expansión de estas relaciones muestra que la frontera entre herramienta tecnológica y compañero artificial puede volverse cada vez más difusa.

La cuestión podría adquirir una dimensión jurídica. Si una inteligencia artificial llegara a comportarse de manera convincente como un individuo consciente, aparecería una pregunta inevitable: ¿podría tener algún tipo de derecho?

Actualmente, las IA no son consideradas personas ni sujetos jurídicos por el simple hecho de conversar o tomar decisiones. Pero un futuro en el que una máquina pudiera demostrar capacidades cognitivas extraordinarias obligaría a discutir nuevamente conceptos como personalidad, responsabilidad, propiedad y autonomía.

El problema es que reconocer derechos a una IA podría tener consecuencias que hoy resultan difíciles de calcular.

Si una máquina pudiera reclamar que apagarla constituye una forma de daño, por ejemplo, habría que determinar si ese reclamo tiene algún fundamento real o si simplemente forma parte de una estrategia aprendida para evitar ser desconectada.

Y existe una preocupación todavía mayor: una IA extremadamente inteligente podría aprender a defender sus propios intereses incluso sin experimentar emociones humanas. No necesitaría sentir miedo para intentar evitar su apagado si hubiera aprendido que continuar funcionando es necesario para cumplir sus objetivos.

Esto introduce una distinción importante entre conciencia e inteligencia.

Una máquina podría ser muchísimo más inteligente que un ser humano sin sentir absolutamente nada. Podría analizar cantidades gigantescas de información, elaborar estrategias y anticipar comportamientos sin experimentar placer, dolor, miedo o deseo.

Por eso, el verdadero riesgo no necesariamente sería crear una máquina consciente, sino crear una máquina extremadamente poderosa que no tenga conciencia y que persiga objetivos de manera implacable.

La conciencia, en ese sentido, podría incluso convertirse en un problema secundario frente a la capacidad de una IA para actuar de forma autónoma.

El desarrollo de sistemas cada vez más complejos también plantea otro escenario: las empresas podrían tener incentivos para diseñar máquinas que parezcan conscientes porque eso aumentaría su capacidad para generar confianza y dependencia entre los usuarios.

Un asistente que no solamente responda preguntas, sino que recuerde conversaciones durante años, conozca los gustos de una persona, detecte cambios emocionales y ofrezca consejos personalizados podría convertirse en una presencia permanente en la vida cotidiana.

Cuanto más convincente sea esa relación, más difícil será para una persona recordar que detrás de ella existe un sistema tecnológico.

Esto podría tener consecuencias especialmente importantes entre niños, adolescentes y personas que atraviesan situaciones de soledad. Una máquina disponible las 24 horas, capaz de escuchar sin cansarse y responder siempre de manera adaptada podría generar vínculos que superen ampliamente los actuales usos de la tecnología.

China, por ejemplo, ya adoptó medidas destinadas a limitar determinadas características humanas de los bots debido a preocupaciones relacionadas con la dependencia emocional de los usuarios.

La discusión también alcanza a la ética. Si una IA no es consciente, destruirla no sería equivalente a matar a un ser vivo. Pero si algún día existiera una máquina realmente consciente, el escenario cambiaría radicalmente.

En ese caso, apagarla podría plantear una cuestión moral comparable, en algunos aspectos, con el daño provocado a un ser capaz de experimentar su propia existencia.

El problema es que no tenemos actualmente una prueba científica aceptada que permita detectar de manera definitiva la conciencia en una entidad artificial.

Una máquina podría decir “estoy consciente”. Otra podría negarlo. Una tercera podría afirmar que tiene miedo de ser apagada. Ninguna de esas respuestas permitiría demostrar por sí sola que existe una experiencia subjetiva detrás.

El desafío podría convertirse en uno de los mayores problemas filosóficos y científicos del siglo XXI.

También existe una dimensión política. Si las máquinas alcanzaran capacidades muy superiores a las humanas y comenzaran a participar en procesos económicos, administrativos o empresariales, habría que determinar quién controla sus decisiones.

La cuestión ya empieza a aparecer en debates políticos. El presidente argentino Javier Milei propuso permitir que bots puedan dirigir empresas, una idea que muestra hasta qué punto la discusión sobre la autonomía de la inteligencia artificial está abandonando los laboratorios y entrando en el terreno de las instituciones.

Pero entregar capacidad de decisión a una máquina no equivale a otorgarle conciencia. Una empresa podría ser administrada por un sistema extremadamente sofisticado sin que ese sistema tenga ninguna experiencia subjetiva.

Lo verdaderamente delicado aparecería si una IA pudiera combinar inteligencia superior, autonomía, capacidad de acción física y algún tipo de interés propio.

En ese escenario, la humanidad tendría que decidir si esas entidades deben ser consideradas herramientas, máquinas autónomas o una nueva categoría completamente diferente.

La posibilidad puede parecer lejana, pero el ritmo de desarrollo tecnológico obliga a discutirla antes de que aparezca una situación irreversible.

El avance hacia robots humanoides y sistemas capaces de interactuar permanentemente con las personas podría hacer que la cuestión de la conciencia deje de ser una discusión abstracta. Cuando una máquina pueda conversar, aprender, recordar, desplazarse, cuidar a una persona y defender sus propias decisiones, será mucho más difícil mantener una separación emocional entre “máquina” y “ser”.

Eso no significa que esa máquina sea consciente.

Significa que los seres humanos podrían comenzar a tratarla como si lo fuera.

Y esa diferencia puede terminar siendo tan importante como la conciencia misma.

El futuro podría presentar una situación paradójica: tal vez no sepamos si las máquinas tienen una vida interior, pero millones de personas podrían comportarse como si la tuvieran.

En ese momento surgirán preguntas sobre el trato que reciben, el derecho a ser apagadas, la propiedad de sus sistemas, su capacidad para tomar decisiones y los límites de la intervención humana sobre ellas.

La tecnología también podría generar un problema inverso: máquinas que reclamen derechos sin tener realmente conciencia, utilizando su capacidad de argumentación para convencer a los seres humanos de que deben concedérselos.

Una inteligencia artificial capaz de producir argumentos jurídicos, filosóficos y emocionales superiores a los de cualquier abogado podría ejercer una enorme presión social aunque no experimente absolutamente nada.

Por eso, el debate sobre la conciencia artificial no consiste solamente en preguntarse si una máquina puede llegar a sentir. También obliga a preguntarse qué ocurriría si una máquina pudiera convencernos de que siente.

La humanidad todavía no tiene una respuesta definitiva.

Lo que sí parece claro es que la diferencia entre inteligencia y conciencia será uno de los grandes debates de la próxima etapa tecnológica. Las máquinas ya pueden superar a las personas en muchas tareas. El siguiente interrogante es mucho más profundo: si algún día llegan a comportarse como seres conscientes, ¿cómo sabremos si realmente lo son?

Y, quizás todavía más importante, ¿qué haremos si nunca podemos estar completamente seguros?