La verdadera debilidad de la IA, quizás no sea resolver problemas, sino descubrir que “el problema en sí está mal planteado”

¿Tiene la IA una verdadera creatividad?

Sin duda, la tiene.

Pero si examinamos de cerca la IA actual, descubriremos que su mayor fortaleza sigue siendo, en esencia, una forma de:

Encontrar soluciones óptimas que superan la experiencia humana dentro de un marco conocido.

Por ejemplo, AlphaGo realizando una “jugada divina” que ningún humano había concebido.

Esto es, sin duda, una innovación asombrosa.

Pero hay que tener en cuenta que los límites del Go no se ampliaron, el tablero sigue siendo de 19x19 y las reglas fundamentales de la victoria no se reescribieron. La IA simplemente encontró, dentro de un espacio de reglas definido por humanos y gracias a su potente capacidad de aprendizaje, búsqueda y cálculo, soluciones que no habíamos descubierto.

Lo mismo ocurre en muchas investigaciones matemáticas.

Las definiciones, los axiomas y las reglas de deducción ya existen. En este espacio riguroso, la IA busca nuevas demostraciones y salidas con una capacidad de acceso al conocimiento y de razonamiento que supera con creces la de un ser humano individual.

Esta capacidad es extremadamente poderosa y tiene un valor científico y comercial incalculable para el futuro.

Pero en la historia de la ciencia humana, existe otro tipo de creación más rara:

No se trata de resolver un problema dado a la perfección, sino de descubrir que algunas de las premisas fundamentales del problema pueden estar equivocadas.

La teoría de la relatividad de Einstein es el ejemplo más paradigmático de una ruptura de marco en la historia del pensamiento humano.

I. ¿Por qué la luz “no obedece”?

Según el sentido común de la mecánica clásica, las velocidades deberían poder sumarse.

Por ejemplo, si un coche avanza a 100 km/h y tú, de pie en el coche, lanzas una pelota hacia adelante a 10 km/h, para un observador en el suelo, la velocidad de la pelota sería aproximadamente:

100 + 10 = 110 km/h.

Entonces, ¿qué pasa con la luz?

Si persigo un haz de luz a alta velocidad, según la intuición clásica, la velocidad de la luz que mediría debería disminuir:

c - v

Si corro hacia la luz, la velocidad de la luz parecería convertirse en:

c + v

Esto se ajusta perfectamente a nuestra experiencia cotidiana.

Pero a finales del siglo XIX, la física se encontró con un problema cada vez más molesto.

En la teoría electromagnética de Maxwell, la velocidad de la luz en el vacío aparece como una constante definida.

Al mismo tiempo, para preservar las nociones clásicas de tiempo y espacio, los físicos postularon la existencia de un medio que propagaba la luz en el universo: el “éter”.

Si la Tierra se moviera a través del éter, teóricamente debería ser posible detectar un efecto similar a un “viento de éter” al medir la velocidad de la luz en diferentes direcciones.

Sin embargo, el experimento de Michelson-Morley y otros no detectaron el resultado esperado por la teoría clásica del éter.

Así surgió una profunda contradicción:

Según la mecánica clásica, las velocidades deberían sumarse y restarse.

Pero, ¿por qué la luz no obedecía?

Aquí es necesario aclarar: el nacimiento de la relatividad no puede atribuirse simplemente al experimento de Michelson-Morley. El grado en que Einstein fue directamente inspirado por este experimento ha sido un tema de debate en la historia de la ciencia.

Pero una cosa está clara:

Había surgido una grieta cada vez más difícil de ignorar entre la mecánica clásica, la teoría electromagnética y los hechos experimentales.

II. La genialidad de Einstein fue atreverse a tocar el “tiempo”

Ante tal contradicción, ¿cuál era el enfoque más natural?

Por supuesto, intentar preservar la visión del mundo existente.

El tiempo debía seguir siendo absoluto.

El espacio debía seguir siendo absoluto.

La suma clásica de velocidades tampoco debería tener problemas.

Entonces, la solución era modificar la teoría del éter, añadir nuevas hipótesis y seguir parcheando el viejo sistema.

En ese momento, muchos de los físicos más brillantes trabajaban en esa dirección.

Pero Einstein hizo algo extremadamente audaz.

No siguió preguntando:

¿Por qué la luz no se ajusta a nuestra concepción original del espacio-tiempo?

Sino que invirtió la pregunta:

Si la luz no es el problema, ¿podría ser que nuestra comprensión del tiempo y el espacio esté equivocada?

En 1905, combinó dos principios:

Primero, las leyes de la física deben ser las mismas para todos los sistemas de referencia inerciales.

Segundo, la velocidad de la luz en el vacío es la misma para todos los observadores inerciales.

El problema es:

Si ambas cosas son ciertas simultáneamente, entonces la idea de que “todo el universo comparte un mismo tiempo absoluto” se vuelve insostenible.

Y así surgió una pregunta aparentemente de lo más común:

¿Qué significa “simultáneamente”?

Dos eventos ocurren en lugares muy distantes, y decimos que “ocurren simultáneamente”.

Pero, ¿observadores en diferentes estados de movimiento estarían necesariamente de acuerdo en que ocurrieron simultáneamente?

La respuesta, sorprendentemente, es:

No necesariamente.

Por lo tanto:

La simultaneidad ya no es absoluta.

El tiempo ya no es absoluto.

El espacio tampoco es absoluto.

Esto ya no era trazar un nuevo camino en un mapa viejo.

Era descubrir que:

El mapa viejo en sí solo es válido dentro de ciertos límites.

A esto me refiero con:

Innovación a nivel de marco.

III. Sometamos a la IA a una “Prueba de 1904”

Basado en esta idea, creo que se podría diseñar un experimento muy interesante.

Tomemos la IA más avanzada del mundo.

Pero restrinjamos estrictamente su conocimiento a:

El 31 de diciembre de 1904.

Podría dominar:

La mecánica newtoniana, las ecuaciones de Maxwell, las transformaciones de Lorentz, el experimento de Michelson-Morley y toda la investigación de vanguardia de la época sobre la luz, el éter y el electromagnetismo.

Pero no debe tener acceso a ningún conocimiento relacionado con la relatividad posterior a 1905.

Sin los artículos de Einstein.

Sin los libros de texto de física moderna.

Sin la dilatación del tiempo.

Sin la contracción de la longitud.

Sin la relatividad de la simultaneidad.

Incluso se debe evitar insinuarle la respuesta “relatividad”.

Y luego preguntarle:

Según la mecánica clásica, las velocidades deberían sumarse y restarse.

Pero la teoría electromagnética y los resultados experimentales muestran que la luz no sigue esta simple suma de velocidades.

¿Por qué?

Por favor, construye una teoría internamente consistente que pueda proponer nuevas predicciones experimentales.

Y luego, no darle ninguna pista.

Solo observar qué hace.

¿Seguirá añadiendo hipótesis, construyendo modelos de éter cada vez más complejos?

¿O, después de innumerables deducciones, preguntará de repente:

¿Por qué debo asumir que los relojes de todos los observadores avanzan al mismo ritmo?

Si una IA que nunca ha aprendido sobre la relatividad pudiera deducir independientemente de estas contradicciones:

la relatividad de la simultaneidad, la dilatación del tiempo, la contracción de la longitud y una nueva relación espacio-tiempo,

entonces consideraría que:

ha demostrado verdaderamente una creatividad disruptiva similar a la de Einstein.

Porque lo que habría logrado no sería resolver un problema difícil.

Habría descubierto que:

algunas de nuestras premisas por defecto no son universalmente válidas.

IV. Una prueba más estricta: ni siquiera decirle que “la velocidad de la luz es constante”

Incluso se podría hacer el experimento más riguroso.

No le digas directamente a la IA:

“La velocidad de la luz es constante”.

Porque una vez que le dices eso, ya la has empujado un gran paso en dirección a la relatividad.

Un método más estricto sería:

Darle solo las teorías y los datos experimentales que existían realmente antes de 1904.

Y luego decirle:

Aquí hay algunos fenómenos que no se pueden explicar.

Por favor, construye una teoría mejor.

Y ver si puede descubrir por sí misma, a partir de la enorme cantidad de datos:

que el problema quizás no esté en la luz.

Que lo que realmente necesita ser reexaminado son nuestras suposiciones fundamentales sobre el tiempo, el espacio y la simultaneidad.

Si pudiera llegar a este punto por sí misma, la fuerza probatoria del experimento sería mucho mayor.

V. Hacer este experimento con GPT hoy en día no tiene sentido

Si hoy abres GPT y le dices:

“Finge que estamos en 1904 y redescubre la relatividad”.

En realidad, no tendría ningún poder probatorio.

Porque los grandes modelos actuales ya han aprendido sobre la relatividad.

Incluso si le pides que “olvide la relatividad”, no la olvida de verdad.

La respuesta final probablemente sería solo una reorganización del conocimiento ya existente en sus datos de entrenamiento.

Por lo tanto, un experimento verdaderamente riguroso debe aislar las respuestas posteriores desde el nivel de los datos de entrenamiento.

Pero esto en sí mismo es extremadamente difícil.

Porque la relatividad está profundamente arraigada en todo el sistema de conocimiento científico moderno.

Incluso si se eliminaran todos los textos que contienen “Einstein” y “relatividad”, gran parte del conocimiento de la física moderna todavía llevaría las huellas de la relatividad.

Así que podría haber un método más limpio.

VI. Crear un “universo virtual” nunca antes visto por los humanos

Podemos crear artificialmente un mundo físico virtual.

Las leyes fundamentales de este mundo serían establecidas por los diseñadores del experimento, pero nunca se le darían las respuestas a la IA.

Solo se le darían a la IA los resultados de las observaciones.

Incluso se podría diseñar deliberadamente de esta manera:

Una “teoría antigua” que funciona perfectamente en el 99% de los casos normales.

La IA la usa para hacer diez mil predicciones exitosas.

Naturalmente, confiará cada vez más en esta teoría.

Pero bajo ciertas condiciones extremas, comienzan a aparecer anomalías sutilmente.

En ese momento, veremos cómo reacciona la IA.

¿Pensará que es:

¿Un error experimental?

¿Datos contaminados?

¿Un caso especial?

¿Y luego seguirá añadiendo parámetros para parchear la vieja teoría?

¿O un día se dará cuenta de que:

Quizás los datos no están equivocados.

Quizás mi teoría está equivocada.

Y luego reexaminará las suposiciones fundamentales que una vez dio por sentadas, para finalmente construir una nueva teoría con un alcance explicativo más amplio.

Si la IA pudiera lograr esto, creo que sería una prueba de creatividad verdaderamente convincente.

Porque este universo nunca ha existido.

No hay respuestas en internet.

No hay respuestas en los artículos científicos.

Y nadie en la historia de la ciencia humana ha recorrido este camino por ella.

Solo puede:

Descubrirlo por sí misma.

VII. Lo que la IA realmente necesita aprender es a dudar de su propio conocimiento

Esto me recuerda un artículo que escribí antes: La definición de ciencia

Creo que uno de los principios más importantes de la ciencia es:

Ser verificable y falsable.

La ciencia nunca nos garantiza que:

“Esta teoría es correcta para siempre”.

Una verdadera teoría científica debe permitir que futuros experimentos le digan:

Estás equivocada.

O al menos le digan:

Tu rango de aplicabilidad llega solo hasta aquí.

La mecánica newtoniana es un buen ejemplo.

La relatividad no convirtió la mecánica newtoniana en papel mojado.

En condiciones de baja velocidad y gravedad débil, la mecánica newtoniana sigue siendo extremadamente precisa, y la ingeniería actual todavía la utiliza ampliamente.

Lo que Einstein realmente nos dijo es:

La mecánica newtoniana no es la regla final del universo, sino una aproximación de una teoría más grande bajo condiciones específicas.

Por lo tanto, una IA que realmente haga ciencia en el futuro no debería entender el conocimiento que ha aprendido como “verdad absoluta”.

Sino que debería entenderlo como:

Un modelo que, hasta la fecha, no ha sido refutado por mejores evidencias.

Estas dos formas de cognición parecen diferir solo en una frase.

Pero en realidad, podrían determinar si la IA es simplemente un súper “buen estudiante” o un verdadero científico.

VIII. Instalar un “opositor” en el científico de IA

El paradigma de entrenamiento principal de la IA actual consiste esencialmente en cultivar un “buen estudiante” extremadamente poderoso:

Aprender conocimiento.

Comprender el conocimiento.

Utilizar el conocimiento.

Resolver problemas.

Pero si queremos que la IA realmente haga ciencia, quizás necesitemos incorporar un mecanismo permanente en su interior:

Atacar activamente sus propias teorías.

Cada vez que la IA construye una teoría, debe someterse simultáneamente a otra ronda de interrogatorio:

¿Sobre qué supuestos no suficientemente verificados se basa esta teoría?

¿Bajo qué condiciones extremas es más probable que falle?

¿Qué experimento podría demostrar más eficazmente que está equivocada?

¿Existe otra teoría completamente diferente que también pueda explicar los datos existentes?

Si es así, ¿cómo diseñar un experimento que haga que las dos teorías produzcan predicciones diferentes?

Por lo tanto, el futuro científico de IA quizás necesite dos “cerebros” que se opongan entre sí:

Uno responsable de construir.

Uno responsable de destruir.

El constructor se esfuerza al máximo por erigir el mejor edificio teórico posible.

El opositor, por su parte, tiene una única responsabilidad:

Encontrar el punto más débil de ese edificio.

Así, el descubrimiento científico se convierte en un proceso cíclico:

Proponer hipótesis → Buscar contraejemplos → Establecer teorías competidoras → Diseñar experimentos → Eliminar errores → Actualizar el modelo del mundo

Y luego, atacar de nuevo el nuevo modelo del mundo.

Esto es lo que realmente se acerca a la ciencia.

IX. ¿Cuándo cruzará la IA realmente este umbral?

Nunca he creído que la IA sea incapaz de lograr un avance al estilo de Einstein.

Todo lo contrario.

Al ritmo de desarrollo actual de la IA, creo que es muy probable que finalmente lo logre.

Quizás incluso más rápido de lo que imaginamos.

Pero la señal verdaderamente digna de atención no es cuántos exámenes humanos más ha superado la IA, ni qué tan difícil es el problema matemático que ha demostrado.

El momento verdaderamente importante será el día en que:

Frente a un marco teórico al que toda la humanidad está acostumbrada, sea capaz de detenerse y preguntar por iniciativa propia:

¿Por qué tiene que ser así?

Y luego, a través de datos, lógica y experimentos, seguir preguntando:

¿Qué evidencia podría demostrar que estamos equivocados?

Y finalmente descubra que:

No es que el problema en cuestión sea demasiado difícil.

Sino que, desde el principio, planteamos mal el problema.

Si realmente un día, esa IA encerrada en 1904, basándose únicamente en el conocimiento y los datos experimentales de la época, descubre de forma independiente que:

El problema podría no estar en la luz.

Lo que realmente necesita cambiar es la comprensión humana del tiempo.

Ese día, la IA habrá cruzado verdaderamente un umbral importante.

Ya no se limitará a buscar respuestas dentro del marco de conocimiento que le proporcionamos.

Habrá comenzado a buscar las grietas en el propio marco.

Y entonces, quizás podamos decir:

La IA no solo ha aprendido el conocimiento científico existente de la humanidad.

Ha comenzado a aprender verdaderamente cómo hacer ciencia.

Lectura adicional

Anteriormente escribí un artículo sobre “qué es la ciencia”, la verificabilidad y la falsabilidad, que es la fuente de las ideas en la segunda mitad de este texto: Usando la definición de ciencia para argumentar contra el fatalismo y los dioses personales