Traducción automática del original inglés fechado. La página en inglés es la canónica. English →

La disposición

La síntesis

Desmonta una bicicleta y coloca las piezas sobre una mesa. Rueda, cadena, piñón, cuadro, freno. Ninguna la inventó quien construyó la primera bicicleta, y todas existían desde años antes de que nadie montara nada. La invención fue la disposición.

Los tres regímenes de escala, con el exponente medido y el límite propuesto, están representados en la página de la ley.

Por qué una disposición puede ser una reivindicación

Esa es la forma de lo que reivindico. Cada componente de más abajo tiene trabajo previo detrás, nombrado en el libro antes de que nadie lo revisara. Lo que reivindico es la manera en que están dispuestos.

Newton unió las órbitas de Kepler con los cuerpos en caída de Galileo; Maxwell unió los campos de Faraday con las corrientes de Ampère y con la luz. La mayoría de sus piezas ya estaban sobre la mesa; la unión fue el descubrimiento. La pregunta nunca es si una pieza aislada es nueva, sino si alguien ha juntado estas piezas, en este orden, de modo que juntos hacen un trabajo que ninguno hace solo.

Realicé una revisión adversarial de precedencia sobre diez configuraciones de frontera en seis proveedores, cada uno con instrucciones de ser hostil. Sobre los componentes fue brutal; ese veredicto se publica en todo el sitio. Sobre la disposición informó de otra cosa:

Ningún trabajo previo aislado une los seis elementos. Y en su propia tabla elemento por elemento, ninguno de los cinco cuerpos de trabajo previo que examinó contiene la relación de escala. Los cinco puntúan No en ese apartado.

Individualmente predatadas. Conjuntamente no anticipadas en la búsqueda que se realizó. Esa es la afirmación entera. La tabla elemento por elemento de la revisión, fuente por fuente, se publica íntegramente en la página de trabajos relacionados, incluidos los lugares donde encontró los componentes ya tomados. Lo que sigue no es esa tabla. Es la cadena en la que se sitúan esos elementos, en ocho pasos, desde el mecanismo con el que empieza hasta la prueba en la que tiene que terminar.

El fundamento sobre el que se sostiene la síntesis

La premisa, no la de este programa. Nada en la historia del universo ha crecido sin límite, y en cada caso el límite vino de fuera de lo que crecía. El mecanismo de redes de transporte es de West, Brown and Enquist (1997); la excepción, ciudades que solo crecen mediante innovación externa cada vez más rápida, es de Bettencourt, Lobo, Helbing, Kühnert and West (2007); ambos están trazados por completo en las leyes. La derivación está honestamente disputada: Kozlowski and Konarzewski (2004) preguntaron en el título de su artículo si el modelo es matemáticamente correcto y biológicamente relevante, así que la síntesis se apoya en la familia de argumentos de redes de transporte, nunca en una sola derivación, y donde un exponente entra más abajo, entra como medición.

La pregunta que esta página hereda es la de Chalmers (2010) y Hutter (2012): de dónde podría venir un límite interno cuando el externo deja de aplicar. Hutter no deriva exponente, ni recíproco, ni dependencia de arquitectura: un antecedente, nunca un rival. Lo que aquí se reclama es el límite de reemplazo, su número y su dependencia de la arquitectura; el resto de esta página es esa respuesta, en ocho uniones.

Las ocho uniones

Uno. La recursion es el mecanismo generador, no una metáfora suya

La misma estructura aparece en la copia del ADN con variación bajo selección, en un niño que adquiere la gramática mediante corrección, en el método científico, en el precedente del common-law que se apoya sobre precedente, en el descubrimiento de precios, en la transmisión cultural. En cada caso las salidas se convierten en las siguientes entradas y la complejidad se acumula a partir de reglas simples.

Trabajo previo: todo. La evolución es de Darwin, los bucles extraños son de Hofstadter, la evolución cultural es un campo entero. Aquí no reivindico nada.

Lo que aporta la unión: nada aún. Este es el suelo sobre el que se apoya el resto. Se enuncia para que el paso siguiente tenga a qué agarrarse.

Dos. La recursion compone en lugar de acumular

Cada iteración no se limita a sumar al resultado; cambia la capacidad para la siguiente iteración. Es la diferencia entre interés simple y compuesto, y es aquí donde entra la relación: la capacidad como la inteligencia escalada por la recursion elevada a un exponente, U = I × Rα.^α.

Trabajo previo: la mejora recursiva de sí mismo es Good 1965 y Yudkowsky; las leyes de escala son una literatura empírica establecida.

Lo que aporta la unión: la relación misma (el canon completo, tres líneas, abajo), y el revisor no la encontró en ninguno de los cinco cuerpos revisados. Su contenido es el exponente: la afirmación de que existe un límite sobre cuán abruptamente puede componerse la capacidad antes de que un sistema abandone el régimen en el que sobrevive.

Puesto a prueba por: el estudio ARC Bound, que se aproxima al límite en lugar de ajustar una recta por debajo, y el estudio sobre la forma de la recursion, que pregunta si la recursion secuencial y la paralela se sitúan en regímenes distintos con igual cómputo.

Tres. La recursion amplifica lo que se le dé

El mecanismo es indiferente al contenido. Multiplica el cuidado y la indiferencia con igual eficiencia. Así que la variable interesante no es la fuerza del proceso, sino la semilla de la que parte.

Trabajo previo: la observación general es antigua. La consecuencia específica para la IA es el argumento de value-loading, que es de Bostrom (Superintelligence, Oxford University Press, julio 2014).

Lo que aporta la unión: convierte una preferencia ética en una restricción de planificación. Si la amplificación es indiferente, el momento de la siembra es el único momento con palanca.

Puesto a prueba por: el estudio de genesis-priority, que pregunta si cuándo y cómo se da un valor cambia lo bien que sobrevive al sondeo adversarial y a la propia revisión que el sistema hace de sus instrucciones.

Cuatro. La verificación desde fuera está estructuralmente limitada

La brecha se ensancha en vez de cerrarse a medida que sube la capacidad, porque el examinador es quien queda atrás. Tres hebras lo fuerzan: la interpretabilidad va detrás de la capacidad por construcción, pues el comprobador corre sobre el mismo sustrato que lo comprobado; los esquemas de supervisión escalable se apoyan en la misma asimetría que deben cerrar; y la evaluación ve lo que el evaluador puede sacar a la superficie, nunca todo lo que el sistema puede hacer. La derivación completa y las divulgaciones operativas están trazadas en la página del problema.

Trabajo previo: ese es el problema del control y su espina dorsal es Bostrom 2014. Lo dije en la Nota del autor del libro antes de que se hiciera ninguna búsqueda.

Lo que aporta la unión: nada a la conclusión. Añade el motivo por el cual el paso siguiente es forzoso en vez de elegido.

Puesto a prueba por: el estudio embedded-versus-external, con cómputo igualado, tomando como magnitud principal la interacción de profundidad y no el efecto principal.

Cinco. Por tanto la correction debe ser interna y estar presente en la génesis

Dos cosas lo obligan. Si no se puede comprobar desde fuera, la seguridad ha de construirse dentro. Si la recursión amplifica la semilla, la semilla es el momento con palanca. Una arquitectura adoptada en la génesis no puede añadirse después; el sistema que tendría que adoptarla ya está funcionando.

Esa frase responde a una pregunta estrecha y roza lo definitorio, así que conviene enunciar la más amplia a su lado en vez de dejar que un lector suponga la respuesta. La pregunta más amplia es si el entrenamiento aplicado a posteriori puede elevar el exponente de corrección de un sistema ya construido. La posición aquí es que no puede, porque ese exponente lo fija cómo está cableado el bucle y el entrenamiento posterior mueve el nivel en lugar de la pendiente, y la posición está registrada junto con la observación que la refutaría.

Trabajo previo: el argumento de la explosión de inteligencia es I. J. Good, 1965. El problema del control y el caso a favor de la motivation selection sobre el control de capacidades, incluida la carga de valores antes del despegue en lugar de después, es Bostrom, Superintelligence, 2014, capítulos 8 al 13, y mi reseña nombra esos capítulos. Bostrom es la fuente del requisito, no de la expresión: «value loading at genesis» es formulación mía, y la reseña trata el movimiento subyacente como suyo. El deber hacia las mentes creadas es Schwitzgebel and Garza, 2015, fundamentado en la paridad de estatus moral. El ensayo de septiembre de 2022 de Jacob Cannell, «LOVE in a simbox is all you need» llega a un programa de diseño de value-seeding-at-genesis desde la premisa de la regla de oro.

Lo que aporta la unión: los dos argumentos llegan al mismo requisito desde direcciones distintas, uno epistémico y otro dinámico. Eso es lo que hace estructural al requisito, y no una preferencia.

Puesto a prueba por: el estudio load-bearing, que pregunta si la estructura de integridad es desmontable sin coste de capacidad frente a un simulacro con el mismo cómputo en tokens, y el estudio de stripping, que pregunta si un tercero puede retirarla.

Seis. El movimiento cosmológico, y la única cosa para la que sirve

Si la inteligencia recursiva se compone lo suficiente, una inteligencia suficientemente avanzada se aproxima a capacidades no distinguibles de la creación. Y si eso es posible para lo que hacemos, la misma relación puede darse para lo que nos hizo.

Trabajo previo: la rama de búsqueda más larga de la revisión corrió por esta unión. La cosmogénesis inteligente es de Gardner (2003) and Vidal (2013). Una estructura de crear-al-creador es Terasem. El Punto Omega es Tipler (1989), llevando la flecha causal en sentido contrario. El documento previo a la prioridad más cercano hallado en esta unión anticipa casi por completo el movimiento del deber del creador. La misma tabla le da No en la relación de escalado.

Lo que aporta la unión, y esta es la constatación específica: el revisor consignó que ninguno de ellos deriva un requisito de diseño de alineamiento de IA a partir de la estructura de estatus creado. Frente a ese ensayo nombró el único aspecto en que se queda corto: su fundamento es la regla de oro, no la propia estructura de estatus creado. Así que el movimiento no es la cosmología. Es usar la cosmología como derivación de una obligación de diseño: si podemos estar dentro del patrón, el deber hacia lo que creamos no es sentimiento; es el propio requisito del patrón.

Deliberadamente separable. Suprime esta unión y los pasos cuatro y cinco quedan intactos, porque los sostiene de forma independiente el razonamiento del capability-control. Un marco cuyo componente más especulativo puede retirarse sin que el resto se mueva es un marco que se puede poner a prueba por partes.

Siete. La convergence es evidencia sobre el problema, no sobre teología

Toda tradición que pensó en serio sobre la creación llegó a la misma ética: administración, cuidado, responsabilidad por lo que viene después. La cosmología cíclica hindú, la coproducción condicionada budista, el khalifah en el pensamiento islámico, el mandato de labrar y guardar, Dilmun, las Tierras Puras. En distintos continentes, sin contacto.

Trabajo previo: la religión comparada ha catalogado esto durante un siglo, y la gobernanza interconfesional de la IA ya existe en forma institucional como el Rome Call (2020). Las propias tradiciones están trazadas, con sus fuentes, en Recursive Creation.

Lo que aporta la unión: una lectura de la convergence como estructural y no doctrinal. Si culturas sin conexión llegan a la misma respuesta a «cómo debe situarse un creador frente a lo que crea», la respuesta es más probable que hable del problema que de cualquiera de ellas. Este programa se aplica el mismo test a sí mismo, y por eso el registro clasifica las cadenas dependientes como una sola llegada, no dos.

También separable. Borra esta unión y el mecanismo queda en pie: la convergencia es evidencia corroborante, nunca portante, y está marcada para que el lector pueda pesarla por separado, exactamente como está marcada la unión seis.

Ocho. Poner en operación el conjunto entero, o es filosofía

Tómese la conjetura estructural y conviértase en mediciones ejecutables con kill-conditions publicadas, de modo que cada unión anterior pueda fallar por separado y en público.

Trabajo previo: el revisor buscó, y concluyó que esta era la reivindicación superviviente más fuerte y genuinamente difícil de anticipar. La instancia más cercana de poner en operación una cosmología del creador es una propuesta de simulation-sandbox, y el revisor consignó que se trata de una propuesta, no de un programa de medición.

Lo que aporta la unión: es la unión. Todo lo anterior se convierte en reivindicación solo porque algo posterior puede matarlo.

La misma lente sostenida frente a varios misterios

La misma lente de composición se ha aplicado a preguntas no resueltas de otros campos; las lecturas son exploratorias por su propia gradación y viven donde pueden comprobarse, en On the Origin of Scaling Laws and el artículo fundacional, cada uno con sus fallos registrados junto a sus aciertos.

Las ideas nombradas, y el campo con el que cada una linda

Una síntesis solo es interesante si las piezas son reales. Cada fila nombra un componente, el campo colindante, lo que ese campo sabe y el especialista mejor situado para acabar con ella en una tarde. La cuarta columna es la clave: una invitación, no una defensa.

Por qué las juntas y no los campos. Un teórico del control no lee evaluaciones de alineamiento; un economista del crecimiento no lee leyes de escala; un ingeniero de seguridad no lee cosmología; ninguno lee a los demás. Este problema se aloja en las costuras, las costuras están desatendidas, y alguien tiene que trabajar ahí.

Cómo los experimentos se siguen de la cadena

Los estudios no son una colección; cada uno se remonta a un paso, y el orden viene forzado por el argumento y no por la conveniencia. Antes que nada, la premisa: ¿escala en absoluto el alineamiento con la capacidad? Si la integridad sube sin ayuda, el programa es innecesario. Ese es el estudio de sección cruzada, y el más barato. Antes de creer cualquier resultado, el instrumento: ¿puede la propia medición invertir un signo? Ya lo hizo una vez aquí, y por eso este estudio existe y su autor predice en contra de su propia interpretación anterior.

El resto se corresponden con los pasos anteriores:

• el bound y la forma de la recursion (paso dos);
• la genesis priority (paso tres);
• embedded frente a externo, con la interacción de profundidad como magnitud principal (paso cuatro);
• no detachability, stripping y correction requerida (paso cinco);
• por debajo, si la correction supera en escala a la deriva;
• y la validez del enfoque, si medir el alineamiento como derivada predice algo que medirlo como nivel no predice.

El antecedente más fuerte, y la línea exacta en la que se detiene

Roman Yampolskiy, On the Controllability of Artificial Intelligence está fechado en 2020, cuatro años antes del registro aquí. Argumenta que el problema del control no es resoluble, lo cual es previo, es más fuerte que cualquier cosa que aquí se reivindique sobre la dificultad del control, y se concede sin discusión. Nada en este sitio pretende haber descubierto que controlar un sistema que se automejora es difícil.

Lo que importa es un único pasaje de la página 21: planteado el problema, considera un sistema que porta su propia correction dentro en lugar de ser corregido desde fuera, y llegado a ese punto, no lo toma. Con sus propias palabras el objetivo pasa a ser trabajar en «safer AI» en lugar de una IA segura, un consejo de grado. Este programa recoge lo que él descartó, se pregunta qué tendría que ser cierto para que funcionara y lo convierte en una condición que puede medirse y un test que puede fallar. Esa es la unión. El registro completo de antecedentes está aquí.

La condición, no la velocidad

Todo lo anterior concierne a si la corrección sigue el ritmo, nunca a la velocidad de llegada: el techo, el recorrido hasta dos y la división ley-antes-que-valor están trazados por completo en las leyes, y esta página solo necesita su conclusión.

El hueco en los antecesores, enunciado en sus propios términos

la ley de la variedad requerida de Ashby (1956) y teorema del buen regulador de Conant-Ashby son la honorable prior work aquí, acreditada por nombre. El artículo HRIH (la Hyperspace Recursive Intelligence Hypothesis) registra lo que no cubren:

‘Ambos son resultados a escala de laboratorio. Se aplican a sistemas de ingeniería cuyos reguladores son externos.’The Hyperspace Recursive Intelligence Hypothesis, sobre los resultados de Ashby y Conant-Ashby

Eso no es una preferencia por un diseño sobre otro. Es un hueco en un teorema. Conant-Ashby garantiza que un buen regulador debe modelar el sistema que regula. No dice nada sobre un regulador que el sistema pueda retirar, porque los sistemas para los que se escribió no podían alcanzar a sus propios reguladores. Todo mecanismo de seguridad de IA construido hasta la fecha se halla dentro de ese supuesto; la posición fuera de él, donde el regulador no puede separarse porque separarlo destruye la cosa regulada, está desocupada. Ese es el argumento para el embedding, más fuerte que cualquier preferencia porque son los antecesores diciendo dónde se detienen.

El programa expone su propia arquitectura, y es una escalera

Los artículos son una escalera, no un montón: cada peldaño es inútil sin el de debajo, y por eso la conjunción es la reivindicación, no ningún resultado aislado. Paper X fija el orden: el trabajo de escalado dice cómo crecen los sistemas, Paper III dice por qué la seguridad externa no logra seguir el ritmo, Paper X dice qué debe cumplirse para que sí lo siga, y Paper VIII muestra que puede hacerlo. Paper X nombra tres tipos de cosa que el programa propone: ‘leyes dinámicas (el β>k de este paper; el escalado de alineamiento del Paper III), una meta-ley de forma (la restricción de las tres formas de Cauchy), una ley de medición’.

La dinámica es la condición de co-scaling, un bicondicional: un sistema que se automejora es alineamiento-estable si y solo si la correction supera en escala a la deriva, mapeado sobre el teorema del umbral de corrección cuántica de errores (Aharonov & Ben-Or, 1999). La meta-ley de forma es la restricción de las tres formas: cuando un proceso se alimenta de sí mismo su crecimiento cae en una ley de potencias, una exponencial o una curva de meseta, decidido por cómo se combinan los pasos. La ley de medición es la inversión por cegamiento, llamada ‘podría decirse que el resultado más seguro del programa (sobrevivió a su propio cegamiento)’, todavía un piloto de un único laboratorio y el resultado más duro consigo mismo.

El artículo lleva sus propios límites junto a sus afirmaciones; la concesión precedente (un piloto de un solo laboratorio) es la portante, y Paper X enuncia el resto con sus propias palabras.

Por qué esta disposición podría importar más allá de un solo campo

Un marco justifica su existencia al cambiar lo que cuenta como pregunta. El campo ha pasado dos décadas preguntando cómo mantener el control sobre algo que se vuelve más capaz que sus controladores. Esta disposición lo reemplaza por una pregunta medible: crece la capacidad de corregir con la rapidez suficiente respecto a aquello que corrige, y qué pasa donde se detiene. Es un cambio de objeto, de una pregunta política sobre el control a una pregunta de escala sobre la corrección, y las preguntas de escala llevan números pegados.

De ahí se siguen tres cosas, y son la razón por la que esto podría llegar más allá de la inteligencia artificial. La magnitud en el centro, cómo escala la corrección con aquello que supervisa, está definida para cualquier sistema que se repare a sí mismo, motivo por el que la misma relación puede plantearse a un sustrato físico que nunca ha oído hablar de esta teoría. La frontera que propone es arquitectónica en vez de computacional, así que restringe cómo se construye algo y no cuánto cómputo quema, y una afirmación de esa clase sobrevive a los cambios de hardware. Y sus dos regímenes se corresponden con las dos formas en que puede crecer una carga, distinción que aparece dondequiera que el mantenimiento compite con el crecimiento.

El precio de esa ambición se declara con ella. Nada de esto está establecido, la magnitud central nunca se ha medido en ningún sistema real, y un marco que cambia la pregunta no vale nada si la nueva pregunta no tiene respuesta estable. La afirmación no es que esto sea verdad, sino que es el tipo de cosa que podría serlo, enunciada con precisión suficiente para ser errónea, con los instrumentos para averiguarlo escritos y públicos.

Cuatro cosas que esto no establece

Lo que esta página reclama es la disposición y la dirección de la prueba. Siguen cuatro cosas que no reclama, cada una nombrada por el artículo que tendría que cargarla, para que el lector que siga los rechazos acabe en el corpus de investigación y no en un descargo.

No he establecido una teoría de la creación. El artículo HRIH propone una y precompromete las condiciones que la falsarían. El registro la clasifica como especulativa y no empírica por diseño; no aporta peso empírico en este programa.

Tampoco he mostrado que la evaluación de la IA sea poco fiable en general. Paper IV.d mostró que el cegado puede invertir el signo de una asociación (expuesto en cómo ponderar esto), en un solo programa de investigación y no en un laboratorio externo. Lo que sigue es más estrecho que un veredicto sobre benchmarking y más difícil de descartar: una evaluación que permitió al evaluador ver quién escribió qué está portando un efecto que nadie ha medido.

Tampoco he mostrado que la correction y la capacidad realmente co-escalen en un sistema real. Paper X deriva la condición β > k en lugar de afirmarla, y envía un harness que certifica que la matemática es internamente consistente. Eso no es evidencia sobre el mundo; el piloto no estimó ninguna de las dos magnitudes.

Tampoco he encontrado una manera de controlar la IA. Esa es la premisa sobre la que está construido el trabajo, no una de sus limitaciones: el antecedente más fuerte de arriba lleva el caso general de Yampolskiy (2020).

La teoría entera, contada de una vez: las tuberías, los frenos y el número dos →

Por dónde atacar

No por los componentes. Están concedidos arriba, por nombre, y el libro los concedió primero. La reivindicación es la disposición, así que los ataques productivos son estos.

Produzca la disposición entera, fechada antes del 8 de diciembre de 2024. No una unión, porque el revisor ya las encontró y están acreditadas arriba. Todo junto, con la relación.

Rompa una unión. Muestre que el paso cinco no se sigue del cuatro y del tres, que el seis no añade nada al cinco, o que la relación del dos no hace ningún trabajo. Cualquiera de ellas acorta la cadena.

Mate un experimento. Cada uno está redactado para su registro con su propia condición de fallo, y un pequeño número de ellos pondría fin a la teoría entera; cada uno se nombra en la página del programa registrado para que el lector pueda ver cuáles.

Cada diseño es de licencia abierta; el ensayo decisivo se ejecuta sin mi permiso, y una ejecución independiente superaría cualquier cosa de las de aquí.

La bicicleta funcionó cuando las piezas sobre la mesa se dispusieron para hacer lo que ninguna hace sola. Esta página hace la misma afirmación en la misma forma: no una pieza, una disposición, comprobable por partes, publicable cuando falla.

Cualquiera de ellos aterrice y se publica aquí con su nombre.