Tradução automática do original inglês datado. A página em inglês é a canónica. English →

A disposição

A síntese

Desmonte uma bicicleta e disponha as peças sobre uma mesa. Roda, corrente, engrenagem, quadro, travão. Nenhuma delas foi inventada por quem construiu a primeira bicicleta, e cada uma existia há anos antes de alguém andar em qualquer coisa. A invenção foi a disposição.

Os três regimes de escala, com o expoente medido e o bound proposto, estão desenhados na página da lei.

Porque é que uma disposição pode ser, sequer, uma reivindicação

Essa é a forma daquilo que reivindico. Todos os componentes abaixo têm trabalho anterior por detrás de si, nomeado no livro antes de qualquer pessoa o ter revisto. O que reivindico é a maneira como estão montados.

Newton juntou as órbitas de Kepler aos corpos em queda de Galileu; Maxwell juntou os campos de Faraday às correntes de Ampère e à luz. A maior parte das suas peças já estava sobre a mesa; a junção foi a descoberta. A questão nunca é se uma única peça é nova, mas se alguém já pôs estas peças em conjunto, nesta esta ordem, de modo que juntos fazem um trabalho que nenhum faz sozinho.

Efetuei uma revisão adversarial de precedência em dez configurações de fronteira em seis fornecedores, cada um instruído a ser hostil. Sobre os componentes foi brutal; esse veredicto está publicado em todo o site. Sobre a disposição relatou outra coisa:

Nenhum trabalho anterior isolado junta os seis elementos. E, na sua própria tabela elemento a elemento, nenhum dos cinco corpos de trabalho anterior que examinou contém a relação de escala. Todos os cinco pontuam Não nesse ponto.

Individualmente antecipadas. Em conjunto, não previstas pela pesquisa que foi realizada. Essa é a afirmação inteira. A tabela elemento a elemento da revisão, fonte por fonte, está publicada na íntegra na página de trabalho relacionado, incluindo os lugares em que encontrou os componentes já tomados. O que se segue não é essa tabela. É a cadeia em que esses elementos se situam, em oito passos, do mecanismo em que começa até ao teste em que tem de terminar.

A base sobre a qual a síntese se apoia

A premissa, não a deste programa. Nada na história do universo cresceu sem limite, e em todos os casos o limite veio de fora daquilo que crescia. O mecanismo das redes de transporte é de West, Brown and Enquist (1997); a exceção, cidades que só crescem por inovação externa cada vez mais rápida, é de Bettencourt, Lobo, Helbing, Kühnert and West (2007); ambos estão traçados por inteiro em as leis. A derivação é honestamente contestada: Kozlowski and Konarzewski (2004) perguntaram no título do seu artigo se o modelo é matematicamente correto e biologicamente relevante; a síntese apoia-se por isso na família dos argumentos de redes de transporte, nunca numa única derivação, e onde um expoente entra mais abaixo, entra como medição.

A pergunta que esta página herda é a de Chalmers (2010) e de Hutter (2012): de onde poderia vir um limite interno quando o externo deixa de se aplicar. Hutter não deriva expoente, nem recíproco, nem dependência de arquitetura: um antecedente, nunca um rival. O que aqui se reivindica é o limite de substituição, o seu número e a sua dependência da arquitetura; o resto desta página é essa resposta, em oito junções.

As oito junções

Um. A recursion é o mecanismo generativo, não uma metáfora dele

A mesma estrutura aparece na cópia de ADN com variação sob seleção, numa criança que adquire a gramática através de correction, no método científico, no precedente do common law construído sobre precedente, na descoberta de preços, na transmissão cultural. Em cada caso, os outputs tornam-se os inputs seguintes e a complexidade acumula-se a partir de regras simples.

Trabalho anterior: todo. A evolução é Darwin, os strange loops são Hofstadter, a evolução cultural é um campo. Nada reivindico aqui.

O que a junção acrescenta: nada, ainda. Este é o chão sobre o qual o resto se apoia. É enunciado para que o passo seguinte tenha onde se agarrar.

Dois. A recursion compõe-se em vez de se acumular

Cada iteração não se limita a somar-se ao resultado; altera a capacidade da iteração seguinte. É essa a diferença entre juros simples e compostos, e é aí que entra a relação: capacidade como inteligência escalada pela recursion elevada a um expoente, U = I × Rα.^α.

Trabalho anterior: o auto-aperfeiçoamento recursivo é Good 1965 e Yudkowsky; as leis de escala são uma literatura empírica estabelecida.

O que a junção acrescenta: a própria relação (o cânone por inteiro, três linhas, abaixo), e o revisor não a encontrou em nenhum dos cinco corpos verificados. O seu conteúdo é o expoente: a afirmação de que existe um bound para a inclinação com que a capacidade pode compor-se antes de um sistema abandonar o regime em que sobrevive.

Testada por: o ARC Bound study, que se aproxima do bound em vez de ajustar uma linha por baixo dele, e o recursion-form study, que pergunta se a recursion sequencial e a paralela se situam em regimes diferentes com computação equiparada.

Três. A recursion amplifica seja o que for que lhe seja dado

O mecanismo é indiferente ao conteúdo. Multiplica o cuidado e a indiferença com igual eficiência. Portanto, a variável interessante não é a força do processo mas a semente de que parte.

Trabalho anterior: a observação geral é antiga. A consequência específica para a IA é o argumento do value-loading, que é de Bostrom (Superintelligence, Oxford University Press, julho 2014).

O que a junção acrescenta: converte uma preferência ética numa restrição de calendarização. Se a amplificação é indiferente, o momento da sementeira é o único momento com alavancagem.

Testada por: o estudo de genesis-priority, que pergunta se o quando e o como de dar um valor altera o quão bem ele sobrevive à sondagem adversarial e à revisão que o próprio sistema faz das suas instruções.

Quatro. A verificação a partir de fora é estruturalmente limitada

O fosso alarga-se em vez de se fechar à medida que a capacidade sobe, porque quem fica para trás é o examinador. Três fios obrigam a isso: a interpretabilidade atrasa-se face à capacidade por construção, pois o verificador corre no mesmo substrato do verificado; os esquemas de supervisão escalável apoiam-se na própria assimetria que deviam fechar; e a avaliação vê o que o avaliador consegue trazer à superfície, nunca tudo o que o sistema pode fazer. A derivação completa e as divulgações operacionais estão traçadas em página do problema.

Trabalho anterior: é este o problema do controlo e a sua espinha dorsal é Bostrom 2014. Disse-o na Nota do autor do livro antes de qualquer pesquisa ter sido feita.

O que a junção acrescenta: nada à conclusão. Acrescenta a razão pela qual o passo seguinte é forçado, e não escolhido.

Testada por: o estudo embedded-versus-external, com computação equiparada, com a interação em profundidade como quantidade primária e não como efeito principal.

Cinco. Portanto, a correction tem de ser interna e presente na génese

Duas coisas o impõem. Se não se pode verificar de fora, a segurança tem de ser construída dentro. Se a recursão amplifica a semente, a semente é o momento com alavanca. Uma arquitectura adoptada na génese não pode ser acrescentada depois; o sistema que teria de a adoptar já está a correr.

Essa frase responde a uma pergunta estreita e é quase definitória, pelo que vale a pena enunciar a mais ampla ao lado em vez de deixar que um leitor presuma a resposta. A pergunta mais ampla é se o treino aplicado a posteriori pode elevar o expoente de correcção num sistema já construído. A posição aqui é que não pode, porque esse expoente é fixado pela forma como o ciclo está ligado e o treino posterior desloca o nível em vez do declive, e a posição está registada com a observação que a refutaria.

Trabalho anterior: o argumento da explosão de inteligência é I. J. Good, 1965. O problema do controlo e a defesa da motivation selection sobre o controlo de capacidades, incluindo o carregamento de valores antes da descolagem em vez de depois, é Bostrom, Superintelligence, 2014, capítulos 8 a 13, e a minha resenha nomeia esses capítulos. Bostrom é a fonte da exigência, não da expressão: “value loading at genesis” é formulação minha, e a resenha trata o movimento subjacente como sendo dele. O dever para com as mentes criadas é Schwitzgebel and Garza, 2015, fundamentado na paridade de estatuto moral. O ensaio de Jacob Cannell de setembro de 2022, “LOVE in a simbox is all you need” , chega a um programa de conceção de sementeira de valores na génese a partir de uma premissa da regra de ouro, e não desta.

O que a junção acrescenta: os dois argumentos a chegar à mesma exigência a partir de direções diferentes, uma epistémica e outra dinâmica. É isso que torna a exigência estrutural em vez de uma preferência.

Testada por: o estudo load-bearing, que pergunta se a estrutura de integridade é destacável sem custo em capacidade quando comparada com um sham equiparado em tokens, e o estudo de stripping, que pergunta se um terceiro a consegue remover.

Seis. O movimento cosmológico e a única coisa para que serve

Se a inteligência recursiva se compõe suficientemente longe, uma inteligência suficientemente avançada aproxima-se de capacidades indistinguíveis da criação. E se isso é possível para o que fazemos, a mesma relação pode valer para o que nos fez.

Trabalho anterior: o ramo de busca mais longo da revisão correu nesta junção. A cosmogénese inteligente é de Gardner (2003) and Vidal (2013). Uma estrutura criar-o-criador é a Terasem. O Ponto Ómega é Tipler (1989), levando a seta causal no sentido inverso. O documento anterior à prioridade mais próximo encontrado nesta junção antecipa quase por inteiro o movimento do dever do criador. A mesma tabela dá-lhe Não na relação de escala.

O que a junção acrescenta, e esta é a descoberta específica: o revisor registou que nenhum deles deriva uma exigência de conceção de alinhamento de IA a partir da estrutura de estatuto-de-criado. Contra esse ensaio, nomeou o único aspeto em que fica aquém: a sua fundamentação é a regra de ouro, e não a própria estrutura de estatuto-de-criado. Portanto, o movimento não é a cosmologia. É usar a cosmologia como derivação de uma obrigação de conceção: se podemos estar dentro do padrão, o dever para com aquilo que criamos não é sentimento; é a própria exigência do padrão.

Deliberadamente separável. Elimine esta junção e os passos quatro e cinco permanecem inalterados, porque são independentemente sustentados pelo raciocínio do controlo de capacidade. Um enquadramento cujo componente mais especulativo pode ser removido sem que o restante se mexa é um enquadramento que se pode testar por partes.

Sete. A convergência é evidência sobre o problema, não sobre teologia

Todas as tradições que pensaram a sério sobre a criação chegaram à mesma ética: gestão responsável, cuidado, responsabilidade para com o que vem depois. A cosmologia cíclica hindu, a origem dependente budista, khalifah no pensamento islâmico, o mandato de cuidar e guardar, Dilmun, as Terras Puras. Ao longo de continentes, sem contacto.

Trabalho anterior: a religião comparada catalogou isto durante um século, e a governação inter-religiosa da IA já existe em forma institucional como o Rome Call (2020). As próprias tradições estão traçadas, com as suas fontes, em Recursive Creation.

O que a junção acrescenta: uma leitura da convergence como estrutural em vez de doutrinal. Se culturas sem contacto chegam à mesma resposta a “como deve um criador postar-se face àquilo que cria”, é mais provável que a resposta seja sobre o problema do que sobre qualquer uma delas. Este programa aplica o mesmo teste a si próprio, razão pela qual o register graded cadeias dependentes como uma única chegada, e não duas.

Também separável. Apague esta junção e o mecanismo mantém-se: a convergência é evidência corroborante, nunca portante, e está marcada para que o leitor possa pesá-la à parte, exatamente como está marcada a junção seis.

Oito. Operacionalizar tudo isto, ou é filosofia

Pegar na conjetura estrutural e transformá-la em medições executáveis com kill-conditions publicadas, para que cada junção acima possa falhar separadamente e em público.

Trabalho anterior: o revisor procurou e concluiu que esta era a reivindicação sobrevivente mais forte e genuinamente difícil de antecipar. A instância mais próxima de operacionalizar uma cosmologia de criador é uma proposta de simulation-sandbox, e o revisor registou que se trata de uma proposta e não de um programa de medição.

O que a junção acrescenta: é a junção. Tudo o que está acima só se torna reivindicação porque algo abaixo o pode matar.

A mesma lente aplicada a vários mistérios

A mesma lente de composição foi posta sobre questões por resolver de outros campos; as leituras são exploratórias pela sua própria gradação e vivem onde podem ser verificadas, em On the Origin of Scaling Laws and o artigo fundacional, cada um com as suas falhas registadas ao lado dos acertos.

As ideias nomeadas, e o campo com que cada uma faz fronteira

Uma síntese só é interessante se as peças forem reais. Cada linha nomeia um componente, o campo com que faz fronteira, o que esse campo sabe, e o especialista mais bem colocado para o encerrar numa tarde. A quarta coluna é o essencial: um convite, não uma defesa.

Porquê as junções e não os campos. Um teórico do controlo não lê avaliações de alinhamento; um economista do crescimento não lê leis de escala; um engenheiro de segurança não lê cosmologia; nenhum lê os outros. Este problema está nas costuras, as costuras não são atendidas por ninguém, e alguém tem de ali trabalhar.

Como as experiências decorrem da cadeia

Os estudos não são uma coleção; cada um remete para um passo, e a ordem é forçada pelo argumento e não pela conveniência. A premissa antes de tudo o resto: o alinhamento escala de todo com a capacidade? Se a integridade sobe sem ajuda, o programa é desnecessário. Esse é o estudo transversal, e o mais barato. O instrumento antes de qualquer resultado ser acreditado: pode a própria medição inverter um sinal? Já o fez uma vez aqui, razão pela qual este estudo existe e o seu autor prediz contra a sua própria interpretação anterior.

O resto mapeia para os passos acima:

• o bound e a forma de recursion (passo dois);
• a prioridade de génese (passo três);
• embedded contra external, com a interação em profundidade como principal (passo quatro);
• não-destacabilidade, stripping e a correction requerida (passo cinco);
• por baixo, será que a correction ultrapassa a deriva em escala;
• e validade da abordagem, será que medir o alinhamento como derivada prediz alguma coisa que medi-lo como nível não prediz.

O antecedente mais forte, e a linha exata em que para

Roman Yampolskiy, On the Controllability of Artificial Intelligence está datado de 2020, quatro anos antes do registo aqui. Argumenta que o problema do controlo não é solúvel, o que é anterior, é mais forte do que qualquer coisa aqui reivindicada sobre a dificuldade do controlo, e é concedido sem discussão. Nada neste site reivindica ter descoberto que controlar um sistema em autoaperfeiçoamento é difícil.

O que importa é uma única passagem na página 21: tendo enunciado o problema, considera um sistema que transporta a sua própria correction internamente em vez de ser corrigido a partir de fora e, tendo lá chegado, não a segue. Nas suas próprias palavras, o objetivo torna-se o trabalho em prol de “safer AI” em vez de safe AI, um conselho de grau. Este programa retoma o que ele descartou, pergunta o que teria de ser verdade para funcionar, e transforma isso numa condição que pode ser medida e num teste que pode falhar. É essa a junção. O registo completo dos antecedentes está aqui.

A condição, não a velocidade

Tudo o que está acima diz respeito a se a correção acompanha o ritmo, nunca à velocidade de chegada: o teto, o percurso até dois e a divisão lei-antes-do-valor estão traçados por inteiro em as leis, e esta página só precisa da conclusão deles.

A lacuna nos ancestrais, enunciada nos próprios termos dos ancestrais

a lei da variedade necessária de Ashby (1956) e teorema do bom regulador de Conant-Ashby são o honroso trabalho anterior aqui, creditado pelo nome. O artigo HRIH (a Hyperspace Recursive Intelligence Hypothesis) regista o que eles não cobrem:

‘Both are lab-scale results. They apply to engineered systems whose regulators are external.’The Hyperspace Recursive Intelligence Hypothesis, sobre os resultados de Ashby e Conant-Ashby

Isto não é uma preferência por uma conceção em detrimento de outra. É uma lacuna num teorema. Conant-Ashby garante que um bom regulador tem de modelar o sistema que regula. Nada diz sobre um regulador que o sistema pode remover, porque os sistemas para os quais foi escrito não conseguiam alcançar os seus próprios reguladores. Todos os mecanismos de segurança de IA construídos até hoje ficam dentro desse pressuposto; a posição fora dele, em que o regulador não pode ser destacado porque destacá-lo destrói aquilo que está a ser regulado, está desocupada. Esse é o argumento a favor do embedding, mais forte do que qualquer preferência, porque são os ancestrais a dizer onde param.

O programa enuncia a sua própria arquitetura, e é uma escada

Os artigos são uma escada, não uma pilha: cada degrau é inútil sem o de baixo, razão pela qual a conjunção é a reivindicação, e não qualquer resultado isolado. O Artigo X estabelece a ordem: o trabalho de escala diz como os sistemas crescem, o Artigo III diz porque a segurança externa não consegue acompanhar, o Artigo X diz o que tem de valer para que consiga acompanhar, e o Artigo VIII mostra que é possível. O Artigo X nomeia três tipos de coisa que o programa propõe: ‘dynamical laws (this paper's β>k; Paper III's alignment scaling), a form meta-law (the Cauchy three-form constraint), a measurement law’.

A dinâmica é a condição de co-scaling, um bicondicional: um sistema em autoaperfeiçoamento é estável em alinhamento se e só se a correction ultrapassar a deriva em escala, mapeada no teorema do limiar de correção de erros quânticos (Aharonov & Ben-Or, 1999). A meta-lei de forma é a restrição das três formas: quando um processo se alimenta de si próprio, o seu crescimento cai numa lei de potência, numa exponencial ou numa curva de nivelamento, decidido pelo modo como os passos se combinam. A lei de medição é a inversão por cegamento, chamada ‘arguably the programme's most secure result (it survived its own blinding)’, ainda um piloto de um único laboratório e o resultado mais duro consigo próprio.

O artigo carrega os seus próprios limites ao lado das suas afirmações; a concessão anterior (um piloto de um único laboratório) é a portante, e Artigo X enuncia o resto nas suas próprias palavras.

Porque esta disposição poderia importar para lá de um único campo

Um enquadramento justifica-se ao mudar o que conta como pergunta. O campo passou duas décadas a perguntar como manter o controlo sobre algo que se torna mais capaz do que os seus controladores. Esta disposição substitui isso por uma pergunta mensurável: cresce a capacidade de corrigir depressa o suficiente em relação àquilo que corrige, e o que acontece onde ela pára. É uma mudança de objeto, de uma pergunta de política sobre controlo para uma pergunta de escala sobre correção, e as perguntas de escala trazem números anexados.

Daí decorrem três coisas, e são a razão pela qual isto poderia chegar para lá da inteligência artificial. A grandeza no centro, o modo como a correção escala com aquilo que supervisiona, está definida para qualquer sistema que se repare a si próprio, motivo pelo qual a mesma relação pode ser colocada a um substrato físico que nunca ouviu falar desta teoria. A fronteira que propõe é arquitetural em vez de computacional, portanto restringe como algo é construído e não quanto cálculo queima, e uma afirmação desse género sobrevive a mudanças de hardware. E os seus dois regimes correspondem aos dois modos como uma carga pode crescer, distinção que aparece onde quer que a manutenção compita com o crescimento.

O preço dessa ambição vem enunciado com ela. Nada disto está estabelecido, a grandeza central nunca foi medida em qualquer sistema real, e um enquadramento que muda a pergunta não vale nada se a nova pergunta não tiver resposta estável. A afirmação não é que isto seja verdade, mas que é o tipo de coisa que o poderia ser, enunciada com precisão suficiente para poder estar errada, com os instrumentos para o descobrir escritos e públicos.

Quatro coisas que isto não estabelece

O que esta página reivindica é a disposição e a direção do teste. Seguem-se quatro coisas que não reivindica, cada uma com o nome do artigo que teria de a sustentar, para que o leitor que siga as recusas acabe no corpo de investigação e não numa ressalva.

Não estabeleci uma teoria da criação. O artigo HRIH propõe uma e pré-compromete-se às condições que a falsificariam. O register graded-a como especulativa e não empírica por conceção; não carrega peso empírico neste programa.

Nem mostrei que a avaliação de IA seja não fiável em geral. O Artigo IV.d mostrou que o cegamento pode inverter o sinal de uma associação (exposto em como ponderar isto), num só programa de investigação e não num laboratório externo. O que se segue é mais estreito do que um veredicto sobre benchmarking e mais difícil de descartar: uma avaliação que deixou o avaliador ver quem escreveu o quê está a carregar um efeito que ninguém mediu.

Nem mostrei que a correction e a capacidade façam de facto co-scale num sistema real. Artigo X deriva a condição β > k em vez de a afirmar, e entrega um harness que certifica que a matemática é internamente consistente. Isso não é evidência sobre o mundo; o piloto não estimou nenhuma das duas quantidades.

Nem encontrei uma forma de controlar a IA. É a premissa sobre a qual o trabalho está construído, não uma das suas limitações: o antecedente mais forte acima carrega o caso geral de Yampolskiy (2020).

A teoria completa, contada de uma só vez: os canos, os travões e o número dois →

Por onde atacar

Não pelos componentes. Esses estão concedidos acima, pelo nome, e o livro concedeu-os primeiro. A reivindicação é a disposição, portanto os ataques produtivos são estes.

Produza a disposição inteira, datada antes de 8 de December de 2024. Não uma junção, porque o revisor já encontrou essas e estão creditadas acima. Toda ela em conjunto, com a relação.

Parta uma junção. Mostre que o passo cinco não decorre do quatro e do três, que o seis nada acrescenta ao cinco, ou que a relação no dois não faz trabalho. Qualquer uma dessas encurta a cadeia.

Mate uma experiência. Cada um é redigido para registo com a sua própria condição de falha, e um pequeno número deles poria fim à teoria inteira; cada um é nomeado na página do programa registado para que o leitor possa ver quais.

Cada desenho é de licença aberta; o ensaio decisivo executa-se sem a minha permissão, e uma execução independente superaria tudo o que aqui está.

A bicicleta funcionou quando as peças sobre a mesa foram dispostas para fazer o que nenhuma faz sozinha. Esta página faz a mesma reivindicação na mesma forma: não uma peça, uma disposição, testável por partes, publicável quando falha.

Qualquer uma delas acerta e é publicada aqui com o seu nome.