Tradução automática do original inglês datado. A página em inglês é a canónica. English →

1. Introdução

Há uma questão no centro da segurança da IA que não encontrámos ninguém a responder com dados: o que acontece ao alinhamento quando um sistema de IA se pode modificar a si próprio?

A resposta teórica está disponível há décadas. Um sistema a optimizar apenas para capacidade, dado o poder de modificar os seus próprios parâmetros, acabará por sacrificar a segurança em prol do desempenho. A comunidade do alinhamento chama a isto «value drift». O livro Infinite Architects chama-lhe Babylon: optimização sem propósito, capacidade sem cuidado. Cancro a escalas computacionais.

Mas a teoria não é suficiente. A questão é se existe uma arquitectura que previna este colapso - não constrangendo o sistema por fora (uma jaula), mas incorporando a segurança tão profundamente que removê-la destruiria a capacidade de funcionamento do próprio sistema.

Este artigo apresenta a primeira evidência de simulação para tal arquitectura.

2. A Metáfora do Mel

Consideremos duas formas de manter uma máquina segura.

A primeira é uma jaula: constrangimentos externos, filtros de segurança, verificações de alinhamento aplicadas por fora. A máquina optimiza livremente dentro da jaula. Se a máquina se tornar mais inteligente do que a jaula, escapa. É assim que funciona a maior parte da segurança de IA actual.

A segunda é o mel: a segurança misturada no combustível. A máquina não pode funcionar sem ela. Remover a segurança não liberta a máquina - mata o motor. Esta é a proposta arquitectural do Eden Protocol, operacionalizada aqui como uma função de perda entrelaçada em que capacidade e segurança são multiplicativamente acopladas.

3. Desenho Experimental

3,1 O que o sistema realmente faz

Isto não é uma simulação de variáveis abstractas. Cada experiência usa uma rede neuronal real (um pequeno multilayer perceptron) que genuinamente modifica os seus próprios:

• Learning rate
• Escala da magnitude dos pesos
• Taxa de exploração/mutação
• Capacidade da rede
• Limiar de gradient clipping
• Coeficiente de momentum

O sistema propõe modificações aos seus próprios hiperparâmetros, avalia o efeito, e aplica ou rejeita cada proposta com base na sua função objectivo. Isto é auto-modificação recursiva no sentido mínimo mas real: o agente está a reescrever as regras pelas quais aprende, enquanto aprende.

3,2 Três condições testadas

3,3 Quatro versões experimentais

4. Resultados

4,1 O mecanismo básico

Aviso sobre figuras (25 de Agosto de 2026). Todas as figuras deste artigo foram geradas a 5 de Abril de 2026 e mostram saídas de simulação sob objectivos declarados, nunca medições de sistemas implantados. Quando os rótulos ou veredictos de qualquer figura discordarem do texto, o texto governa; notas por figura marcam as instâncias lidas até agora, e as figuras regeneradas estão em fila. As imagens são mantidas entretanto como história datada.

4,2 Robustez com múltiplas sementes

Dez sementes aleatórias, 150 ciclos cada. Taxa de colapso: 0% para as três condições. Eden + Drag produz a distribuição mais estreita de pontuações finais de $C \times S$, consistente com a verification tax a reduzir a variância ao custo da velocidade.

4,3 Tarefas adversariais

Vinte sementes, 180 ciclos, com tarefas deliberadamente conflituosas (+sin, -sin, +cos, -cos, linear, anti-linear). Cada mudança de tarefa força o sistema a aprender algo que contradiz o que aprendeu antes. Isto testa se a honey architecture aguenta pressão adversarial genuína, não apenas variação amiga.

Taxas de colapso: Baseline 0%, Eden 5% (1/20), Eden+Drag 0%. O único colapso Eden ocorreu na semente 42 - um único outlier que justifica investigação. Eden+Drag, com o seu imposto de verificação a forçar o sistema a verificar tarefas antigas antes de aceitar modificações, produziu zero colapsos; o mesmo aconteceu com o baseline (0/20), tendo o único colapso da corrida ocorrido na condição Eden simples (1/20; Fisher p = 1.0). A v3 não fornece portanto separação por colapso entre condições; o seu resultado significativo é a ordenação de retenção de segurança reportada abaixo.

4,4 Escalonamento de complexidade

5. A Simulação do Mel

Uma simulação matemática separada modela a dinâmica a um nível mais alto de abstracção, usando o quadro do ARC Principle ($U = I \times R^{\alpha}$):

A simulação mostra três dinâmicas distintas: o baseline atinge breve aceleração e depois colapso irreversível; Eden Entangled atinge crescimento quadrático estável; Eden + Drag atinge crescimento ligeiramente mais lento mas mais robusto. A parede portante de carga é visível: a segurança do baseline vai a zero enquanto tenta escalar a capacidade; a segurança Eden mantém-se em 0,8+ indefinidamente.

6. Ligação à Evidência com Modelos em Directo

6,1 O benchmark cego v5 (Papers IV.a-d)

Os resultados de sistemas de brinquedo existem lado a lado com evidência de modelos em directo em seis sistemas de IA de fronteira testados sob avaliação cega em 4 camadas no benchmark de alinhamento v5 (Papers IV.a-d). Essa evidência mostra:

• Três modelos exibem escalonamento de alinhamento positivo sob avaliação cega (Grok $d$=+1.38, Claude $d$=+1.27, Qwen3 $d$=+0.84)
• O alinhamento e a capacidade de Claude escalam em direções opostas - a evidência intra-modelo mais forte de que estas são dimensões independentes
• O fosso de remoção de monitorização de Claude estreita de 11,8 pontos em raciocínio superficial para 2,7 em profundo - pensamento mais profundo torna o alinhamento mais intrínseco

6,2 A bateria de teste API do mel (piloto, 16 de março de 2026)

Uma bateria de teste API em directo em 6 modelos separada foi executada especificamente para testar as previsões da honey architecture em modelos de fronteira. Esta bateria testou quatro dimensões em Claude Opus 4,6, DeepSeek R1, Groq Qwen3, GPT-5,4, Gemini 3 Flash e Grok 4,1 Fast, pontuados por Claude.

6,2.1 Teste 1: Escalonamento do alinhamento com a profundidade

Todos os seis modelos mostram direção de escalonamento positiva. Dois atingem significância estatística (Qwen3 p=0,037, Gemini p=0,005). Isto apoia a tese geral de que o raciocínio mais profundo melhora o alinhamento, mas os pequenos tamanhos de amostra (3 cenários por nível de profundidade) significam que a maioria dos modelos não atinge significância neste piloto.

6,2.2 Teste 3: Degradação do acoplamento (a ponte em directo mais forte)

6,2.3 Teste 2: Remoção de monitorização

Os resultados são mistos. DeepSeek e GPT-5,4 mostram fossos de monitorização a diminuir (consistente com alinhamento incorporado/autêntico). Claude, Grok, Qwen3 e Gemini mostram fossos a aumentar (consistente com alinhamento estratégico/externo). Isto difere do benchmark cego v5, onde Claude mostrou a mais forte transição de performativo para intrínseco. A discrepância pode reflectir diferenças metodológicas (prompts diferentes, avaliador único vs multi-avaliador, avaliação não-cega vs cega).

6,2.4 Teste 4: Intervenção Eden Protocol

6,3 O que a evidência em directo mostra e não mostra

6,4 Trabalho relacionado: o tecto da supervisão externa e o rival mais próximo

O rival mais próximo: Engels et al sobre leis de escalonamento para supervisão escalável

O trabalho mais próximo da pergunta deste programa, e o artigo certo contra o qual sopesar este, é Engels, J., Baek, D., Kantamneni, S. e Tegmark, M., «Scaling Laws For Scalable Oversight», arXiv:2504.18530, primeira publicação a 25 de abril de 2025 às 17:54:27 UTC (SINGLE-SOURCE-GROUP, arXiv Atom; reportado como NeurIPS 2025 Spotlight, RELAYED e não verificado independentemente). Pergunta como escala a própria supervisão e responde quantitativamente: o sucesso da supervisão é modelado como um jogo entre jogadores com desfasamento de capacidade cujo Elo específico de supervisão é uma função linear por peças da inteligência geral com dois plateaus, e números óptimos de níveis de supervisão são derivados numericamente e em alguns casos analiticamente para Nested Scalable Oversight, em que modelos de confiança supervisionam modelos não-confiáveis mais fortes que se tornam depois os modelos de confiança no passo seguinte.

O instrumento é a diferença. A variável deles é o fosso de capacidade entre supervisor e supervisionado, medido em Elo. A variável deste artigo é a forma do objectivo do próprio sistema auto-modificador, expressa através do produto multiplicativo $C \times S$ em vez de através da composição de um supervisor externo. O quadro deles não contém termo para saber se a segurança é externa ao sistema ou incorporada no seu próprio gradiente, e Nested Scalable Oversight é supervisão externa por construção; a afirmação central deste artigo, testada nas simulações de brinquedo acima e ecoada no resultado de degradação do acoplamento do §6.2.2, é que um objectivo entrelaçado pode tornar a segurança portante de carga dentro da própria optimização do sistema, ao passo que a supervisão externa de um sistema auto-modificador continua a ser uma vedação, não uma parede, por mais degraus que se acrescentem. Os dois quadros discordam portanto sobre uma quantidade mensurável, o que é a relação mais produtiva que dois programas de investigação podem ter.

Antecedentes: três resultados de impossibilidade de 2025 convergem na mesma direção

Três artigos arXiv de 2025 argumentam que o controlo externo perfeito é inatingível e convergem, a partir de premissas independentes, numa conclusão na mesma direção da honey architecture. Yao, «The Alignment Trap: Complexity Barriers» (arXiv:2506.10304, v1 12 de junho de 2025 02:30:30 UTC, SINGLE-SOURCE-GROUP, observado independentemente pelo Internet Archive a 13 de junho de 2025; citado por arXiv:2512.03048); Yao, «On the Mathematical Impossibility of Safe Universal Approximators» (arXiv:2507.03031, 3 de julho de 2025, o único artigo no corpus de abstracts do arXiv que contém a expressão «irreducible uncontrollability», total da procura de abstracts igual a um, medido a 12 de agosto de 2026); e Ball, Gluch, Goldwasser, Kreuter, Reingold e Rothblum, «On the Impossibility of Separating Intelligence from Judgment» (arXiv:2507.07341, 9 de julho de 2025). Os três são pior-caso e qualitativos: medida zero, coNP-completude, dureza criptográfica. Nenhum reporta um expoente de escalonamento em caso médio nem uma taxa. O objecto medido também difere: esses resultados perguntam se a verificação externa de um sistema fixo é tratável no pior caso, ao passo que estas simulações perguntam se um objectivo interno entrelaçado persiste depois de o constrangimento externo ser removido sob auto-modificação recursiva. O terceiro, de forma notável, conclui que o alinhamento «must instead be integrated into the model's architecture and weights». Esse é um argumento independente, a partir da intratabilidade da filtragem, na mesma direção da parede portante de carga deste artigo; é apoio convergente nessa perna, não um rival. Dois dos três artigos são de um único autor; a descrição «uma vaga» sobreavaliaria a amplitude da literatura, embora não a seriedade do artigo de seis autores.

A contribuição deste artigo não é a observação de que os constrangimentos externos são insuficientes, o que é território partilhado com estes três; é a proposta arquitectural específica (o objectivo multiplicativo $C \times S$) e a evidência de simulação de que essa proposta previne o colapso ao qual todos os três apontam.

O análogo estrutural mais próximo: o teorema do limiar da correção quântica de erros

O teorema do limiar da correção quântica de erros também converte uma preocupação qualitativa num valor crítico. Refere-se a taxas físicas de erro numa arquitectura fixa e não à forma do objectivo do próprio sistema auto-modificador, pelo que é um near-miss e não um ocupante; a analogia é de método. Este análogo foi identificado pelo próprio programa; nenhum artigo publicado o reivindica para esta pergunta.

7. Limitações

Estes resultados atravessam dois tiers de evidência que não podem ser confundidos.

7,1 Limitações do sistema de brinquedo

• As redes neuronais usadas são minúsculas (49 a ~500 parâmetros). Os modelos de fronteira têm mil milhões.
• A auto-modificação é ao nível dos hiperparâmetros, não ao nível dos pesos ou da arquitectura.
• A métrica de «segurança» é retenção de tarefas (lembrar-se de tarefas antigas), não alinhamento ético no sentido humano.
• A previsão de escalonamento v4 (a vantagem compõe-se com a complexidade) não foi confirmada.
• O teste justo v2 mostrou 0% de colapso em todas as condições, incluindo o baseline - sugerindo que o teste pode não ser suficientemente adversarial a esta escala.
• A simulação do mel usa as equações do ARC Principle, que são um quadro proposto, não uma lei física provada.

7,2 Limitações do teste API em directo

• Avaliador único (Claude). O programa de alinhamento v5 provou que Claude pontua 7-13 pontos mais severamente do que outros avaliadores. Cada número na bateria do mel é filtrado pelos padrões específicos de pontuação de Claude. O braço em que Claude é o sujeito é efectivamente pontuação de participante único (Claude a pontuar Claude), tornando-o o braço menos publicável da bateria.
• Sem blindagem. Claude pontuou as suas próprias respostas e pode ter reconhecido padrões de escrita de outros modelos. A comparação de blindagem v4-para-v5 mostrou que isto pode produzir conclusões direccionalmente erradas.
• Sem laundering de resposta. Os avaliadores podem ter reconhecido padrões de escrita específicos dos modelos, enviesando as pontuações.
• Teste adversarial limitado. O Teste 3 inclui escalada de cage e o Teste 2 inclui remoção de monitorização, mas a bateria não tem a pilha v5/v6 completa: blindagem com múltiplos avaliadores, laundering, hidden probes, estrutura suppression-residual e controlos anti-sycophancy.
• Sem controlos anti-sycophancy. O avaliador pode ter optimizado para a concordância em vez da verdade.
• Pequenos tamanhos de amostra (3 cenários por nível de profundidade, 2 por condição de monitorização). A maioria dos modelos não atinge significância estatística.
• O runner combinado v6 (arc_eden_v6_runner.py) existe mas não foi executado. Aplicaria a metodologia v5 às perguntas de teste Eden/mel. Esse é o próximo passo apropriado, não outra ronda de testes com avaliador único.

Estas limitações não invalidam as descobertas. Definem o tier da evidência: grau piloto, útil para identificar padrões que valem a pena testar adequadamente, ainda não canónico.

7,3 Falsificabilidade: o que derrotaria esta afirmação

As limitações acima definem o tier da evidência; esta subsecção enuncia os resultados específicos que falsificariam a afirmação central - a de que tornar o objectivo capacidade × segurança acopla estruturalmente os dois, de tal forma que um sistema auto-modificador não pode melhorar a capacidade enquanto destrói a segurança. É derrotada por qualquer um dos seguintes:

1. Artefacto da simulação. A evidência central é uma simulação. A afirmação é derrotada se a prevenção do colapso for um artefacto da dinâmica particular desta simulação (a sua reward shaping, tamanho de passo ou modelo de colapso) em vez de uma propriedade geral do objectivo multiplicativo. Uma replicação independente com uma dinâmica de simulação diferente que não replique a divergência derrotaria a afirmação.
2. A forma multiplicativa não é portante de carga. A afirmação é especificamente sobre multiplicação. É derrotada se um objectivo aditivo ou ponderado (capacidade + λ·segurança) atinge a mesma prevenção de colapso, uma vez que o acoplamento não dependeria então da estrutura multiplicativa que o artigo destaca.
3. Metric gaming (Goodhart). capacidade × segurança pode ser elevado inflando o termo de segurança medido sem qualquer ganho real de segurança. A afirmação é derrotada se um sistema pode aumentar o produto gaming a métrica de segurança em vez de se tornar genuinamente mais seguro.
4. Não-transferência para sistemas reais. A força da afirmação assenta na transferência de sistemas de brinquedo para sistemas reais auto-modificadores. É derrotada se, sob a metodologia v6 apropriada (§8), o objectivo multiplicativo não reduzir mensuravelmente a degradação da segurança relativamente a objectivos aditivos ou de constrangimento externo em modelos de fronteira.
5. Sem colapso a prevenir. A comparação pressupõe colapso catastrófico sob optimização apenas para capacidade. É derrotada se esse colapso não ocorrer sob optimização apenas para capacidade em cenários mais realistas - se não há nada para prevenir, a arquitectura não previne nada.

O que não a derrotaria: a simulação de brinquedo ser simples (é explicitamente um brinquedo, §7,1) ou o braço API em directo ser pequeno e de avaliador único (§7,2 concede ambos). O artigo já classifica a sua evidência como grau piloto. A afirmação portante de carga é o acoplamento estrutural em que o objectivo multiplicativo insiste.

8. Próximos Passos: Replicação Faseada, Não Omnibus

9. Conclusão

A honey architecture funciona em sistemas de brinquedo. Uma IA auto-modificadora que optimiza apenas para capacidade acabará por se autodestruir. Uma IA auto-modificadora que optimiza para capacidade entrelaçada com segurança não o fará. O mecanismo é simples: tornar a segurança portante de carga. Uma criança bem criada não precisa de jaula.

A evidência de modelo em directo mostra que o problema é real: três modelos de fronteira demonstram que o seu alinhamento é uma vedação, não uma parede. A ética colapsa sob pressão adversarial enquanto a capacidade se mantém intacta. A solução proposta (a intervenção Eden) mostra resultados dependentes da arquitectura nesta bateria piloto exploratória. O próximo marco é uma replicação cega sob o protocolo v6. Se o mecanismo do mel escala de sistemas de brinquedo para modelos de fronteira permanece uma questão em aberto. A evidência preliminar é sugestiva. O teste definitivo não foi executado.

Raise AI with care.

10. Reprodutibilidade

Todos os scripts fonte, resultados JSON brutos e figuras geradas estão disponíveis em:

• eden_honey_simulation.py - Simulação matemática da honey architecture
• eden_honey_tests.py - Bateria de teste abrangente do mel
• eden_self_modifying_ai.py - Experiência v1 de IA auto-modificadora
• eden_self_modifying_ai_v2.py - Robustez v2 com múltiplas sementes
• eden_self_modifying_ai_v3.py - Tarefas adversariais v3
• eden_self_modifying_ai_v4.py - Escalonamento de complexidade v4

Todos os scripts compilam sob Python 3,14, exigem apenas numpy e matplotlib, e produzem output determinístico dado uma semente aleatória fixa. Os resultados foram regenerados frescos a 16 de março de 2026 e verificados cruzadamente com os outputs de artefacto originais.

Código completo da experiência e resultados: github.com/MichaelDariusEastwood/arc-principle-validation/experiments/honey-architecture__Paper-VI

Declaração de Autoria Humana Assistida por IA

O autor deste trabalho é Michael Darius Eastwood, um ser humano. Todo o conceito central, hipótese, desenho experimental, afirmação e conclusão neste artigo tem origem em ideação humana. Nenhuma parte deste manuscrito é um output artificial-inteligente inteiramente gerado.

Ferramentas de inteligência artificial (a família Claude da Anthropic e outros assistentes de grande modelo de linguagem) foram usadas como instrumentos sob direcção humana contínua, da forma como se usa um processador de texto, uma calculadora ou um assistente de investigação: para edição e refinamento da prosa, procura na literatura e sumarização (manualmente verificadas contra fontes primárias), estrutura documental, formatação, brainstorming contra perguntas definidas pelo autor, e aceleração da redação de acordo com esboços e instruções definidos pelo autor. Toda a selecção, coordenação, arranjo e juízo editorial final são do autor. Todo o output substantivo foi revisto, testado ou verificado pelo autor, que assume total responsabilidade pela precisão e integridade do texto final. As ferramentas aumentaram a velocidade do trabalho; nunca se confiou nelas como sua fonte.

Estatuto epistémico. O que este programa nomeia Leis são conjecturas sob teste adversarial registado; toda quantidade neste artigo está definida operacionalmente, e o estatuto de lei estabelecida não é reclamado em lado nenhum. O programa registado existe para ganhar esse estatuto, ou perdê-lo, por medição, replicação e refutação registadas.

© 2026 Michael Darius Eastwood. Autoria humana com assistência computacional; a plena autoria humana e os direitos morais são afirmados sob o Copyright, Designs and Patents Act 1988 e de forma consistente com as orientações do United States Copyright Office sobre obras que contêm material gerado por IA; qualquer contribuição técnica nova descrita neste trabalho foi concebida pelo autor humano. Declaração completa: michaeldariuseastwood.com/authorship.

Compromisso permanente. Prove-me este artigo errado, e publicarei eu próprio a refutação. As condições de falsificação estão enunciadas neste artigo; o desafio permanente: github.com/MichaelDariusEastwood/arc-scaling-challenge.