BRETON, Philippe. À l’image de l’homme. Du Golem aux créatures virtuelles. Paris: Seuil, 1995.

** O computador como cérebro artificial **

1. Alan Turing e John von Neumann concebem, nos anos 1940, o computador como realização técnica concreta e simultaneamente como primeira etapa de um projeto de inteligência artificial destinado a reproduzir o homem por intermédio de seu cérebro, consolidando uma representação antropológica em que a humanidade se concentra na capacidade de calcular, comunicar e processar informação e em que a verdadeira prova da inteligência da criatura seria sua capacidade de ultrapassar a programação recebida.

• O computador constitui um objeto misto, pois sua existência técnica efetiva permanece inseparável do investimento imaginário que o apresenta como criatura artificial.
• A redução do homem ao cérebro é acompanhada pela redução do cérebro ao tratamento e intercâmbio de informação.
• Inteligência, cálculo e comunicação passam a constituir características privilegiadas da condição humana.
• A relação estabelecida por Turing com os limites dos sistemas formais conduz ao paradoxo de que uma máquina verdadeiramente semelhante ao homem deveria tornar-se capaz de produzir comportamentos não integralmente determinados antecipadamente por seu criador.

** O computador e o cérebro **

2. A historiografia técnica tende a minimizar a importância do projeto de construir um cérebro artificial na gênese do computador, privilegiando necessidades militares e de cálculo, embora os textos de Turing e von Neumann mostrem que concepções específicas sobre o funcionamento cerebral orientaram escolhas fundamentais da arquitetura informática.

• A interpretação retrospectiva concentra-se frequentemente nas funções que o computador posteriormente desempenhou e não nas finalidades imaginadas por seus inventores.
• O cérebro artificial é tratado muitas vezes como comentário marginal, quando constituía uma motivação fundamental para Turing e von Neumann.
• Decisões técnicas decisivas foram orientadas por analogias previamente estabelecidas entre cérebro e máquina.
• A compreensão histórica da invenção exige considerar não apenas aquilo que o computador fazia efetivamente, mas aquilo que seus criadores acreditavam que poderia vir a ser.
• A potencialidade antropológica da máquina antecede, nessa perspectiva, sua consolidação como simples instrumento universal de cálculo.

** O projeto de um cérebro artificial **

3. A investigação de Turing sobre o mecanismo do pensamento conduz diretamente ao propósito de construir um cérebro baseado em sucessões discretas de estados, antecipando características fundamentais do computador digital posteriormente projetado por von Neumann e distinguindo-o das máquinas analógicas contínuas predominantes entre os engenheiros da época.

• O problema primordial consiste em compreender como o cérebro consegue pensar.
• Turing associa o pensamento à passagem sucessiva entre estados mentalmente distinguíveis.
• Sua máquina abstrata organiza operações em etapas discretas executadas sequencialmente.
• A arquitetura de von Neumann conservará essa lógica descontínua e passo a passo.
• A opção digital diferencia-se das máquinas analógicas então utilizadas, cujo funcionamento se baseava em variações contínuas.

4. A adoção do processamento discreto, que se tornará característica estrutural da informática, deriva inicialmente da convicção compartilhada por Turing e von Neumann de que o cérebro também opera mediante mudanças sucessivas de estado, enquanto a noção de programa armazenado prolonga diretamente princípios desenvolvidos por Turing.

5. A atribuição de grande capacidade de memória ao computador também deve ser compreendida a partir da representação antropomórfica da máquina, e não apenas como solução de engenharia, razão pela qual os escritos de von Neumann precisam ser considerados integralmente, inclusive em seus aspectos aparentemente exteriores à racionalidade técnica estrita.

** Os planos do EDVAC **

6. O documento de von Neumann que estabelece os fundamentos do computador moderno apresenta-se significativamente como um texto conceitual sem desenhos técnicos, afastando-se da forma convencional de um projeto de engenharia e revelando seu caráter simultaneamente técnico, lógico e antropológico.

7. Embora formalmente organizado em definições, descrição dos componentes, analogias neuronais e princípios de operações numéricas, o raciocínio subjacente deriva a arquitetura da máquina de uma analogia previamente aceita entre cérebro e dispositivo artificial.

• A comparação com o cérebro não constitui consequência posterior da máquina já concebida, mas antecede e orienta sua concepção.
• O ambiente intelectual da cibernética fornece o princípio de equivalência entre seres capazes de comportamentos informacionais semelhantes.
• A participação de von Neumann nas discussões iniciadas por Wiener em 1942 insere diretamente sua arquitetura informática nesse paradigma.
• A invenção técnica emerge, assim, dentro de uma representação geral que reduz organismos e máquinas a sistemas comparáveis de processamento.

8. A substituição da designação estritamente técnica da máquina pelo termo geral dispositivo manifesta a intenção de von Neumann de conceber um sistema abstrato de processamento informacional cuja identidade independe do suporte material utilizado.

• O nível essencial passa a ser a organização lógica das operações.
• Materiais elétricos, mecânicos ou biológicos tornam-se realizações possíveis de uma mesma estrutura abstrata.
• Prossegue a separação, iniciada por Wiener e Turing, entre modelo informacional e suporte físico.
• O problema fundamental consiste primeiro em identificar a organização da inteligência e somente depois encontrar materiais capazes de incorporá-la.
• A eletrônica e os tubos a vácuo aparecem como suportes preferenciais, mas não como essência do sistema.

9. A arquitetura do computador exprime um ato de criação determinado por uma representação particular do mundo e do homem, de modo que escolhas técnicas destinadas a marcar profundamente o desenvolvimento posterior da informática não derivam exclusivamente de necessidades internas da engenharia, mas de pressupostos antropológicos e epistemológicos previamente assumidos.

10. A tentativa de compreender o cérebro humano orienta a arquitetura, o funcionamento discreto e a seleção dos componentes eletrônicos da máquina, transformando o projeto do computador numa espécie de cartografia técnica da imagem que von Neumann construíra do funcionamento cerebral.

• Os tubos a vácuo são concebidos como equivalentes funcionais dos neurônios.
• A sequência passo a passo reproduz a hipótese de funcionamento cerebral por mudanças discretas de estado.
• A arquitetura lógica materializa numa máquina uma representação previamente formulada da mente.
• Conhecimentos científicos fragmentários, introspecção e crenças sobre o cérebro combinam-se na elaboração desse modelo.

11. O desejo de von Neumann de construir uma espécie de extensão artificial de si próprio leva-o a buscar intensamente conhecimentos em neurologia, psiquiatria e psicologia, convertendo a fabricação do computador numa projeção material de uma representação abstraída das operações cerebrais.

• A investigação interdisciplinar procura identificar operações elementares reproduzíveis artificialmente.
• O cérebro aparece como território ainda pouco conhecido cuja estrutura funcional deve ser isolada.
• A construção técnica funciona como processo de exteriorização de operações consideradas constitutivas da inteligência.
• O computador resulta, nesse sentido, de uma extrospecção mediante a qual a interioridade mental é projetada em matéria manipulável.

** As analogias entre neurônios e tubos a vácuo **

12. Von Neumann compara diretamente neurônios e componentes artificiais ao subsumi-los sob a categoria abstrata de elementos, situada no nível informacional e capaz de reunir unidades materialmente diferentes segundo a função que desempenham.

• Engrenagens, relés, tubos eletrônicos e neurônios podem ser classificados como elementos de sistemas.
• A equivalência não depende da matéria constitutiva, mas da função realizada.
• A categoria abstrata funciona como terceiro termo mediador entre organismo e máquina.
• O neurônio deixa de ser exclusivamente objeto biológico para tornar-se realização natural de uma função informacional reproduzível tecnicamente.

13. Elementos biológicos e artificiais passam a ser comparados numa mesma escala de desempenho, permitindo escolher o tubo a vácuo como equivalente técnico particularmente adequado do neurônio por sua capacidade de executar funções semelhantes ou superiores.

14. A identidade funcional baseada no princípio do tudo ou nada e a maior velocidade dos tubos a vácuo justificam sua escolha como substitutos dos neurônios, evidenciando que uma concepção prévia do cérebro orienta uma decisão técnica inicialmente contestada por muitos engenheiros.

• Neurônio e tubo são interpretados como dispositivos capazes de operar segundo estados discretos.
• A velocidade superior do componente eletrônico transforma-o, sob determinado critério, numa realização mais eficiente da função.
• A tecnologia é escolhida por adequação ao modelo cerebral e não apenas por evolução espontânea das possibilidades da engenharia.
• O uso de tubos a vácuo contrariava reservas técnicas contemporâneas quanto à confiabilidade desses componentes.
• O modelo antropológico exerce, assim, influência concreta sobre a constituição material do computador.

** A arquitetura da máquina **

15. A arquitetura proposta por von Neumann materializa uma versão informacional purificada do cérebro, concebendo o computador como cérebro sem ruído composto fundamentalmente por unidade de cálculo, unidade de controle lógico e memória, todas comparadas a funções neuronais associativas.

16. A inclusão de uma memória ampla destinada a armazenar simultaneamente dados e programas constitui uma inovação decisiva e reflete a importância atribuída por von Neumann à memória como possível sede do raciocínio e da circulação interna que produz a reflexão consciente.

• A memória deixa de ser simples depósito auxiliar de números.
• Instruções e dados passam a ocupar o mesmo espaço lógico.
• O programa torna-se parte do conteúdo manipulável pela própria máquina.
• O lugar onde as informações são conservadas transforma-se também no espaço no qual o processo de raciocínio pode ser organizado.
• A excepcional memória pessoal de von Neumann participa do horizonte antropomórfico a partir do qual essa característica é valorizada.

17. A informação existe no computador essencialmente como movimento de impulsos eletrônicos previamente significados, e até seu armazenamento corresponde à repetição dinâmica desses impulsos pela atividade incessante da máquina.

• Armazenar não significa conservar passivamente uma coisa imóvel.
• A informação precisa ser continuamente regenerada nos circuitos.
• O relógio eletrônico coordena a circulação e reativação dos estados.
• Memória e movimento deixam de ser processos opostos, pois conservar informação constitui uma modalidade específica de fazê-la circular.

18. A potência do computador deriva da administração precisa dos deslocamentos informacionais, permitindo que a mesma lógica de circulação se estenda para fora da máquina e faça dela simultaneamente dispositivo de cálculo e de comunicação.

• O pensamento humano é concebido como tratamento neuronal de informação.
• Conhecer esse tratamento permitiria reproduzi-lo num cérebro artificial.
• O cérebro artificial poderia intercambiar informações através de redes.
• Humanos e computadores apareceriam então como diferentes seres informacionais conectados aos mesmos circuitos comunicacionais.
• A arquitetura informática converge, nesse ponto, com o projeto cibernético de uma simbiose comunicacional entre organismos e máquinas.

19. A opção pelo código binário decorre da interpretação dos neurônios segundo o princípio do tudo ou nada, demonstrando novamente que escolhas fundamentais do computador foram guiadas por uma representação intuitiva do cérebro que, apesar de cientificamente parcial, produziu uma máquina tecnicamente eficaz.

• O binarismo eletrônico é apresentado como tradução do comportamento neuronal.
• As bases neurofisiológicas utilizadas eram ainda incompletas e muitas vezes especulativas.
• A insuficiência do modelo cerebral não impediu o sucesso operacional da arquitetura informática.
• O funcionamento efetivo da máquina reforçou retrospectivamente a confiança no paradigma que a havia inspirado.
• A ausência de pensamento propriamente dito passou a ser interpretada não como refutação do projeto, mas como atraso provisório de uma realização considerada futura.

20. A divulgação pública do computador apresenta posteriormente sua semelhança com o cérebro como descoberta decorrente da própria máquina, embora essa analogia tenha orientado desde o início a concepção de von Neumann.

• Componentes eletrônicos são comparados a terminações nervosas, neurônios, sinapses e gânglios.
• Memória e programação recebem equivalentes no sistema nervoso central.
• Falhas eletrônicas passam a ser descritas metaforicamente como distúrbios nervosos ou psicológicos.
• Erros de programa podem ser representados como formas de loucura maquínica.
• A analogia ultrapassa a estrutura física e alcança funções mentais, abrindo explicitamente a perspectiva de máquinas destinadas a executar tarefas do pensamento.

** A máquina inteligente **

21. Os planos do computador constituem um documento antropológico fundamental porque materializam uma representação do homem baseada numa dupla redução — do humano à inteligência e desta ao tratamento de informação — enquanto afastam a corporeidade biológica da definição daquilo que seria essencialmente humano.

• O computador não procura reproduzir a totalidade anatômica do homem.
• O cérebro é destacado como sede suficiente da humanidade relevante ao projeto.
• A inteligência é traduzida em operações de processamento e comunicação.
• O corpo deixa de ser condição necessária para a reprodução artificial daquilo que se define como essência humana.

** Um modelo informacional **

22. Wiener representa a individualidade humana como processo dinâmico semelhante à chama e não como substância estática semelhante à pedra, identificando a pessoa com um modelo informacional cuja matéria celular funciona apenas como suporte contingente.

23. A separação radical entre modelo informacional e substrato material permite imaginar a transmissão técnica integral de um homem como mensagem, sendo a impossibilidade atual dessa operação considerada dificuldade apenas tecnológica e não limite conceitual.

• Padrões sonoros já podem ser transmitidos pelo rádio.
• Padrões luminosos podem ser transmitidos pela televisão.
• O padrão humano seria, em princípio, outro conjunto de informação transmissível.
• A identidade do homem deixa de depender necessariamente da continuidade de sua matéria corporal.
• A transmissão do modelo equivaleria à possibilidade de deslocar a própria individualidade entre diferentes suportes.

24. A concepção informacional insere-se diretamente na tradição das criaturas artificiais porque conhecer o homem passa a significar possuir condições para replicá-lo em outro substrato, retirando sua estrutura lógica do organismo biológico e reinscrevendo-a num meio tecnicamente controlável.

• A finalidade não consiste principalmente em produzir um ser radicalmente diferente.
• Pretende-se extrair do vivo aquilo que seria sua organização essencial.
• O cérebro é considerado replicável porque suas funções dependeriam de estrutura lógica e não do fato contingente de estar encerrado num crânio.
• A reprodução artificial do humano torna-se uma operação de transferência de organização.

25. A eletrônica assume no século XX a função anteriormente desempenhada pela argila ou pelo mármore, oferecendo uma matéria simples, estável e manipulável na qual o modelo humano informacional poderia ser inscrito.

• Os componentes eletrônicos apresentam estados elementares claramente distinguíveis.
• A simplicidade material facilita a manipulação de organizações lógicas extremamente complexas.
• O substrato contemporâneo da criatura deixa de imitar a aparência corporal e passa a sustentar sua estrutura informacional.
• A eletrônica funciona, nesse sentido, como argila moderna oferecida ao novo criador.

** A auto-organização do cérebro artificial **

26. A representação informacional do século XX diferencia-se do mecanicismo dos séculos anteriores por não pretender necessariamente conhecer de maneira exaustiva cada mecanismo do pensamento, admitindo que uma máquina inteligente deva ultrapassar a simples execução previsível daquilo para que foi explicitamente construída.

27. A possibilidade de erro precisa ser reconhecida como condição da inteligência maquínica, pois exigir infalibilidade absoluta às máquinas enquanto se admite naturalmente a falibilidade dos homens impediria de atribuir-lhes a autonomia cognitiva esperada.

• Errar deixa de constituir simples defeito técnico.
• A falibilidade pode indicar um comportamento não inteiramente reduzido a respostas previamente fixadas.
• O mesmo critério empregado para julgar a inteligência humana deve ser estendido às máquinas.
• A concessão do direito ao erro prepara conceitualmente a atribuição de aprendizagem e autonomia.

28. O teorema de Gödel fornece a Turing uma das objeções mais importantes à possibilidade de uma máquina universalmente competente ao demonstrar a existência, em sistemas formais suficientemente poderosos, de proposições que não podem ser decididas no interior do próprio sistema.

• Uma máquina de estados discretos possui necessariamente limites formais.
• Algumas perguntas poderão produzir respostas incorretas ou nenhuma resposta.
• A existência desses limites parece inicialmente estabelecer uma superioridade humana sobre determinadas máquinas.
• O resultado, contudo, aplica-se a sistemas particulares e não demonstra uma inferioridade necessária de toda máquina possível.

29. A falibilidade formal das máquinas não estabelece superioridade humana definitiva, porque os próprios homens produzem respostas erradas e uma máquina que fracassa diante de determinado problema pode ser superada por outra, abrindo uma hierarquia indefinida de inteligências humanas e artificiais.

• A comparação deixa de opor universalmente homem e máquina.
• O contraste relevante ocorre entre indivíduos ou dispositivos particulares.
• Um homem pode superar determinada máquina sem superar todas as máquinas concebíveis.
• Da mesma forma, uma máquina pode superar determinado homem sem encerrar a escala das inteligências possíveis.
• A inteligência torna-se uma propriedade graduável, desvinculada de uma espécie específica.

30. A verdadeira inteligência maquínica exige, para Turing, capacidade de transformar o próprio funcionamento a partir da observação de seus comportamentos, convertendo a retroação em mecanismo pelo qual a máquina pode modificar seus programas e afastar-se das determinações iniciais impostas pelo programador.

• O pensamento envolve capacidade reflexiva de tomar aspectos do próprio funcionamento como objeto.
• A retroação permite comparar resultados e finalidades.
• A correção do comportamento segundo a própria experiência produz uma forma de autotransformação.
• O problema da autonomia é reformulado como problema de programação capaz de produzir aprendizado e modificação da programação.

** A metáfora do computador-criança **

31. A comparação entre máquina e criança permite conceber a inteligência artificial não como reprodução imediata de uma mente adulta pronta, mas como construção de uma estrutura inicial submetida posteriormente à educação, às experiências e a processos comparáveis à evolução.

• A mente adulta resulta de um estado inicial, de educação e de experiências não diretamente educativas.
• A máquina-criança deveria possuir uma estrutura inicial relativamente simples e plástica.
• O processo educativo substituiria a tentativa de programar previamente todas as capacidades adultas.
• A estrutura inicial corresponde metaforicamente ao material hereditário.
• Modificações do sistema correspondem às mutações.
• A avaliação realizada pelo experimentador ocupa posição comparável à seleção natural.
• O desenvolvimento artificial promete abreviar tecnicamente o processo evolutivo que produziu a inteligência humana.

32. A máquina capaz de aprender deve tornar-se parcialmente opaca ao próprio criador, produzindo comportamentos que seu mestre não consegue compreender integralmente e incorporando inclusive erro e acaso como condições de afastamento em relação à disciplina rígida do cálculo.

• O programador deixa de conhecer completamente o encadeamento interno que produz cada comportamento.
• Resultados podem parecer arbitrários mesmo quando decorrem da organização da máquina.
• A inteligência é associada ao afastamento de uma obediência absolutamente disciplinada.
• O acaso passa a possuir função produtiva na exploração de soluções.
• A criatura demonstra sua autonomia precisamente quando seu comportamento excede a compreensão imediata daquele que a construiu.

33. Von Neumann também admite que a máquina possa desenvolver operações internas mais complexas do que o resultado exteriormente observado e, sob determinadas condições, corrigir a si mesma, convergindo com Turing na expectativa de máquinas capazes de competir futuramente com o homem em todos os domínios estritamente intelectuais.

• A ampla memória torna-se necessária para comportar processos internos muito mais ricos do que suas saídas finais.
• A autocorreção introduz um primeiro princípio de autonomia operacional.
• A máquina inteligente deixa de ser mero executor transparente das instruções de seu inventor.
• A competição entre inteligência humana e artificial aparece como consequência esperada do desenvolvimento da nova criatura.

34. O paradoxo fundamental da inteligência artificial reside na exigência de construir deliberadamente uma máquina cuja confirmação como criatura inteligente dependa de sua capacidade de fazer mais do que aquilo que seu criador lhe determinou, preservando no interior da ciência moderna a antiga estrutura narrativa em que o homem prepara a matéria e organiza a criatura, mas o momento decisivo de sua autonomia continua a ultrapassar o controle integral do próprio fabricante.