2

WIENER, Norbert. GOD AND GOLEM, Inc.

1. A investigação pode agora concentrar-se diretamente nos problemas centrais em que a cibernética estabelece relações conceituais significativas com questões tradicionalmente atribuídas ao domínio religioso.

2. Três problemas cibernéticos mostram-se particularmente relevantes para questões religiosas: máquinas capazes de aprender, máquinas capazes de reproduzir-se e sistemas constituídos pela coordenação entre máquinas e seres humanos.

• A existência efetiva de máquinas de aprendizagem já se encontra demonstrada por programas capazes de modificar seu desempenho com base na experiência.
• O programa desenvolvido por A. L. Samuel permite a um computador jogar damas e melhorar progressivamente sua maneira de jogar.
• A atribuição de aprendizagem a tais máquinas exige, contudo, esclarecimento preciso acerca do significado efetivo desse processo.

3. A aprendizagem costuma ser considerada propriedade exclusiva de sistemas autoconscientes ou, pelo menos, dos organismos vivos, alcançando no ser humano sua manifestação mais característica e vinculando-se estreitamente às capacidades tradicionalmente associadas à vida religiosa.

4. A reprodução constitui outro aspecto da vida profundamente relacionado à religião, pois a concepção de Deus criando o ser humano à sua imagem encontra paralelo na geração pela qual um organismo produz outro semelhante a si mesmo, enquanto a separação entre vivos e não vivos sustenta tradicionalmente a crença de que máquinas seriam incapazes de produzir máquinas à sua própria imagem.

• A reprodução biológica pode ser interpretada como produção de um ser vivo por outro segundo determinada semelhança estrutural.
• A exclusividade dessa capacidade aos seres vivos reforça a oposição tradicional entre matéria viva e matéria inanimada.
• Essa oposição corresponde ainda à distinção religiosa entre criador e criatura.
• A glorificação de Deus em relação ao ser humano e do ser humano em relação à matéria favorece a manutenção dessas dicotomias.

5. A capacidade de máquinas produzirem outras máquinas à sua própria imagem pode ser tecnicamente considerada sem que esse processo seja tomado como modelo adequado da geração biológica ou, menos ainda, da criação divina, embora a analogia seja suficientemente significativa para esclarecer determinados aspectos de ambos os conceitos.

6. A aprendizagem individual e a reprodução biológica constituem processos complementares, pois a primeira ocorre durante a ontogênese, enquanto a segunda pertence à filogênese, na qual a própria espécie também realiza uma forma de aprendizagem por meio da seleção natural darwiniana.

• A aprendizagem individual modifica o comportamento no decorrer da vida de um organismo.
• A reprodução situa-se na continuidade histórica da espécie.
• A seleção natural pode ser compreendida como modalidade de aprendizagem da espécie.
• Essa aprendizagem filogenética opera dentro das condições estabelecidas pelos processos de reprodução individual.

7. A relação entre máquinas e seres vivos, especialmente nos sistemas constituídos por elementos de ambos os tipos, introduz problemas normativos e éticos ligados tanto aos perigos morais próprios da época contemporânea quanto às antigas tradições e lendas humanas referentes à magia.

8. Uma máquina de aprendizagem pode ser compreendida como sistema organizado que transforma uma mensagem de entrada em uma mensagem de saída segundo determinado princípio, tornando-se capaz de aprender quando esse princípio é modificado de acordo com um critério de desempenho que favoreça resultados progressivamente melhores.

• A organização do sistema consiste em uma regra de transformação entre entradas e saídas.
• A aprendizagem pressupõe um critério pelo qual diferentes desempenhos possam ser avaliados.
• O princípio de transformação deve poder modificar-se em função dessa avaliação.
• Os jogos oferecem modelos especialmente simples porque possuem regras fixas e um critério inequívoco de desempenho constituído pela vitória.

9. Jogos dotados de teoria perfeita, como o Nim e o jogo da velha, perdem interesse quando já se conhece integralmente a estratégia ótima capaz de garantir vitória ou empate, pois a resolução completa transforma aquilo que era uma disputa em procedimento trivial.

• Uma teoria perfeita determina antecipadamente a melhor política possível para todas as situações relevantes do jogo.
• Uma vez conhecida essa política, determinado jogador pode garantir pelo menos o empate.
• Em princípio, qualquer jogo poderia ser reduzido a essa condição segundo a concepção associada a John von Neumann.
• A completa resolução teórica elimina justamente a incerteza responsável pelo interesse lúdico.

10. Para um ser onisciente, xadrez e damas seriam jogos inteiramente resolvidos, mas, como suas teorias completas permanecem inacessíveis ao conhecimento humano, continuam constituindo disputas efetivas de inteligência e percepção.

• A prática humana não calcula indefinidamente a melhor jogada própria supondo a melhor resposta adversária e prosseguindo dessa maneira até o encerramento do jogo.
• Jogar rigorosamente segundo esse procedimento equivaleria a possuir uma teoria completa do jogo.
• A posse dessa teoria reduziria igualmente o jogo à trivialidade.

11. Embora máquinas capazes de aprender jogos pareçam inicialmente afastadas da religião, sua estrutura permite abordar o problema religioso do jogo entre o Criador e sua criatura, presente tanto no Livro de Jó quanto em Paraíso Perdido.

12. No Livro de Jó e em Paraíso Perdido, o Diabo participa de uma disputa com Deus pelas almas humanas, embora, segundo as concepções judaica e cristã ortodoxas, seja ele próprio criatura divina, pois considerá-lo um princípio independente conduziria ao dualismo moral associado ao zoroastrismo e ao maniqueísmo.

13. Se o Diabo é criatura de Deus, o conflito religioso torna-se uma disputa entre o Criador e sua própria criatura, situação aparentemente incompatível com uma concepção rigorosa de Onipotência e Onisciência.

• Uma criatura não poderia racionalmente esperar vencer um Criador absolutamente onipotente e onisciente.
• A rebelião dos anjos estaria antecipadamente condenada ao fracasso caso a superioridade divina fosse absoluta.
• Uma Onipotência que precisasse demonstrar-se mediante força material deixaria de significar poder absoluto e passaria a designar apenas uma força extraordinariamente superior.
• Admitida essa segunda possibilidade, a batalha celeste poderia conceitualmente possuir resultado indeterminado, inclusive com a derrota de Deus.

14. Abandonados os dogmas absolutos da Onipotência e da Onisciência, o conflito entre Deus e o Diabo pode ser concebido como disputa efetiva em que o Criador enfrenta uma criatura produzida por sua própria vontade e dotada, por ele mesmo, das possibilidades necessárias à ação.

• Um Deus envolvido em conflito real não poderia ser absolutamente onipotente no sentido lógico estrito.
• A possibilidade de derrota conferiria significado genuíno à disputa.
• Surge então o problema geral de saber se um criador pode disputar significativamente com uma criatura cuja própria capacidade de ação deriva dele.
• A questão permanece válida mesmo quando se substitui o Criador absoluto por um criador limitado.

15. Ao construir uma máquina destinada a competir consigo em um jogo, o inventor assume funcionalmente a posição de criador limitado, sobretudo quando sua criatura mecânica possui capacidade de aprender pela experiência, tornando relevante investigar como tal aprendizagem funciona e quais resultados efetivamente alcança.

16. As máquinas de jogo capazes de aprender não procedem segundo o modelo integral da teoria de von Neumann, mas de maneira mais próxima ao jogador humano comum, selecionando em cada situação uma jogada legal dentre as permitidas pelas regras e avaliando essas alternativas mediante algum critério normativo de bom desempenho.

17. A experiência acumulada pelos jogadores humanos fornece critérios para avaliar as possíveis jogadas no xadrez e nas damas, como preservar as próprias peças, capturar peças adversárias, conservar mobilidade, ampliar possibilidades de escolha e controlar maior número de casas do tabuleiro.

18. Alguns critérios de bom jogo permanecem válidos durante toda a partida, enquanto outros variam de acordo com sua fase, sendo particularmente importante no xadrez distinguir as exigências estratégicas da abertura, do desenvolvimento e do final.

• No final da partida, a redução do número de peças pode dificultar a aproximação necessária para concluir o jogo.
• Na abertura, a disposição inicial restringe a mobilidade e exige desenvolvimento das peças para liberar possibilidades ofensivas e defensivas.
• A diversidade muito maior de peças no xadrez produz numerosos critérios estratégicos específicos.
• A importância desses critérios foi progressivamente estabelecida por séculos de experiência prática.

19. Os diversos critérios estratégicos podem ser combinados matematicamente para atribuir a cada jogada possível um índice de mérito, permitindo que a máquina compare as alternativas legalmente disponíveis e escolha aquela cuja avaliação seja mais elevada.

20. A automatização da escolha não garante necessariamente a jogada ótima, mas fornece uma decisão suficiente para que a máquina continue jogando, devendo-se avaliar seu comportamento independentemente da aparência física ou dos mecanismos materiais envolvidos, do mesmo modo que ocorre no xadrez por correspondência.

21. No xadrez por correspondência, apesar de a comunicação entre os jogadores limitar-se às jogadas transmitidas por escrito, torna-se possível construir uma representação da personalidade enxadrística do adversário exclusivamente a partir de seu comportamento durante o jogo.

• Pode-se reconhecer se o adversário joga de modo precipitado ou cuidadoso.
• Pode-se perceber sua vulnerabilidade ou resistência a armadilhas.
• Pode-se avaliar sua capacidade de aprender as estratégias utilizadas contra ele.
• A recorrência de erros revela a possibilidade de derrotá-lo repetidamente pelos mesmos procedimentos.
• Toda essa caracterização emerge exclusivamente das jogadas realizadas.

22. Um jogador humano ou mecânico que utilize permanentemente uma tabela fixa e imutável de critérios apresenta uma personalidade estratégica rígida, pois suas vulnerabilidades permanecem constantes e uma estratégia eficaz contra ele tende a conservar indefinidamente sua eficácia.

23. Um jogador mecanizado não precisa permanecer rígido, pois pode registrar partidas e jogadas anteriores e posteriormente utilizar esses registros para modificar os próprios parâmetros de avaliação, convertendo a experiência passada em instrumento de aprendizagem.

24. O índice de mérito empregado para selecionar jogadas contém constantes que ponderam diferentemente fatores como domínio do tabuleiro, mobilidade e número de peças, e a aprendizagem consiste em reavaliar essas próprias ponderações segundo os resultados das partidas anteriormente realizadas.

• Valores diferentes atribuídos aos mesmos fatores produzem políticas de jogo distintas.
• A máquina pode examinar retrospectivamente partidas já concluídas.
• O objeto dessa avaliação deixa então de ser a jogada individual e passa a ser o conjunto de pesos utilizado para avaliá-la.
• Vitória e derrota fornecem o critério para reajustar esses parâmetros.

25. A avaliação estratégica pode ser continuamente modificada para favorecer configurações associadas às vitórias e desfavorecer aquelas associadas às derrotas, fazendo com que a máquina transforme progressivamente sua própria maneira de jogar conforme sua história concreta de interação.

• A função de mérito deixa de ser fixa e passa a incorporar os resultados acumulados.
• Diferentes procedimentos matemáticos podem produzir esse reajuste.
• A máquina torna-se, em termos funcionais, uma máquina diferente à medida que sua experiência se acumula.
• Tanto seus sucessos e fracassos quanto o comportamento do adversário humano participam da formação de sua estratégia futura.

26. Uma máquina que incorpora aspectos da maneira de jogar de seus adversários deixa de possuir personalidade estratégica absolutamente rígida, podendo aprender a neutralizar procedimentos anteriormente eficazes e desenvolver uma capacidade de adaptação aparentemente perspicaz.

27. Embora a capacidade de adaptação da máquina dependa do dispositivo concebido pelo programador, não se segue daí que todos os hábitos posteriormente adquiridos tenham sido explicitamente previstos por seu criador, pois uma previsão integral desses comportamentos permitiria ao programador derrotar facilmente sua própria criação, contrariamente ao ocorrido com a máquina de Samuel.

28. A máquina de Samuel chegou, após um período inicial de aprendizagem, a derrotar seu próprio criador com considerável regularidade, e embora Samuel não fosse originalmente especialista em damas e posteriormente tenha conseguido superá-la mediante estudo e prática, permanece significativo que a máquina tenha efetivamente aprendido a vencer por um processo fundamentalmente semelhante à aprendizagem humana do jogo.

• O desempenho superior da máquina manifestou-se depois de um período relativamente breve de funcionamento.
• A posterior vitória de Samuel não elimina o fato de que sua criação anteriormente o superara de maneira consistente.
• O aperfeiçoamento da máquina resultou da experiência acumulada e não de uma programação explícita de cada comportamento vencedor.
• Em princípio, o mecanismo de aprendizagem empregado não difere essencialmente daquele pelo qual um ser humano melhora sua capacidade de jogar damas.

29. Embora o conjunto de estratégias acessíveis à máquina de damas provavelmente seja mais restrito que aquele teoricamente disponível ao jogador humano, também o ser humano encontra limitações efetivas impostas por sua inteligência e imaginação, não havendo diferença essencial entre a existência de limites mecânicos e a existência desses limites cognitivos.

30. A máquina de damas já pode alcançar desempenho considerável e, mediante aperfeiçoamentos relativos aos finais de partida e à execução das jogadas decisivas, aproximar-se do nível dos mestres, intensificando a possibilidade de que a resolução técnica do jogo elimine progressivamente seu interesse como atividade humana.

• O próprio jogo de damas já havia perdido parte de seu interesse competitivo pela relativa previsibilidade das estratégias humanas consolidadas.
• A aproximação das máquinas ao nível de excelência humana tende a acentuar essa perda de interesse.
• A mesma possibilidade começa consequentemente a ser considerada para o xadrez.
• A questão passa a ser não apenas se a máquina poderá alcançar esse nível, mas quando isso ocorrerá.

31. As máquinas capazes de jogar xadrez já existem, mas permanecem muito inferiores às melhores máquinas de damas, alcançando apenas ocasionalmente o nível de jogadores amadores competentes em razão da complexidade muito maior das peças, das jogadas e dos critérios estratégicos específicos de cada fase da partida.

• A diversidade funcional das peças aumenta enormemente o número de situações possíveis.
• As estratégias adequadas variam de maneira muito mais acentuada entre diferentes fases do xadrez.
• Os poucos critérios suficientes para mecanizar razoavelmente as damas não bastam para representar adequadamente o xadrez.
• A mecanização do xadrez exige discriminações estratégicas muito mais refinadas.

32. Entre jogadores experientes encontra-se a expectativa de que o xadrez, enquanto ocupação humana intelectualmente interessante, possa ter seus dias contados caso máquinas alcancem o nível dos mestres, previsão situada em um horizonte de dez a vinte e cinco anos e associada à possível redução do jogo a procedimentos cada vez mais mecanizados.

33. Mesmo que jogos como damas e xadrez venham a perder parte de seu interesse diante do avanço das máquinas, outras modalidades continuarão desafiando a engenharia dos jogos, enquanto conflitos como guerra e atividade empresarial também podem ser formalizados como jogos regidos por regras determinadas.

• O Go apresenta graus numerosos e diferenciados de maestria e oferece um problema particularmente complexo à mecanização.
• Guerra e negócios possuem estruturas competitivas passíveis de formalização.
• Modelos desse tipo podem ser empregados na determinação de políticas práticas.
• A possibilidade de aplicar tais procedimentos à guerra introduz a perspectiva sombria de decisões automatizadas relativas à destruição em massa e à reorganização coercitiva da ordem humana.

34. Uma máquina de jogo pode, em princípio, automatizar qualquer função cujo desempenho possa ser avaliado mediante um critério objetivo e claramente determinado de mérito.

• Nas damas e no xadrez, o critério decisivo consiste simplesmente em vencer segundo as regras reconhecidas.
• As regras que determinam vitória e derrota diferem radicalmente das máximas estratégicas destinadas a ensinar como jogar bem.
• As regras formais são simples, inequívocas e inexoráveis.
• Pode existir enorme dificuldade para descobrir como vencer, mas nenhuma dificuldade comparável para determinar se uma partida terminou em vitória ou derrota.

35. A possibilidade de converter uma atividade humana em jogo depende fundamentalmente da existência de um critério objetivo pelo qual seu desempenho possa ser reconhecido como melhor ou pior, pois, na ausência de regras estáveis e de uma definição constante de sucesso, nenhuma política eficaz pode ser aprendida.

• A situação torna-se comparável ao jogo de croqué de Alice no País das Maravilhas, cujos próprios elementos modificam continuamente sua posição e função.
• Bolas, tacos, arcos e arbitragem deixam de fornecer condições estáveis para a ação.
• Regras continuamente alteradas impedem determinar de maneira consistente o que significa vencer.
• Sem critério de sucesso não existe base para distinguir estratégias eficazes de estratégias fracassadas e, consequentemente, não pode ocorrer aprendizagem orientada.

36. Sempre que exista um critério objetivo de sucesso, torna-se possível organizar um jogo de aprendizagem muito mais próximo dos processos reais pelos quais seres humanos aprendem do que do modelo abstrato da teoria de von Neumann, embora a própria determinação de critérios rigorosos de bom desempenho introduza novos e importantes problemas.

• A técnica dos jogos de aprendizagem tende a estender-se a numerosos campos da atividade humana ainda não submetidos a esse procedimento.
• Sua aplicação depende da possibilidade de definir operacionalmente o sucesso.
• A formulação de um teste preciso de desempenho não constitui problema meramente técnico, pois condiciona aquilo que a máquina aprenderá a considerar desejável.