WIENER, Norbert. GOD AND GOLEM, Inc.

1. Um dos grandes problemas futuros consiste em determinar adequadamente a relação entre seres humanos e máquinas e distribuir entre ambos as funções que cada um desempenha melhor, reconhecendo a superioridade das máquinas em rapidez e uniformidade de execução sem transformar tais vantagens em critério absoluto.

• Uma máquina digital pode realizar em um único dia trabalho que exigiria de uma equipe humana aproximadamente um ano.
• A execução mecânica pode apresentar quantidade muito menor de erros e irregularidades.
• Rapidez, precisão e uniformidade constituem vantagens efetivas das máquinas quando estas são adequadamente projetadas.

2. O ser humano conserva vantagens fundamentais decorrentes de sua complexidade, variedade de comportamentos e extraordinária densidade funcional do cérebro, cuja capacidade operacional não encontra equivalente nas máquinas computacionais existentes.

• As finalidades humanas devem permanecer prioritárias na determinação das relações entre seres humanos e máquinas.
• O neurônio ocupa volume enormemente inferior ao dos componentes eletrônicos então disponíveis.
• Uma máquina construída com componentes equivalentes aos neurônios, mas segundo as dimensões dos transistores, exigiria uma estrutura física gigantesca para aproximar-se da capacidade cerebral.
• A densidade de interconexões do cérebro supera aquilo que poderia ser reproduzido praticamente em computadores comparáveis.
• A enorme capacidade operacional concentrada em pequeno volume físico indica vantagens específicas da organização cerebral.

3. Entre as principais vantagens do cérebro encontra-se a capacidade de trabalhar com ideias vagas, incompletamente definidas e ainda incapazes de programação formal, como ocorre de maneira característica na criação e compreensão de poemas, romances e pinturas.

4. A cooperação entre seres humanos e computadores deve atribuir a cada um as tarefas correspondentes às suas capacidades próprias, evitando tanto o culto indiscriminado da máquina quanto a rejeição da técnica como degradação da dignidade humana, e exigindo o estudo independente dos sistemas mistos humano-mecânicos.

• A complementaridade entre capacidades humanas e mecânicas oferece alternativa tanto ao mecanicismo quanto ao antimaquinismo.
• Sistemas constituídos simultaneamente por elementos humanos e mecânicos devem ser investigados como unidades funcionais.
• Uma compreensão adequada da automatização depende de eliminar preconceitos favoráveis ou contrários às máquinas.

5. As próteses constituem um campo concreto de aplicação dos sistemas mistos humano-mecânicos, pois a substituição de um membro ou órgão sensorial perdido produz uma unidade funcional composta por partes biológicas e artificiais.

6. Próteses elementares que apenas reproduzem grosseiramente a função ou a forma de um membro apresentam interesse limitado, enquanto pesquisas sobre membros artificiais fundamentados em princípios cibernéticos permitem uma integração funcional muito mais profunda entre organismo e máquina.

7. Uma mão artificial pode utilizar os potenciais elétricos produzidos pelos músculos remanescentes do antebraço para controlar motores que realizam os movimentos da prótese, preservando como componente fundamental do sistema a organização nervosa original do indivíduo.

• A amputação da mão não elimina necessariamente a maior parte dos músculos responsáveis por seus movimentos.
• A contração desses músculos continua produzindo potenciais de ação mesmo quando já não movimenta a mão ausente.
• Eletrodos podem captar esses sinais elétricos.
• Circuitos transistorizados podem amplificá-los e combiná-los.
• Os sinais resultantes podem comandar motores elétricos responsáveis pelos movimentos da mão artificial.
• A energia necessária aos movimentos pode ser fornecida por baterias ou acumuladores, enquanto o controle permanece originado pelo sistema nervoso humano.
• A preservação do componente nervoso permite incorporar a máquina à organização motora anteriormente existente.

8. Mãos artificiais controladas dessa maneira já permitiram a amputados recuperar atividades profissionais, sobretudo porque os mesmos sinais nervosos anteriormente responsáveis pelas contrações da mão natural continuam controlando os movimentos da prótese, tornando sua aprendizagem mais direta e natural.

9. A ausência inicial de sensibilidade tátil em uma mão artificial pode ser compensada por sensores de pressão e dispositivos capazes de converter suas informações em estímulos aplicados à pele remanescente, criando uma sensação substitutiva que pode ser aprendida como equivalente funcional do tato perdido.

• Sensores instalados nos dedos artificiais podem registrar pressões externas.
• Essas informações podem ser transformadas em impulsos elétricos.
• Os sinais podem acionar dispositivos, como vibradores, aplicados à pele do coto.
• A associação entre estímulo artificial e contato externo permite desenvolver uma sensação tátil vicária.
• Elementos cinestésicos ainda presentes nos músculos amputados também podem integrar esse sistema de percepção e controle.

10. A engenharia cibernética das próteses pode ultrapassar a substituição de órgãos perdidos e criar funções que o organismo humano jamais possuiu, reproduzindo artificialmente capacidades encontradas em outros seres vivos.

• A hélice de um navio pode ser considerada equivalente funcional artificial das nadadeiras propulsoras do golfinho.
• Equipamentos de sondagem acústica reproduzem funções semelhantes à emissão e recepção sonora utilizadas pelo golfinho para detectar obstáculos.
• As asas e os motores a jato dos aviões reproduzem funcionalmente capacidades de voo presentes nas aves.
• O radar desempenha função análoga à percepção visual.
• Pilotos automáticos e sistemas de navegação complementam artificialmente funções desempenhadas pelos sistemas nervosos biológicos.
• A prótese pode, portanto, ampliar capacidades humanas em vez de simplesmente restaurar capacidades perdidas.

11. Sistemas humano-mecânicos tornam-se indispensáveis quando máquinas de aprendizagem precisam melhorar atividades cujo êxito depende de critérios humanos difíceis de reduzir a regras formais, diferentemente dos jogos em que vitória, derrota e movimentos permitidos podem ser definidos de maneira inequívoca.

• Uma máquina de aprendizagem necessita sempre de alguma norma de bom desempenho.
• Nos jogos formalizados, as regras delimitam claramente as ações possíveis.
• O próprio resultado fornece um critério preciso para avaliar sucesso e fracasso.
• Muitas atividades humanas, entretanto, dependem de avaliações qualitativas cuja formalização completa permanece problemática.
• Nessas situações, o elemento humano pode tornar-se parte indispensável do próprio mecanismo de aprendizagem.

12. A tradução mecânica constitui um campo particularmente demandante de automatização em razão da necessidade política de compreender rapidamente comunicações produzidas em outras línguas, mas os sistemas disponíveis apresentam limitações de inteligibilidade, qualidade literária e confiabilidade incompatíveis com decisões de grande importância.

• A tensão internacional intensifica a necessidade recíproca de conhecer pensamentos e declarações produzidos por potenciais adversários.
• O número de tradutores humanos competentes é limitado.
• Traduções mecânicas podem produzir resultados parcialmente utilizáveis, mas insuficientemente confiáveis.
• Pequenas inadequações tornam-se especialmente perigosas quando questões políticas decisivas dependem da precisão da tradução.

13. A tradução automatizada baseada em aprendizagem exige um critério firme de boa tradução, obtido mediante regras objetivas suficientemente completas ou mediante algum agente capaz de julgar adequadamente o desempenho mesmo quando tais regras não podem ser explicitadas.

14. O critério fundamental de uma boa tradução consiste em produzir nos leitores da língua de chegada uma compreensão equivalente àquela obtida pelos leitores do original, podendo-se testar parcialmente essa equivalência mediante sucessivas traduções de ida e volta entre duas línguas.

• Uma tradução adequada deve preservar suficientemente a impressão e o sentido produzidos pelo original.
• Pode-se traduzir inicialmente um texto de uma língua para outra por uma primeira máquina.
• Uma segunda máquina independente pode realizar a tradução inversa.
• O texto novamente produzido na língua original deve permanecer reconhecivelmente equivalente ao primeiro.
• Esse procedimento fornece condição necessária, embora não suficiente, para avaliar a qualidade da tradução.

15. Embora seja concebível estabelecer regras formais suficientemente completas para assegurar mecanicamente uma boa tradução, o conhecimento linguístico disponível não permite construir tal sistema e provavelmente não o permitirá em futuro previsível, tornando inevitável alguma possibilidade de erro com consequências potencialmente desproporcionais em decisões importantes.

16. A possibilidade mais promissora para uma tradução mecânica satisfatória encontra-se inicialmente em um sistema humano-mecânico no qual um tradutor especializado funcione como crítico e professor, corrigindo e orientando a máquina até que esta acumule experiência suficiente para desenvolver uma espécie de maturidade linguística.

• O especialista humano fornece avaliações que a máquina não consegue derivar exclusivamente de regras formais.
• O treinamento pode ocorrer mediante exercícios sucessivos comparáveis ao ensino escolar.
• A memória da máquina pode incorporar progressivamente os resultados das correções humanas.
• Em estágio posterior, a participação contínua do especialista poderia diminuir.
• Intervenções periódicas ainda poderiam ser necessárias para renovar ou corrigir o aprendizado acumulado.

17. A mecanização da tradução não elimina a necessidade do linguista especializado, mas pode ampliar consideravelmente sua capacidade produtiva ao permitir que o trabalho humano de julgamento seja aplicado a uma quantidade muito maior de material processado previamente pela máquina.

18. A participação humana em sistemas de tradução não precisa limitar-se à avaliação final, podendo intervir desde as etapas intermediárias mediante a seleção entre múltiplas alternativas produzidas mecanicamente para cada sentença.

• A máquina não precisa produzir uma única tradução integral e fechada.
• Pode gerar várias alternativas compatíveis com critérios gramaticais e lexicais.
• O especialista humano pode selecionar a alternativa que melhor corresponda ao sentido.
• A crítica humana pode ocorrer durante a formação da tradução, e não somente depois que o texto completo estiver pronto.
• A divisão de tarefas permite reservar à máquina a geração sistemática de possibilidades e ao ser humano a avaliação semântica e contextual mais delicada.

19. O mesmo princípio aplica-se com ainda maior força ao diagnóstico médico automatizado, no qual máquinas podem auxiliar na identificação de informações relevantes, mas não devem substituir inteiramente o julgamento do médico, pois políticas diagnósticas fechadas e permanentemente fixadas tenderiam inevitavelmente a produzir doenças e mortes evitáveis.

20. A invenção também constitui processo que exige integração entre máquinas e seres humanos, porque uma inovação precisa ser avaliada não apenas segundo aquilo que tecnicamente pode ser produzido, mas também segundo suas formas efetivas de utilização no contexto social.

• A possibilidade técnica de inventar constitui apenas uma parte do problema.
• É necessário investigar como a invenção será empregada e quais efeitos produzirá entre seres humanos.
• A avaliação do uso social apresenta metodologia menos fechada e frequentemente maior dificuldade do que a própria construção técnica.
• O desenvolvimento torna-se processo de aprendizagem envolvendo simultaneamente sistema técnico e sociedade.
• A solução exige determinar a melhor combinação das capacidades humanas e mecânicas.

21. O desenvolvimento e emprego de dispositivos militares apresentam problema semelhante, pois a evolução tecnológica dos armamentos não pode ser separada das transformações simultâneas das táticas e estratégias destinadas a utilizá-los.

22. A adaptação das máquinas às condições humanas não constitui problema solucionável de uma vez por todas, porque o desenvolvimento contínuo das artes, das ciências e das condições sociais exige reconsiderar periodicamente os próprios critérios de otimização e os mecanismos de homeostase individual e coletiva.

• Nenhuma época pode presumir que seus conhecimentos e critérios constituam sabedoria definitiva.
• Problemas como crescimento populacional, armas nucleares e expansão da medicina introduzem condições inexistentes nos períodos em que antigas normas sociais foram formuladas.
• Uma organização anteriormente adequada pode tornar-se inadequada diante de novas circunstâncias.
• A própria base da homeostase social precisa ser periodicamente reconsiderada.
• A ciência contribui para a estabilidade das sociedades, mas o modo dessa contribuição deve ser reavaliado a cada geração.
• Tanto sistemas orientais quanto ocidentais tendem a preservar concepções formuladas para condições históricas já ultrapassadas.
• O marxismo foi formulado no contexto da primeira Revolução Industrial, enquanto as sociedades posteriores já ingressaram em uma segunda transformação industrial.
• As concepções de Adam Smith pertencem a uma fase ainda anterior da industrialização.
• Nem o marxismo transformado em sistema invariável nem a livre iniciativa e o motivo do lucro convertidos em princípios permanentes podem fornecer sozinhos uma homeostase social duradoura.
• O perigo fundamental reside menos no conteúdo particular da doutrina rígida do que na própria rigidez que impede sua revisão.

23. A função homeostática da ciência exige resistência a toda aplicação social rígida, seja associada ao marxismo soviético, seja aos preconceitos das sociedades ocidentais, pois substituir um sistema dogmático por outro de orientação oposta não resolve o problema de construir uma regulação social continuamente capaz de reconsiderar suas próprias premissas.

• A crítica à rigidez pode suscitar resistência em sistemas ideológicos opostos.
• Uma perspectiva marxista estritamente ortodoxa pode rejeitar argumentos que contestem a fixidez de suas categorias.
• Preconceitos ocidentais podem reagir de maneira comparável quando seus próprios fundamentos econômicos e sociais são questionados.
• A oposição relevante não se estabelece entre comunismo e anticomunismo, mas entre capacidade de revisão e rigidez.
• Uma verdadeira regulação homeostática precisa modificar seus próprios critérios diante de transformações históricas.
• A substituição de um padrão fixo por outro padrão igualmente fixo apenas reproduz o mesmo problema sob forma inversa.

24. Entre as diversas máquinas de aprendizagem, algumas podem operar mediante critérios inteiramente formalizados, enquanto outras dependem de especialistas humanos capazes de arbitrar valores que não admitem mecanização completa, sendo provavelmente muito mais numerosas e importantes as aplicações desse segundo tipo e permanecendo particularmente crítico o fato de que, no domínio da guerra nuclear, sequer existem especialistas humanos dotados de experiência adequada.