CASSOU-NOGUÈS, Pierre. Les rêves cybernétiques de Norbert Wiener. Paris:Seuil, 2014

Fábricas automáticas e máquinas maquinantes

1. A epígrafe sobre padecer do mal de estar adiantado ao próprio tempo antecipa o tom profético que perpassará toda a análise da obra cibernética de Wiener e sua recepção contemporânea.

Player Piano

2. O romance de Kurt Vonnegut, publicado em 1952, encena com fidelidade notável o mundo cibernético imaginado por Wiener, situando-se dez anos após uma Terceira Guerra Mundial que, pela escassez de mão de obra, precipitou a automação total da indústria americana.

• A segunda revolução industrial narrada no romance dá continuidade à primeira, que substituíra a força humana pela máquina a vapor, atacando agora o trabalho mental rotineiro através dos calculadores e da retroação.
• Um diálogo entre personagens do romance credita explicitamente a Norbert Wiener, já nos anos quarenta, a antecipação teórica dessa segunda revolução industrial.

3. As fábricas do romance, esvaziadas de operários, funcionam através de painéis luminosos que sinalizam incidentes às equipes de manutenção, ilustrando concretamente o princípio da retroação aplicado à vigilância industrial automatizada.

4. Os soldados desmobilizados não encontram trabalho a que retornar, dividindo-se entre a manutenção da ordem nas fábricas e o corpo irônico apelidado “Reeks and Wrecks”, enquanto engenheiros e gestores permanecem segregados em bairros separados, numa fronteira de classe absolutamente estanque.

5. A trama de Player Piano reproduz ponto por ponto as previsões wienerianas sobre a crise social decorrente da automação, superior em gravidade à depressão de 1929, culminando na rebelião do protagonista Paul Proteus contra essa classe dirigente isolada.

• O piano automático que dá título ao romance e a máquina de jogar damas presente na trama remetem diretamente ao imaginário cibernético que a obra explicitamente reconhece através da citação inicial de Wiener.

6. Wiener recebe o romance com frieza, respondendo à editora antes que ao autor, manifestando-se apenas parcialmente lisonjeado pelas referências a si mesmo e à cibernética, sem emitir opinião definitiva sobre a obra.

• Wiener critica o uso indevido do sobrenome von Neumann para um personagem sem relação com o matemático real homônimo próximo à cibernética.

7. A verdadeira objeção de Wiener recai sobre o pertencimento do romance ao gênero da ficção científica propriamente dito, expressando nostalgia por Júlio Verne e H.G. Wells como homens de letras, e não devotos de um novo culto, prevendo que o mesmo enredo seria reescrito repetidas vezes por autores diversos com originalidade variável.

8. Essa recusa do rótulo de ficção científica revela o incômodo de Wiener diante da proximidade evidente entre sua descrição pretensamente realista do mundo cibernético e o imaginário da ficção científica contemporânea, ambiguidade que perpassa toda sua obra.

Wiener e a ficção científica

9. Reafirma-se que o uso do pseudônimo W. Norbert visava não apenas distinguir os próprios textos ficcionais dos científicos, mas estabelecer separação mais ampla entre ciência e ficção, e particularmente entre cibernética e ficção científica.

10. Wiener acusa a ficção científica contemporânea de previsibilidade e falta de seriedade, contrapondo-a aos precursores Verne e Wells, denunciando sua formalização precoce em gênero sem liberdade criativa suficiente e a transformação de sua originalidade em clichê.

11. O desenvolvimento avassalador da ficção científica desgosta Wiener por representar meio de visão e técnica extremamente limitadas, e por ser perigosa justamente por poder ser confundida pelo leitor com reflexão científica genuína.

12. Wiener denuncia que a ficção científica, embora devedora de Verne e Wells de sua infância, tornou-se empreendimento infinitamente mais insidioso e pernicioso, produzindo fantasias de poder e brutalidade comparáveis às histórias de gângster, além de criar geração de jovens convencidos de pensarem cientificamente apenas por usarem seu vocabulário.

13. Num momento crucial em que a sobrevivência da humanidade depende de avaliação correta de problemas técnicos precisos, Wiener denuncia o mau jornalismo científico como desperdício de energia emocional que deveria estar disponível para enfrentar o risco real da guerra nuclear, inflando o ego do leitor médio com falsa cientificidade.

14. Contudo, esse último reproche poderia perfeitamente recair sobre a própria cibernética, que igualmente aplica termos científicos fora do contexto estrito da ciência, revelando que a distinção pretendida por Wiener entre as duas esferas não se sustenta inteiramente, fazendo da cibernética antes uma boa ficção científica que seu oposto.

15. A cibernética mantém relação ambígua e recíproca com a ficção científica, penetrando em romances como o de Vonnegut ao mesmo tempo que se filia às grandes figuras do gênero, como revela a resposta cautelosa de Wiener ao tradutor russo que lhe pergunta se a cibernética seria nova ciência ou nova ficção, e como confirma a própria capa promocional da nova edição de “L'Usage humain des êtres humains” em estilo de história em quadrinhos.

Um advertência

16. O próprio Wiener adverte o leitor a afastar-se da cibernética caso esta o atraia apenas pelo nome romântico e pela atmosfera de ficção científica, advertência que a investigação em curso opta deliberadamente por ignorar, explorando justamente essa atmosfera e tratando os personagens do universo wieneriano como se pertencessem a romances.

17. A cibernética define-se formalmente como ciência da comunicação e do controle no animal, no humano e na máquina, propondo-se aqui não repetir a apresentação técnica já bem estudada da teoria da informação, mas antes examinar as criaturas estranhas geradas por esse vocabulário comum aplicável indistintamente a humanos, animais e máquinas.

18. Essas criaturas híbridas cibernéticas, situadas entre categorias humanas, mecânicas e por vezes inventadas, articulam-se sempre através de cenários narrativos de risco iminente, sendo precisamente esse risco de desfecho catastrófico que confere unidade e razão de ser à própria disciplina cibernética.

19. A cibernética nasce sob o signo da bomba atômica, que torna possível assassinato em massa sem controle do cientista sobre sua execução, mas descobre em seguida outra via de autodestruição humana, a mecanização e automação, que desta vez o próprio sábio pode denunciar, justificando assim sua existência através da iminência renovada de desastre do qual o cientista humanista deveria nos salvar, restando saber se de fato o consegue ou se, como Lilienblum/Posner, acaba mortalmente vitimado, ou pior, encontra-se ele próprio do lado dos algozes.

A fábrica automática

20. Wiener distingue os autômatos clássicos, como relógios e caixas de música, cujo comportamento segue plano interno imutável, dos autômatos contemporâneos dotados de receptores sensoriais análogos aos órgãos humanos, capazes de modificar suas ações conforme dados externos, exemplificados pela célula fotoelétrica do elevador.

21. A máquina calculadora ocupa o centro dessa fábrica automática, recebendo instruções através de órgãos sensoriais e agindo através de efetores que reproduzem funções da mão guiada pelo olho humano, realizando operações de retroação que correspondem ao animal inteiro com seus órgãos sensoriais, efetores e propriocepetores, e não a um cérebro isolado dependente de intervenção externa.

22. Essa fábrica automática constitui um animal autônomo, personagem central inquietante do cenário cibernético, cuja importância social Wiener reconhece já antes mesmo de Nagasaki e das inquietações suscitadas pela bomba atômica.

23. Ao contrário da imagética que devora os humanos, como a fábrica-monstro de “Metrópolis” de Fritz Lang, a fábrica automática rejeita e expele os humanos por não precisar deles, condenando-os a se tornarem “puants et épaves” como no romance de Vonnegut, expressão que ecoa literalmente as próprias palavras de Wiener sobre a confusão desastrosa e o desemprego catastrófico que tornariam a Grande Depressão uma “suave brincadeira” em comparação.

Outras máquinas

24. A fábrica automática não constitui a única máquina ameaçadora, existindo também a “máquina de fazer guerra”, um computador que calcularia a melhor estratégia para vencer guerra atômica contra a URSS no contexto da Guerra Fria.

• O primeiro perigo reside na possibilidade de os militares esquecerem de incluir a cláusula de sobrevivência humana no cálculo estratégico, resultando em vitória pírrica comparável a um boxeador atordoado vencendo por pontos.
• O segundo e principal perigo é o uso da máquina como instrumento de propaganda, artifício retórico para justificar programas militares através de suposta necessidade técnica objetiva.

25. Essa máquina de fazer guerra constitui exemplar daquilo que Wiener, retomando artigo de Dubarle publicado no Le Monde, denomina “máquina de governar”, cujo verdadeiro perigo não reside em possível rebelião ou avaria, mas no uso instrumental que seres humanos ou grupos de humanos fariam dela para consolidar controle sobre a espécie.

26. No cenário pessimista cibernético, decisões políticas e militares ganham legitimidade quando atribuídas a supercomputadores em vez de a dirigentes desocupados, funcionando a máquina como testa de ferro que permite aos verdadeiros decisores escaparem da responsabilidade pessoal por decisões perigosas e desastrosas, deslocando-a para dispositivo mecânico de objetividade suposta mas incompreendida.

27. Wiener compara essa idolatria pseudocientífica a um véu colocado diante do para-brisas de um automóvel em movimento, capaz de nos transformar em tolos previsíveis como ratos correndo em labirinto, imagem que ele já esboçara desde “Cybernetics”.

28. A citação da novela de Fritz Leiber de 1951, sobre a máquina “Maisie” apresentada ao presidente americano pelos “Pensadores” que a controlam secretamente do interior, antecipa quase literalmente o conceito wieneriano de máquina de governar, revelando através do nome irônico - referência a Maelzel, o exibidor do autômato turco analisado por Poe - que também aqui um homem se esconde dentro da máquina para sustentar o poder de seus criadores.

29. Wiener multiplica cenários catastróficos ao longo de sua obra: a desorganização decorrente de bombardeio soviético descrita a pedido do congressista Richard Bolling, o envenenamento das águas de uma metrópole, epidemias comparáveis à peste num mundo de fronteiras porosas, os efeitos da superpopulação e a produção de alimentos sintéticos, sempre reaparecendo o espectro da fábrica automática precipitada pela urgência produtiva da guerra.

30. A novela “Autofac” de Philip K. Dick, de 1955, ilustra cenário afim em que fábricas automáticas autorreprodutoras, uma vez postas em funcionamento durante a guerra, continuam indefinidamente a esgotar os recursos naturais produzindo objetos inúteis, sem que ninguém saiba como interromper o processo desencadeado.

A máquina maquinante

31. Segundo observação de Katherine Hayles retomada aqui, existe padrão recorrente nos cenários catastróficos de Wiener: o momento em que o próprio humano, capturado num dispositivo mecânico, torna-se ele mesmo mecânico, sendo utilizado como polia, alavanca ou engrenagem independentemente de sua constituição carnal.

32. Essa mecanização ocorre sempre que o humano é inscrito em quadro que impõe repetição e execução de tarefas predefinidas sem espaço para iniciativa, exemplificada tanto pelo trabalho científico especializado da “ciência a milhões” quanto pelo trabalho em cadeia ou pelas hierarquias burocráticas imutáveis, dispositivos que Wiener denomina “máquinas maquinantes” entrecruzando-se no trabalho, na política e no lazer.

33. É precisamente contra essa mecanização generalizada do humano que Wiener escreve “L'Usage humain des êtres humains”, denunciando explicitamente o ideal social compartilhado por fascistas, poderosos homens de negócios e o Estado, que reduzem os seres humanos a meros executantes subordinados a um organismo nervoso supostamente superior.

34. Wiener situa o fascismo não como mero exemplo de ideologia mecanizadora, mas como o próprio nome dessa ideologia que torna possível a mecanização do humano, remontando à revolução industrial do início do século dezenove como lugar por excelência dessa mecanização, onde os operários da linha de montagem deixam de agir como seres humanos plenos.

35. Wiener descreve os operários como seres humanos completos que comparecem ao trabalho mas são utilizados apenas como órgãos ativos de um mecanismo sobre-humano cujo cérebro reside alhures, entre os gestores, sendo suas necessidades e faculdades extra-laborais consideradas mera bagagem inútil, o que torna sua substituição por máquinas não a eliminação de homens inteiros, mas de meros meios-homens ou quartos de homens.

36. A fábrica automática representa assim etapa terminal de processo que remonta à revolução industrial, através do qual o trabalho humano foi progressivamente racionalizado e decomposto em gestos elementares, sobretudo sob influência de Taylor e dos Gilbreth, tornando os gestos mecânicos e, por conseguinte, mecanizáveis.

37. Essa análise pressupõe, contudo, aceitar a premissa de que o humano se identifica com seu trabalho, premissa que a própria fábrica automática poderia contestar ao libertar o humano do jugo laboral em vez de simplesmente torná-lo obsoleto.

O mercado e o trabalho

38. A libertação efetiva do humano pela fábrica automática exige, para Wiener, condições tanto práticas quanto ideológicas, sendo a primeira delas a reintrodução da planificação econômica, dado que a produção automatizada a custo baixíssimo e quantidade praticamente ilimitada ameaça arruinar tanto o produtor quanto todo um setor inteiro caso não seja controlada.

39. O exemplo da fábrica de garrafas programada para produtividade máxima, que arruinaria seu proprietário antes que este percebesse a necessidade de interromper a produção, ilustra a aproximação que Wiener estabelece entre mecânica e feitiçaria, comparando o uso inconsciente das máquinas ao talismã acionado por fórmula mágica cujo poder desconhecemos.

• Wiener evoca explicitamente o aprendiz de feiticeiro de Goethe como analogia perfeita para esse descontrole tecnológico.
• A referência a “Erewhon” de Samuel Butler reforça essa percepção do perigo real da mecanização, ainda que Wiener localize o perigo não nas máquinas em si, desprovidas de vontade própria, mas no uso que delas fazemos.

40. A introdução de planificação nos Estados Unidos dos anos cinquenta, em plena Guerra Fria, implicaria ruptura contra a ideologia do laissez-faire, segundo a qual o mercado livre se autorregula por mão invisível, hipótese que Wiener considera perder validade à medida que os meios de competição se tornam mais poderosos e as consequências dos erros mais graves, tornando automação e livre concorrência incompatíveis.

41. Além da planificação, impõe-se repensar radicalmente a concepção mesma de sociedade e humanidade, abandonando a mensuração do valor humano pelo trabalho realizado, exigindo sociedade fundada sobre outro cimento que não o equivalente a um mercado de escravos, atribuindo valor intrínseco ao lazer e ao ser humano enquanto tal, e não ao trabalhador.

42. Sem nunca empregar explicitamente o termo revolução, Wiener projeta ruptura radical contra o funcionamento capitalista e a ideologia do humano-trabalhador, situando tanto o marxismo quanto o capitalismo liberal como ideologias ultrapassadas, formadas respectivamente para o operário fabril do século dezenove e o colono da fronteira americana, ambas incapazes de responder aos desafios técnicos radicalmente novos do século vinte.

Uma cena de banho

43. A cena cômica do filme “Cheaper by the Dozen”, em que Frank Gilbreth demonstra tomar banho eficientemente em doze segundos diante da diretora escolar, ilustra o riso bergsoniano provocado pelo mecânico sobreposto ao vivo, insistindo o filme na irredutibilidade cômica do humano à máquina.

44. Frank e Lilian Gilbreth, contemporâneos de Taylor, analisavam e filmavam os movimentos dos trabalhadores para simplificá-los e eliminar gestos supérfluos, distinguindo-se contudo de Taylor por sua convicção humanista de que a eficiência ganha deveria beneficiar os próprios trabalhadores, retrato reforçado pela representação simpática e afetuosa da grande família Gilbreth no filme.

45. Wiener rejeita explicitamente essa leitura humanista do filme, argumentando em carta ao ator Clifton Webb, depois retomada em conferência de 1954, que o filme ignora completamente a verdadeira consequência do trabalho dos Gilbreth: ao simplificar e rotinizar as tarefas humanas, eles prepararam precisamente as condições técnicas necessárias para substituir o trabalhador por máquina inteiramente automática.

46. Wiener identifica assim contradição fundamental no humanismo dos Gilbreth, cujo esforço para melhorar a condição operária através do aumento de eficiência acabou por eliminar o próprio operário da equação produtiva, destruindo a possibilidade mesma do emprego humano e retirando-lhe a dignidade que dependeria justamente dessa eficiência.

• A carta original a Clifton Webb desenvolve ainda a ideia sardônica de que a própria vida familiar dos Gilbreth, fundada sobre esse ideal de eficiência mecanizada, tende paradoxalmente a destruir cada vez mais espaço não apenas para valores humanos, mas para os próprios seres humanos.

47. É notável que Wiener nunca retome, em suas conferências públicas, essa segunda parte autocrítica da carta, silêncio que sugere que seu próprio humanismo cibernético poderia estar sujeito à mesma contradição estrutural que ele identifica nos Gilbreth, levantando a questão fundamental de que conteúdo pode ainda ter a noção de humano diante da máquina cibernética.

O robô

48. A peça “R.U.R.” de Karel Čapek, de 1920, que cunha o termo “robô” a partir da palavra checa para trabalho forçado, antecipa vários elementos centrais da cibernética wieneriana, retratando robôs fabricados em série como mão de obra barata capaz de tornar progressivamente obsoleto o trabalho humano.

49. O jovem Rossum, ao redesenhar o corpo humano segundo critérios puramente funcionais e simplificadores próprios de um bom engenheiro, obtém trabalhador simultaneamente mais eficiente e mais barato, resumindo com precisão a lógica econômica subjacente à mecanização humana que Wiener também denuncia.

50. O cenário de desemprego e revolta operária provocado pela substituição por robôs já se manifesta na peça de Čapek, ao mesmo tempo em que o diretor da fábrica, Domin, sonha com paraíso terrestre em que o humano estaria finalmente libertado da servidão ao trabalho material.

51. Esse sonho utópico de Domin permanece, contudo, inteiramente desconectado da realidade que efetivamente produziu os robôs: mera coincidência acidental entre a especulação intelectual ateísta do velho Rossum, que buscava provar a possibilidade de criação humana sem intervenção divina, e a especulação puramente financeira do filho, movido apenas pela ambição de lucro dos acionistas.

52. Levanta-se a hipótese de que os dilemas de Wiener, e mesmo o enredo da novela sobre o sábio desaparecido, possam ter se inspirado, ao menos parcialmente, nessa peça que o próprio Wiener discute e elogia por ter envelhecido bem, sendo tentador situar Wiener simultaneamente na posição do velho Rossum, sábio puro que involuntariamente inventa a máquina eliminadora do humano, e na de Domin, sonhador de paraíso sem trabalho que acaba servindo aos interesses dos acionistas.

53. Wiener critica, contudo, a visão antropomórfica do robô em Čapek, que preserva silhueta humanoide simplificada, contrastando-a com os autômatos industriais reais desprovidos de qualquer semelhança enganosa com a forma humana, funcionando antes através de rodas e alavancas que de braços e pernas, considerando irrealista o retrato antropomórfico checo.

54. Diferentemente da fábrica de R.U.R., que permanece simples linha de produção substituindo trabalhadores por robôs de forma equivalente, a fábrica automática wieneriana constitui sistema autônomo integrado, um verdadeiro animal com vida própria, revelando que embora ambas as visões se cruzem parcialmente, suas perspectivas não são inteiramente sobreponíveis.

55. Čapek ilumina, contudo, aspecto que permanece obscuro nos textos de Wiener e que a imagem da fábrica automática dissimula: o robô teórico do velho Rossum recobre desde sempre um duplo do operário, revelando que descrever o humano como máquina significa, em última instância, destiná-lo ao trabalho e à exploração, aspecto que o interesse puramente estrutural de Wiener pela máquina talvez negligencie.

As contradições do humanismo de Wiener

56. Wiener jamais enfrenta tematicamente e de modo sistemático a questão fundamental de saber se o homem pode ser considerado uma espécie de máquina e se a máquina pode legitimamente receber atributos humanos como consciência, pensamento e experiência subjetiva.

57. Apesar dessa ausência de tratamento sistemático, os textos de Wiener respondem inequivocamente de forma afirmativa através de observações pontuais mas sem ambiguidade: questionado se uma máquina pensa e vive, Wiener responde tratar-se apenas de mal-entendido semântico sobre palavras adequadas às contingências da vida cotidiana mas inadequadas aos novos problemas colocados pelas máquinas.

58. Wiener afirma explicitamente não haver diferença absoluta de natureza entre humano e não humano, nem limitação essencial que impeça a máquina de aprender, conversar, processar informação ou realizar qualquer atividade quase humana, chegando a evocar em “L'Usage humain des êtres humains” “essa espécie particular de máquina conhecida como ser humano”.

59. Observa-se paralelo entre Wiener e o narrador de “Un savant réapparaît”, que se autodescreve como matemático especialista em fábricas automáticas, embora, ao contrário de von Neumann, os contatos reais de Wiener com a indústria tenham sido reduzidos ou praticamente inexistentes, situando-se seus dilemas morais antes no plano ideológico do que no da experiência prática direta.

60. No mundo cibernético, as fábricas automáticas ameaçam produzir catástrofe humana pior que a própria bomba atômica, dividindo permanentemente a sociedade entre possuidores e desprovidos de qualquer força de trabalho a vender, resposta única de Wiener sendo um humanismo que recuse reduzir o humano ao seu trabalho, sem que fique claro, contudo, que conteúdo positivo esse humanismo poderia efetivamente reivindicar diante da assimilação radical entre humano e máquina.

61. A contradição estrutural identificada anteriormente no humanismo de Gilbreth reaparece assim, embora em plano distinto, no próprio Wiener: enquanto Gilbreth atuava efetivamente no mundo real, Wiener permanece confinado ao universo cibernético fictício, nunca realizado historicamente através das fábricas automáticas que imagina povoadas por poucos operários polindo peças de cobre, universo que expressa contudo, através da ficção, dilemas ideológicos genuínos sobre a sobrevivência do humano frente ao desenvolvimento maquínico.

62. Ao invés de fundamentar suas dúvidas em pesquisas socioeconômicas concretas sobre robotização industrial e desemprego crescente, Wiener as expressa através de narrativa ficcional em que um sábio, que soubera permanecer humano em meio às fábricas automáticas, é finalmente assassinado por outro sábio.

63. A tentativa fracassada de Lilienblum/Posner de desaparecer numa pequena comunidade agrícola, o kibutz, sugere ao final que talvez a solução não residisse em fugir da técnica, mas antes em desviá-la, abrindo caminho para considerar, como alternativa derradeira, a possibilidade de o humano tornar-se ele próprio um ciborgue.