COMPUTAO E INTELIGNCIA

http://www.loebner.net/Prizef/TuringArticle.html

COMPUTAO E INTELIGNCIA

A. Turing.

1. O jogo da imitao

Proponho a seguinte questo: "Podem as mquinas pensar?" A reflexo sobre esta questo deveria ser iniciada com definies do significado dos termos "mquinas" e "pensar". As definies poderiam ser esquematizadas de modo a refletir, na medida do possvel, o uso comum das palavras, mas tal atitude perigosa. Se os significados das palavras "mquina e pensar" tiverem de ser encontrados por meio de um exame de seu uso habitual, ser difcil escapar concluso de que o significado e a resposta pergunta "Podem as mquinas pensar?" devero ser procurados numa pesquisa estatstica do tipo Gallup. Mas isto absurdo. Em vez de tentar uma definio deste tipo, eu substituiria a questo por outra, que est relacionada de perto com ela e expressa em palavras menos ambguas.

A nova formulao do problema pode ser descrita em termos de um jogo a que ns chamamos "jogo da imitao". jogado por trs pessoas: um homem (A), uma mulher (B), e um interrogador (C), que pode ser de qualquer dos sexos. O interrogador permanece num quarto, separado dos outros dois. O objetivo do jogo, para o interrogador, determinar, em relao aos outros dois, qual o homem e qual a mulher. Ele os conhece por rtulos X e Y e no fim do jogo dir ou "X e A e Y B", ou "X B e Y A". permitido ao interrogador fazer perguntas a A e B, tais como:

C: Ser que X poderia me dizer qual o comprimento de seu cabelo?

Supondo-se agora que X seja realmente A, ento A dever responder. O objetivo do jogo para A tentar induzir C a fazer uma identificao errada. Sua resposta, portanto, poderia ser:

"Meu cabelo curto, e os fios longos tm cerca de 20 centmetros de comprimento".

Para que tons de vozes no ajudem o interrogador, as respostas deveriam ser escritas, ou ainda melhor, datilografadas. O arranjo ideal um telegravador com comunicao entre os dois quartos.

Alternativamente, a pergunta e as respostas podem ser repetidas por um intermedirio. O objetivo do jogo para a terceira jogadora (C) ajudar o interrogador. Sua melhor estratgia ser provavelmente dar respostas verdadeiras. Ela pode acrescentar frases como: "Eu sou a mulher, no escute a ele". Mas isso ser intil, porque o homem pode dar respostas semelhantes.

Agora formulamos a questo: "O que acontecer quando uma mquina ocupar o lugar de A nesse jogo?" Ser que o interrogador decidir erroneamente com a mesma freqncia, quando o jogo jogado dessa forma, do que quando o fazia ao tempo em que o jogo era jogado entre um homem e uma mulher? Estas questes substituem a pergunta original "Podem as mquinas pensar?"

2. Crtica do novo problema

Assim como se pergunta: "Qual a resposta para essa nova forma de pergunta?", pode-se perguntar "Essa nova pergunta digna de ser investigada?" Tal questo ns a investigaremos de pronto, evitando com isto uma regresso infinita.

O novo problema tem a vantagem de traar uma linha bastante ntida entre as capacidades fsicas e intelectuais de um homem. Nenhum engenheiro ou qumico pode alegar ser capaz de produzir um material que seja indistinguvel da pele humana. possvel que algum dia isso possa ser feito, mas mesmo supondo que tal inveno esteja disponvel deveramos perceber que h pouca vantagem em tentar tornar uma "mquina pensante" humana vestindo-a com tal carne artificial. A forma na qual propusemos o problema reflete esse fato na condio que impede o interrogador de ver ou tocar os outros competidores, ou ouvir-lhes as vozes. Algumas outras vantagens do critrio proposto podem ser demonstradas por amostras de perguntas e respostas, tais como:

P: Por favor, escreva-me um soneto cujo tema seja a "Forth Bridge".

R: Poupe-me isso. Nunca consegui escrever poesia.

P: Some 34.957 e 70.764.

R: (Pausa de mais ou menos 30 segundos e depois como resposta) 105.721.

P: Voc joga xadrez?

R: Sim.

P: Eu tenho R em meu R1, e nenhuma outra pea. Voc tem somente R no R6 e T1. a sua vez. Qual o seu lance?

R: (Depois de uma pausa de 15 segundos) T-T8 mate.

O mtodo de pergunta e resposta parece ser adequado para uso em quase todos os campos de atividade humana que desejemos abarcar. No queremos punir a mquina por sua inabilidade de brilhar em concursos de beleza, nem punir um homem por perder uma corrida contra um aeroplano. As condies de nosso jogo tornam essas inaptides descabidas. As "testemunhas" podem vangloriar-se, se acharem conveniente, do seu fascnio, fora ou herosmo, mas o interrogador no pode pedir demonstraes prticas.

O jogo talvez possa ser criticado sob o pretexto de que as desvantagens pesam bastante contra a mquina. Se o homem fosse tentar fingir-se de mquina, iria certamente fazer uma demonstrao muito pobre. Iria trair-se imediatamente por usa lentido e impreciso em aritmtica. No podem acaso as mquinas realizar algo que deveria ser descrito como pensamento, mas que muito diferente do que um homem faz? Tal objetivo muito forte, mas ao menos podemos dizer que se, no obstante, puder-se construir uma mquina capaz de jogar o jogo da imitao satisfatoriamente, no precisaremos preocupar-nos com semelhante objeo.

Pode-se alegar que, ao jogar o "jogo da imitao", a melhor estratgia para a mquina ser possivelmente algo que no seja a imitao do comportamento de um homem. Tal possvel, mas creio ser improvvel algo dessa espcie. De qualquer modo, no intentaremos investigar aqui a teoria do jogo e admitiremos que a melhor estratgia ser tentar dar as respostas que seriam naturalmente dadas por um homem.

3. As mquinas implicadas no jogo

A pergunta que fizemos no 1 no ser totalmente definida antes que especifiquemos o que pretendemos dizer com a palavra "mquina". natural que queiramos permitir que todo tipo de tcnica de engenharia seja usado em nossas mquinas. Tambm desejaramos admitir a possibilidade de um engenheiro ou uma equipe de engenheiros construir uma mquina que funcione, mas cujo modo de operao no possa ser satisfatoriamente descrito por seus construtores, porque utilizaram um mtodo em grande parte emprico. Finalmente, queremos excluir das mquinas todos os homens de carne e osso. difcil formular as definies de modo que satisfaam essas trs condies. Poder-se-ia, por exemplo, insistir que os membros da equipe de engenheiros fossem todos do mesmo sexo, mas isso no seria de fato satisfatrio, porque provavelmente possvel criar um indivduo completo a partir de uma nica clula de - digamos - pele humana. Realizar isso seria uma proeza da tcnica biolgica digna dos maiores elogios, mas no estaramos dispostos a consider-lo como um caso de "construo de uma mquina pensante". Isto nos induz a abandonar o requisito de que todo tipo de tcnica deveria ser permitido. Estamos tanto mais prontos a abandon-lo quanto se sabe que o atual interesse por "mquinas pensantes" foi despertado por um tipo particular de mquina, geralmente chamado de "computador eletrnico" ou "computador digital". Seguindo tal sugesto, s permitimos que computadores digitais tomem parte em nosso jogo.

Essa restrio parece, primeira vista, muito drstica. Tentarei mostrar que no assim. Mas isso exige uma breve explicao da natureza e propriedade desses computadores.

Tambm poderamos dizer que essa identificao de mquinas com computadores digitais, tanto quanto nosso critrio de "pensar", s ser insatisfatrio se (contrariamente minha crena), os computadores digitais se revelarem incapazes de uma boa demonstrao no jogo.

J h um certo nmero de computadores digitais em funcionamento, e pode-se perguntar "Por que no tentar a experincia imediatamente? Seria fcil satisfazer as condies do jogo. Certo nmero de interrogadores poderia ser usado e uma estatstica compilada para mostrar a freqncia com que a identificao certa fosse dada". A resposta imediata que no estamos perguntando se todos os computadores digitais fariam boa figura no jogo nem se os computadores presentemente disponveis teriam bom desempenho, e sim se existem computadores imaginveis capazes de tanto. Mas isso unicamente a resposta imediata. Veremos a questo mais tarde, sob um aspecto diferente.

4. Computadores digitais

A idia que existe atrs de computadores digitais pode ser explicada, dizendo-se que essas mquinas so planejadas para realizar quaisquer operaes passveis de serem feitas por um computador humano. O computador humano deve seguir regras fixas; no tem autoridade para se desviar delas em nenhum detalhe. Podemos supor que essas regras sejam fornecidas por um livro, alterado sempre que ao operador se confie novo trabalho. O operador dispe de um suprimento ilimitado de papis onde fazer seus clculos. Ele tambm pode fazer suas multiplicaes e adies numa mquina de calcular de mesa, mas isto no importante.

Se usarmos a explicao acima como uma definio, estaremos em perigo de cair num argumento circular. Ns o evitaremos dando um esboo dos meios pelos quais o efeito desejado alcanado. Um computador digital pode ser usualmente visto como consistindo de trs partes:

a) Memria

b) Unidade executiva

c) Controle

A memria uma reserva de informao e corresponde ao papel utilizado pelo computador humano, seja este a folha de papel onde faz seus clculos, ou do livro onde as regras esto impressas. Na medida em que o computador humano faa clculos de cabea, uma parte da memria corresponder sua prpria memria.

A unidade executiva a parte que realiza as vrias operaes individuais envolvidas num clculo. Quais sejam tais operaes individuais coisa que poder variar de mquina para mquina. Normalmente podem-se fazer longas operaes, tais como "Multiplicar 3.540 675.445 por 7.076.345.687", mas em algumas mquinas somente algumas operaes muito simples, tais como "Escreva 0", so possveis.

Mencionamos que o "livro de regras" fornecido ao computador pode ser substitudo na mquina por uma parte de sua memria. Chama-se ento "tabela de instrues". o dever do controle verificar que essas instrues sejam obedecidas corretamente e na ordem certa. O controle construdo de tal forma que isso necessariamente acontece.

As informaes na memria so via de regra fundamentadas em blocos de tamanho relativamente pequeno. Numa mquina, por exemplo, um bloco pode consistir em 10 algarismos decimais. Atribuem-se nmeros s partes da memria nas quais os vrios blocos de informaes so estocados, de alguma forma sistemtica. Uma instruo tpica diria: "Adicione o nmero estocado na posio 6809 quele da 4302 e ponha o resultado de volta na ltima posio da memria".

Desnecessrio dizer que isso no ocorreria na mquina sob a forma de expresso lingstica. Seria mais provavelmente codificado numa forma tal como 6809430217. Aqui, o 17 nos diz qual das vrias alteraes possveis ser realizada nos dois nmeros. Nesse caso, a operao a descrita acima: "Adicione o nmero... "Notar-se- que a instruo toma 10 algarismos e assim forma um bloco de informao muito conveniente. O controle normalmente tomar as instrues a serem obedecidas na ordem das posies nas quais elas esto memorizadas, mas ocasionalmente uma instruo tal como: "Agora obedea instruo memorizada na posio 5606 e continue da", pode ser encontrada, ou ento: "Se a posio 4505 contm 0, obedea instruo memorizada em 6707; do contrrio, prossiga".

Instrues destes ltimos tipos so muito importantes porque possibilitam que uma seqncia de operaes seja refeita vrias vezes at que se satisfaa alguma condio, mas de forma a obedecer, no instrues novas em cada repetio, mas as mesmas repetidamente. Para recorrer a uma analogia domstica, suponha-se que Mame queira que Joo passe pelo sapateiro toda manh, em seu caminho para a escola, para verificar se os sapatos dela esto prontos; ela pode pedir-lhe isso todas as manhs. Alternativamente, ela pode de uma vez por todas afixar um lembrete na sala de entrada, que ele ver quando for para a escola, e o que o lembrar de perguntar pelos sapatos e tambm de destruir o lembrete quando trouxer os sapatos consigo.

O leitor deve aceitar como o fato que computadores digitais podem ser construdos, e at j foram construdos, de acordo com os princpios que descrevemos, e que podem de fato muito aproximadamente imitar as aes de um computador humano.

O livro de regras a que nos referimos, usado pelo nosso computador humano, uma fico conveniente. Os computadores humanos lembram, em realidade, o que tenham de fazer. Se algum quiser construir uma mquina que imite o comportamento do computador humano em alguma operao complexa, ter de perguntar-lhe como ela feita e ento traduzir a resposta na forma de uma tabela de instrues. A construo de tabelas de instrues comumente descrita como "programao". "Programar uma mquina que realize a operao "A" significa colocar a tabela de instrues apropriada dentro da mquina, de tal forma que esta realize A.

Uma variante interessante da idia de um computador digital a do "computador digital com um elemento aleatrio". Estes tm instrues que envolvem o lanamento de um dado ou algum processo eletrnico equivalente; uma instruo que tal poderia ser por exemplo: "Atire o dado e ponha o nmero que resultou na memria 1000". Algumas vezes, tal mquina descrita como dotada de livre arbtrio (embora eu pessoalmente no usasse essa frase). normalmente impossvel determinar, observando-se uma mquina, se ela possui ou no um elemento aleatrio, porque um efeito similar pode ser produzido por artifcios como fazer escolhas que dependam dos algarismos que compem a seqncia decimal do nmero \SMBOLO SYMBOL \f "Symbol".

A maioria dos computadores digitais atuais possui somente uma memria finita. No h dificuldade terica em relao idia de um computador com memria limitada. Naturalmente, s uma parte finita pode ter sido usada a qualquer tempo. Da mesma forma, somente uma soma finita pode ter sido construda, mas podemos imaginar mais e mais parcelas sendo adicionadas, se necessrio. Tais computadores tm interesse terico especial e sero chamados computadores de capacidade infinita.

A idia de um computador digital antiga. Charles Babbage, professor de Matemtica em Cambridge, de 1828 a 1839, planejou tal mquina, a chamada Mquina Analtica, que nunca foi completada. Embora Babbage tivesse todas as idias essenciais, sua mquina, na poca, no apresentava perspectivas atraentes. A velocidade ento disponvel seria certamente maior que a do computador humano, mas era cem vezes mais vagarosa que a Mquina de Manchester; esta por sua vez, uma das mais vagarosas das mquinas modernas. A memria teria de ser puramente mecnica, por meio de rodas dentadas e cartes.

O fato de que a Mquina Analtica de Babbage tivesse de ser inteiramente mecnica, ajuda-nos a livrar-nos de uma superstio. D-se freqentemente importncia ao fato de que os computadores digitais modernos so eltricos e de que o sistema nervoso seja tambm eltrico. Como a mquina de Babbage no era eltrica, e como todos os computadores digitais so, em certo sentido, equivalentes, vemos que tal uso da eletricidade no pode ter importncia terica. claro que a eletricidade normalmente aparece quando se trate de sinalizao rpida, de forma que no surpreende que encontremos em ambos os casos. No sistema nervoso, os fenmenos qumicos so to importantes quanto os eltricos. Em determinados computadores, o sistema de memria principalmente acstico. A caracterstica de usar a eletricidade apresenta assim semelhana muito superficial. Se quisssemos achar semelhanas que tais precisaramos voltar-nos para as analogias matemticas de funo.

5. A universalidade dos computadores digitais

Os computadores digitais considerados na ltima seo podem ser classificados entre as "mquinas de estado discreto". Estas so as mquinas que se movimentam por pulos ou estalidos sbitos de um estado bem definido para outro. Tais estados so suficientemente diferentes para que no haja possibilidade de confuso entre eles. A rigor, tais mquinas no existem. Tudo, na realidade, se move continuamente. Mas h muitos tipos de mquinas que podem ser vantajosamente consideradas mquinas de estado discreto. Por exemplo, quando se consideram os interruptores de um sistema de iluminao, uma convico conveniente admitir que cada interruptor tenha de estar definitivamente ligado ou desligado. Deve haver posies intermedirias, mas, para a maioria dos propsitos, podemos esquec-las. Como um exemplo de mquina de estado discreto, podemos considerar uma roda cujas posies se alternem de 120o por segundo, mas que pode ser detida por uma alavanca opervel de fora; ademais, uma lmpada acende-se numa das posies da roda. Semelhante mquina pode ser descrita abstratamente como segue. O estado interno da mquina (que descrito pela posio da roda) pode ser q1, q2 ou q3. H um sinal de entrada i0 ou i1 (posio da alavanca). O estado interno a qualquer momento determinado pelo ltimo estado, e sinal de entrada, de acordo com a tabela:

ltimo Estado

q1q2q3

i0q2q3q1

Entrada

i1q1q2q3

Os sinais de sada, a nica indicao externa visvel do estado interno(a luz), so descritos pela tabela:

Estadoq1q2q3

Sada O0O0O1

Este exemplo tpico das mquinas de estado discreto. Elas podem ser descritas por tais tabelas sob a condio de que tenham somente um nmero finito de estados possveis.

Parecer que, dado o estado inicial da mquina e os sinais de entrada, seja sempre possvel predizer todos os estados futuros. Isto faz lembrar a concepo de Laplace de que, a partir do estado completo do universo num dado momento de tempo, tal como descrito pelas posies e velocidades de todas as partculas, seria possvel predizer todos os estados futuros. A predio que estamos considerando est, contudo, mais prxima da praticabilidade do que a considerada por Laplace. O sistema do "universo como um todo" tal que erros assaz pequenos nas condies iniciais podem ter um efeito esmagador num tempo posterior. O deslocamento de um simples eltron por um bilionsimo de centmetro, em determinado momento, pode representar a diferena entre um homem ser morto por uma avalanche, um ano mais tarde, ou escapar dela. Propriedade essencial dos sistemas mecnicos a que chamamos "mquinas de estado discreto" a de que tal fenmeno no ocorra. Mesmo quando consideramos mquinas fsicas reais, em vez de mquinas idealizadas, um conhecimento razoavelmente preciso do estado num determinado momento produz conhecimento razoavelmente preciso certo nmero de passos mais tarde.

Como dissemos, os computadores digitais pertencem classe das mquinas de estado discreto. Mas o nmero de estados de que essa mquina capaz usualmente enorme. Por exemplo, para a mquina ora funcionando em Manchester, tal nmero cerca de 2165.000, isto , cerca de 1050.000. Compare-se isto com o nosso exemplo da roda dentada descrita acima, que possui s trs estados. No difcil de ver porque o nmero de estados deva ser to imenso. O computador inclui uma memria que corresponde ao papel usado por um computador humano. Tem de ser possvel escrever na memria qualquer uma das combinaes de smbolos que poderia ter sido escrita no papel. Para simplificar, suponha-se que somente algarismos de 0 a 9 seja usados como smbolos. Variaes caligrficas so ignoradas. Suponha-se que se entregue ao computador 100 folhas de papel, cada qual com 50 linhas, cabendo em cada linha 30 algarismos. Ento o nmero de estados 10100x50x30 isto , 10150.000. Este aproximadamente o nmero de estados de trs mquinas de Manchester reunidas. O logaritmo de base dois do nmero de estados usualmente chamado "capacidade de memria" da mquina. Assim, a mquina de Manchester tem uma capacidade de memria de cerca de 165.000, e a mquina de roda dentada do nosso exemplo, cerca de 1,6. Se duas mquinas so acopladas, suas capacidades tm de ser somadas para obter-se a capacidade da mquina resultante. Isto leva possibilidade de enunciados como "A mquina de Manchester contm 64 trilhas magnticas, cada qual com uma capacidade de 2560, oito vlvulas eletrnicas com uma capacidade de 1280. A memria mista chega a 300, dando uma capacidade de 174.380."

Dada a tabela correspondente mquina de estado discreto, possvel predizer o que far. No h razo para que este clculo no seja feito por meio de um computador digital. Conquanto que o clculo seja feito com suficiente rapidez, o computador digital pode imitar o comportamento da mquina de estado discreto. O jogo de imitao poderia ento ser jogado com a mquina em questo (como B) e o computador digital imitador (como A); o interrogador seria capaz de distingui-los. Naturalmente, o computador digital tem de ter uma capacidade de memria, adequada, bem como trabalhar com suficiente rapidez. Alm disso, tem de ser programado novamente para cada nova mquina que se deseje imitar.

Descreve-se essa propriedade especial dos computadores digitais de imitar qualquer mquina de estado discreto dizendo-se que so mquinas universais. A existncia de mquinas com tais propriedades tem a importante conseqncia de que, consideraes de velocidade parte, desnecessrio desenhar novas e diferentes mquinas para realizar diferentes processos de computao. Eles podem ser todos levados a cabo com um computador digital, adequadamente programado para cada caso. Ver-se- que, em conseqncia disso, todos os computadores digitais so, em certo sentido, equivalentes.

Podemos agora considerar de novo o ponto suscitado no final do 3. Sugeriu-se, conjecturalmente, que a questo "Podem as mquinas pensar?" fosse substituda por, "Existem computadores digitais imaginveis que tivessem bom desempenho no jogo de imitao?" Se quisermos, podemos generalizar e perguntar "Existem mquinas de estado discreto capazes de bom desempenho?" Mas, em vista da propriedade de universalidade, verificamos que qualquer uma dessas perguntas equivale a isto: "Fixemos nossa ateno num computador digital particular C. verdade que modificando-se este computador para obter uma memria adequada, aumentando-lhe convenientemente a velocidade de ao, e provendo-o de um programa apropriado, C pode ser preparado para desempenhar satisfatoriamente o papel de A no jogo de imitao, sendo o papel de B desempenhado por um homem?"

6. Opinies contrrias acerca da questo principal

Podemos agora considerar que o terreno foi limpo e que estamos prontos para prosseguir no debate de nossa questo "Podem as mquinas pensar?" e da variante dela citada no final da ltima seo. No podemos abandonar totalmente a forma original do problema, porque as opinies vo diferir quanto a adequao da substituio, e precisamos, pelo menos, ouvir o que tem a ser dito neste particular.

As coisas se tornaro mais simples para o leitor se eu explicar primeiramente minhas prprias convices a respeito. Considere-se primeiro a forma mais acurada da questo. Acredito que, dentro de cerca de 50 anos, ser possvel programar computadores, com uma capacidade de memria de cerca de 109 para faz-los jogar o jogo da imitao to bem que um interrogador mdio no ter mais de 70% de probabilidade de chegar identificao correta, aps 5 minutos de interrogatrio. A pergunta original "Podem as mquinas pensar?" , a meu ver, insignificante demais para merecer discusso. Contudo, acredito que no fim do sculo, o uso das palavras e a opinio geral esclarecida estaro to mudados que se poder falar de mquinas pensantes. Acredito ainda que no h nenhum benefcio em ocultar tais convices. A noo popular de que cientistas avanam inexoravelmente de fatos bem estabelecidos para fatos bem estabelecidos, jamais sendo influenciados por conjecturas no provadas, est totalmente errada. Desde que se esclarea o que so fatos provados e o que so conjecturas, nenhum dano pode resultar. As conjecturas so de grande importncia, pois sugerem teis linhas de investigao.

Considerarei agora opinies opostas s minhas.

(1) A objeo teolgica

Pensar uma funo da alma humana imortal. Deus deu uma alma imortal a todo homem e a toda mulher, mas a nenhum outro animal ou mquina. Logo, nenhum animal ou mquina pode pensar.

Sou incapaz mesmo em parte de aceitar tal argumento, mas tentarei responder em termos teolgicos. Acharia o argumento mais convincente se os animais fossem postos na mesma classe dos homens, porque h uma diferena bem maior, para mim, entre o ser animado e o inanimado tpicos, do que entre o homem e outros animais. O carter arbitrrio da viso ortodoxa se evidencia se considerarmos como deve parecer a um membro de alguma outra comunidade religiosa. Como encaram os cristos o pensamento muulmano de que as mulheres no tm alma? Mas vamos deixar esse ponto de lado e retornar ao argumento principal. Parece-me que o argumento citado acima implica uma sria restrio onipotncia do Todo-poderoso. Admite-se que h certas coisas que Ele no pode fazer, tal como tornar um igual a dois, mas no deveramos acreditar que tem a liberdade de conceber alma a um elefante, se quisesse? Poderamos esperar que s exercesse tal poder por via de uma mutao que provesse o elefante de um crebro devidamente aperfeioado para atender s necessidades de sua alma. Um argumento de todo semelhante pode ser invocado no caso das mquinas. Talvez parea diferente porque mais difcil de "engolir". Mas isso realmente significa pensar que acreditamos fosse menos provvel que Ele considerasse as circunstncias apropriadas para conferir uma alma. As circunstncias em questo so discutidas no decorrer deste trabalho. Ao tentar construir tais mquinas no estaramos irreverentemente usurpando-lhe o poder de criar almas, como no o usurpamos ao procriar crianas: ao contrrio, somos, em ambos os casos, instrumentos de Sua vontade providenciando moradas para as almas que Ele cria.

Entretanto, isto mera especulao. No estou muito impressionado com argumentos teolgicos, quaisquer que sejam as circunstncias nas quais so utilizados. Tais argumentos mostraram-se freqentemente insatisfatrios no passado. na poca de Galileu, sustentou-se que os textos "O sol se deteve no meio do cu e no se apressou a pr-se, quase um dia inteiro" (Josu, cap. 10) e "Ele lanou os fundamentos da terra, para que no se movesse em tempo algum." (Salmos, 104) eram refutaes adequadas teoria de Coprnico. Com o nosso conhecimento atual, semelhante argumento parece ftil. Quando esse conhecimento no existia, fazia uma impresso bem diferente.

(2) A objeo das "Cabeas na Areia'

As conseqncias de mquinas pensantes seriam terrveis. Esperemos e confiemos em que no possam fazer isso.

Este argumento raramente expresso de maneira to ostensiva quanto na forma acima. Mas afeta a maioria de ns que pensa assim. Gostaramos de acreditar que o Homem , de alguma maneira sutil, superior ao resto da criao. melhor que possa ser mostrado como necessariamente superior, pois a no h perigo de ele perder sua posio de comando. A popularidade do argumento teolgico est claramente ligada a esse sentimento. provvel que seja mais forte em pessoas intelectuais, pois elas valorizam o poder do pensamento mais que outras, e esto mais inclinadas a basear em tal poder a crena na superioridade do Homem.

No creio que esse argumento seja suficientemente substancial para exigir refutao. Consolo seria mais apropriado; talvez este deva ser buscado na transmigrao das almas.

(3) A objeo matemtica

H certos resultados da lgica matemtica que podem ser usados para mostrar que h limitaes aos poderes das mquinas de estado discreto. O mais conhecido desses resultados o teorema de Gdel (1931); mostra que em qualquer sistema lgico suficientemente poderoso podem-se formular enunciados que no so passveis de prova ou refutao dentro do sistema, a menos que possivelmente o prprio sistema seja inconsistente. H outros resultados semelhantes devidos a Church (1936), Kleene (1935), Rosser e Turing (1937).

Este ltimo o mais conveniente para considerar, de vez que diz respeito diretamente a mquinas, enquanto os outros s podem ser usados num argumento comparativamente indireto: por exemplo, para usar o argumento de Gdel, precisamos ademais, dispor de certos meios de descrever sistemas lgicos em termos de mquinas, e mquinas em termos de sistemas lgicos. O resultado em questo se refere a um tipo de mquina que essencialmente um computador digital de capacidade infinita. Afirma este resultado que h certas coisas que uma mquina assim no pode realizar. Se ela estiver aparelhada para dar respostas a perguntas, como no jogo da imitao, haver algumas perguntas s quais dar ou resposta errada ou nenhuma resposta, no importa quanto tempo se lhe conceda para responder. Haver certamente muitas questes assim, que no podendo ser respondidas por uma mquina, podero ser respondidas de modo satisfatrio por outra. Claro que, de momento, estamos supondo que as perguntas sejam do tipo para o qual uma resposta "Sim" ou "No" adequada, e no perguntas como "Que acha de Picasso?". As perguntas que sabemos que a mquina no conseguir responder so deste tipo: "Considere a mquina a seguir especificada. (...) Responder ela sempre "Sim" a qualquer pergunta?" Os pontos devem ser substitudos por uma descrio de alguma mquina, num modelo-padro, que poderia ser semelhante ao usado no 5. Quando a mquina descrita apresenta relao real comparativamente simples com a mquina que est sendo interrogada, pode-se demonstrar que a resposta ou errada ou nula. Este o resultado matemtico: demonstra-se que prova uma incapacidade das mquinas qual o intelecto humano no est sujeito.

A resposta mais simples a este argumento a de que, embora esteja estabelecido que h limitaes aos poderes de qualquer mquina especfica, enunciou-se apenas, sem qualquer espcie de prova, que nenhuma limitao desse tipo se aplica ao intelecto humano. Mas no creio que tal concepo possa ser rejeitada to levianamente. Sempre que a qualquer uma dessas mquinas se faz a pergunta crtica devida, e ela d uma resposta definida, sabemos que a resposta dever estar errada, e isso nos confere certo sentimento de superioridade. Ser esse sentimento ilusrio? , sem dvida, bastante genuno, mas no creio que se lhe deva dar muita importncia. Ns mesmos freqentemente damos respostas erradas a perguntas, e assim no temos justificativa para estar muito satisfeitos com semelhante evidncia de falibilidade por parte das mquinas. Mais ainda: s nos podemos sentir superiores, nessa ocasio, relativamente mquina especfica sobre a qual conquistamos nosso insignificante triunfo. No se trata de triunfar simultaneamente sobre todas as mquinas. Em resumo, haver talvez homens mais inteligentes do que qualquer mquina dada, mas mesmo ento podero existir outras mquinas mais inteligentes, e assim por diante.

Os que defendem o argumento matemtico estariam, creio eu, dispostos sobretudo a aceitar o jogo da imitao como base para discusso. Os que acreditam nas duas objees anteriores provavelmente no estariam interessados em critrio algum.

(4) O argumento da conscincia

Este argumento est muito bem expresso no discurso "Lister" do Prof. Jefferson, de 1949, de onde transcrevo: "Somente quando uma mquina puder escrever sonetos ou compor concertos como resultado de pensamentos ou emoes sentidas, e no por via de ocorrncia casual de smbolos, que concordaramos em que a mquina e iguala o crebro - isto , que no apenas os escreveu ou comps como tambm sabia que os escrevera. Nenhum mecanismo poderia experimentar (e no meramente assinalar de modo artificial, por meio de uma engenhoca fcil) prazer pelos seus xitos, tristeza quando suas vlvulas queimam, deleite ante a lisonja; sentir-se infeliz por causa de seus erros, encantar-se com o sexo, ficar irritado ou deprimido por no poder alcanar o que deseja."

Este argumento parece ser uma negao da validade de nossa prova. De acordo com a forma mais extremada de tal concepo, a nica maneira de a pessoa estar segura de que a mquina pensa ser ela a prpria mquina e sentir-se pensando. Poderia ento descrever esses sentimentos ao mundo, mas naturalmente no se justificaria que algum lhe desse ateno.. De modo semelhante, e de acordo com a mesma concepo, a nica maneira de saber se um homem pensa ser esse homem. Trata-se, de fato, do ponto de vista solipsista. Pode ser a concepo mais lgica a ser sustentada, mas dificulta a comunicao de idias. A est sujeito a pensar que "A pensa, mas B no", mas da mesma maneira por que B acredita que "B pensa, mas A no". Em vez de discutir continuamente tal questo, de hbito aceitar-se a conveno corts de que toda gente pensa.

Tenho a certeza de que o Prof. Jefferson no deseja adotar esse ponto de vista extremado e solipsista. Ele provavelmente concordaria em aceitar o jogo da imitao como uma prova. O jogo (com omisso do jogador B) freqentemente usado na prtica sob o nome de viva voce, para descobrir se algum de fato compreende algo ou se o "decorou como um papagaio". Vamos ouvir parte de um viva voce.

Interrogador: No primeiro verso do seu soneto, que diz "Devo eu te comparar a um dia de vero", "um dia de primavera" no estaria igualmente bem ou ainda melhor?

Testemunha: No tem o nmero certo de slabas.

Interrogador: Que tal "um dia de inverno"? Metricamente d certo.

Testemunha: Mas ningum quer ser comparado a um dia de inverno.

Interrogador: Por exemplo, voc diria que o Sr. Pickwick faz lembrar o Natal?

Testemunha: De certo modo.

Interrogador: Contudo, o Natal um dia de inverno, e no creio que o Sr. Pickwick fizesse objees a essa comparao.

Testemunha: No creio que voc esteja falando a srio. Quando se diz "um dia de inverno", quer-se dizer um dia tpico de inverno, no um dia especial como o Natal.

E assim por diante. O que diria o Prof. Jefferson se a mquina de escrever sonetos tivesse capacidade para responder assim no viva voce? No sei se consideraria que a mquina estava "apenas sinalizando artificialmente" tais respostas, se as respostas fossem to satisfatrias e compreensivas como na passagem acima, mas no creio que ele a descrevesse como "uma engenhoca fcil". Esta frase, a meu ver, visa a designar dispositivos tais como a incluso, na mquina, da gravao de algum a ler um soneto, com um interruptor para lig-la e deslig-la de quando em quando. Em suma, penso que a maioria dos que sustentam o argumento da conscincia poderiam ser persuadidos a abandon-lo em lugar de ver-se coagidos a assumir uma posio solipsista. Provavelmente, estariam ento dispostos a aceitar a nossa prova.

No quero dar a impresso de que penso no exista nenhum mistrio no que diz respeito conscincia. Existe, por exemplo, algo assim como que um paradoxo vinculado s tentativas de localiz-la. Mas no acredito que tais mistrios tenham de ser necessariamente resolvidos antes de podermos responder pergunta que nos preocupa neste artigo.

(5) Argumento das vrias incapacidades

Esses argumentos assumem a forma de "Concordo em que voc capaz de construir mquinas que faam todas as coisas mencionadas, mas voc nunca conseguir construir uma mquina que faa X". Numerosas caractersticas X so sugeridas, neste particular. Eis uma seleo delas.

Seja bondosa, bela, amigvel; tenha iniciativa; tenha senso de humor; distingua o certo do errado, cometa erros; apaixone-se; delicie-se com morangos com creme; faa algum apaixonar-se por voc; aprenda com a experincia; use corretamente as palavras; seja o tema de seus prprios pensamentos; tenha tanta diversidade de pensamento quanto um homem; faa algo de realmente novo.

Nenhuma justificativa , no geral, oferecida para esses enunciados. Creio que esto, na maior parte, fundamentados no princpio da induo cientfica. Um homem viu milhares de mquinas durante a sua vida. Do que observou, tira certo nmero de concluses gerais. As mquinas so feias; cada uma delas foi construda para um objetivo muito limitado; quando se lhes pede algo um pouco diferente, elas se tornam inteis; a variedade de comportamento de qualquer uma delas muito pequena; etc, etc. Naturalmente, a concluso a de que tais sero, necessariamente, propriedades das mquinas em geral. Muitas limitaes advm da capacidade de memria bastante reduzida dessas mquinas (dou por entendido que a idia de capacidade de memria seja ampliada de alguma maneira, de forma a abranger outras mquinas que no as de estado discreto. A definio exata no importa, de vez que no se pretende nenhuma preciso matemtica na presente discusso). H alguns anos atrs, quando quase no se falava de computadores digitais, era possvel suscitar muita incredulidade a respeito deles caso se lhes mencionasse as propriedades sem descrever-lhes a construo. Isso se devia, presumivelmente, a uma aplicao semelhante do princpio da induo. Tais aplicaes do princpio, na maioria dos casos, so evidentemente inconscientes. Uma criana, que j se queimou teme o fogo, e mostra que o teme evitando-o; est aplicando, ao meu ver, o princpio da induo cientfica. (Claro que eu poderia tambm descrever o seu comportamento de muitos outros modos.) As obras e hbitos da humanidade no parecem ser material muito apropriado para aplicar a induo cientfica. Grande parte do espao-tempo deve ser investigada, se se quiserem resultados seguros. De outro modo, podemos decidir (como a maioria das crianas inglesas), que toda a gente fala ingls, e que bobagem aprender francs.

H, contudo, observaes especiais a serem feitas acerca das incapacidades que foram mencionadas. A incapacidade de saborear morangos com creme talvez tenha impressionado o leitor como frvola. Possivelmente, pode-se fazer com que uma mquina saboreie esse prato delicioso, mas tal empenho seria idiota. O que importante, no que se refere a essa capacidade, que ela contribua para algumas das outras capacidades, por exemplo: a dificuldade de ocorrer entre homem e mquina a mesma espcie de amizade existente entre um homem branco e outro, ou entre dois homens pretos.

A alegao de que "as mquinas no podem cometer erros" parece curiosa. Sente-se a tentao de responder: "Ser que elas so piores por causa disso?" Mas vamos adotar uma atitude mais simptica e procurar ver o que isso realmente significa. Penso que tal crtica pode ser explicada em termos do jogo da imitao. Pretende-se que o interrogador possa distinguir a mquina do homem ao simplesmente propor-lhes certo nmero de problemas de aritmtica. A mquina seria desmascarada devido sua preciso mortal. A resposta a esse argumento simples. A mquina (programada para jogar o jogo) no procuraria dar respostas corretas aos problemas de aritmtica. Introduziria deliberadamente erros, de um modo calculado a confundir o interrogador. Um defeito mecnico provavelmente se revelaria atravs de uma deciso inapropriada quanto a que espcie de erro de aritmtica seria feito. Mesmo tal interpretao da crtica no suficientemente simptica. No dispomos, entretanto, de espao bastante para continuar a examin-la. A meu ver, semelhante crtica deriva de uma confuso entre dois tipos de erros. Podemos chamar-lhes "erros de funcionamento" e "erros de concluso". Os erros de funcionamento so devidos a uma falha mecnica ou eltrica que faz com que a mquina se comporte de modo diferente do planejado. Nas discusses filosficas, prefere-se ignorar a possibilidade de tais erros; discutem-se ento "mquinas abstratas". Essas mquinas abstratas so muito mais fices matemticas do que objetos fsicos. Por definio, so incapazes de erros de funcionamento. Nesse sentido, podemos dizer realmente que "mquinas nunca podem errar". Erros de concluso s podem surgir quando algum significado atribudo aos sinais de sada da mquina. A mquina poderia, por exemplo, escrever equaes matemticas ou frases em ingls.

Quando uma proposio falsa escrita, dizemos que a mquina cometeu um erro de concluso. Claro que no existe razo alguma para afirmar que a mquina no possa cometer erro desse tipo. Ela poderia no fazer mais do que escrever repetidamente "0 = 1". Para usar um exemplo menos despropositado, a mquina poderia ter algum mtodo de tirar concluses por induo cientfica. Devemos esperar que tal mtodo leve ocasionalmente a resultados errneos.

A alegao de que uma mquina no pode ser o tema de seu prprio pensamento s poderia ser respondida, evidentemente, se se conseguisse demonstrar que a mquina tem algum pensamento sobre algum tema. Entretanto, o "tema das operaes de uma mquina" parece de fato significar alguma coisa, pelo menos para as pessoas que lidam com ela. Se, por exemplo, a mquina estivesse procurando achar uma soluo para a equao X2-40X-11 = 0, estaramos tentados a descrever tal equao como parte do tema da mquina naquele momento. Neste sentido, uma mquina pode, sem dvida, ser o seu prprio tema. Pode ser usada para participar na criao dos seus prprios programas, ou para predizer o efeito das alteraes de sua prpria estrutura. Pela observao dos resultados de seu prprio comportamento, pode modificar seus prprios programas, de modo a alcanar algum objetivo mais eficazmente. Estas so possibilidades do futuro prximo, no sonhos utpicos.

A crtica de que uma mquina no pode ter muita diversidade de comportamento simplesmente uma maneira de dizer que ela no pode ter muita capacidade de memria. At bem recentemente, uma capacidade de memria de algo como mil dgitos era coisa muito rara.

As crticas que estamos aqui considerando so freqentemente formas disfaradas do argumento da conscincia. Em geral, se algum sustentar que uma mquina pode fazer uma dessas coisas, e descrever o tipo de mtodo que a mquina poderia usar, no causaria grande impresso. Pensa-se que o mtodo (qualquer que seja, pois deve ser mecnico) realmente pouco importante. Comparem-se os parntesis no argumento de Jefferson, citado pginas atrs.

(6) A objeo de Lady Lovelace

Nossa informao mais pormenorizada sobre a mquina analtica de Babbage vem de uma dissertao de Lady Lovelace (1842). Nela, declara-se que "a Mquina Analtica no tem nenhuma pretenso de criar o que quer que seja. Pode fazer tudo quanto saibamos ordenar-lhe que faa (o grifo de Lady Lovelace)." Esse enunciado citado de Hartree (1949), que acrescenta: "Isso no implica que no seja possvel construir equipamento eletrnico que "pense por si mesmo", ou no qual, em termos biolgicos, algum possa estabelecer um reflexo condicionado, que serviria de base para a "aprendizagem". A questo, muito estimulante, de se isso ou no possvel em princpio, foi sugerida por algum desses recentes desenvolvimentos. Mas no parece que as mquinas construdas ou projetadas naquela poca tivessem essa propriedade."

Estou inteiramente de acordo com Hartree neste ponto. Deve-se observar que ele no sustenta que as mquinas em questo no tinham essa propriedade, mas que aquelas de que dispunha Lady Lovelace no a encorajavam a crer que tivessem. muito possvel que as mquinas em questo possussem, de certo modo, tal propriedade. Suponhamos que uma mquina de estado discreto a possua. A Mquina Analtica era um computador digital universal, de forma que, caso sua capacidade de memria e sua rapidez fossem adequadas ela poderia, por meio de uma programao conveniente, ser levada a imitar a mquina em questo. Este argumento provavelmente no ocorreu Condessa ou a Babbage. De qualquer modo, eles no tinham a obrigao de alegar tudo quanto pudesse ser alegado.

A questo toda pode ser considerada de novo sob a rubrica de mquinas que aprendem.

Uma variante da objeo de Lady Lovelace afirma que a mquina no pode nunca "fazer algo de realmente novo". A tal argumento poderamos opor o velho ditado de que "No h nada de novo sob o sol". Quem pode ter certeza de que a "obra original" que fez no foi simplesmente o crescimento de uma semente em si plantada pelo ensino ou o efeito de seguir princpios gerais conhecidos? Uma variante melhor da objeo diz que a mquina jamais "pode nos pegar de surpresa". Essa afirmativa um desafio mais direto e pode ser enfrentada de modo direto. As mquinas me pegam de surpresa com muita freqncia. Isso ocorre em grande parte porque no fao clculos suficientes para decidir o que devo esperar que faam, ou antes porque embora eu faa clculos, fao-os apressadamente, assumindo riscos. Talvez eu diga comigo: "Suponho que a voltagem aqui deve ser a mesma de l; de qualquer modo, vamos admitir que seja.". Naturalmente, engano-me com muita freqncia e o resultado uma surpresa para mim, porque, altura em que o experimento se realiza, tais suposies foram esquecidas. Estas admisses podem tornar-me vulnervel a admoestaes pelos meus vcios, mas no lanam dvida alguma sobre a credibilidade do meu testemunho quanto s surpresas que experimentei.

No espero que semelhante resposta possa silenciar o meu crtico. Ele dir provavelmente que tais surpresas so devidas a algum ato mental criativo de minha parte e que no conferem maior mrito mquina. Isto nos leva de volta ao argumento da conscincia e para longe da idia de surpresa. uma linha de argumentao que devemos considerar encerrada, mas talvez valha a pena notar que a apreciao de algo como surpreendente requer, de igual maneira, um "ato mental criativo", quer o acontecimento surpreendente provenha de um homem, de um livro, de uma mquina ou de qualquer outra coisa.

A concepo de que as mquinas no podem suscitar surpresas se deve, creio eu, a uma falcia a que esto particularmente sujeitos filsofos e matemticos. Refiro-me suposio de que, to logo um fato seja apresentado mente, todas as conseqncias deste fato se impem mente simultaneamente com ele. Trata-se de uma suposio til em muitas circunstncias, mas esquece-se facilmente que falsa. Uma conseqncia natural desse esquecimento a de pensar que no h mrito algum na simples deduo de conseqncias a partir de dados e de princpios gerais.

(7) O argumento da continuidade do sistema nervoso

O sistema nervoso no certamente uma mquina de estado discreto. Um pequeno erro de informao acerca da grandeza de um impulso nervoso que atinja um neurnio pode influenciar seriamente a grandeza do impulso de sada. Pode-se argumentar que, sendo assim, no de esperar seja possvel imitar o comportamento do sistema nervoso com um sistema de estado discreto.

verdade que uma mquina de estado discreto tem de ser diferente de uma mquina contnua. Mas se nos ativermos s condies do jogo da imitao, o interrogador no ser capaz de tirar qualquer vantagem dessa diferena. A situao poder ser aclarada se considerarmos outras mquinas contnuas mais simples. Um analisador diferencial servir muito bem. (O analisador diferencial um certo tipo de mquina que no a de estado discreto, usado em alguns tipos de clculo). Alguns analisadores fornecem suas respostas em forma datilografada, e assim mostram-se adequados para tomar parte no jogo. No seria possvel a um computador digital predizer exatamente que respostas o analisador diferencial daria a um problema, mas ele seria bem capaz de dar o tipo certo de resposta. Por exemplo, se requisitado a dar o valor de pi (na verdade, cerca de 3,1416), seria razovel escolher ao acaso entre os valores 3,12, 3,13, 3,14, 3,15, 3,16, com as probabilidades de 0,05, 0,15, 0,55, 0,19, 0,06 (digamos). Nestas circunstncias, seria muito difcil para o interrogador distinguir o analisador diferencial de um computador digital.

(8) O argumento da informalidade do comportamento

No possvel produzir um conjunto de regras que pretenda descrever o que um homem deveria fazer em cada circunstncia imaginvel. Algum pode ter como regra parar quando v a luz vermelha do semforo, e prosseguir quando v o sinal verde, mas o que aconteceria se, por alguma falha, ambos os sinais aparecessem conjuntamente? Pode-se talvez decidir que mais seguro parar. Mas alguma dificuldade posterior talvez resulte dessa deciso. Tentar oferecer regras de conduta para abarcar todas as eventualidades, mesmo as oriundas de semforos, parece impossvel. Com tudo isso eu concordo.

A partir de tal situao, sustenta-se que no podemos ser mquinas. Tentarei reproduzir o argumento, mas temo que dificilmente lhe farei justia. Parece ser algo assim como: "Se cada homem tivesse um conjunto de regras de conduta definidas pelas quais regulasse sua vida, no seria melhor do que uma mquina. Mas no existem tais regras, de modo que os homens no podem ser mquinas." A premissa menor no abrangente. No acredito que o argumento seja sempre formulado exatamente dessa maneira, mas acredito, no obstante, que o argumento usado. Pode, todavia, haver certa confuso entre "regras de conduta" e "leis de comportamento" a obscurecer a questo. Por "regras de conduta" quero dizer preceitos tais como "Pare quando avistar a luz vermelha", com base nos quais se pode agir e dos quais se pode estar consciente. Por "leis de comportamento" quero dizer leis da natureza aplicadas a um corpo humano, tais como "Se voc o beliscar, ele berrar". Se substituirmos "leis de comportamento que regulam sua vida" por "leis de conduta pelos quais ele regula sua vida", no argumento acima, a premissa menor no a mais insupervel. Pois acreditamos no apenas seja verdade que ser governado por leis de comportamento implica ser-se algum tipo de mquina (embora no necessariamente uma mquina de tipo discreto) como tambm, inversamente, que ser uma mquina assim implica ser governado por tais leis. Entretanto, no podemos convencer-nos facilmente da ausncia de leis completas de comportamento, bem como da de regras completas de conduta. A nica maneira que conhecemos de encontrar tais leis a observao cientfica, e no sabemos absolutamente de quaisquer circunstncias em que pudssemos dizer: "J investigamos o suficiente. No existem tais leis."

Podemos demonstrar mais convincentemente que uma afirmao desse tipo seria injustificada. Pois suponhamos que pudssemos estar seguros de encontrar tais leis, caso elas existissem. Ento, dada uma mquina de estado discreto, seria certamente possvel descobrir, por observao, o bastante sobre ela para predizer seu comportamento futuro, e isso dentro de um tempo razovel, digamos mil anos. Mas no parece ser esse o caso. Estabeleci no computador de Manchester um pequeno programa que usa somente 1000 unidades de memria, e no qual a mquina, alimentada com um nmero de 16 algarismos, responde com outro em dois segundos, Eu desafiaria qualquer pessoa a descobrir, com base nessas respostas, o suficiente acerca do programa para poder predizer quaisquer respostas a valores no experimentados.

(9) O argumento da percepo extra-sensorial

Presumo que ao leitor seja familiar a idia da percepo extra-sensorial e o significado de seus quatro itens: telepatia, clarividncia, precognio e psicocintica. Estes fenmenos perturbadores parecem negar todas as nossa idias cientficas habituais. Como gostaramos de desacredit-los! Infelizmente, os indcios estatsticos, pelo menos quanto telepatia, so esmagadores. muito difcil recompor nossas idias para nelas encaixar esses novos fatos. Uma vez que tenhamos de aceit-los, no ser despropositado acreditar em fantasmas e espectros. A idia de que nossos corpos se movem to-somente de acordo com leis conhecidas da fsica, juntamente com outras ainda no descobertas, mas de alguma forma semelhantes, seria uma das primeiras a desaparecer.

Esse argumento , para mim, muito forte. Pode-se dizer, em resposta, que muitas teorias cientficas parecem permanecer viveis na prtica, a despeito de colidirem com a PES; que, de fato, pode se viver muito bem se a esquecermos. Isso muito pouco confortador, sendo de temer que o pensamento seja exatamente o tipo de fenmeno em que PES possa ser especialmente importante.

Um argumento mais especfico, baseado na PES, formulvel como segue: "Joguemos o jogo da imitao usando como testemunha um homem que seja to bom como receptor teleptico quanto como computador digital. O interrogador pode fazer perguntas como: que naipe pertence a carta na minha mo direita?" O homem, por telepatia ou clarividncia, d a resposta certa 130 vezes em 400 tentativas. A mquina s pode adivinhar ao acaso e talvez conseguir 104 respostas corretas pelo que o interrogador faz a identificao certa." H uma possibilidade interessante, que se abre aqui. Suponhamos que o computador digital contenha um gerador de nmeros aleatrios. Ser natural ento us-lo para decidir qual a resposta a dar. Mas nesse caso o gerador de nmeros aleatrios estar sujeito aos poderes psicocinticos do interrogador. Talvez esta psicocintica possa fazer com que a mquina adivinhe com maior freqncia do que a espervel num clculo de probabilidades, de forma que o interrogador seria ainda incapaz de fazer a identificao correta. Por outro lado, talvez ele fosse capaz de adivinhar corretamente, sem fazer pergunta alguma por meio da clarividncia. Com a PES, tudo pode acontecer.

Se a telepatia for admitida, ser necessrio "apertar" a nossa prova. Poder-se-ia encarar a situao como anloga que ocorreria se o interrogador falasse consigo prprio e um dos competidores estivesse escuta, o ouvido colado parede. Colocar os competidores numa "sala prova de telepatia" satisfaria todos os requisitos.

7. Mquinas que aprendem

O leitor ter percebido que eu no disponho de muitos argumentos convincentes de natureza positiva para sustentar os meus pontos de vista. Se dispusesse, no teria tido tanto trabalho em apontar as falcias dos pontos de vista contrrios. Enumerarei agora os indcios de que disponho.

Retornemos por um momento objeo de Lady Lovelace, que sustenta ser a mquina capaz to-somente de fazer o que lhe ordenarmos que faa. Digamos ento que um homem poderia "injetar" uma idia na mquina e esta responderia em certa medida, voltando em seguida imobilidade, como uma corda de piano percutida por um martelo. Outra analogia seria uma pilha atmica, de tamanho menor que o crtico: uma idia injetada corresponder a um nutron a entrar na pilha, vindo de fora. Cada nutron causar uma certa perturbao, que por fim desaparecer. Se, contudo, o tamanho da pilha for aumentado o bastante, a perturbao causada pelo nutron entrante muito provavelmente continuar a aumentar at que toda a pilha seja destruda. Existe, acaso, um fenmeno correspondente para mentes e outro para mquinas? Parece haver um para a mente humana. A maioria delas parece ser "subcrtica", isto , correspondente, nesta analogia, a pilhas de tamanho subcrtico. Uma idia apresentada a uma mente dar, em mdia, menos de uma idia em resposta. Pequena proporo supercrtica. Uma idia apresentada a uma mente dessas pode dar origem a toda uma "teoria", consistente de idias secundrias, tercirias e mais remotas. As mentes animais parecem ser definitivamente subcrticas. Firmados nessa analogia, perguntamos: "Pode-se fazer com que uma mquina seja supercrtica?"

A analogia da "casca de cebola" tambm til. Ao considerar as funes da mente ou do crebro, encontramos certas operaes que podemos explicar em termos puramente mecnicos. Isto que dizemos no corresponde mente real: uma espcie de casca que temos de retirar se quisermos chegar mente verdadeira. Mas ento, no que resta, achamos outra casca a ser arrancada, e assim por diante. Procedendo dessa maneira, chegaremos mente real ou acabaremos por chegar casa que nada contm? Neste caso, a mente toda mecnica. (No seria entretanto uma mquina de estado discreto. J discutimos isso)

Estes dois ltimos pargrafos no se pretendem argumentos convincentes. Deveriam antes ser descritos como "recitaes destinadas a suscitar crena."

O nico apoio realmente satisfatrio que pode ser dado concepo expressa no princpio do pargrafo 6 ser esperar o fim do sculo para ento realizar o experimento descrito. Mas o que podemos dizer, entrementes? Que providncias devem ser tomadas desde j para que o experimento seja bem sucedido?

Como j expliquei, o problema principalmente de programao. Progressos de engenharia tero tambm de ser feitos, mas parece pouco provvel que no venham a satisfazer as exigncias. As estimativas da capacidade de memria do crebro variam de 1010 a 1015 dgitos binrios (bits). Inclino-me para valores mais baixos e acredito que apenas uma pequena frao dessa capacidade seja usada para os tipos superiores de pensamento. A maior parte dela provavelmente usada para a reteno de impresses visuais. Eu ficaria surpreso se mais do que 109 bits fossem necessrios para atuao satisfatria no jogo da imitao, pelo menos contra um homem cego. (Nota: a capacidade da Enciclopdia Britnica, 11a. edio, de 2 x 109). Uma capacidade de memria de 107 bits seria uma possibilidade muito prtica, mesmo pelas tcnicas atuais. Talvez no seja absolutamente necessrio aumentar a velocidade de operao das mquinas. Setores de mquinas modernas que podem ser considerados como anlogos das clulas nervosas trabalham cerca de 1000 vezes mais rapidamente que elas. Isto proveria uma margem de segurana, que poderia cobrir perdas de velocidade de muitas origens. Nosso problema ento descobrir como programar tais mquinas para jogar o jogo da imitao. No meu ritmo de trabalho atual, produzo cerca de 1000 dgitos de programao por dia, de modo que uns 60 operadores, trabalhando sem interrupo durante cerca de 50 anos, poderiam levar a cabo o trabalho, se no se desperdiasse nada. Alguns mtodos mais expeditos parecem ser desejveis.

No processo de tentar imitar a mente humana adulta, temos de refletir bastante sobre o processo que a levou at o ponto onde se encontra. Cumpre atentar para trs componentes:

(a) O estado inicial da mente, isto , ao nascer;

(b) A educao que recebeu;

(c) Outras experincias, que no as descritas como educao, a que foi submetida.

Em vez de tentar produzir um programa que simule a mente adulta, por que no tentar produzir um que simule a mente infantil? Se ele fosse ento submetido educao apropriada, ter-se-ia um crebro adulto. Presumivelmente, o crebro da criana algo assim como um desses cadernos que se compram em papelaria. Pouco mecanismo e muitas folhas em branco. (Mecanismo e escrita so, do nosso ponto de vista, quase sinnimos). Nossa esperana a de que haja to pouco mecanismo no crebro da criana que algo que se lhe assemelhe possa ser programado. Numa primeira aproximao, a soma de trabalho gasto na educao pode ser considerada equivalente gasta na educao da criana humana.

Dividimos assim nosso problema em duas partes: o programa infantil e o processo de educao. Estas duas partes permanecem intimamente ligadas. No podemos esperar encontrar uma boa mquina-criana logo na primeira tentativa. Deve-se experimentar ensinar uma mquina para ver como ela aprende. Pode-se ento tentar ensinar outra para ver se se sai melhor ou pior. H uma conexo bvia entre esse processo e a evoluo, por via destas identificaes:

Estrutura da mquina-criana = material hereditrio

Mudanas na mquina-criana = mutaes

Seleo natural = juzo do experimentador

Pode-se esperar, contudo, que este processo seja mais expedito que a evoluo. A sobrevivncia do mais apto um mtodo vagaroso de medir vantagens. O experimentador, valendo-se da inteligncia, deveria ser capaz de aceler-lo. Igualmente importante o fato de que o experimentador no est restrito s mutaes casuais. Se conseguir determinar a causa de alguma fraqueza, poder provavelmente pensar no tipo de mutao apto a super-la.

No ser possvel aplicar mquina exatamente o mesmo processo de ensino que se aplica a uma criana normal. A mquina, por exemplo, no dispor de pernas; assim, no se pode pedir-lhe que v buscar um balde de carvo l fora. Possivelmente no ter olhos. Todavia, ainda que estas deficincias sejam superadas por uma engenharia inteligente, no se poderia mandar a criatura escola sem que as outras crianas a escarnecessem. Melhor arranjar-lhe um professor particular. No preciso que nos preocupemos tanto com pernas, olhos, etc. O exemplo de Helen Keller demonstra que a educao possvel desde que a comunicao em ambas as direes, entre professor e aluno, ocorra de alguma forma.

Normalmente, associamos punies e recompensas ao processo de ensino. Algumas mquinas-crianas simples podem ser construdas ou programadas de acordo com esse tipo de princpio. A mquina tem de ser construda de forma tal que os acontecimentos que antecedem imediatamente a ocorrncia de um sinal de punio sejam de repetio improvvel, ao passo que um sinal de recompensa aumente a probabilidade de repetio dos acontecimentos que levaram a ela. Estas definies no pressupem quaisquer sentimentos por parte da mquina. Fiz alguns experimentos com uma mquina-criana assim e consegui ensinar-lhe algumas coisas, mas o mtodo de ensino era muito pouco ortodoxo para que o experimento pudesse ser considerado realmente bem sucedido.

O uso de punies e recompensas pode, no melhor dos casos, constituir uma parte do processo de ensino. Grosso modo, se o professor no dispe de outro meio de comunicao com o aluno, a quantidade de informao que pode alcan-lo, no excede o nmero total de recompensas e punies aplicadas. Uma criana que tivesse de aprender a repetir "Casabianca" provavelmente ficaria muito dolorida se o texto s pudesse ser descoberto por uma tcnica de "Vinte Perguntas" em que cada "No" assumisse a forma de uma palmada. Por isso necessrio dispor de outros canais de comunicao "no-emotivos". Se estiverem disponveis, ser possvel ensinar uma mquina, atravs de punies e recompensas, a obedecer ordens dadas em alguma linguagem, por exemplo uma linguagem simblica. Essas ordens devero ser transmitidas atravs de canais "no-emocionais". O uso desta linguagem diminuir enormemente o nmero de recompensas e punies necessrias.

As opinies podem variar quanto complexidade conveniente para a mquina-criana. Pode-se tentar faz-la to simples quanto possvel, dentro dos princpios gerais. Alternativamente, pode-se optar por um sistema completo de inferncia lgica embutido". Neste caso, a memria seria ocupada em grande parte por definies e proposies. As proposies seriam de vrios tipos; por exemplo, fatos bem estabelecidos, conjeturas, teoremas matemticos demonstrados, enunciados de autoridade, expresses que tenham a forma lgica de proposio mas no de valor-crena. Certas proposies podem ser descritas como imperativas. A mquina deve ser construda de tal forma que to logo um imperativo seja classificado com "bem estabelecido", a ao apropriada ocorra automaticamente. Para ilustrar isso, suponhamos que o professor diga mquina: "Faa agora seus deveres de casa". Isto pode resultar em que "O professor disse: faa agora seus deveres de casa" seja includo entre os fatos bem estabelecidos. Outro fato pode ser: "Tudo o que o professor diz verdade". A combinao dos dois fatos pode levar o imperativo "Faa agora seus deveres de casa" a ser includo entre os fatos bem estabelecidos, e isso, dada a construo da mquina, significar que os deveres de casa em verdade comearam a ser feitos; o efeito, porm, deveras satisfatrio. O processo de inferncia utilizado pela mquina no precisa ser de molde a satisfazer os lgicos mais exigentes. Pode no haver, por exemplo, hierarquia de tipos. Mas isso no tem de significar que falcias do tipo ocorram com freqncia assim como no estamos sujeitos a despencar de penhascos sem cerca de proteo. Imperativos adequados (expresso dentro dos sistemas, no fazendo parte das regras do sistema), tais como: "No use uma classe a menos que seja subclasse de outra mencionada pelo professor", podem ter efeito similar a: "No chegue to perto da borda do penhasco".

Os imperativos que podem ser obedecidos por uma mquina no dotada de braos e pernas esto limitados a ser de carter bastante intelectual , como no exemplo acima (fazer os deveres de casa). Importantes entre tais imperativos sero aqueles que regulam a ordem em que as regras do sistema lgico implicado sero aplicadas. Porque, a cada estgio, quando algum est usando um sistema lgico, h um grande nmero de escolhas alternativas, qualquer um deles de aplicao possvel no que concerne obedincia das regras do sistema lgico. Essas escolhas marcam a diferena entre um argumentador brilhante e outro inepto, mas no a diferena entre um argumentador correto e outro sofismador. Proposies que conduzam a imperativos dessa espcie poderiam ser: "Quando se mencione Scrates, use o silogismo de Barbara", ou: "Se um mtodo mais rpido que outro, no use o mtodo mais vagaroso". Algumas destas proposies podem ser dadas, "por autoridade", mas outras podem ser produzidas pela prpria mquina, isto , por induo cientfica.

A induo de uma mquina que aprende talvez parea paradoxal a alguns leitores. Como podem as regras de operao da mquina mudar? Elas deveriam descrever completamente como a mquina ir reagir, qualquer que possa ser sua histria, quaisquer que sejam as mudanas que sofra. As regras so, pois, deveras invariantes no tempo. Isto bem verdade. A explicao do paradoxo est em que as regras que mudam nos processos de aprendizagem so de carter menos pretensioso, aspiram apenas a uma validade efmera. O leitor pode compar-las Constituio dos Estados Unidos.

Uma caracterstica importante da mquina que aprende a de que seu professor freqentemente ignorar a maior parte do que est se passando no interior da mquina, embora possa at certo ponto predizer o comportamento de sua aluna. Isto se aplicaria muito mais educao ulterior de uma mquina-originada de projeto (ou programa) bem experimentado, e contrasta claramente com o procedimento normal quando se usa uma mquina em operaes de computao: o objetivo ento ter um ntido quadro mental do estado da mquina a cada momento da computao. Tal objetivo s pode ser alcanado com luta. A concepo de que "a mquina pode fazer somente aquilo que saibamos como ordenar-lhe que faa" parece estranha em face disso. A maioria dos programas que podemos colocar na mquina dar como resultado ela fazer algo que no consigamos absolutamente entender, ou que consideramos como comportamento aleatrio. Presume-se- que o comportamento inteligente consista num desvio do comportamento inteiramente disciplinado implicado em computao, mas desvio pequeno, que no d margem a comportamento aleatrio ou a voltas repetitivas, sem objetivo. Outro resultado importante de, por meio de um processo de ensino e aprendizagem, prepararmos nossa mquina para seu papel no jogo da imitao o de que a "falibilidade humana" ser provavelmente omitida de maneira natural, isto , sem "preparao" especial. (O leitor deve conciliar isto com o ponto de vista do argumento nmero 5, discutido pginas atrs.) Processos aprendidos no propiciam uma certeza de cem por cento quanto ao resultado; se a propiciassem, no poderiam ser desaprendidos.

Ser provavelmente sensato incluir um elemento aleatrio numa mquina aprendiz. Um elemento aleatrio bastante til quando estamos buscando a soluo de um problema. Suponha-se, que queiramos encontrar um nmero entre 50 e 200 que seja igual ao quadrado da soma de seus algarismos; poderamos comear com 51, depois experimentar 52, e continuar assim at encontrar um nmero que satisfizesse aquela condio. Alternativamente, poderamos escolher nmeros ao acaso at achar um que servisse. Este mtodo tem a desvantagem de se experimentar o mesmo nmero duas vezes. Isso no ser grande inconveniente se existirem vrias solues. O mtodo sistemtico tem a desvantagem de que pode haver um enorme bloco sem qualquer soluo na regio que tem de ser investigada primeiramente. O processo de aprendizagem pode ser considerado como busca de uma forma de comportamento que satisfaa ao processo (ou a algum outro critrio). Como provavelmente existe um nmero muito grande de solues satisfatrias; o mtodo aleatrio parece ser melhor que o sistemtico. Cumpre notar que ele usado no processo anlogo da evoluo. Mas nesta o mtodo sistemtico no possvel. Como se poderiam guardar todas as diferentes combinaes genticas tentadas, de modo a evitar sua repetio?

de esperar que as mquinas acabem por competir com o homem em todos os campos puramente intelectuais. Quais, porm, os melhores para comear? Mesmo esta uma deciso difcil. Muitas pessoas acham que uma atividade bastante abstrata, como o jogo de xadrez, seria o melhor. Pode-se tambm sustentar que o mais conveniente prover as mquinas dos melhores rgos sensoriais que o dinheiro possa comprar, e ensin-las a compreender e falar ingls. Tal processo poderia acompanhar o do ensino normal de uma criana. Coisas seriam apontadas e nomeadas, etc. Mais uma vez, no sei qual a resposta certa, mas penso que ambos os enfoques deveriam ser tentados.

Podemos avistar s um pequeno trecho do caminho nossa frente, mas ali j vemos muito do que precisa ser feito.

Traduo de Fbio de Carvalho Hansem.