SMART SYSTEMS Máquinas representam um perigo para a humanidade?

Alguns temem que as máquinas possam fugir do controle (Fonte: Economist)

Série da revista britânica The Economist examina preocupações com progresso tecnológico

“Não é possível firmar um compromisso de longo prazo entre a tecnologia e a liberdade, porque a tecnologia é, de longe, a mais poderosa das forças sociais, e continuamente se apropria da liberdade por meio de repetidos compromissos”. Assim escreveu Ted Kaczynski, o Unabomber, em seu manifesto, publicado em 1995 pelo “New York Times” e o “Washington Post”, na esperança de que ele interrompesse sua campanha de terror ou de que alguém reconhecesse seu estilo e o desmascarasse.

Os métodos de Kaczynski eram repugnantes. Suas bombas mataram três pessoas e feriram outras 23, em quase 20 anos. Ele foi preso em 1996 e atualmente cumpre prisão perpétua. Mas suas preocupações de que a tecnologia vá lentamente minar a liberdade humana são compartilhadas por vários pensadores tradicionais. Como essa série mostra, os smart systems irão melhorar a eficiência, e ajudarão a resolver vários problemas ambientais, especialmente no caso do aquecimento global. No entanto, se esses sistemas colidirem com a liberdade humana, muitos irão protestar. As reclamações contra os medidores inteligentes de Bakersfield podem ser só o começo.
Mesmo os maiores defensores dos smart systems admitem que “alguns cidadãos expressam desconforto com a ideia de viver não numa sociedade mais segura, mas numa sociedade vigiada”, declarou Sam Palmisano, chefe da IBM, num discurso no começo de 2010. Ele mencionou um artigo de jornal que reportava a existência de 32 câmeras de circuito interno nas 200 jardas do apartamento londrino onde George Orwell escreveu “1984”.


Palmisano estaria no emprego errado se não dissesse que essas preocupações devem ser repensadas, e que os benefícios econômicos e sociais dos smart systems devem ser destacados. “Toda essa tecnologia acaba fortalecendo o lado humano das cidades”, diz Carlo Ratti, diretor do SENSEable City Lab, do Instituto de Tecnologia de Massachussets. Segundo ele, pessoas que estão sempre conectadas podem trabalhar onde quiserem. E Usman Haque, chefe da Pachube, afirma que “sensores dão poderes às pessoas, pois a medição do ambiente permite que elas tomem decisões em tempo real”.
Por outro lado, os smart systems são inegavelmente úteis como instrumentos de controle. Cingapura fez um grande trabalho de adotar smart systems em sua infraestrutura, mas sua rede de câmeras de segurança também pode ser usada para reforçar regras mais discutíveis que a proibição dos chicletes. Da mesma forma, centros de operação para governos locais na China sendo construídos por empresas como a Cisco e a IBM faz com que muitos se perguntem se seu propósito é realmente apenas tornar o funcionamento de suas cidades mais inteligentes.


Outros temem que as máquinas possam ser invadidas, fugir do controle e tomar o mundo como no filme “Matrix”. Como o worm da Stuxnet e o “flash crash” de maio em Wall Street mostraram, as duas possibilidades são absolutamente reais, ainda que a terceira seja remota – embora cientistas de computação, pesquisadores de inteligência artificial e profissionais de robótica tenham se reunido na Califórnia, anos atrás, para discutir esse risco.


Há um perigo muito mais sutil: o de que as pessoas passem a ser extremamente dependentes dos smart systems. Como os humanos são incapazes de lidar com as gigantescas quantidades de dados produzidas pelas máquinas, as próprias máquinas terão de tomar as decisões, afirma Frank Schirrmacher, em seu recente livro “Payback”. Nicholas Carr, um norte-americano, autor de “The Shallows”, diz que a internet, a mãe de todos os smart systems, está sufocando a criatividade e os pensamentos profundos.


Outra preocupação é a de que a tecnologia inteligente aumentará a desigualdade mundial, e não somente porque criará “sacerdotes da informação”, nas palavras de David Gelernter. 


Paul Saffo, um analista tecnológico do Vale do Silício prevê que os sensores onipresentes darão um impulso na produtividade – às custas dos monitores humanos. “Possivelmente veremos mais recuperações econômicas sem empregos”, diz ele.


Se os computadores vão passar a eliminar mais empregos que os que geram, só o futuro poderá dizer. Mas os smart systems sem dúvida representam uma mudança conceitual. Até agora, a tecnologia de informação tem sido usada para automatizar e aperfeiçoar processos dentro de empresas e as negociações entre elas. Agora passará cada vez mais a ser usada para automatizar e aperfeiçoar as interações com o ambiente físico.


Algumas das preocupações que surgirão serão difíceis de ser encaradas. Por exemplo, haverá pouco sentido em aprovar leis que dêem aos indivíduos o direito de decidir se seus dados podem ser usados por smart systems, se as câmeras serão onipresentes. E criar quebras de circuito para impedir que a automação vá longe demais pode ir de encontro ao propósito dos smart systems e paralisar a inovação.


Ainda assim, o progresso tecnológico não é uma força da natureza que não pode ser guiada. “Nós podemos e devemos exercer o controle, por meio do consenso democrático”, diz Gelernter. No entanto, para que um consenso seja atingido, é preciso que haja abertura. O maior perigo é que os smart systems se tornem caixas-pretas, restritos até mesmo para cidadãos que têm a capacidade de entendê-los. Os smart systems tornarão o mundo mais transparente somente se eles também forem suficientemente transparentes.