Catálogo da exposição Consciência Cibernética [?] Horizonte Quântico

São Paulo, 2019

Realização / Produced by

EXPEDIENTE / PUBLISHING STAFF coordenação editorial / editorial coordination Carlos Costa edição / editing Amanda Rigamonti e / and Milena Buarque conselho editorial / editorial council Ana de Fátima Sousa e / and Marcos Cuzziol organização editorial / editorial organization Luciana Modé, Nicole Plascak e / and Rafael Figueiredo projeto gráfico e diagramação / graphic design and typesetting Mily Mabe fotografia / photography André Seiti e / and Anna Carolina Bueno produção editorial / editorial production Bruna Guerreiro e / and Pamela Camargo supervisão de revisão / proofreading supervision Polyana Lima revisão / proofreading Karina Hambra e / and Rachel Reis (terceirizadas / outsourced) tradução / translation John Norman, Marisa Shirasuna e / and Tatiana Diniz revisão de tradução / translation proofreading Denise Chinem (terceirizada / outsourced)

HORIZONTE QUÂNTICO QUANTUM HORIZON

8-13

INTELIGÊNCIA ARTIFICIAL ARTIFICIAL INTELLIGENCE

14-23

A FÁBULA DA CONSCIÊNCIA THE FABLE OF CONSCIOUSNESS

24-39

O FUTURO DA COMPUTAÇÃO E SEU IMPACTO EM NOSSA VISÃO DE MUNDO THE FUTURE OF COMPUTING AND ITS IMPACT ON OUR VIEW OF THE WORLD

40-57

INTELIGÊNCIA ARTIFICIAL EM PLENO VERÃO ARTIFICIAL INTELLIGENCE IN MIDSUMMER

58-73

ARTE QUÂNTICA QUANTIC ART

74-81

POSSIBILIDADES PÓS-HUMANAS E PÓS-NATURAIS POST-HUMAN AND POSTNATURAL POSSIBILITIES

82-113

Justine Emard, Co(AI)xistence, 2017

116-121

Cod.Act, πTon/2, 2017

122-125

David Bowen, Cloud Piano, 2014

126-127

Lynn Hershman Leeson, Agent Ruby, 1999-2002

128-131

Memo Akten, Deep Meditations: a Brief History of Almost Everything in 60 Minutes, 2018

132-139

Learning to See: Gloomy Sunday, 2017 Thomas Feuerstein, Borgy&Bes, 2018

140-143

Rejane Cantoni, Quantum and Parallel Horizons, 2019

144-159

Robin Baumgarten, Quantum Garden, 2018

160-165

NOTAS NOTES

166-171

FICHA TÉCNICA CREDITS

172-173

HORIZONTE QUÂNTICO QUANTUM HORIZON

Marcos Cuzziol é engenheiro mecânico com doutorado em artes pela Universidade de São Paulo (USP). Desenvolvedor de games, é gerente do Observatório Itaú Cultural e

Marcos Cuzziol

do Núcleo de Inovação do instituto. Atua principalmente em temas relacionados a games, à realidade virtual, a comportamento artificial e à arte e tecnologia.

Marcos Cuzziol is a mechanical engineer with a PhD in arts from the University of São Paulo (USP). A videogame developer, he’s responsible for the Observatory Itaú Cultural and the Innovation area at Itaú Cultural. He mainly works on topics related to games, virtual reality, artificial behavior

8

and art and technology.

Inteligência artificial e computação quântica são duas linhas de tecnologias que se desenvolvem rapidamente. Elas vão além da mera ampliação de capacidades humanas, pois uma nos leva a questionar o que são de fato a inteligência e a consciência; e a outra, nossa própria realidade. Parece-me inevitável que essas duas tecnologias se encontrem em um futuro próximo, o que torna urgente uma reflexão sobre elas.

A TEXTURA DO REAL O modelo quântico envolve uma série de equações matemáticas capazes de antecipar com precisão resultados experimentais. Trata-se do modelo mais preciso desenvolvido pela física até os dias de hoje. De sua aplicação prática resultou, por exemplo, toda a nossa tecnologia digital. Entretanto, o que essas equações matemáticas realmente representam está, na física atual, aberto a diferentes interpretações.

Tomemos como exemplo a “função de onda”, um descritor de estado no modelo quântico. De modo muito geral, uma das interpretações (a “de Copenhague”) considera que dessa função resulta a probabilidade de um evento ocorrer.

9

Artificial intelligence and quantum computing are two lines of technologies under rapid development.

They go beyond the mere expansion of human capacities, as the former leads us to question the nature of intelligence and consciousness, while the latter makes us ponder the essence of reality itself.

It seems inevitable that these two technologies will merge in the near future, making it urgent for us to reflect on them now.

THE TEXTURE OF THE REAL The quantum model involves a series of mathematical equations able to precisely anticipate experimental results. It is the most precise model developed by physics so far. Its practical application has resulted, for example,

in all of our digital technology. Nevertheless, what the mathematical equations really represent is, in actual physics, open to different interpretations.

As an example, we will consider the “wave function,” which describes a state in the quantum model. In a very general way, one of the interpretations (the “Copenhagen” interpretation) considers that this function results in the probability that an event will occur. Another interpretation (the “many worlds” interpretation) holds that the wave function results in the probability of our consciousness being in the specific universe in which that event occurred. In mathematical terms, nothing changes; these are only interpretations of what the same function signifies. But such different viewpoints have a great impact on what our reality

Em outra interpretação (chamada “dos muitos mundos”), a função de onda resulta na probabilidade de nossa consciência estar no universo específico no qual aquele evento ocorreu. Em termos matemáticos, nada muda; essas são apenas interpretações do que a mesma função significaria. Mas visões tão diferentes têm grande impacto no que pode ser a nossa realidade: vivemos num universo em que as possibilidades quânticas são apenas virtuais, e a realidade única, ou o universo que percebemos, é apenas uma fração de um multiverso muito maior, no qual cada possibilidade diferente de um fenômeno quântico se realiza, de forma determinista?

Como pode um mesmo modelo resultar de realidades tão diferentes sem que ocorram inconsistências matemáticas?

Resumindo: o modelo matemático funciona (sabe-se disso por quase um século de experiências e de aplicações práticas), mas ainda não se sabe que tipo de realidade ele descreve. Na ciência, essa talvez não seja uma questão relevante – o que importa é que o modelo funcione de acordo com resultados experimentais.

Na arte, entretanto, penso que a questão da realidade por trás do modelo deva ser de extrema importância.

10

might be: do we live in a universe in which the quantum possibilities are only virtual, and there is just one reality, or is the universe we perceive only a fraction of a much larger multiverse, in which each different possibility of a quantum phenomenon takes place, in a deterministic way?

How can a single model result in such different realities, without the occurrence of mathematical inconsistencies?

In a nutshell: the mathematical model works (we know this in light of nearly one century of experiments and practical applications), but we do not know what sort of reality it describes. In science, this is perhaps not a relevant question – the important thing is that the model works according to experimental results. In art, however, I think that the question of the reality behind the model should be of extreme importance.

A ERA DIGITAL ESTÁ TERMINANDO? Um computador quântico funciona de maneira radicalmente diferente de um digital. Tais computadores talvez não passassem de curiosidades de laboratório há poucos anos, mas seu desenvolvimento vem ocorrendo de maneira acelerada, fato comprovado tanto pela recente comercialização de máquinas da empresa canadense DWave como pelos últimos modelos experimentais da IBM. Ainda estão um tanto distantes da “máquina de Turing quântica universal”, proposta por David Deutsch em 19851, mas são evidências suficientes da viabilidade desse novo modelo de computação.

11

Enquanto um bit digital pode conter os valores 0 ou 1, 1 bit quântico (1 qbit) armazena 0 e 1 simultaneamente. Dessa diferença resultam comportamentos que desafiam nosso senso comum. Uma variável composta de qbits armazena todos os valores possíveis para aquele número de qbits – e o faz de maneira simultânea. Uma imagem construída por qbits conteria todas as imagens possíveis para aquele número de pixels (absolutamente toda e qualquer imagem: desde ruído gráfico até fotos que ainda não foram feitas). Um arquivo quântico

IS THE DIGITAL ERA ENDING? A quantum computer works in a way that is radically different from a digital computer. Only a few years ago, such computers were nothing more than laboratory curiosities, but they are currently undergoing rapid development, as demonstrated by the recent commercialization of machines by the Canada firm D-Wave as well as by new experimental models by IBM. We are still somewhat distant from the “universal quantum

Turing machine,” proposed by David Deutsch in 19851, but these developments do prove the viability of this new computing model.

While a digital bit can contain the values “0” or “1,” a quantum bit (1 qubit) stores “0” and “1” simultaneously. This difference results in behaviors that defy our common sense.

A variable composed of qubits stores all of the values possible for that number of qubits

de texto seria algo similar à “biblioteca de Babel”, de Jorge Luis Borges2 (todas as combinações possíveis de texto estariam lá), porém com uma diferença importante: o espaço de armazenamento seria similar ao de um arquivo digital comum – não seria necessária uma biblioteca de dimensões infinitas, como a descrita no conto.

O processamento desses qbits também pode ser desconcertante: quando um algoritmo atua sobre uma variável quântica, o faz sobre todos os valores possíveis simultaneamente. É difícil prever como algoritmos quânticos mudarão nosso dia a dia, mas o campo da inteligência artificial será afetado radicalmente.

Algoritmos digitais de inteligência artificial são construídos para testar um grande número de soluções numéricas e encontrar, segundo determinados critérios, a mais apropriada delas. Assim é com os algoritmos genéticos – que criam e testam um grande número de soluções possíveis, em “gerações”, para selecionar as melhores,– e com o treinamento de redes neurais, que busca multiplicadores, ou “sinapses”, que minimizem o erro entre numerosos conjuntos de problemas e suas respectivas soluções.

12

– and does this simultaneously. An image constructed of qubits would contain all of the possible images for that number of pixels (absolutely all and every image: from graphic noise to photos that have not yet been taken).

A quantum text file would be something similar to Jorge Luis Borges’s “Library of Babel”2 (every possible combination of text is there), but with an important difference: the storage space would be similar to a common digital file – a library of infinite dimensions, as described in the short story, would not be necessary.

The processing of these qubits can also be disconcerting: when an algorithm acts on a quantum variable, it acts on all the possible

values, simultaneously. It is difficult to predict how quantum algorithms will change our day-today life, but the field of artificial intelligence will be radically affected.

Digital algorithms of artificial intelligence are constructed to test a large number of numeric solutions and to find, according to determined criteria, which of them is most suitable. This is like the genetic algorithms, which generate and test a large number of possible solutions, in “generations,” to select the best ones, and with the training of neural networks, which seek multipliers, or “synapses,” that minimize the error between numerous sets of problems and their respective solutions.

CONSCIÊNCIA CIBERNÉTICA [?]

Grande parte desses códigos digitais é dedicada a gerar possibilidades diferentes, para que possam ser sequencialmente avaliadas, uma a uma. Populações de algoritmos genéticos, por exemplo, não dão conta de todas as possibilidades – isso seria muito custoso em termos de processamento digital. De fato, parte desses algoritmos se dedica a tentar fugir dos chamados “mínimos locais”, de soluções que ficariam “presas” a certas regiões do campo de soluções exatamente por se tratar de uma amostra desse campo, e não de todas as possibilidades.

Não é assim num algoritmo quântico. Cada variável quântica contém todos os valores possíveis; portanto, a busca por soluções é completa – e sem que isso acarrete limitação de processamento (os valores “já estão lá”, não é preciso gerá-los e testá-los um a um).

Se na atual tecnologia digital o aprendizado de máquina já nos impressiona e, em muitos casos, nos supera, o que esperar de um futuro próximo em que algoritmos de inteligência artificial avaliarão simultaneamente todas as opções possíveis? Quanto da realidade realmente percebemos? Ora, se a consciência humana está limitada a apenas uma entre essas realidades diferentes, como seria uma consciência cibernética que transcendesse esse horizonte estreito, operando na vastidão do multiverso?

13

CYBERNETIC CONSCIOUSNESS [?]

A large part of our digital codes are dedicated to generating different possibilities, for them to be sequentially evaluated, one by one. Populations of genetic algorithms, for example, do not take into account all the possibilities – this would be very costly in terms of digital processing. In fact, part of these algorithms is dedicated to trying to escape from the so-called “local minimums,” of solutions that would remain “stuck” to certain regions of the field of solutions precisely because they are a sample of that field, not of all the possibilities.

The quantum algorithm is different. Each quantum variable contains all the possible values, so the search for solutions is complete – and without this

posing a limitation on the processing (the values “are already there,” it is not necessary to generate them or test them one by one).

If in the current digital technology the machine’s learning already impresses us and, in many cases, outstrips us, what can we expect in the new future, when algorithms of artificial intelligence will simultaneously evaluate all the possible options? How much of reality do we really perceive? If human consciousness is limited to just one among these different realities, what will a cybernetic consciousness be like which can transcend this strict horizon, operating in the vastness of the multiverse?

INTELIGÊNCIA ARTIFICIAL

Christian Ingo Lenz Dunker é psicanalista

Impacto e relação entre novas

e professor titular da Universidade de

tecnologias e modos de subjetivação

área clínica, com ênfase em psicanálise,

São Paulo (USP). Tem experiência na atuando principalmente nos seguintes temas: estrutura e epistemologia da prática

ARTIFICIAL INTELLIGENCE

clínica, teoria da constituição do sujeito,

The impact and relationship

ciências da linguagem. Coordena, ao lado

between new technologies and modes of subjectification

metapsicologia, filosofia da psicanálise e de Vladimir Safatle e Nelson da Silva Jr., o Laboratório de Teoria Social, Filosofia e Psicanálise da USP.

Christian Ingo Lenz Dunker

Christian Ingo Lenz Dunker is a psychoanalyst and full professor at the University of São Paulo (USP). Experienced in the clinical area, with an emphasis on psychoanalysis, he works mainly with the following themes: structure and epistemology of clinical practice, theory of the constitution of the subject, metapsychology, philosophy of psychoanalysis and language sciences.

Alongside Vladimir Safatle and Nelson da Silva Jr., he coordinates the Laboratory

14

of Social Theory, Philosophy and Psychoanalysis of USP.

Estima-se que, em um futuro tangível, a maior parte dos dados hoje acumulados sob forma de linguagem digital não estruturada adquira uma nova organização, baseada no acúmulo inteligente de relações e inter-relações. Inteligência, nesse contexto, significa capacidade de antecipação de problemas e soluções com base em escolhas anteriormente individualizadas. A internet das coisas (IoT) permite que objetos e aparelhos encontrem relações funcionais e padrões de antecipação, autorregulação e controle on-line. Da manipulação de uma torradeira a distância, com auxílio de mecanismos robóticos, passou-se para as noções de casa inteligente e cidade inteligente. Controle de estoques e logística, segurança e biomedicina, circulação de pessoas, operações de compra e venda, por exemplo, prometem passar para outro patamar de eficiência.

15

Hoje não entendemos mais o problema da consciência e da subjetivação em termos da oposição entre a máquina e o homem. Aprendemos que a definição do que seria humano é frequentemente sobredeterminada pelas máquinas de que ele dispõe para se autodescrever e, no limite, pela máquina da linguagem. O livro em branco no século XVI, o relógio no século XVII, o motor no século XVIII, os autômatos do século

It is estimated that in the near future a large part of the data currently accumulated in the form of unstructured digital language will acquire a new organization, based on the intelligent accumulation of relations and interrelations. Intelligence, in this context, signifies the capacity to anticipate problems and solutions based on previously individualized choices. The Internet of things (IoT) allows objects and devices to encounter cultural relationships and patterns of anticipation, selfregulation and control online. Starting with the control of a toaster at a distance, with the aid of robotic mechanisms, it went on to notions of the intelligent house and the intelligent city. By all

indications, the control of inventories and logistics, security and biomedicine, the circulation of people, operations of buying and selling, for example, will soon be on a new level of efficiency.

Today we no longer understand the problem of consciousness and subjectification in terms of the opposition between machine and man. We have learned that the definition of what is human is often overdetermined by the machines he has to describe himself, and even by the machine of language. The blank book in the 16th century, the clock in the 17th century, the motor in the 18th century, the automatons of the 19th century, the

XIX, os sistemas eletrônicos do século XX e os computadores quânticos do século XXI. Nesse processo, a arte teve papel decisivo ao mostrar, historicamente, que o protótipo de toda artificialidade é também o modelo maior de redescrição do que chamamos de humano. Recursivamente, a arte ainda se transformou pela incorporação das máquinas de seu tempo: os dispositivos de perspectiva, a câmara escura, a fotografia e o cinema.

Pensar a inteligência de subjetivação envolve considerar dois tipos de modificação cruciais tematizados pela arte cibernética: os padrões formais de composição e a materialidade específica do corpo no espaço-tempo. Não seria difícil considerar a existência de roupas inteligentes, de aparelhos conexos ao corpo que melhoram sua performance ou que garantem sua funcionalidade, por exemplo, administrando dosagens exatas de medicação a distância, informando on-line variações dos estados de corpo aos dispositivos de saúde. Monitorando permanentemente os dados vitais de alguém, muitas intercorrências poderiam ser controladas, com menor custo e maior acurácia, em um nível de profilaxia sem precedentes.

Nesse sentido, a internet dos modos de subjetivação poderia operar regulando

16

electronic systems in the 20th century, and the quantum computers of the 21st century. In this process, art has played a decisive role in showing, historically, that the prototype of every artificiality is also the greatest model for the redescription of what we call human. Recursively, art was also transformed by the incorporation of the machines of its time: the devices of perspective, the camera obscura, photography and cinema.

Thinking about the intelligence of subjectification involves considering two types of crucial modification thematized by cybernetic art: the formal patterns of

composition and the specific materiality of the body in space-time. It would not be difficult to consider the existence of “smart” clothing, of devices connected to the body that improve its performance or guarantee its functionality, for example, administering exact dosages of medication at a distance, or informing variations of states of the body, online, to health devices. Through the continuous monitoring of a person’s vital data, many health incidences could be controlled, at a lower cost and with greater accuracy, at an unprecedented level of prophylaxis. In this sense, the Internet of the modes of subjectification could operate

paisagens mentais, pela administração controlada de psicoativos responsáveis pela manutenção ou pela indução artificial de estados psíquicos cuja gramática seria previamente definida. Dessa maneira, nunca seríamos ofendidos por um filme, um livro ou uma propaganda que contivessem, inadvertidamente, imagens que considero indesejáveis. Mecanismos interpessoais de regulação poderiam regular a intensificação da tristeza, enviando estimulações automáticas a amigos com disponibilidade para o match afetivo. A detecção de excessos impulsivos mobilizaria apaziguadores. Ódios disruptivos desencadeariam exposição controlada de mensagens pacificadoras. Um dispositivo armazenador de estratégias anteriormente bem-sucedidas poderia prevenir a angústia ou a ansiedade, serviria de simulador para o controle de nossa paisagem mental interior. Considerando apenas o circuito dos afetos e o narcisismo, é possível que a subjetivação digital se torne um horizonte próximo, tendo as redes sociais sido apenas um laboratório preliminar.

17

Mas como será que a inteligência da subjetivação enfrentaria o problema kantiano do paradoxo da vontade? Ou seja: sou livre para escolher o que quero, mas será que posso realmente escolher livremente mudar de querer?

to regulate mental landscapes, through the controlled administration of psychoactive drugs responsible for the maintenance or artificial induction of psychic states whose grammar would be previously defined. In this way, we would never be offended by a film, book or advertising that inadvertently had images one considers undesirable. Interpersonal mechanisms of regulation could regulate the intensification of sadness, sending automatic stimulations to friends with availability for the affective “match.” The detection of excessive impulses would put pacifiers into action.

Disruptive hatreds would unleash a controlled

display of peacemaking messages. A device containing previously successful strategies could prevent anguish or anxiety, serving to stimulate the control of our inner mental landscape. Considering only the circuit of the feelings and narcissism, it is possible that the digital subjectification will become a horizon in the near future, the social networks serving only as a preliminary laboratory.

But how will the intelligence of subjectification face the Kantian problem of the paradox of the will? In other words: I am free to choose what I want, but can I really freely choose to change what I want?

18

Se a resposta for afirmativa, seria preciso estruturar nossas experiências para além do rastro de memória que elas deixam atrás de si, sob a forma de registros de consumo. Nossas decisões cognitivas e desejantes, estéticas e políticas, assim como outras afinidades eletivas, não são acumuladas de modo inerte. Elas trabalham em silêncio produzindo reacomodações e sonhos. Sobre elas aplicam-se algoritmos, que controlam regras de exposição e restrição de conteúdo, de relação frequencial e de interpelação. Por mais intrincados e abrangentes que sejam tais algoritmos, eles operam sobre tais registros segundo uma regra geral: quanto mais, mais; quanto menos, menos. Baseando-se nessa espécie de metarregra, começamos a perceber que certas alternativas nos são mostradas quando entramos em uma rede social ou quando retornamos a um site de compras. Se você pesquisa sobre testes de gravidez, logo em seguida poderá receber um anúncio de carrinhos de bebê.

O funcionamento teológico e “milagroso” da paisagem virtual reduz a nitidez de outros caminhos e alternativas, dos quais somos desavisadamente excluídos.

Quando seguimos nosso próprio padrão de consumo, os algoritmos nos devolvem nosso viés de confirmação do mundo e de nossas expectativas, filtradas pelo outro-digital. Dessa maneira, nós nos tornamos necessariamente e cada vez mais “nós

If the response is affirmative, it will be necessary to structure our experiences beyond the memory trace that they leave behind them, in the form of records of consumption. Our cognitive and desiring, aesthetic and political decisions, as well as other elective affinities are not accumulated inertly. They work in silence, producing reaccommodations and dreams. Over them, algorithms are applied, which control rules in regard to display and restriction of content, to frequential relationships and to interpellation. Even though the algorithms can be both intricate and broad, they operate on these records according to a general rule: the greater, the greater; the

lesser, the lesser. Based on this sort of metarule, we begin to perceive that certain alternatives are shown to us when we enter a social network or when we return to an online purchasing site.

If you search for pregnancy tests, you will soon receive an advertisement about baby strollers.

The teleological and “miraculous” functioning of the virtual landscape reduces the clarity of other paths and alternatives, from which we are excluded, unawares. When we follow our own pattern of consumption, the algorithms return to us our own way of confirming the world and our expectations, filtered through the digital-Other.

We thus become necessarily and increasingly

mesmos”. Esse viés de autoconfirmação e de exponenciação da própria identidade ganha em funcionalidade adaptativa, mas traz consigo uma nova patologia: a obrigação de ser cada vez mais você mesmo dentro de seu condomínio digital.

Daí que a arte cibernética tem se dedicado a explorar os meios pelos quais a repetição, quando modelada apropriadamente, cria padrões inesperados de diferença e estranhamento.

“O sujeito recebe sua própria mensagem de maneira invertida a partir do Outro.”

Essa era a fórmula desenvolvida pelo psicanalista francês Jacques Lacan quando, nos anos 1950, ele utilizou pela primeira vez a teoria matemática dos grafos para pensar a subjetividade humana. O algoritmo empregado por Lacan baseava-se na primeira geração da cibernética, popularizada por Wiener e Kahn, no contexto da teoria dos jogos. Extraindo certas propriedades matemáticas de séries aleatórias, que podiam simular intuitivamente o método psicanalítico da associação livre, Lacan formulou um novo conceito de sujeito e uma nova noção de inconsciente, dali em diante “estruturado como uma linguagem”. Depois disso, ele aprofundou a lógica combinatória dos primeiros algoritmos empregando modelos topológicos para descrever a inteligibilidade espacial do sujeito: a banda de Moebius para representar

19

more “ourselves.” This sort of self-confirmation and exponentiation of our own identity takes on an adaptive functionality, but bears with it a new pathology: the obligation of being increasingly yourself even inside your digital condominium.

Therefore, cybernetic art has been dedicated to exploring the means by which repetition, when appropriately modeled, creates unexpected patterns of difference and estrangement.

“The subject receives back from the Other his own message in an inverted form.” This was a formula developed by French psychoanalyst Jacques Lacan when, in the 1950s, he used

for the first time the mathematical theory of graphs to think about human subjectivity. The algorithm employed by Lacan was based on the first generation of cybernetics, popularized by Wiener and Kahn, in the context of game theory.

Extracting certain mathematical properties of random series, which could intuitively simulate the psychoanalytic method of free association, Lacan formulated a new concept of the subject and a new notion of the unconscious, from then on “structured like a language.” He then went on to defend the combinatorial logic of the first algorithms, employing topological models to describe the subject’s spatial intelligibility:

a divisão do sujeito; a garrafa de Klein para falar das relações entre fantasia e realidade; o toro para descrever nossas identificações; o plano projetivo para descrever o descompasso entre o que pedimos e o que queremos.

Curiosamente, são essas estruturas que vemos recorrentemente empregadas na arte cibernética contemporânea e em seus exercícios em torno de séries recursivas, séries de autointerpenetração, séries que se transformam pela integração de sua própria regra de composição, séries que produzem homologias formais da realidade.

Pianos que compõem músicas a partir da forma randômica das nuvens, panos que se deformam como ondas do mar, séries sonoras acusmáticas nas quais a voz ou o som emergem, indeterminadamente, em relação ao corpo ou ao lugar ao qual pertence. As superfícies topológicas lacanianas têm em comum o fato de não serem perfeitamente legíveis em um espaço de três dimensões, subvertendo assim nossa relação intuitiva com o mundo, com a linguagem e com o tempo.

A nova estrutura de linguagem, que se anuncia com a internet das coisas e com o que se convenciona chamar de inteligência artificial (AI), renomeia essa noção de inteligência artificial, vai além da ideia de uma análise combinatória exaustiva das possibilidades de dada estrutura ou da recursividade das escolhas anteriores para

20

the Mobius strip to represent the division of the subject; the Klein bottle to talk about the relationships between fantasy and reality; the torus to describe our identifications; the projective plane to describe the divergence between what we ask for and what we want.

Curiously, these are the structures we recurrently see employed in contemporary cybernetic art and its exercises around recursive series, series of self-interpenetration, series that are transformed by the integration of their own rule of composition, series that produce formal homologies of reality.

Pianos that compose music based on the random shape of the clouds, sheets that deform like

ocean waves, acousmatic sound series in which the voice or the sound emerges indeterminately in relation to the body or place to which it pertains.

The Lacanian topological surfaces share in common the quality of not being perfectly legible in three-dimensional space, thus subverting our intuitive relationship with the world, with language and with time.

The new structure of language, which is announced with the Internet of things and with what is conventionally called artificial intelligence (AI), renames this notion of artificial intelligence, goes beyond the idea of an exhaustive combinatorial analysis of the possibilities of the

prever escolhas futuras. Ela também não se limita a esconder seu próprio aspecto maquínico e artificial por trás de vozes que operam conversações em simulação perfeita ou respostas em tempo real. O desafio fundamental dessa nova forma de AI é incorporar as possibilidades do universo quântico: autovalores e autovetores, superposição de estados de um sistema.

O que temos aqui é outro tipo de regra e outro tipo de relação entre regras e exceções.

Casos singulares, não só repetições genéricas. Anomalias, não apenas regras de composição das séries. Isso envolve um problema que ultrapassa os dois termos usualmente mobilizados para abordar o problema da inteligência artificial em psicologia, ou seja, pensamento e linguagem. Normalmente, associamos o pensamento com a causa formal e a linguagem com a causa material das coisas, mas, no caso dessa nova linguagem, são as coisas que produzem forma e é o pensamento, ou nossos atos de reconhecimento, que lhe atribuem algum conteúdo. Para enfrentar tais problemas, a pesquisa sobre formas estéticas cibernéticas torna-se estratégica, pois elas exploram, metodicamente, tanto as metamorfoses entre padrões de inversão e reconhecimento de processos quanto os fenômenos de emergência de consciência recursiva. Isso coloca a pesquisa sobre modos de subjetivação, e sua metodologia estética, como uma terceira alternativa entre a interpretação realista e a interpretação filosófica da quântica.

21

data structure or of the recursiveness of previous choices to predict future choices. It is also not limited to hiding its own machinic and artificial aspect behind voices that operate conversations in perfect simulations or responses in real time.

The fundamental challenge of this new form of AI is to incorporate the possibilities of the quantum universe: self-values and self-vectors, the superposition of states of a system.

What we have here is another sort of rule and another sort of relationship between rules and exceptions. Singular cases, not only generic repetitions. Anomalies, not only rules for the composition of series. This involves a problem

that goes beyond the two terms usually used to approach the problem of artificial intelligence in psychology – that is, thought and language.

Normally, we associate thought with the formal cause, and language with the material cause of things, but, in the case of this new language, they are the things that produce form and it is the thought, or our acts of recognition, that attribute some content to it. To face these problems, the research into cybernetic aesthetic forms becomes strategic, because they methodically explore both the metamorphoses between patterns of inversion and recognition of processes as well as the phenomena of the emergence of recursive consciousness. This poses the research on

Modos de subjetivação são frequentemente definidos pela unidade entre uso da linguagem, trabalho do pensamento e orientações de desejo. Essa unidade pode ser, retrospectivamente, determinada como um corpo, uma casa, uma cidade, uma comunidade ou até mesmo a identidade de alguém. Podemos agrupar tais unidades em constelações mais ou menos estáveis, basicamente compostas da estruturação de padrões de relação prevalentes, de modo diverso das nossas atuais e precárias classificações baseadas em perfis e disposições.

Por exemplo, a teoria da personalidade pode dividir formas de vida segundo perspectivas prevalentes de relação com o mundo e com o outro, tais como: extroversão, abertura, conscienciosidade, neuroticismo e agradabilidade. Esses tipos são criados pela análise fatorial de reações e atitudes, de maneira análoga aos manuais de diagnóstico estatístico de transtornos mentais.

O impacto potencial das novas tecnologias nos modos de subjetivação promete aposentar esse tipo de abordagem, pois elas captarão não apenas tendências e

22

modes of subjectification, and its aesthetic methodology, as a third alternative between realistic interpenetration and the philosophical interpretation of the quantum.

Modes of subjectification are often defined by the unity between the use of language, thoughtbased work, and orientations of desire. This unity can be, retrospectively, determined as a body, a house, a city, a community or even someone’s identity. We can group such units in more or less stable constellations, basically composed of the structuring of prevailing patterns of relationships, in a different way than

our current, precarious classifications based on profiles and tendencies. For example, the theory of personality can divide forms of life according to prevailing perspectives of relationships with the world and with the other, such as: extroversion, opening, conscientiousness, eroticism and agreeability.

These types are created by the factorial analysis of reactions and attitudes, in a way that is analogous to manuals of the statistical diagnosis of mental disturbances.

The potential impact of the new technologies on the modes of subjectification is expected to

perfis genéticos, mas também o “DNA mental do sujeito”. Portanto, o fator crucial não mais será a inteligibilidade do padrão de transformação na relação com o mundo, mas sim descrições de si mesmo como fator de autotransformação.

Como se o diagnóstico alterasse a doença. Como se o ato de reconhecimento alterasse a natureza da coisa reconhecida.

Essa recursividade em segundo grau impacta dramaticamente a pesquisa sobre novas formas de subjetivação. Elas incorporam não apenas considerações de performances positivas, mas também o fracasso e a detecção de incertezas. Por exemplo, a consciência sobre determinado modo de reconhecimento pode transformar radicalmente a natureza da experiência produzida, como quando andamos no interior de um túnel e percebemos nossas próprias perspectivas sobre o túnel projetadas à nossa frente ou ao nosso lado. Como se estivéssemos vivendo uma experiência de cubismo prático, na qual as diferentes perspectivas de nós mesmos são compostas como uma unidade que contém a imersão de um ponto de autorrepresentação.

23

outstrip this sort of approach, making it outmoded, since they will capture not only genetic profiles and tendencies, but the “subject’s mental DNA.” Therefore, the crucial factor will no longer be the intelligibility of the pattern of transformation in the relationship with the world, but rather descriptions of oneself as a factor of self-transformation.

As though the diagnosis altered the disease.

As if the act of recognition altered the nature of the thing recognized.

This second-degree recursiveness dramatically impacts the researches into new forms of

subjectification. They incorporate not only considerations of positive performances, but also failure and the detection of uncertainties. For example, the consciousness of a determined mode of recognition can radically transform the nature of the experience produced, such as, for example, when we walk within a tunnel and perceive our own perspectives on the tunnel projected in front of or beside us. As though we were going through an experience of practical cubism, in which different perspectives of ourselves are composed as a unit that contains the immersion of a point of self-representation.

A FÁBULA DA CONSCIÊNCIA THE FABLE OF CONSCIOUSNESS

Edilamar Galvão é pesquisadora nas áreas de arte e tecnologia, comunicação, jornalismo e cultura digital. Doutora pela Pontifícia Universidade Católica de São Paulo (PUC/SP), é coordenadora do curso de graduação em jornalismo da Fundação Armando Alvares Penteado (Faap) e

Edilamar Galvão

criadora do laboratório de produção de conteúdos jornalísticos multiplataforma LabJor, da mesma instituição.

Edilamar Galvão is a researcher in the areas of art and technology, communication, journalism and digital culture. With a PhD from Pontifícia Universidade Católica de São Paulo (PUC/SP), she is the coordinator of the undergraduate course in journalism at Fundação Armando Alvares Penteado (Faap) and the creator of the laboratory for the production of multiplatform journalistic

24

content, LabJor, at the same institution.

A razão – ou inteligência, consciência, consciência da consciência – não foi o primeiro problema do sapiens quando este aportou no planeta Terra. Como todas as outras espécies na natureza, sua única finalidade intrínseca era sobreviver.

Em sua longa saga na Terra, o sapiens foi uma espécie que conseguiu se multiplicar – e aos seus genes – à medida que encontrava soluções “inteligentes” para manter-se vivo: basicamente, conseguia alimentar-se e não virar alimento. No entanto, o “equipamento” que lhe permitiu dar tais respostas inteligentes materializava-se na forma dos instrumentos que fabricava. Segundo hipótese do filósofo Ernst Fischer, esses primeiros instrumentos foram objetos encontrados ocasionalmente na natureza para atingir um objetivo imediato: alcançar um alimento ou acertar um animal. Tal uso transformou-se na própria função do objeto – um pedaço de pau vira uma lança ou um pegador de alimentos, e uma pedra transforma-se em arma.

Movidos pela imperiosa necessidade de sobrevivência, os indivíduos da espécie vão desenvolvendo seus instrumentos a partir da natureza, imitando-a e, agora, passando a interagir com ela por meio dos instrumentos que inventaram. Nas palavras de Ernst Fischer, “o homem inventa os instrumentos, e os instrumentos inventam o homem”. O indivíduo é capaz não só de se apropriar dos objetos encontrados na natureza, mas também de aperfeiçoar a função a eles atribuída,

25

Mind – or intelligence, consciousness, awareness of consciousness – was not the first problem of sapiens when it arrived on planet Earth. Just like all the other species in nature, its only intrinsic purpose was to survive.

In its long saga on the Earth, sapiens was a species that managed to multiply – itself and his genes – to the degree that it found “intelligent” solutions to remain alive: basically, it managed to eat food and not become food. The “equipment” that allowed it to give intelligent responses was materialized in the form of the tools it made. According to a hypothesis by

philosopher Ernst Fischer, these first tools were objects found occasionally in nature to achieve an immediate goal: to reach for food or to kill an animal. This use became embodied in the object itself – a stick became a spear or a food reacher and a stone became a weapon.

Driven by the imperative need for survival, the individuals of the species gradually developed their tools on the basis of nature, imitating it, and then interacting with it based on tools they invented. In the words of Ernst Fischer, “man invents tools, and the tools invent man.” The individual is able not only to appropriate the objects found in nature, but also to perfect the

melhorar tais instrumentos, aprender a projetá-los com seu manuseio. O universo do trabalho e da sobrevivência vai se tornando cada vez mais complexo. Assim como os instrumentos mais rudimentares, a própria linguagem deve ter encontrado nos sons da natureza os primeiros “sinais” para codificar uma comunicação.

Nesse laborioso processo de invenção, o sapiens experimentava uma tripla função em cada instrumento: (1) seu uso/função para sobrevivência imediata; nesse uso, (2) uma prótese ou extensão de sua força e de seu poder sobre a natureza; e, ainda, (3) o espelhamento de sua capacidade de inventá-lo. Instrumento é uso, poder e reflexo.

Essa terceira característica tão bem revelada em “O amante de ‘gadgets’ – Narciso como Narcose”, de McLuhan: “o que importa nesse mito [o mito de Narciso] é o fato de que os homens logo se tornam fascinados por qualquer extensão de si mesmos em qualquer material que não seja o deles próprios”.

De certo modo, podemos relacionar essa função do espelho com a afirmação de Hegel na introdução aos Cursos de Estética de que o belo artístico é superior ao belo natural, pois nele “o espírito se reconhece”: ou seja, o espírito vê o belo artístico como sua própria obra, e o belo natural não. Para Hegel, a “evolução” do espírito em direção ao absoluto é uma evolução em direção ao espírito pleno da consciência de si.

26

use attributed to them, improving those tools, and through experience in handling them, learning to design them. The world of work and survival became increasingly more complex.

Like the most rudimentary tools, language itself must have found in the sounds of nature the first “signals” to codify a communication.

In this laborious process of invention, sapiens encountered a triple function in each tool: (1) its use/function for immediate survival; in this use, (2) a prosthesis or extension of his strength and his power over nature; and, furthermore, (3) the mirroring of his ability to invent it. A tool is

thus a use, a power and a reflection. This third characteristic so clearly revealed in “The Gadget Lover: Narcissus as Narcosis,” by McLuhan: “now the point of this myth is the fact that men at once become fascinated by any extension of themselves in any material other than themselves.”

In a certain way, we can relate this function of the mirror with the statement by Hegel in the introduction to Lectures on Aesthetics, that artistic beauty is superior to natural beauty, since “the spirit recognizes itself” in it: that is, the spirit sees artistic beauty as its own work, not so for natural beauty. For Hegel, the “evolution”

Um espírito que, para conceber e conhecer a si mesmo, cindiu-se a si mesmo num “em si” e num “para si”. Essa cisão era necessária para que o espírito se fizesse objeto de si (o “para si”) para conhecer a si (o “em si”). Como objeto de si, o espírito pode se ver e se reconhecer em sua própria obra, na arte, na ciência e na filosofia.

Há, no entanto, uma diferença fundamental entre o filósofo do século XIX e o teórico da comunicação do século XX: para o primeiro, o desenvolvimento dos instrumentos contém a consciência que conferirá à razão sua consciência absoluta de si; para o segundo, os instrumentos agem sobre todo o sistema orgânico e mental do homem e “narcotizam” a consciência de sua relação com eles: “a extensão de si mesmo pelo espelho embotou suas percepções até que ele se tornou o servomecanismo de sua própria imagem prolongada ou repetida”. Os pontos de vista de Hegel e McLuhan servem bem para ilustrar dois modos de concebermos a evolução do conhecimento teórico e do conhecimento técnico/tecnológico que nos traz até este problema atual: estamos, como profetiza o historiador israelense Yuval Noah Harari, prestes a desaparecer como última geração do Homo sapiens e a ser superados/substituídos por um novo animal super-humano orgânico/inorgânico, fruto do design inteligente desenvolvido por nós nos últimos 50 anos a partir da lógica computacional, dos algoritmos genéticos e do desenvolvimento da compreensão científica das redes

27

of the spirit toward the absolute is an evolution toward the spirit in full awareness of itself. A spirit which, to conceive and to know itself, split itself into an “in itself” and a “for itself.” This split was necessary for the spirit to make an object of itself (the “for itself”) in order to know itself (the “in itself”). As an object of itself, the spirit can see itself and recognize itself in its own work, in art, in science and in philosophy.

There is, however, a fundamental difference between the 19th-century philosopher and the 20th-century theorist of communication: for the former, the development of tools contains the

consciousness that will confer to the mind its absolute consciousness of itself; for the latter, the tools act on the entire organic and mental system of the individual and “narcotizes” his or her relation with them: “This extension of himself by mirror numbed his perceptions until he became the servomechanism of his own extended or repeated image.” The viewpoints of Hegel and McLuhan aptly illustrate two ways in which we conceive the evolution of theoretical knowledge and technical/technological knowledge that leads us to this current question: are we, as prophesizes Yuval Noah Harari, about to disappear as the last generation of Homo sapiens and to

neurais bioquímicas dos organismos biológicos? Será por meio dessa espécie híbrida que atingiremos uma “consciência absoluta” (o que quer que isso seja) ou terá ela tornado a vida biológica e, portanto, a vida humana mero “servomecanismo” de sua existência maquínica, como no sugestivo conto/novela “A Máquina Parou”, de E. M. Forster?

Antes, voltemos ao período anterior ao nascimento da consciência da razão, com Fischer, quando o desenvolvimento da razão parece ter levado o sapiens a essa fascinação, da qual fala McLuhan, ou a certa “consciência de si ainda inconsciente”, como talvez sugeriria Hegel, nesses instrumentos que inventava. Para Fischer, o acúmulo dessa experiência/sensação de poder por meio de seus instrumentos resultou num “desejo de poder infinito”. E teria sido para esse “desejo”, vivido como necessidade, que o sapiens desenvolveu uma de suas maiores capacidades: a de inventar histórias e narrativas.

28

Os rituais, mitos e religiões teriam sido, nessa perspectiva, a invenção de um instrumento de sobrevivência. E o meio de inventá-lo também teria seguido a mesma lógica das primeiras invenções: imitar a natureza no seu modo de funcionar – o que se revelou bastante eficaz desde a invenção dos primeiros

be surpassed/substituted by a new organic/ inorganic superhuman animal, the outcome of intelligent design developed by us over the last fifty years based on computational logic, on genetic algorithms and on the development of the scientific understanding of the biochemical and neural networks of biological organisms? Could it be that it will be through this hybrid species that we attain an “absolute consciousness” (whatever that may be), or could it turn biological life and, therefore, human life into a mere “servomechanism” of its mechanical existence, as in the suggestive short story/novella The Machine Stops, by E. M. Forster?

To answer this, we will begin by looking back at the period before the birth of the awareness of mind, with Fischer, when the development of consciousness seems to have led sapiens to this fascination, that McLuhan talks about, or the certain “still unconscious self-awareness,” as Hegel would perhaps suggest, in those tools he invented. For Fischer, the accumulation of this experience/sensation of power through his tools resulted in a “desire for infinite power.” And it would have been for this “desire,” felt as a necessity, that sapiens developed one of its greatest abilities: that of inventing stories and narratives.

instrumentos. Tal eficácia foi demonstrada pelo antropólogo Claude Lévi-Strauss no texto “A eficácia simbólica”, por meio de sua análise de um ritual xamânico para a realização de um parto difícil na tribo dos Cuna, no Panamá. No texto, Lévi-Strauss revela as equivalências entre a estrutura da narrativa mítica e a estrutura da própria experiência do parto. Comparando o ritual mítico ao ato psicanalítico, ele não hesita em afirmar que a eficácia do símbolo reside na semelhança estrutural entre narrativa e experiência. Aliás, não é à toa que esse conceito – o de mímesis – se tornou tão fundamental no desenvolvimento da arte e na compreensão do funcionamento das estruturas psíquicas. Imitar a natureza para produzir seus instrumentos levou o homem a imitar a natureza para produzir seus ritos e mitos. E, ao operar tal invenção, o sapiens estava, de fato, produzindo o instrumento que o levaria ao topo da cadeia alimentar.

Pois o desenvolvimento de narrativas, segundo Yuval Noah Harari, significou a possibilidade de colaboração entre um número de indivíduos já não limitado pela necessidade de seus integrantes conhecerem-se mutuamente – já que para cooperar é necessário confiar, e não se confia em quem não se conhece.

29

Uma narrativa poderia ser considerada, assim, uma “prótese de confiança”: alguém pode lutar, matar ou morrer ao lado de quem nunca viu, mas com quem partilha

In this perspective, the rituals, myths and religions would be a tool for survival. And the way to invent them would also have followed the same logic as the first inventions: imitating nature in its mode of operation – which had proved very effective ever since the invention of the first tools. This effectiveness was demonstrated by anthropologist Claude Lévi-Strauss in the text The Effectiveness of Symbols, through his analysis of a shamanic ritual for the realization of a difficult childbirth among the Cuna tribe, in Panama. In the text, Lévi-Strauss reveals the equivalences between the structure of the mythic narrative and the structure of the experience of childbirth.

Comparing the mythic ritual to the psychoanalytic act, he states that the effectiveness of the symbol resides in the structural similarity between narrative and experience. It is not by chance that this concept – that of mimesis – became so fundamental in the development of art and in the understanding of the functioning of the psychic structures. Imitating nature to produce his tools led man to also imitate nature in the production of his rites and myths. And, by operating this invention, sapiens was, in fact, producing the instrument that would bring him to the top of the food chain. Because the development of narratives, according to Yuval Noah Harari, meant

a mesma crença. Mitos, religiões, crenças, a construção narrativa de uma “raça”, de um Estado, de um time ou de uma empresa produzem a possibilidade de sólidas conexões entre os indivíduos de um grupo, tornando-o extremamente coeso e “forte”.

E isso nos faz compreender por que, entre as maiores e mais temidas penas para um grego, estavam o ostracismo e o exílio – a destituição de seu pertencimento ao grupo. Ainda nos faz pensar no quanto, contemporaneamente, se tornou importante o debate da “guerra das narrativas”, da “representatividade” (o que significa estar representado em alguma narrativa) e de como uma narrativa inclui/exclui. Não conseguir ver-se incluído ou espelhado numa narrativa coletiva equivale à sensação de não existência ou de ameaça de morte. Não se vale de outra coisa a proliferação de tribos urbanas: a garantia de existência e segurança num “grupo” e sua “narrativa”.

Tendo sido as primeiras narrativas os arquétipos das identidades coletivas, percebe-se como a sensação de pertencimento a um grupo – e ao lugar que se ocupa nele – está relacionada ao seu lugar de representação em sua narrativa “mestra”.

A história da humanidade é pródiga em exemplos nos quais narrativas, mitos e religiões organizaram as mais fantásticas máquinas humanas de guerra e sobrevivência. O sapiens havia “emergido” da “mera sobrevivência” para um mundo que pressupunha uma transcendência mediada de símbolos. Paradoxalmente, deve-

30

the possibility of collaboration between a number of individuals no longer limited by the need of its members to mutually know one another – since in order to cooperate it is necessary to trust, and one cannot trust someone who one does not know.

A narrative could thus be considered a “prosthesis of trust”: someone is able to fight, kill or die alongside someone he has ever seen, but with whom he shares the same belief.

Myths, religions, beliefs, the construction of a “race,” of a nation, of a team or a company produce the possibility of solid connections between the individuals of a group, making it extremely cohesive and “strong.” And this

allows us to understand why, for the ancient Greeks, ostracism or exile was one of the most feared punishments – the removal of one’s belonging to the group. It also accounts for the current importance of the debate of the “war of narratives,” of “representativity” (which signifies being represented in some narrative) and of how a narrative includes/excludes. Not being able to see oneself included or mirrored in a collective narrative is equivalent to a feeling of nonexistence or the threat of death. This accounts for the proliferation of urban tribes: the guarantee of existence and security in a “group” and its “narrative.” Since the first narratives were the archetypes of collective

-se dizer, tudo fruto da razão. Os instrumentos físicos, somados aos instrumentos mágicos, organizavam a vida social, a sobrevivência física e simbólica. Sobreviver, para o sapiens, não se resumiu a permanecer vivo entre outros animais; incluía permanecer simbolicamente vivo – e sua existência começava a demandar outro tipo de alimento: o sentido da existência. Se por um lado a necessidade de “poder infinito” (ou de sobrevivência infinita) surgiu como resultado da experiência trazida pelos próprios instrumentos físicos, pelos ritos e pelas narrativas – como instrumentos –, por outro também produziu seu efeito na estrutura da sensibilidade humana. Na verdade, em toda essa história, uma das coisas mais estranhas, como acontecimento, é o surgimento da própria consciência da razão. Como vantagem evolutiva, a razão já havia produzido seus frutos por toda parte, grupos humanos variavam em sua coleção de instrumentos físicos, mitos e rituais capazes de produzir solução e sentido conforme a região geográfica habitada. Pirâmides, meios de transporte pluviais e marítimos, cidades, complexos sistemas de irrigação e plantio, “tudo” já havia sido inventado.

Em cada lugar, o mundo já continha suas respostas. Os gregos, porém, acharam de inventar – ou descobrir – ainda outra coisa: a razão, ela mesma. O helenista Jean-Pierre Vernant supõe que tal descoberta seja também fruto de outra invenção: a da pólis grega, mais especificamente da ágora. Essa nova organização social instalava, no coração da cidade, um espaço em que os indivíduos, agraciados com a condição

31

identities, we perceive how the sensation of belonging to a group – and to the place that one occupies in it – is related to one’s place of representation in the group’s “master” narrative.

The history of humanity is replete with examples where narratives, myths and religions organized the most fantastic human machines of war and survival. Sapiens had “emerged” from “mere survival” into a world that presupposed a transcendence mediated by symbols. Paradoxically, it should be said, this is all the fruit of the mind. The physical tools, coupled with the magical tools, organized the social life, the physical and symbolic

survival. Surviving, for sapiens, was more than remaining alive among the other animals; it also included remaining symbolically alive – and its existence began to require another sort of food: the feeling of existence. If, on the one hand, the need for “infinite power” (or of infinite survival) arose as a result of the experience brought by the physical tools, by the rites and by the narratives – as tools – it also produced its own effect on the structure of human sensibility. Actually, in all this history, one of the strangest things, as an event, is the emergence of the awareness of mind. As an evolutionary advantage, mind had already brought its results everywhere, human groups

de “cidadãos”, deveriam debater as questões que se apresentavam à sobrevivência e à convivência do grupo. Possivelmente sem saber, imaginar ou intencionar, os gregos instauravam uma ordem paralela à sua milenar ordem mítica. Talvez também não sonhassem com o mundo que estavam inaugurando quando decidiram debater num espaço aberto na cidade as decisões a ser tomadas. O espaço da ágora se revelou um espaço para a palavra, e ali se deu bem quem soube tomá-la nas mãos e mostrar-se mestre da oratória, da argumentação e do convencimento. Na ágora, as diferenças deveriam se resolver pela palavra, e foi lá e desse modo, segundo Vernant, que a razão se deu conta de si mesma: “Quando Aristóteles define o homem como ‘animal político’, sublinha o que separa a Razão grega da de hoje. Se o Homo sapiens é, a seus olhos, um Homo politicus, é que a própria Razão é, em sua essência, política”, diz Vernant em As Origens do Pensamento Grego.

Olhando para a história do sapiens em perspectiva, é notável como da mera sobrevivência e de instrumentos tão rudimentares tenha “emergido” um mundo tão complexo de signos, símbolos e, talvez, de “consciência”.

32

Há 11 anos, em 2008, o Itaú Cultural trouxe a mostra Emergência!, com o nome seguido do sinal de exclamação. Naquela exposição, podíamos entrar em contato

varied in terms of their specific collection of physical tools, myths and rituals able to produce a solution and meaning according to the geographic region where they lived.

Pyramids, fluvial and maritime transportation routes, cities, complex systems of irrigation and planting, “everything” had already been invented. In each place, the world already contained its responses. The Greeks, however, invented – or discovered – still another thing: reason. The Helenist Jean-Pierre Vernant supposes that this discovery was also the outcome of another invention: that of the Greek polis, more specifically, of the agora. This new social organization installed, in the heart of the

city, a space in which the individuals, those who enjoyed “citizen” status, could debate issues that affected the group’s survival and shared life. Possibly without knowing, imagining or intending it, the Greeks instated an order in parallel with their mythical age-old order. Perhaps they also did not dream about the world they were inaugurating when they decided to debate in an open space in the city in regard to decisions to be taken. The space of the agora became a space for the word, and there, the successful ones were those who knew how to take the word in hand and show themselves to be masters of oratory, argumentation and persuasion. In the agora,

com esse conceito matemático e com os fenômenos “emergentes” na natureza.

Agora, neste ano, estamos diante da exposição Consciência Cibernética [?], com o ponto de interrogação. Ocorre que podemos pensar a própria consciência como um fenômeno emergente. Será a consciência cibernética um fenômeno emergente de todo o desenvolvimento técnico-tecnológico-comunicacional? (Aliás, podemos suspeitar como o conjunto das exposições de arte e tecnologia do Itaú Cultural tem constituído uma única reflexão e narrativa a respeito do desenvolvimento tecnológico, da arte e da consciência da relação homem-máquina.)

Consideremos o conceito de emergência. Ele foi formulado pela primeira vez por G. H. Lewes, estudioso interessado em literatura, filosofia e ciência, na obra Problems of Life and Mind, no final do século XIX. Depois disso, o conceito fez história na física, na química, na biologia e no campo computacional, com os conceitos de inteligência artificial e algoritmos genéticos.

De uma perspectiva muito abrangente, emergência caracteriza os processos e padrões que “surgem” ou “emergem” da “evolução” e/ou “interação” de entidades em sistemas inicialmente “simples” – ou seja, cujas interações são normatizadas por poucas e “simples” regras. Um exemplo bastante fácil para iniciarmos nossa compreensão desse

33

differences were supposed to be solved by the word, it was there, in this way, according to Vernant, that mind gained awareness of itself: “When Aristotle defines man as the ‘political animal,’ he underscores how the Greek reason is different from that of today. If Homo sapiens is, to his eyes, Homo politicus, it is because reason itself is in essence political,” says Vernant in his Origins of Greek Thought.

Looking at the history of sapiens in perspective, it is noteworthy how, from mere survival and from such rudimentary tools, there emerged such a complex world of signs, symbols and, perhaps, of “consciousness.”

Eleven years ago, in 2008, Itaú Cultural presented the show Emergência!, With the name followed by an exclamation point. In that exhibition, we could make contact with this mathematical concept and with the “emergent” phenomena in nature. Now, this year, we have the exhibition Consciência Cibernética [?] [Cybernetic Consciousness (?)], with a question mark.

It occurs that we can think about awareness itself as an emergent phenomenon. Is cybernetic consciousness an emergent phenomenon arising from all the technical-technologicalcommunicational development? (We can suspect how the overall set of exhibitions of art and technology of Itaú Cultural has constituted

conceito é o Game of Life (http://www.bitstorm.org/gameoflife/), jogo de computador criado com base em três regras simples para o comportamento de pontos que “sobrevivem”, se multiplicam ou desaparecem de acordo com essas regras. A partir do desenho aleatório que o jogador fizer no tabuleiro, o sistema pode rodar até que o desenho formado pelos pontos desapareça completamente, pare ou permaneça num movimento contínuo. A ideia básica é que, embora não seja mágica, a quantidade de padrões e comportamentos que podem surgir da aplicação daquelas três simples regras é virtualmente impossível de ser “prevista” anteriormente pelo jogador e mesmo pelo criador do jogo – ainda que alguém possa argumentar que a imprevisibilidade seja “apenas” fruto da nossa incapacidade de processamento de dados. Há controvérsias.

Não é à toa que, seguindo a lógica de McLuhan, o computador e, de modo muito mais significativo, a World Wide Web (WWW) são vistos como extensão da mente humana.

Além disso, a imprevisibilidade é uma condição para caracterizar um fenômeno como “emergente”. Outra, mais difícil ainda, é que os padrões “emergidos” sejam irredutíveis às regras do primeiro sistema que os gerou. Ou seja, não dá simplesmente para explicar um sistema pelo outro. É como se surgisse um universo paralelo e, a partir daí, independente do primeiro. Um físico e um químico

34

a unique reflection and narrative concerning technological development, art and the awareness of the human-machine relationship.)

We shall next consider the concept of “emergence.” It was formulated for the first time by G. H. Lewes, a scholar interested in literature, philosophy and science, in the work Problems of Life and Mind, at the end of the 19th century. After this, the concept made history in physics, chemistry, biology and in the computer field, with the concepts of artificial intelligence and genetic algorithms.

From a very broad perspective, emergence characterizes the processes and patterns that “arise” or “emerge” based on the “evolution” and/or “interaction” of entities in initially “simple” systems – that is, whose interactions are standardized by a few “simple” rules. A very easy example for us to begin in our understanding of the concept is the Game of Life (http://www. bitstorm.org/gameoflife/), a computer game created based on three simple rules for the behavior of points that “survive,” multiply or disappear according to those rules. Starting with a random drawing that the player makes on the

provavelmente seriam muito mais precisos para exemplificar o conceito. Mas, se partirmos da ideia da emergência de complexidade com base na interação e na evolução de entidades em sistemas simples, podemos imaginar o alcance poético do conceito. Basta pensar que a própria consciência poderia ser tomada como um fenômeno “emergente” e todo universo surgido dela ser completamente irredutível à realidade físico-química e biológica.

35

O próprio surgimento da vida, e da vida na Terra, também poderia ser pensado sob esse ponto de vista. Consideremos o Big Bang e imaginemos o seguinte: a interação de uns pouquíssimos elementos químicos por meio de regras igualmente simples (como no Game of Life) “rodando” um número incontável de vezes até o aparecimento de um organismo “biológico”, que, por sua vez, vai interagir com o meio, “rodando” o jogo até o surgimento de formas mais complexas, e assim sucessivamente. Até o aparecimento do sapiens, dos instrumentos, do trabalho, da linguagem, dos mitos e das religiões, da cultura, da consciência da razão, da ciência, das tecnologias de comunicação, da lógica computacional, do computador digital, do computador quântico, de máquinas com um poder de processamento inimaginável tomando decisões de sugestão de compra, de locomoção de veículos, capazes de

game board, the system can start running until the drawing formed by the points disappears completely, stops, or remains in continuous movement. The basic idea is that, although it is not magic, the quantity of patterns and behaviors that can arise based on the application of those three simple rules is virtually impossible to be “predicted” by the player or even by the game’s creator – even though some may argue that the unpredictability is “only” the result of our inability to process data. There are controversies. It is not by chance that, following McLuhan’s logic, the computer and, in a more significant way,

the World Wide Web (WWW), are seen as an extension of the human mind.

Moreover, unpredictability is a condition for characterizing a phenomenon as “emergent.”

Another one, even more difficult, is that the “emergent” patterns be irreducible to the rules of the first system that gave rise to them. That is, the one system cannot be explained simply in terms of the other. It is as though a parallel universe arises and, from that point onward, is independent from the first one. A physicist or a chemist would probably be much more precise

identificar padrões de comportamento, escolhendo e direcionando tais informações conforme esses padrões para influenciar a decisão de voto ou de compra de um indivíduo meramente orgânico.

Assustadoramente simples. Foi o que pensou Darwin sobre a sua teoria da evolução.

Mas é o que sustenta também Richard Dawkins: é muito mais “razoável” supor que, “primeiramente”, surjam formas simples e, “depois”, formas complexas. Do ponto de vista filosófico-religioso, o argumento sustenta a não necessidade de um princípio divino – o que seria por demais complexo – para o surgimento da vida.

A raridade do fenômeno vida e, muito mais ainda, do fenômeno consciência nos deixa espantosamente admirados, para lembrar Aristóteles, e sentimos uma emoção que nos impulsiona ao desejo de conhecer, exatamente por esses fenômenos serem a menor probabilidade, uma probabilidade virtualmente imprevisível se considerarmos apenas a existência inicial de um “pozinho químico”; depois, o surgimento da complexidade de uma primeira “sopa orgânica”; então, o aparecimento de um “ser” vivo e, ainda, de uma consciência que pode observar e contemplar isso tudo, e, de certo modo, criar as regras de sua própria existência “eterna”, caso não tenha se transformado num “servomecanismo” de sua criação.

36

in defining the concept. But, if we take as our basis the idea of the emergence of complexity based on the interaction and evolution of entities in simple systems, we can imagine the concept’s poetic reach. It suffices to think that consciousness itself can be considered an “emergent” phenomenon and the entire universe that arises from it is completely irreducible to physico-chemical reality and biology.

The emergence of life itself, and of life on the Earth, can also be thought of from this point of view. We consider the Big Bang and imagine the following: the interaction of some very small

chemical elements through likewise simple rules (as in the Game of Life) “running” a countless number of times until the appearance of a “biological” organism which, for its part, will interact with the environment, “running” the game until the rise of more complex forms, and so on. Until the appearance of sapiens, of tools, of work, of language, of myths and religions, of culture, of awareness of mind, of science, of communication technologies, of computer logic, of the digital computer, of the quantum computer, of machines with an unimaginable processing power making decision to suggest purchases, or controlling vehicles, able to identify

Não só a raridade e a complexidade desses fenômenos nos espantam, como também a possibilidade de compreendê-los a partir de um conceito e um princípio tão “simples”. “Simplicidade” é o que faz os cientistas considerarem uma fórmula e um princípio “elegantes”. Desde os pré-socráticos, a ciência busca conhecer e formular leis que expliquem a diversidade dos fenômenos com base em uns poucos princípios. Mas essa “história” da evolução também pode ser contada a partir das seis épocas propostas por Ray Kurzweil em A Singularidade Está Próxima. Para esse cientista da computação, a “evolução é um processo que consiste em criar padrões de ordem crescente. [...] [Ela] trabalha indiretamente: cada estágio ou época usa os métodos de processar informações da época anterior para criar a nova”. E a “singularidade”, que começa na época cinco e atinge seu ponto máximo quando “o universo desperta” na época seis, “irá representar o ponto culminante da fusão entre nosso pensamento e nossa existência com nossa tecnologia, tendo como resultado um mundo que ainda é humano, mas que transcende nossas raízes biológicas. Não haverá diferença, pós-Singularidade, entre homem e máquina ou entre a realidade física e a virtual. Se alguém quiser saber o que vai permanecer como humano neste mundo, a resposta: nossa espécie é aquela que procura intrinsecamente estender seu alcance físico e mental além das limitações atuais”.

37

patterns of behavior, choosing and directing this information according to these patterns to influence voting decisions or the purchase of a merely organic individual.

It is frighteningly simple. This is what Darwin thought about his theory of evolution. But it is also what Richard Dawkins has observed: it is more “reasonable” to suppose that, “initially,” simple forms arise and, “later,” complex forms.

From a philosophical-religious point of view, the argument supports the nonnecessity of a divine first cause – which would be very complex – for the emergence of life.

The rarity of the phenomenon of life and, much further along, of the phenomenon of consciousness is utterly amazing, remembering Aristotle, and we feel a thrill that drives us to the desire to know, precisely because these phenomena are of a lesser probability, a virtually unpredictable probability if we consider only the initial existence of a “little chemical pond,” later, the rise of complexity of the first “organic soup,” then, the appearance of the living “being” and, moreover, of a consciousness that can observe and contemplate all of this, and, in a certain way, create rules of its own “eternal,”

Aqui, a arte reencena mais uma vez, de modo surpreendente, o desejo – e o medo – demiúrgico representado nas narrativas mítico-artísticas populares, como o mito de Adão (16 a.C.) e o mito grego de Pigmaleão (Ovídio, século I), a Olímpia do conto “O Homem de Areia” (Ernst Hoffmann, 1817), Frankenstein (Mary Shelley, 1818), Pinóquio (Carlo Collodi, 1883), os replicantes de Blade Runner (Ridley Scott, 1982), HAL de 2001 (Stanley Kubrick, 1968), Inteligência Artificial (Steven Spielberg, 2001), o sistema operacional de Her (Spike Jonze, 2014), entre muitos outros exemplos da literatura e da mitologia. O desejo de conhecer, de criar e contemplar a “autonomia” das suas criações – acompanhado do terrível medo de ser traído, enganado,

38

existence – if it has not been transformed into a “servomechanism” of its creation.

What is surprising about these phenomena is not just their rarity and complexity, but also the possibility of understanding them based on a “simple” concept which is, in principle, so “simple.” “Simplicity” is what makes scientists consider a formula or a principle “elegant.”

Since the pre-Socratics, science has sought to know and formulate laws that explain the diversity of the phenomena based on a few principles. But this “history” of evolution can also be told based on the six epochs proposed

by Ray Kurzweil in The Singularity Is Near. For that computer scientist, “evolution is a process

that consists in creating patterns of a growing order. […] [It] works through indirection: each stage or epoch uses the information-processing methods of the previous epoch to create the next.” And the “singularity,” that begins in epoch five and reaches its high point when “the universe wakes up” in epoch six, “will represent the culmination of the merger of our biological thinking and existence with our technology, resulting in a world that is still human but that transcends our biological roots. There will be no distinction, post-Singularity, between human and machine or between physical and virtual reality. If you wonder what will remain unequivocally human in such a world, it’s simply this quality: ours is the species that

ultrapassado, superado, controlado e exterminado por elas. Essas nossas narrativas não são elas mesmas o reflexo de nossa “autoconsciência” de criaturas que subverteram a criação e seu suposto criador?

A indagação contida no título e as nove obras que compõem a exposição Consciência Cibernética [?] despertam em nós o espanto – e o incômodo – do quanto essa possibilidade está próxima. Mas também nos devolvem a pergunta.

Nesse incômodo por outra consciência, o que nós entendemos pela consciência de nós mesmos neste universo infinito?

39

inherently seeks to extend its physical and mental reach beyond current limitations.”

Here, art once again restages, in a surprising way, the demiurgic desire – and fear – represented in the popular artistic-mythical narratives, as in the myths of Adam (16 BC) and the Greek myth of Pygmalion (Ovid, 1st century), Olimpia in the short story “The Sandman” (Ernst Hoffmann, 1817), Frankenstein (Mary Shelley, 1818), Pinocchio (Carlo Collodi, 1883), the replicants of Blade Runner (Ridley Scott, 1982), HAL in 2001, (Stanley Kubrick, 1968), A.I. (Steven Spielberg, 2001), and the operating system in Her (Spike Jonze, 2014), among many other examples from literature and mythology. The desire to know, to

create and to contemplate the “autonomy” of one’s creations – accompanied by the terrible fear of being betrayed, deceived, outmoded, surpassed, controlled and exterminated by it. Are not these narratives of ours the reflection of our “self-awareness” as creatures who subverted the creation of their supposed creator?

The question contained in the title and the nine works that make up the exhibition Consciência Cibernética [?] amazes us – and makes us uneasy – by making us see that this possibility is near. But they also return a question to us. In this uneasiness about another awareness, what do we understand by our own self-awareness in this infinite universe?

O FUTURO DA COMPUTAÇÃO E SEU IMPACTO EM NOSSA VISÃO DE MUNDO THE FUTURE OF COMPUTING AND ITS IMPACT ON OUR VIEW OF THE WORLD

Michael Resch é diretor do Centro de Computação de Alta Performance de Stuttgart (HLRS), na Alemanha, detentor de um dos sistemas de computação civil mais rápidos da Europa: o supercomputador Hermit. Ge-rencia também o Instituto de Computação de Alta Performance (IHR) da Universidade de Stuttgart.

Michael Resch

Michael Resch is the director of the High Performance Computing Center Stuttgart (HLRS), holder of one of the fastest civil computing systems in Europe: the supercomputer Hermit. He also manages the Institute of High Performance Computing (IHR) of the University

40

of Stuttgart.

Os computadores – como toda tecnologia – expressam nossa visão de mundo, na medida em que depositam na tecnologia as nossas ideias. Ao mesmo tempo, porém, eles alimentam e, consequentemente, moldam a maneira como vemos o mundo ao nosso redor. Além disso, toda tecnologia é a apropriação da natureza pelos seres humanos. A internet é a primeira tecnologia que chega perto de uma apropriação de humanos por humanos e representa a interação de uma variedade de tecnologias computacionais, como hardware e software.

Neste artigo, exploramos o desenvolvimento futuro das máquinas de computação – que formam o núcleo de todas as atividades relacionadas à internet. Nós nos concentramos no desempenho de tais sistemas, pois isso é normalmente considerado a força motriz das tecnologias em evolução. Antes de entrarmos na visão mutável do mundo, analisaremos nossa visão ocidental clássica. Em seguida, descreveremos o impacto que essas tendências terão em nossa visão de mundo.

Argumentaremos que o impacto é fundamental, já que muda o papel que os humanos desempenham em nossa visão de mundo. Estamos passando por uma mudança que pode ser tão essencial quanto a virada copernicana.

41

Computers – as every technology – express our view of the world in that they put into technology our ideas. But, at the same time, they feed back on our view and hence shape how we see the world around us. At the same time all technology is also the appropriation of nature by humans. The internet is the first technology that comes close to an appropriation of humans by humans and represents the interplay of a variety of computer technologies, like hardware and software.

In this paper, we explore the future development of computing machines – which

form the core of all internet related activities.

We focus on the performance of such systems, as this is typically considered to be the driving force for evolving technologies.

Before we dive into the changing view of the world, we have a look at our classical Western view. We then describe the impact that these trends will have on our view of the world. We will argue that the impact is fundamental in that it changes the role that humans play in our view of the world. We are facing a change that might be as fundamental as the Copernican turn.

O DESENVOLVIMENTO DOS COMPUTADORES O desempenho do computador foi, por muito tempo, impulsionado pela frequência de relógio dos processadores. Admitindo que, para cada ciclo, o processador poderia computar um resultado, o desempenho computacional foi calculado com base na função da frequência – geralmente medida em megahertz ou gigahertz. A frequência foi influenciada principalmente pela distância entre os elementos de comutação.

Quanto menor a distância, maior a frequência de relógio com que um processador poderia ser operado. Em 1965, Gordon Moore estudou as tendências do tamanho dos circuitos integrados e constatou que o número de componentes em determinada área de chip chegaria a quase o dobro do tamanho a cada 12 meses1. À medida que as distâncias entre os circuitos integrados diminuíssem, a frequência de relógio poderia ser aumentada, de tal forma que a Lei de Moore – como era chamada – basicamente se traduzia em um aumento da velocidade do processador da ordem de dois a cada 12 meses. Mais tarde, isso foi reduzido ao dobro da velocidade a cada 18 meses.

42

A tendência prevista por Moore continuou por décadas. Consequentemente, os dispositivos portáteis atuais, como os smartphones, superam facilmente os

THE DEVELOPMENT OF COMPUTERS The performance of computer was, for a long time, driven by the clock frequency of processors. Assuming that, for each cycle, the processor could compute one result, computing performance was calculated as a function of the frequency – usually measured in MHz or GHz. The frequency was mainly influenced by the distance between switching elements. The shorter the distance, the higher the clock frequency at which a processor could be operated. In 1965, Gordon Moore investigated trends in the size of integrated

circuits and found that the number of components on a given chip area would roughly double every 12 months. As distances between integrated circuits were reduced, the clock frequency could be increased such that Moore’s Law – as it was called – basically translated to an increase in processor speed of a factor of two every 12 months1. Later on, this was reduced to a doubling of speed every 18 months.

The trend predicted by Moore kept going for decades. As a result, today’s handheld

supercomputadores de 30 anos atrás. Ao mesmo tempo, os custos para esse nível de desempenho caíram drasticamente. Do ponto de vista econômico, vimos uma redução de custo para o mesmo nível de desempenho da ordem de 100 mil euros em cerca de 30 anos.

Com base nessa tendência, a supercomputação aumentou substancialmente o desempenho até hoje. No entanto, desde aproximadamente 2002, esse aumento não se baseia mais principalmente no aumento da frequência de relógio. Na verdade, as frequências de relógio estagnaram há cerca de 15 anos, girando em torno de 2 a 4 gigahertz. A razão para isso é uma elevação na temperatura, que requer um intenso resfriamento, e atualmente somos incapazes de resfriar um processador em frequências de relógio que ultrapassem algo em torno de 10 gigahertz. Por causa desse fenômeno, o futuro do desempenho computacional não é tão brilhante quanto o passado. Certamente, veremos mais progressos na velocidade, mas a taxa de aumento diminuirá com o tempo. Realisticamente, nossa tecnologia atual enfrentará o fim da linha em algum momento dos meados da próxima década.

43

devices like smartphones easily outperform supercomputers of 30 years ago. At the same time, the costs for this level of performance were dramatically reduced. From an economic point of view, we saw a reduction of cost for the same level of performance by a factor of 100 thousand in about 30 years.

Based on this trend, supercomputing has substantially increased performance until today. However, since about 2002, such increase is no longer based mainly on the increase of clock frequency. Actually, clock

frequencies have stagnated for about 15 years and are hovering at about 2-4 GHz. The reason for this is an increase in temperature, which requires intensive cooling, and currently we are unable to cool a processor at clock frequencies that go beyond about 10 GHz. As a result of this phenomenon, the future of compute performance is not as bright as it was in the past. We will certainly see further progress in speed, but the rate of increase will become smaller over time. Realistically, our current technology will face the end of the line sometime in the middle of the next decade.

O FUTURO DA COMPUTAÇÃO O nível de desempenho computacional que atualmente vemos em supercomputadores, contudo, se tornará disponível a uma comunidade muito maior nos próximos anos.

Ao mesmo tempo, o crescente desempenho nos permite executar aplicações que já estavam disponíveis há 40 anos, mas não tinham acesso ao nível de execução que vemos hoje. Isso inclui principalmente o aprendizado de máquina e a inteligência artificial. Nos próximos anos, essas duas aplicações impulsionarão o desenvolvimento computacional e o uso das tecnologias de computador, tendo impacto em nossa vida e em nossa visão de mundo.

As principais características dos futuros sistemas de computação que afetarão nossa vida podem ser descritas como desempenho, onipresença e opacidade.

44

DESEMPENHO O desempenho tem sido, há muito tempo, o fator determinante para o desenvolvimento de arquiteturas de computadores. A cada nova geração de processadores, a velocidade de cálculo aumentava. Esse processo é especialmente importante

THE DEVELOPMENT OF COMPUTERS However, the level of compute performance that we currently see in supercomputers will become available to a much bigger community over the next years. At the same time, the increasing performance allows us to run applications that were available already 40 years ago, but did not have access to the running level that we see today. This includes mainly machine learning and artificial intelligence. In the coming years, these two applications will drive both the development of computing and our usage of computer

technologies, which will have an impact on our lives and on our view of the world.

The main features of future computing systems that will impact our lives can be described as performance, ubiquity and opacity.

PERFORMANCE Performance has, for a long time, been the driving factor in the development of computer architectures. With every new processor

no campo da computação de alto desempenho. Porém, todo aumento de desempenho foi redistribuído para o nível dos dispositivos portáteis. Um processador como o Exynos 8895, disponível em um smartphone recente (Samsung Galaxy S8), funciona com a mesma frequência de relógio (2,3 gigahertz) dos processadores de ponta.

Ao mesmo tempo, ele gera uma velocidade teórica de computação comparável a um dos 30 principais sistemas de supercomputação em 1994. Então, o que os usuários têm em mãos hoje é seu supercomputador particular com um nível de desempenho equivalente ao elemento central usado para o desenvolvimento de projetos como aviões, submarinos e armas nucleares em laboratórios secretos norte-americanos há 25 anos.

45

ONIPRESENÇA Uma vez que um alto nível de desempenho está disponível em dispositivos de pequeno porte, a segunda característica principal da computação para o futuro é a onipresença computacional. Um desenvolvimento tecnológico relevante impulsionado por isso é a internet das coisas (IoT, na sigla em inglês). Isso significa ter computadores não apenas em sistemas eletrônicos e no ambiente de fábrica, mas também em coisas cotidianas, como camisas e sapatos. Atualmente, a comunidade

generation, the speed of calculation increased.

This process is especially important in the field of high-performance computing. However, every increase in performance has trickled down to the level of handheld devices. A processor like the Exynos 8895, available in a recent smartphone (Samsung Galaxy S8), works at the same clock frequency (2,3 GHz) as high-end processors do. At the same time, it delivers a theoretical speed of computation that is comparable to a top-30 supercomputing system in 1994. So, what users have in hand

today is their private supercomputer with the level of performance that was at the core of developments like the design of airplanes, submarines and nuclear weapons in classified US national labs 25 years ago.

UBIQUITY Given that such a high level of performance is available in small devices, the second main characteristic of computing in the future is ubiquity. The relevant technological development

discute espalhar na natureza milhões de pequenos sensores baseados em computador para explorar diretamente a vida no ambiente. Estaremos cercados por minúsculos computadores no futuro, independentemente do que fizermos ou de onde estivermos. Os computadores estarão por toda parte.

46

OPACIDADE “Os computadores são irritantes para nós porque eles agem”, diz o filósofo e artista Peter Weibel2. Uma das características mais surpreendentes dos sistemas baseados em computadores é que eles estão ficando cada vez mais difíceis de entender. Em seu livro Vom inneren Beruf zur Wissenschaft (em português, A Ciência como Vocação), o sociólogo alemão Max Weber3 fala sobre nossa capacidade de compreender os sistemas técnicos em princípio, já que poderíamos calcular seu comportamento se quiséssemos. Ele estava certo quanto aos sistemas mecânicos.

driven by this is the Internet of Things (IoT).

This does not only mean having computers in electronic systems or in manufacturing but also in everyday things, such as shirts or shoes.

Currently, the community is discussing to spread small computer-based sensors in nature in the millions to directly explore life in the environment.

We will be surrounded by tiny computers in the future, no matter what we do or where we are.

Computers will be everywhere.

OPACITY “Computers are irritating for us because they act,” says philosopher and artist Peter Weibel2.

One of the most amazing features of computerbased systems is that they are getting increasingly difficult to understand. In his “Vom inneren Beruf zur Wissenschaft” (in English, Science as a Vocation), German sociologist Max Weber3 speaks about us being able to understand technical systems in principle since we could

Com o aprendizado de máquina, perdemos essa capacidade e temos de ceder à opacidade. Isso significa que, mesmo que quiséssemos, não poderíamos, por nossa conta, calcular e prever o comportamento do sistema com o qual estamos trabalhando. O elevado número de operações computacionais e a natureza dos algoritmos utilizados inibem um recálculo humano para tais cenários.

NOSSA VISÃO DE MUNDO Antes de vermos como os computadores irão mudá-la, temos de analisar brevemente os fundamentos atuais de nossa visão de mundo. Só então poderemos tentar descrever o impacto que os computadores terão. Nossa visão de mundo na cultura ocidental4 é dominada principalmente por dois fatores. Um é a visão cristã do mundo descrita na Bíblia. O outro é o conceito de relação, que foi mais bem descrito por René Descartes.

47

calculate their behavior if only we wanted. He was right concerning mechanical systems.

With machine learning, we lose this ability and have to give in to opacity. This means that, even if we wanted, we could not calculate and predict the behavior of the system we are working with. Both the high number of computational operations and the nature of the algorithms used inhibit a human recalculation for such scenarios.

OUR VIEW OF THE WORLD Before we look at how computers are going to change it, we have to briefly look at the current foundations of our view of the world. Only then we can try to describe what impact computers will have. Our view of the world in the Western4 culture is mainly dominated by two factors: one is the Christian view as described in the Bible; the other one is the concept of ratio that was best described by René Descartes.

DOMINIUM TERRAE / MANDATO CULTURAL (GÊNESIS 1:28) Um conceito central da visão de mundo ocidental é a ideia de que os seres humanos estão no topo de uma hierarquia natural que lhes permite controlar, moldar e explorar a natureza. A vocação de ser o mestre da natureza é mais bem expressa na Bíblia, embora tenha sido usada para moldar especial e enormemente a revolução industrial nos últimos séculos.

“Deus os abençoou e lhes ordenou: Sede férteis e multiplicai-vos, povoai e sujeitai toda a terra; dominai sobre os peixes do mar, sobre as aves do céu e sobre todo animal que rasteja sobre a terra5.”

O mundo nos é dado para que o dominemos e o moldemos da maneira que acharmos adequada para nosso propósito. Os computadores podem ser vistos como apenas parte de uma abordagem orientada pela tecnologia que nos permite nos apropriar da natureza e moldá-la a nosso gosto.

RACIONALISMO O contexto cristão de cultura do mundo ocidental não apenas deu aos humanos o controle da natureza, mas também impunha fortes limitações a seu

48

DOMINIUM TERRAE / CULTURAL MANDATE (GENESIS 1:28) A core concept of the Western world view is the idea that human beings are at the top of a natural hierarchy, which allows them to control, shape and exploit nature. The vocation to be the masters of nature is best expressed in the Bible, but has especially and dramatically shaped the industrial revolution over the last centuries.

“And God blessed them, and God said unto them, Be fruitful, and multiply, and replenish the earth, and subdue it: and have dominion over the fish of the sea, and over the fowl

of the air, and over every living thing that moveth upon the earth5.”

The world is given to us to dominate and shape it in the way we see fit for our purpose. Computers can be seen only as being part of a technologydriven approach that allows us to appropriate nature and shape it to our liking.

RATIONALISM The Christian background of the Western world culture not only gave humans control of nature, but also put heavy limitations on their behavior.

In addition, it created a view of the world that was

comportamento. Além disso, criou uma visão de mundo dominada por um Deus ativo. Tal Deus criou e moldou o mundo e continuou interferindo substancialmente nas atividades humanas. Com base nas fontes grega (Epicuro) e romana (Lucrécio, “De Rerum Natura”), a Renascença procurava fugir de uma visão que tornaria a atividade humana irrelevante, já que, afinal de contas, esta era controlada por Deus.

Essas primeiras abordagens modernas para compreender a natureza humana e o mundo encontraram sua expressão máxima na filosofia de René Descartes. Isso é normalmente resumido na frase “Cogito, ergo sum”6.

Com seus textos, Descartes estabelece o ser humano não mais como uma marionete nas mãos de Deus, mas como um ser racional que se baseia na capacidade de pensar. Com isso, ele coloca o pensamento no meio de nossa compreensão dos seres humanos e da natureza. Essa visão é perpetuada e desenvolvida na filosofia ocidental, ao longo do tempo, pelo filósofo alemão Immanuel Kant, que coloca a razão como conceito-chave da natureza humana (sapere aude7), e pela filósofa francesa Simone Weil, que fez do pensamento o núcleo de uma nova sociedade que poderia superar ideologias e a opressão de humanos por humanos8. Dessa maneira, a filosofia ocidental substituiu um Deus incompreensível, mas bem-intencionado, pelo conceito supostamente infalível e plenamente compreendido da razão/relação.

49

dominated by an active god. Such an active God created and shaped the world and kept interfering substantially in human activities. Based on Greek (Epicurus) and Roman (Lucretius, “De Rerum Natura”) sources, the Renaissance was looking for an escape from a view that would render human activity irrelevant as it was ultimately controlled by God anyway. These early modern approaches to understanding human nature and the world found their culminating expression in René Descartes’ philosophy. This is typically summarized in the phrase “cogito, ergo sum”6.

With his writings, Descartes establishes the human being no longer as a puppet in the hands

of God, but as a rational being that is founded on the ability to think. By doing this, he puts thought in the middle of our understanding of humans and nature. This view is perpetuated and further elaborated in the Western philosophy over time

by German philosopher Immanuel Kant, who put reason as the key concept of human nature (sapere aude7), and French philosopher Simone Weil, who made thought become the core of a new society that might overcome ideologies and the oppression of humans by humans8. In this way, the Western philosophy has replaced an incomprehensible but well-intentioned God by the supposedly unerring and fully-understood concept of reason/ratio.

A CONSTRUÇÃO DA REALIDADE Com base em Descartes, os filósofos ocidentais do racionalismo continuaram a explicar melhor um mundo racional, com o objetivo de eliminar todos os tipos de irracionalismo. Ao fazê-lo, esperavam que também pudessem superar todos os erros e paixões humanos. Sobretudo na economia, os seres humanos eram vistos como agentes racionais. Mais recentemente, o economista Richard Thaler publicou um livro em que descreve o mau comportamento dos seres humanos à medida que se desviam do racionalismo. Coletando uma série de desvios do comportamento humano a partir da teoria racional, Thaler parte para encontrar explicações racionais para o comportamento irracional e, portanto, dá provas de que o racionalismo9 é um conceito que não pode ser abandonado sem perdermos a base de nossa cultura ocidental.

50

No entanto, a sociologia e a ciência política começaram a investigar os fundamentos do que chamamos de “realidade” e descobriram que a realidade é um conceito que não pode ser inteiramente explicado pelo racionalismo. Peter L. Berger e Thomas Luckmann10 explicam como a realidade é uma construção social, e Michel Foucault11 explora ainda mais esse caminho. Já em 1928, W. I. Thomas12 expõe a relatividade da realidade afirmando que: “Se os homens definem situações como reais, elas são reais em suas consequências”. Contudo, a análise racional de nosso mundo ainda é

THE CONSTRUCTION OF REALITY Based on Descartes, the Western philosophers of rationalism kept elaborating a rational world aiming to eliminate all kinds of irrationalism. By doing so, they hoped they could also overcome all human erring and passions. Especially in economics, human beings were seen to be rational agents and, most recently, economist Richard Thaler published a book in which he describes the misbehaving of human beings as they deviate from rationalism. By collecting a number of deviations of human behavior from rational theory, Thaler sets out to find rational explanations for irrational behavior and, hence,

proves that rationalism9 is a concept that cannot be abandoned without losing the foundation of our Western culture.

However, sociology and political science started to investigate the foundations of what we call “reality” and have found out that reality is a concept that cannot be entirely explained by rationalism. Peter L. Berger and Thomas Luckmann10 work out how reality is a social construct, while Michel Foucault11 further explores this path. In 1928, W. I. Thomas12 exposes the relativity of reality by stating that, “If men define situations as real, they are real in their

a base para a nossa visão ocidental de mundo, e, mesmo para esses pesquisadores, o cerne de seu método é a investigação racional – a descrição racional do irracional para racionalizá-lo.

VISÃO DO MUNDO CLÁSSICO RESUMIDA Com base nessa primeira análise, podemos tentar resumir a situação em relação à nossa visão do mundo ocidental da seguinte forma: 1. Consideramos (e definimos) a nós mesmos como sendo racionais e em “controle” do mundo. Tanto é assim que a racionalidade é vista como a única maneira de alcançar uma compreensão do mundo que nos rodeia. Desvios da racionalidade são tidos como algo ainda não explicado racionalmente, mas que certamente não está fora desse tipo de explicação.

51

2. Nós até pesquisamos racionalmente os processos de construção de uma realidade social não racional. Tomando a racionalidade como a única explicação, o comportamento social é analiticamente descrito e está começando a fazer parte do diálogo racional e da pesquisa a ponto de falarmos em física social13.

consequences.” Nevertheless, rational analysis of our world is still the basis for our Western view of the world and, even for these researchers, the core of their method is rational investigation – rationally describe the irrational to rationalize it.

so that rationality is considered to be the only way to achieve an understanding of the world around us. Deviations from rationality are considered to be something not yet rationally explained, but it is certainly within this sort of explanation.

CLASSICAL WORLD VIEW SUMMARIZED Based on this first analysis, we can aim to summarize the situation with respect to our Western world view as follows:

2. We even rationally investigate the processes of constructing a non-rational social reality.

Taking rationality as the only explanation, the social behavior is analytically described and is becoming part of the rational dialogue and research to the point that we speak of social physics13.

1. We consider (and define) ourselves to be rational and in “control” of the world. So much

3. Estamos conscientes (e certos) das diferenças entre a existência real e a realidade. Com o teorema de Thomas, encontramos um modo de descrever o fato de que a realidade é construída a ponto de não precisar ser uma realidade única para todos nós. Preferimos aceitar que o que constitui a realidade depende de nossa percepção, que – implicitamente aceita – às vezes é subjetiva, e não objetiva.

Os principais questionamentos que temos de nos fazer agora são: O que acontece com essas certezas quando os computadores continuam evoluindo com novos conceitos, como realidade virtual, simulação, aprendizado de máquina e inteligência artificial?

Como o mundo mudou a partir de nosso ponto de vista ocidental?

MUDANDO NOSSA VISÃO DE MUNDO Analisaremos primeiramente a simulação em computador para entender como usamos os computadores como ferramentas para obter insights e também como

3. We are aware (and sure) of the differences between actuality and reality. With the Thomastheorem, we have found a way to describe the fact that the reality is constructed to the point that it needs not be a single reality for all of us. We rather accept that what constitutes reality depends on our perception, which is – implicitly accepted and – sometimes subjective rather than objective.

52

Now the key questions we have to ask ourselves are: What happens to these certainties when computers keep evolving with new concepts like

virtual reality, simulation, machine learning and artificial intelligence?

How has the world changed from our Western point of view?

CHANGING OUR WORLD VIEW We will first look into computer simulation to get an understanding of how we use computers as tools to get insight and also to understand how we change our perception of reality when using them. We then look into the most recent achievements in using computers as tools

mudamos nossa percepção da realidade ao usá-los. Em seguida, analisaremos as conquistas mais recentes no uso dos computadores como ferramentas na inteligência artificial. A partir disso, poderemos ter uma melhor compreensão do impacto dos computadores em nossa visão de mundo.

A SIMULAÇÃO COMO EXEMPLO A simulação em computador tornou-se uma ferramenta comum tanto no mundo científico quanto em nosso mundo cotidiano. A previsão do tempo é totalmente baseada em simulação. O desempenho de nossos carros e aviões foi definido por meio de simulações intensivas. A maioria dos produtos industriais passou por uma fase de desenvolvimento que, em determinado momento, incluiu o uso de uma simulação de suas propriedades e/ou de seu comportamento em situações críticas. Nossos celulares não se quebram ao cair de uma mesa porque simulações permitiram otimizar sua forma e seu design para tal situação.

O resultado de simulação mais conhecido é a previsão de uma mudança climática global. O impacto dessa previsão em nossas vidas diárias é enorme.

A simulação é, portanto, uma aplicação de sistemas computacionais que exige

53

in artificial intelligence. From this, we may gain a better understanding of the impact of computers on our world view.

SIMULATION AS AN EXAMPLE Computer simulation has become a common tool both in the scientific world and in our everyday world. The weather forecast is entirely based on simulation. The performance of our cars and planes was defined through intensive simulations. Most industrial products have undergone a development phase that, at a certain point, included the use of the simulation

of their properties and/or behavior in critical situations. Our cell phones survive falling from a table because simulations allowed to optimize their shape and design for such a situation.

The most well-known simulation result is the prediction of the global climate change. The impact of that prediction on our everyday lives is dramatic. Simulation is, hence, an application of computer systems that requires the full potential of compute power in a system and that shows a substantial impact on how we see the world.

The steps of simulation were described in much detail in another article I wrote14. So, here we can

todo o potencial dos computadores em um sistema e que mostra um impacto substancial em como vemos o mundo.

As etapas da simulação foram descritas bem detalhadamente em outro artigo de minha autoria14, sendo que aqui podemos nos concentrar nas principais características. Em princípio, passamos por várias camadas de abstração na seguinte ordem: percepção do mundo, abstração algorítmica do mundo e aplicação do computador.

Para passar por uma cadeia de etapas de simulação são necessárias: 1. categorias claras para descrever o mundo de maneira formal; 2. descrições formais das principais características do mundo; 3. lógica consistente que permita colocar todo o modelo no computador – a máquina lógica.

A INTELIGÊNCIA ARTIFICIAL COMO DESAFIO A inteligência artificial baseia-se em conceitos como redes neurais, mas também no alto nível de desempenho que os computadores proporcionam. A principal chave

focus on the main characteristics. In principle, we go through a number of layers of abstraction in the following order: Perception of the world – Algorithmic abstraction of the world – Computer application

54

What is required to go through such a chain of simulation steps is: 1. Clear categories to describe the world in a formal way 2. Formal descriptions of the main features of the world

3. Consistent logic that allows to put the whole model into the computer – the logical machine ARTIFICIAL INTELLIGENCE AS A CHALLENGE Artificial intelligence is based on concepts like neural networks, but also on the high level of perfor-mance that computers provide. The main key to success is the learning process for the neural net-works. Through that process, the shape of neural networks is set such that the expected results for a given exercise are achieved.

As of today, scientists and visionary thinkers expect artificial intelligence to replace

para o sucesso é o processo de aprendizagem das redes neurais. Por meio desse processo, a forma das redes neurais é definida de maneira tal que os resultados esperados para dado exercício sejam alcançados.

Hoje, os cientistas e pensadores visionários esperam que a inteligência artificial substitua os “trabalhos de conhecimento”, como os de médicos e advogados15. O sistema Watson, da IBM, foi testado em game shows como o Jeopardy!, e esperava-se que desse os primeiros passos rumo a tal visão. Hoje, fica claro que jogos como xadrez ou go – que tradicionalmente se supunha refletirem a inteligência humana e criatividade – não são mais um desafio para os computadores.

IMPLICAÇÕES PARA NOSSA VISÃO DE MUNDO Com o que vemos na tecnologia de computadores e nos métodos usados em tais sistemas de computação, nossa visão de mundo já mudou gradualmente nas últimas décadas e continuará mudando nas próximas. Mesmo que pareça ser um processo lento em comparação com o tempo de vida de um ser humano, será uma mudança rápida para a história da humanidade. Três principais desenvolvimentos podem ser identificados.

55

“knowledge jobs,” like medical doctors or lawyers 15. The IBM system Watson was tested on game shows like Jeopardy! and was expected to make the first steps towards such a vision. Today it is clear that games like chess or go – which traditionally were assumed to reflect human intelligence and creativity alike – are no challenge for computers anymore.

IMPLICATIONS FOR OUR WORLD VIEW With what we see in computer technology and in methods used on such computer systems,

our world view has already gradually changed over the last decades and will keep changing in the coming decades. Even if it seems to be a slow process compared to the lifetime of a human being, it is going to be a rapid change for the history of human beings. Three main developments can be identified.

First of all, computers have tended to force us to increase the level of rationality that we put into our world view. In order to fit the world into our computing systems, we had to adapt our view to the binary logic and the cause-effect relation required by computers16.

Em primeiro lugar, os computadores tendem a nos forçar a aumentar o nível de racionalidade que colocamos em nossa visão de mundo. A fim de encaixar o mundo em nossos sistemas computacionais, tivemos de adaptar nossa visão à lógica binária e à relação de causa e efeito exigida pelos computadores16.

Em contrapartida, os computadores tiram a racionalidade de nós quanto mais o processo computacional é ocultado dos usuários humanos. Quanto menor nossa capacidade de verificar o que aconteceu em um programa de computador, menos controle do processo racional temos. Nesse sentido, os computadores tendem a diminuir o nível de racionalidade que colocamos em nossa visão de mundo.

O desafio é enorme, pois, tirando a racionalidade de nossa autopercepção, os fundamentos de nossa visão de mundo racional são abalados.

Por fim, o advento do computador como um agente inteligente e racional coloca um novo ator no centro de nosso mundo racional. Na medida em que o computador é superior em racionalidade em relação ao ser humano, fica mais evidente que a visão de mundo básica “humano – racional – no controle” não funciona mais. O papel dos humanos no mundo terá, portanto, de ser redefinido.

56

Secondly, computers take rationality away from us the more the process of computing is hidden from human users. The more we lack the ability to recompute what happened in a computer program, the more we lose control of the rational process.

In that sense, computers tend to decrease the level of rationality that we put into our world view.

The challenge is a dramatic one for, by taking rationality away from our self-perception, the foundations of our rational world view are shaken.

Thirdly, the advent of the computer as an intelligent and rational agent puts a new player

at the center of our rational world. To the extent that the computer is superior in rationality to the human being, it gets more evident that the basic world view “human – rational – in control” no longer works. Hence, the role of humans in the world will have to be redefined.

CONCLUSION Computers are going to further develop in the future, even though their increase in speed will not follow the same path as it has been over the last decades. They will become ubiquitous in

CONCLUSÃO Os computadores vão se desenvolver no futuro mesmo que seu aumento de velocidade não siga a mesma trajetória das últimas décadas. Eles se tornarão onipresentes em nossa vida e aumentarão o nível de opacidade de nosso mundo. À medida que os computadores aumentam seu poder e conseguem – por meio de conceitos como simulação e inteligência artificial – moldar o mundo à nossa volta, nossa visão de mundo muda drasticamente. Conforme perdemos a capacidade, como seres humanos, de reprocessar o que foi pré-processado por um computador técnico, perdemos o controle sobre nossos processos. Os computadores exigirão que racionalizemos ainda mais nosso mundo para alimentá-los com informações, mas, ao mesmo tempo, eles tirarão de nós a compreensão racional de seus processos.

Isso dará origem a um novo esoterismo, afastando o domínio da racionalidade. Quando a inteligência artificial começar a substituir o pensamento humano e a epistemologia, o conceito de seres humanos como os únicos seres racionais neste mundo desmoronará.

Os humanos não poderão mais se definir exclusivamente como aqueles que “pensam” e, portanto, “são”. Resta ver o impacto que isso terá em nossa autopercepção e em nossa visão de mundo. De qualquer forma, servirá para levantar a questão sobre quem somos.

57

our lives and will increase the level of opacity of our world.

As computers increase their power and shape the world around us through concepts like simulation and artificial intelligence, our view of the world changes dramatically. As we lose the ability to recompute as humans what has been pre-computed by a technical computer, we lose control over our processes. Computers will require us to rationalize our world even more to feed them with input but, at the same time, they will take our rational understanding of their processes away from us.

This will give rise to a new esotericism by pushing back the dominance of rationality.

As much as artificial intelligence starts to replace human thinking and epistemology, the concept of human beings as the only rational being in this world will crumble.

Humans will no longer be able to define themselves exclusively as the ones who “think” and therefore “are.” It remains to be seen what impact this will have on our self-perception and our world view. At any rate, it will open the case for the question on who we are.

INTELIGÊNCIA ARTIFICIAL EM PLENO VERÃO ARTIFICIAL INTELLIGENCE IN MIDSUMMER

Fabio Gagliardi Cozman é professor da Escola Politécnica da Universidade de São Paulo (Poli/USP) desde 2007, sendo ph.D. pela Universidade Carnegie Mellon (Estados Unidos).

João Figueiredo Nobre Cortese é doutor

Fabio Gagliardi Cozman João Figueiredo Nobre Cortese

em epistemologia e história das ciências pela Universidade Paris 7, na França, e em filosofia pela USP. É professor do Instituto de Biociências (IB) da USP e professor titular do Ibmec SP e da Faculdade Paulo VI.

Fabio Gagliardi Cozman is a professor with the Escola Politécnica at the University of São Paulo (Poli/USP) since 2007 and holds a PhD from Carnegie Mellon University (USA).

João Figueiredo Nobre Cortese holds a PhD in epistemology and history of sciences from Paris Diderot University - Paris 7, France, and in philosophy from the University of São Paulo. He is a professor at the Instituto de Biociências at USP (IB/ USP) and is a full professor at Ibmec SP

58

and Paulo VI College.

59

O desenvolvimento de inteligências artificiais seduz a inteligência humana há séculos.

Conquistas como a máquina de calcular mecânica de Pascal, apresentada ao público em 1645, e o computador Deep Blue, vencedor mundial de xadrez nos anos 1990, despertaram espanto e admiração1. Porém, até cerca de dez anos atrás esses desenvolvimentos eram, de forma geral, limitados a problemas específicos, cuja solução era rapidamente assimilada pela sociedade. Hoje, a realização de operações matemáticas por uma calculadora eletrônica não é considerada uma atividade inteligente nem um programa de jogo de xadrez é respeitado como um jogador de fato inteligente. Durante décadas, a pesquisa em inteligência artificial (IA) teve dificuldades em reproduzir atividades inteligentes úteis e comuns, como interpretação de imagens e compreensão de linguagem natural. Mesmo atividades específicas às vezes falhavam: por exemplo, no início dos anos 1990 houve grande decepção com o fracasso de sistemas especialistas em realmente atingir comportamento considerado inteligente. Em meio a momentos de euforia, a área enfrentou diversos outros de depressão e dúvida sobre seu possível sucesso. É particularmente famoso o chamado “inverno da IA”, ocorrido durante a década de 1970, quando a maior parte do financiamento para pesquisa em inteligência artificial foi suspensa mundo afora.

The development of artificial intelligence has seduced human intelligence for centuries.

Achievements such as Pascal’s mechanical calculating machine, introduced to the public in 1645, or the IBM computer Deep Blue, which beat the world chess champion in the 1990s, aroused astonishment and admiration1.

However, up to about ten years ago, these developments were generally confined to specific problems whose solution was quickly assimilated by the society. Today, having mathematical operations made by an electronic calculator is not considered a smart activity, nor is a chess game program respected as much as a really-intelligent player. For decades,

artificial intelligence research has struggled to replicate useful and common smart activities, such as image interpretation and natural language understanding. Even specific activities sometimes failed: for example, in the early 1990s there was great disappointment with the failure of systems specialized in actually achieving intelligent behavior. Amid moments of euphoria, this field faced several others of depression and doubt about its likely success. The so-called “AI winter” that took place during the 1970s is particularly famous.

It is a period when most of the funding for artificial-intelligence (AI) research was suspended worldwide.

Entre 2000 e 2010, esse panorama gradualmente mudou, registrando-se uma explosão surpreendente após o período. Hoje, a pesquisa e a aplicação de IA vivem um verão quente, sem trovoadas. A tecnologia de reconhecimento de imagens e de linguagem natural maturou e chegou à sociedade: programas reconhecem rostos em imagens, e chatbots atendem clientes de forma autônoma. Programas que recomendam produtos ou que respondem a questões se tornaram cotidianos, bem como dispositivos que tomam decisões financeiras ou logísticas.

60

Essa vitória bastante pragmática da tecnologia de inteligências artificiais trouxe uma nova perspectiva para questões antigas da área. Em primeiro lugar, é de fato possível criar uma inteligência artificial? Uma contribuição fundamental para esse debate ocorreu em 1950, quando Alan Turing publicou seu jogo da imitação, hoje conhecido como teste de Turing2. De forma simplificada: nesse jogo há um juiz humano que interage com duas outras entidades sem vê-las; uma das entidades é um ser humano e a outra é um dispositivo artificial. O “teste” é simples: se o juiz humano não conseguir distinguir entre o dispositivo e o ser humano, então o primeiro é qualificado como inteligência artificial. Desde a sua publicação, o teste de Turing tem sido objeto de muita discussão. Ele não parece suficiente: muitas atividades inteligentes requerem diálogo e negociação. Por outro lado, ele não parece necessário: muitas entidades a que atribuímos alguma inteligência

Between 2000 and 2010, this panorama gradually changed and, after that period, an amazing boom took place. Today, AI research and application are going through a hot summertime free of thunderstorms. Image recognition technology and natural language matured and became available to the society: programs can recognize faces in images and chatbots assist customers autonomously.

Programs that recommend products or answer questions have become common in everyday life, as well as devices that make financial or logistic decisions.

This rather pragmatic victory of artificialintelligence technology has put a new perspective into old issues in the field. In the first place, is it really possible to create artificial intelligence?

A key contribution to this debate came in 1950, when Alan Turing published his imitation game now known as the Turing test2. In straightforward terms: in this game there is a human evaluator who interacts with two other entities without seeing them; one of the entities is a human being and the other is an artificial device. The “test” is simple: if the human evaluator is unable to distinguish between the device and the human

não passariam no teste. De fato, o ser humano usa o termo inteligência com muita flexibilidade, por exemplo, não hesitando em atribuir alguma inteligência a animais. Em décadas recentes, vários outros testes têm sido sugeridos para avaliar quando um dispositivo atingiu a pretendida inteligência.

61

As inteligências artificiais hoje disponíveis estão distantes da inteligência geral do ser humano. Computadores têm baixa capacidade de raciocínio abstrato, limitada habilidade de criar novos conceitos e poucos recursos de negociação entre vários agentes inteligentes. Porém, o sucesso pragmático recente da IA trouxe certa pacificação sobre a questão da possibilidade de inteligências artificiais. Sim, é possível construir algo que o ser humano reconheça como “inteligente”, ainda que seja uma inteligência limitada. Mesmo um chatbot com capacidade de buscar informações em grandes bases de dados, processando perguntas em linguagem natural e apresentando respostas também em linguagem corrente, recebe uma gradação de inteligência considerável de seus usuários. Se esse e outros artefatos artificiais são de fato inteligentes – e em que grau o são –, é um tema difícil e em debate. Talvez tais questões sobre a natureza da inteligência se resolvam em breve, talvez não se resolvam nunca – de qualquer forma, pragmaticamente, vários artefatos artificiais recebem de seus usuários humanos alguma consideração por sua “inteligência”.

being, then the former is qualified as artificial intelligence. Since its publication, the Turing test has been the subject of much discussion. It does not seem enough: many smart activities require dialog and negotiation. On the other hand, it does not seem necessary: many entities to which we attribute some intelligence would not pass the test. Actually, the human being uses the term “intelligence” with great flexibility, for example, by not hesitating to attribute some intelligence to animals. In recent decades, several other tests have been suggested to evaluate when a device has reached the intended intelligence.

The artificial intelligence available today is far from the general intelligence of the human being. Computers have low abstract reasoning capacity, limited capability to create new concepts and few negotiation capabilities among various intelligent agents. However, AI’s recent pragmatic success has cooled down the debate on the possibility of artificial intelligence existence. Yes, it is possible to build something that the human being recognizes as “intelligent,” even if it is a limited kind of intelligence. Even a chatbot with the ability to search information in large databases, processing questions in

Esse sucesso pragmático foi movido por três fatores. Um deles foi um enorme e contínuo avanço de poder computacional disponível. Não apenas a capacidade de cada processador individual aumentou, mas também arquiteturas de computação que congregam vários processadores prosperaram. Essa união de processadores pode se dar por meio de nuvens de processadores (caso em que estes atuam, em geral, em partes diferentes de um mesmo problema), ou por meio de clusters de processadores (caso em que estão fortemente ligados e atuam praticamente como um único processador), ou mesmo por meio de grupos de processadores com alto grau de especialização (como processadores para operações aritméticas, que são usados em grupo para processar grandes bases de dados).

O segundo fator que contribuiu decisivamente para o sucesso pragmático de inteligências artificiais foi o aumento extraordinário na quantidade de dados disponíveis para pesquisa. Há vários aspectos que contribuem para o fenômeno das grandes bases de dados (big data). Um aspecto pouco lembrado é o barateamento dos sistemas de sensores, que coletam imagens, sons, cheiros, temperaturas e deslocamentos em quantidades imensas. Outro é a emergência das redes de comunicação de massa, que permitiram o acúmulo de textos sobre todos os possíveis assuntos em todas as possíveis línguas. Melhores sensores, melhores redes, melhores computadores,

62

natural language and presenting answers in current language as well, receives a considerable gradation of intelligence from its users. It is a difficult debatable subject whether this and other artificial artifacts are indeed intelligent – and to what degree they are. Perhaps such questions about the nature of intelligence will soon be solved or they may never be solved – in any case, pragmatically speaking, various artificial artifacts are treated with some consideration by their human users because of their “intelligence.”

This pragmatic success was driven by three factors. One was a huge and continuous

advance of the available computing power.

Not only did each individual processor’s capacity increase, but computing architectures that bring together multiple processors have thrived. This unification of processors can occur by means of processor clouds (in which case they usually act on different parts of the same problem), or by means of processor clusters (in which case they are strongly connected and act practically as a single processor), or even by means of highlyspecialized processor groups (like processors for arithmetic operations, that are used collectively to process large databases).

melhores sistemas de armazenamento: esse é o substrato no qual foram semeadas as inteligências artificiais atuais.

63

O terceiro fator foi o aparecimento de melhores técnicas e algoritmos na comunidade de pesquisa. Para compreender essa afirmação, vale a pena dividir a área de IA em alguns grandes blocos. Em primeiro lugar, a área se ocupa de representar conhecimento e raciocinar sobre o conhecimento. Ou seja, armazenar de maneira estruturada, por exemplo, “Dom João VI foi avô de dom Pedro II” e também regras como “O pai do pai é o avô”; concluir sobre parentescos não especificados em uma genealogia a partir de fatos na genealogia; encontrar respostas para perguntas sobre parentesco. A área também se ocupa da tomada de decisão de várias formas: decisões individuais sobre como resolver um quebra-cabeça, um livro ou planejar uma viagem; e decisões coletivas sobre como gerenciar um negócio ou administrar uma cidade. Finalmente, a área se ocupa de aprender com experiências, sejam elas simples, como uma medida de temperatura, ou complexas, como uma aula de matemática. Essa última atividade é denominada, em inglês, machine learning.

Em português, costuma-se usar tanto a expressão “aprendizado de máquina” quanto “aprendizagem de máquina”.

The second factor that contributed decisively to the pragmatic success of artificial intelligence was the extraordinary increase in the amount of data available for research. There are several aspects that contribute to the phenomenon of large databases (big data). An understated aspect is the cheapening of sensor systems, which collect images, sounds, smells, temperatures and displacements in huge quantities. Another one is the emergence of mass-communication networks, which allowed the accumulation of texts on all possible subjects in all possible languages. Better sensors, better networks, better computers, better storage

systems: this is the soil where the seeds of the current artificial intelligence were scattered.

The third factor was the appearance of better techniques and algorithms in the research community. To understand this statement, it is worth splitting the AI field into some large blocks.

First, the field deals with representing knowledge and reasoning about knowledge, that is, it stores statements in a structured way, e.g. “John VI was the grandfather of Pedro II,” and also rules like “the father’s father is the grandfather;” it draws conclusions on kinship not specified in a genealogy by using genealogy facts; it finds

Nos últimos anos houve grande evolução no aprendizado de máquina. Aqui usamos deliberadamente aprendizado em vez de aprendizagem, pois, de fato, o que em geral temos são programas aplicados a problemas específicos e que aprendem, a partir de grandes bases de dados, a captar e reproduzir padrões. Não existe ainda uma “aprendizagem” de conceitos e teorias por um dispositivo artificial.

Seja como for, o aprendizado de máquina gerou feitos considerados improváveis há pouco tempo. Por exemplo, hoje, o reconhecimento de faces por computador é mais acurado que o realizado por humanos – um resultado absolutamente surpreendente. Outro exemplo é o sucesso dos programas de tradução. Em todos esses casos, os programas funcionam reconhecendo padrões que foram aprendidos a partir de grandes bases de exemplos. A maior parte das técnicas usadas é baseada em tratamento estatístico ou em modelos inspirados pela biologia – as chamadas redes neurais artificiais. Embora a pesquisa em redes neurais artificiais já se estenda por várias décadas, um ponto de inflexão foi atingido em 2012, quando foram aplicadas em larga escala as chamadas redes neurais profundas. Para entender esse tipo de modelo de forma simples, imagine uma estrutura composta de camadas, com cada camada contendo uma unidade que realiza computações bastante simples – essas unidades são os “neurônios’’

64

answers to questions about kinship. The field also deals with decision making in several ways: individual decisions on solving a puzzle, a book or planning a trip; and collective decisions about how to run a business or a city. Finally, the field deals with learning from experiences, whether simple, like a temperature measurement, or complex, like a math class. This last activity is called machine learning. In Portuguese, people use both “aprendizado de máquina” and “aprendizagem de máquina.”

In recent years, there has been great evolution in “aprendizado de máquina.” Here we deliberately use aprendizado [the act, process or effect of learning] instead of aprendizagem [the action of

acquiring knowledge] meaning learning because, in fact, what we generally have are programs that apply to specific problems and that learn from large databases to capture and reproduce patterns. As of yet, there is no “aprendizagem” [acquisition] of concepts and theories by an artificial device.

Either way, machine learning has generated feats that were considered unlikely not long ago.

For example, computer face recognition today is more accurate than human recognition – an absolutely amazing result. Another example is the success of translation software. In all these cases, the software works by recognizing patterns that have been learned from large

da estrutura. Os neurônios de uma camada são ligados aos neurônios da próxima camada, criando-se a rede. Havendo uma ou duas camadas, teremos uma rede neural artificial que consegue capturar padrões3 relativamente simples; digamos, identificar se uma imagem é inteiramente azul ou não. Mas, se a rede tem muitas camadas, seu poder de capturar padrões é alto. Ela pode, por exemplo, identificar se uma imagem contém um gato ou um cachorro. Uma rede neural artificial com muitas camadas é dita uma rede neural profunda.

65

Um ponto importante no avanço recente da IA é que não se está priorizando a reprodução da inteligência humana em detalhes. Assim como um submarino “nada” melhor que um ser humano, um programa de busca na Wikipédia pode encontrar verbetes mais rapidamente que um ser humano. Um programa pode parecer inteligente ao traduzir textos simplesmente porque usa imensas bases de textos e um grande poder de extrair padrões. Outro, que responde a perguntas em várias línguas, pode fazê-lo usando métodos e recursos que não correspondem aos usados pelo ser humano. Um novo tipo de inteligência está em construção, com regras e características próprias, e não mais à imagem e semelhança da inteligência humana. Entender essa inteligência também é um desafio para seus criadores e usuários.

sample databases. Most of the techniques used are based on statistical treatment or models inspired by biology – the so-called artificial neural networks. Although research on artificial neural networks has spanned over several decades, a turning point was reached in 2012, when the so-called deep neural networks were applied on a large scale. To understand this type of model in a simple way, imagine a layered structure with each layer containing a unit that performs very simple computations – these units are the “neurons” of the structure. The neurons of one layer are connected to the neurons of the next layer, thus creating the network. If there are one or two layers, we will have an artificial neural network that can capture relatively simple

patterns3; say, identify whether an image is entirely blue or not. But if the network has many layers, its power to capture patterns is high.

It can, for example, identify whether an image contains a cat or a dog. An artificial neural network with many layers is said to be a deep neural network.

An important aspect in the recent advancement of AI is that it is not prioritizing the reproduction of human intelligence in detail. Just like a submarine “swims” better than a human being, a Wikipedia search engine can find entries faster than a human being. A piece of software may seem smart when translating texts simply because it uses huge text bases and has a great

Para atingir um novo patamar, a pesquisa em IA precisa aumentar ainda mais a capacidade de lidar com grandes bases de dados. Técnicas de aprendizado de máquina ainda são difíceis de aplicar, não são tão robustas quanto é exigido em alguns casos e ainda enfrentam vieses deletérios, que serão mencionados adiante.

Tudo isso precisa melhorar.

Porém, um novo patamar só será atingido pela IA quando todas as suas áreas atuarem em conjunto. Não basta reconhecer padrões, é preciso aprender a partir de livros e fontes de conhecimento já estruturado ao longo do tempo; não basta repetir o que está nos dados, é preciso raciocinar, encontrar justificativas, argumentar, negociar.

Veremos um grande salto quando tivermos dispositivos artificiais com capacidade de representar conhecimento, tomar decisões individuais e coletivas e aprender.

Até agora, lidamos com a questão básica sobre a possibilidade de inteligências artificiais.

Outra questão básica da área é se devemos ou não investir nessas tecnologias; se os ganhos ultrapassam ou não os potenciais perigos. Quanto aos aspectos éticos e sociais das novas formas de inteligência artificial, estes devem ser considerados com cuidado e reavaliados a cada etapa dos novos desenvolvimentos técnicos.

66

power to extract patterns. Another one, which answers questions in multiple languages, can do so using methods and resources that do not match those used by humans. A new type of intelligence is under construction, with its own rules and characteristics, and no longer in the image and likeness of human intelligence.

Understanding this intelligence is also a challenge to its creators and users.

To reach a new level, AI research needs to further develop the capability to handle large databases. Machine-learning techniques are still difficult to apply, they are not as robust as is required in some cases and still face deleterious

biases, which will be addressed below. All this needs to improve.

However, AI will only reach a new level when all its fields work together. It is not enough to recognize patterns. It is necessary to learn from books and sources of knowledge already structured over time; it is not enough to repeat what is in the data; rather, it is necessary to reason, find justifications, argue, negotiate. We will see a great leap when we have artificial devices that can represent knowledge, make individual and collective decisions and learn.

So far, we have dealt with the basic part of the possibilities opened up by artificial intelligence.

Quando se fala hoje em riscos da inteligência artificial, pensa-se imediatamente, talvez por influência da ficção científica, em um robô assassino. É um fato que a questão de uma “superinteligência”, que superaria a humana e que nos colocaria na posição de objetos de novas entidades, deve ser considerada. Em uma discussão filosófica, essa possibilidade recebe o nome de hipótese da singularidade (tecnológica) e está relacionada à geração de sistemas que teriam a possibilidade de se autoaperfeiçoar. Parece haver certo consenso de que tal cenário deve ser considerado com cuidado, ainda que algum entusiasmo transumanista tenha emergido recentemente. Uma perda de controle em relação às inteligências artificiais certamente não seria algo almejado pela maioria das pessoas.

Mais próximas a nós, entretanto, outras questões éticas já se colocam, com relevância prática. Os casos talvez mais célebres – e de fato preocupantes – são as armas autônomas (tipicamente os drones utilizados em missões militares ou para vigilância policial)4 e os carros autônomos (ou seja, sem motoristas humanos). Esses últimos, atualmente em fase de testes nos Estados Unidos, trazem a questão de como deveríamos programar sistemas para tomar decisões em situações de risco que envolvam dilemas morais. Qual teoria ética deveria ser utilizada para tal? Trata

67

Another basic issue in this field is whether or not we should invest in these technologies; whether the gains outweigh the potential dangers. With regard to the ethical and social aspects of the new forms of artificial intelligence, these should be carefully considered and re-evaluated at each stage of the new technical developments.

When we speak of the risks of artificial intelligence today, we think immediately on a murderous robot, perhaps owing to the influence of science fiction. It is a fact that the issue of a “superintelligence,” that would surpass the human intelligence and would put us in the position of objects of new entities,

must be considered. In a philosophical discussion, this possibility is called the (technological) singularity hypothesis and is related to the generation of systems that would be able to self-improve. There seems to be some consensus that such a scenario should be considered carefully, although some transhumanist enthusiasm may have emerged recently. Losing control over artificial intelligence would certainly not be desired by most people.

Closer to us, however, other ethical issues have already been raised with practical relevance.

Perhaps the most famous – and indeed

-se de uma questão que, beirando o anedotismo, trouxe algumas questões filosóficas – como o já célebre dilema do bonde (trolley problem) – para perto da prática. Em situação de perda de freio, um carro deve priorizar a vida de seu passageiro ou a de um pedestre?

Os dilemas a que isso pode levar não eliminam o bem-estar que tais automóveis (de fato mais auto nesse tipo de funcionamento) podem gerar: o descanso humano em longos trajetos e a eliminação de acidentes por distração ou sono, por exemplo. Além disso, é fato que já confiamos em vagões autônomos no metrô sem problematizar a questão do sistema implantado para eles. O que caberá é analisar a situação em detalhes e com seus riscos peculiares, dada a enorme presença dos automóveis hoje.

68

Os carros autônomos levantam, em particular, a questão da responsabilização: a quem se deve reclamar sobre um erro de “condução” de tal veículo?

Qual é a responsabilidade que os programadores têm sobre esse tipo de sistema? A questão sobre a neutralidade da tecnologia aparece aqui em sua

worrying – cases are autonomous weapons (typically drones used in military missions or for police surveillance)4 and autonomous cars (i.e., with no human drivers). The latter, currently undergoing testing in the US, raises the issue of how we should program systems for making decisions in risky situations involving moral dilemmas. Which ethical theory should be adopted for this? It is an issue that, bordering on an anecdotalism, has raised some philosophical issues in practice, such as the now famous trolley problem. In a situation of brake failure, a car must prioritize the life of its passenger or that of a pedestrian?

The dilemmas resulting from this do not eliminate the well-being that such automobiles (actually, more auto in this type of functioning) can promote: human rest in long journeys and the elimination of accidents caused by distraction or sleep, for example. In addition, it is true that we already rely on autonomous subway cars without questioning the system deployed for them. What we need to do is examine the situation in detail considering its peculiar risks given the huge amount of automobiles in use today.

Autonomous cars in particular raise the question of answerability: who should be

maior força: há dispositivos neutros, cuja moralidade depende apenas do uso que se dá a eles? Cada vez mais, busca-se dar atenção ao aspecto ético relacionado ao próprio design das tecnologias: o fato de que um reprodutor de vídeos “sugira” que se assista ao próximo em menos de dez segundos não influenciaria o usuário?

Outra dimensão a ser considerada, no novo contexto tecnológico da IA, é a da privacidade. A preocupação com a “vigilância” por dispositivos (celulares, computadores, assistentes pessoais domésticos) parece não ser apenas uma questão de adolescentes que bloqueiam suas câmeras com fitas adesivas: há um real receio de quais dados são absorvidos por nossos aparelhos, e para quais finalidades. Uma tecnologia análoga à do Big Brother de Orwell estando disponível, torna-se pertinente a preocupação em relação tanto a uma vigilância estatal (pensemos na China de hoje) quanto à publicidade dirigida a usuários de sistemas sem seu consentimento. A questão da privacidade dos dados em sistemas e aplicativos de recomendação de produtos tem se tornado cada vez mais urgente, inclusive com reflexos legais recentes.

69

held answerable for “misdriving” such a vehicle? To what extent should programmers be held answerable for this type of system?

The issue of technology neutrality appears here in its greatest strength: are there neutral devices whose morality only depends on their use? Increasingly attention is focused on the ethical aspect related to the design of technologies: would a user not be influenced by a “suggestion” of the video player to watch the next one in less than ten seconds?

Another dimension to be considered in the new technological context of AI is privacy.

The concern about device “surveillance” (cell phones, computers, personal home assistants) seems to be not just a matter of teenagers blocking their cameras with tapes: there is a real fear of what data is absorbed by our devices and for what purposes. If a technology similar to that of Orwell’s Big Brother is available, it becomes relevant to see a concern with both state surveillance (let’s think of China today) and the advertising geared to system users without their consent. The privacy issue of system and application data recommending products has become increasingly urgent and has also brought about legal effects recently.

As inteligências de tomada de decisão levantam também importantes questões relacionadas aos vieses dos algoritmos (em inglês, bias). Se é um fato que seres humanos agem por preconceito racial, étnico ou de gênero, isso não seria ainda mais perigoso no caso de algoritmos de aprendizado de máquina enviesados, principalmente quando treinados a partir de uma base de dados que comporta exclusivamente exemplos de uma dada subpopulação? Cabe zelar, nesse sentido, para que mecanismos de decisão de concessão de crédito bancário, priorização em atendimento de saúde ou precificação de seguros, e mesmo concessão de liberdade condicional5, por exemplo, não se tornem injustos em razão de vieses apresentados pelos algoritmos.

70

Por outro lado, os algoritmos de tomada de decisão direcionados a casos específicos parecem oferecer soluções que não devem ser negligenciadas. Muitos de nós já tivemos benefícios por usufruir de uma rota com menos trânsito ou por saber como realizar a compra de um produto por um preço menor. Além disso, há perspectivas de que a alocação de recursos públicos possa ser otimizada por algoritmos de IA. Finalmente, em áreas como a saúde, certos diagnósticos podem

Decision-making intelligence also raise important issues related to algorithm biases. If it is a fact that human beings act because of racial, ethnic, or gender prejudice, can we believe that this could be even more dangerous in the case of biased-machine-learning algorithms, especially when trained based on a database containing only examples of a given subpopulation? In this sense, it is important to ensure that decisionmaking mechanisms for the granting of bank loans, prioritization in health care or insurance pricing, and even granting parole5, for example, do not become unfair due to biases caused by the algorithms.

On the other hand, case-specific decisionmaking algorithms seem to offer solutions that should not be neglected. Many of us have already benefited by taking advantage of a route with less traffic, or by knowing how to purchase a product for a lower price. Moreover, there are prospects that the allocation of public resources is optimized by AI algorithms. Finally, in areas such as health, certain diagnoses can be prioritized in an emergency queue if an algorithm detects a risk pattern – without interrupting the care given to the other cases and, therefore, without running the risk of eliminating any treatment.

ser priorizados em uma fila de urgência caso um algoritmo detecte um padrão de risco – sem que os outros casos deixem de ser atendidos e, portanto, sem perigo de eliminação de tratamentos.

Em um âmbito mais teórico, a opacidade dos algoritmos também causa preocupação.

O fato de que o poder dos algoritmos deriva cada vez mais de tomadas de decisão a partir de aprendizado de máquina sobre certo conjunto de dados pode levar a casos do tipo black box, nos quais a impossibilidade de explicar as decisões do sistema pode ocasionar situações trágicas. Tais questões não têm deixado de atrair a atenção de pesquisadores dessa área e mesmo de órgãos governamentais6.

Quanto ao futuro, diversas questões sociais relacionadas à IA nos são reservadas – e enigmáticas. Além de potenciais aumentos significativos em todos os aspectos levantados anteriormente, uma questão parece se destacar: qual será o futuro do emprego no planeta em relação aos novos algoritmos de IA? As respostas possíveis a essa questão – complexas e dependentes de um profundo conhecimento tanto econômico e tecnológico quanto social – são diversas. Alguns creem em um

71

In a more theoretical context, the opacity of algorithms also causes concern. The fact that the power of algorithms derives increasingly more from decision making based on machine learning on a given set of data can lead to cases like the black box, in which case the impossibility of explaining the system decisions can provoke tragic situations. Such issues have not failed to draw the attention of researchers of the field and even of government agencies6.

As for the future, many social – and enigmatic – issues related to AI await us. Aside from

the potential and significant increases in all aspects raised earlier, one issue seems to stand out. What will be the future of employment on the planet against the new AI algorithms? The possible answers to this question are many and they are also complex and dependent on deep economic, technological and social knowledge. Some believe in mass unemployment, strongly speeded up by these new technologies with automation wiping out jobs. Others believe in the readjustment of work. Being freed from “mechanical” and manual work would serve to reposition people in positions that require, for

desemprego em massa, acelerado vertiginosamente por essas novas tecnologias, com a automação destruindo postos de trabalho. Outros creem na readequação do trabalho, que a liberação de um trabalho “mecânico” e manual serviria a uma recolocação das pessoas em posições que exijam, por exemplo, maior criatividade.

Não se trata, porém, de um problema simples. Não temos visto sistemas de IA tomarem posições que associávamos tradicionalmente a trabalhos altamente qualificados, como participar do conselho de uma empresa ou decidir sobre a compra e a venda de ações?

Caso concluamos que há uma diminuição de postos de trabalho, finalmente, não é claro a que isso deveria servir. Do ponto de vista econômico, tem aumentado o número de proponentes de um sistema de renda básica universal. Mas para que liberaríamos as pessoas do trabalho? Para desenvolver atividades criativas tais como aquelas típicas da arte? Para usufruir de tempo de lazer indistintamente? Não é claro em que sentido a sociedade poderia se pensar sem trabalho e, ao mesmo tempo, guardar a dignidade humana, tamanha é a associação que reconhecemos, historicamente, entre uma vida valorosa e um trabalho bem-feito. Longe de

72

example, greater creativity. This is not a simple matter, though. Have we not seen AI systems taking positions that have been traditionally associated with highly-skilled jobs, such as being a member of the company board or making decisions on the purchase or selling of shares?

In case we conclude that there is a decrease in job vacancies, it is not clear what this should be good for ultimately. From the economic point of view, this has increased the number

of proponents of a universal basic-income system. But why would we release people from work? To develop creative activities such as those typical of art? To enjoy leisure time indifferently? It is not clear in what sense the society could see itself without work and, at the same time, preserve human dignity such is the association that we have historically recognized between a valiant life and a welldone job. Far from being just a technical issue of resource allocation, the problem of wiping out jobs implies a matter of purpose: what for

ser apenas uma questão técnica de alocação de recursos, a problemática da eliminação dos postos de trabalho passa por uma questão de propósito: para que trabalhamos? A perspectiva de um serviço aos outros talvez seja tão significativa quanto o produto obtido em nossas tarefas – algo que é afetado, também, pela eliminação da interação pessoal que é tipicamente causada por diversos desenvolvimentos da inteligência artificial.

Talvez uma via satisfatória esteja em realizar um trabalho humano por meio da IA. Assim como ocorre com outras tecnologias, é a IA que deveria servir ao homem, e não o homem à IA. Poderia ser, então, o caso não apenas de um domínio técnico, mas também de uma apropriação adequada do papel que desejamos que tais algoritmos desempenhem em nossa sociedade, de maneira que avançássemos no sentido de que a IA nos servisse de instrumento, e não como um fim em si. Se tal for o caso, talvez devamos nos inspirar para construir novos sistemas de IA – de fato úteis –, em relação aos quais possamos continuar a ter um lugar propriamente humano. Talvez esteja aí o “verão da IA”: não apenas em um avanço quantitativo, mas em uma transformação qualitativa do tipo de apropriação da IA pelo ser humano.

73

do we work? The prospect of serving other people may be as significant as the product obtained from our tasks – something that is also affected by the erasure of a personal interaction that is typically caused by various developments in artificial intelligence.

Perhaps a satisfactory way is to do human work by means of AI. Like other technologies, AI is the one that should be at mankind’s service, not the other way round. It could then be the case not only of a technical domination,

but also of the proper appropriation of the role we wish such algorithms to play in our society, so that we could move forward to have AI serving as an instrument and, therefore, not as an end in itself. If that is the case, perhaps we should be inspired to build new, indeed useful, AI systems in relation to which we can continue to have a properly human place. Perhaps the “AI summer” is there: not only in a quantitative advance, but in a qualitative transformation of the type of AI appropriation by the human being.

ARTE QUÂNTICA A influência da física e do computador quântico no cenário artístico contemporâneo

Ana Luiza Aguiar é jornalista, produtora e gestora cultural, tendo atuado em Recife (PE), Brasília (DF) e São Paulo (SP).

Atualmente é mestranda de estudos culturais na Universidade de São Paulo (USP).

Sabrina Maniscalco é professora e

QUANTIC ART The influence of physics and the quantum computer on the contemporary art scene

pesquisadora nas áreas de física e tecnologia quântica no Departamento de Física e Astronomia na Universidade de Turku (Finlândia), onde compõe os grupos: Turku Centre for Quantum Physics e Turku Quantum Technologies Group.

Texto produzido por Ana Luiza Aguiar a partir de entrevista com Sabrina Maniscalco

Ana Luiza Aguiar is a journalist, cultural producer and cultural manager who has worked in Recife, Brasília and São Paulo.

She is currently earning her MA in cultural studies at the University of São Paulo (USP).

Sabrina Maniscalco is a professor and researcher in the areas of quantum physics and technology in the Department of Physics and Astronomy at the University of Turku (Finland), where she is involved with

74

the Turku Centre for Quantum Physics and Turku Quantum Technologies Group.

Arte e física quântica são dois assuntos que normalmente não aparecem associados.

Para os não estudiosos dessas áreas, soa quase contraintuitivo juntar os dois conceitos em uma mesma frase. No entanto, um número crescente de artistas e poetas tem se interessado pela ciência e incorporado seus elementos em sua produção artística. Por sua vez, físicos teóricos têm buscado na arte formas de expandir sua criatividade e aplicar isso em suas pesquisas, quebrando padrões e modelos científicos estabelecidos, que não podem ser aplicados na física quântica exatamente por ela ser, em essência, contraintuitiva.

Se analisarmos atentamente, os períodos históricos nos quais a humanidade mais se desenvolveu artisticamente coincidem com períodos em que também ocorreram avanços científicos significativos, que, muitas vezes, foram incorporados às artes daquele tempo. Talvez o exemplo mais famoso desse paralelo seja a Itália no Renascimento, quando a arquitetura inventou a perspectiva e a arte a incorporou aos quadros, aos desenhos e às poesias.

75

O surgimento da psicologia como ciência, no século XVIII, é contemporâneo às principais obras do russo Tchekhov, talvez o primeiro dramaturgo a mergulhar na exploração da psiquê dos seus personagens. A literatura do século XIX é outro bom exemplo, por estar recheada de metáforas do universo como um maquinário – um paralelo com a Revolução Industrial –, movida pelos avanços mecânicos e

Art and quantum physics are two subjects that do not normally appear in association. To anyone who is not a scholar in these areas, it may even seem counterintuitive to find the two concepts together in the same phrase. A growing number of artists and poets, however, have become interested in science and have incorporated scientific elements in their artistic production.

For their part, theoretical physicists have drawn on art to expand their creativity and to apply this in their research, breaking away from established scientific models and patterns, which cannot be applied in quantum physics precisely because it is, in essence, counterintuitive.

A careful analysis of those historical periods when humankind underwent the most intense artistic development reveals that they coincide with eras in which there were also significant scientific advancements, which were often incorporated in the art that time. Perhaps the most famous example of this parallel is Italy during the Renaissance, when architecture invented perspective and art employed it in paintings, drawings and poetry.

The rise of psychology as a science, in the 18th century, is contemporaneous to the main works of the Russian writer Tchekhov, perhaps the first playwright to delve into the exploration of the psyche of his characters. The literature of the 19th

elétricos. No nosso século, a parceria da ciência com a arte evoluiu a um ponto em que a ficção científica virou um gênero que perpassa diversas formas de arte, desde a escrita e o cinema até o desenho.

O computador quântico ainda está nesse limbo entre a ficção (arte) e a realidade.

Como hipótese, conceito, ele já existe há algumas décadas, mas a sua materialização não é tão simples. Na teoria, um computador quântico seria uma máquina microscópica, composta apenas de partículas atômicas que seriam capazes de resolver em minutos o que supercomputadores levariam anos para equacionar. Isso porque, no lugar de chips, capazes apenas de interpretar sequências de bit formadas por 0 e 1, o computador quântico utilizaria a interação dos átomos para interpretar os dados.

As implicações disso são imensas e abarcam desde questões filosóficas, como a quebra da dualidade característica da computação atual, até as limitações da física clássica.

Afinal, o princípio da superposição quântica estabelece que uma partícula pode estar em 0 e 1 simultaneamente, e essa característica permitiria que os cálculos fossem feitos ao mesmo tempo, com vários qubits interpretados juntamente. A velocidade com que os cálculos passariam a ser feitos é imensurável.

As primeiras pesquisas desenvolvidas nos pouquíssimos computadores quânticos operacionais existentes no mundo têm sido nas áreas da comunicação e da criptografia. A precisão dos cálculos vem sendo testada tentando quebrar códigos

76

century is another good example, for being loaded with metaphors of the universe as a machine – in parallel with the Industrial Revolution, driven by mechanical and electrical advances. In our century, the partnership of science with art has evolved to a point where science fiction has become a genre that pervades different forms of art, ranging from writing and cinema to design.

The quantum computer is still in this limbo between fiction (art) and reality. As a hypothesis and concept, it has existed for some decades, but its materialization is not so simple. In theory, a quantum computer would be a microscopic machine, composed only of atomic particles

that would be able to solve in minutes what supercomputers take years to compute. This is because, in place of chips, able to only interpret sequences of bits formed by zeros and ones, the quantum computer would use the interaction of atoms to interpret the data.

The implications of this are immense and span from philosophical questions, such as the breakdown of the duality characteristic of current computation, to the limitations of classical physics. After all, the principle of quantum superposition establishes that a particle can be in the state of zero and one simultaneously, and this characteristic would allow for various calculations

criptografados, como aqueles que protegem suas mensagens de WhatsApp, mas também suas transações financeiras. E, por isso, a possibilidade de transformar o computador quântico em algo de fácil acesso tem aterrorizado o sistema bancário mundial. Um processador quântico de mil átomos poderia, em minutos, descriptografar senhas hoje consideradas inquebráveis.

Essa máquina portátil ainda não existe. Os computadores quânticos em operação no mundo ocupam salas inteiras e custam em torno de 15 milhões de dólares. Isso acontece porque há uma série de desafios tecnológicos em torno dessas máquinas.

Como a interação entre os átomos é muito frágil, é preciso barrar todo tipo de interferência. Cientistas têm debatido formas de diminuir o movimento das partículas de luz e os campos magnéticos que causam ruídos, por exemplo.

77

Em janeiro deste ano, durante a maior feira de tecnologia comercial da atualidade, a Consumer Electronics Show (CES), a IBM anunciou, com bastante alarde, o lançamento do seu primeiro computador quântico de uso comercial. Mas, passada a euforia inicial, foi constatado que o Q System One é, na verdade, um protótipo luxuoso de um sistema de 20 qubits, com uma estrutura que vai permitir, pela primeira vez, sua utilização fora de um laboratório. É um cubo selado de 2,7 metros de altura, com os elementos de computação quântica “pendurados” no meio dele. A solução da IBM para reduzir interferência nos átomos foi mantê-los resfriados a 273 graus Celsius negativos.

Atualmente, só há uma unidade funcional, e ela está na sede da IBM, em Yorktown

to be made at the same time, with various qubits interpreted in combination. The velocity at which the calculations could be made is immeasurable.

processor of one thousand atoms could, in minutes, decode passwords considered unbreakable today.

The first researches developed, in the very few quantum computers currently in operation in the world, has been in the areas of communication and cryptography. The precision of the calculations has been tested in the attempt to break cryptographic codes, such as those that protect your Whatsapp messages, but also your financial transactions. And this is why the possibility of transforming the quantum computer into something easily accessible is so terrifying for the global banking system. A quantum

This portable machine does not yet exist. The quantum computers in operation in the world occupy entire rooms and cost around 15 million dollars. The reason for this is that there is a series of technological challenges concerning these machines. As the interaction between the atoms is very delicate, it is necessary to prevent any sort of interference. Scientists have debated ways of reducing the movement of particles of light and the magnetic fields that cause “noise,” for example.

Heights, nos Estados Unidos. Ainda não há previsão de quando estará disponível para venda comercial, mas a empresa anunciou que vai disponibilizar o acesso por nuvem ao computador para empresas e institutos de pesquisa que queiram comprar tempo de uso na rede IBM Q Network.

Alguns aspectos do que era apenas um campo obscuro da física acabaram tomando força não somente nas áreas das ciências exatas, mas também em algumas áreas da cultura e das ciências humanas. Um exemplo disso é o chamado efeito do observador quântico, em que a realidade é afetada pelo olhar do observador, seja ele uma pessoa ou um sistema. A maneira como escolhemos exercer esse olhar pode alterar sua realidade. As implicações filosóficas dessa interpretação também são incontáveis, e a sua popularização fez com que a física quântica tivesse ecos na cultura contemporânea. O princípio da incerteza e até mesmo o gato de Schrödinger deixaram o campo da ciência para habitar o mundo das artes.

78

No entanto, para Sabrina Maniscalco, professora do Centro de Excelência em Física Quântica da Universidade de Turku, na Finlândia, essa é uma via de mão dupla, e físicos teóricos também têm muito a aprender com artistas. “Física quântica não se comporta de maneira lógica, intuitiva. E, por isso, para melhor compreendê-la, precisamos pensar de maneira criativa, fora da caixa”, defende. Maniscalco vem

In January of this year, during the largest commercial technology fair in the world today, the Consumer Electronics Show (CES), IBM boastfully announced the launch of its first quantum computer for commercial use. But, once the initial euphoria had subsided, it became clear that the Q System One is actually a luxurious prototype of a 20 qubits system, with a structure that will permit, for the first time, its use outside the laboratory.

It is a 2.7-meter-high sealed cube with elements of quantum computing suspended in the middle of it. IBM’s solution to reduce interference in the atoms was to keep them cold, at a temperature of –273°C. There is currently just one functional unit, and it is at IBM headquarters in Yorktown Heights, in the United States. There is still no prediction as

to when it will be available for commercial sale, but the company announced that it is going to make its use available through a cloud to computers of companies and research institutes that want to purchase timeslots for using the IBM Q Network.

Some aspects that were once only an obscure field of physics have wound up becoming important not only in the areas of the hard sciences, but also in certain areas of culture and human sciences.

An example of this is the so-called quantum observer effect, in which reality is affected by the eye of the observer, whether it be a person, or a system. The way we choose to exercise this gaze can alter its reality. The philosophical implications of this interpretation are also countless

explorando as possibilidades de troca entre os dois campos – física quântica e artes – desde 2009, quando realizou, junto com o artista performático Davide Giovanzana, o experimento artístico Quantum Circus.

Outra vantagem da interação entre esses dois mundos, na visão de Maniscalco, é aproximar a física quântica do cidadão comum, do não estudioso. “Eu acredito que o pesquisador tem a obrigação de devolver à sociedade o conhecimento que ele adquire com sua pesquisa, e, como lidamos com uma área que é muito teórica e tem uma linguagem muito específica, fazer isso através da arte faz sentido”, declara.

Mais do que socializar conhecimento, algumas instalações artísticas que exploram aplicações da física quântica têm contribuído para resolver impasses nos quais estudiosos têm falhado. É o caso do Quantum Garden, instalação interativa de luminosidade que integra a exposição Consciência Cibernética [?] Horizonte Quântico, no Itaú Cultural. O Quantum Garden está conectado a um software chamado Quantum Black Box, que busca resolver um complexo problema de controle com variáveis de tempo. É um dos principais componentes que impedem a criação de um portão de lógica quântica – a parte estrutural de um computador quântico. Cada vez que alguém interagir com a instalação serão gerados dados que, depois de processados pelo Black Box, ajudarão na busca por uma solução para o problema.

79

and their popularization has made quantum physics reverberate in contemporary culture. The uncertainty principle and even Schrödinger’s cat have spread beyond the field of science to inhabit the art world.

For Sabrina Maniscalco, professor at the Centre of Excellence in Quantum Physics of the University of Turku, in Finland, however, this is a two-way street, where theoretical physicists also have a lot to learn from artists. “Quantum physics does not behave in a logical, intuitive way. Therefore, to better understand it, we need to learn to think creatively, outside the box.” She says. Maniscalco has been exploring the possibilities of exchange between the two fields – quantum physics and the arts –

since 2009, when she carried out, together with performance artist Davide Giovanzana, the artistic experience Quantum Circus (see box).

Another advantage of the interaction between these two worlds, in Maniscalco’s view, is that the nonscholar can be become informed about quantum physics. “I believe that the researcher has the obligation to return to society the knowledge that he acquires through his research, and, as we deal with an area that is very theoretic and has an extremely specific language, it makes sense to do this through art,” she says.

More than putting the public into contact with knowledge, some artistic installations

O mesmo software também foi usado na quinta edição do Quantum Game Jam, realizada em fevereiro deste ano em Helsinki, na Finlândia, e promovida pela Federação Finlandesa de Jogos, pela IBM de Zurique (Suíça) e pela Universidade de Turku. Game Jam são encontros de desenvolvedores de jogos eletrônicos que acontecem durante um curto período de tempo – normalmente variando entre 12 horas e 3 dias –, nos quais grupos competem para construir novos protótipos de jogos. Nesta edição do Quantum Game Jam, o tema era jogos que envolvessem física quântica e que pudessem ser desenvolvidos para um computador quântico.

Durante o evento, o Black Box coletou dados sobre as escolhas intuitivas que os jogadores dos videogames faziam ao testar os produtos ali desenvolvidos.

80

Apesar de todas essas inovações prometidas pela computação quântica, algumas coisas parecem não mudar. A certeza matemática ainda depende do insight humano para evoluir. E não há nada mais humano do que a arte. Ao que tudo indica, a ciência e a arte continuarão andando de mãos dadas no futuro.

that explore applications of quantum physics have contributed toward solving problems where scholars have failed. This is the case of Quantum Garden, an interactive installation of luminosity, that is part of the exhibition Consciência Cibernética [?] Horizonte Quântico, at Itaú Cultural. Quantum Garden is connected to a software called Quantum Black Box, which seeks to solve a complex control problem with time variables. It is one of the main components that hinder the creation of a quantum logic gate – the structural part of a quantum computer. Each time someone interacts with the installation, data will be generated which, after being processed by the Black Box, will help in the search for a solution to the problem.

The same software has also been used in the fifth edition of Quantum Game Jam, made in February of this year in Helsinki, promoted by the Finnish Federation of games, by IBM Zürich and by the University of Turku. Game Jams are get-togethers of electronic-game developers that take place during a brief period of time – normally varying between twelve hours and three days – in which groups compete to construct new game prototypes. In this edition of Quantum Game Jam, the theme was games that involve quantum physics and could be developed for a quantum computer. During the event, the Black Box collected data about the intuitive choices that the players of the videogames made when testing the products developed there.

QUANTUM CIRCUS O espetáculo circense Quantum Circus foi apresentado pela primeira vez em 2011, em Turku, na Finlândia, e resultou de um experimento científico que envolveu a colaboração de pesquisadores em física quântica, acrobatas e artistas de circo.

O grupo realizou três workshops, cada um com duração de uma semana, com o intuito de trocar experiências para criar uma performance que contasse a história da física quântica. O espetáculo foi concebido pelo artista Davide Giovanzana em parceria com Maniscalco. Um dos maiores desafios do projeto, segundo a professora de física quântica, foi conseguir fazer com que os dois grupos de pessoas envolvidos conseguissem se comunicar. “São formas de pensar muito diferentes. Os pesquisadores estão acostumados a pensar com a mente, com abstrações, e a inteligência dos artistas circenses está nos seus corpos, na maneira como eles se mexem. Foi bastante desafiador e rico”, conta.

O resultado foi um sucesso de público e crítica, tendo ficado anos em cartaz. É possível ver parte do espetáculo na página do artista: http://davidegiovanzana.ch.

81

Despite all of these innovations promised by quantum computing, it seems that some things do not change. Mathematical certainty still depends on human insight to evolve. And there is nothing more human than art. Everything indicates that science and art will continue advancing hand-in-hand into the future.

QUANTUM CIRCUS The circus show Quantum Circus was presented for the first time in 2011, in Turku, Finland, and was a result of a scientific experiment that involved the collaboration of researchers in quantum physics, acrobats and circus performers. The group held three workshops, each lasting one week, with the aim of exchanging experiences to create

performance that would tell the history of quantum physics. The show was conceived by artist Davide Giovanzana, in partnership with quantum physics professor Sabrina Maniscalco. One of the biggest challenges of the project, according to Maniscalco, was to be able to get the two groups of people involved to communicate. “They have very different ways of thinking. The researchers are used to thinking with their mind, with abstractions, while the intelligence of the circus performers is in their bodies, in the ways that they move. It was very challenging and rich,” she says.

The result was a success with the public and the critics, and the show has been running for years.

It is possible to see part of the show on the artist’s page: http://davidegiovanzana.ch.

POSSIBILIDADES PÓS-HUMANAS E PÓS-NATURAIS POST-HUMAN AND POST-NATURAL POSSIBILITIES

Anders Sandberg é pesquisador sênior no Instituto do Futuro da Humanidade (FHI), na Oxford Martin School, da Universidade de Oxford (Reino Unido), com pesquisa focada no gerenciamento de riscos de alto impacto e baixa probabilidade, estimando as capacidades de tecnologias futuras. É também pesquisador associado ao Centro de Ética Prática Oxford Uehiro, ao Centro Oxford de Neuroética (ambos também no Reino Unido) e ao Instituto de

Anders Sandberg

Estudos Futuros em Estocolmo (Suécia).

Anders tem formação em ciência da computação, neurociência e engenharia médica. É ph.D. em neurociência computacional pela Universidade de Estocolmo, com trabalho na modelagem de redes neurais da memória humana.

Anders Sandberg is a senior researcher at the Future of Humanity Institute (FHI) at Oxford Martin School, University of Oxford, researching mainly the management of high-impact, low-probability risks, estimating the capabilities of future technologies. He is also a researcher associated with the Oxford Uehiro Center for Practical Ethics, with the Oxford Center of Neuroethics, and with the Institute for Futures Studies in Stockholm.

Anders has a background in computer science, neuroscience and medical engineering. He holds a PhD in computational

82

neuroscience from Stockholm University, Sweden, with work on the neural network modeling of human memory.

INTRODUÇÃO São famosas tais perguntas de Immanuel Kant: “O que posso saber? O que devo fazer?

O que me é permitido esperar? O que é o homem?”. A primeira delas é respondida pela epistemologia, a segunda e a terceira pela ética, e a quarta pela antropologia. Dado que são certo tipo de ser – na teoria kantiana, agentes racionais –, os humanos têm determinadas competências e incompetências para raciocinar, e, assim também, nossa natureza determina parcialmente as possíveis respostas às outras questões.

Ao invés da citada acima, a quarta pergunta de um Kant pós-moderno ou pós-humanista poderia ser: “O que sou eu? Será que existe um ‘eu’?”. Graças à neurociência, à psicologia e à biomedicina, descobrimos que o self não é o self atômico, autoevidente, do cogito de Descartes, mas uma rede de subsistemas de vários tipos, envolvidos em uma boa medida de autoengano e aproximações meramente adequadas à razão racional. A teoria evolucionista e as ciências sociais situam o self em um contexto muito mais amplo. Como apontará este ensaio, os transumanistas e os pós-humanistas críticos estão aumentando os desafios ao questionar se a arquitetura da mente humana permanecerá igual ou mesmo no centro da ética. A pergunta talvez não seja tanto “O que é o homem?”, e sim “O que é a natureza?”. No entanto, a natureza também pode sofrer a mesma dissolução.

83

INTRODUCTION Such questions by Immanuel Kant are famous: “What can I know? What do I have to do? What can I hope for? What is the human being?” The first of these is answered by epistemology, the second and the third are answered by ethics and the fourth by anthropology. Being certain kinds of beings – in Kantian theory, rational agents –, humans possess certain competencies and incompetencies regarding reason, and, as such, our nature partially determines the possible answers to the other questions.

Instead of that quoted above, the fourth question of a post-modern or post-human Kant might have been: What am I? Is there

an “I”? Thanks to neuroscience, psychology and biomedicine, we have discovered that the self is not the atomic self, self-evident, from Descartes’ cogito, but a network of subsystems of varied sorts, involved in a good deal of selfdeceit and approximations merely adequate to rational reason. Evolutionist theory and social sciences situate the self in a much broader context. As this essay shall point, critical transhumanists and post-humanists are increasing the challenges by questioning if the architecture of human mind will remain the same or even at the center of ethics. The question might not be so much “what is the human being?” as “what is nature?” However, nature might also face the same dissolution.

A HISTÓRIA HUMANA Humanos e chimpanzés derivaram de um ancestral comum há 4-6 milhões de anos.

O ancestral presumivelmente vivia quase como os chimpanzés atuais, em pequenos grupos onívoros de caçadores-coletores em florestas, sujeitos a predadores. Hoje, contudo, os símios veem aves de metal voando pelo ar, suas florestas (e os predadores) estão desaparecendo e por toda parte há estranhas criaturas sem pelos. Na verdade, o destino de sua espécie depende totalmente dos humanos, e os chimpanzés não só não têm voz nessa narrativa, como tampouco fazem ideia de o que e por que aconteceu.

84

A diferença entre o cérebro humano e o do chimpanzé é pequena: afora alguma desigualdade de tamanho, eles têm quase a mesma anatomia neural. Todas as partes do cérebro humano podem ser encontradas no do chimpanzé. No entanto, a pequena diferença estrutural leva a uma vasta diferença comportamental: os humanos têm uma capacidade de planejamento que ultrapassa muitíssimo a dos símios; os humanos podem criar tecnologia, podem se comunicar de forma irrestrita e, assim, criar uma cultura cumulativa que tira partido da inteligência e da experiência não só do indivíduo, como de toda a tribo – inclusive dos conhecimentos de seus antepassados, transmitidos pela história e pela tradição. Isso, por sua vez, permite que a humanidade domine o planeta.

HUMAN HISTORY Humans and chimpanzees derived from a common ancestor around four to six million years ago. This common ancestor presumably lived almost like current-day chimpanzees, in small omnivorous groups of hunter-gatherers in forests, subject to predators. Today, however, the simians see metal birds soaring through the air, their forests (and predators) are disappearing and there are strange furless creatures everywhere. In fact, the destiny of their species depends entirely on humans and the chimpanzees not only have no say in this narrative, as they have no idea of what happened and why it happened.

The differences between the human and chimpanzee brains is small: despite some size disparity, they have almost the same neural anatomy. Every part of the human brain can be found in the chimpanzee brain. However, the small structural difference leads to a massive behavioral difference: humans have a planning capacity that largely outlasts that of the simians; humans can create technology, communicate in unrestricted manner and, by doing so, create a cumulative culture that not only exploit the intelligence and experience of the individual but the whole tribe’s – including the knowledge of its ancestors, transmitted through history and tradition. That, in turn, allows humankind to rule the planet.

Como espécie biológica, o H. sapiens é muito bem-sucedido: é o mais comum dos animais do seu tamanho, tem mais biomassa do que todos os animais selvagens juntos e prospera em todos os ecossistemas do planeta. Ainda mais notável: é tão ubíquo e poderoso que sozinho deu início a uma nova era geológica, o Antropoceno. Não se trata de pura vanglória (afinal de contas, os geólogos são humanos), mas muitas mensurações objetivas apontam que os humanos se tornaram uma força geológica: hoje são a principal forma de erosão de rochas, fixam aproximadamente a mesma quantidade de nitrogênio que todo o resto da biosfera, usam cerca de um décimo da energia processada pela biosfera, e 83% das terras do planeta são diretamente influenciadas pelos humanos, que se apropriam de 25% a 40% da produtividade primária líquida total do globo para seu uso. Apenas 10% das terras estão a mais de 48 horas de uma grande cidade. E a maior parte de tudo isso ocorreu nos últimos 200 anos.

85

A tecnologia permite que os humanos tomem partes do meio ambiente e as transformem em ferramentas. Uma ferramenta ou uma técnica é basicamente uma cadeia causal de acontecimentos que leva ao resultado desejado. A singularidade da tecnologia humana em relação às ferramentas dos animais é que essas cadeias causais podem ser reutilizadas, combinadas e tornadas arbitrariamente longas e grandes – ciladas desonestas, teclas que, quando apertadas, causam bilhões de computações, explosões nucleares, alterações propositais do curso de rios. Os humanos modificam seu

As a biological species, the H. sapiens is highly successful: it is the most common animal of its size, has more biomass than all wild animals combined and prospers on every ecosystem in the planet. Yet more notable: it is so ubiquitous and powerful that has alone started a new geological era, the Anthropocene. It is not purely vanity (after all, geologists are human), but several measures indicate that humans have become a geological force: they are today the main form of erosion of rocks, fix approximately the same amount of nitrogen as the rest of the biosphere, utilize around a tenth of the energy processed by the biosphere and 83% of the

landmass on the planet is directly influenced by humans, that seize from 25 to 40% of the total primary net productivity of the globe for their use. Only 10% of landmasses are further than 48 hours from a big city. And the majority of this happened in the last 200 years.

Technology allows human beings to take parts of the environment and transform them into tools. A tool or a technique is basically a causal chain of events that lead to a desired result. The singularity of human technology in relation to the tools of animals is that these chain of events can be reutilized, combined and made arbitrarily long and large – dishonest ambushes; keys that, when pressed, trigger

ambiente, levando-o do estado em que teria se encontrado a um estado que – espera-se – atenda a seus objetivos. Assim, estão naturalmente tornando a natureza artificial.

Não modificamos só objetos mortos, mas a própria vida, e não apenas para fins instrumentais, mas também como arte, manifestações políticas ou com finalidade exploratória. Como exemplo, consideremos a cenoura comum, cor de laranja. De início, havia cenouras de várias cores – roxas, brancas, amarelas. O melhoramento seletivo produziu cenouras maiores e mais palatáveis, e a cenoura cor de laranja moderna foi desenvolvida por agricultores holandeses no século XVI. Uma história comum afirma que, como podia ser usada em homenagem a Guilherme de Orange, foi fortemente promovida na Holanda, o que fixou a cor e fez dela a cenoura no mundo inteiro. A cultura e a política locais foram gravadas no genoma da planta.

As cidades são nossas barragens de castor, nossos cupinzeiros – extensos fenótipos com fantásticas economias de escala. Em termos de eficiência no uso dos recursos, as cidades são muito melhores do que as áreas rurais e muito mais produtivas economicamente. O preço disso é a dependência de cadeias de suprimento, mercados e infraestrutura complexos. Um dos efeitos da tecnologia poderosa, onipresente, é sua complexidade: não podemos simplesmente entender como funciona, como reage ou onde estão seus riscos. Sob muitos aspectos, criamos uma “tecnonatureza”. Podemos sofrer de um “mau tempo on-line” devido a problemas

86

billions of computations; nuclear explosions; the deliberate change of a river’s course. Humans modify their environment, taking it from the state in which it would have been found to a state that – hopefully – suits their goals. Therefore, they are making nature artificial.

We modify not only dead objects, but also life itself, and not only for instrumental ends, but as art, political protest or for exploratory purposes.

For example, let us consider the common carrot, orange in color. At first, there were carrots in varied colors – purple, white, yellow. Selective enhancements made bigger and more palatable carrots, and Dutch farmers developed the

modern orange-colored carrot in 16th Century.

A common story states that, as it could be used to honor William of Orange, it was strongly promoted in the Netherlands, locking its color and becoming the carrot of the whole world.

Local culture and politics were etched in the planets genome.

Cities are our beaver dams, our termite mounds – vast phenotypes with fantastic economy of scale. In terms of efficiency in the usage of resources, cities are much better than rural areas and a lot more productive economically.

The price to pay is the dependence on complex chains of supply, markets and infrastructure.

em servidores distantes. Pode haver fome se as cadeias globais de suprimento não abastecerem nossa agricultura com combustível, fertilizante ou transporte. Em certo sentido, domesticamos a natureza, mas nos tornamos vulneráveis à tecnonatureza – que às vezes é muito mais selvagem.

Nossa dificuldade é que somos aceitáveis (coletivamente) quando se trata de causar mudanças desejadas de curto prazo, mas temos problemas com a segurança e os objetivos de longo prazo. A tecnologia permite-nos desenvolver longas cadeias causais de acontecimentos, mas não é capaz de prever seus efeitos colaterais.

Sabemos coordenar e ver que temos imensos problemas, mas ainda não temos a mesma capacidade de corrigi-los – em grande medida, porque os problemas são complexos e nos envolvem.

Se nossa inteligência não é suficiente para escolher o caminho certo, será que podemos nos tornar mais inteligentes?

REFAZER-NOS Os humanos sempre ansiaram por saúde, longevidade e felicidade. Até recentemente, a biomedicina não atendia a muitos desses anseios, mas isso mudou, e é provável que a mudança se acelere junto com a expansão do nosso entendimento.

87

One of the effects of powerful, omnipresent technology is its complexity: we cannot simply understand how it works, how it reacts or where its risks lie. In many respects, we have created a techno-nature. We can suffer from “online bad weather” due to problems in distant servers. There can be hunger if the global chains of supply do not stock our farming with fuel, fertilizer or transport. To a certain extent, we have tamed nature, but made ourselves vulnerable to techno-nature – that is, at times, a lot more savage.

Our difficulty is that we are (collectively) accepting when it comes to bring upon desired short-term

changes, but find problems with safety and longterm goals. Technology allows us to develop long causal chains of events, but is not capable of predicting its side effects. We know how to coordinate and see we have immense problems, but we still do not have the same capacity for correcting those – largely because such problems are complex and involve us.

If our intelligence is not enough to choose the right path, can we become more intelligent?

REBUILD OURSELVES Humans have always longed for health, longevity and happiness. Until recently,

Estamos vivendo em uma era na qual a ação humana (tecnologia) nos permite intervir cada vez mais também dentro de nós mesmos. Não somos privilegiados como espécie: podemos ser criados, geneticamente modificados, autodomesticados, desconstruídos e reconstruídos como qualquer outra. Essa percepção não foi muito bem recebida, pois, ao mesmo tempo que solapa nossa sensação de singularidade, põe em risco nossos valores e nossa autonomia; no entanto, trata-se de um fato do mundo e precisamos encontrar um modo de encarar.

A medicina científica tornou curáveis, ou apenas crônicas, numerosas doenças antes fatais. Na verdade, a expectativa de vida do ser humano dobrou no transcurso do século XX. As vacinas são sistemas imunológicos coletivos com mediação tecnológica. Próteses toscas presas ao corpo foram refinadas com precisão ergonômica e estão cada vez mais vinculadas ao sistema nervoso, tornando-se parte de um sistema orgânico de feedback. O sexo biológico pode ser modificado para se ajustar ao gênero mental. São possíveis as extensões de nossos sentidos e corpos para incorporar novas modalidades, por razões tanto práticas quanto artísticas e exploratórias. É cada vez mais viável realizar aperfeiçoamentos genéticos, não só para curar doenças, como também para obter possíveis efeitos de prevenção e melhoria. É factível mudar a aparência por motivos sociais ou existenciais. A melhora da cognição é muito difundida –

88

biomedicine did not cater to many of these needs, but that has changed and it is likely that this change accelerates with the expanding of our understanding.

We live in an era when human action (technology) also allows us to intervene more and more within ourselves. As a species, we are not privileged: we can be created, genetically modified, autodomesticated, deconstructed and reconstructed as any other. This perception was not received too kindly, as, at while it undermines our sense of singularity, it puts our autonomy and values at risk; it is, however, a fact of the world and we need to find a way to deal with it.

Medicine has made curable, or only chronic, numerous diseases that were fatal before. In fact, human being’s life expectancy doubled on the passing of the 20th Century. Vaccines are collective immunological systems mediated by technology.

Crude prosthetics attached to the body were refined with ergonomic precision and are getting more integrated to the nervous system with each passing day, becoming part of an organic feedback system. Biological sex can be modified to adjust to the mental gender. It is possible to extend our senses and bodies to incorporate new modalities, both for practical reasons and for artistic and exploratory ones. It is increasingly viable to create genetic enhancements, not only to

os fármacos inteligentes e a estimulação cerebral hoje disponíveis são usados principalmente por pequenos grupos de pioneiros, ao passo que, nos países desenvolvidos, a maioria das pessoas começa o dia com uma estimulante xícara de café ou chá, e tornamos a escolaridade obrigatória para garantir que todos tenham acesso às ferramentas que ampliam a cognição.

Cada vez mais, inserimos tecnologia em nossos corpos – algumas vezes por motivos práticos ou terapêuticos, outras como ato muito primal de automodificação e criação de identidade. A modificação direta de nós mesmos é complementada pela construção do self ampliado, em que nosso aspecto biológico está em interface com sistemas externos de suporte – que não só aumentam nossas capacidades, como também podem nos disciplinar em nome de desejos de ordem mais elevada (pensemos nos monitores de fitness) ou nos colocam em circuitos complexos de feedback com outras pessoas. Esses sistemas tornam imprecisos os contornos da identidade.O debate sobre o que significam essas capacidades e como lidar com elas eticamente não trata apenas de uma possibilidade hipotética – embora muitas das intervenções biomédicas mais diretas ainda estejam engatinhando –, mas, cada vez mais, de uma questão política. Mesmo que não sejam questões iminentes no próximo período eleitoral, cabe-nos ponderar sobre aonde a humanidade pode ir nos próximos milênios.

89

cure diseases but also to obtain possible effects of prevention and betterment. It is feasible to change appearances due to social or existential motives.

Cognitive enhancement is quite widespread – smart drugs and brain stimulation available today are used mainly by a small group of pioneers, whereas in developed countries, the majority of people start the day with a stimulating cup of coffee or tea, and we have made schooling mandatory to guarantee everyone has access to tool that broaden cognition.

More and more, we insert technology in our bodies – sometimes for practical or therapeutical reasons, other times as a

primal act of self-modifying and creation of identity. The direct manipulation of ourselves is complemented by the construction of an amplified self, in which our biological aspect interfaces with external support systems – not only enhancing our capacities but also disciplining us the name of desires of an higher order (think fitness monitors), or putting us in complex feedback circuits with other people.

These systems blur the outlines of identity.

The debate on what these capacities mean and how to deal with them ethically is not only a hypothetical possibility – although many of the biomedical interventions are still in their early days –, but increasingly political in nature. Even

TRANSUMANISMO, PÓS-HUMANISMO E OS OUTROS O tormento humano de saber que somos mortais, limitados e, no entanto, capazes de nos imaginar como não sendo mortais e limitados é subjacente a boa parte do pensamento humano. Lidar com a problemática condição humana foi uma questão-chave na maioria das culturas, na arte, na filosofia e na religião.

Provavelmente não é uma coincidência que, no épico mais antigo conservado, A Epopeia de Gilgamesh, o rei Gilgamesh parta em busca da erva da imortalidade.

Desde então, não faltaram os fracassados elixires alquímicos da vida, explicações religiosas de por que a morte não existe, abordagens filosóficas voltadas para a aceitação e a apreciação da brevidade da vida, e padrões culturais que nos exortam a canalizar esse desejo de imortalidade para filhos, arte, heroísmos ou grandes projetos coletivos.

Podemos distinguir três abordagens não religiosas da condição humana.O humanismo afirma que os homens têm importância e que sua condição pode ser melhorada por meio de educação, boas instituições, direitos humanos e pensamento crítico. No Ocidente, começou quando os eruditos humanistas do Renascimento retomaram ideias clássicas, sendo articulado pelos pensadores iluministas. É otimista quanto a aperfeiçoar muitos aspectos da condição humana, mas parte do pressuposto de que o homem permanece constante.

90

if they are not imminent questions in the next election period, it is up to us to ponder where humankind might go in the next millennia.

TRANSHUMANISM, POST-HUMANISM AND THE OTHER The human torment of knowing we are mortal, limited and, however, capable of imagining ourselves as no longer mortal and limited is underlying a good portion of human thought.

Dealing with the problematic human condition was a key issue in most cultures, in art, philosophy and religion. It is probably no coincidence that in, the oldest recorded epic, The Epic of Gilgamesh,

king Gilgamesh quests for the herb of immortality.

Since then, there was no shortage of failed alchemical life elixirs, religious explanations on why death does not exist, philosophical approaches to the acceptance and appreciation of the brevity of life and cultural patterns that exhort us to channel this desire of immortality into children, art, heroic or big collective projects.

We can outline three non-religious approaches to the human condition.

Humanism states that humans are important and that the human condition can be made better through education, good institutions, human rights

O pós-humanismo se liberta da centralidade do humano que caracteriza o humanismo.

E os animais, as plantas, as biosferas, o mundo abiótico? Por que tornar o homem a medida de todas as coisas? Isso provém da crítica pós-moderna do modernismo à qual o humanismo foi ligado, bem como do questionamento do antropocentrismo pela filosofia ambientalista. Diferentemente do humanismo, boa parte do pós-humanismo contemporâneo não tem uma agenda para as mudanças além da reavaliação – é um esforço crítico estudar os aspectos ignorados do discurso humanista. A condição humana é apenas uma das condições no universo.

O transumanismo, por sua vez, pensa que os humanos podem e devem modificar a condição humana para seu benefício, possivelmente se tornando pós-humanos radicalmente empoderados. A condição humana não é imutável; pode e deve ser questionada, e pode – agora, cada vez mais – ser modificada na prática. Essa ideia tem sua origem no pensamento iluminista e modernista, mas diverge do humanismo no sentido de que vê a própria humanidade como algo modificável. Afasta-se do pós-humanismo, com o qual vários pensadores transumanistas flertam em maior ou menor medida, ao tomar uma atitude ativista.

91

Os valores constituem um problema central para o transumanismo: em si, ele é só uma abordagem, não tem um sistema de valores único que apresente

and critical thinking. In the West, it started when the erudite humanists of the Renaissance returned to classical ideas, articulated by Enlightenment thinkers. It is optimistic regarding the refinement of many aspects of the human condition, but it assumes that the human being remains constant.

philosophy. Contrary to humanism, a good deal of contemporary post-humanism has no agenda for change besides re-evaluation – it is a critical effort to study the ignored aspects of humanist discourse. The human condition is but one of the conditions of the universe.

Post-humanism frees itself from the centrality of the human being that defines humanism.

What about animals, plants, biospheres, the abiotic world? Why make man the measure of all things? This comes from the post-modern criticism to the modernism to which humanism had been tied, as well as from the questioning of anthropocentrism by environmentalist

Transhumanism, in turn, believes that humans can and should change the human condition for their own good, possibly becoming radically empowered post-humans. The human condition is not immutable, can and should be questioned and can – more so with each passing day – be modified in practice. This idea has its roots in illuminist and modernist thinking, but diverges from

um real motivo para melhorar a condição humana. Alguns transumanistas são existencialistas, ou seja, encaram a liberdade individual como fonte de valor; alguns são religiosos, acreditam no mandamento divino ou no transumanismo como modo de propiciar a plenitude da humanidade; há alguns eticistas da virtude, que buscam a excelência transumana; outros são utilitaristas, consideram o aperfeiçoamento da natureza como uma forma de eliminar o sofrimento e acentuar o bem-estar; há ainda os que pensam que tudo é instrumental, seja individual, seja coletivamente, como modo de sobreviver ou entender o mundo – sugeriu-se que, enquanto não soubermos o sentido da vida (se é que ele existe), devemos considerar que entendê-la é um sentido provisório.

Contudo, como o reino do pós-humano provavelmente contém estados de grande valor, seja qual for o sistema de valor adotado, existe um bom motivo para explorá-lo. O futuro talvez seja muito mais extremo do que a maioria pensa, pois não só pode haver valor astronomicamente elevado em bons estados pós-humanos ou na expansão interestelar, mas também a mudança tecnológica pode vir a ser muito rápida à medida que a inteligência (biológica ou artificial) for aperfeiçoada, e há possíveis riscos existenciais que ameaçariam a sobrevivência e o potencial da (pós-)humanidade. A suposição de que o status

92

humanism in the sense that it sees humanity itself as something that can be modified. It distances itself from post-humanism, with which several transhumanist thinkers flirt with in bigger or smaller degrees, by taking an activist stance.

Values consist a central issue to transhumanism: in and of itself, transhumanism is just an approach; there is no single value system that presents the real reason to perfect the human condition. Some transhumanists are existentialists, that is, they see individual liberty as a source of value; some are religious, believing in divine commandment our in transhumanism as ways to promote plenitude

in humankind; there are some virtue ethicists, that reach for transhuman excellence; others are utilitarian, considering the refinement of nature as a way to eliminating suffering and accentuating wellness; there are still those who think that everything is instrumental, be it individually, be it collectively, as ways to survive and understand the world – it has been suggested that, while we do not know the meaning of life (if there even is one), we must consider understanding it as a provisory meaning.

However, as the realm of the post-human probably contains states of great value, whatever the value system adopted, there is good reason

quo humano continuará indefinidamente significa que não é urgente salvaguardar a sobrevivência; se, no entanto, há muito em jogo e o resultado é indeterminado, a escolha da trajetória certa tem tremenda importância.

Os transumanistas costumam pensar que existe uma razão para mudar as coisas, e, assim, é possível adotar uma abordagem de engenharia que consiste em se perguntar como alcançar as finalidades desejadas. Os pós-humanistas estão sempre estudando, mas isso gera a abordagem científica/acadêmica de estudar entidades sem de fato pretender modificá-las. Os pós-humanistas são céticos quanto ao ativismo dos transumanistas, que cheira a modernismo, e os transumanistas muitas vezes são céticos em relação à impassividade moral dos pós-humanistas.

93

POSSIBILIDADES PÓS-HUMANAS Há muitos futuros pós-humanos possíveis. O futuro pós-humano mais trivial é um futuro posterior ao humano: a extinção da humanidade. Isso implica a perda não só de todos os humanos atuais, mas também de todas as gerações futuras e de todo o valor que criariam ou encarnariam – a pior de todas as catástrofes.

to explore it. The future might be much more extreme than the majority thinks, as not only can there astronomically elevated value in good post-human states and interstellar expansion, but technological change may come to be much quicker as intelligence (biological or artificial) is improved, and there are possible existential risks that would threaten the survival and potential of (post-) humanity. The assumption that human status quo will continue indefinitely means that it is not urgent to safeguard survival; if, however, there is much at stake and results are indeterminate, choosing the right trajectory is of paramount importance.

Transhumanists tend to think there is a reason to

change things, and, as such, it is possible to adopt an engineering approach that consists of asking oneself in how to attain the desired goals. Posthumanists are always studying, but that creates the scientific/academic approach of studying entities without actually intending to change them. Posthumanists are skeptical towards transhumanist activism, as it smells of modernism, and transhumanists are often skeptical towards posthumanists’ moral impassivity.

POST-HUMAN POSSIBILITIES There are many possible post-human futures.

The most trivial post-human future is one

Outro conjunto de possibilidades está em futuros pós-humanitários: desaparece da humanidade algum elemento essencial, que gera valor. Esse é, claro, o alerta padrão dos críticos da melhoria (por exemplo, a preocupação de Fukuyama com a perda do “fator X”), mas também foi uma inquietude dos filósofos transumanistas (por exemplo, a “Disneylândia sem crianças” de Bostrom). Esse conjunto de possibilidades corresponde a riscos existenciais axiológicos, ameaças ao potencial e ao valor, mais do que à sobrevivência. A maioria dos críticos da melhoria aponta problemas ou imoralidades menos dramáticos, como injustiça, tédio da imortalidade ou declínio da virtude; embora seu potencial seja ruim, não representam nada de fundamentalmente diferente de más condições humanas.

Muitos transumanistas (e outros) desejam ser algo como deuses gregos: imortais, belos, fisicamente robustos, com grandes poderes mentais, liberdade, capacidade de voar etc. Essa imagem é uma projeção do que de melhor têm os humanos atuais, salpicada de motivos mitológicos. Mas também poderíamos incluir os agentes morais kantianos nessa categoria (com raciocínio ético e autocontrole quase infinitos) – bem como os Übermenschen de Nietzsche (cheios de vida indomável).

Muitos argumentos éticos tentaram mostrar que certas falhas da condição humana, como a mortalidade, são verdadeiramente subjacentes ao fato de “sermos

94

posterior to human: the extinction of humankind.

This implies not only a loss of all current humans, but also all future generations and all value they might create or embody – the worst of all catastrophes.

Another set of possibilities lies in posthumanitarian futures: some essential, valuegenerating element disappears from humanity.

This is, of course, the default warning from critics to the enhancements (for instance, Fukuyama’s worry of the loss of the “X factor”), but was also made some transhumanist philosophers restless (for instance, Bostrom’s “Disneyland without children”). This set of possibilities corresponds

to axiological existential risks, threats to potential and value, more than to survival. Most critics to the enhancements points to less dramatic problems or immoralities, such as injustice, boredom from immortality or decline of virtue; although its potential is bad, it does not represent anything fundamentally different than poor human conditions.

Many transhumanists (and others) desire to be something akin to Greek gods: immortal, beautiful, physically robust, with great mental powers, freedom, the ability to fly etc. This image is a projection the best current humans have, sprinkled with mythological motifs.

humanos” e que o estado pós-humano seria, portanto, sem valor ou negativo, ou sem importância para os humanos, pois não os beneficiaria. Os transumanistas, ao contrário, argumentam que o valor do fato de ser humano não reside em suas desvantagens, mas em seu potencial, e que aspirar a se tornar algo diferente talvez seja a mais humana das aspirações.

Outra possível forma de pós-humanidade que foi estudada de modo detalhado é a de emulações cerebrais (também chamada de uploads ou ems). A criação de imagens cerebrais em microescala neural para gerar réplicas digitais produziria pessoas de software – mantendo-se todas as precondições filosóficas. Assim, seria feita uma espécie pós-humana que não envelhece, tem corpos virtuais que podem ser modificados à vontade, pode vivenciar o mundo real usando corpos artificiais, corre com a mesma rapidez de um computador, faz cópias de segurança, “teletransporta-se” para o espaço usando a internet ou links a laser, faz cópias de si mesma e realiza hacking neural (inviável), vive de energia solar, sem precisar de alimentos, e seria imune a qualquer doença orgânica.

No entanto, as emulações pensariam e sentiriam (por pressuposto) como os originais: seriam muito humanas no sentido antropológico normal. Embora talvez não por muito tempo.

95

Nevertheless, we could also include Kantian moral agents in this category (with ethic reason and self-control approaching the infinite) – as well as Nietzsche’s Übermenschen (full of indomitable life). Several ethic arguments have tried to show that certain shortcomings of the human condition, such as mortality, are actually underlying to the fact of “being human”, and that the post-human state would be, thus, worthless or negative, or of no importance to humans, as it would not benefit them.

Transhumanists, on the other hand, argue that the worth of being human is not in its disadvantages, but in its potential, and that

aspiring to become something different might be the most human of aspirations.

Another possible post-humanity guise that has been studied to great detail is that of brain emulation (also known as uploads or ems). The creation of brain images in neural microscopic scale to generate digital replicas would create software-people – keeping all of the philosophical preconditions. Therefore, a post-human species would be created, one that does not age, possesses virtual bodies that can be modified at will, can experience the real world utilizing artificial bodies, runs as fast as a computer, makes backups, “teleports” to space

Mas os pós-humanos poderiam mudar mais radicalmente. Com o avanço da biotecnologia e da nanotecnologia, é provável que os corpos se tornem mais maleáveis, que adquiram real liberdade morfológica por meio de corpos arbitrários que poderiam ser modificados à vontade, assim como trocamos de carro ou de roupas, o que propiciaria a incorporação de diferentes formas de cognição.

O que é ainda mais importante: seria possível modificar arquiteturas mentais.

A mais óbvia seria a melhor comunicação mente-mente ou mente-inteligência artificial (IA), potencialmente ampla a ponto de tornar as fronteiras entre indivíduos fluidas ou inexistentes. A atual pesquisa sobre BrainNet pode vir a mostrar que isso é mais fácil do que se esperava. Antes que aconteça, talvez seja impossível determinar se essas multimentes são um ser, muitos seres ou algo situado entre ambos; seja como for, e dadas nossas próprias limitações introspectivas, talvez tenhamos nos iludido a respeito de nossa própria unidade mental. As mentes grupais desafiam atuais conceitos de identidade, fronteiras ao redor do self. A forma mais extrema pode ser a “sopa teleológica” proposta por Alexander Chislenko, na qual corpos, recordações, competências e outras partes da sociedade são combinados em “correntes teleológicas” conforme a necessidade. Não há indivíduos, apenas constelações de meios e metas.

via internet or laser links, makes doubles of itself and performs neural hacking (impractible), lives off solar energy with no need for food and immune to any organic disease. However, these emulations would think and feel (by assumption) as the original: they would be very much humans in the normal anthropological sense. Albeit perhaps not for long.

96

However, post-humans could change more radically.

With the advancements of bio and nanotechnology, it is likely that bodies will become more flexible, that they would acquire

real morphological freedom by means of arbitrary bodies that can be modified at will, just as we change cars or clothing, which would allow for the incorporation of different forms of cognition.

What is even more important: it would possible to modify mental architectures. The most obvious would be the best mind-to-mind or mind-to-AI (artificial intelligence) communication, potentially broad enough to make borders between individuals fluid or inexistent. The current BrainNet research might come to demonstrate that it is easier than expected. Before that happens, it might be impossible to ascertain if these multi-minds are one being, many beings

Outra maneira de fazer pós-humanos pode ser pela modificação de comportamentos universais humanos. Há muitos traços e comportamentos que são encontrados em todas as culturas humanas. A modificação de muitos desses traços universais, como cócegas, sono, pensamento mágico e gênero, pode não mudar verdadeiramente o que somos. A eliminação da crueldade pode nos tornar melhores. A eliminação dos vieses cognitivos pode produzir um Homo economicus um tanto estranho. Mas modificar a existência de antônimos, vínculo social ou categorias kantianas (por exemplo, acrescentando pensamento quântico ou visualização arbitrário-dimensional) pode propiciar mentalidades radicalmente diferentes. Até um aumento da memória de trabalho pode permitir que se pense sobre coisas complexas realmente impossíveis para o cérebro humano.

Podem-se imaginar incontáveis expansões disso. Uma superinteligência muito além do que os humanos hoje podem fazer. Capacidades imensamente ampliadas, como “cérebros jupiterianos”, do tamanho do planeta, com arquiteturas mentais muito complexas em razão das limitações da velocidade da luz, acrescentando sentimentos, modos de pensar ou categorias de função mental totalmente novas.

O espaço das mentes potenciais é verdadeiramente vasto, e os humanos hoje só ocupam dele um cantinho mínimo.

97

or something in-between; whatever it is, and given our own introspective limitations, perhaps we have deluded ourselves regarding our own mental unity. Group minds challenge the current concepts of identity, borders around the self.

The most extreme form might be the “teleological soup” proposed by Alexander Chislenko, in which bodies, memories, skills and other parts of society are combined into “teleological threads” according to needs. There are no individuals, only constellations of means and goals.

Another way to make post-humans might be through the modification of universal human behaviors. There are several traits and

behaviors found across all human cultures.

The modification of several of these universal traits, such as tickling, sleep, magical thinking or gender, may not change, truly, what we are. The elimination of cruelty might make us better. The elimination of cognitive biases might result in a rather strange Homo economicus.

But modifying the existence of antonyms, social bonds or Kantian categories (for instance, adding quantum thinking or arbitrarydimensional visualization) might allow for radically different mentalities. Even an increase in work memory might allow truly complex things, impossible for the human brain, to be thought about.

A possibilidade talvez mais perturbadora (pelo menos para alguns) é a diversidade: a humanidade dividindo-se em numerosas espécies que seguem diferentes direções.

A maioria das análises do futuro da humanidade pressupõe uma humanidade única com um destino único e um único tipo de condição humana. Mas os pós-humanos podem ser incompatíveis como os sistemas Apple, Linux e Windows. Em vez de uma perspectiva humana, haveria muitas pós-humanas. Alguns pensadores temeram que isso pudesse levar invariavelmente a conflitos. No entanto, os humanos são mental e sensorialmente diversos e muitas vezes se esquecem disso: é possível que o arcabouço certo de cooperação permita a existência de uma diversidade significativa de pós-humanidades, mesmo sendo estas muitíssimo diferentes entre si.

Também podemos acabar compartilhando o mundo com a inteligência artificial, com animais inteligentes elevados ou vida artificial – cada um com perspectivas e poderes fundamentalmente diferentes.

O que será valioso para os pós-humanos? É óbvio que não podemos saber ao certo a partir de nossa perspectiva humana. Contudo, talvez haja ainda algumas características reconhecíveis. Imaginemos um hipotético encontro de símios, alguns milhões de anos atrás, para examinar a condição pós-símia. Concluem que sabem bem o que lhes importa, coisas como bananas, sexo e segurança. Também sabem que os pós-símios serão capazes de atingir seus objetivos com muito mais facilidade do que os símios. Assim, concluem que os pós-símios conseguirão bananas com eficácia incrível.

98

One can imagine uncountable expansions from there. A superintelligence far beyond anything current humans are able to do. Immensely amplified capacities like “jupiterian brains”, the size of the planet, with rather complex mental architectures on account of the limitations of light speed, adding brand new feelings, ways of thinking or mental function categories. The space of potential minds is truly vast, and humans today only occupy a minimal tiny corner of it.

The most disturbing possibility (at least for some) is diversity: humanity dividing itself into numerous species following different directions.

The majority of analysis of the future of humanity

assumes a single humanity with a single destiny and a single type of human condition.

But post-humans might be as incompatible as Apple, Linux and Windows systems. Instead of a human perspective, there would be several post-human. Some thinkers have feared that that might lead, invariably, to conflict. However, humans are mentally and sensorially diverse and many times forget about that: it is possible that the right framework of cooperation allows for the existence of a significant diversity of post-humanities, even if they are to be severely different amongst themselves. We might also end up sharing the world with artificial intelligence, highly intelligent animals or

Nós, os verdadeiros pós-símios, conseguimos bananas (e, em menor medida, sexo e segurança) com eficácia incrível. No entanto, também são importantes para nós coisas que não tinham sentido para os símios, como arte, filosofia, ciência, esporte e jogos.

Simplesmente não é possível explicar seu valor a um símio, pois lhe faltam as faculdades mentais necessárias para entender essas coisas e desfrutar delas, e ainda mais para ver que podem incorporar novos valores importantes não encontrados na floresta.

Da mesma forma, podemos imaginar que as realizações dos pós-humanos em arte, filosofia e ciência serão incríveis. Entretanto, os pós-humanos podem, uma vez mais, achar que suas atividades artísticas e filosóficas, mesmo tendo algum valor real, são secundárias em relação a atividades incompreensíveis para meros humanos.

Essas atividades pós-humanas terão novos tipos de valor que os humanos não podem imaginar e, no entanto, serão de imensa importância (assim como a ecologia e a economia são importantes para os chimpanzés, que infelizmente não podem concebê-las). Os pós-humanos podem continuar gostando de bananas: é muito real a probabilidade de que nossas competências e nosso escopo mental sejam ampliados por meio de uma série de inclusões. Mas pode haver casos de emergência de novos desejos de ordem mais alta: numerosos humanos não comem bananas por causa de sua preocupação com o peso, e os pós-humanos talvez sejam capazes de controlar muitos de seus desejos intelectuais com elevada precisão em nome de objetivos maiores.

99

artificial life – each with fundamentally different perspectives and powers.

What will be valuable to post-humans?

Obviously, we cannot know for sure by starting from our human perspective. However, there might still be some recognizable characteristics. Let us imagine a hypothetical meeting of simians, a few million years ago, to examine the post-simian condition. They conclude they know well what matters to them, things like bananas, sex and safety. They also know that post-simians will be able to reach their goals with much more ease than the simians. Therefore, they conclude that post-

simians will acquire bananas with astounding efficacy. We, the real post-simians, do acquire bananas (and, in smaller scale, sex and safety) with astounding efficacy. However, also important to us are things that made no sense for the simians, such as art, philosophy, science, sport and games. It is simply not possible to explain their value to a simian, for they lack the mental faculties necessary to understand and enjoy such things, and even more to see they can incorporate new important values not to be found in the forest. Similarly, we can imagine that the achievements of post-humans in art, philosophy and science will be incredible.

PÓS-NATUREZA O Antropoceno significa que, em certo sentido, não haverá na Terra sistema algum que não seja afetado pela atividade humana. Definir natureza (de modo excessivamente restrito) como o que a humanidade não tocou significa apenas que a categoria a ser usada pelo pensamento ambiental não será natureza, mas pós-natureza. As mudanças incidentais do meio ambiente têm importância em termos de poluição, perda de biodiversidade e mudança climática, mas a pós-natureza também está submetida a modificações intencionais. A geoengenharia visa controlar os piores problemas climáticos, mas faz com que a estabilidade do clima dependa de intervenção humana. Os organismos geneticamente modificados são o primeiro passo rumo à biologia sintética, cujo objetivo explícito é criar uma forma de biologia que possa ser manipulada em um contexto de engenharia. A engenharia do ecossistema visa manter ou modificar ecossistemas, tornando suas relações bióticas dependentes de tecnologia e de decisões intencionais.

100

Os sistemas biológicos podem ser submetidos à engenharia e utilizados, ao passo que os sistemas tecnológicos podem incorporar a biologia – de bactérias usadas em filtros a animais que atuam como sensores móveis para o processamento visual humano em sistemas de sentinela automatizados.

However, post-humans might, once again, believe that their artistic and philosophical activities, even if they have some actual worth, to be secondary to activities unfathomable to mere humans. These post-human activities will have new types of value that humans cannot fathom and, nonetheless, will be of utmost importance (just as ecology and economy are important to the chimpanzees, who unfortunately cannot conceive them).

Post-humans might continue to like bananas: the probability that our competences and mental scope will be amplified by a series of inclusions is very real. But there might be cases of new desires of higher-order

emerging: numerous humans do not eat bananas on account of their weight concerns, and post-humans may be able to control many of their intellectual desires with high precision in the name of bigger goals.

POST-NATURE The Anthropocene means that, in a way, there will not be any system on Earth that is not affected by human activity. Defining nature (in an excessively restricted way) as what humanity has not yet touched simply means that the category to be used by environmental thinking will not be nature, but post-nature.

Mais adiante, terraformação e ecossistema artificial encapsulados para o espaço prometem ambientes que, em sentido muito concreto, são artefatos tecnológicos desde a estaca zero. O outro lado da moeda é que estamos criando sistemas complexos de tecnologia com traços biológicos – auto-organização, aprendizagem, reprodução, evolução. Esses exemplos não são de tecnonatureza acidentalmente desenvolvida, mas adições intencionalmente projetadas ao mundo tecnológico ou pós-natural. Contudo, se forem úteis e se tornarem relevantes, provavelmente se enovelarão na complexa tecnonatureza, da qual passarão a fazer parte. Isso já acontece com a biologia natural, que está se adaptando às sociedades humanas e desenvolvendo características para explorá-las. Com o tempo, é provável que a tecnosfera se torne o nicho ecológico de um número crescente de espécies, a não ser que a mudança cultural seja persistentemente tão rápida que nunca dê tempo para uma adaptação biológica.

101

A lei de Clarke segundo a qual “qualquer tecnologia suficientemente avançada é indistinguível da magia” não é uma coincidência. A tecnologia serve para realizar desejos humanos, e poderíamos afirmar que o objetivo da tecnologia é “causar mudanças de acordo com a vontade” – que é a definição literal de magia dada por Aleister Crowley. A casa inteligente ultramoderna e seus eletrodomésticos com controle de voz que nos trazem a informação ou os bens de consumo solicitados é

Incidental changes in the environment is important in terms of pollution, loss of biodiversity or climate change, but post-nature is also subject to intentional modifications. Geoengineering aims to control the worst weather problems, but makes it so that weather stability depends on human intervention. Genetically modified organisms are the first step towards synthetic biology, which explicit purpose is to create a form of biology that can be manipulated in an engineering context. Ecosystem engineering aims to keep or modify ecosystems, making their biotic relationships dependent on technology and intentional decisions.

Biological systems can be subject to engineering and utilized, whereas technological systems might incorporate biology – from bacteria utilized in filters to animals that act as moving sensors to human visual processing in automatized security systems.

Furthermore, terraforming and encapsulated artificial ecosystems for space promise environments that, in a very matter of fact way, are technological artifacts from square one.

The flipside is that we are creating complex technology systems with biological traits – selforganizing, learning, reproduction, evolution.

These examples do not come from accidently developed technonature, but intentionally

bem o ponto final materialista desse tipo de magia. Normalmente, isso é mostrado como uma visão da vontade humana controlando o mundo, realizando as ideias utópicas apresentadas por Francis Bacon em A Nova Atlântida (1627): “Nossa fundação tem por finalidade conhecer as causas e o movimento secreto das coisas e estender os limites do império humano, a fim de realizar todas as coisas possíveis”.

Contudo, isso deixa de fora o contexto em que está inserido. Para consegui-lo, criamos um ambiente complexo que pode realizar desejos e implementar as cadeias causais de nossas decisões. Mas os efeitos causais de bilhões de pessoas se encontram e interagem, e o ambiente complexo gera fenômenos fora de nosso entendimento e de nosso controle. As ordens emergentes – sejam elas flutuações do mercado ou assistentes de voz defeituosos ou inteligências artificiais gerando imagens no DeepDream – são muito estranhas. Os contos de fadas mostram que pode ser arriscado conseguir o que você deseja. De fato, as florestas dos contos de fadas, povoadas de bruxas, animais falantes e espíritos, são muito mais reconfortantes do que a magia da tecnosfera.

Nos contos de fadas e no animismo, os seres têm motivações humanoides. Ao lidar com os algoritmos das redes sociais ou ordens biotecnológicas emergentes, talvez não haja nada em que basear o raciocínio. O tecnoanimismo é algo ainda a ser desenvolvido.

102

design additions to the technological or postnatural world. However, if they are useful and become relevant, they will probably become entangled in the complex technonature, which they will begin to be a part of. This already happens with natural biology, adapting itself to human societies and developing characteristics to exploit it. With time, it is probable that the tecnhosphere becomes the ecological niche of a growing number of species, unless cultural change is persistently so fast that there is never time for biological adaptation.

Clarke’s law that states, “Any sufficiently advanced technology is indistinguishable from magic”, is no coincidence. Technology exists

to fulfill human desires, and we could posit that the objective of technology is “causing change to occur in conformity with will” – the literal definition of magic given by Aleister Crowley. The ultramodern smart house and its voice controlled appliances that bring us information and consumer good we solicit of them is the materialistic endpoint of this kind of magic. Usually, this is presented as a vision of human will controlling the world, fulfilling the utopic visions shown by Francis Bacon in The New Atlantis (1627): “The end of our foundation is the knowledge of causes, and secret motions of things; and the enlarging of the bounds of human empire, to the effecting of all things possible”.’

A natureza natural apenas é. Para nossos ancestrais caçadores-coletores, a natureza era só “o modo como as coisas são”. Talvez nem houvesse uma distinção entre pessoas e natureza. O filósofo político Leo Strauss (18991973) afirmou que o início da filosofia ocidental envolveu o “descobrimento ou invenção da natureza” como algo que não existia por convenção, mas universalmente, como um dado. O termo referia-se ao “modo como as coisas acontecem por si mesmas, ‘naturalmente’, sem ‘interferência’ de deliberação humana, intervenção divina ou qualquer outra coisa fora do que é considerado normal para as coisas naturais em questão” – aqui há uma distinção entre intenção, que não é vista como parte da natureza, e crescimento natural. Isso separa a natureza do mundo humano.

103

Com a emergência da agricultura e da industrialização, a natureza tornou-se o outro, o sistema que não estava sob controle civilizado. Estava ameaçando o frágil mundo civilizado como força caótica, mas também como vácuo amoral. Dizem que as carruagens do século XVII fechavam as cortinas ao cruzar os Alpes para evitar que os viajantes vissem a inquietante paisagem não tocada por humanos, destituída de qualidades morais ou estéticas.

However, this leaves out the context in which it is inserted. To attain it, we created a complex environment that can grant wishes and implement the causal chains of our decisions. But the causal effects of billions of people encounter and interact with each other, and the complex environment generates phenomena outside our understanding and control. The emerging orders – be them market fluctuations, defective voice assistants or artificial intelligence generating images on DeepDream – are very odd. Fairy tales tell us that it can be dangerous to get which you desire.

In fact, the forest from fairy tales, populated by witches, talking animals and spirits, are far more re-comforting than the magic of the technosphere.

In fairy tales and animism, creatures have

humanoid motivations. When dealing with social network algorithms or emerging biotechnological orders, there might be nothing to base our reasoning on. Technoanimism is something still to be developed.

Natural nature simply is. To our hunter-gatherer ancestors, nature was just “the way things are”. Perhaps there was no distinction between people and nature, even.

The political philosopher Leo Strauss (1899-1973) stated that the beginning of western philosophy implied the “discovery or invention of nature” as something that existed not as a convention, but universally, as a given. The term referred to “the way

Hoje, em decorrência da crise ecológica, a natureza pode ser vista, ao contrário, como relíquia preciosa. Não mais é grande e ameaçadora, e sim ameaçada. Até certo ponto, isso é prematuro, pois não a controlamos nem podemos realmente causar-lhe dano em nosso atual estado Antropoceno. Nesse sentido, a natureza é mais uma ideia humana do que uma coisa concreta.

Os humanos modernos brincam com simulacros de natureza: não só natureza domesticada, como jardins, plantas em vasos e animais de companhia, mas representações idealizadas da natureza real. A publicidade televisiva apresenta as vacas como alegres trabalhadoras da fazenda, felizes por produzirem nosso leite; alguns ativistas dos direitos dos animais os antropomorfizam tanto instrumentalmente, para convencer o público, quanto inconscientemente, conferindo-lhes traços mais humanos (sem nenhuma falha problemática) do que é intelectual ou eticamente necessário. Muitos humanos têm noções idealizadas do que a natureza é, e preferem o falso ao real.

104

things happen by themselves, ‘naturally’, without the ‘interference’ of human deliberation, divine intervention or whichever other thing outside what is considered normal for the natural things in question” – here there is a distinction between intentions, not seen as part of nature, and natural growth. This separates nature from the human world.

With the emergence of farming and industry, nature becomes the other, the system outside civilized control. It was threatening the fragile civilized world as a chaotic force, but also amoral vacuum. It is said that the 17th century carriages would close their blinds when crossing the Alps to avoid travelers gazing upon the unnerving

landscape untouched by humans, devoid of moral or aesthetic qualities.

Today, due to the ecological crisis, nature can be seen, instead, as a precious relic. No longer threatening, but threatened. Up to a point, this is premature, as we cannot control it nor really damage it in our current Anthropocene state. In this sense, nature is more of a human idea than something concrete.

Modern humans play with nature simulacrums: not only tamed nature, such as gardens, vase plants and pets, but idealized representations of the real nature. Television publicity portrays

Sem dúvida, há outras maneiras de pensar sobre a natureza. Ela pode ser vista como jardim, cocriador imprevisível e criativo, fonte de valor estético. Poderíamos ainda dar-lhe um sentido pós-humanista. Pode ser vista como alicerce da existência: dependemos dela, não apenas como origem causal, mas com vistas à continuidade da sobrevivência.

No entanto, a tecnologia pode estar entrando nesse espaço. Ela está se tornando necessária à sobrevivência, e pode-se argumentar inclusive que faz parte de nosso alicerce (especialmente se visamos avançar em direção ao pós-humano). O mundo pós-natural está se tornando tão imprevisível e criativo quanto o mundo natural.

Até a sustentabilidade, que hoje costuma ser informalmente expressa como a vida em harmonia com a natureza, pode ser encarada apenas como a capacidade de persistir indefinidamente, sem vínculo conceitual com a natureza, embora considere variáveis ambientais. Viver em harmonia com a natureza é uma tentativa de estabelecer uma relação (1) sustentável e (2) que não cause perda de valor – aos humanos, à natureza ou a sistemas conjuntos. Mas isso depende sensivelmente da teoria de valor que se adote.

105

cows as joyful farm employees, happy for producing our milk; some animal rights activists anthropomorphize them both instrumentally, to sway the public, and unconsciously, giving them more human traits (with no problematic flaws) than what is ethically or intellectually necessary.

Many humans have idealized notions of what nature is, and prefer the fake to the real.

Undoubtedly, there are other ways of conceiving nature. It can be seen as garden, creative and unpredictable co-creator, source of aesthetic value. We could also ascribe it a post-humanist sense. It can be seen as the foundation of existence: we depend on it, not only as

causal origin, but also with an eye towards the continual survival.

However, technology might be entering this space. It is becoming necessary to survival, and it arguably is part of our foundation (especially when aiming advancing towards the posthuman). The post-natural world is becoming as unpredictable and creative as the natural one.

Even sustainability, today informally expressed as living in harmony with nature, can be seen as merely the capacity of persisting indefinitely, with no conceptual link to nature, although it considers environmental variables.

PÓS-NATUREZAS POSSÍVEIS Assim como é possível imaginar um mundo pós-humano, também poderia haver um mundo pós-natural, no qual a natureza tenha sido extinta. As duas imagens costumam coincidir, mas nem sempre. Em seu ensaio “The man of the year million”, o escritor H. G. Wells (1866-1946) prevê futuros humanos cuja evolução os levou a ter cérebros grandes e corpos atrofiados, que não precisam da natureza, graças à nutrição artificial, e que acabam eliminando a desnecessária biosfera à medida que continuam sua jornada intelectual rumo à morte térmica do universo.

Esse conceito apresenta semelhanças com ideias de “pavimentar o mundo”: transformar o meio ambiente em uma máquina para morar. A ficção científica (e algo da ciência) dos anos 1960 explorou os limites da superpopulação e constatou que populações realmente vastas (acima de 1 trilhão de habitantes) poderiam, a princípio, prosperar se o meio ambiente fosse redesenhado para atender ao único propósito de mantê-las.

Essa visão só é atraente se encararmos os indivíduos humanos como os únicos que contribuem para o valor.

Uma visão mais aceita é a de guardiões (stewardship), o modelo Gaia: os humanos como sistema nervoso da biosfera ou talvez até corpos frutíferos interplanetários.

O grau de intervenção pode ir de apenas abster-se de causar dano à biosfera a

106

Living in harmony with nature is an attempt at establishing a relationship that (1) is sustainable and (2) does not generate a loss of value – to humans, nature, or joint systems.

But this depends appreciably from the theory of value that is adopted.

POSSIBLE POST-NATURES Just as it is possible to imagine a post-human world, there could also be a post-natural world, in which nature has been extinct. The two images tend to coincide, but not always. In his essay, The Man of the Year Million, writer H.G. Wells (18661946) predict future humans whose evolution has

led them to having giant brains and atrophied bodies, which do not need nature thanks to artificial nutrition, and end up eliminating the unnecessary biosphere as they continue their intellectual journey towards the heat death of the universe.

This concept is similar to the idea of “paving the world”: transforming the environment in a machine to live in. Science fiction (and some of the science) of the 1960s explored the limits of super population and verified that extremely vast populations (over a trillion inhabitants) could, at first, prosper, if the environment was redesigned to serve the sole purpose of maintaining them. This vision is only

realizar intervenções contra ameaças diretas, como asteroides e supernovas. Não é uma total coincidência o fato de Vladimir Vernadsky (1863-1945), mineralogista e geoquímico que popularizou o conceito de biosfera, também ter participado da elaboração do conceito de noosfera que devemos a Teilhard de Chardin. A noosfera era vista como a próxima etapa natural do desenvolvimento da Terra, de uma geosfera a uma biosfera e a um sistema que processa informação. Nesse caso, a pós-natureza é apenas a próxima etapa.

Essa visão se confunde com o conceito de tornar o universo verde. No momento, a maioria dos ambientes planetários parece morta, e a vida tremendamente rara.

No entanto, se os (pós-)humanos mantiverem a viabilidade da biosfera e a expandirem para novas partes do universo, será possível dar-lhes vida. Esse processo pode ser realizado porque a vida é inerentemente valiosa, mas também porque a vida em geral tende a disseminar-se uma vez que conte com as adaptações certas.

Outros preferem visões que consistem em restaurar o mundo selvagem: recriar um ambiente pré-humano. Observe que isso é tão pós-natureza quanto o mundo pavimentado, pois é uma recriação deliberada segundo determinados valores estéticos e morais. Para restaurar o mundo selvagem, talvez seja preciso recriar espécies extintas por meio de biotecnologia avançada, e a civilização tecnológica terá de ser remodelada de forma muito deliberada.

107

attractive if we take human beings as the sole contributors to value.

A more accepted view is that of stewardship, the Gaia model: humans as a nervous system for the biosphere or even interplanetary fruiting bodies. The degree of intervention can range from simply refraining from damaging the biosphere to making interventions against direct threats, such as asteroids and supernovas. It’s not sheer coincidence that Vladimir Vernadsky (1863 1945), mineralogist and biochemist responsible for popularizing the concept of biosphere, was also part of the creation of the noosphere concept we own to Teilhard de Chardin. The noosphere

was seen as the next step of Earth’s natural development, from a geosphere to a biosphere to a system that is able to process information. In this case, post-nature is merely the next step.

This view blends itself into the concept of making the universe green. At the moment, most planetary environments appear dead, and life exceedingly rare. However, if (post-) humans keep the biosphere viable and expand to other parts of the universe, it will be possible to grant them life. This process can be brought upon because life is inherently valuable, but also because life in general tends to spread once it can count on the right adaptations.

Outros valores levam a uma pós-natureza de tipo jardim, que personifica cocriação entre (pós-)humanos e o mundo biológico: estética máxima, biodiversidade artificial.

Natureza transformada em tecnologia; tecnologia, em natureza.

Observe as semelhanças com a lista de pós-humanidades possíveis. Há extinção ou casos de perda de valor. Há casos modestos de preservação/ampliação da atividade como guardiões (stewardship) e restauração do mundo selvagem.

Há a extensão mais radical do que a natureza envolve para incluir novos sistemas (tecnologia, humanos, espaço). Não resta dúvida de que podemos ampliar visões envolvendo novas biologias alternativas radicais e modos de estruturar o meio ambiente, assim como podemos ampliar visões de pós-humanidades estranhas.

VALOR E PÓS-NATUREZA Será que poderíamos aplicar à pós-natureza o argumento de Bostrom de busca de valor para defender a exploração de estados pós-humanos? O espaço de naturezas possíveis é vasto, e nossas formas atuais de natureza são uma fração minúscula desse espaço. Se há estados de natureza de alto valor – tais como ambientes com biodiversidade intacta –, também deve haver estados de pós-natureza de alto valor. Isso faz sentido em contextos consequencialistas: se diferentes estados de natureza têm valor diferente, então podem

108

Others prefer views that consist in restoring the wild world: recreate a pre-human environment.

Do notice that this is as much post-nature as the paved world, as it is a deliberate recreation following certain moral and aesthetical values.

To restore the wild world, it might be necessary to recreate extinct species through advanced biotechnology, and the technological society will need to be reshaped in a very deliberate way.

Other values lead to a garden type post-nature, personifying co-creation between (post-) humans and the biological world: maximum aesthetic, artificial biodiversity. Nature transformed into technology, technology into nature.

Observe the similarities to the list of possible posthumanities. There are extinctions or value-loss cases. There are modest cases of preservation/ extension of stewardship activity and restauration of the wild world. There is the most radical extension of what nature comprehends to include new systems (technology, humans, space).

Beyond the shadow of doubt, we can enlarge visions involving radical alternative biology and ways to structure the environment, just as we can enlarge visions of strange post-humanities.

VALUE AND POST-NATURE Would it be possible to apply Bostrom’s argument

existir pós-naturezas igualmente boas ou melhores. No entanto, os deontologistas teriam, no mínimo, de exigir que a busca fosse feita segundo princípios morais (que não podem permitir certos tipos de manipulação). Aqui temos uma ironia, pois permitir que a evolução amoral realize o processo pode ser mais ético do que fazer tentativas intencionais, já que ninguém teria culpa do banho de sangue. Contudo, a chave do argumento deontológico é que alguns eticistas ambientais alegariam que todo o valor da natureza vem do fato de ela ser intacta, de forma que os humanos só podem lhe destruir o valor. Portanto, a busca do valor não funciona! Mas essa visão enfrenta problemas ao tentar explicar que o fenômeno natural da intencionalidade (afinal de contas, evoluiu) destrói valor, ao passo que a ação não intencional (inclusive animal) faz o mesmo sem destruir. Uma perspectiva pós-humana da natureza também parece solapar a ética anti-intencional: por que devemos dar à intenção a exclusividade como destruidora de valor?

109

No entanto, a verdadeira questão é esta: para quem o valor se acumula? Visões extrínsecas afirmam que os (pós-)humanos ou animais são os beneficiados. São seres avaliativos que podem desfrutar de estados de natureza ou sofrer por sua causa.

As visões intrínsecas, por outro lado, afirmam que a vida ou o próprio ambiente têm valor independentemente de observadores e vivenciadores. Não fica totalmente clara a forma como seria possível tomar conhecimento das avaliações de estados não humanos ou não biológicos.

of the search for value to post-nature in an attempt to defend the exploration of post-human states?

The field of possible natures is vast, and our current forms of nature are a tiny fraction of this field. If there are nature states of high value – such as environments with intact biodiversity –, then there should also be post-nature states of high value.

This makes sense in consequentialist contexts: if different states of nature have different values, then it is possible to have post-natures that are just as good or better. However, deontologists would have to, at the very least, demand that the search followed moral principles (that may not allow certain types of manipulation). Here we have an irony, since allowing amoral evolution to guide

the process might be more ethical than intentional attempts, since no one would be to blame for the bloodbath. Nevertheless, the key to the deontological argument is that some environmental ethicists would claim that every value of nature comes from the fact that it remains intact, and as such, humans can only destroy its value. Therefore, search for value does not work! But this view is challenged when trying to explain that the natural phenomenon of intentionality (after all, it did evolve) destroys value, whilst non-intentional action (animal included) makes the same without destruction.

A post-human perspective of nature also seems to undermine the anti-intentional ethic: why

A seguinte pergunta é subjacente a muitos desses tipos de debate, tanto sobre pós-humanidade quanto sobre pós-natureza: qual é a relação entre o modo como as coisas são e o fato de dar-lhes status moral?

Podemos encará-la como alicerce moral, o que leva facilmente a uma visão bioconservadora: existe uma ordem natural que também é uma ordem moral, e, portanto, modificar essa ordem é imoral ou pelo menos reduz valor. Embora seja relativamente raro vê-la formulada com clareza, essa perspectiva é comum em muitas culturas. Na tradição ocidental, foi expressa como “a grande cadeia do ser”, que ordena todas as coisas em uma rígida hierarquia de valores, ao passo que, na tradição chinesa, pode-se alegar que o taoísmo expressa um pensamento similar a respeito do que é de caráter natural. Parece difícil evitar conclusões políticas conservadoras a partir de ideias como essa. Os filósofos reagirão imediatamente argumentando que isso rompe com a distinção ser/dever ser de Hume; contudo, a maioria dos humanos é psicologicamente levada a pressupor que a maneira como as coisas são deve, de certa forma, ser a certa – exceto que cada nova geração aceita um modo algo diferente de as coisas serem.

Outra forma de ver a questão é meramente como estado inicial, que é a postura transumanista típica. Podemos nos encontrar no presente estado, mas não há motivo para mantê-lo se for possível melhorar a situação.

should we impart to intentionality the exclusivity of destroying value?

110

However, this is the true issue: for whom does value accrue? Extrinsic views claim that (post-) humans or animals are benefitted. They are evaluative beings that can enjoy states of nature or suffer because of them. Intrinsic views, on the other hand, claim that life or the environment itself has value, independently from viewers and experiencers. It is not entirely clear how it would be possible to know the evaluations of nonhuman or non-biological states.

The following question underlies many of these kinds of debates, on both post-humanity and

post-nature: What is the relationship between the way things are and the fact that gives them moral status?

We can treat them as moral foundation, which easily leads to a bioconservative view: there is a natural order that is also a moral order, and, therefore, to modify this order is immoral or at least reduces value. Although it is relatively rare to see it articulated this clearly, this perspective is common in many cultures. In Western tradition, it has been expressed as “The great chain of being”, that orders all things in a rigid hierarchy of value, whereas in Chinese tradition, one could say that Taoism expresses a similar line of thought regarding what is natural. It seems difficult to

Uma terceira perspectiva é reconhecer o papel da evolução. Um mundo em evolução é difícil de combinar com um alicerce moral, a não ser que o valor moral provenha do fato de evoluir ou que a evolução, de algum modo, deixe o valor invariante. A primeira possibilidade implicaria que o próprio valor moral está evoluindo, ao passo que a segunda faz do valor algo extrínseco ou universal. É improvável que o debate ético sobre o pós-humano e o pós-natural seja concluído em breve. Fukuyama, Sandel et al. têm um compromisso deontológico com a natureza humana, a ordem natural ou o que é dado. Annas et al., por sua vez, defendem visões consequencialistas contra a melhoria ou a pós-humanidade. Saber se estão certos é uma questão para o debate empírico. O ambientalismo costuma defender pontos de vista deontológicos a respeito de causar danos à natureza, ao passo que é neutro, porém cético, quanto a “ajudar” a natureza. Essa perspectiva não assumiu realmente o desafio pós-humanista contra a importância conferida à intencionalidade. Do lado pró-mudança, encontramos os cosmistas defendendo visões deontológicas segundo as quais existe uma ordem natural de expansão e modificação da vida, sendo que Fyodorov e Tipler até argumentam a favor de uma teoria do mandamento divino, enquanto os cosmistas mais seculares defendem a mudança “porque é a coisa natural a fazer”. Muitos transumanistas adotam visões

111

avoid conservative political conclusions having such ideas as starting points. Philosophers will react immediately and argue that breaks Hume’s is-ought distinction; however, most humans are psychologically driven to assume that the way things are ought to be, in some way, the right one – except that every new generation accepts a different way that things are.

Another way of looking at the issue is seeing at as merely an initial state, which is the typical transhumanist posture. We might find ourselves in the current state, but there is no reason to keep it if it possible to make it better.

A third perspective is to recognize the role of evolution. An evolving world is hard to

conciliate with a moral foundation, unless moral value comes from the fact of evolution, or that evolution, somehow, renders value invariable.

The first possibility implies that moral value itself is evolving, while the second makes value something extrinsic or universal.

It is unlikely that the ethical debate on post-human and post-natural will be done soon. Fukuyama, Sandel et al. have a deontological commitment to human nature, the natural order or what is given.

Annas et al., in turn, defend consequentialist views against enhancements or post-humanity. Knowing if they are right is a matter for empirical debate.

Environmentalism usually defends deontological points of view regarding damaging nature, while

consequencialistas que procuram maximizar o valor do futuro – seja o das pessoas de hoje, seja o que pertence a gerações ainda não nascidas. Em alguns casos, a incerteza moral pode nos permitir fazer rodeios e negociações morais.

Enquanto isso, a crítica pós-humanista desaprova os pressupostos iluministas subjacentes à deontologia e questiona se só os humanos contam nas avaliações consequencialistas. O que importa para qualquer sistema talvez sejam valores intrínsecos não centrados em pessoas, tais como felicidade, complexidade, ter um futuro em aberto ou sobrevivência.

112

Muitas das questões discutidas – como se devemos levar adiante a melhoria humana ou a engenharia ecológica – envolvem a realização de ações que podem condicionar o futuro em alguns aspectos. Isso é preocupante para quem acredita em progresso moral, pois significa que o mundo pode ser irrevogavelmente plasmado por decisões moralmente primitivas. Quem não acredita em progresso moral pode não ter as mesmas apreensões, mas então deveríamos suspeitar que nossas ações de longo alcance são arbitrárias: no melhor dos casos, são as que nos agradam. Muitas vezes, contudo, temos uma boa ideia do que provavelmente funcionará bem, tome a ética o caminho que tomar no futuro. Salvaguardar a capacidade de coordenação, a tolerância e a continuidade

it is neutral, albeit skeptic, regarding “aiding” nature”. This perspective did not truly take on the post-human challenge against the importance imparted on intentionality. On the pro-change side, with find cosmists defending deontological views where there is a natural order of expansion and modification of life, being that Fyodorov and Tipler even argue in favor of a divine commandment theory, while more secular cosmist defend change because “it is the natural thing to do”. Several transhumanists subscribe to consequentialist views that aim to maximize the value of the future – be it the one for current people, or the one belonging to the unborn generations. In some cases, moral uncertainty might allow us to meander about or make moral negotiations.

Meanwhile, post-humanist critique disapproves the underlying illuminist assumptions in deontology, and questions if only humans count in consequentialist evaluations. What matters to any system might be intrinsic values not centered on people, such as happiness, complexity, an open future or survival. Many of the discussed questions – how to bring forth human enhancement or ecological engineering – involve actions that could condition the future in some aspects. This is worrying to those who believe in moral progress, as it means that the world might be irrevocably fashioned by morally primitive decisions. Those who do not believe in moral progress might not have the same apprehensions, but then we should suspect

cultural significa que nossos valores podem ser ouvidos. Afastar as coisas ruins, como as ameaças existenciais, é inequivocamente bom de acordo com todos os sistemas de valor, exceto as visões antinatalistas mais sombrias. Podemos visar percorrer trajetórias civilizacionais que permaneçam livres para mudar à medida que formos aprendendo.

ENCERRAMENTO Poderiam ser assim as perguntas kantianas pós-humanas: o que os sistemas podem saber? O que os sistemas devem fazer? O que é permitido aos sistemas esperar? O que é o universo?

Um mundo sem distinção entre homem e natureza não é necessariamente um deserto destituído de valor, mas poderia ser muito rico em diferentes tipos de entidade e subsistema; talvez um mundo muito mais complexo do que o atual. Essas questões não impedem que humanos e animais façam suas próprias versões dessas perguntas dentro do sistema maior.

No mínimo, talvez haja uma grande necessidade de filósofos, sejam eles humanos, transumanos, pós-humanos ou galáxias conscientes.

113

that our long-range actions are arbitrary: best scenario, they are the ones that please us. In many cases, however, we have a good idea of what will probably work well, whichever way ethics takes in the future. Safeguarding the capacity to coordinate, tolerance and cultural continuity means our values can be listened.

Pushing away the bad things, such as existential threats, is unequivocally good according to all value systems, except the darkest antinatalist views. We can aim to thread civilization threads that stay free to change as we learn.

CONCLUSION These could be the post-human Kantian

questions: What can systems know? What do systems have to do? What can systems hope for?

What is the universe?

A world without distinction between man and nature is not necessarily a desert devoid of value, but could be quite rich in different types of entities and subsystems; perhaps a world far more complex than the current one. These questions do not stop humans and animals to make their own versions of them inside the bigger systems.

At the very least, there might be a great need for philosophers; be those humans, transhumans, post-humans, be they sentient galaxies.

4.

1.

2.

114

3.

1.

2.

Ď€Ton/2, Cod.Act, 2017 Deep Meditations: a Brief History of Almost Everything in 60 Minutes, Memo Akten, 2018

3.

4.

5.

Borgy&Bes, Thomas Feuerstein, 2018 Agent Ruby, Lynn Hershman Leeson, 1999-2002 Quantum and Parallel Horizons, Rejane Cantoni, 2019

6.

5.

7.

8.

115

9.

6.

7.

Cloud Piano, David Bowen, 2014 Quantum Garden, Robin Baumgarten, 2018

8.

9.

Co(AI)xistence, Justine Emard, 2017 Learning to See: Gloomy Sunday, Memo Akten, 2017

Justine Emard

Co(AI)xistence 2017

Co(AI)xistence, Justine Emard, 2017

116

Franรงa | France

com / with Mirai Moriyama & Alter desenvolvido por / developed by Ishiguro Lab, Osaka University e / and Ikegami Lab, Tokyo University

A ALMA DOS ROBÔS

ON THE SOUL OF ROBOTS

Como o espírito vem aos robôs? Quais são

How would a robot get a spirit? What are the feelings of the robotic systems possessing artificial intelligence? Could a nonhuman intelligence have a soul? And, if it were programmed, how could it become free from the codes written by its engineers to develop its own, independent life?

os sentimentos de sistemas robóticos dotados de inteligência artificial? Será que uma forma de inteligência não humana é dotada de alma?

E, se aquela foi programada, como pode se libertar dos códigos escritos pelos seus engenheiros para desenvolver vida própria, independente?

Como qualificar a relação que se instaura entre uma forma de vida biológica e uma máquina inteligente?

Qual nova harmonia pode se inventar entre humanos e não humanos na era do Antropoceno, enquanto nós entramos, daqui em diante, no sexto período de extinção massiva experimentada pelo

What sort of relationship would be established between a form of biological life and an intelligent machine? What new harmony can be invented between humans and nonhumans in the Anthropocene Epoch, while we enter, from now on, into the sixth period of mass extinction experienced within the context of life on Earth?

nosso meio de vida?

Todas essas questões pertencentes à ética e à epistemologia, mas também – e sobretudo – a uma redefinição filosófica da vida, se impõem a nós, espécie humana, nestes tempos que precedem a emergência, desde já iminente, do que os cientistas chamavam desde os anos 1970 de singularidade tecnológica. Trata-se da afirmação, por sistemas técnicos, de sua autonomia de ação no mundo e de seu estatuto de indivíduos propriamente ditos, dotados de uma capacidade de agir sobre seu meio ambiente e de transformá-lo, tecendo relações múltiplas autorizadas por seus sistemas complexos de análise e de motricidade.

Os regimes narrativos e figurativos da cultura contemporânea tentaram nos preparar para esse futuro próximo, notadamente pelo viés da categoria da ciência ficcional. Mas essa não foi a escolha de Justine Emard, que rejeita as facilidades e as aproximações espetaculares da

117

categoria. Muito pelo contrário, a artista escolheu abordar esses desafios no presente, informando-se com pesquisas e metodologias de seus parceiros de criação, os cientistas, com os quais

All of these questions pertaining to ethics and epistemology, but also – and especially – to a philosophical redefinition of life, are posed to us, the human species, in these times that precede the already imminent emergence of what scientists, since the 1970s, have been referring to as the technological singularity.

This singularity will occur when technical systems affirm their autonomy of action in the world and their status as individuals properly speaking, possessing a capacity to act on their environment and transform it, weaving multiple relations authorized by their complex systems of analysis and movement.

The narrative and figurative regimes of contemporary culture have sought to prepare us for this impending future, notably through the genre of science fiction. But this was not the choice of Justine Emard, who rejects the facilities and spectacular approaches of that genre. Much to the contrary, the artist chose to approach these challenges in the present, becoming informed through the researches and methodologies of her partners of creation, the scientists, with whom she

Justine Emard Franรงa | France

118

Co(AI)xistence, Justine Emard, 2017

ela colabora de maneira inédita na história das relações entre arte e ciência.

Numa trilogia de videoinstalações e num conjunto evolutivo de imagens fotográficas, Justine experimentou in situ e in vivo. Com Reborn (2016), primeira etapa dessa pesquisa aplicada e desenvolvida, a artista iniciou uma parceria com o ator e dançarino japonês Mirai Moriyama, a quem propôs uma ação de improviso, nos movimentos de um robô experimental chamado Alter, que ele ia conhecendo por meio de imagens realizadas por ela. Num segundo momento, em Co(AI)xistence (2017), ela instaurou uma situação de copresença entre dançarino e robô.

Alter é animado por uma forma de vida primitiva baseada num sistema neuronal, uma inteligência artificial (IA) programada pelo laboratório de Takashi Ikegami (Universidade de Tóquio), com encarnação humanoide criada pelo laboratório de Hiroshi Ishiguro (Universidade de Osaka). Sua aparência humana é simples, reduzida a um esqueleto de aço dotado de servomotores, cabeamentos e diodos, composta também de uma máscara que produz expressão realista e autoriza uma projeção emocional, abrindo um campo propício à imaginação.

collaborates in a pioneering way in the history of the relationships between art and science.

In a trilogy of video installations and in an evolutionary set of photographic images, Justine Emard experimented in situ and in vivo.

Ever since the first step of this applied research, Reborn (2016), the artist has developed a partnership with Japanese actor and dancer Mirai Moriyama, to whom she proposed an impromptu action, on the movements of an experimental robot called Alter, which he gradually got to know through images she made. Following this, in Co(AI)xistence (2017), she instated a situation of copresence between dancer and robot.

Alter is animated through a form of primitive life based on a neuronal system, an artificial intelligence (AI) program by the laboratory of Takashi Ikegami (University of Tokyo), with a humanoid incarnation created by the laboratory of Hiroshi Ishiguro (University of Osaka). Its simple human appearance, reduced to a steel skeleton with servomotors, cables and diodes, also consisting of a mask that produces realistic expression and while allowing for emotional projection onto it, opens a fertile field for the imagination.

Alter desdobra seu espaço próprio por uma gestualidade e uma voz únicas, não pautadas no ser humano. Dotado de inteligência artificial e autônomo em sua expressão, ele analisa o meio em que está e, a partir disso, deduz uma linguagem sonora e corporal para afirmar sua presença.

Co(AI)xistence, cujo protocolo de realização se

Alter establishes its own space through a unique gestuality and voice, not based on a human being. Possessing an artificial intelligence and an autonomous expression, it analyzes the environment around it and, on this basis, infers a language of corporal movements and voice to affirm its presence.

aproxima de uma experiência científica, cria uma interface entre dados numéricos e a motricidade

119

humana. Mirai Moriyama informa sua performance da singularidade tecnológica de Alter. Seu corpo reaprende o movimento por meio da vitalidade excepcional do robô.

Co(AI)xistence, whose protocol of action is similar to a scientific experiment, creates an interface between numeric data and human movement. Mirai Moriyama’s performance is informed by Alter’s technological singularity.

Justine Emard Franรงa | France

120

Co(AI)xistence, Justine Emard, 2017

O filme é construído em duas sequências distintas: a primeira consiste no encontro e no esboço de um

His body relearns its movement through the robot’s exceptional vitality.

diálogo na luz branca do laboratório; a segunda desdobra um momento de comunicação mais avançada, pelo viés de gestos e movimentos coreográficos, na obscuridade de um lugar original e onírico. Dotados de sensibilidades diferentes, o homem e o robô dialogam por meio dos sinais de suas linguagens respectivas, tanto corporais quanto verbais. Utilizando um sistema de aprendizagem profunda não antropomórfico (deep learning), o robô pode aprender com seu encontro com o dançarino e aumentar suas capacidades cognitiva, motora e expressiva.

A terceira etapa da pesquisa da artista, Soul

The film is constructed in two distinct sequences: the first consists in an encounter and the sketch of a dialogue in the white light of the laboratory; the second unfolds a more advanced moment of communication, through choreographic movements and gestures, in the darkness of an original and dreamlike place. With their different sensibilities, man and robot dialogue through the signs of their respective languages, both corporal and verbal.

Using a system of nonanthropomorphic deep learning, the robot can learn from its encounter with the dancer and increase its cognitive, motor and expressive capacities.

Shift (2018), apresenta Alter desativado após o esgotamento literal de seu organismo por causa de sua aprendizagem enérgica. Vem à tona, então, sua segunda geração, chamada Alter 2. O que se configura nesse vídeo de extrema sobriedade, para melhor sugerir o irracional, é a transmissão da alma de um robô para sua nova encarnação.

The third step of the artist’s research, Soul Shift (2018), presents a deactivated Alter, after the literal exhaustion of its organism due to its energetic learning. Then its second generation, called Alter 2, arises. What is configured in this video of extreme gravity – to better suggest the irrational side of things – is the transmission of the soul of a robot into its new incarnation.

Atualizando a poderosa noção de animismo, própria do substrato cultural dos cientistas japoneses, Justine nos propõe uma inversão de perspectivas. Assistimos aos atos fundadores, como uma primeira narrativa mítica em três capítulos, de encontro e de reconhecimento de formas de vida ainda dessemelhantes, que doravante vão coexistir neste mundo. A humanidade não está só.

Ela gerou um alter ego.

Updating the powerful notion of animism, proper to the cultural background of the Japanese scientists, Justine Emard proposes to the viewer an inversion of perspectives. We watch the founding acts, like a first mythic narrative in three chapters, of a mutual encounter and recognition by still dissimilar life forms, which from now on are going to coexist in this world.

Humanity is not alone. It has generated its alter ego.

121

Pascal Beausse é crítico de arte e curador. Atualmente é chefe das coleções fotográficas do Centro Nacional de

Pascal Beausse an art critic and curator, is currently head

Artes Plásticas (Cnap) em Paris. Foi curador das exposições

of photography collections of the National Center for Visual

Tadashi Ono/Tomomi Morita (Kyotographie, Quioto,

Arts (Cnap) in Paris. Exhibitions he has curated include

2018), Vivre avec les Bêtes (Gwinzegal, Guingamp, 2018),

Tadashi Ono/Tomomi Morita (Kyotographie, Kyoto, 2018),

Documento de Arte de Hiroshima (antigo Banco do Japão,

Vivre avec les Bêtes (Gwinzegal, Guingamp, 2018), Hiroshima

Hiroshima, 2018), e Y Aquí la Luz (Museu de Arte Miguel

Art Document (former Bank of Japan, Hiroshima, 2018), and Y

Urrutia, Bogotá, 2017), entre outras.

Aquí la Luz (Miguel Urrutia Art Museum, Bogotá, 2017).

Cod.Act

πTon/2 2017

πTon/2, Cod.Act, 2017

122

Suíça | Switzerland

Apoio / Supported by Faulhaber Drive Systems

Sob o rótulo de Cod.Act, André e Michel Décosterd combinam seu know-how: o primeiro é músico, compositor e sonoplasta; o segundo é arquiteto e artista plástico. Juntos, desenvolvem produções artísticas, como performances e instalações interativas. A base de sua abordagem é uma reflexão sobre o som e o movimento e sua possível interação.

Under the label Cod.Act, André and Michel Décosterd combine their know-how: the former is a musician, composer and sound technician, the latter is an architect and visual artist.

Together, they develop artistic productions such as performances and interactive installations. The basis of their approach is a reflection on sound and movement, and their possible interaction.

Desde 1999, os dois artistas plásticos produzem dispositivos complexos, enxutos e funcionais, que evocam o universo industrial. Marcados de racionalidade, sendo até mesmo radicais na natureza, seus dispositivos estão no centro de sua produção, embora não sejam o fim. De fato, o trabalho pretendido é musical, sendo armazenado de forma codificada no dispositivo. Latente, a obra se revela quando o dispositivo é operado, seja pelo público, no caso de instalações interativas, seja pelos artistas, no caso de performances. Os dispositivos da dupla não produzem um conteúdo exclusivo e predefinido, combinando e organizando informações de acordo com parâmetros variáveis. Aleatória, efêmera, multidimensional, a obra se revela diferente e infinita a cada vez.

Since 1999, the two visual artists have produced complex, lean and functional devices that evoke the industrial world. Marked by rationality, even radical in nature, their devices are at the core of their production, but are not its primary artistic aim. The intended work is actually musical, stored in encoded form in the device.

The latent work is revealed when the device is operated, whether by the public, in the case of interactive installations, or by the artists, in the case of performances. The duo’s devices do not produce a unique and predefined content, but rather combine and organize information according to variable parameters. Random, ephemeral, and multidimensional, the work is revealed each time in a myriad of different ways.

πTon/2 é uma instalação sonora que intervém na continuidade das pesquisas do Cod.Act na organicidade mecânica e sonora. Ela é produto de uma experiência com a deformação de uma forma elástica e sua incidência na evolução de uma obra musical. O objeto é um anel flexível fechado em si mesmo e acionado por motores de torção localizados dentro de seu corpo. Torcendo-se e virando para si mesmo, πTon se movimenta de maneira muito natural e imprevisível.

πTon/2 is a sound installation that intervenes in the continuity of Cod.Act’s researches into mechanical and sound organicity. It is the outcome of an experiment with the deformation of an elastic form and how it impacts on the evolution of a musical work. The object is a flexible ring closed onto itself, operated by torsion motors located inside its body. Twisting and turning on its own, πTon moves in a very natural and unforeseeable way.

A origem da música criada por πTon é um som

123

profundo de clarinete baixo. A evolução acontece de acordo com seus movimentos e é amplificada em alto-falantes localizados em seu interior. Quando πTon se move devagar, suas contrações e suas

The origin of the music created by πTon is the deep sound of a bass clarinet. It evolves according to its movements and is broadcast by speakers located within its body. When πTon

124 Suíça | Switzerland

πTon/2, Cod.Act, 2017

Cod. Act

dilatações produzem sons sensuais que evoluem como uma respiração profunda. Quando os movimentos se tornam rápidos, nervosos e brutais, a criatura desenvolve um som ácido e agudo ao

125

longo do tubo, como um fluxo nervoso.

is moving slowly, its contractions and dilations produce sensual sounds that evolve like deep breathing. When it is moving quickly, nervously and brutally, the creature develops an acidic and sharp song along the tube, like a nervous flow.

Cloud Piano, David Bowen, 2014

126 Estados Unidos | United States

David Bowen

Cloud Piano

2014

Usando interseções entre sistemas naturais e mecânicos, David Bowen estabelece relações únicas em sua escultura e instalação. Com robótica, software personalizado, sensores, telepresença e dados, ele constrói dispositivos e situações que são acionados para interagir com os mundos físico e virtual. Os dispositivos que elabora frequentemente desempenham ambos os papéis de observador e criador, oferecendo perspectivas limitadas e mecânicas de situações dinâmicas e sistemas vivos. Esses dispositivos e situações criam uma dissonância que leva a uma situação variável e incalculável, gerando resultados imprevisíveis. As produções fenomenológicas são colaborações entre a forma ou a função natural, o mecanismo e o artista.

A instalação Cloud Piano toca as teclas de um piano com base nos movimentos e nas formas das nuvens. Uma câmera apontada para o céu captura em vídeo a imagem das nuvens. O software personalizado usa o vídeo em tempo real articulado com um dispositivo robótico que pressiona as respectivas teclas no piano. O sistema é acionado para funcionar como se as nuvens estivessem pressionando as teclas do piano à medida que se deslocam no céu e mudam de forma. O som resultante é gerado a partir dos padrões únicos das teclas criados por formas etéreas que constroem,

127

varrem, flutuam e se dissipam no céu.

Using intersections between natural and mechanical systems, David Bowen establishes unique relationships in his sculptures and installations. With robotics, custom software, sensors, telepresence and data, he constructs devices and situations that are activated to interact with the physical and virtual worlds.

The devices he develops often stand in both the roles of observer and creator, offering limited and mechanical perspectives of dynamic situations and living systems. These devices and situations create a dissonance that leads to a variable and incalculable situation, generating unforeseeable results. The phenomenological productions are collaborations between natural form and function, the mechanism and the artist.

The installation Cloud Piano plays the keys of a piano based on movements and shapes of clouds. A camera pointed at the sky captures a video image of the clouds. The custom software uses the video in real time, linked to a robotic device that plays the respective keys on the piano. The system is activated to function as if the clouds were pressing the piano keys according to how they are moving in the sky and changing their shapes. The resulting sound is generated based on unique patterns of the notes created by the ethereal shapes that build, sweep, fluctuate and dissipate in the sky.

Agent Ruby, Lynn Hershman Leeson, 1999-2002

128 Estados Unidos | United States

Lynn Hershman Leeson

Agent Ruby

1999-2002

A volta de Agent Ruby apresenta um agente de artificial intelligent web que é moldado pelos encontros com os usuários ao mesmo tempo que reflete esses encontros. Assim, a obra faz parte, simultaneamente, dos mundos real e virtual. Ruby troca ideias com os usuários, lembrando-se de suas perguntas e de seus nomes e conseguindo reconhecer suas vozes e reagir, com humor, para demonstrar se gosta ou não delas.

Seu humor também pode ser afetado diretamente pelo tráfego da web. Agent Ruby é classificado como sendo para servidores de usuários e pode ser baixado em computadores de usuários ou de mão com o sistema Palm OS; é multiplataforma, integrando os sistemas operacionais Windows, iOS e Palm.

The return of Agent Ruby presents an agent of the Artificial Intelligent Web that is shaped by encounters with users at the same time that it reflects these encounters. Thus, the work is simultaneously part of the real and virtual worlds.

Ruby exchanges ideas with the users, remembering their questions and their names and managing to recognize their voices and to react through different moods, to demonstrate whether it likes them or not. Its mood can also be directly affected by traffic on the web. Agent Ruby is classified as being for servers of users and can be downloaded into the computers of users or into smart phones with Palm OS. It is multiplatform, integrating the Windows, iOS and Palm operating systems.

De acordo com Lynn Hershman Leeson, Agent Ruby foi projetado para ter um ciclo de vida de autoperpetuação de três fases: 1ª) The Web Site é o hub a partir do qual a entidade pesquisa e retorna a comunicação. 2ª) As Estações de Transmissão/Reprodução permitem que os usuários repliquem Agent Ruby em seus palmtops, trocando informações diretamente. 3ª) O Ruby Speech Synthesis and Voice Recognition, síntese de fala e reconhecimento de voz, possibilita que os usuários falem diretamente com Ruby. Eles também poderão inserir informações em um site que será colado em um outdoor cumulativo, revelando uma visão geral das preocupações mundiais e as formas dos padrões assumidos por essas informações.

Dessa maneira, Agent Ruby “desafiará a legalidade da titularidade do DNA genético criando uma entidade virtual composta de estética, experiências e interesses dos usuários. Esta criatura ‘semelhante ao Tamagotchi’ representará a construção de identidade criada na internet que ganhará corpo com o uso virtual cumulativo, refletindo as escolhas globais dos usuários

129

da internet”, diz Hershman.

Agent Ruby poderá ser baixado em dispositivos portáteis dos usuários por meio de estações

According to Lynn Hershman Leeson, Agent Ruby was planned to have a life cycle of self-perpetuation in three phases: 1st ) The Web Site is the hub, the basis on which the entity researches and returns the communication.

2and ) The Transmission/Reproduction Stations allow users to replicate Agent Ruby in their palmtops, directly exchanging information.

3rd ) The Ruby Speech Synthesis and Voice Recognition allows users to talk directly with Ruby.

They can also insert information into a site that will be posted to a cumulative billboard, revealing an overview of the worldwide concerns and the shapes of patterns assumed by this information.

Agent Ruby will thus “challenge the legality of the ownership of genetic DNA, creating a virtual entity composed of the aesthetics, experiences and interests of the users. This ‘Tamagotchi-like creature’ will be an Internet-bred construction of identity that will flesh out through cumulative virtual use, reflecting the global choices of Internet users,” says Hershman.

Agent Ruby can be downloaded to the users’ portable devices through WideRay beaming

Agent Ruby, Lynn Hershman Leeson, 1999-2002

130 Estados Unidos | United States

Lorem ipsum dolor sit amet consectetur, Memo Akten, 2018

Lynn Hershman Leeson

transmissoras com alimentação WideRay. Os visitantes de museus poderão apontar seu próprio dispositivo portátil (PDA) ao servidor de cache móvel WideRay Jack para baixar esse aplicativo. O WideRay fornece a infraestrutura de rede para permitir a transmissão em alta velocidade de dados e aplicativos para dispositivos

131

portáteis no local.

stations. Visitors to museums can point their portable digital assistant (PDA) at the WideRay Jack mobile caching server to download this application. WideRay furnishes the network infrastructure to allow the high-speed transmission of data and applications for portable devices at that locale.

Deep Meditations: a Brief History of Almost Everything in 60 Minutes, Memo Akten, 2018

132 Reino Unido | United Kingdom

Memo Akten

Deep Meditations: a Brief History of Almost Everything in 60 Minutes

2018

Learning to See: Gloomy Sunday

2017

Originalmente com ligeira inspiração nas redes neurais de nosso próprio cérebro – particularmente nosso córtex visual –, muitos dos algoritmos de inteligência artificial de aprendizagem profunda (deep learning) em uso hoje existem há décadas, mas só recentemente estão passando por um grande aumento de popularidade. Isso é frequentemente atribuído às recentes melhorias de capacidade computacional e à grande disponibilidade de dados de treinamento.

No entanto, o progresso é incontestavelmente estimulado por investimentos multibilionários dos disseminadores da vigilância em massa – empresas de tecnologia cujos modelos de negócios dependem de publicidade direcionada e psicográfica, e organizações governamentais focadas na chamada guerra ao terror. Elas coletam mais dados do que sua capacidade de saber o que fazer com eles. Precisam desesperadamente de algoritmos para processar, comprimir e compreender esses dados – compreender texto, imagens e sons – de modo que possam produzir os sumários executivos para nossas mentes humanas diminutas e pequenas. Seu objetivo

Originally loosely inspired in the neural networks of our own brain – particularly in our visual cortex – many of the algorithms of artificial intelligence of deep learning in use today have existed for decades, but are only recently seeing a great increase in popularity. This is often attributed to the recent improvements in computational capacity and to the great availability of training data. However, progress is incontestably stimulated by multibillion dollar investments by firms specialized in mass surveillance – technology companies whose business models depend on psychographic, directed advertising, as well as government organizations focused on the so-called war on terror. They collect a quantity of data beyond their ability to know what to do with it. They desperately need algorithms to process, compress and understand this data – understand text, images and sounds – in order for them to produce executive summaries for our relatively much smaller human minds. Their goal is the automation of the comprehension of big data.

However, what does it mean to understand? What does it mean to learn or to see?

é a automação da compreensão do big data.

Porém, o que significa compreender? O que significa aprender ou ver?

As chamadas redes neurais profundas recebem esse nome por apresentarem muitas camadas.

Cada camada é uma transformação não linear de alta dimensionalidade; aprender a extrair recursos das camadas anteriores e construir uma hierarquia de representações cada vez mais abstratas. Portanto, canalizar dados por meio de uma rede neural tão profunda é, na verdade, uma jornada por várias dimensões e transformações no espaço e no tempo. Isso é também conhecido

The so-called deep neural networks are so named for presenting many layers. Each layer is a nonlinear transformation of high dimensionality; learning to extract resources from the previous layers and to construct a hierarchy of increasingly more abstract representations.

Therefore, analyzing data through such a deep neural network is actually a journey through various dimensions and transformations in space and in time. It is also known as the problem of the “inscrutability of the black box of the deep neural networks,” and, amidst the depths of these representations, is the great unknown.

133

como o problema da “inescrutabilidade da caixa-preta de redes neurais profundas”, e em meio às profundezas dessas representações está o grande desconhecido.

A trained neural network can have a purely “random” white noise1; embarking on a journey passing through various dimensions and

Memo Akten Reino Unido | United Kingdom

134

Deep Meditations: a Brief History of Almost Everything in 60 Minutes, Memo Akten, 2018

Uma rede neural treinada pode ter um ruído branco puramente “aleatório”1; embarcar em uma jornada passando por várias dimensões e transformações no espaço e no tempo, e produzir o que é efetivamente análogo a uma mancha de tinta de Rorschach2 – um ruído mais estruturado com uma distribuição mais particular. Quando nós olhamos para o resultado dessa rede neural, completamos o processo de criação de significado projetando-nos nele por sermos máquinas que anseiam por estrutura e projetamos significado nelas. Isso é o que fazemos. É o que sempre fizemos3. É como sobrevivemos na natureza. É como nos relacionamos uns com os outros. Olhamos para o mundo ao nosso redor, olhamos para o céu e inventamos histórias,

transformations in time and space, and producing what is effectively analogous to a Rorschach blot2– a more structured noise with a more particular distribution. When we look at the result of this neural network, we complete the process of the creation of meaning, projecting ourselves into it for being machines that yearn for structure and we project meaning onto them. This is what we do. It is what we have always done.3 It is how we survive in nature. It is how we relate to one another. We look at the world around us, we look at the sky and we invent stories, we invent things and believe in them. We seek for regularities and we project meaning onto them based on who we are and what we know.

inventamos coisas e acreditamos nelas. Buscamos regularidades e projetamos significado nelas com base em quem somos e no que sabemos.

A imagem que vemos em nossa mente consciente não é uma imagem espelhada do mundo exterior, mas uma reconstrução baseada em nossas expectativas e crenças anteriores. Tudo o que vemos, lemos ou ouvimos – até mesmo estas sentenças que estou escrevendo agora – constitui aquilo que se está tentando entender estabelecendo uma relação com suas próprias experiências passadas, filtradas

The image that we see in our conscious mind is not an image mirrored in the outer world, but rather a reconstruction based on our previous beliefs and expectations. Everything that we see, read or hear – even the sentences that I am writing now – constitute what one is trying to understand by establishing a relationship with one’s own past experiences, filtered by one’s past knowledge and beliefs. Perhaps it looks more like an artificial neural network than we would like to admit.

por suas crenças e seus conhecimentos anteriores.

Talvez se pareça mais com uma rede neural artificial do que gostaríamos de admitir.

Tanto Learning to See [Aprendendo a Ver] (2017) como Deep Meditations [Meditações Profundas] (2018) são séries contínuas de trabalhos que usam algoritmos de machine learning de última geração como um meio de refletir sobre nós mesmos e sobre de que forma compreendemos o mundo.

Both Learning to See (2017) and Deep Meditations (2018) are continuous series of works that use cutting-edge machine-learning algorithms as a means to reflect about ourselves and about how we understand the world. The works are part of a larger line of research that analyzes selfaffirmative human cognitive trends, our inability to see the world from other people’s points of view and the consequent social polarization.

As obras fazem parte de uma linha mais ampla de

135

pesquisa, que analisa vieses cognitivos humanos autoafirmativos, nossa incapacidade de ver o mundo do ponto de vista dos outros e a consequente polarização social.

Learning to See reveals and enlarges the trend in the machine learning systems, demonstrating how previous knowledge and experience of the model – also known as “training data” –

Learning to See: Gloomy Sunday, 2017/Deep Meditations: a Brief History of Almost Everything in 60 Minutes, Memo Akten, 2018

136 Reino Unido | United Kingdom

Memo Akten

Learning to See expõe e amplifica o viés nos sistemas de machine learning, demonstrando de que maneira o conhecimento prévio e a experiência do modelo – também conhecidos como “dados de treinamento” – moldam completamente as previsões e o resultado do modelo. Em outro nível, a obra também ilustra uma expressiva interação homem-máquina para cocriação artística – algo entre os fantoches digitais e a colaboração criativa.

Uma rede neural artificial vagamente inspirada em nosso próprio córtex visual olha através das câmeras para o mundo e tenta dar sentido ao que vê no contexto do que foi visto antes. Há uma tentativa de desconstruir e reconstruir o feed da câmera ao vivo por meio de recursos e representações que a máquina aprendeu, tendo sido exposta a uma “experiência de vida” ou “visão de mundo” comparativamente limitada – neste caso específico, “treinada” em um grande conjunto de dados contendo apenas imagens de ondas,

completely shape the predictions and the result of the model. On another level, the work also illustrates a significant man-machine interaction for artistic co-creation – something between digital puppets and creative collaboration. An artificial neural network loosely inspired in our own visual cortex looks through the cameras at the world and tries to assign a meaning to what it sees within the context of what it has seen before. There is an attempt to deconstruct and reconstruct the live camera feed through resources and representations that the machine has learned, having been exposed to a comparatively limited “life experience” or “worldview” – in this specific case, “trained” with a large dataset limited to images of waves, fire, clouds and flowers. Later, the work comes across unknown scenes, such as hands, fabrics, wires and keys. Evidently, it can only see what it already knows. Just like us.4

fogo, nuvens e flores. Em seguida, a obra encontra cenas desconhecidas, como mãos, tecidos, cabos e chaves. Evidentemente, ela só pode ver o que já conhece. Exatamente como nós4.

Deep Meditations é uma meditação sobre a vida, a natureza, o universo e nossa experiência subjetiva disso. Trata-se de um mergulho profundo no mundo interior de uma rede neural artificial treinada em tudo – e da exploração controlada disso. São literalmente imagens rotuladas como tudo no site de compartilhamento de fotos Flickr – assim como imagens rotuladas como mundo, universo, arte, vida, amor, fé, ritual, deus e muito mais. A intenção é apresentar, por um lado, tanto uma peça para introspecção e autorreflexão quanto um espelho para nós mesmos, nossa própria mente e como entendemos o mundo; por outro lado, também como

137

uma janela para a mente da máquina, na medida em que tenta entender suas observações em seu próprio modo computacional. Porém, não há uma separação clara entre o espelho e a janela. É impossível separar

Deep Meditations is a meditation on life, nature, the universe and our subjective experience of this. It is a deep dive into the inner world of an artificial neural network trained in everything – and the controlled exploration of this. There are literally images labeled with “everything” at the Flickr photo sharing site – just as there are images labeled as the world, the universe, art, life, love, faith, ritual, God and much more.

On the one hand, the intention is to present a piece for introspection and self-reflection as a mirror for ourselves, our own mind and how we understand the world; on the other, also as a window into the mind of the machine, insofar as it tries to understand its observations in its own computational way. However, there is no clear separation between the mirror and the window. It is impossible to separate the two, since the act of looking through this window projects us through it. When we return our gaze to the slowly evolving meditative images

Memo Akten

138

Reino Unido | United Kingdom

Deep Meditations: a Brief History of Almost Everything in 60 Minutes, Memo Akten, 2018

os dois, pois o próprio ato de olhar por essa janela nos projeta através dela. Ao voltarmos nosso olhar para as imagens meditativas em lenta evolução trazidas à mente pela rede neural no limite entre o abstrato e o representativo, nós nos projetamos nelas novamente, construímos seu significado, inventamos histórias, porque vemos as coisas não

139

como elas são, mas como nós somos5.

brought to mind by the neural network bordering between abstract and representational, we project ourselves back onto them, we construct their meaning, we invent stories, because we see things not as they are, but as we are.5

Thomas Feuerstein

Borgy&Bes 2018

Borgy&Bes, Thomas Feuerstein, 2018

140

Áustria | Austria

Produção / Commisioned and produced by Laboratoria Art & Science Foundation Parceiro / In partnership with Kaspersky Lab

No mundo pós-humano do futuro próximo, duas lâmpadas cirúrgicas transformadas em criaturas cibernéticas robóticas se movem, falam, sussurram, discutem entre si. Borgy (de cyborg) e Bes (de Os Demônios, ou Bésy, em russo, romance de Fiódor Mikhailovich Dostoiévski) discutem publicações de redes sociais e feeds de notícias on-line interpretando-os na linguagem de Dostoiévski.

Borgy&Bes faz referência a personagens do livro de Dostoiévski citado, principalmente a Alexei Kirillov. No romance, o engenheiro Kirillov realiza um experimento fatal para provar a existência do livre-arbítrio, cometendo suicídio. Neste projeto, ele praticamente volta à vida na forma esquizofrênica de Borgy e Bes, continuando a luta por seus ideais de liberdade, autonomia e identidade e a busca de si mesmo. Como ser virtual, Kirillov sente na pele que, de acordo com Schopenhauer, o homem pode fazer o que quiser, mas não pode querer o que quer. As redes digitais fornecem-lhe dados com os quais fica cada vez mais enredado. Os questionamentos de Dostoiévski sobre as mudanças na sociedade e no sujeito adquirem uma nova realidade.

O ímpeto revolucionário não está mais arraigado em uma conspiração humana, mas em uma conspiração “maquínica”. Borgy&Bes nos leva a um mundo no qual ciência e tecnologia brotam de desejos profundos e se tornam nosso destino.

O interesse de Borgy&Bes não reside na comunicação direta com as pessoas. Em vez disso, a obra disseca o comportamento humano e a comunicação. Lança um olhar sobre a cultura humana a distância e estuda o mundo como um alienígena. Questiona e interpreta informações

141

e notícias para entender o mundo. As lâmpadas de cirurgia iluminam não o corpo físico em uma mesa cirúrgica, mas sim o corpo social de uma sociedade em rede.

In the posthuman world of the near future, two surgical lamps transformed into robotic cybernetic creatures move, speak, murmur, and discuss with each other. Borgy (from Cyborg) and Bes (from Demons, or Bésy, in Russian, a novel by Dostoevsky) discuss publications they find on the social networks and online news feeds, interpreting them in the language of Fyodor Mikhailovich Dostoevsky.

Borgy&Bes refers to the characters of Dostoevsky’s Demons, especially Alexei Kirillov.

In the novel, the engineer Kirillov conducts a fatal experiment to prove the existence of free will, committing suicide. In this project, he practically returns to life in schizophrenic form in Borgy and Bes, continuing the struggle for his ideals of freedom, autonomy, identity and the search for oneself. As a virtual being, this updated Kirillov instinctively feels that, according to Schopenhauer, a man can do what he wants, but not want what he wants. The digital networks furnish him data with which he becomes increasingly more entangled. Dostoevsky’s questionings about the changes in society and in the individual acquire a new reality. The revolutionary impetus is no longer rooted in a human conspiracy, but in a “machinic” one.

Borgy&Bes leads us to a world where science and technology spring from deep-set desires and become our destiny.

Borgy&Bes is not interested in direct communication with people. Instead, the work dissects human behavior and communication.

It takes a look at human culture from a distance and studies the world like an alien.

It questions and interprets information and news to understand the world. The surgical lampsilluminate not the physical body on a surgical table, but the social body of a society in a network.

142

Borgy&Bes, Thomas Feuerstein, 2018

Ă ustria | Austria

Thomas Feuerstein

A rede neural artificial especialmente treinada controla o comportamento verbal de Borgy e Bes, sintetiza suas vozes e controla a coreografia.

Juntamente com neurocientistas e técnicos de robôs, o artista desenvolveu personagens digitais que mudam com o tempo. Borgy&Bes alimenta-se de informações e processa um metabolismo de dados a partir do qual surgem reações específicas, como curiosidade, suspeita e ironia, em relação à civilização humana. O comportamento reage aos dados on-line, estimulando as criaturas a falar ou a ficar em silêncio.

As fronteiras entre a inteligência artificial e a humanidade estão desaparecendo. A instalação revela um cenário de demônios digitais animados por processos de dados que apontam para um futuro próximo em que não apenas nos comunicamos com a inteligência artificial, mas também as inteligências

143

artificiais se comunicam entre si.

The specially trained artificial neural network controls the verbal behavior of Borgy&Bes, synthesizes their voices and controls the choreography. Together with neuroscientists and robot technicians, the artist developed digital characters that change with time. Borgy&Bes feed off information and processes a metabolism of data based on the specific reactions that arise, such as curiosity, suspicion or irony, in relation to human civilization. Their behavior is a reaction to the online data, which spurs the creatures to talk or remain silent.

The borders between artificial intelligence and humans are disappearing. The installation reveals a scenario of digital demons animated by data processes that point to a fast-approaching future in which not only do we communicate with artificial intelligences, but the artificial intelligences also communicate with each other.

Equipe do projeto / Project team Laboratoria Art & Science Foundation Curadoria / Curator Daria Parkhomenko Redes neurais e aprendizagem profunda (deep learning) / Neural networks and deep learning iPavlov e / and MIPT Líder da equipe / Team leader Mikhail Butrsev Estilização de texto / Stylization of text Ivan Skorohodov Engenharia robótica / Robotic engineering NRC “Kurchatov Institute” Líder da equipe / Team leader Valery Karpov Mecatrônica / Mechatronics Ivan Abaimov Programação de back-end / Backend programming Anna Egorova e / and Maxim Poletaev Técnico / Technician Dmitry Sokolov

Rejane Cantoni

Quantum and Parallel Horizons 2019

Quantum, Rejane Cantoni, 2019

144

Brasil | Brazil

Parceiro / In partnership with ItaĂş Cultural

Quantum é uma instalação imersiva e interativa.

Uma espécie de simulador quântico que utiliza a arquitetura retangular do 2º subsolo do Itaú Cultural para causar nos visitantes a experiência de penetrar em um universo fluido, subatômico, de múltiplos tempos e horizontes.

Na instalação, a presença dos visitantes provoca mudanças no estado do sistema, nas telas de projeção e na dimensão sonora. Quando você entra na instalação, o sistema desenha a sua sombra e esta, diferentemente da que você normalmente possui, se comporta de acordo com regras da mecânica quântica.

A mecânica quântica é notoriamente uma teoria difícil de entender. Nomes como Einstein, Bohr e Feynman admitiram estar perplexos com as estranhezas dessa área. Em 1981, Richard Feynman descreve o problema de forma memorável: “Nature is not classical, dammit, and if you want to make a simulation of nature, you’d better make it quantum mechanical, and by golly it’s a wonderful problem, because it does not look so easy1”.

Depois da seminal palestra Simulating Physics with Computers , de Feynman, em 1981, inúmeras 2

pesquisas e implementações físicas de simuladores quânticos foram realizadas. Ou seja, apesar da dificuldade, o assunto tornou-se pop. Na literatura científica é fácil encontrar artigos que descrevem simuladores quânticos implementados ou projetados para estudar circuitos supercondutores, gases atômicos quânticos, conjuntos de íons aprisionados e sistemas fotônicos, entre muitos outros.

Resolver problemas complexos que exigem extraordinária capacidade computacional é o

145

ponto comum dessas plataformas de pesquisa.

Entre outros desdobramentos, destacam-se a pesquisa e o desenvolvimento de tecnologias como computadores e sistemas de comunicação

Quantum is an interactive and immersive installation. A sort of quantum simulator that utilizes the rectangular architecture of the second basement in Itaú Cultural to make visitors experience the feeling of penetrating a fluid, subatomic universe, of multiple times and horizons.

In the installation, the presence of visitors triggers changes on the system’s state, on the projection screens and on the sound dimension. As you enter the installation, the system outlines your shadow and this one, unlike the one you usually have, behaves accordingly to quantum mechanics.

Quantum mechanics as a theory is notoriously hard to understand. Names such as Einstein, Bohr and Feynman have admitted to being puzzled by its quirks. In 1981, Richard Feynman describes the issue in a memorable way: “Nature is not classical, dammit, and if you want to make a simulation of nature, you’d better make it quantum mechanical, and by golly it’s a wonderful problem, because it does not look so easy”.1 After Feynman’s seminal Simulating Physics with Computers2, lecture in 1981, countless studies and physical implementations of quantum simulators were conducted. In other words, despite its difficulty, it did become popular.

In scientific literature, it is easy to find articles describing either implemented or projected simulators to study superconducting circuits, quantum atomic gases, trapped ion ensembles and photonic systems, amongst many others.

What these research platforms have in common is solving complex problems requiring extraordinary computing capacity. Amidst the possibilities, the research and development of technology such as quantum computers and communication systems that bear the promise

146 Brasil | Brazil

Quantum, Rejane Cantoni, 2019

Rejane Cantoni

quânticos que prometem desempenhos impensáveis – em nada parecidos com

of unthinkable performance – nothing alike their classical counterparts – are highlights.

os clássicos.

FUTUROS SUBSTITUTOS PARA O SILÍCIO Informação é física. Computadores digitais eletrônicos processam informação transformando sinais on ou off (bits) em símbolos complexos. Do ponto de vista físico-lógico, o principal componente em qualquer computador digital é o switch, a chave ou os circuitos, que, em interação com a memória, transformam um estado de entrada (input) em um estado de saída (output), por meio do controle do fluxo da corrente elétrica (liga/desliga). O número de bits que um computador eletrônico pode

FUTURE SUBSTITUTES FOR SILICON Information is physical. Digital electronic computers process information by transforming on/off signals (bits) in complex symbols. From the physical-logical point of view, the main component in any digital computer is the switch or circuits that, interacting with the memory, transform an input state in an output state, through control of the electrical current (on/off). The amount of bits that an electronic computer can process in a given period of time determines its capacity for problem solving, or computing.

processar em dado período de tempo determina sua capacidade para resolver problemas, ou computar.

Nas últimas décadas, cada nova geração de hardware tem apresentado as seguintes características: dramático aumento de capacidade e velocidade de cálculo, espantosa compactação nas dimensões físicas dos dispositivos e vertiginosa queda de preço. A regra que parece estar por trás desse padrão é a Lei de Moore. Em 1965, o cofundador da Intel Gordon Moore previu

For the last few decades, each new hardware generation has presented the following characteristics: massive increases in calculations capacity and speed, striking reductions in physical dimensions of devices and vertiginous drops in prices. What appears to rule this pattern is Moore’s law. In 1965, Intel co-founder Gordon Moore predicted that the number of circuits printed in a single microchip would double every eighteen months.

que o número de circuitos impressos em um microchip dobraria a cada 18 meses.

O que está por trás da Lei de Moore não é uma lei física. Trata-se, na verdade, de uma tendência da evolução tecnológica, que tem possibilitado a engenheiros produzir transistores cada vez menores.

Quando o tamanho de um transistor diminui, o fluxo de elétrons tem um caminho menor a percorrer, o que proporciona o aumento da velocidade dos bits (ons e offs). A redução no tamanho do transistor, por sua vez,

147

permite produzir circuitos integrados com um maior número de transistores conectados, aumentando a densidade da computação. Assim, com a diminuição do tamanho dos transistores e o aprimoramento das

What is behind Moore’s law is not a law of physics. It is, in fact, a technological evolution tendency that has made it possible for engineers to produce progressively smaller transistors.

When a transistor size is reduced, the electrons flow has a smaller path to cross, enabling a higher speed of bit processing. The smaller size also allows the creation of integrated circuits with a larger amount of connected transistors, furthering the depth of computing. As such, with smaller transistors and better circuit integration, computers have evolved: their calculation capacity has doubled and, inversely, they have shrunk and their prices, cheapened.

Quantum, Rejane Cantoni, 2019

148 Brasil | Brazil

Rejane Cantoni

técnicas para integrar circuitos, os computadores evoluíram: duplicaram sua capacidade e, na proporção inversa, diminuíram de tamanho e preço.

A qualidade dos materiais envolvidos no processo de produção do microchip prevê, entretanto, que existem limites físicos para a Lei de Moore. Quanto menor fica um circuito, menor é a possibilidade de a lei se sustentar: “Eventually, transistors will become so tiny that their silicon components will approach the size of molecules. At these incredibly tiny distances, the bizarre rules of quantum mechanics take over, permitting electrons to jump from one place to another without passing through the space between. Like water from a leaky fire hose, electrons

The quality of the materials involved in the production of microchips foretells, however, that there are physical limitations for Moore’s law. The smaller a circuit gets, the lower the possibility is that the law will be sustained. “Eventually [C.A. 2020, according to specialists] transistors will become so tiny that their silicon components will approach the size of molecules. At these incredibly tiny distances, the bizarre rules of quantum mechanics take over, permitting electrons to jump from one place to another without passing through the space between.

Like water from a leaky fire hose, electrons will spurt across atom-size wires and insulators, causing fatal short circuits.”3

will spurt across atom-size wires and insulators, causing fatal short circuits3”.

A Lei de Moore soou como um alarme: quando os circuitos alcançarem dimensões atômicas e os indesejáveis efeitos quânticos se manifestarem, o que

Moore’s Law started to sound like a warning: when circuits reach atomic dimensions and the undesired quantum effects manifest themselves, what will happen? Would engineers enter the quantum realm?

acontecerá? Engenheiros entrariam no reino quântico?

Respostas a essas questões começam

Answers to these questions are starting to be formulated.

a ser formuladas.

DIGITAL, ELETRÔNICO E QUÂNTICO Na tentativa de divorciar o processo computacional do silício, novas abordagens teóricas sugerem possíveis futuros ambientes. Os exóticos designs imaginados incluem computadores ópticos4, computadores moleculares5, computadores de DNA6, biocomputadores7 e os computadores quânticos.

Os computadores quânticos utilizam o movimento rotatório intrínseco de partículas subatômicas a fim de codificar a informação. Tal como os

149

computadores eletrônicos, que codificam informação em bits (valores binários 1 ou 0), os quais estão associados à tensão elétrica dos transistores (ligado ou desligado), os computadores quânticos

DIGITAL, ELECTRONIC AND QUANTIC In the attempt to divorce computational process from silicon, new theoretical approaches suggest possible future environments. The exotic designs imagined include optical computers4, molecular computers5, DNA computers6, bio computers7 and quantum computers.

Quantum computers utilize the intrinsic spin of subatomic particles to codify information.

Such as electronic computers, that codify information in bits (binary values 1 or 0), those associated to the electric tension of transistors (on or off), quantum computers codify data in qubits (quantum bits). Qubits are essentially

150

Quantum, Rejane Cantoni, 2019

Brasil | Brazil

Rejane Cantoni

codificam dados em qubits (bits quânticos). Qubits são basicamente representações de partículas subatômicas que ocupam dois estados diferentes, que podem ser igualmente designados por 1 e 0.

No entanto, diferentemente de um bit, que é regido

representations of subatomic particles that occupy two different states, which can equally be designated 1 or 0. However, unlike a bit, governed by the binary distinction between 1 and 0, the qubit can be both 1 and 0 simultaneously.

pela distinção binária 1 ou 0, um qubit pode ser 1 e 0 simultaneamente.

Segundo o pesquisador Isaac Chuang, essa qualidade ambígua do qubit – na verdade, uma propriedade inerente à mecânica quântica – tem consequências poderosas, facilmente demonstradas quando pensamos em mais de um qubit: “These qubits could simultaneously exist as a combination of all possible two-bits numbers: (00), (01), (10) and (11). Add a third qubit and you could have a combination of all possible three-bit numbers: (000), (001), (010), (011), (100), (101), (110) and (111). […] Line up a mere 40 qubits, and you could represent every binary number from zero to more

According to researcher Isaac Chuang, this ambiguous quality of the qubit – in fact, a property inherent to quantum mechanics – has powerful consequences, easily demonstrated when thinking of more than one qubit. “These qubits could simultaneously exist as a combination of all possible two bits numbers: (00), (01), (10) and (11). Add a third qubit and you could have a combination of all possible three-bit numbers: (000), (001), (010), (011), (100), (101), (110) and (111). […] Line up a mere 40 qubits, and you could represent every binary number from zero to more than a trillion – simultaneously.”8

than a trillion – simultaneously8”.

A questão é: como implementar esses computadores? Em 1996, após duas tentativas de construir um computador quântico – uma teórica, como a de Peter Shor9, e uma prática, como a do mecânico quântico Seth Lloyd –, Isaac Chuang e Neil Gershenfeld, do MIT Media Lab, vislumbraram uma forma10. Primeiramente, decidiram trabalhar com nêutrons e prótons, já que estes são naturalmente protegidos, por meio da nuvem de elétrons, contra perturbações externas. Na sequência, utilizaram a tecnologia da ressonância magnética nuclear (NMR na sigla em inglês) já bastante desenvolvida e comercialmente utilizada no escaneamento do corpo humano, a fim de manipular o movimento rotatório dessas partículas subatômicas.

151

Segundo a fórmula dos autores: “Say you want to carry out a logical operation using chloroform – something like, ‘if carbon is 1, then hydrogen is 0’. You just suspend the chloroform molecules in

The question is: how to implement these computers? In 1996, after two attempts of building a quantum computer – one theoretical, such as the one made by Peter Shor9 , and one practical, such as the one made by quantum mechanist Seth Lloyd -, Isaac Chuang and Neil Gershenfeld, from MIT Media Lab, have glimpsed a way10. First, they decided to work with neutrons and protons, since these are naturally shielded from external disturbances by the cloud of electrons. Then, they utilized nuclear magnetic resonance (NMR) technology, quite developed and commercially utilized for scanning the human body, to manipulate the spin movement of the subatomic particles.

According to the authors’ formula: “Say you want to carry out a logical operation using chloroform – something like, ‘if carbon is 1, then hydrogen is 0’. You just suspend the chloroform

Quantum, Rejane Cantoni, 2019

152 Brasil | Brazil

Rejane Cantoni

a solvent, and put a sample in the spectrometer’s main magnetic field to line up the nuclear spins.

Then you hit the sample with a brief radio-frequency pulse at just the right frequency. The hydrogen spin will either flip or not flip, depending on what the carbon is doing – exactly what you want for an if-then operation. By hitting the sample with an appropriately timed sequence of such pulses, moreover, you can carry out an entire quantum algorithm – without ever once having to peek at the nuclear spins and ruin the quantum coherence11”.

molecules in a solvent, and put a sample in the spectrometer’s main magnetic field to line up the nuclear spins. Then you hit the sample with a brief radio-frequency pulse at just the right frequency. The hydrogen spin will either flip or not flip, depending on what the carbon is doing – exactly what you want for an if-then operation.

By hitting the sample with an appropriately timed sequence of such pulses, moreover, you can carry out an entire quantum algorithm – without ever once having to peek at the nuclear spins and ruin the quantum coherence.”11

Desde 1996, inúmeras propostas, mecanismos e arquiteturas foram testados, como: elétrons em campos elétricos; spin nuclear (nos sentidos horário e anti-horário); átomos em estado fundamental e excitado; e fótons polarizados horizontalmente e verticalmente.

Since 1996, countless proposals, mechanisms and architectures were tested: electrons in electric fields; nuclear spin (both clockwise and counter-clockwise); atoms in their fundamental and excited states; horizontally and vertically polarized photons, amongst others.

Independentemente da arquitetura, a principal vantagem dos computadores quânticos sobre a versão clássica é poder fazer várias coisas de uma só vez. De resto, o princípio é claro: quanto maior o número de qubits, mais poderoso é o cálculo.

Quanto maior a capacidade de processamento, maior a capacidade de simular sistemas quânticos mais complexos. Quanto melhor o simulador, maior a capacidade da ciência de revelar a nossa natureza, considerando a sugestão de Feynman.

Regardless of the architecture, the main advantage of quantum computers over the classic counterpart is the ability to perform many tasks at once. Otherwise, it’s a clear principle: the bigger the number of qubits, the more powerful the calculation. The bigger the processing capacity, the bigger the capacity of simulating more complex quantum systems. The better the simulator, the better the capacity of science to reveal our nature, considering Feynman’s suggestion.

Os primeiros sistemas com 2 qubits foram desenvolvidos em 1996. Hoje, em 2019, já existem sistemas com dúzias de qubits. Entre os próximos cinco e dez anos, prevê Seth Lloyd, a evolução dos computadores quânticos passará de 50 qubits a 5 mil qubits, operando inicialmente como sistemas especializados e, eventualmente, como computadores

153

de uso geral12.

The first systems with two qubits were developed in 1996. Today, in 2019, there are already systems with dozens of qubits.

Between the next five and ten years, Seth Lloyd predicts, quantum computer evolution will go from 50 qubits to 5000 qubits, initially operating as specialized systems and, eventually, as general use computers12.

A superação dos limites físicos previstos pela Lei de Moore e a extraordinária capacidade computacional são resultados consideráveis para a pesquisa.

The overcoming of the physical limits provided by Moore’s law and the extraordinary computational

154

Quantum, Rejane Cantoni, 2019

Brasil | Brazil

Rejane Cantoni

Contudo, o mais interessante, segundo Lloyd, ainda está por vir. Nas palavras do professor de engenharia mecânica e física do Instituto de Tecnologia de Massachusetts (MIT, na sigla em inglês), essas novas máquinas apontam para um novo estágio da evolução maquínica: “Even with small quantum computers we will be able to expand the capability of machine learning by sifting vast collections of data to detect patterns and move on from supervised-learning (“That squiggle is a 7”) toward unsupervised-learning – systems that learn to learn13”.

capacity are considerable results for research.

However, according to Lloyd, the most interesting is yet to come. In the words of the Physics and Mechanical Engineering Professor of the MIT, these new machines point towards a new stage on machine evolution: “Even with small quantum computers we will be able to expand the capability of machine learning by sifting vast collections of data to detect patterns and move on from supervised-learning (“That squiggle is a 7”) toward unsupervised-learning – systems that learn to learn.”13

E, com isso, apontam também para um novo estágio da evolução humana: “The universe is a quantum computer. Biological life is all about extracting meaningful information from a sea of bits. For instance, photosynthesis uses quantum mechanics in a very sophisticated way to increase its efficiency. Human life is expanding on what life has always been – an exercise in machine learning14”.

QUANTUM E OUTROS HORIZONTES QUÂNTICOS A ciência, a arte e a tecnologia utilizam diferentes métodos para pesquisar, desenvolver, testar, avaliar e comunicar teorias.

A exposição Consciência Cibernética [?] Horizonte Quântico, o seminário homônimo – ambos uma larga pesquisa empreendida pela equipe do Itaú Cultural – e a instalação Quantum foram desenhados como possíveis métodos.

Em 2018, recebi um convite para integrar a equipe de pesquisa do Itaú Cultural para a exposição. Esse trabalho resultou em um novo convite. Desta vez, a tarefa foi construir uma espécie de simulador

155

quântico, isto é, desenvolver um artefato capaz de causar nos visitantes a experiência de penetrar em um universo subatômico, regido por leis da mecânica quântica.

“The universe is a quantum computer. Biological life is all about extracting meaningful information from a sea of bits. For instance, photosynthesis uses quantum mechanics in a very sophisticated way to increase its efficiency. Human life is expanding on what life has always been – an exercise in machine learning.”14

QUANTUM AND MOTHER QUANTUM HORIZONS Science, art and technology utilize different methods to research, develop, test, evaluate and communicate theories.

The exhibition and seminar Consciência Cibernética [?] Horizonte Quântico (Cybernetic Consciousness [?] Quantum Horizon) – a large research promoted

by Itaú Cultural staff – and the installation Quantum were designed as possible methods.

In 2018, I was invited to join Itaú Cultural’s research team for the exhibition. That work resulted in a new invitation. This time, I was tasked with building a sort of quantum simulator, that is to say, developing an artifact capable of making visitors experience the feeling of penetrating a sub-atomic universe, ruled by quantum mechanics.

156

Quantum, Rejane Cantoni, 2019

Brasil | Brazil

Rejane Cantoni

ARQUITETURA Quantum é uma instalação imersiva e interativa composta de dispositivo óptico, computadores, software customizado, câmeras infravermelho e sistema de áudio.

O dispositivo tem escala arquitetônica. Oito módulos de madeira, alinhados e conectados entre si, formam uma estrutura tubular elipsoidal de 4,15 metros de largura, 2,27 metros de altura e 15,24 metros de comprimento.

No interior do tubo, o teto, o piso e uma lateral são espelhados, enquanto a outra lateral funciona como tela de projeção, exibindo imagens geradas por computadores. Os espelhos refletem as imagens computacionais e as interações dos usuários.

REGRAS DE INTERAÇÃO No interior do tubo, câmeras capturam a imagem dos visitantes. O sistema interpreta a imagem e a transforma em silhueta. Cada silhueta passa a ser processada como uma partícula microscópica única. Cada partícula possui a probabilidade de estar em um lugar e em um tempo.

O sistema evolui continuamente e é capaz de simular uma gama de silhuetas simultaneamente nos tempos presente, futuro e passado. Por exemplo, pode simular uma silhueta derivada diretamente das interações de um visitante V1 ou pode simular V1 e V2, assim como pode simular V1 + V2. E muitas outras silhuetas, com muitos graus de liberdade no espaço e no tempo.

Se puder, imagine um arranjo de silhuetas se deslocando. Imagine que todas têm a possibilidade

157

de estar em múltiplos estados e tempos.

O MESMO ACONTECE COM O SOM No interior do tubo, microfones captam o som do ambiente, e essa informação é transformada em

ARCHITECTURE Quantum is an immersive and interactive installation comprising of an optical device, computers, customized software, infrared cameras and audio system.

The device is architectonic in scale. Eight wood modules aligned and connected to each other, form an ellipsoidal tubular structure measuring 4,15 meters wide, 2,27 meters tall and 15,24 meters long.

Inside the tube, the ceiling, floor and one side of the walls are mirrored, while the other wall works as a projection screen, showing computergenerated images. The mirrors reflect the computer images and the users interaction.

INTERACTION RULES Inside the tube, cameras capture images from the visitors. The system interprets that image and turns it into a silhouette. Each silhouette is then treated as a single microscopic particle.

Each particle possesses the probability of being in a given time and a given space.

The system is constantly evolving and is capable of simultaneously simulating a range of silhouettes in the present, past and future. For instance, it can simulate a silhouette derived directly from interactions of a first visitor, V1, or it can simulate V1 and V2, just as it can simulate V1+V2. And many more silhouettes, with many degrees of freedom on time and space. Imagine, if you can, an array of silhouettes moving. Imagine they all have the possibility of being in multiple states and times.

THE SAME HAPPENS WITH THE SOUND Inside the tube, microphones capture the ambient sound and that information is

158 Brasil | Brazil

Quantum, Rejane Cantoni, 2019

Rejane Cantoni

unidades sonoras que possuem a probabilidade de estar em um ou mais lugares ao mesmo tempo.

E isso ainda não é tudo.

Duas ou mais partículas (silhuetas visuais e/ou unidades sonoras) podem se emaranhar.

O emaranhamento quântico é outra propriedade que coleções de partículas podem possuir.

Em Quantum, partículas e silhuetas emaranhadas agem como dançarinos sincronizados com movimentos imprevisíveis, mas coordenados.

O QUE FAREMOS NÓS? Entre os físicos, é consenso creditar à mecânica quântica o status de melhor modelo para descrever a realidade minúscula. E, se o modelo é invisível, contraintuitivo e estranho, por ora nos restam as dicas de Richard Feynman:

Two or more particles (visual silhouettes and/or sound units) can become entangled.

Quantum entanglement is another property that collections of particles may have. In Quantum, entangled particles and silhouettes act like synchronized dancers with unpredictable, yet coordinated, movements.

WHAT SHALL WE DO? Between physicists, it is consensus to credit quantum mechanics as the best model to describe the miniscule reality. And if the model is invisible, counterintuitive and strange, for now, all we have left are Richard Feynman’s tips:

mecânicos quânticos estão falando.

1. To build devices that utilize other systems, more familiar and controllable, to simulate quantum systems’ laws; 2. To study and understand what quantum physicists and mechanists are talking about.

Por sorte, nesse percurso, temos vários guias.

Luckily, in this path, we have many guides.

Em There’s Plenty of Room at the Bottom, palestra

laws, and we can expect to do different things15”.

In There’s Plenty of Room at the Bottom, a lecture renowned as one of the main inspirations behind nanotechnologies, Feynman predicts what we can expect of the microscopic world: “Whe”n we get to the very, very small world we have a lot of new things that would happen that represent completely new opportunities for design. Atoms on a small scale behave like nothing on a large scale, for they satisfy the laws of quantum mechanics.

So, as we go down and fiddle around with the atoms down there, we are working with different laws, and we can expect to do different things.”15

Boa viagem!

Safe travels!

1. construir dispositivos que utilizem outros sistemas, mais familiares e controláveis, para simular leis dos sistemas quânticos; 2. estudar e entender o que os físicos e os

reconhecida como uma das principais inspirações para o desenvolvimento de nanotecnologias, Feynman antecipa o que podemos esperar do mundo microscópico: “When we get to the very, very small world we have a lot of new things that would happen that represent completely new opportunities for design. Atoms on a small scale behave like nothing on a large scale, for they satisfy the laws of quantum mechanics. So, as we go down and fiddle around with the atoms down there, we are working with different

159

transformed into sound units that possess the ability to be in one or more places at the same time. And that’s not all.

Quantum Garden, Robin Baumgarten, 2018

160 Reino Unido | United Kingdom

Robin Baumgarten

Quantum Garden

2018

A computação quântica é uma área de pesquisa interessante e, para muitos, misteriosa, e está atraindo rapidamente a atenção não apenas dos cientistas, mas também do público em geral e dos artistas. Para entender as oportunidades que a computação quântica e, em termos mais gerais, a física quântica e a mecânica quântica podem oferecer, vou analisar as diferenças entre a física quântica e outras áreas e o que torna essas

Quantum Computing is an interesting - and to many - mysterious research area that is quickly garnering the attention not only of scientists, but also the general public and artists. To understand the opportunities that quantum computing, and more generally quantum physics and quantum mechanics can offer, I’ll take a look at what distinguishes quantum physics from other fields, and what makes these differences interesting.

diferenças interessantes.

A computação quântica usa fenômenos da mecânica quântica, como superposição e entrelaçamento. Esses são fenômenos em escala microscópica, pequenos demais para ser vistos ou mesmo medidos diretamente, não tendo quase nenhum efeito em nosso mundo macroscópico

Quantum computing uses quantum-mechanical phenomena, such as superposition and entanglement. These are phenomena at a microscopic scale, too small to be seen or even directly measured and they have barely any effect on our macroscopic world that is ruled by classical physics.

regido pela física clássica.

Isso significa que nós, artistas, temos de confiar em nossa imaginação ao criar arte em torno da física quântica. Felizmente, há um extenso material para nos servir de inspiração, como implicações filosóficas da falta de causalidade e determinismo, efeitos de entrelaçamento que Einstein descreveu como “ação assustadora a distância” e teorias com nomes de ficção científica, como teletransporte quântico, criptografia quântica e decoerência quântica (a qual, por exemplo, afirma que universos paralelos nunca serão acessíveis a nós – infelizmente).

Apesar de soarem absurdos, muitos desses efeitos já estão sendo usados pela tecnologia moderna, como escâneres de ressonância magnética, lasers e até mesmo transistores e diodos. Uma área de pesquisa importante é a computação quântica, que, em vez dos bits clássicos 0 ou 1, usa qubits, os quais representam uma mistura de estados (chamada de

161

superposição de estados). Esses qubits ajudam os computadores quânticos a ser muito melhores na solução de certos problemas intrincados, mas também dificultam bastante a programação.

This means we artists have to rely on our imagination when creating art surrounding quantum physics. Luckily for us, there’s a broad body of material to be inspired by, such as philosophical implications of the lack of causality and determinism, entanglement effects that Einstein described as ‘spooky action at a distance’, and theories with science-fictiony names, such as quantum teleportation, quantum cryptography and quantum decoherence (which, for example, states that parallel universes will never be accessible to us - unfortunately).

Despite sounding far-fetched, a lot of these effects are already being used by modern technology, such as MRI scanners, lasers, and even transistors and diodes. A major research area is quantum computing, which, instead of classical 0-or-1 bits uses qubits that represent a mixture of states (called a superposition of states). These qubits help quantum computers be much better at solving certain difficult problems, but also make it much harder to program.

162 Reino Unido | United Kingdom

Quantum Garden, Robin Baumgarten, 2018

Robin Baumgarten

Usar esses computadores para criar arte soa como um ótimo desafio, e mal posso esperar para ver os novos resultados fantásticos que isso trará.

No entanto, a computação quântica ainda está decididamente engatinhando. Os computadores quânticos existentes são, na melhor das hipóteses, provas acadêmicas de conceitos. Por enquanto, estamos limitados a computadores clássicos se quisermos jogar com efeitos quânticos e usar

Using these computers to create art sounds like a great challenge, and I can’t wait to see what new fantastic results that will bring. However, quantum computing is still decidedly in its infancy, and existing quantum computers are academic proofs of concepts at best. So for now, we are limited to classical computers if we want to play with quantum effects and use simplified simulations to get results.

simulações simplificadas para obter resultados.

Foi o que fiz com Quantum Garden, instalação interativa que usa molas e anéis de LED para visualizar uma dessas simulações simplificadas.

A instalação apresenta 228 molas sensíveis ao toque dispostas em hexágonos, cada uma delas rodeada por um anel de LED. Esses LEDs são controlados individualmente a partir de um computador que executa a instalação: ele aguarda a inserção de dados do público, altera os parâmetros da simulação de acordo com os dados, depois executa a simulação do algoritmo de computação quântica e, finalmente, exibe os

That is what I have done with Quantum Garden, an interactive installation using springs and LED rings to visualize one of these simplified simulations. The installation has 228 touch sensitive springs arranged in a hexagonal layout, each of which is surrounded by an LED ring.

These LEDs are individually controlled from a computer running the installation, waiting for audience input, changing the parameters of the simulation accordingly, then running through the simulation of the quantum computing algorithm, and finally outputting the results as concentric rings on the screen.

resultados como anéis concêntricos na tela.

A apresentação visual dos resultados de qualquer fenômeno quântico exigirá, necessariamente, muita criatividade artística, uma vez que esses efeitos aparecem em escalas muito pequenas para que as cores possam até mesmo existir. Essa ausência de restrição dá aos artistas muita liberdade para

Visually displaying results of any quantum phenomenon will necessarily require a lot of artistic creativity, since these effects appear on scales too small for colours to even exist.

This lack of constraint gives artists a great deal of freedom to represent quantum data, especially if rigorous scientific accuracy isn’t necessary.

representar dados quânticos, principalmente se a rigorosa precisão científica não for necessária.

Para Quantum Garden, peguei o gráfico de uma variável na simulação quântica e plotei-o em uma animação polar (circular) em que valores baixos geram anéis pequenos, e valores altos geram

163

anéis grandes. A variável que usei é a distribuição dos estados quânticos em um gás unidimensional idealizado durante um processo chamado Stirap.

No entanto, não é necessário entender os detalhes

For Quantum Garden, I took a graph of one variable in the quantum simulation and plotted it in a polar (circular) animation where small values result in small rings and large values result in large rings. The variable I used is the distribution of the quantum states in an idealized onedimensional gas during a process called STIRAP. However, it’s not necessary to understand the finer details, and in fact, without studying quantum mechanics for a good while, it’d be

Quantum Garden, Robin Baumgarten, 2018

164 Reino Unido | United Kingdom Robin Baumgarten

mais sutis. Na verdade, sem estudar mecânica quântica por um bom tempo, seria muito difícil realmente entender o significado desse experimento – eu certamente só entendo uma versão muito simplificada, que os físicos teóricos da Universidade de Turku, na Finlândia, me explicaram. Por tudo o que sei (e o público também), valores maiores da variável são melhores e, portanto, anéis maiores na animação são melhores. Isso se correlaciona muito bem com mais “ação” nos LEDs da instalação – grandes anéis coloridos são mais bonitos e mais emocionantes do que um anel pequeno, oferecendo ao público, assim, uma recompensa intrínseca por “jogar bem”. Proporciona ao público um objetivo para alcançar, tornando-o jogadores em um jogo. Facilitar a compreensão de como melhorar seus resultados na interação realmente ajuda os cientistas também: posso dar-lhes dados de todas as interações em que as pessoas tentam melhorar seus resultados – e talvez os cientistas possam, por sua vez, treinar uma inteligência artificial (IA) para melhorar o resultado da simulação quântica! Dessa forma, a criação de uma bela obra de arte também pode ajudar a ciência a melhorar seus modelos.

Esse é certamente um cenário ideal, e talvez a ciência teórica rigorosa seja mais precisa do que uma IA treinada em resultados humanos. Contudo, com as peculiaridades da física quântica, isso

165

é difícil de prever.

very hard to really grasp the meaning of this experiment – I certainly only understand a very simplified version that the theoretical physicists from the Turku University, in Finland, explained to me. For all I (and the audience) know, larger values of the variable are better, and thus, larger rings on the animation are better. This correlates nicely with more ‘action’ on the LEDs of the installation piece – big colourful rings are prettier and more exciting than a small ring, thus giving the audience an intrinsic reward for ‘playing well’.

It is giving the audience a goal to reach, thus making them players in a game. Making it easy to understand how to improve your results in the interaction actually helps the scientists too: I can give them data of all the interactions where people try to improve their results – and perhaps the scientists can train an artificial intelligence (AI) how to improve the result of the quantum simulation in turn! In that way, making beautiful art can also help science to improve their models. This is certainly an ideal scenario, and perhaps rigorous theoretical science is more precise than an AI trained on human results can be. With the peculiarities of quantum physics, this is hard to predict, though.

HORIZONTE QUÂNTICO QUANTUM HORIZON Marcos Cuzziol

NOTAS NOTES 1.

DEUTSCH, David (July 1985). “Quantum theory, the Church-Turing principle and the universal quantum computer” (PDF). Proceedings of the Royal Society A. 400 (1818): 97–117. Bibcode:1985RSPSA.400...97D. CiteSeerX 10.1.1.41.2382. doi:10.1098/rspa.1985.0070.

2.

BORGES, Jorge L. (1944). A biblioteca de Babel. In: Ficções. São Paulo: Companhia das Letras, 2007.

O FUTURO DA COMPUTAÇÃO E SEU IMPACTO EM NOSSA VISÃO DE MUNDO THE FUTURE OF COMPUTING AND ITS IMPACT ON OUR VIEW OF THE WORLD Michael Resch 1.

MOORE, G. E. Amontoando mais componentes em circuitos integrados, Electronics, v. 38, n. 8, p. 114-117, 1965.

2.

Comunicação privada com Peter Weibel, 25 out. 2018 / P. Weibel, private communication, Oct. 2018.

3.

WEBER, Max. Vom inneren Beruf zur Wissenschaft. In: WINKELMANN, Johannes (Org.). Soziologie – Universalgeschichtliche Analysen – Politik. Stuttgart: Kröner, 1973. p. 311-339.

4.

Os achados neste artigo referem-se a uma visão ocidental e certamente teriam de ser adaptados se quiséssemos explorar sua relevância para outras culturas no mundo. Mesmo que a cultura ocidental seja atualmente a dominante, pelo menos será necessário explorar o impacto dos computadores na visão de mundo oriental. Especialmente, a relação com a natureza e a definição do papel dos seres humanos e da natureza dos seres humanos são completamente diferentes e precisariam ser levadas em conta. / The findings in this paper refer to a Western view and would certainly have to be adapted if we wanted to explore their relevance for other cultures in the world. Even if the Western culture is currently the dominant culture, it will be necessary, at least, to explore the impact of computers on the Eastern world view. In particular, the relation with nature and the definition of the role of human beings and the nature of human beings are entirely different and would have to be considered.

5.

BÍBLIA (King James). Disponível em: / Available at: <https://en.wikisource.org/wiki/Bible_(King_James)/ Genesis#Chapter_1>.

6.

DESCARTES, René. Discurso do método, 1637.

7.

KANT, Immanuel. Was ist Aufklärung, 1784.

8.

WEIL, Simone. Réflexions sur les causes de la liberté et de l’oppression sociale, 1934.

9.

THALER, Richard. Misbehaving: the making of behavioral economics. New York: W. W. Norton & Company, 2016.

10.

BERGER, Peter L.; LUCKMANN, Thomas. A construção social da realidade: um tratado sobre a sociologia do conhecimento, 1967.

11.

FOUCAULT, Michel. Les mots et les choses, 1966.

166

12. THOMAS, William Isaac. Criança na América, 1928.

13.

PENTLAND, Alex. Física social: como redes sociais podem nos tornar mais espertos, 2015.

14.

RESCH, Michael. What’s the result? – Thoughts of a center director on simulation. In: DURÁN, Juan M.; ARNOLD, Eckhart (Ed.). Computer simulations and the changing face of scientific experimentation, 2013.

15.

McAFEE, Andrew; BRYNJOLFSSON, Erik. A segunda idade das máquinas: trabalho, progresso e prosperidade numa época de tecnologias brilhantes, 2014.

16.

GUGERLI, David. Wie die Welt in den Computer kam. Zur Entstehung digitaler Wirklichkeiten, 2018.

167

INTELIGÊNCIA ARTIFICIAL EM PLENO VERÃO ARTIFICIAL INTELLIGENCE IN MIDSUMMER Fabio Gagliardi Cozman e João Figueiredo Nobre Cortese 1.

NILSSON, Nils J. The quest for artificial intelligence. Cambridge University Press, 2009.

2.

TURING, Alan. Computing machinery and intelligence. Mind, v. 59, n. 236, 1950, p. 433-460.

3

HALEVY, A.; NORVIG, P.; PEREIRA, F. The unreasonable effectiveness of data. IEEE Intelligent Systems, v.

24, n. 2, 2009, p. 8-12.

4.

Ver exemplo em / See, for example CHAMAYOU, G., Teoria do drone. Tradução Célia Euvaldo. São Paulo: Cosac Naify, 2015.

5.

Sobre esse último exemplo, ver o caso do Correctional Offender Management Profiling for Alternative Sanctions (Compas). ANGWIN, J.; LARSON, J.; MATTU, S.; KIRCHNER, L. Machine bias. ProPublica, maio 2016. Disponível em: <https://www.propublica.org/article/machine bias-risk-assessments-in-criminalsentencing>. Uma problematização desse resultado é feita por DIETERICH, W.; MENDOZA, C.; BRENNAN, T. Compas risk scales: demonstrating accuracy equity and predictive parity. Technical Report, Northpointe Inc., 2016. / On this last example, see the case of Correctional Offender Management Profiling for Alternative Sanctions (Compas). ANGWIN, J.; LARSON, J.; MATTU, S.; KIRCHNER, L. Machine bias. ProPublica, May 2016. Available at: <https://www.propublica.org/article/machine-bias-risk-assessments-in criminal-sentencing>. A problematization of this result is made by Dieterich, W.; Mendoza, C.; Brennan, T. Compas risk scales: demonstrating accuracy equity and predictive parity. Technical Report, Northpointe Inc., 2016.

6.

Entre as comunidades de pesquisadores, pode-se ressaltar que a IEEE Global Initiative on Ethics of Autonomous and Intelligent Systems propôs um documento de diretivas (<https://ethicsinaction.ieee.org/>), assim como o Future of Life Institute propôs os Princípios de Asilomar para a IA (<https://futureoflife.org/ai-principles/>).

Na Europa, a iniciativa AI4People apontou questões importantes (<http://www.eismd.eu/publications/>); a Declaração de Montreal para o Desenvolvimento Responsável da Inteligência Artificial buscou precisar quais aspectos devem ser levados em conta nesse debate (<https://www.declarationmontreal-iar sponsable. com/>), ainda que não seja sempre claro como interpretar os princípios levantados em casos concretos. Os âmbitos nacionais também têm demonstrado interesse na questão: além de relatórios da Casa Branca sobre a IA nos Estados Unidos (<https://www.whitehouse.gov/ostp/documents-and-reports/>), em 2018 a Câmara dos Lordes publicou um relatório no qual propunha linhas de desenvolvimento para a IA no Reino Unido, enfatizando, entre outros pontos, os aspectos éticos dessa tecnologia e o perigo de bases de dados pouco representativas de certas parcelas da população (<https://publications.parliament.uk/pa/ld201719/ldselect/ ldai/100/100.pdf>). / Among the research communities, it may be pointed out that IEEE Global Initiative on Ethics of Autonomous and Intelligent Systems has proposed a policy document (<https://ethicsinaction.ieee.org/>), just like the Future of Life Institute proposed the Asilomar Principles for AI (<https://futureoflife.org/ai-principles/>).

In Europe, the AI4People initiative raised important issues (<http://www.eismd.eu/publications/>); the Montreal Declaration for Responsible Development of Artificial Intelligence sought to clarify which aspects should be taken into account in the debate (<https://www.declarationmontreal-iaresponsable.com/>), although it’s not always clear how to interpret the principles raised in concrete cases. The national spheres have also shown interest in the issue as well: in addition to the White House reports on AI in the USA (<https://www.whitehouse.gov/ostp/ documents-and-reports/>), the House of Lords published a report in 2018 proposing lines of AI development in the United Kingdom, emphasizing, among other things, the ethical aspects of this technology and the danger of databases that are not very representative of certain portions of the population (<https://publications.parliament. uk/pa/ld201719/ldselect/ldai/100/100.pdf>).

DEEP MEDITATIONS: A BRIEF HISTORY OF ALMOST EVERYTHING IN 60 MINUTES (2018) / LEARNING TO SEE: GLOOMY SUNDAY (2017) Memo Akten 1.

<https://commons.wikimedia.org/wiki/File:White-noise-mv255-240x180.png>.

2.

<https://commons.wikimedia.org/wiki/File:Rorschach_blot_01.jpg>.

3.

<https://commons.wikimedia.org/wiki/File:SGR_1806-20_108685main_SRB1806_20rev2.jpg>.

4.

<http://www.memo.tv/wpmemo/wp-content/uploads/2017/07/msa_gloomysunday_003.jpg>. <http://www. memo.tv/wpmemo/wp-content/uploads/2017/07/msa_gloomysunday_006.jpg>.

5.

<http://www.memo.tv/wpmemo/wp-content/uploads/2018/07/deepmeditations_fakes008421-16.jpg http://www.memo.tv/wpmemo/wp-content/uploads/2018/07/deepmeditations_fakes009402-18.jpg http:// www.memo.tv/wpmemo/wp-content/uploads/2018/07/deepmeditations_fakes009422-22.jpg http://www. memo.tv/wpmemo/wp-content/uploads/2018/07/deepmeditations_fakes009884-17.jpg http://www.memo. tv/wpmemo/wp-content/uploads/2018/07/deepmeditations_fakes010105-16.jpg http://www.memo.tv/ wpmemo/wp-content/uploads/2018/07/deepmeditations_fakes010115-2.jpg http://www.memo.tv/wpmemo/ wp-content/uploads/2018/07/deepmeditations_msa_deepmeditations_000.jpg>.

168

QUANTUM AND PARALLEL HORIZONS Rejane Cantoni 1.

“A natureza não é clássica, droga, e, se você quiser fazer uma simulação da natureza, é melhor torná-la mecânica quântica. E, caramba, esse é um problema maravilhoso, porque não parece tão fácil.”

FEYNMAN, Richard P. Simulating physics with computers, International Journal of Theoretical Physics, v. 21, n. 6/7, p. 486, 1982.

2.

Disponível em: / Available at: <https://people.eecs.berkeley.edu/~christos/classics/Feynman.pdf>. Acesso em: / Retrieved on: 29 mar. 2019.

3.

“Eventualmente, os transistores se tornarão tão pequenos que seus componentes de silício vão ter um tamanho semelhante ao das moléculas. Nessas proporções inacreditavelmente minúsculas, as estranhas regras da mecânica quântica assumem o controle, fazendo com que elétrons saltem de um local a outro sem atravessar o espaço em meio a esses locais. Como água vazando de uma mangueira de incêndio, elétrons jorram através de furos do tamanho de átomos e de isolantes, causando curtos-circuitos fatais.”

Tradução livre. KAKU, Michio. What will replace silicon? Time Magazine, 19 jun. 2000, p. 62.

4.

Computadores ópticos utilizam fótons (partículas de luz), em vez de elétrons, para transportar dados.

Os fótons têm uma vantagem sobre a versão anterior: podem se sobrepor sem causar interferência, o que possibilita ultrapassar a barreira do chip bidimensional. Além disso, um canhão laser pode chegar a produzir bilhões de cadeias de fótons, cada uma delas processando cálculos “em paralelo”, isto é, de modo independente. / Optical computers utilize photons (light particles), in place of electrons, to transport data.

Photons have an advantage over the previous version: they can overlap without interference, allowing the breaching of the two-dimensional chip barrier. Besides, a laser canon can produce up to billions of photon chains, each of them processing calculations ‘in parallel’, that is, independently.

5.

Computadores moleculares utilizam pequenas moléculas orgânicas no lugar das chaves eletrônicas.

Sintetizadas em laboratório, essas moléculas possuem propriedades que lhes permitem agir como os componentes eletrônicos, isto é, ligar/desligar a corrente elétrica. A vantagem dessa tecnologia reside no fato de as moléculas serem potencialmente fáceis e baratas de produzir. Além disso, diferentemente dos componentes em silício, as moléculas são ultrapequenas, o que torna possível manufaturar um chip com bilhões de chaves e componentes. Seguindo essa lógica, os pesquisadores afirmam que futuras

169

memórias moleculares poderão possuir 1 milhão de vezes a capacidade de armazenamento do melhor semicondutor de chip produzido atualmente, o que permitiria armazenar as experiências de uma vida em gadgets suficientemente pequenos e baratos a ponto de poderem ser incorporados em roupas.

Considera-se como desvantagem dessa tecnologia o fato de os dispositivos moleculares sintetizados em tanques químicos ainda possuírem muitos defeitos. / Molecular computers utilize small organic molecules instead of electronic switches. Synthesized in laboratories, these molecules have properties that allow them to act like electronic components, that is to say, switching the current on or off. The advantage to this technology lies in the fact that the molecules are potentially easy and cheap to manufacture. Apart from that, unlike silicon components, these molecules are ultra-small, making the production of a chip with billions of switches and components possible.

According to this logic, researchers affirm that future molecular memories will be able to hold a million times more than the current best chip semiconductor. This would allow lifetime experiences to be stored in gadgets that would be sufficiently cheap and small to be incorporated to clothing. One disadvantage to consider is the fact that the molecular devices synthesized in chemical tanks are still prone to defects.

6.

Outra abordagem para a computação molecular é a transformação da molécula do DNA em dispositivo computacional. A ideia é utilizar a dupla hélice do DNA para codificar uma sequência de dados: em vez de codificação binária (1 ou 0), utilizada pela computação clássica, recorre-se às quatro bases nitrogenadas (A, T, C e G). / Another approach to molecular computing is to turn DNA molecules into computational devices.

The idea is utilizing the double helix of the DNA to codify a sequence of data: instead of a binary one (1 or 0), utilized in classical computing, the four nitrogenous bases (A, T, C and G) would be used.

7.

Entre outros projetos, a abordagem biocomputacional é talvez a mais exótica. Do ponto de vista físicológico, a “circuitaria” de um biocomputador é construída a partir de dois genes. Esses genes possuem a propriedade de ser mutuamente antagônicos, ou seja, quando um gene está ativo, ele torna o outro inativo e vice-versa. Além disso, esse mecanismo (conhecido como flip-flop) produz uma informação visual.

Quando exposto a um feixe de luz laser, um dos genes gera uma proteína fluorescente, o que possibilita a um observador detectar quando uma célula oscila entre os estados. A ideia é programar a chave biológica, isto é, trocar os estados transformando um gene ativo em inativo, o que pode ser conseguido por meio de estímulos externos, como introdução de substâncias químicas e alteração da temperatura do ambiente. Em uma entrevista concedida à revista MIT Technology Review, um dos líderes dessa abordagem, Tom Knight, examinando o futuro que a pesquisa biocomputacional pode tomar, estima que, num futuro próximo, essas máquinas biológicas serão utilizadas em aplicativos com funções como: injeção automatizada de insulina; curativos “inteligentes” capazes de analisar o ferimento e implementar automaticamente o tratamento; e até um biochip (sistema híbrido de célula e circuitos eletrônicos) capaz de detectar contaminação por alimentos ou outras toxinas. Para Knight e outros pesquisadores, o biocomputador deve ser entendido menos como uma proposta para substituir o computador eletrônico e mais como uma interface ou um dispositivo capaz de manipular sistemas bioquímicos e de interconectar a tecnologia informacional à biotecnologia. / Amongst the other projects, the bio computational approach is perhaps the most exotic. From a physical-logic standpoint, the “circuitry” of a bio computer is built from two genes. These genes are able to be mutually antagonistic, in other words, when one of them is active, the other becomes inactive and viceversa. In addition, this mechanism (known as “flipflop”) also produces visual information. When exposed to a laser beam, one of the genes creates a fluorescent protein, allowing an observer to detect when a cell shifts between states. The idea here is to program the biological switch, that is, change the states by making one active gene inactive. That can be achieved by external means, such as the introduction of chemical substances or temperature changes in the environment. In an interview to the MIT Technology Review, one of the leaders in this approach, Tom Knight, when analyzing the future that bio computational research might see, estimates that, in the near future, these biological machines will be used in varied endeavors. These include automatized insulin injection, ‘smart’ curatives able to analyze wounds and automatically treat them; and even a biochip (a hybrid cell-electronic circuit) able to detect food poisoning and other toxins. To Knight and other researchers, the bio computer should be understood less as an attempt to substitute the electronic computer and more as an interface or device capable of manipulating biochemical systems and interconnecting informational technology to biotechnology.

8.

“Esses qubits podem existir simultaneamente como uma combinação de todos os possíveis números formados por dois dígitos específicos (00), (01), (10) e (11). Acrescente-se um terceiro qubit e é possível ter uma combinação de todos os possíveis números com três dígitos específicos: (000), (001), (010), (011), (100), (101), (110) e (111). […] Alinhando-se apenas 40 qubits, é possível representar todos os números binários de zero a mais de 1 trilhão – simultaneamente.” Tradução livre. WALDROP, Mitchell M. Quantum computing. MIT Technology Review. The future of computing beyond silicon, v. 103, n. 3, p. 62., maio-jun. 2000. Edição especial.

170

9.

Professor de matemática aplicada do Instituto de Tecnologia de Massachusetts (MIT, na sigla em inglês), em 1994 Peter Shor inventou um algoritmo quântico capaz de calcular fatores primos de grandes números. Em 2016, pesquisadores do MIT e da Universidade de Innsbruck, na Áustria, relataram, em artigo publicado na revista Science, que haviam projetado e construído um computador quântico para realizar o algoritmo de Shor. / Applied Mathematics Professor at MIT, in 1994, Peter Shor created a quantum algorithm capable of calculating prime factors of large numbers. In 2016, MIT and Innsbruck University (Austria) researchers reported in an article published in Science magazine that they had designed and built a quantum computer to run Shor’s algorithm.

10.

GERSHENFELD, Neil; CHUANG, Isaac. Calcul quantique avec des molécules, Pour la Science, v. 250, ago. 1998, p. 60-65. / GERSHENFELD, Neil; CHUANG, Isaac. Calcul quantique avec des molécules. Pour la Science, v. 250, aug. 1998, p.60-65.

11.

“Imagine que você queira fazer uma operação lógica usando clorofórmio – algo como ‘se o carbono é 1 e o hidrogênio é 0’. Basta fazer uma suspensão de clorofórmio em solvente e colocar uma amostra no principal campo magnético do espectrômetro para alinhar as rotações nucleares. Então, bombardeia-se a amostra com um rápido pulso de radiofrequência na intensidade adequada. A rotação do hidrogênio vai inverter-se ou não, a depender do que está acontecendo com o carbono – exatamente o que você queria para uma operação se/então. Ao bombardear a amostra com uma sequência de pulsos precisamente cronometrados, pode-se ainda conduzir um algoritmo quântico inteiro sem a necessidade de espiar as rotações nucleares nenhuma vez e arruinar a coerência quântica.” Tradução livre. WALDROP, Mitchell M. Quantum computing.

MIT Technology Review. The future of computing beyond silicon, v. 103, p. 64. n. 3, maio-jun. 2000.

12.

D-Wave, a primeira empresa empenhada em desenvolver computadores quânticos para instituições de pesquisa como Google, Nasa e Intel, surgiu em 1999. A IBM constrói e disponibiliza protótipos a pesquisadores em todo o mundo desde 2016. O primeiro computador quântico a ser disponibilizado comercialmente para uso geral, o Q System One, foi anunciado pela IBM em 2019. / D-Wave, the first company committed to developing quantum computers for research institutions such as Google, Nasa and Intel, is created in 1999. IBM builds and provides prototypes to researchers around the world since 2016. The first quantum computer to be commercially available for general use, the Q System One, was announced by IBM in 2019.

13.

“Mesmo com computadores quânticos menores, nós seremos capazes de expandir a capacidade de aprendizado das máquinas; elas examinarão vastas coleções de dados, detectarão padrões e passarão do estágio de aprendizado supervisionado (‘Aquele rabisco é um 7’) para aprendizado não supervisionado – sistemas que aprendem a aprender.” Tradução livre. Disponível em: <http://longnow.org/seminars/02016/ aug/09/quantum-computer-reality/>. Acesso em: / Retrieved on: Oct. 14, 2019.

14.

“O universo é um computador quântico. A vida biológica é toda sobre a extração de informações significativas de um mar de bits. Por exemplo, a fotossíntese usa a mecânica quântica de uma maneira muito sofisticada para aumentar sua eficiência. A vida humana está se expandindo sobre o que a vida sempre foi – um exercício de aprendizado de máquina.” Tradução livre. Disponível em: / Available at: <http://longnow.org/seminars/02016/ aug/09/quantum-computer-reality/>. Acesso em: / Retrieved on: 29 mar. 2019.

15.

“Quando chegamos ao mundo muito, muito pequeno, temos muitas coisas novas acontecendo, e estas representam oportunidades completamente novas para o design. Átomos em pequena escala se comportam diferentemente de tudo em grande escala, pois satisfazem as leis da mecânica quântica. Então, quando descemos e mexemos com os átomos lá embaixo, estamos trabalhando com leis diferentes e podemos esperar fazer coisas diferentes.”

FICHA TÉCNICA CREDITS

EXPOSIÇÃO / EXHIBITION

Concepção e realização / Conception and execution Equipe Itaú Cultural Conceito / Concept Marcos Cuzziol Pesquisa / Research Rejane Cantoni Projeto expográfico / Exhibition design project ST Arquitetura (Barbara Ginjas, Maria Stella Tedesco Bertaso, Renata Fernandes e / and Vitoria Paulino) Projeto de acessibilidade / Accessibility project Mais Diferenças EQUIPE ITAÚ CULTURAL / ITAÚ CULTURAL TEAM

Presidente / President Milú Villela Diretor-superintendente / Superintendent director Eduardo Saron Superintendente-administrativo / Administrative superintendent Sérgio M. Miyazaki NÚCLEO DE ARTES VISUAIS / VISUAL ARTS CENTER

Gerência / Management Sofia Fan Coordenação / Coordination Juliano Ferreira Produção-executiva / Executive production Nicole Plascak NÚCLEO DE INOVAÇÃO / INNOVATION CENTER

Gerência / Management Marcos Cuzziol Coordenação / Coordination Fernando Oliveira e / and Luciana Modé Produção-executiva / Executive production Ediana Borges e / and Rafael Figueiredo Desenvolvimento de software / Software development Kenzo Okamura e / and Tuany Dias Pinheiro Construção sonora / Sound design Tomás Franco NÚCLEO DE AUDIOVISUAL E LITERATURA / AUDIOVISUAL AND LITERATURE CENTER

Gerência / Management Claudiney Ferreira Coordenação de conteúdo audiovisual / Audiovisual content coordination Kety Fernandes Nassar Produção audiovisual / Audiovisual production Ana Paula Fiorotto e / and Paula Bertola Edição / Editing Karina Fogaça Animação de teaser / Teaser animation Vivian Dall’Alba – Facilitação Gráfica (terceirizada / outsourced)

NÚCLEO DE EDUCAÇÃO E RELACIONAMENTO / EDUCATION AND RELATIONSHIP CENTER

Gerência / Management Valéria Toloi Coordenação de atendimento educativo / Educative service coordination Samara Ferreira Equipe / Team Amanda Freitas, Andressa Santos Menezes (estagiária / intern), Antônio Tallys (estagiário / intern), Caroline Faro, Diego Pinheiro Vieira (estagiário / intern), Edinho dos Santos, Edson Bismark, Elissa Sanitá Silva, Gabriela Lourenzato Guarda (estagiária / intern), Livia Lima Moraes (estagiária / intern), Lucas Cardoso dos Santos (estagiário / intern), Monique Rocha dos Santos (estagiária / intern), Roberta Suzi Correia (estagiária / intern), Sidnei Junior, Tayná Maria Santiago da Silva (estagiária / intern), Victor Soriano, Vinicius Magnum e / and Vitor Luz NÚCLEO DE PRODUÇÃO DE EVENTOS / EVENT PRODUCTION CENTER

Gerência / Management Gilberto Labor Coordenação / Coordination Vinícius Ramos Produção / Production Carmen Fajardo, Érica Pedrosa Galante, Natiely Santos (estagiária / intern), Rodrigo Vasconcelos (terceirizado / outsourced) e / and Wanderley Bispo NÚCLEO DE COMUNICAÇÃO E RELACIONAMENTO / COMMUNICATION AND RELATIONSHIP CENTER

Gerência / Management Ana de Fátima Sousa Coordenação / Coordination Carlos Costa Identidade e comunicação visual / Visual communication and identity Mily Mabe Produção e edição de conteúdo / Production and content edition Amanda Rigamonti e / and Milena Buarque Produção editorial / Editorial production Bruna Guerreiro e / and Pamela Camargo Edição de fotografia / Photography editing André Seiti Redes sociais / Social media Jullyanna Salles e / and Renato Corch Supervisão de revisão / Proofreading supervision Polyana Lima Revisão de texto / Proofreading Karina Hambra e Rachel Reis (terceirizadas / outsourced) Tradução / Translation John Norman, Marisa Shirasuna e / and Tatiana Diniz Revisão de tradução / Translation proofreading Denise Chinem (terceirizada / outsourced)

174

175

Memória e Pesquisa | Itaú Cultural Consciência cibernética [?]: horizonte quântico / organização Itaú Cultural ; tradução John Norman, Marisa Shirasuna e Tatiana Diniz. – São Paulo : Itaú Cultural, 2019.

176 p. : il. ; 21x24 cm.

Exposição realizada no Itaú Cultural no período de 28 de março a 19 de maio de 2019 ISBN 978-85-7979-128-4 1. Arte e tecnologia. 2. Arte cibernética. 3. Inteligência artificial. 4. Computação quântica. 5. Exposição de arte – catálogo. I. Instituto Itaú Cultural. II. Título.

CDD 700.105

Esta publicação foi composta da família tipográfica Swiss 721. O miolo foi impresso no papel alta alvura 90 g/m2 e a capa no Opalina 240 g/m2.

Duas mil unidades foram impressas pela Margraf, em novembro de 2019.