🐙 🤖 Se você parar para pensar, nem é sobre ser Humano.

Para onde vamos quando não formos mais necessários em um mundo automatizado?

Vez em quando, este espaço aqui é cedido para meu eu-ensaísta, que curte textos longos. Eles são importantes para a minha figura de produtor de conteúdo 50+ porque me lembram como as Respostas Definitivas Que Tudo Sabem são perigosas. Antes de seu nocivo legado, prefiro estimular novas perguntas. Sempre.

A edição de hoje, trabalha questões do excelente “Ética na Inteligência Artificial", livrinho do jornalista Mark Coecklebergh que está em seus momentos finais na minha mão, faltando seus dois últimos capítulos.

Ocorre que no que se refere ao nosso dia a dia aqui direto da fronteira entre Tecnologia, Comunicação e Cultura, temos caldo para pensar sobre como devemos encarar esse bichinho que criamos, puro suco do neoliberalismo e seu capitalismo tardio.

Sem mais, deixo-os com o pensamento de hoje. Leiam sem moderação, comentem com igual fervor e, fica a dica, façam isso direto do app do Substack que é fofinho de se ter às mãos para momentos de reflexão intestinal, fila do metrô ou praia à tardinha.

Aliás, antes, um pedido: já responderam à pesquisa sobre meu trabalho por aqui? Por favor, nunca pedi nada →

---

O projeto mauroamaral.com nasce a partir da certeza de que o futuro de conteúdo bem feito, pode ser traduzido em dois conceitos: curadoria e canais de contato direto. A sua newsletter é uma das melhores versões desta união. Mas temos outras: um canal no Instagram, uma comunidade no WhatsApp e ainda o Telegram e o Discord.

---

Súditos da agência moral que saúdam sua pós-humanidade

O avanço da Inteligência Artificial (IA) não é apenas uma questão tecnológica, mas também um marco em nosso entendimento sobre o que significa ser humano. Ao cruzarmos as fronteiras entre a ciência e as ficções que moldam nossa consciência coletiva, confrontamo-nos com um dilema fundamental: devemos nos esforçar para criar máquinas à nossa imagem, ou devemos aceitar a IA como algo essencialmente diferente, que opera fora dos parâmetros humanos?

Há uma clara relação entre o fascínio atual pela IA e as narrativas ficcionais que atravessam nossa cultura há séculos. O conceito de máquinas autônomas, que desafiam os limites da humanidade, remonta a mitos antigos como o do Golem, por exemplo. A

Aline Valek

acabou de lançar um episódio do seu excelente podcast indo por este caminho aliás, fica a dica.

E, claro, temos as ficções modernas como Frankenstein e Blade Runner que a cultura pop nos insinua de forma mais imediata. Ou ainda, o Doppelgänger – ou "duplo" – como reflexo sombrio do próprio indivíduo, uma duplicata que carrega consigo a noção de que a identidade não é tão sólida quanto acreditamos. Na literatura alemã, como em "O Homem da Areia" de E.T.A. Hoffmann, o Doppelgänger representa a perda de controle sobre o "eu", sugerindo que nossa individualidade pode ser fragmentada ou substituída por uma réplica artificial ou fantasmagórica.

Sobre o Homem da Areia, indico esta edição caprichada da Editora UBU. Além do texto integral tem comentários e ilustrações no melhor estilo gore.

Aqui você compra →

Ao conectarmos esse mito à IA, vemos ecos dessa inquietação na forma como tememos que as máquinas, especialmente robôs e sistemas inteligentes, possam não apenas imitar, mas rivalizar e até superar o ser humano, provocando a sensação de que estamos sendo substituídos por uma versão tecnologicamente aprimorada de nós mesmos.

O resultado do Google para “FrankStein Filme” já deixa claro nossa relação com certo transumanismo, né?

Essas histórias refletem nossos medos e esperanças, articulando questões profundas sobre nossa própria identidade e o papel da tecnologia na formação do futuro. Como esses mitos, a IA tem o poder de despertar tanto visões utópicas quanto distópicas.

A coisa muda um pouco de figura quando analisamos o impacto da IA na sociedade moderna. É crucial ir além das narrativas de ficção científica ou das outras criadas pelos investidores que fizeram essa bolha inchar.

A realidade é mais complexa e, muitas vezes, mais imediata. Precisamos olhar para o presente, para as aplicações concretas da IA, e questionar as implicações éticas e sociais que surgem a partir disso.

Só para ficar nos tópicos mais evidentes apresentados ao longo do livro. Por exemplo, enquanto muitos discutem se a IA geral — aquela que seria capaz de replicar a inteligência humana de forma completa — é possível, a realidade atual já nos coloca diante de desafios mais urgentes. O uso de IA em áreas como vigilância, saúde e mercado financeiro já está alterando profundamente as estruturas sociais e econômicas.

Tá faltando pouco para os pre-cogs? (Minority Report, 2002, Steven Spielberg)

Nesse sentido, a discussão ética sobre IA não pode se restringir a cenários distantes ou imaginários. É fundamental que incorpore uma análise crítica sobre o que a IA faz hoje, como ela é usada e quem realmente se beneficia de seu desenvolvimento.

O filósofo Hubert Dreyfus, que criticou a abordagem simbólica da IA no MIT¹, argumentou que a mente humana opera em um contexto existencial e corporificado, um saber que a IA não pode replicar. Ele sugeriu que a tentativa de formalizar o conhecimento tácito humano na IA era uma forma de alquimia moderna. Essa visão, que foi marginalizada por anos, ganha força no debate contemporâneo, à medida que pesquisadores reconhecem a importância do contexto na cognição.

O que está em jogo, no entanto, não é apenas o embate entre IA e seres humanos. Trata-se de divisões fundamentais no pensamento moderno. Por um lado, temos o Iluminismo, com sua crença no progresso racional e na ciência como caminho para desvendar todos os mistérios. Por outro, o Romantismo, que defende o mistério e a subjetividade da experiência humana.

Essa tensão é reproduzida no debate sobre IA, onde otimistas tecnológicos como Daniel Dennett buscam "quebrar o feitiço" da consciência e desmistificar a criatividade e a inteligência. Em contrapartida, os defensores do pós-humanismo sugerem que a IA pode ser algo totalmente diferente, que não precisa replicar a mente humana, mas pode nos ensinar sobre novas formas de ser e pensar.

Um excelente filme ruim, Lucy. (Luc Besson, 2014)

As fronteiras entre humano e não humano estão se dissolvendo. O projeto transumanista vê a IA como uma ferramenta para melhorar a condição humana, enquanto o pós-humanismo busca ir além dessa dicotomia, aceitando a IA como algo radicalmente distinto, que pode nos ensinar a pensar de maneira não antropocêntrica. De certa forma, a IA desafia a própria ideia de que o humano é o ápice da evolução cognitiva.

“Você jura?", disse o Polvo.

Diante desse cenário, surge a necessidade de abordar a IA de forma mais crítica e engajada. As questões éticas e políticas que emergem são inúmeras: desde a responsabilidade moral pelas ações da IA até os impactos sociais de sua implementação em larga escala.

A responsabilidade, no entanto, deve sempre recair sobre os humanos, pois as máquinas, sem consciência ou intenção, não podem ser responsabilizadas pelos seus atos.

Essa realidade nos obriga a repensar o papel da tecnologia em nossas vidas e a forma como nos relacionamos com ela. Em última análise, a IA não é apenas uma ferramenta, mas uma nova fronteira que nos força a reavaliar o que significa ser humano.

E, como disse no começo desta edição, valem mais para o meu projeto de estar no mundo, novas perguntas do que as Respostas Definitivas Que Tudo Sabem.

Por isso, finalizo por agora, oferecendo as dez questões mais relevantes que a leitura do “Ética na Inteligência Artificial” despertaram. São disparadores de conversa e convido a todos a chegarem mais no debate, combinado?

1. A IA pode replicar a consciência humana ou estamos fadados a criar apenas uma imitação superficial?

2. Quais são os limites éticos na criação de IAs que tomam decisões em nome dos seres humanos?

3. De que maneira a IA pode ser usada para o bem comum, sem se tornar uma ferramenta de controle social?

4. Qual é o papel da IA no mercado de trabalho e como podemos mitigar os efeitos da automação em massa?

5. Como devemos lidar com as questões de responsabilidade quando a IA comete erros que causam danos?

6. O foco no desenvolvimento de IA é o melhor uso de nossos recursos tecnológicos, dada a urgência de outros problemas globais?

7. É possível que a IA desenvolva um tipo de inteligência não-humana, e como isso pode nos afetar?

8. Até que ponto devemos permitir que a IA influencie nossas decisões pessoais e coletivas?

9. Quais são os impactos psicológicos e sociais de conviver com máquinas que simulam seres humanos?

10. O que significa ser humano em um mundo onde a IA desafia nossas noções tradicionais de inteligência e criatividade?

Que questão tocou mais você? Como pretende seguir seus dias depois deste texto?

1. Você encontra o paper “Critique of Classical AI and its Rationalist Assumptions“ aqui neste link