Compartilhe esta publicação
Este e-mail não foi escrito pelo chatGPT, Yuval
Mas Galathea nasceu após minha conversa com o MidJourney
(antes de começar, lembrando que temos um servidor no Discord e um grupo no Telegram e até um Canal no Instagram para seguirmos conversando durante a semana. Passem por lá!)
Esta é Galathea1. Ela nasceu em 15 minutos no final da manhã de ontem e, ainda que detentora de um suave olhar de Monalisa, está mais sorrindo por dentro do que seu semblante de inquisidora de futuro distópico deixa demonstrar.
Mas, ainda assim, ela carrega uma dúvida. A mesma que muitos veículos especializados em comunicação (e, por derivação, tecnologia aplicada) levantaram na última semana: por quanto tempo a Inteligência Artificial Generativa seguirá sem regulamentação?
A julgar pela carta aberta que figurões como Elon Musk e Yuval Harari publicaram no site do Future of Life Institute com o singelo título de “Pause Giant AI Experiments: An Open Letter", pouco tempo.
O texto aborda os riscos que a inteligência artificial (IA) pode trazer para a sociedade e a humanidade, devido à falta de planejamento e gerenciamento adequado. Segundo seus signatários (grandes figurões da Apple, Amazon, Google etc), a IA está se tornando cada vez mais competitiva em tarefas gerais e levanta questões sobre o controle, a automação de empregos e a substituição humana.
O texto sugere ainda que a comunidade de pesquisa em IA deve pausar o treinamento de sistemas de IA mais poderosos do que o GPT-4 por pelo menos seis meses e desenvolver conjuntamente protocolos de segurança para o desenvolvimento de IA.
Também indica ser necessário acelerar o desenvolvimento de sistemas de governança de IA robustos em parceria com os formuladores de políticas. O suposto objetivo seria o de garantir que as possíveis consequências da IA sejam gerenciáveis e benéficas para a sociedade, e que o desenvolvimento seja focado em tornar as tecnologias mais seguras, transparentes e confiáveis.
Eu ri. Mas já conto o porquê.
Porque logo depois, me deparei com uma edição da newsletter The Ruffian, aqui mesmo no Substack, na qual seu editor entrevistou Tom Chivers, jornalista e editor de outra newsletter igualmente excelente ( a Semafor, uma startup de notícias novinha em folha, aliás, sem folha só digital mesmo).
Tom, no lugar de gurus tecnológicos normalmente procurados para debater esses assuntos, é muito bom em explicar intrincados conceitos tecnológicos para o público comum, nós mesmos, enfim.
Um dos trechos que mais curti é a reposta que tom ouviu dos pesquisadores que entrevistou ele mesmo, para saber sobre os riscos REAIS de uma IA superpoderosa fazer alguma merda definitiva e extinguir a raça humana:
Para pesquisadores de IA em particular, as respostas variam entre 5% e 15% para resultados "muito ruins" como catástrofe existencial. É um pouco incerto, pois alguns podem estar agrupando outros resultados ruins com catástrofe existencial.
Mas, em geral, os pesquisadores de IA acreditam que há uma chance não trivial, talvez em porcentagens de dois dígitos, de que isso dê muito errado.
Ao mesmo tempo, eles também acreditam que há uma chance semelhante ou maior de que isso dê muito certo e que todos tenham um tempo maravilhoso.
Portanto, muitas pessoas que levo a sério acreditam que há uma chance realista, em um nível de duas casas ou superior, de que isso possa dar muito errado ...
Embora pareça um tanto quanto inconclusiva a entrevista nos traz outro conceito muito importante para entender o quanto é infundado o tom catastrófico usado pelos amiguinhos bilionáries da primeira citação: para realmente causar um estrago definitivo, a I.A. precisaria ser o que eles chamam de AGI (ou seja, uma super inteligência artificial geral). Capaz de realmente pensar em qualquer situação, em um resumo vexatoriamente simplificador.
E isso hoje, e durante alguns séculos, não teremos.
Este é o momento que você pode discordar um monte e pular para os comentários para refutar, combinado?
Mas o que temos hoje em dia, que está tirando o sono de tanta gente?
Na verdade, o esperneio dos signatários da carta aberta é baseado justamente em um sentimento oposto ao do Apocalipse generalizado. Está mais para fim de um paradigma que os favorece. Senão, vejamos.
As ferramentas que temos à disposição hoje estão a um passo de redemocratizar muitas das esferas de dominação criativa que hoje soam opacas: como a algorítmica e a dos ambientes plataformizados, que hoje os fez as pessoas mais ricas do planeta.
Igualmente, a exponencial redistribuição de forças e habilidades criativas tem o poder real de atuar como agente de quebra de intermediários: eu posso ser um criador “full stack” e com isso moldar meu negócio a favor e conectado diretamente ao meu público.
Ou, como diria o sempre preciso Leonardo DeMarchi, autor e pesquisador carioca:
Não é possível voltar atrás do desenvolvimento de um saber, de uma nova tecnologia: nem conseguiremos abandonar a IA, nem o sonho dos conservadores de acabar com as ciências humanas será realizado. Notem, o argumento é o mesmo: tais saberes são " disruptivos" demais, logo é melhor parar com isso. A natureza brutalmente conservadora é chocante.
Do que precisamos é de uma farmacologia, como diria Bernard Stiegler, para lidarmos com a IA e toda a bestialidade que ela abriga potencialmente. Isso se obtém através de uma ampliação do controle público sobre o desenvolvimento técnico; não deve depender da boa vontade dos auto-proclamados deuses do Vale do Silício.
Em outros termos, como se lida com os problemas e avanços da IA? Com mais democracia, com disputas sociais sobre como e para onde deve ir a tecnologia; não com a interrupção da ciência por decreto dos grande inventores... Mas talvez seja da democracia ampliada que pessoas como Harari e Musk mais tenham medo; não da IA...
Ou seja, para concluir, porque esta semana deu apenas para tecer este breve comentário: a carta é aberta para que a ágora permaneça fechada.
Acordem!
…e se você fosse meu assinante regular?
Dar vida à Galathea é só uma das coisas que debatemos por aqui. Mas existem muitas outras, tanto naturais quanto artificiais. E todas elas consomem como principal insumo, o meu tempo. Que vale mais do que prompts. Dito isso, que tal apoiar não só a mim mas todos os criadores de conteúdo deste ambiente? Essa é a ideia por trás do Substack, aliás: permitir a quem é ligado umbilicalmente a produção textual, conseguir captar alguns caraminguás.
Eu pensei no seguinte: por apenas R$ 7 mensais, você garante recompensas alinhadas com o meu trabalho por aqui:
Acesso direto à íntegra de materiais das minhas pesquisas, o que é uma super-referência;
E como conversa é o que move o mundo, temos um grupo fechadíssimo em nosso Telegram para seguir conversando, indicando leituras e debatendo os temas dos programas. Normalmente, entro em contato tão logo a pessoa assine. Mas, caso tenha deixado passar, fala comigo!
Você têm uma hora por mês de assinatura para trocar uma ideia comigo sobre projetos de conteúdo. Não é bem uma mentoria, é um papo, sabe? Pode trazer sua dúvida, uma ideia, um pedido de revisão etc.
Caiu na minha caixa postal, mas poderia ser a sua…
Hoje o destaque vai para a série FlashPoints que o
publica de quando em vez em sua The Ruffian.
Vale lembrar que tanto as entrevistas do Ian quanto este conteúdo que sai toda quarta-feira foi aqui fica mais bacana de ser lido no APP do Substack. Baixa aí!
Biscoitinhos para a provável audiência que mora também na tríplice fronteira entre tecnologia, comunicação e cultura…
Vou cometer dois pecados: o primeiro, colando aqui uma galera de criações feitas com a ajuda do MidJourney ontem enquanto testava o plano básico de sua assinatura:
Todas criadas com prompts do MidJourney em 04 de abril de 2023 E para concluir, um livro curioso do Issac Asimov que dorme na estante há uns 20 anos e que, hoje, vem bem a calhar (ou não):
Apontem seus prompts para a vossa liberdade, turma!
Galateia, na mitologia grega, é uma nereida, filha de Nereu e Dóris, que andava em uma carruagem puxada por golfinhos. Seu nome significa "donzela branca". Vivia nas costas da Sicília e passava seu tempo brincando nas ondas do mar. Certo dia, Galateia se apaixonou pelo pastor Ácis, filho do deus Pã e de uma ninfa. Infelizmente, a jovem foi vista pelo ciclope Polifemo, que se apaixonou por ela. Este era um dos temíveis e monstruosos ciclopes, gigantes de um só olho, que habitavam aquela ilha. Galateia, porém, era enamorada do belo Ácis. Quando a nereida repousava com seu amante junto ao mar, ambos foram vistos por Polifemo, que perseguiu Ácis e terminou por esmagá-lo com uma enorme rocha. Galateia reviveu seu amado convertendo-o em um rio de águas límpidas, apelando para a mãe deste, uma ninfa dos rios. Em seguida, lançou-se ao mar, indo viver nas ondas que tocam as areias com suas espumas brancas, sem retornar à terra.