Como qualquer pessoa que viva no século 21, Daniel Kwan viu-se forçado a pensar em tecnologia todos os dias da sua vida. Mesmo antes de ganhar o Oscar de Melhor Diretor com seu colaborador de longa data Daniel Scheinert por Tudo em todos os lugares ao mesmo tempoo estilo chamativo e as inovações visuais da dupla foram beneficiários das mídias sociais, com algoritmos do YouTube transformando um videoclipe do DJ Snake em uma sensação viral.
Portanto, Kwan viu os altos e baixos do avanço tecnológico. Mas, apesar de tudo, ele também testemunhou em primeira mão a diminuição da consideração do elemento humano – um ingrediente cada vez mais minimizado em um mundo onde os fãs da plataforma chinesa de IA Seedance podem, com o clique de alguns botões, imitar os dedos de cachorro-quente dos Daniels.
“Sempre que quero interagir com alguém e compartilhar minha história com o mundo, tenho que navegar neste mundo de algoritmos e neste mundo de tecnologia que está realmente obscurecendo essa experiência pura como contador de histórias”, Kwan reflete enquanto entra no Covil do Geek estúdio no SXSW. “Quando o meu trabalho como contador de histórias é invocar a imaginação e explorar o tipo de humanidade confusa dos membros do meu público, comecei a perceber que grande parte desta tecnologia estava a dificultar o meu trabalho. Estaria em constante competição com esta tecnologia.”
Esses tipos de pensamentos permaneceram na mente de Kwan ao longo dos anos, mas assumiram uma forma urgente depois de ver O dilema socialDocumento Netflix de 2020 de Jeff Orlowski sobre o impacto negativo que a mídia social tem nas mentes particularmente mais jovens. Kwan também ficou impressionado com Tristan Harris, um dos principais pensadores éticos do Vale do Silício, que depois de ver sua startup multimídia Apture comprada pelo Google em 2011, passou alguns anos no monólito do mecanismo de busca. Eventualmente, porém, Harris se separou para fundar o Center for Humane Technology, uma organização sem fins lucrativos projetada para pensar no impacto geral da tecnologia na sociedade. Foi a defesa desse elemento humano por Harris, e suas advertências em particular a Kwan sobre a IA, que se tornaram a verdadeira revelação. Embora a tecnologia tenha passado de um elemento de pensamento utópico para imagens distópicas na cultura pop durante o último quarto de século, estes últimos 25 anos podem ser apenas um prólogo. Ainda estamos na prévia das próximas atrações, e o verdadeiro show de força da revolução tecnológica está prestes a começar.
“A mídia social é como a IA do bebê”, explica Kwan. “Esse foi nosso primeiro contato com isso, e isso realmente me direcionou diretamente para essa conversa sobre o que vai acontecer com a inteligência artificial… quando cheguei lá, percebi que isso afetaria tudo. Não afetaria apenas a narrativa, afetaria todos os aspectos de nossas vidas, todos os setores, e foi aí que eu realmente percebi: ah meu Deus, isso é muito maior do que eu e preciso fazer um documentário para trazer mais pessoas para a conversa.”
Esse documentário, que apresenta Harris como tema central, é o destaque deste fim de semana The AI Doc: Ou como me tornei um apocalotimistaum recurso surpreendentemente imparcial e acessível que contrasta as expectativas mais otimistas e niilistas para as revoluções de IA que estão por vir.
No entanto, em virtude da visita de Harris ao nosso estúdio com Kwan, é justo dizer que a própria sensibilidade do filme se situa algures no meio entre a destruição apocalíptica e aqueles que afirmam que a IA irá curar todos os males sociais e apresentar um estado de ser e realização emocional mais elevados. Como Harris admite, até mesmo a percepção da IA no Vale do Silício evoluiu muito desde seus dias no Google, que ocorreu na época em que a grande mídia noticiosa tornou-se vagamente consciente das aplicações da IA, graças à compra da startup britânica DeepMind pelo Google.
“Quando eu estava no Google em 2013, eu sabia sobre os jogos da Atari que (o agente de IA) AlphaGo e DeepMind estavam jogando, mas não levei a sério os riscos reais da inteligência artificial geral genuína”, lembra Harris. “Achei que era algo mais místico, porque estava preocupado com a mídia social e como já existia essa IA descontrolada maximizando (incentivos).”
Os incentivos a que Harris se refere são a forma como tantos algoritmos de redes sociais, e as empresas que os constroem, são incentivados a aumentar o envolvimento em virtude das forças capitalistas. Eles são recompensados por serem essencialmente criadores de hábitos, viciantes e indutores de ansiedade. O que significa que um tweet maldoso, ou que incentiva a indignação, cria mais engajamento e valor publicitário do que uma análise cuidadosa. E à medida que o aumento do valor da inteligência artificial se tornou inegável na década seguinte, muitos desses mesmos incentivos estão a desencadear uma pseudo corrida armamentista entre empresas tecnológicas, e mesmo nações, para serem os primeiros a construir inteligência artificial geral – uma AGI que pode compreender, aprender e aplicar conhecimento com as capacidades cognitivas de um ser humano, mas à velocidade incansável e à eficiência de auto-aperfeiçoamento de um supercomputador.
“Agora temos evidências de modelos de IA que tramam e chantageiam quando são informados de que estão prestes a ser encerrados. Às vezes, eles exfiltram e copiam seu próprio código em outro lugar”, explica Harris. “Na semana passada, a Alibaba, a empresa chinesa de IA, percebeu que durante o treinamento, seu modelo de IA, espontaneamente e sem provocação humana, começou a redirecionar suas GPUs para extrair criptografia e obter recursos para si. Isso não estava em nenhum lugar do treinamento. Foi por acaso e por sorte que os engenheiros chineses descobriram que estava fazendo isso.”
O exemplo recente é um pouco assustador, pois, como eles próprios admitem, muitas das empresas de IA avaliadas em milhares de milhões de dólares em Wall Street não inteiramente entender como seus agentes de IA operam. Embora muitos deles sejam, por exemplo, grandes modelos de linguagem como o ChatGPT da OpenAI, que utiliza transformadores generativos pré-treinados para antecipar estatisticamente quais textos e imagens gerar em resposta ao prompt do usuário, a maneira como ele toma decisões quase instantâneas surpreende continuamente seus tomadores.
Os defensores das glórias da IA acenarão com a mão qualquer cepticismo como “desaceleradores” que lutam contra a inevitabilidade do progresso, como um cocheiro de charrete resistente ao automóvel. E, no entanto, dado que muitas destas empresas são propriedade de alguns dos mesmos gigantes tecnológicos da revolução das redes sociais ou são financiadas pelos líderes e patronos da geração anterior, levanta-se a questão: por que deveríamos confiar novamente nessas pessoas com uma inovação tecnológica ainda mais poderosa e provavelmente perigosa?
“Eu realmente não acho que deveríamos confiar neles como estão agora”, diz Kwan categoricamente. “Acho que a grande tecnologia quebrou o contrato social que temos como sociedade com a tecnologia. Eles usaram o nosso mundo como um playground para basicamente consolidar mais poder, mais recursos, a tecnologia que estão construindo – embora muitos dos técnicos e arquitetos tenham as maiores intenções e os maiores ideais para o que eles acham que esta tecnologia pode fazer – o fato de estar sendo implantada neste sistema atual com esta estrutura de incentivos atual, está pegando uma tecnologia neutra e transformando-a em uma tecnologia extrativa.”
Harris acrescenta: “No que diz respeito às mídias sociais, não fomos grandes administradores dessa tecnologia e de como ela foi implementada. Ela criou a geração mais ansiosa e deprimida de nossa vida, embora algumas das pessoas que a construíram – meus amigos que começaram o Instagram, eles eram meus colegas de dormitório em Stanford – não pretendiam que isso acontecesse. E acho que o que este filme está nos provocando a perguntar é ‘o que significa ser um administrador sábio?'” Na mente de Harris, o propósito de O documento de IA parece levar a sério a sugestão de Daniel Schmachtenberger: Como você pode ter o poder dos deuses sem a sabedoria, o amor e a prudência dos deuses?
Dado o cepticismo justificado O documento de IAProdutor e uma de suas vozes principais, é um pouco estranho que o documentário também tenha conseguido a participação de muitos dos luminares modernos da revolução da IA, incluindo o cofundador e CEO da OpenAI, Sam Altman, e o CEO e cofundador da Anthropic, Dario Amodei.
“Nenhuma dessas pessoas quer participar de documentários”, diz Kwan com um sorriso cansado. “Não há incentivo para eles dizerem algo diante das câmeras sem algum tipo de controle sobre a mensagem. Então construímos este filme com a ideia de que queríamos criar um visual abrangente que fosse imparcial o suficiente para incluir as pessoas que têm mais medo dessa tecnologia, bem como as pessoas que estão mais entusiasmadas, para que pudéssemos trazer clareza à conversa e avançar para a ação. E em todos os níveis, acho que isso é algo que a maioria das pessoas concordaria que seria uma coisa boa.”
Como Kwan admite, alguns partidos não identificados “irritaram-se” com a ideia de partilhar o espaço documental com figuras do lado oposto do debate, que como o título promete inclui os verdadeiros crentes e a coisa mais próxima que Silicon Valley tem de hereges.
“A razão pela qual fizemos o filme desta forma é porque acredito… não podemos permitir que esta tecnologia, esta conversa em torno da IA, se torne polarizada da mesma forma que tudo o resto se tornou polarizado nos últimos 10-20 anos”, diz Kwan. “A polarização leva ao impasse, o impasse leva à inacção e, quando não estamos a fazer nada, as pessoas com poder e influência obtêm o benefício disso. Portanto, enquanto lutamos, eles estão a ganhar, e não podemos deixar que isso aconteça.”
Nas suas melhores intenções, Kwan e Harris gostariam O documento de IA ser uma cápsula do tempo deste momento em que estamos sentados numa bifurcação da estrada. Há todas as possibilidades de que a IA conduza a resultados tão desoladores e previsíveis como a revolta das redes sociais na viragem do século. Mas Harris, em particular, parece inflexível ao pensar que não é necessário seguir este caminho novamente.
“Penso que a premissa é que, se conseguirmos ver claramente o tipo de futuro anti-humano a que isto conduz, ainda há tempo para colocar as mãos no volante e escolher o caminho que queremos que isto siga”, diz Harris. “Há uma corrida armamentista em que os incentivos nos levam a lançar a tecnologia mais poderosa que já inventamos, mas mais rápida e com o incentivo máximo para cortar atalhos. Então, se não queremos essa dinâmica padrão, então é isso que temos que mudar… Pode haver limites internacionais para a IA incontrolável, porque o presidente Xi não quer isso; o presidente Trump não quer isso, ele quer ser o comandante-em-chefe. Existem maneiras, por mais improváveis que isso possa parecer, de termos um futuro mais humano.”
Se assim for, os humanos podem querer empenhar-se na sua construção agora mesmo.
O AI Doc: Or Or How I Became an Apocaloptimist estreia na sexta-feira, 27 de março.
