Em post no blog da OpenIA em setembro de 2024, Sam Altman vaticinava que, em breve, a humanidade viverá uma “era da inteligência” e haverá “prosperidade massiva”. “Triunfos impressionantes —como resolver o problema do clima, estabelecer uma colônia no espaço e descobrir tudo sobre a física— um dia serão comuns”, dizia o cofundador da OpenAI.

Declarando-se profetas das tecnologias civilizatórias que resolverão todos os males da humanidade, Altman e o resto da indústria de IA estão construindo impérios que usam dados que não lhes pertencem, exploram trabalho em países pobres e sugam quantidades crescentes de energia e água.

Essa é a visão crítica da jornalista Karen Hao, autora do livro recém-lançado nos EUA “Empire of AI – Dreams and Nightmares in Sam Altman’s OpenAI” (Império da IA – sonhos e pesadelos na OpenAI de Sam Altman). Na obra, Hao descreve a ascensão da OpenAI e de Altman, ao mesmo tempo que expõe os perigos do que ela considera ser uma busca do avanço tecnológico a qualquer custo.

Hao tem uma posição privilegiada. Foi a primeira jornalista a cobrir a OpenAI —ficou “embutida” por alguns dias na companhia, acompanhando seu funcionamento, em 2019, antes mesmo da estreia pública do ChatGPT, em 2022. Como repórter, continuou seguindo os avanços da tecnologia e idas e vindas de Altman. E, antes de ser jornalista de tecnologia, ela trabalhou muitos anos no Vale do Silício como engenheira da computação.

Para a autora, as empresas de IA são como os “impérios da época do colonialismo europeu”. Esses impérios de IA “extraem recursos preciosos para alimentar sua visão da inteligência artificial: o trabalho de artistas e escritores, os dados de pessoas postando sobre suas experiências e observações online, a terra, a energia e a água necessárias para abrigar e fazer funcionar data centers e computadores massivos”. Além disso, exploram o trabalho de pessoas ao redor do globo para limpar, tabular e preparar os dados que serão transformados em lucrativas tecnologias de IA. A autora vai até o Quênia para retratar as condições de trabalho desses “anotadores” de dados e até o Chile para mostrar o impacto ambiental dos data centers.

Hao detalha no livro os primórdios da OpenAI como empresa sem fins lucrativos. Na época, Altman comprometeu-se com o desenvolvimento da chamada inteligência artificial geral “não para ganhos financeiros dos acionistas, mas para o bem da humanidade”. Ele trabalhava com um conselho de diretores com muita autonomia que precisavam zelar para que a empresa mantivesse sua missão.

Mas esses princípios começaram a ruir rapidamente e foram substituídos pelo avanço tecnológico a qualquer custo, segundo a autora. Musk, fundador da OpenAI com Altman, em 2015, rompeu com ele e passou a processá-lo. O dono da Tesla criou sua própria companhia de IA, a xAI, e alega que Altman desvirtuou os propósitos da OpenAI.

“Aceleraram maciçamente a comercialização e o uso da tecnologia, sem se proteger contra seus efeitos negativos a forma como ela pode amplificar e explorar as divisões na nossa sociedade”, diz Hao.

Para a autora, a demissão e readmissão de Altman em 2023 —quando conselho da empresa tentou se livrar do fundador, mas teve que voltar atrás— foi a prova final de que o experimento em governança sem fins lucrativos tinha fracassado.

Hao pinta um cenário preocupante sobre os rumos da IA. “Na superfície, a IA generativa é empolgante: ajuda a fazer brainstorming de ideias e a escrever; é uma companhia para bater papo tarde da noite e para espantar a solidão, uma ferramenta que, um dia, pode ser tão eficiente que vai aumentar o crescimento econômico… mas, quando se analisa mais a fundo, os modelos de IA generativa são monstruosidades construídas com quantidades inimagináveis de dados, trabalho, poder computacional e recursos naturais”, diz a obra.

Ela não ignora as versões benéficas da IA, como a que ajuda a integrar energia renovável à rede, faz previsão do tempo, auxilia na descoberta de medicamentos, identifica câncer precocemente em uma ressonância magnética.

Mas diz que essa busca do crescimento a qualquer custo está concentrando poder nas mãos de alguns poucos no Vale do Silício.

A obra trata de outro momento importante na história da empresa, que ficou conhecido como o divórcio. Em 2021, Dario Amodei, outro papa da IA, deixou a OpenAI para fundar a Anthropic, atualmente uma das maiores concorrentes da empresa de Altman. Na época, Amodei alegou que não concordava com a negligência da OpenAI em relação aos potenciais efeitos negativos da IA.

Embora tenha defendido regulação durante um período, em uma ofensiva de relações públicas no Congresso americano, Altman rapidamente se mostrou um aceleracionista. Os aceleracionistas afirmam ser um imperativo moral desenvolver a inteligência artificial geral o mais rápido possível, sem os freios da regulação e das medidas de segurança. Tudo isso para que a humanidade possa se beneficiar o quanto antes dessa tecnologia —e a China não chegue lá primeiro. A IAG seria uma IA que possui inteligência humana.

Já Amodei é do time dos catastrofistas, que advertem para os riscos da IAG no futuro e a necessidade de evitar que ela saia do controle humano.

Hao não alivia para nenhum dos dois. Ela diz que os catastrofistas só focam os perigos de uma suposta superinteligência artificial no futuro, em vez de lidar com os danos causados atualmente pela IA — desinformação, amplificação de preconceitos, desemprego, custo ambiental, violação de direitos autorais.

Ela prega uma reação da sociedade para garantir que a IA irá, de fato, beneficiar a todos. Entre suas prescrições, regras robustas de privacidade de dados e transparência e atualização das proteções à propriedade intelectual para que as pessoas voltem a ter controle sobre seus dados e seu trabalho. Hao também defende a adoção de normas trabalhistas garantindo aos “anotadores de dados” salários decentes e condições dignas de trabalho.

Diante de toda a euforia que cerca a IA, o livro de Hao funciona como um antídoto contra a narrativa de que qualquer regulação ou medida de segurança vai prejudicar essa panaceia tecnológica.

Empire of AI – Dreams and nightmares in Sam Altman’s OpenAI (Império da IA – sonhos e pesadelos na Open AI de Sam Altman

Penguin Press

496 páginas

R$ 93 (e-book)