Principais Lições
1. A Base Material da IA: A Terra como Indústria Extrativa
Os meios computacionais participam agora de processos geológicos (e climatológicos), desde a transformação dos materiais da Terra em infraestruturas e dispositivos até o funcionamento desses novos sistemas com reservas de petróleo e gás.
A dependência da IA em recursos. A inteligência artificial não é um conceito etéreo, mas uma indústria profundamente material, dependente da extração dos recursos da Terra. Desde as minas de lítio em Nevada até os depósitos de minerais raros na Mongólia Interior, a criação de sistemas de IA exige uma vasta cadeia de suprimentos de minerais, energia e materiais. Essa demanda alimenta práticas de mineração ambientalmente destrutivas, frequentemente negligenciadas nas discussões sobre progresso tecnológico.
Impacto ambiental. A demanda do setor tecnológico por recursos contribui significativamente para a degradação ambiental. A extração de minerais contamina cursos d’água, destrói florestas e desloca comunidades. Além disso, a natureza intensiva em energia da IA, especialmente no treinamento de grandes modelos, contribui para uma pegada de carbono crescente, rivalizando com a da indústria da aviação.
Necessidade de mudança de perspectiva. Para compreender o verdadeiro custo da IA, é preciso ir além das promessas abstratas do avanço tecnológico e considerar suas consequências materiais. Isso exige reconhecer os custos ambientais e humanos associados à extração de recursos, ao consumo de energia e às cadeias globais de suprimentos que sustentam os sistemas de IA.
2. O Custo Humano: Exploração do Trabalho nos Sistemas de IA
Coordenar as ações humanas com os movimentos repetitivos de robôs e máquinas de linha sempre envolveu o controle dos corpos no espaço e no tempo.
A dependência da IA no trabalho humano. Apesar da narrativa da automação, os sistemas de IA dependem fortemente do trabalho humano, muitas vezes oculto e mal remunerado. Isso inclui trabalhadores digitais que rotulam dados, funcionários de armazéns da Amazon que preparam pedidos e moderadores de conteúdo que filtram material nocivo. Esses trabalhadores são essenciais para o funcionamento dos sistemas de IA, mas suas contribuições são frequentemente subvalorizadas e suas condições de trabalho exploratórias.
Tempo e controle. A gestão do tempo é central para a exploração do trabalho nos sistemas de IA. Os trabalhadores estão sujeitos a vigilância constante e avaliação algorítmica, com cada ação monitorada e medida para maximizar a eficiência. Isso cria um ambiente de trabalho estressante e desumanizador, onde os trabalhadores são tratados como meros apêndices da máquina.
Necessidade de solidariedade entre trabalhadores. Para enfrentar a exploração do trabalho nos sistemas de IA, os trabalhadores precisam se organizar e exigir melhores condições, salários justos e maior controle sobre seu tempo e esforço. Isso requer construir solidariedade entre diferentes setores da indústria de IA, desde os mineradores até os engenheiros, e desafiar as estruturas de poder que perpetuam a exploração.
3. Dados como Infraestrutura: O Apagamento do Contexto e do Consentimento
Todo material digital acessível publicamente — incluindo dados pessoais ou potencialmente prejudiciais — está aberto à coleta para conjuntos de dados usados no treinamento de modelos de IA.
Extração de dados. A indústria da IA depende da coleta massiva de dados, muitas vezes sem consentimento ou respeito à privacidade. Isso inclui informações pessoais, imagens e textos raspados da internet para treinar modelos de IA. Essa prática trata os dados como um recurso gratuito, ignorando as implicações éticas e sociais de coletar e usar informações das pessoas sem seu conhecimento ou permissão.
Da imagem à infraestrutura. A transformação de imagens em dados as despoja de seu contexto e significado. Fotos de identificação, selfies e fotos pessoais são reduzidas a pontos de dados, usados para treinar sistemas de reconhecimento facial e outros modelos de IA. Esse apagamento do contexto pode levar a resultados tendenciosos e discriminatórios, à medida que os sistemas aprendem a associar certas características a estereótipos negativos.
Preocupações éticas. As práticas atuais de coleta e uso de dados na IA levantam profundas questões éticas. É preciso ir além da ideia de que os dados são um recurso neutro e reconhecer as dinâmicas de poder inerentes à sua coleta, rotulagem e uso. Isso exige o desenvolvimento de diretrizes éticas e regulamentações que protejam a privacidade das pessoas e evitem o uso indevido de seus dados.
4. Classificação como Poder: Codificando o Viés nos Sistemas de IA
Ao observar como as classificações são feitas, vemos como esquemas técnicos reforçam hierarquias e ampliam desigualdades.
Classificação como ato político. Os sistemas de IA dependem da classificação para interpretar o mundo. Contudo, as categorias usadas para classificar dados não são neutras ou objetivas, mas refletem os vieses e pressupostos de seus criadores. Esses vieses podem ser codificados nos sistemas de IA, resultando em desfechos discriminatórios.
O problema do viés. Os sistemas de IA demonstram viés em diversas áreas, desde reconhecimento facial até justiça criminal. Esses vieses frequentemente refletem padrões históricos de discriminação, perpetuando e ampliando desigualdades existentes. Por exemplo, sistemas de reconhecimento facial podem ser menos precisos para pessoas de pele mais escura, levando a erros de identificação e prisões injustas.
Além dos debates sobre viés. Para enfrentar o problema do viés na IA, é preciso ir além de soluções técnicas e abordar as estruturas sociais e políticas que moldam os dados e algoritmos usados no treinamento dos sistemas. Isso requer desafiar as dinâmicas de poder que perpetuam a desigualdade e promover abordagens mais justas e inclusivas no desenvolvimento da IA.
5. Reconhecimento de Afetos: A Ciência Conturbada da Leitura das Emoções
A solução para o enigma de Clever Hans, escreveu Pfungst, foi a direção inconsciente dos questionadores do cavalo.
A alegação das emoções universais. Os sistemas de reconhecimento afetivo baseiam-se na ideia de que as emoções são universais e podem ser detectadas de forma confiável pelas expressões faciais. No entanto, essa afirmação é altamente contestada, com muitos pesquisadores argumentando que as emoções variam culturalmente e dependem do contexto.
A influência de Paul Ekman. O trabalho do psicólogo Paul Ekman foi fundamental para moldar o campo do reconhecimento afetivo. A pesquisa de Ekman, iniciada na década de 1960, afirmava identificar um conjunto de emoções básicas universalmente expressas e reconhecidas. Contudo, seus métodos e conclusões têm sido amplamente criticados pela falta de rigor científico.
Preocupações éticas. Apesar das dúvidas científicas em torno do reconhecimento afetivo, essas ferramentas estão sendo rapidamente implementadas em contextos de alta responsabilidade, desde processos seletivos até policiamento. Isso levanta sérias questões éticas, pois as pessoas podem ser julgadas e discriminadas com base em avaliações imprecisas e pouco confiáveis de seu estado emocional.
6. IA como Ferramenta do Poder Estatal: Vigilância e Controle
O passado e o presente militar da inteligência artificial moldaram as práticas de vigilância, extração de dados e avaliação de riscos que vemos hoje.
Origens militares da IA. O desenvolvimento da IA foi fortemente influenciado pelo financiamento e prioridades militares. Isso direcionou o foco do campo para vigilância, extração de dados e avaliação de riscos, com pouca consideração pelas implicações éticas e sociais.
O arquivo Snowden. O arquivo Snowden revela até que ponto as agências de inteligência têm usado a IA para coletar e analisar dados em larga escala. Essas ferramentas, antes reservadas à segurança nacional, estão agora sendo empregadas internamente, borrando as fronteiras entre vigilância militar e civil.
A estratégia Third Offset. A estratégia Third Offset do exército dos EUA busca manter sua supremacia em IA por meio de parcerias com o setor tecnológico. Isso gerou uma relação estreita entre o meio militar e o Vale do Silício, com empresas de tecnologia fornecendo ferramentas e expertise em IA ao Departamento de Defesa.
7. As Grandes Casas da IA: Centralizando Poder e Ampliando Assimetrias
Essas políticas são impulsionadas pelas Grandes Casas da IA, compostas por meia dúzia de empresas que dominam a computação planetária em larga escala.
Concentração de poder. A indústria da IA é dominada por um pequeno número de corporações tecnológicas poderosas. Essas empresas controlam vastas quantidades de dados, recursos e expertise, o que lhes confere uma vantagem significativa para moldar o desenvolvimento e a implementação dos sistemas de IA.
Desigualdades crescentes. A concentração de poder nas mãos de poucos gigantes tecnológicos agrava as desigualdades existentes. Os sistemas de IA são frequentemente projetados para servir aos interesses dessas empresas, ampliando ainda mais a distância entre ricos e pobres, poderosos e marginalizados.
Necessidade de regulação. Para enfrentar a concentração de poder na indústria da IA, é preciso regulamentações mais rigorosas que promovam a concorrência, protejam a privacidade e garantam que os sistemas de IA sejam usados em benefício da sociedade como um todo. Isso exige desafiar o domínio dos gigantes tecnológicos e fomentar formas mais democráticas e responsáveis de governança da IA.
8. Desafiando as Lógicas: Rumo a Movimentos Interconectados por Justiça
À medida que as condições na Terra mudam, os clamores por proteção de dados, direitos trabalhistas, justiça climática e equidade racial devem ser ouvidos em conjunto.
Movimentos interconectados. Enfrentar os problemas fundamentais da IA requer conectar questões de poder e justiça. Isso inclui proteção de dados, direitos trabalhistas, justiça climática e equidade racial. Ao trabalharem juntos, esses movimentos podem desafiar as estruturas de poder que a IA atualmente reforça.
Política da recusa. É preciso rejeitar a ideia de que a IA é inevitável e que não temos escolha senão aceitar suas consequências. Isso implica desafiar as narrativas do determinismo tecnológico e exigir formas mais democráticas e responsáveis de governança da IA.
Uma visão diferente. Ao conectar questões de poder e justiça, podemos criar uma visão distinta para a IA, que priorize o bem-estar humano, a sustentabilidade ambiental e a equidade social. Isso exige desafiar as lógicas extrativas da IA e construir um futuro mais justo e sustentável para todos.
Resumo das Resenhas
Atlas da IA recebe críticas mistas, com alguns a elogiar a sua análise crítica dos impactos sociais e ambientais da inteligência artificial, enquanto outros apontam a escrita repetitiva e a ausência de soluções. Os leitores valorizam a exploração dos custos materiais da IA, a exploração laboral e as questões éticas que o livro aborda. Contudo, há quem o considere excessivamente pessimista e com falta de profundidade técnica. A obra é reconhecida pela sua abordagem abrangente, mas também criticada pelo tom académico e por, por vezes, perder o foco. Apesar das suas falhas, muitos consideram-no uma leitura essencial para compreender as implicações mais amplas da inteligência artificial.
Outros Também Leram
Perguntas Frequentes
What's Atlas of AI about?
- Exploration of AI's Impact: Atlas of AI by Kate Crawford delves into the profound implications of artificial intelligence on society, politics, and the environment. It critiques the portrayal of AI as a neutral technology, highlighting its entanglement with power structures and extractive industries.
- Critique of AI Myths: The book challenges the notion that AI can replicate human intelligence, emphasizing that intelligence is shaped by cultural and historical contexts. Crawford uses examples like Clever Hans to illustrate biases in systems claiming objectivity.
- Interconnected Systems: Crawford presents AI as a "megamachine" reliant on a vast network of resources, including human labor and natural materials, urging readers to consider the broader implications of AI technologies on human rights and social justice.
Why should I read Atlas of AI?
- Critical Perspective: The book offers a critical lens on AI, challenging readers to think about the ethical and social ramifications of technology. It encourages a deeper understanding of how AI systems are designed and the biases they may perpetuate.
- Broader Context: Crawford situates AI within a larger framework of extraction and exploitation, linking it to historical and contemporary issues of power and inequality. This context is crucial for understanding the societal impacts of AI.
- Engaging Narratives: Combining rigorous research with compelling storytelling, the book makes complex topics accessible and engaging. Readers will find a blend of academic analysis and real-world examples that illustrate the stakes involved in AI development.
What are the key takeaways of Atlas of AI?
- AI as a Power Structure: The book posits that AI reflects existing power structures, serving the interests of those in control. AI systems are not neutral but are designed to optimize for specific outcomes that often reinforce inequality.
- Environmental and Labor Costs: Crawford highlights the significant environmental impact of AI, particularly in terms of resource extraction and energy consumption, and reveals how AI systems rely on cheap labor from marginalized communities.
- Call for Justice: Crawford advocates for a movement towards justice that addresses the interconnectedness of technology, capitalism, and social equity. She urges readers to consider how AI can be reoriented to serve the public good rather than perpetuate harm.
What are the best quotes from Atlas of AI and what do they mean?
- "Artificial intelligence is a registry of power.": This quote encapsulates Crawford's argument that AI systems reflect and reinforce existing power dynamics rather than being impartial technologies. It suggests that understanding AI requires examining who benefits from its deployment.
- "The story of Clever Hans is a cautionary reminder that you can’t always be sure of what a model has learned from the data it has been given.": This highlights the potential for bias in AI systems, emphasizing that the data used to train models can lead to misleading conclusions.
- “AI systems are expressions of power that emerge from wider economic and political forces.”: This quote challenges the reader to critically assess who benefits from AI technologies, emphasizing that AI is not neutral but reflects and amplifies existing power dynamics.
How does Kate Crawford define artificial intelligence in Atlas of AI?
- Not Artificial or Intelligent: Crawford argues that AI is neither truly artificial nor genuinely intelligent. Instead, it is a complex interplay of human labor, natural resources, and socio-political structures.
- Embodied and Material: She emphasizes that AI systems are built from physical materials and depend on extensive infrastructures, which include energy and labor. This challenges the common perception of AI as a purely digital phenomenon.
- Political and Social Practices: Crawford asserts that AI is shaped by political and social practices, meaning it cannot be understood in isolation from the contexts in which it operates.
What is the Clever Hans Effect mentioned in Atlas of AI?
- Observer-Expectancy Effect: The Clever Hans Effect refers to the phenomenon where a subject performs based on unintentional cues from the observer rather than genuine understanding. This highlights the influence of biases in interpreting intelligence.
- Implications for AI: Crawford uses this effect to illustrate how AI systems can also be misinterpreted based on the data they are trained on and the expectations of their creators.
- Broader Context of Intelligence: The effect raises questions about how intelligence is defined and measured, suggesting that our understanding of intelligence is often shaped by cultural and contextual factors.
How does Atlas of AI address the environmental impact of AI?
- Resource Extraction: Crawford discusses the extensive mining and resource extraction required to power AI technologies, particularly the demand for rare earth minerals, leading to significant ecological damage.
- Energy Consumption: The book highlights the enormous energy demands of AI systems, particularly in data centers, which contribute to carbon emissions and climate change.
- Interconnectedness with Climate Justice: Crawford connects the environmental impact of AI to broader issues of climate justice, arguing that the exploitation of resources for AI disproportionately affects marginalized communities.
What role does labor play in the construction of AI according to Atlas of AI?
- Exploitation of Workers: Crawford reveals how AI systems rely on cheap labor, often sourced from vulnerable populations, to function effectively. This exploitation is a critical aspect of the AI industry.
- Digital Piecework: The book discusses the rise of digital piecework, where workers are paid minimal amounts to perform tasks that support AI systems, such as labeling data.
- Surveillance and Control: Crawford highlights how AI technologies increase surveillance and control over workers, leading to a more regimented and exploitative work environment.
How does Atlas of AI address the issue of data extraction?
- Data Colonialism: Crawford discusses how data extraction often mirrors colonial practices, where marginalized communities are exploited for their data without consent or benefit.
- Consent and Privacy: The book emphasizes the lack of informed consent in data collection practices, particularly in how personal data is harvested for AI training.
- Impact on Communities: The extraction of data can have detrimental effects on communities, reinforcing existing inequalities and injustices.
What critiques does Atlas of AI offer regarding emotion recognition technologies?
- Scientific Foundations Questioned: Crawford highlights that many emotion recognition technologies are based on flawed scientific assumptions, particularly the idea that facial expressions universally correspond to specific emotions.
- Cultural Bias: The book points out that emotion recognition systems often fail to account for cultural differences in emotional expression, leading to biased outcomes.
- Potential for Harm: Crawford warns that deploying these technologies without understanding their limitations can lead to harmful consequences, such as misinterpretation of individuals' emotional states.
How does Atlas of AI connect AI to state power?
- Surveillance and Control: Crawford discusses how AI technologies are increasingly used by state actors for surveillance and control, often without adequate oversight.
- Military Applications: The book explores the relationship between AI development and military applications, particularly through programs like Project Maven.
- Corporate-State Collaboration: Crawford highlights the collaboration between tech companies and government agencies, suggesting that this partnership can lead to a lack of accountability and transparency.
What are the implications of Atlas of AI for the future of technology?
- Reevaluation of AI Development: Crawford's work calls for a reevaluation of how AI technologies are developed and deployed, emphasizing the need for ethical considerations and social responsibility.
- Advocacy for Justice Movements: The book encourages readers to engage in justice movements that address the intersections of technology, labor, and environmental issues.
- Critical Engagement with AI: Crawford urges readers to critically engage with AI technologies, questioning their implications and advocating for transparency and accountability.
