Kluczowe wnioski
1. Materialna podstawa sztucznej inteligencji: Ziemia jako przemysł wydobywczy
Media obliczeniowe biorą dziś udział w procesach geologicznych (i klimatycznych), od przekształcania surowców ziemi w infrastrukturę i urządzenia, po zasilanie tych systemów rezerwami ropy i gazu.
Zależność AI od zasobów. Sztuczna inteligencja to nie ulotna idea, lecz głęboko materialny przemysł, opierający się na wydobyciu zasobów Ziemi. Od kopalni litu w Nevadzie po złoża metali ziem rzadkich w Mongolii Wewnętrznej – tworzenie systemów AI wymaga rozległego łańcucha dostaw minerałów, energii i materiałów. To zapotrzebowanie napędza praktyki wydobywcze szkodliwe dla środowiska, często pomijane w dyskusjach o postępie technologicznym.
Wpływ na środowisko. Popyt sektora technologicznego na surowce znacząco przyczynia się do degradacji środowiska. Wydobycie minerałów zanieczyszcza wody, niszczy lasy i wypiera lokalne społeczności. Ponadto energochłonny charakter AI, zwłaszcza podczas trenowania dużych modeli, zwiększa ślad węglowy, dorównując emisjom branży lotniczej.
Potrzeba zmiany perspektywy. Aby zrozumieć prawdziwy koszt AI, musimy wyjść poza abstrakcyjne obietnice postępu technologicznego i uwzględnić jego materialne konsekwencje. Wymaga to uznania środowiskowych i społecznych kosztów związanych z wydobyciem surowców, zużyciem energii oraz globalnymi łańcuchami dostaw wspierającymi systemy AI.
2. Koszt ludzki: Wykorzystanie pracy w systemach AI
Koordynacja działań ludzi z powtarzalnymi ruchami robotów i maszyn liniowych zawsze wiązała się z kontrolą ciał w przestrzeni i czasie.
Zależność AI od pracy ludzkiej. Pomimo narracji o automatyzacji, systemy AI w dużej mierze opierają się na pracy ludzkiej, często ukrytej i słabo wynagradzanej. To m.in. cyfrowi pracownicy etykietujący dane, pracownicy magazynów Amazona realizujący zamówienia czy moderatorzy treści filtrujący szkodliwe materiały. Ich wkład jest niezbędny do funkcjonowania AI, lecz często niedoceniany, a warunki pracy – wyzyskujące.
Czas i kontrola. Zarządzanie czasem stanowi klucz do eksploatacji pracy w systemach AI. Pracownicy są pod stałą obserwacją i oceną algorytmiczną, każdy ich ruch jest śledzony i mierzone jest jego tempo, by maksymalizować wydajność. Tworzy to stresujące i odczłowieczające środowisko pracy, gdzie ludzie traktowani są jak przedłużenie maszyn.
Potrzeba solidarności pracowniczej. Aby przeciwdziałać wyzyskowi w systemach AI, pracownicy muszą się organizować i domagać lepszych warunków pracy, godziwych płac oraz większej kontroli nad swoim czasem i wysiłkiem. Wymaga to budowania solidarności między różnymi sektorami branży AI – od górników po inżynierów – oraz kwestionowania struktur władzy podtrzymujących wyzysk.
3. Dane jako infrastruktura: Zacieranie kontekstu i zgody
Wszystkie publicznie dostępne materiały cyfrowe – w tym dane osobowe lub potencjalnie szkodliwe – są zbierane na potrzeby zestawów treningowych wykorzystywanych do tworzenia modeli AI.
Eksploatacja danych. Przemysł AI opiera się na masowym zbieraniu danych, często bez zgody i poszanowania prywatności. To informacje osobiste, zdjęcia i teksty z internetu, wykorzystywane do trenowania modeli AI. Takie traktowanie danych jako darmowego zasobu ignoruje etyczne i społeczne konsekwencje gromadzenia i używania informacji ludzi bez ich wiedzy i zgody.
Od obrazu do infrastruktury. Przekształcenie obrazów w dane pozbawia je kontekstu i znaczenia. Zdjęcia policyjne, selfie czy fotografie prywatne redukowane są do punktów danych, służących do trenowania systemów rozpoznawania twarzy i innych modeli AI. To zacieranie kontekstu może prowadzić do uprzedzeń i dyskryminacji, gdy systemy uczą się kojarzyć pewne cechy z negatywnymi stereotypami.
Wątpliwości etyczne. Obecne praktyki zbierania i wykorzystywania danych w AI budzą poważne wątpliwości etyczne. Musimy wyjść poza przekonanie, że dane to neutralny zasób, i dostrzec dynamikę władzy towarzyszącą ich gromadzeniu, etykietowaniu i użyciu. Wymaga to opracowania wytycznych i regulacji chroniących prywatność oraz zapobiegających nadużyciom.
4. Klasyfikacja jako władza: Kodowanie uprzedzeń w systemach AI
Analizując sposób dokonywania klasyfikacji, widzimy, jak techniczne schematy wzmacniają hierarchie i pogłębiają nierówności.
Klasyfikacja jako akt polityczny. Systemy AI opierają się na klasyfikacji, by zrozumieć świat. Jednak kategorie używane do klasyfikowania danych nie są neutralne ani obiektywne – odzwierciedlają uprzedzenia i założenia ich twórców. Uprzedzenia te mogą być zakodowane w systemach AI, prowadząc do dyskryminujących rezultatów.
Problem uprzedzeń. Wykazano, że systemy AI wykazują uprzedzenia w różnych dziedzinach, od rozpoznawania twarzy po wymiar sprawiedliwości. Często odzwierciedlają one historyczne wzorce dyskryminacji, utrwalając i wzmacniając istniejące nierówności. Na przykład systemy rozpoznawania twarzy mogą być mniej dokładne dla osób o ciemniejszej karnacji, co prowadzi do błędnych identyfikacji i niesłusznych zatrzymań.
Poza debatą o uprzedzeniach. Aby rozwiązać problem uprzedzeń w AI, musimy wyjść poza techniczne poprawki i zająć się podstawowymi strukturami społecznymi i politycznymi kształtującymi dane i algorytmy. Wymaga to kwestionowania dynamiki władzy utrwalającej nierówności oraz promowania bardziej sprawiedliwych i inkluzywnych podejść do rozwoju AI.
5. Rozpoznawanie afektu: Problematyczna nauka czytania emocji
Rozwiązaniem zagadki Cwałującego Hansa, pisał Pfungst, było nieświadome kierowanie przez pytających konia.
Teza o uniwersalności emocji. Systemy rozpoznawania afektu opierają się na założeniu, że emocje są uniwersalne i można je wiarygodnie odczytać z mimiki twarzy. Jednak ta teza jest mocno kwestionowana – wielu badaczy podkreśla, że emocje są kulturowo zmienne i zależne od kontekstu.
Wpływ Paula Ekmana. Prace psychologa Paula Ekmana miały duży wpływ na rozwój rozpoznawania afektu. Jego badania z lat 60. XX wieku wskazywały na zestaw podstawowych emocji uniwersalnie wyrażanych i rozpoznawanych. Jednak metody i wyniki Ekmana spotkały się z szeroką krytyką za brak rygoru naukowego.
Wątpliwości etyczne. Mimo naukowych wątpliwości, narzędzia rozpoznawania afektu są szybko wdrażane w wielu obszarach o wysokiej stawce, od rekrutacji po działania policyjne. Budzi to poważne obawy etyczne, gdyż ludzie mogą być oceniani i dyskryminowani na podstawie niedokładnych i zawodnych ocen ich stanu emocjonalnego.
6. AI jako narzędzie władzy państwowej: Nadzór i kontrola
Wojskowa przeszłość i teraźniejszość sztucznej inteligencji ukształtowały praktyki nadzoru, ekstrakcji danych i oceny ryzyka, które obserwujemy dziś.
Wojskowe korzenie AI. Rozwój AI był silnie wspierany przez finansowanie i priorytety wojskowe. Ukształtowało to skupienie dziedziny na nadzorze, ekstrakcji danych i ocenie ryzyka, często bez uwzględnienia aspektów etycznych i społecznych.
Archiwum Snowdena. Materiały ujawnione przez Snowdena pokazują, jak szeroko agencje wywiadowcze wykorzystywały AI do masowego zbierania i analizy danych. Narzędzia te, pierwotnie przeznaczone do celów bezpieczeństwa narodowego, są dziś stosowane także na poziomie krajowym, zacierając granice między nadzorem wojskowym a cywilnym.
Strategia Third Offset. Amerykańska strategia Third Offset ma na celu utrzymanie dominacji w AI poprzez współpracę z sektorem technologicznym. Doprowadziło to do bliskich relacji między wojskiem a Doliną Krzemową, gdzie firmy technologiczne dostarczają narzędzia i know-how Departamentowi Obrony.
7. Wielkie Domy AI: Centralizacja władzy i pogłębianie asymetrii
Te polityki napędzają Wielkie Domy AI, czyli kilka dominujących korporacji kontrolujących globalne obliczenia na wielką skalę.
Koncentracja władzy. Przemysł AI jest zdominowany przez niewielką grupę potężnych korporacji technologicznych. Firmy te kontrolują ogromne zasoby danych, kapitału i wiedzy, co daje im znaczącą przewagę w kształtowaniu rozwoju i wdrażania systemów AI.
Pogłębianie nierówności. Koncentracja władzy w rękach kilku gigantów technologicznych pogłębia istniejące nierówności. Systemy AI często służą interesom tych firm, powiększając przepaść między bogatymi a biednymi, wpływowymi a marginalizowanymi.
Potrzeba regulacji. Aby przeciwdziałać koncentracji władzy w branży AI, potrzebne są silniejsze regulacje promujące konkurencję, chroniące prywatność i zapewniające, że systemy AI służą dobru społecznemu. Wymaga to kwestionowania dominacji gigantów technologicznych i wspierania bardziej demokratycznych i odpowiedzialnych form zarządzania AI.
8. Kwestionowanie logik: Ku powiązanym ruchom na rzecz sprawiedliwości
W miarę jak warunki na Ziemi się zmieniają, wezwania do ochrony danych, praw pracowniczych, sprawiedliwości klimatycznej i równości rasowej powinny być słyszane razem.
Powiązane ruchy. Rozwiązanie podstawowych problemów AI wymaga łączenia kwestii władzy i sprawiedliwości. Obejmuje to ochronę danych, prawa pracownicze, sprawiedliwość klimatyczną i równość rasową. Wspólne działanie tych ruchów może podważyć struktury władzy, które AI obecnie wzmacnia.
Polityka odmowy. Musimy odrzucić przekonanie, że AI jest nieuniknione i że nie mamy wyboru, by zaakceptować jej konsekwencje. Wymaga to kwestionowania narracji determinizmu technologicznego i domagania się bardziej demokratycznych i odpowiedzialnych form zarządzania AI.
Inna wizja. Łącząc kwestie władzy i sprawiedliwości, możemy stworzyć inną wizję AI – taką, która stawia na pierwszym miejscu dobro człowieka, zrównoważony rozwój środowiska i sprawiedliwość społeczną. Wymaga to podważenia eksploatacyjnych logik AI i budowy bardziej sprawiedliwej oraz zrównoważonej przyszłości dla wszystkich.
Podsumowanie recenzji
Atlas sztucznej inteligencji spotyka się z mieszanymi opiniami – niektórzy chwalą go za krytyczną analizę społecznych i środowiskowych skutków rozwoju AI, inni zaś zarzucają mu powtarzalność oraz brak konkretnych rozwiązań. Czytelnicy doceniają wnikliwe omówienie materialnych kosztów technologii, wyzysku pracy oraz dylematów etycznych związanych z AI. Z drugiej strony, niektórzy odbiorcy uważają książkę za zbyt pesymistyczną i pozbawioną głębszej wiedzy technicznej. Publikacja zyskuje uznanie za kompleksowe podejście do tematu, lecz krytykowana jest za akademicki styl oraz momentami rozmytą strukturę. Pomimo tych niedociągnięć, wielu czytelników uważa ją za lekturę niezbędną do zrozumienia szerszych konsekwencji rozwoju sztucznej inteligencji.
Inni czytali również
FAQ
What's Atlas of AI about?
- Exploration of AI's Impact: Atlas of AI by Kate Crawford delves into the profound implications of artificial intelligence on society, politics, and the environment. It critiques the portrayal of AI as a neutral technology, highlighting its entanglement with power structures and extractive industries.
- Critique of AI Myths: The book challenges the notion that AI can replicate human intelligence, emphasizing that intelligence is shaped by cultural and historical contexts. Crawford uses examples like Clever Hans to illustrate biases in systems claiming objectivity.
- Interconnected Systems: Crawford presents AI as a "megamachine" reliant on a vast network of resources, including human labor and natural materials, urging readers to consider the broader implications of AI technologies on human rights and social justice.
Why should I read Atlas of AI?
- Critical Perspective: The book offers a critical lens on AI, challenging readers to think about the ethical and social ramifications of technology. It encourages a deeper understanding of how AI systems are designed and the biases they may perpetuate.
- Broader Context: Crawford situates AI within a larger framework of extraction and exploitation, linking it to historical and contemporary issues of power and inequality. This context is crucial for understanding the societal impacts of AI.
- Engaging Narratives: Combining rigorous research with compelling storytelling, the book makes complex topics accessible and engaging. Readers will find a blend of academic analysis and real-world examples that illustrate the stakes involved in AI development.
What are the key takeaways of Atlas of AI?
- AI as a Power Structure: The book posits that AI reflects existing power structures, serving the interests of those in control. AI systems are not neutral but are designed to optimize for specific outcomes that often reinforce inequality.
- Environmental and Labor Costs: Crawford highlights the significant environmental impact of AI, particularly in terms of resource extraction and energy consumption, and reveals how AI systems rely on cheap labor from marginalized communities.
- Call for Justice: Crawford advocates for a movement towards justice that addresses the interconnectedness of technology, capitalism, and social equity. She urges readers to consider how AI can be reoriented to serve the public good rather than perpetuate harm.
What are the best quotes from Atlas of AI and what do they mean?
- "Artificial intelligence is a registry of power.": This quote encapsulates Crawford's argument that AI systems reflect and reinforce existing power dynamics rather than being impartial technologies. It suggests that understanding AI requires examining who benefits from its deployment.
- "The story of Clever Hans is a cautionary reminder that you can’t always be sure of what a model has learned from the data it has been given.": This highlights the potential for bias in AI systems, emphasizing that the data used to train models can lead to misleading conclusions.
- “AI systems are expressions of power that emerge from wider economic and political forces.”: This quote challenges the reader to critically assess who benefits from AI technologies, emphasizing that AI is not neutral but reflects and amplifies existing power dynamics.
How does Kate Crawford define artificial intelligence in Atlas of AI?
- Not Artificial or Intelligent: Crawford argues that AI is neither truly artificial nor genuinely intelligent. Instead, it is a complex interplay of human labor, natural resources, and socio-political structures.
- Embodied and Material: She emphasizes that AI systems are built from physical materials and depend on extensive infrastructures, which include energy and labor. This challenges the common perception of AI as a purely digital phenomenon.
- Political and Social Practices: Crawford asserts that AI is shaped by political and social practices, meaning it cannot be understood in isolation from the contexts in which it operates.
What is the Clever Hans Effect mentioned in Atlas of AI?
- Observer-Expectancy Effect: The Clever Hans Effect refers to the phenomenon where a subject performs based on unintentional cues from the observer rather than genuine understanding. This highlights the influence of biases in interpreting intelligence.
- Implications for AI: Crawford uses this effect to illustrate how AI systems can also be misinterpreted based on the data they are trained on and the expectations of their creators.
- Broader Context of Intelligence: The effect raises questions about how intelligence is defined and measured, suggesting that our understanding of intelligence is often shaped by cultural and contextual factors.
How does Atlas of AI address the environmental impact of AI?
- Resource Extraction: Crawford discusses the extensive mining and resource extraction required to power AI technologies, particularly the demand for rare earth minerals, leading to significant ecological damage.
- Energy Consumption: The book highlights the enormous energy demands of AI systems, particularly in data centers, which contribute to carbon emissions and climate change.
- Interconnectedness with Climate Justice: Crawford connects the environmental impact of AI to broader issues of climate justice, arguing that the exploitation of resources for AI disproportionately affects marginalized communities.
What role does labor play in the construction of AI according to Atlas of AI?
- Exploitation of Workers: Crawford reveals how AI systems rely on cheap labor, often sourced from vulnerable populations, to function effectively. This exploitation is a critical aspect of the AI industry.
- Digital Piecework: The book discusses the rise of digital piecework, where workers are paid minimal amounts to perform tasks that support AI systems, such as labeling data.
- Surveillance and Control: Crawford highlights how AI technologies increase surveillance and control over workers, leading to a more regimented and exploitative work environment.
How does Atlas of AI address the issue of data extraction?
- Data Colonialism: Crawford discusses how data extraction often mirrors colonial practices, where marginalized communities are exploited for their data without consent or benefit.
- Consent and Privacy: The book emphasizes the lack of informed consent in data collection practices, particularly in how personal data is harvested for AI training.
- Impact on Communities: The extraction of data can have detrimental effects on communities, reinforcing existing inequalities and injustices.
What critiques does Atlas of AI offer regarding emotion recognition technologies?
- Scientific Foundations Questioned: Crawford highlights that many emotion recognition technologies are based on flawed scientific assumptions, particularly the idea that facial expressions universally correspond to specific emotions.
- Cultural Bias: The book points out that emotion recognition systems often fail to account for cultural differences in emotional expression, leading to biased outcomes.
- Potential for Harm: Crawford warns that deploying these technologies without understanding their limitations can lead to harmful consequences, such as misinterpretation of individuals' emotional states.
How does Atlas of AI connect AI to state power?
- Surveillance and Control: Crawford discusses how AI technologies are increasingly used by state actors for surveillance and control, often without adequate oversight.
- Military Applications: The book explores the relationship between AI development and military applications, particularly through programs like Project Maven.
- Corporate-State Collaboration: Crawford highlights the collaboration between tech companies and government agencies, suggesting that this partnership can lead to a lack of accountability and transparency.
What are the implications of Atlas of AI for the future of technology?
- Reevaluation of AI Development: Crawford's work calls for a reevaluation of how AI technologies are developed and deployed, emphasizing the need for ethical considerations and social responsibility.
- Advocacy for Justice Movements: The book encourages readers to engage in justice movements that address the intersections of technology, labor, and environmental issues.
- Critical Engagement with AI: Crawford urges readers to critically engage with AI technologies, questioning their implications and advocating for transparency and accountability.
