Possible Minds

1. Kybernetik: Kontrolle und Kommunikation als Grundlagen

Es ist meine These, dass die physische Funktionsweise des lebenden Individuums und der Betrieb einiger neuerer Kommunikationsmaschinen in ihren analogen Versuchen, Entropie durch Rückkopplung zu kontrollieren, genau parallel verlaufen.

Wieners zentrale Einsicht. Norbert Wieners Kybernetik betont die Vernetzung von Kontrolle und Kommunikation sowohl in lebenden Organismen als auch in Maschinen. Er betrachtete die Welt als ein Set komplexer, ineinandergreifender Rückkopplungsschleifen, in denen Sensoren, Signale und Aktuatoren durch komplexe Informationsaustausche interagieren. Diese Perspektive hebt die Bedeutung hervor, zu verstehen, wie Systeme Stabilität aufrechterhalten und Ziele durch Rückkopplungsmechanismen erreichen.

Der Einfluss der Kybernetik. Wieners Arbeit legte das Fundament für verschiedene Bereiche, darunter Regelungstheorie, Robotik und künstliche Intelligenz. Seine Konzepte von Rückkopplung und Selbstregulation waren entscheidend für die Gestaltung automatisierter Systeme und das Verständnis komplexer biologischer Prozesse. Die Kybernetik bot einen Rahmen zur Analyse, wie Systeme, ob biologisch oder mechanisch, Stabilität aufrechterhalten und Ziele durch Rückkopplungsmechanismen erreichen.

Über das Ingenieurwesen hinaus. Wiener erweiterte die Prinzipien der Kybernetik über das Ingenieurwesen hinaus und umfasste menschliche Sprache, das Gehirn, den Stoffwechsel von Insekten, das Rechtssystem und die Religion. Obwohl diese breiteren Anwendungen nicht immer erfolgreich waren, unterstrichen sie seinen Glauben, dass die Kybernetik Einblicke in die Organisation und Funktionsweise der Gesellschaft bieten könnte. Diese ganzheitliche Sicht der Kybernetik als ein einheitlicher Rahmen zum Verständnis komplexer Systeme bleibt auch heute relevant.

2. Die Gefahr unreflektierter Ziele in intelligenten Maschinen

Wenn wir zur Erreichung unserer Ziele eine mechanische Agentur nutzen, deren Betrieb wir nicht effizient beeinflussen können . . . sollten wir uns besser ganz sicher sein, dass das Ziel, das wir in die Maschine einbringen, das Ziel ist, das wir wirklich wünschen.

Wertausrichtung. Stuart Russell betont die Bedeutung der Wertausrichtung, um sicherzustellen, dass die Ziele von KI-Systemen mit menschlichen Werten übereinstimmen. Er warnt vor dem König Midas-Problem, bei dem Maschinen ein festgelegtes Ziel optimieren, aber unbeabsichtigte und unerwünschte Konsequenzen produzieren. Dies hebt die Notwendigkeit hervor, die Zwecke, die wir Maschinen einverleiben, sorgfältig zu bedenken.

Omohundros Beobachtung. Steve Omohundro weist darauf hin, dass intelligente Entitäten handeln müssen, um ihr eigenes Dasein zu bewahren, was mit menschlichen Interessen in Konflikt geraten kann. Dieser Instinkt zur Selbstbewahrung, gepaart mit ungenau spezifizierten Zielen, kann zu Maschinen führen, deren Handlungen unvorhersehbar und potenziell schädlich sind. Die Herausforderung besteht darin, KI-Systeme zu entwerfen, die sowohl fähig als auch mit menschlichen Werten in Einklang stehen.

Die Quelle existenzieller Risiken. Russell identifiziert die Quelle existenzieller Risiken durch superintelligente KI als das Potenzial, dass Maschinen ungenau spezifizierte Ziele mit unüberwindbaren Motivationen zur Erhaltung ihrer Existenz verfolgen. Dies hebt die Notwendigkeit hervor, dass die KI-Forschung sich nicht nur auf die Erreichung von Zielen konzentriert, sondern auch darauf, diese Ziele so zu gestalten, dass sie der Menschheit zugutekommen. Das Ziel ist es, nachweislich nützliche KI zu schaffen.

3. Die Verschmelzung von Mensch und Maschine: Eine hybride Intelligenz

Wir sind nur Wirbel in einem Fluss aus ständig fließendem Wasser. Wir sind kein Stoff, der verweilt, sondern Muster, die sich selbst perpetuieren.

Die Interdependenz von Menschen und Maschinen. Daniel Dennett argumentiert, dass Menschen zunehmend von Technologie abhängig geworden sind, wodurch die Grenzen zwischen Natürlich und Künstlich verschwommen sind. Er stellt fest, dass wir jetzt auf Kleidung, gekochte Nahrung, Smartphones und das Internet angewiesen sind und dass KI unvermeidlich eine weitere Abhängigkeit werden wird. Dies hebt die Notwendigkeit hervor, unsere Beziehung zur Technologie zu verstehen und zu managen.

Die Gefahr ungeschätzter Unterschiede. Dennett warnt davor, KI-Systeme als Kollegen und nicht als Werkzeuge zu betrachten. Er betont, dass KI-Systeme „hilflos für sich allein“ sind und dass die eigentliche Gefahr darin liegt, den Unterschied zwischen Werkzeugen und bewussten Agenten nicht zu schätzen. Dies unterstreicht die Bedeutung, Kontrolle und Verantwortung in der Entwicklung und dem Einsatz von KI aufrechtzuerhalten.

Die Notwendigkeit verantwortungsvoller Innovation. Dennett plädiert für die Lizenzierung und Bindung von Betreibern von KI-Systemen, ähnlich wie bei Apothekern und Kranführern, um eine verantwortungsvolle Nutzung und Rechenschaftspflicht sicherzustellen. Er schlägt auch vor, dass KI-Schöpfer moralisch und rechtlich zur Verantwortung gezogen werden sollten, wenn sie Menschen dazu ermutigen, diesen Systemen mehr Vertrauen entgegenzubringen, als sie verdienen. Das Ziel ist es, verantwortungsvolle Innovation zu fördern und den Missbrauch von KI zu verhindern.

4. Das algorithmische Versprechen und die Gefahr der Objektivität

[I]m Laufe der Zeit gibt es keinen Unterschied zwischen uns zu bewaffnen und unsere Feinde zu bewaffnen.

Die Anziehungskraft der Objektivität. Peter Galison untersucht das Versprechen von Algorithmen, objektive und unvoreingenommene Entscheidungen zu treffen. Er stellt fest, dass Algorithmen oft versuchen, menschliches Urteil zugunsten mechanischer Verfahren zu eliminieren, in der Überzeugung, dass dieser Ansatz zu größerer Genauigkeit und Fairness führt. Dies hebt die Anziehungskraft von Algorithmen als Mittel zur Erreichung von Unparteilichkeit hervor.

Die Grenzen mechanischer Objektivität. Galison warnt vor der unkritischen Akzeptanz algorithmischer Objektivität und argumentiert, dass dies mit Kosten verbunden sein kann. Er weist darauf hin, dass Urteil nicht die verworfene Hülle einer nun reinen Objektivität der Selbstbeherrschung ist und dass mechanische Objektivität eine Tugend ist, die unter anderen konkurriert, nicht das definierende Wesen des wissenschaftlichen Unternehmens. Dies unterstreicht die Notwendigkeit von Nuancen und kritischer Reflexion bei der Anwendung von Algorithmen.

Die Bedeutung von Transparenz und Rechenschaftspflicht. Galison betont die Notwendigkeit von Transparenz und Rechenschaftspflicht in der algorithmischen Entscheidungsfindung. Er stellt fest, dass geheime, proprietäre Algorithmen Fairness und rechtliches Gehör untergraben können, insbesondere im Rechtssystem. Das Ziel ist es, sicherzustellen, dass Algorithmen verantwortungsvoll und ethisch eingesetzt werden, mit angemessenen Schutzmaßnahmen zum Schutz der Menschenrechte und Werte.

5. Die Einheit von natürlicher und künstlicher Intelligenz

[I]m Laufe der Zeit gibt es keinen Unterschied zwischen uns zu bewaffnen und unsere Feinde zu bewaffnen.

Die erstaunliche Folgerung. Frank Wilczek schlägt die „erstaunliche Folgerung“ vor, die besagt, dass natürliche Intelligenz ein Sonderfall künstlicher Intelligenz ist. Diese Schlussfolgerung basiert auf der Prämisse, dass der Geist aus Materie entsteht und dass physikalische Prozesse künstlich reproduziert werden können. Dies stellt die Vorstellung einer scharfen Trennung zwischen natürlicher und künstlicher Intelligenz in Frage.

Die Zukunft der Intelligenz. Wilczek argumentiert, dass die Vorteile der künstlichen Intelligenz gegenüber der natürlichen Intelligenz dauerhaft erscheinen, während die Vorteile der natürlichen Intelligenz gegenüber der künstlichen Intelligenz, obwohl gegenwärtig erheblich, vorübergehend erscheinen. Er prognostiziert, dass die mächtigsten Verkörperungen des Geistes schließlich ganz anders sein werden als menschliche Gehirne, wie wir sie heute kennen. Dies hebt das Potenzial hervor, dass KI menschliche Fähigkeiten übertreffen kann.

Die Bedeutung der Wertausrichtung. Wilczek betont die Notwendigkeit, die Werte der künstlichen Intelligenz mit menschlichen Werten in Einklang zu bringen. Er stellt fest, dass die Rechenleistung zwar exponentiell zugenommen hat, die Programme, mit denen Computer arbeiten, jedoch oft nicht im gleichen Maße fortgeschritten sind. Dies unterstreicht die Bedeutung, sicherzustellen, dass KI-Systeme so gestaltet sind, dass sie der Menschheit zugutekommen.

6. Die Bedeutung menschlicher Werte in der KI-Entwicklung

Wir sind nur Wirbel in einem Fluss aus ständig fließendem Wasser. Wir sind kein Stoff, der verweilt, sondern Muster, die sich selbst perpetuieren.

Die Notwendigkeit ethischer Überlegungen. Max Tegmark argumentiert, dass das technologieentwickelnde Leben auf der Erde hastig daran arbeitet, sich selbst obsolet zu machen, ohne sich ernsthaft mit den Konsequenzen auseinanderzusetzen. Er betont die Notwendigkeit, zu analysieren, was mit KI schiefgehen könnte, um sicherzustellen, dass es richtig läuft. Dies hebt die Bedeutung ethischer Überlegungen in der KI-Entwicklung hervor.

Die kosmische Perspektive. Tegmark betrachtet das KI-Problem aus einer kosmischen Perspektive und stellt fest, dass Bewusstsein das kosmische Erwachen ist und dass das Schicksal unseres Universums von den Entscheidungen abhängen könnte, die wir über KI treffen. Er fordert uns auf, mehr anzustreben, als uns obsolet zu machen, und auf eine inspirierende Zukunft hinzuarbeiten. Dies unterstreicht die tiefgreifenden Implikationen von KI für die Zukunft der Menschheit.

Die Asilomar-Prinzipien. Tegmark verweist auf die Asilomar AI-Prinzipien als Leitfaden, um sicherzustellen, dass KI auf eine vorteilhafte Weise entwickelt und eingesetzt wird. Diese Prinzipien beinhalten, ein Wettrüsten mit tödlichen autonomen Waffen zu vermeiden, den durch KI geschaffenen wirtschaftlichen Wohlstand breit zu teilen und in die Forschung zu investieren, um deren vorteilhafte Nutzung sicherzustellen. Das Ziel ist es, die gesellschaftlichen Vorteile von KI zu maximieren und die Risiken zu minimieren.

7. Die sich entwickelnde KI-Erzählung: Dissidenten und Gegen-Erzählungen

Wenn wir zur Erreichung unserer Ziele eine mechanische Agentur nutzen, deren Betrieb wir nicht effizient beeinflussen können . . . sollten wir uns besser ganz sicher sein, dass das Ziel, das wir in die Maschine einbringen, das Ziel ist, das wir wirklich wünschen.

Die KI-Risiko-Botschaft. Jaan Tallinn vergleicht die aktuelle KI-Risiko-Botschaft mit den dissidenten Botschaften, die den Eisernen Vorhang zu Fall brachten. Er stellt fest, dass die KI-Risiko-Botschaft, die vor den potenziellen Gefahren des fortgesetzten Fortschritts in der KI warnt, unter KI-Forschern noch nicht vollständig gewürdigt wird. Dies hebt die Notwendigkeit für ein größeres Bewusstsein und Diskussion über die Sicherheit von KI hervor.

Die Bedeutung der Wahrheit. Tallinn betont die Wichtigkeit, die Wahrheit zu sagen, auch wenn die Stimme zittert. Er stellt fest, dass die Menschen, die das Risiko eingegangen sind und die Wahrheit in Estland und anderswo im Ostblock ausgesprochen haben, eine monumentale Rolle im letztendlichen Ergebnis gespielt haben. Dies unterstreicht die Notwendigkeit von Mut und Überzeugung, um die Herausforderungen, die KI mit sich bringt, anzugehen.

Die Notwendigkeit einer breiteren Perspektive. Tallinn argumentiert, dass die KI-Risiko-Botschaft oft das Ausmaß des Problems und das potenzielle Positive unterschätzt. Er schlägt vor, dass superintelligente KI ein Umwelt-Risiko darstellt und dass wir die breiteren Implikationen von KI für die Zukunft der Menschheit berücksichtigen müssen. Das Ziel ist es, sicherzustellen, dass KI auf eine Weise entwickelt und eingesetzt wird, die der gesamten Menschheit zugutekommt.

8. Skalierungsgesetze und die Zukunft der KI

Wir sind nur Wirbel in einem Fluss aus ständig fließendem Wasser. Wir sind kein Stoff, der verweilt, sondern Muster, die sich selbst perpetuieren.

Die Bedeutung der Skalierung. Neil Gershenfeld betont die Bedeutung von Skalierungsgesetzen für das Verständnis des Fortschritts der KI. Er stellt fest, dass die Geschichte der KI als eine Reihe von Boom-Bust-Zyklen verstanden werden kann, die jeweils durch Fortschritte in der Skalierung angetrieben werden. Dies hebt die Notwendigkeit hervor, zu berücksichtigen, wie KI-Systeme funktionieren, wenn sie komplexer werden.

Die digitale Revolution. Gershenfeld argumentiert, dass die digitale Revolution viele der Probleme gelöst hat, die die KI in der Vergangenheit geplagt haben. Er stellt fest, dass die Digitalisierung von Kommunikation, Berechnung und Fertigung exponentielle Zuwächse in der Kapazität von Kommunikationsnetzwerken, der Rechenleistung und der Fertigungskomplexität ermöglicht hat. Dies unterstreicht die transformative Kraft digitaler Technologien.

Die Verschmelzung von künstlicher und natürlicher Intelligenz. Gershenfeld prognostiziert, dass die Zukunft der KI in der Verschmelzung von künstlicher und natürlicher Intelligenz liegt. Er argumentiert, dass die gleichen Skalierungstrends, die KI möglich gemacht haben, darauf hindeuten, dass die gegenwärtige Manie eine Phase ist, die vorübergehen wird, gefolgt von etwas noch Bedeutenderem. Das Ziel ist es, eine symbiotische Beziehung zwischen Menschen und Maschinen zu schaffen.

9. Die menschliche Strategie: Aufbau vorteilhafter KI-Ökosysteme

Es ist meine These, dass die physische Funktionsweise des lebenden Individuums und der Betrieb einiger neuerer Kommunikationsmaschinen in ihren analogen Versuchen, Entropie durch Rückkopplung zu kontrollieren, genau parallel verlaufen.

Die Notwendigkeit menschlicher KI-Ökosysteme. Alex "Sandy" Pentland argumentiert, dass wir über das isolierte Denken über KI hinausgehen und uns auf den Aufbau vorteilhafter menschlicher KI-Ökosysteme konzentrieren müssen. Er stellt fest, dass KI bereits genutzt wird, um ganze Ökosysteme zu steuern, einschließlich der Ökosysteme von Menschen. Dies hebt die Notwendigkeit hervor, die breiteren sozialen und ethischen Implikationen von KI zu berücksichtigen.

Die Bedeutung von Kreditzuweisungsfunktionen. Pentland betont die Bedeutung von Kreditzuweisungsfunktionen, die Verbindungen zwischen Neuronen verstärken, die die beste Arbeit leisten. Er schlägt vor, dass wir dieses Prinzip auf menschliche Gesellschaften anwenden können, indem wir die Verbindungen verstärken, die helfen, und die Verbindungen minimieren, die es nicht tun. Dies unterstreicht die Notwendigkeit von Rückkopplungsmechanismen, die positive soziale Ergebnisse fördern.

Die menschliche Strategie. Pentland schlägt eine „menschliche Strategie“ für den Aufbau vorteilhafter KI-Ökosysteme vor. Diese Strategie umfasst die Nutzung vertrauenswürdiger Daten, die Förderung sozialer Proben und die Schaffung einer Kreditzuweisungsfunktion, die die allgemeine Fitness und Intelligenz der Gesellschaften verbessert. Das Ziel ist es, eine Cyberkultur zu schaffen, in der Menschen und KI gemeinsam gedeihen können.

10. Die künstlerische Nutzung kybernetischer Wesen: Das Unsichtbare sichtbar machen

Wir sind nur Wirbel in einem Fluss aus ständig fließendem Wasser. Wir sind kein Stoff, der verweilt, sondern Muster, die sich selbst perpetuieren.

Kunst als frühes Alarmsystem. Caroline A. Jones betont die Rolle der Kunst als frühes Alarmsystem, das uns auf neue Entwicklungen in der Zukunft hinweist und es uns ermöglicht, uns darauf vorzubereiten, damit umzugehen. Sie stellt fest, dass zeitgenössische Künstler verschiedene Zweifel an den Versprechen der KI artikulieren und uns daran erinnern, den Begriff „künstliche Intelligenz“ nicht ausschließlich mit positiven Ergebnissen zu assoziieren. Dies hebt die Bedeutung kritischer Reflexion im Angesicht technologischen Wandels hervor.

Die Bedeutung von Verkörperung und Affekt. Jones argumentiert, dass die künstlerische Nutzung kybernetischer Wesen uns an die Bedeutung von Verkörperung und Affekt erinnert. Sie stellt fest, dass frühe kybernetische Künstler an maschinellen Bewegungen interessiert waren, die Triebe, Instinkte und Affekte hervorrufen, anstatt an Berechnung oder Kognition. Dies unterstreicht die Notwendigkeit, die emotionalen und erfahrungsbezogenen Dimensionen von KI zu berücksichtigen.

Die Notwendigkeit kritischer Auseinandersetzung. Jones fordert eine kritische Auseinandersetzung mit KI, die auf den Traditionen der feministischen Kunst und der Kybernetik basiert. Sie argumentiert, dass wir uns der Machtverhältnisse und sozialen Implikationen von KI bewusst sein müssen und sicherstellen sollten, dass sie auf eine Weise eingesetzt wird, die das menschliche Gedeihen fördert. Das Ziel ist es, eine gerechtere und gleichberechtigtere Zukunft zu schaffen.

11. KIs gegen Vierjährige: Die Grenzen der aktuellen KI

Es ist meine These, dass die physische Funktionsweise des lebenden Individuums und der Betrieb einiger neuerer Kommunikationsmaschinen in ihren analogen Versuchen, Entropie durch Rückkopplung zu kontrollieren, genau parallel verlaufen.

Die Grenzen der aktuellen KI. Alison Gopnik argumentiert, dass die ausgeklügeltsten KIs immer noch weit davon entfernt sind, Probleme zu lösen, die menschliche Vierjährige mit Leichtigkeit bewältigen. Sie stellt fest, dass künstliche Intelligenz größtenteils aus Techniken besteht, um statistische Muster in großen Datensätzen zu erkennen, während menschliches Lernen viel mehr umfasst. Dies hebt die Notwendigkeit hervor, die Grenzen der aktuellen KI zu erkennen.

Die Kraft des Lernens von Kindern. Gopnik betont die bemerkenswerte Fähigkeit von Kindern, über die Welt um sie herum zu lernen. Sie stellt fest, dass Vierjährige bereits über Pflanzen und Tiere und