Als ich ein einstündiges Youtube Interview über dieses Buch gesehen habe war ich angefixt und habe es gekauft. Er ist schon länger tief drin in der Materie der künstlichen Intelligenz und er sieht sie als anorganische Intelligenz, ja er schreibt 'Alien Intelligence'. Er sagt, dass sie kein Bewusstsein haben muss und dass sie wie Agenten selbstständig handeln können. Er sieht die künstliche Intelligenz als wichtigere neue Technologie als der Buchdruck und sogar die Schrift an, da sie Informationen nicht nur vervielfältigen kann, sondern selber interpretieren bzw. analysieren und verändern kann.
Da die grossen Techfirmen massiv in den Ausbau weiterer Kapazitäten der Hardware investieren und keine Korrekturmechanismen bestehen, könnte dies in eine gefährliche Richtung laufen in denen uns die Kontrolle über die KI entgeht. Nicht à la Skynet in Terminator, sondern dass wir unsere Selbstständigkeit immer mehr der KI abgeben und uns von ihr manipulieren und infantilisieren lassen. Er schreibt, dass sie heute schon in vielen wichtigen Bereichen des Lebens über uns automatisch, ohne dass ein Mensch interveniert, bestimmt wie z.B. in Kreditanträgen, Bewerbungen, Formularen.
Hier noch einige interessante Exzerpte:
"Die künstliche Intelligenz ist dagegen in der Lage, selbst Kunst hervorzubringen und Entdeckungen zu machen. In den kommenden Jahrzehnten wird sie vermutlich sogar lernen, neue Lebensformen zu erschaffen, entweder durch die Programmierung von genetischem Code oder durch die Erfindung eines anorganischen Codes, der nicht-organische Wesen belebt."
"Die DNA versucht also nicht, Vorhandendes darzustellen, sondern sie trägt dazu bei, Neues hervorzubringen."
"...dann sorgt eine Zunahme und Beschleunigung der Information nur dafür, dass die relativ seltenen und kostspieligen wahrhaftigen Darstellungen unter der anschwellenden Flut minderwertiger Information verschwinden." -> Social Media
"Da wir nicht verstehen, wie das Bewusstsein in kohlenstoffbasierten Lebensformen entsteht, können wir nicht vorhersehen, wie sich dieser Vorgang bei nicht-organischen 'Wesen' vollzieht."
"Leider haben zahlreiche Studien gezeigt, dass Computer selbst oft tief sitzende Vorurteile haben, sogenannte Biases. Sie sind zwar keine biologischen Wesen und haben auch kein Bewusstsein, doch es gibt so etwas wie eine digitale Psyche und sogar eine Art Intercomputer-Mythologie."
"Mit der Entwicklung des maschinellen Lernens gewannen die Algorithmen mehr Unabhängigkeit. Das Grundprinzip maschinellen Lernens besteht darin, dass sich Algorithmen selbst neue Dinge beibringen können, indem sie mit der Welt interagieren, so wie es Menschen tun."
