Der Artikel beginnt mit einer Kritik am Konzept der AIXI-Intelligenz, die als "computational dualism" bezeichnet wird - in Anlehnung an Descartes' Dualismus von Geist und Materie. Es wird argumentiert, dass die Leistung von Software-Systemen immer vom interpretierenden Hardware-System abhängt und daher keine objektiven Aussagen über die Leistungsfähigkeit von Software-"Intelligenz" möglich sind.
Als Alternative wird ein enaktivistischer Ansatz vorgeschlagen, der Kognition als eingebettet und verkörpert in der Umgebung betrachtet. Dazu wird eine pankomputationalistische Formalisierung der Umgebung entwickelt, in der Zustände als Mengen von Fakten und Aspekten dargestellt werden. Kognition wird dann als Änderung dieser Zustände modelliert, ohne eine Trennung zwischen "Geist" und "Körper" vorzunehmen.
Auf dieser Basis wird "Lernen" als Generalisierung von bekannten Aufgaben zu neuen Aufgaben formalisiert, wobei "Schwäche" als optimales Proxymass für Lerneffizienz identifiziert wird. Schließlich wird die objektive Obergrenze intelligenten Verhaltens definiert als die Maximierung der Lerneffizienz über alle möglichen Abstraktionsebenen.
Der Artikel schließt mit der Schlussfolgerung, dass diese Ergebnisse zu einem besseren Verständnis von Problemen der KI-Sicherheit und Allgemeinen Intelligenz beitragen können.
In eine andere Sprache
aus dem Quellinhalt
arxiv.org
Wichtige Erkenntnisse aus
by Michael Timo... um arxiv.org 04-12-2024
https://arxiv.org/pdf/2302.00843.pdfTiefere Fragen