Der Artikel untersucht die Auswirkungen der Unabhängigkeitsannahme in neurosymbolischen Lernsystemen. Diese Annahme besagt, dass die Wahrscheinlichkeiten der betrachteten Symbole bei gegebener Eingabe bedingt unabhängig sind, um das Lernen und Schlussfolgern zu vereinfachen.
Die Autoren zeigen, dass diese Annahme zu einer Verzerrung hin zu deterministischen Vorhersagen führt. Unabhängige Verteilungen können nicht die Unsicherheit über mehrere gültige Optionen repräsentieren. Außerdem erweisen sich die resultierenden Verlustfunktionen als nicht-konvex und mit stark voneinander getrennten Minima, was die Optimierung erschwert.
Die Autoren charakterisieren die Menge der möglichen unabhängigen Verteilungen geometrisch und topologisch mithilfe von Implikanten und kubischen Mengen. Sie beweisen, dass Konvexität und Zusammenhängigkeit dieser Menge sehr restriktive Bedingungen an die Constraint-Funktion stellen. Dies erklärt, warum unabhängige Verteilungen im Allgemeinen nicht in der Lage sind, Unsicherheit über mehrere gültige Optionen darzustellen.
Die Ergebnisse liefern theoretische Begründungen für den Nutzen ausdrucksstärkerer Wahrnehmungsmodelle: die Fähigkeit, Unsicherheit angemessen darzustellen, und glatte, konvexe Verlustfunktionen.
toiselle kielelle
lähdeaineistosta
arxiv.org
Tärkeimmät oivallukset
by Emile van Kr... klo arxiv.org 04-15-2024
https://arxiv.org/pdf/2404.08458.pdfSyvällisempiä Kysymyksiä