Effiziente Erkennung aktiver Sprecher durch Modellierung von Langzeit-Intra-Sprecher- und Kurzzeit-Inter-Sprecher-Kontext

Khái niệm cốt lõi

Ein einfaches aber effektives Lange-Kurz-Kontext-Netzwerk, das Langzeit-Intra-Sprecher-Modellierung und Kurzzeit-Inter-Sprecher-Modellierung in einer verschachtelten Weise nutzt, um die Sprechaktivität von Personen in Videos genau zu erkennen.

Tóm tắt

Die Studie präsentiert LoCoNet, ein End-to-End-Lange-Kurz-Kontext-Netzwerk für die aktive Sprechererkennung in Videos. LoCoNet besteht aus drei Hauptkomponenten:

1. Visuelle und Audio-Encoder: Der visuelle Encoder extrahiert zeitliche visuelle Merkmale der Sprecher, während der Audio-Encoder VGGFrame per-Frame-Audio-Merkmale unter Verwendung von VGGish-Vortrainierung auf AudioSet liefert.

2. Lange-Kurz-Kontext-Modellierung (LSCM): LSCM kombiniert Langzeit-Intra-Sprecher-Modellierung (LIM) und Kurzzeit-Inter-Sprecher-Modellierung (SIM) in einer verschachtelten Weise. LIM verwendet Selbstaufmerksamkeit für die Modellierung langfristiger Abhängigkeiten innerhalb eines Sprechers und Kreuzaufmerksamkeit für Audio-Visuell-Interaktionen. SIM nutzt Konvolutionsblöcke, um lokale Interaktionsmuster zwischen Sprechern zu erfassen.

3. Vorhersage: Die kontextualisierten Audio-Visuell-Merkmale werden schließlich verwendet, um die Sprechaktivität des Zielsprechers in jedem Frame vorherzusagen.

LoCoNet erzielt state-of-the-art-Ergebnisse auf mehreren Datensätzen für aktive Sprechererkennung, einschließlich 95,2% mAP auf AVA-ActiveSpeaker, 97,2% mAP auf Talkies und 68,4% mAP auf Ego4D. Insbesondere in herausfordernden Szenarien mit mehreren Sprechern übertrifft LoCoNet die vorherigen Methoden deutlich.

Thống kê

Die durchschnittlichen FLOPs von LoCoNet zur Vorhersage der Sprechaktivität eines Gesichtsausschnitts betragen 0,51G.
LoCoNet hat 34,3 Millionen Parameter.

Trích dẫn

"Wir argumentieren, dass Inter-Sprecher-Modellierung in kurzen zeitlichen Fenstern ausreicht, da die Aktivitäten von Sprechern innerhalb eines kurzen Zeitbereichs stärker korreliert sind als Sprecher, die weiter voneinander entfernt sind."
"Kognitive Forschung [43, 57] legt auch nahe, dass die Kopplung zwischen Sprecher und Zuhörer in benachbarten Frames koordinierter ist."

Thông tin chi tiết chính được chắt lọc từ

LoCoNet

by Xizi Wang,Fe... lúc arxiv.org 04-02-2024

https://arxiv.org/pdf/2301.08237.pdf

Yêu cầu sâu hơn

Wie könnte LoCoNet für andere Anwendungen wie Sprachdiärisierung oder Videoretargeting erweitert werden

Um LoCoNet für andere Anwendungen wie Sprachdiärisierung oder Videoretargeting zu erweitern, könnten verschiedene Ansätze verfolgt werden. Für die Sprachdiärisierung könnte LoCoNet durch die Integration von zusätzlichen Modalitäten wie Texttranskription oder Sprechererkennung verbessert werden. Durch die Kombination von Audio-, Video- und Textinformationen könnte das System eine genauere Diärisierung von Sprechern in einem Gespräch ermöglichen. Für das Videoretargeting könnte LoCoNet durch die Integration von Objekterkennungsalgorithmen erweitert werden, um spezifische Objekte im Video zu identifizieren und zu verfolgen. Dies könnte dazu beitragen, das Videoretargeting auf bestimmte Objekte oder Personen im Video zu fokussieren und die Qualität der Ergebnisse zu verbessern.

Welche zusätzlichen Modalitäten wie Blickrichtung könnten die Leistung von LoCoNet in egozentrischem Video weiter verbessern

Zusätzliche Modalitäten wie Blickrichtung könnten die Leistung von LoCoNet in egozentrischen Videos weiter verbessern, indem sie zusätzliche Kontextinformationen liefern. Durch die Integration von Blickrichtungsdaten könnte LoCoNet besser verstehen, auf wen oder was der Sprecher im Video fokussiert ist. Dies könnte dazu beitragen, die Aufmerksamkeit des Sprechers zu erfassen und die Aktivität des Sprechers genauer zu bestimmen. Darüber hinaus könnte die Blickrichtung auch dazu beitragen, die Interaktionen zwischen den Sprechern im Video besser zu modellieren und somit die Genauigkeit der Sprechererkennung zu verbessern.

Wie könnte LoCoNet so angepasst werden, dass es auch in Szenarien mit sehr langen Videosegmenten oder sehr vielen Sprechern effektiv ist

Um LoCoNet für Szenarien mit sehr langen Videosegmenten oder sehr vielen Sprechern effektiv anzupassen, könnten verschiedene Strategien verfolgt werden. Für sehr lange Videosegmente könnte LoCoNet durch die Implementierung von Mechanismen zur Aufteilung und Verarbeitung großer Videosegmente in kleinere Abschnitte optimiert werden. Dies könnte die Effizienz des Modells verbessern und die Verarbeitung großer Videodateien erleichtern. Für Szenarien mit sehr vielen Sprechern könnte LoCoNet durch die Anpassung der Inter-speaker-Modellierung erweitert werden, um die Interaktionen zwischen einer größeren Anzahl von Sprechern zu berücksichtigen. Dies könnte die Fähigkeit des Modells verbessern, in komplexen Szenarien mit vielen Sprechern präzise Aktivitäten zu erkennen.