Główne pojęcia
Um zu beurteilen, ob KI und Menschen wirklich miteinander kommunizieren können, müssen wir die mentalen Fähigkeiten untersuchen, die für menschliche Kommunikation erforderlich sind, und dann testen, ob KI-Systeme diese Fähigkeiten aufweisen.
Streszczenie
Der Artikel beginnt mit einer Diskussion des ELIZA-Computerprogramms, das in den 1960er Jahren entwickelt wurde und den Eindruck erweckte, mit Menschen kommunizieren zu können. Der Autor zeigt jedoch, dass ELIZA lediglich Tricks verwendete, um diesen Eindruck zu erwecken, und keine echte Kommunikationsfähigkeit besaß.
Der Autor argumentiert dann, dass bei neueren KI-Systemen, insbesondere Großen Sprachmodellen (LLMs), die Frage nach echter Kommunikation komplexer ist. Er schlägt eine "mental-behavioristische Methodik" vor, um diese Frage zu untersuchen. Diese Methodik besteht aus drei Schritten:
- Identifizieren der mentalen Fähigkeiten, die für menschliche Kommunikation erforderlich sind.
- Entwickeln von Verhaltenstests, um zu überprüfen, ob ein KI-System diese Fähigkeiten besitzt.
- Anwenden dieser Tests auf KI-Systeme und Bewerten der Ergebnisse.
Der Autor diskutiert einige Beispiele für solche Verhaltenstests, wie den False Belief Test zur Überprüfung der Theory of Mind, Tests zur Inferenz von nicht-kodierter Bedeutung und Tests zu konzeptuellem Wissen und allgemeinen kognitiven Fähigkeiten. Er argumentiert, dass diese Methodik vielversprechend ist, um die Frage nach echter Kommunikation zwischen Menschen und KI zu beantworten.
Statystyki
"Extrem kurze Begegnungen mit einem relativ einfachen Computerprogramm können bei ganz normalen Menschen zu mächtigen Wahnvorstellungen führen." (Weizenbaum, 1976, S. 53-58)
"Wenn der erste und zweite Schritt erfolgreich abgeschlossen sind und das KI-System die Tests mit menschenähnlichen Ergebnissen besteht, ist dies ein Beweis dafür, dass dieses KI-System und Menschen tatsächlich miteinander kommunizieren können." (Abschnitt 4)
Cytaty
"Weizenbaum war immer sehr explizit, dass ELIZA nicht wirklich mit seinen Benutzern als Psychiater konversieren kann." (Abschnitt 1)
"Wenn wir den Algorithmus von KI-Systemen wie GPT-3 oder PaLM analysieren, können wir nicht ausschließen, dass sie während ihrer Trainingsphase die für ostensive Kommunikation erforderlichen Ziele entwickeln." (Abschnitt 3)