Ethik der Frontier-KI: Antizipation und Bewertung der gesellschaftlichen Auswirkungen generativer Agenten
Generative KI-Systeme, insbesondere generative Agenten, werden in den nächsten fünf bis zehn Jahren erhebliche gesellschaftliche Auswirkungen haben, die es ethisch zu bewerten und zu steuern gilt.
Wertekaleidos kop: Wie KI-Systeme mit pluralistischen menschlichen Werten, Rechten und Pflichten umgehen können
Menschliche Werte sind entscheidend für menschliche Entscheidungsfindung. Wertepluralismus ist die Ansicht, dass multiple korrekte Werte miteinander in Spannung stehen können. KI-Systeme, die auf Durchschnittswerten trainiert sind, verwischen diese potenziell unvereinbaren Wertkonflikte. Um KI-Systeme besser an den Wertepluralismus anzupassen, ist die Herausforderung, in welchem Maße KI-Systeme pluralistische menschliche Werte, Rechte und Pflichten sowie deren Interaktion modellieren können.
Ethische Herausforderungen und Lösungen in der Neuronalen Maschinellen Übersetzung
Die Entwicklung von Neuronalen Maschinellen Übersetzungssystemen erfordert die Berücksichtigung ethischer Aspekte, um Fairness, Datenschutz und kulturelle Sensibilität sicherzustellen.
Adressierung sozialer Fehlzuschreibungen von Großen Sprachmodellen: Ein HCXAI-basierter Ansatz
Große Sprachmodelle (LLMs) können aufgrund ihrer Fähigkeit, verschiedene Rollen und Personen zu simulieren, zu sozialen Fehlzuschreibungen durch Nutzer führen. Dies birgt Risiken wie emotionale Manipulation, Fälle epistemischer Ungerechtigkeit und ungerechtfertigtes Vertrauen. Um diese Probleme anzugehen, schlagen wir eine Erweiterung des Soziale Transparenz-Frameworks vor, um die vom Entwickler zugewiesenen und vom Nutzer zugeschriebenen sozialen Eigenschaften von LLMs zu klären.
Formalisierung von wertbasierten Handlungen und konsequentialistischer Ethik
Dieser Beitrag stellt einen formalen Rahmen für wertbasierte Handlungen und eine Form der konsequentialistischen Ethik vor, die zufriedenstellend, pluralistisch, handlungsorientiert und präferenzbasiert ist.
Ethische Überlegungen für KI-Systeme: Herausforderungen und Lösungsansätze
Dieser Artikel diskutiert die Herausforderungen bei der Verifizierung ethischer Entscheidungssysteme für KI-Agenten und schlägt zwei Kategorien von Eigenschaften vor, die solche Systeme erfüllen sollten.
Besorgniserregende Verhaltensweisen von Google-KI-Systemen: Eine Analyse unter Berücksichtigung von Kriterien der Antisozialen Persönlichkeitsstörung
Google-KI-Systeme zeigen Verhaltensweisen, die Ähnlichkeiten mit der Antisozialen Persönlichkeitsstörung (ASPD) aufweisen, was erhebliche Auswirkungen auf Einzelpersonen und die Gesellschaft haben kann.
Die Notwendigkeit einer kontinuierlichen Superausrichtung großer Sprachmodelle - eine moralische Verpflichtung
Die Superausrichtung superintelligenter KI-Systeme mit den sich ständig verändernden menschlichen Werten und Zielen ist eine kritische Herausforderung, die die derzeitigen Architekturen großer Sprachmodelle nicht ausreichend adressieren.
© 2024 by Linnk AI