Sign In
insight - 대형 언어 모델 안전성 평가
GPT-4와 GPT-4V의 다양한 탈옥 공격에 대한 안전성 평가
다양한 탈옥 공격 방법을 통해 대형 언어 모델의 취약점을 드러내고, GPT-4와 GPT-4V가 기존 공개 모델에 비해 더 강력한 안전성을 보유하고 있음을 확인했다.
대형 언어 모델의 가치 정렬 문제: 진정한 안전 정렬인가 아니면 가짜 정렬인가?
대형 언어 모델의 안전성 평가 시 다중 선택형 문제와 개방형 문제 간 성능 차이가 크게 나타나는 이유는 모델이 단순히 안전 데이터의 답변 스타일을 기억하고 있을 뿐 실제 인간의 가치 선호도를 깊이 있게 이해하지 못하기 때문이다.
Products | Resources
Read more
- finite-dimensional-approximations-of-push-forwards-on-locally-analytic-functionals-and-truncation-of-least-squares-polynomials
- 有限次元近似による局所解析汎関数のプッシュフォワードと最小二乗多項式の打ち切り
- 유한차원-국소해석적-함수들의-푸시포워드-근사와-최소제곱-다항식의-절단
- highly-accurate-and-efficient-time-evolving-natural-gradient-method-for-solving-partial-differential-equations-with-deep-neural-networks
- 深層ニューラルネットワークを用いたpde解法のための時間変化自然勾配
- 시간-변화-자연-경사도를-이용한-심층-신경망-기반-편미분-방정식-해결
- efficient-and-compact-surface-reconstruction-in-unbounded-scenes-using-gaussian-opacity-fields
- 無限シーンにおける効率的かつコンパクトな表面再構築-ガウシアン不透明度フィールド
© 2024 by Linnk AI