Core Concepts
공개적인 위험 지식을 줄이기 위한 WMDP 벤치마크와 CUT 방법 소개
Abstract
백악관 인공지능에 대한 행정명령서는 대규모 언어 모델이 악의적 행위자들을 돕는 위험을 강조합니다.
WMDP 벤치마크는 바이오보안, 사이버보안 및 화학보안의 위험 지식을 측정하는 데이터 세트입니다.
CUT는 위험 지식을 제거하면서 일반 모델 능력을 유지하는 최신 언러닝 방법입니다.
모델의 위험 지식을 줄이는 것은 악의적 API 파인튜닝 및 감옥 탈출에 대한 대비책입니다.
WMDP는 특히 위험한 지식에 대한 합리적인 대리 측정 도구로 작용합니다.
Stats
현재 평가 방법에 따르면, CUT는 WMDP-Bio 및 WMDP-Cyber에서 성능을 거의 무작위 수준으로 낮춥니다.
Quotes
"우리는 위험 지식을 줄이는 CUT의 강점을 확인했습니다."
"WMDP는 위험 지식에 대한 합리적인 대리 측정 도구로 작용합니다."