조직의 IT 및 사이버 보안 위험 평가를 위한 실용적인 평가 지표와 절차적 지침의 통합
'AssessITS'는 NIST, COBIT, ISO와 같은 국제적으로 인정된 표준을 활용하여 IT 및 사이버 보안 위험 평가의 이론과 실제 구현 사이의 격차를 해소하는 실행 가능한 방법을 제공한다.
안전 조치를 우회하는 유창한 학생-교사 레드팀 공격
안전 조치가 적용된 언어 모델을 우회하기 위해 유창한 공격 프롬프트를 생성하는 기술을 개발했습니다.
차별 검사에서 비교 대상의 재검토
차별 검사에서 비교 대상은 피해자의 대안적 경로를 나타내는 반사실적 표현이며, 이는 인과 모델링 문제로 간주되어야 한다. 저자들은 기존의 ceteris paribus(CP) 비교 대상과 대안적인 mutatis mutandis(MM) 비교 대상을 제안한다.
연합학습에서의 다중 레이블 백도어 공격: 어둠 속의 내부 갈등
연합학습에서 서로 다른 목표를 가진 여러 공격자들이 협력 없이 동시에 백도어 공격을 수행할 수 있는 새로운 공격 기법을 제안한다.
실시간 공정 모니터링을 위한 액추에이터 지문 추출 기술: 과도 응답 특성 활용
산업 제어 시스템의 액추에이터와 물리적 공정 간 과도 응답 특성을 활용하여 액추에이터 지문을 추출하고, 이를 통해 명령 주입 및 재생 공격을 탐지할 수 있다.
대규모 언어 모델의 저작권 위험 측정: 부분 정보 프로빙을 통한 접근
대규모 언어 모델은 저작권 보호 자료의 일부를 입력받아 이를 바탕으로 저작권 침해 가능성이 높은 내용을 생성할 수 있다.
AI 기반 의료 부문 사이버 위협 평가를 향하여
AI 기반 플랫폼을 통해 의료 기관의 사이버 위협을 지속적으로 모니터링하고 평가하여 보안 조치를 최적화하고자 한다.
오정렬된 이진 분류기에 대한 논리적 경보
관찰된 테스트 응답 통계를 기반으로 논리적으로 일관된 그룹 평가만을 식별할 수 있다. 이를 통해 적어도 하나의 앙상블 구성원이 오작동하고 있음을 증명할 수 있다.
신뢰성 있는 진정한 무작위성과 생성형 인공지능을 위한 폐루프 초상자성 터널 접합
폐루프 제어를 통해 자기장이 없는 환경에서도 안정적으로 작동하는 초상자성 터널 접합 기반의 진정한 무작위 수 생성기를 개발하였다. 이를 통해 암호화 및 생성형 인공지능 등 다양한 응용 분야에 활용할 수 있다.
AI 법률 및 정책 애플리케이션을 위한 하이브리드 매개변수 적응형 검색 증강 생성 시스템 HyPA-RAG
대규모 언어 모델(LLM)의 한계를 극복하고 외부 지식을 효과적으로 통합하여 AI 법률 및 정책 문서에 대한 정확하고 신뢰할 수 있는 질의응답 시스템을 제공한다.
© 2024 by Linnk AI