그래프 기반 데이터 비의존적 경량 신경망 구조 탐색: 학습 없이 수행
신경망 구조를 그래프로 변환하고 평균 차수와 같은 그래프 측정치를 사용하여 신경망 성능을 효율적으로 평가할 수 있다.
지속 가능한 가속기 인식 NAS를 위한 Accel-NASBench
Accel-NASBench는 ImageNet2012 데이터셋과 다양한 하드웨어 가속기에 대한 성능 벤치마크를 제공하여, 비용 효율적이고 현실적인 신경망 구조 탐색을 가능하게 합니다.
진화 신경 구조 탐색의 실행 시간 분석을 위한 첫 걸음
진화 신경 구조 탐색(ENAS)은 진화 알고리즘을 사용하여 고성능 신경 구조를 자동으로 찾을 수 있지만, 이에 대한 엄격한 이론적 분석은 아직 이루어지지 않았다. 이 연구는 ENAS 알고리즘의 수학적 실행 시간 분석을 위한 초기 단계를 제공한다.
신경망 구조 탐색 데이터셋 활용을 통한 통찰력 얻기
신경망 구조 탐색(NAS) 기법은 전문가의 개입 없이도 최적의 신경망 구조를 자동으로 찾아낼 수 있다. 그러나 기존 NAS 연구는 제한된 데이터셋에 초점을 맞추어 왔으며, 이는 실제 문제에 적용하기 어려운 한계가 있다. 본 연구에서는 다양한 유형의 새로운 데이터셋을 소개하여 NAS 기법의 일반화 능력을 평가하고자 한다.
새로운 연산자를 포함한 다양한 검색 공간에서 효율적인 신경망 구조 탐색을 위한 제로 비용 프록시 TG-NAS
TG-NAS는 변환기 기반 연산자 임베딩 생성기와 그래프 합성곱 신경망을 활용하여 새로운 검색 공간과 미지의 새로운 연산자에 대해서도 일반화된 성능 예측 모델을 제공한다.
신경망 구조 탐색을 위한 무비용 프록시 조립
다양한 관점에서 신경망 구조를 평가하는 무비용 프록시를 조립하여 최종 성능과의 상관관계를 크게 향상시킴
무감독 신경망 구조 탐색을 위한 마스크 자동 인코더의 강건성
마스크 자동 인코더를 활용하여 레이블이 필요 없는 신경망 구조 탐색 방법을 제안하며, 이를 통해 레이블 데이터 확보의 어려움을 해결하고 성능 저하 문제를 해결할 수 있다.
진화 계산 기반 신경망 구조 탐색 알고리즘의 예상 도달 시간 분석
이 연구는 진화 계산 기반 신경망 구조 탐색(ENAS) 알고리즘의 예상 도달 시간(EHT)에 대한 이론적 분석을 제안한다. 제안된 방법은 ENAS 알고리즘을 마르코프 체인으로 모델링하고, 개체 전이 확률 추정, 집단 분포 피팅, 도달 시간 분석 등의 단계를 통해 EHT의 하한을 도출한다. 이를 통해 ENAS 알고리즘의 평균 계산 시간 복잡도에 대한 이론적 기반을 마련한다.
진화 계산 기반 신경망 구조 탐색 알고리즘의 예상 도달 시간 분석
진화 계산 기반 신경망 구조 탐색(ENAS) 알고리즘의 평균 계산 시간 복잡도를 나타내는 예상 도달 시간(EHT)에 대한 이론적 분석을 제시한다.
진화 계산 기반 신경망 구조 탐색 알고리즘의 예상 도달 시간 분석
이 연구는 진화 계산 기반 신경망 구조 탐색(ENAS) 알고리즘의 예상 도달 시간(EHT)에 대한 이론적 분석을 제안한다. 제안된 방법은 ENAS 알고리즘을 마르코프 체인으로 모델링하고, 개체 전이 확률 추정, 집단 분포 피팅, 도달 시간 분석 등의 단계를 통해 EHT의 하한을 도출한다. 이를 통해 ENAS 알고리즘의 평균 계산 시간 복잡성에 대한 이론적 기반을 마련한다.
