Core Concepts
진화 신경 구조 탐색(ENAS)은 진화 알고리즘을 사용하여 고성능 신경 구조를 자동으로 찾을 수 있지만, 이에 대한 엄격한 이론적 분석은 아직 이루어지지 않았다. 이 연구는 ENAS 알고리즘의 수학적 실행 시간 분석을 위한 초기 단계를 제공한다.
Abstract
이 연구는 ENAS 알고리즘의 수학적 실행 시간 분석을 위한 초기 단계를 제공한다. 구체적으로:
UNIFORM이라는 이진 분류 문제를 정의하고, 신경 구조와 분류 정확도 간의 관계를 나타내는 명시적 적합도 함수를 수립했다.
돌연변이를 사용하는 (1+1)-ENAS 알고리즘을 고려하고, 국소 및 전역 돌연변이가 UNIFORM 문제에서 최적값을 찾는 기대 실행 시간이 Θ(n)임을 증명했다.
이론적 결과는 국소 및 전역 돌연변이가 UNIFORM 문제에서 거의 동일한 성능을 달성한다는 것을 보여준다. 실험 결과 또한 이 두 돌연변이 연산자의 동등성을 확인했다.
Stats
문제 크기 n이 증가할수록 국소 및 전역 돌연변이 기반 (1+1)-ENAS 알고리즘의 평균 세대 수가 선형적으로 증가한다.
Quotes
"진화 신경 구조 탐색(ENAS)은 진화 알고리즘을 사용하여 고성능 신경 구조를 자동으로 찾을 수 있지만, 이에 대한 엄격한 이론적 분석은 아직 이루어지지 않았다."
"이 연구는 ENAS 알고리즘의 수학적 실행 시간 분석을 위한 초기 단계를 제공한다."