본 논문에서는 연속 생성 신경망(CGNN)이라는 새로운 유형의 생성 모델을 제안하고, 이 모델을 사용하여 역 문제에 대한 안정성을 보장하는 방법을 제시합니다.
심층 ReLU 네트워크는 초기화 및 학습 과정 모두에서 놀라울 정도로 단순한 형태의 폴리토프를 생성하며, 이는 네트워크의 깊이 증가에도 불구하고 유지되는 고유한 특성이다.
본 논문에서는 다양한 편미분 방정식(PDE)을 푸는 데 있어, 고정 및 학습 가능한 활성화 함수를 갖는 다층 퍼셉트론(MLP)과 학습 가능한 기저 함수를 사용하는 콜모고로프-아놀드 네트워크(KAN)의 성능을 비교 분석합니다. 특히, 수렴 동작, 스펙트럼 편향 완화, PDE의 정확한 근사치 측면에서 각 접근 방식의 강점과 약점을 비교합니다.
인간의 음악 인지 과정을 모방한 스파이킹 신경망 모델을 통해 다양한 음악 모드와 조성을 이해하고 새로운 음악을 생성할 수 있다.
딥 연산자 네트워크(DeepONet)는 다양한 화상 형태에 대한 화상 후 수축 예측을 위한 유한 요소 시뮬레이션의 대리 모델로서 효과적으로 사용될 수 있으며, 이는 의료 치료 계획에 적용될 수 있는 가능성을 제시합니다.
본 논문에서는 유니터리 등변성을 유지하면서도 더욱 다양한 함수를 사용할 수 있도록 피드포워드 유니터리 등변 신경망에 사용되는 활성화 함수의 일반화된 형태를 제안합니다.
심층 신경망(DNN)은 구조 유리와 유사한 점이 있지만, 유리 전이, 케이징 효과, Stokes-Einstein 관계 위반과 같은 전형적인 유리 같은 현상은 나타나지 않습니다. 그러나 시간에 따른 가중치 중첩 함수의 거듭제곱 법칙, 시간-온도 중첩, 동적 이질성 및 에이징과 같은 유리 같은 특성을 보여줍니다.
본 논문은 이상적인 안정적이고 정확한 신경망이 존재하더라도, 분류 작업에서 딥러닝 모델의 안정성과 정확성을 보장하는 데 있어 이론적인 한계가 존재하며, 특히 고차원 데이터에서 이러한 불안정성이 두드러지게 나타남을 보여줍니다.
심층 신경망의 저랭크 레이어는 네트워크의 복잡성을 효과적으로 제어하여 일반화 성능을 향상시키는 데 기여할 수 있습니다.
인간의 언어 획득 과정을 모방한 비지도 학습 환경에서 훈련된 심층 신경망은 음성 데이터에서 단어 연결 및 초기 구문 생성 능력을 자발적으로 보여준다.