기계 학습 분야의 경험적 연구에는 비재현성, 신뢰성 부족, 그리고 분야 발전에 대한 위협이 존재한다. 이를 극복하기 위해서는 실험을 통한 지식 획득의 다양성과 한계에 대한 인식 제고가 필요하다.