核心概念
메타는 자동화 및 수동 테스팅을 위해 풍부한 상태의 시뮬레이션 인구를 활용하여 코드 커버리지와 결함 발견을 크게 향상시켰다.
摘要
이 논문은 메타에서 풍부한 상태의 시뮬레이션 인구를 활용한 자동화 및 수동 테스팅 결과를 보고한다.
자동화 테스팅의 경우, 메타는 Sapienz 자동 테스트 생성 플랫폼을 사용하여 Facebook, Instagram, Messenger 앱을 테스팅했다. 풍부한 상태의 시뮬레이션 인구를 활용한 결과, 평균 코드 커버리지가 38% 증가하고 엔드포인트 커버리지가 61% 증가했다. 더욱 중요하게는 자동화 테스팅에서 발견된 결함이 115% 증가했다.
수동 테스팅의 경우, 메타는 'Test Universe'라는 웹 기반 시뮬레이션 플랫폼을 개발했다. Test Universe에서 엔지니어들은 시뮬레이션된 테스트 사용자 계정을 사용하여 플랫폼을 안전하게 테스팅할 수 있다. Test Universe는 2022년 11월 출시 이후 21,000명 이상의 메타 엔지니어들이 사용하고 있다.
统计
Facebook Android 앱의 경우 Rich State 접근법이 Empty State 접근법에 비해 엔드포인트 커버리지가 47% 더 높았다.
Facebook iOS 앱의 경우 Rich State 접근법이 Empty State 접근법에 비해 엔드포인트 커버리지가 74% 더 높았다.
Messenger Android 앱의 경우 Rich State 접근법이 Empty State 접근법에 비해 엔드포인트 커버리지가 27% 더 높았다.
Messenger iOS 앱의 경우 Rich State 접근법이 Empty State 접근법에 비해 엔드포인트 커버리지가 27% 더 높았다.
Instagram Android 앱의 경우 Rich State 접근법이 Empty State 접근법에 비해 엔드포인트 커버리지가 68% 더 높았다.
引用
"풍부한 상태의 시뮬레이션 인구를 활용한 결과, 평균 코드 커버리지가 38% 증가하고 엔드포인트 커버리지가 61% 증가했다. 더욱 중요하게는 자동화 테스팅에서 발견된 결함이 115% 증가했다."
"Test Universe는 2022년 11월 출시 이후 21,000명 이상의 메타 엔지니어들이 사용하고 있다."