Least square estimation of dose response curve parameters

다국어 초록 (Multilingual Abstract)

Successfully automated curve fitting is greatly challenged when applied to large data set. In this paper, we described a algorithm for fitting dose response curves, by estimating four parameters (floor, window, shift, and slope), together with the detection of outliers. Especially, We are proposing an improvement for curve fitting over current methods. That is the detectionof outliers which is performed at the initialization step with correspondentadjustments of the derivative and error estimation functions. Automatic curve fitting of 19,236 experimental dose response experiments shows that our approach outperformed the current fitting methods provided by Matlab nlinfit function.

국문 초록 (Abstract)

대용량 데이터에서 성공적으로 자동화 곡선 최적화를 하는 것은 어려운 일이다. 본 논문에서는 약물반응곡선의 네가지 변수를 측정하여 곡선의 최적화 방법과 이상치 감지를 하는것에 대해 다루었다. 특히, 이 논문에서는 약물 반응 곡선 최적화에 대해서 개선점을 제시하였다. 그것은 첫 단계에서 오차 함수와 미분성분을 이용하여 이상치를 검증을 하는 것이다. 마지막으로 19,236개의 약물 반응의 실험 결과들을 통해 이 논문에서 접근한 방법이 매트랩의 내장함수(nlinfit)보다 더 좋은 결과를 보여주고 있음을 알 수 있다.

목차 (Table of Contents)

• Abstract i
• 1 Introduction 1
• 2 Background and Basic Method 3
• 2.1 Background . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3
• 2.2 Basic computation of curve fitting . . . . . . . . . . . . . . . . 4
• 2.3 Levenberg-Marquardt Method . . . . . . . . . . . . . . . . . . 6
• 3 Robust weighting and Outlier detection 9
• 3.1 Robust weighting function . . . . . . . . . . . . . . . . . . . . 9
• 3.2 Outlier detection . . . . . . . . . . . . . . . . . . . . . . . . . 14
• 4 Result 16
• 4.1 Results . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 16
• 4.2 Conclusion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19
• Abstract (in Korean) 23