다중 처리군에서 성향점수 가중치 방법의 비교

김은진 전북대학교 일반대학원 2022 국내석사

관찰연구에서 처리효과 추정치는 공변량 불균형의 영향으로 인한 편향이 발생한다. 역확률 가중치, 중복 가중치 및 매칭 가중치와 같은 성향점수의 가중치 방법은 추정치의 편향을 줄일 수 있다. 다중 처리군의 경우에는 성향점수를 확장한 일반화 성향점수 방법이 제안되었다. 주로 일반화 성향점수 추정시 다항 로지스틱 회귀 모형이 사용되며, 가중치 방법에도 적용되었다. 그러나 표본 크기에 비해 공변량이 너무 많거나 정규성을 가정할 수 없는 경우, 모수적 방법인 다항 로지스틱 회귀의 치료효과 추정치는 편향이 발생 할 수 있다. 반면 일반화 부스팅 모형은 비모수적 방법과 같은 문제에 적합하다. 또한 대용량 데이터에서도 잘 구현되어 최근에는 일반화 성향점수 추정에도 사용되고 있다. 본 연구는 모의실험을 통해 다항 로지스틱 회귀 모형과 일반화 부스팅 모형에 의해 추정된 일반화 성향점수와 이를 기반으로 하는 역확률 가중치, 중복 가중치와 매칭 가중치의 소표본 속성을 비교하였다. 모의실험 결과, 처리 또는 결과 모형이 선형인 경우에만 다항 로지스틱 회귀 방법은 편향과 MSE가 작았으며 CP는 높게 나타났다. 그러나 일반화 부스팅 방법은 모형의 선형 여부에 관계없이 편향, MSE와 CP는 일관된 결과를 보였으며, 처리 또는 결과 모형이 비선형인 경우에는 다항 로지스틱 회귀 방법보다 우수한 성능을 보였다. 가중치 방법은 전반적으로 매칭 가중치, 중복 가중치, 역확률 가중치 순으로 우수한 성능 보였다. 매칭 가중치와 중복 가중치는 일반화 성향점수 추정 방법에 따른 결과와 비슷하게 나타났으며, 역확률 가중치는 일반화 부스팅 모형으로 추정할 경우 성능이 더 좋게 나타났다. In observational studies, the treatment effect estimates are often biased by the impact of covariate imbalances. The propensity score weighting methods such as inverse probability of treatment weights(IPW), overlap weights(OW) and matching weights(MW) can be used to reduce the bias. In the case of multiple treatments, the propensity scores are extended to generalized propensity scores. They have been estimated most often by multinomial logistic regression(MLR) and used for weighting methods. However, MLR, which is a parametric methods, may cause bias in the estimate of treatment effect when there are too many covariates for the sample size or when normality cannot be assumed. The generalized boosted models(GBM) is robust to such problems as a nonparametric methods and also implemented well in very large size of data so that it is recently adopted for the estimation of GPS. In this study, we compared small sample properties of generalized propensity scores estimated by MLR and GBM and three weighting methods(IPW, OW, MW) based on these scores through simulations. The result of simulation shows; The MLR had small bias and MSE, and CP was close to the specified value only when log-odds of the treatment or outcome was linear in covariates. The GBM, however, showed consistent results regardless of the models specification in bias, MSE and CP, and performs better than the MLR as both treatment and outcome models are non-linear. The weighting methods showed good performance in the order of MW, OW and IPW. MW and OW showed similar results according to the generalization propensity score estimation methods, and IPW performed better when estimated using the GBM.

Comparison of propensity score methods flexible to model misspecification

강문종 Graduate School, Yonsei University 2020 국내석사

In an observational study, there may be differences in the distribution of pre exposure characteristics between treated and non-treated groups. This difference also affects the outcome. To address this, propensity score methods are frequently used. These methods remove the imbalance by making subgroups that have similar pre treatment characteristic distribution or creating synthetic samples by weighting. Propensity score methods are needed to specify propensity models, and misspecification of the propensity model brings notable bias to the outcome analysis. Researchers have proposed many methods which are less sensitive to the model specification to reduce the bias when the model is built to incorrect specifications. The purpose of this paper is to compare the proposed propensity estimation methods which are flexible to wrong model specification with weighting and matching methods in various scenarios. Biases, absolute bias, and MSE are used to evaluate the performance of estimating the average treatment effect (ATE), and average standardized mean difference (ASMD) is applied to check whether the covariates are balanced. From the simulated example, the scenario, the correct model specification for the generalized linear model (GLM) shows the best result for the bias, but it becomes less effective as the model complexity increases. The generalized boosted model (GBM), however, gives consistent results regardless of the model specification. Among the analysis methods incorporating propensity score, matching weight (MW) is the most effective method to reduce the bias. In terms of covariate balancing, ATE shows similar result to the bias, GLM is the worst, and GBM is the best. Matching has the smallest average standardized mean difference (ASMD). In the propensity estimation procedure, the interpretational aspect of the model is not emphasized. So GBM could be a powerful alternative to estimate propensity score. Furthermore, although matching analysis reduces ASMD better than the other methods, it also reduces the sample size. In case that sample size is small, using matching weights as an analysis method is preferable.

Novel Statistical Methods for Composite Endpoints

Wang, Tuo The University of Wisconsin - Madison ProQuest Dis 2023 해외박사(DDOD)

The recent Influenza Vaccine to Effectively Stop cardio Thoracic Events and Decompensated heart failure (INVESTED) trial compares the effects of two influenza vaccines in high-risk cardiovascular patients on the composite of all-cause death and recurrent cardiopulmonary hospitalizations. The INVESTED trial has two major challenges that cannot be adequately addressed by conventional statistical methodologies. 1) The INVESTED trial is a multi-season clinical trial with a randomize-once strategy. Patients enrolled from previous seasons who stay alive and remain in the study will be treated according to the initial randomization in subsequent seasons. The randomize-once strategy may induce selective attrition from earlier seasons for the non-randomized cohorts. 2) Multivariate prioritized endpoints are used for the primary analysis. The traditional approaches to analyze composite endpoints, such as the Kaplan-Meier estimator and Cox proportional hazards regression, focus on the time-to-first event and thus ignore the hierarchical structure among the components. In this dissertation, we aim to address these challenges.In the first project, to address the potentially selective attrition from earlier seasons for the non-randomized cohorts, we develop an inverse probability of treatment weighting method using season-specific propensity scores to produce unbiased estimates of survival functions or hazard ratios. As for the inference procedure, bootstrap variance estimators are used to account for the randomness in the estimated weights and the potential correlations in repeated events within each patient from season to season.The subsequent three projects focus on developing novel approaches to analyze composite endpoints that can properly prioritize different components of the composite endpoints based on their clinical importance. The second and third project focus on the win ratio statistics, as introduced in Pocock et al. (2012), while the fourth project extends the survival tree methodology to prioritized composite endpoints.In the second project, we propose the restricted time win ratio to address the major limitation of the traditionally used win ratio, which is heavily influenced by the censoring distribution. By calculating the win ratio at a pre-specified time point and estimating it using an imputation algorithm based on fully conditional specification algorithm, this method offers an unbiased and robust estimation of the treatment effect while accounting for the hierarchical structure of the composite endpoint.In the third project, we develop a stratified proportional win-fractions (PW) model, extending the win ratio from a two-sample comparison to regression. Under the proportionality assumption, the PW model ensures the covariate-specific win ratios remain invariant to the follow-up times. To address the violation of the proportionality assumption in practice, we develop a stratified PW model that adjusts for certain prognostic factors without setting them as covariates, thus bypassing the proportionality requirement. By allowing for stratification, this method provides robust and efficient estimation of the treatment effect and reduces potential biases arising from the violation of the proportionality assumption.Finally, the fourth project extends the survival tree methodology to handle prioritized composite endpoints by generalizing the twoing criteria and develops a generalized concordance index (C-index) for measuring model performance. This approach offers a nonparametric alternative for analyzing composite endpoints, accommodating complex interactions between covariates and multiple event types. By incorporating the hierarchical nature of composite endpoints into the tree construction process, this method provides a more accurate and interpretable partition of patients into distinct risk groups.

Optimal dynamic treatment rules for discrete outcomes in multi-stage randomization trials

전인영 Graduate School, Korea University 2019 국내석사

In biomedical research, a dynamic treatment regime (DTR), adaptive intervention, or an adaptive treatment strategy is a set of rules for identifying the most effective treatment decision based on individual patient information. Statistical identification of DTR becomes an increasingly popular theme in the era of personalized medicine. There has been a considerable research effort in the last decade into finding the optimal treatment rules in multi-stage randomization settings, most of which focus on continuous clinical outcomes. In this paper, we propose an evaluation of optimal treatment rules for discrete outcomes, such as binary responses, via generalized linear modeling. This can be done by quantifying potential reward at each stage in the counterfactual framework. In addition, we develop a propensity-score weighting scheme that provides doubly robust protection from model misspecification. The effectiveness of this new proposal is demonstrated via simulation studies under various scenarios. 의학 연구 분야에서, 동적 치료 요법(Dynamic Treatment Regimes;DTR)이란 환자들의 개별 정보를 반영하였을 때의 가장 효과적인 치료 방법이 무엇인지를 파악해내는 의사결정들의 집합을 의미한다. 동적 치료 요법을 통계적으로 밝혀내는 것은 개인 맞춤화 의료 분야에서 점점 더 인기를 끌고 있다. 지난 10년동안 다중 무작위 환경에서의 최적 치료 방법에 관한 연구들이 활발하게 진행되었으나, 대부분의 연구는 결과 변수가 연속형인 경우에만 국한되었다. 본 논문에서는 이산형 결과일 때의 최적 치료 방법을 일반화 선형 모델링을 통해 제안한다. 이것은 사후가정형 접근법(Counterfactual framework)에서 사용되는 개념인 '보상'값을 각 단계별로 추정함으로써 도출할 수 있다. 또한, 본 논문에서는 성향점수 가중치 방법을 적용하여 본 알고리즘이 모델 추정에 이중 강건한(Doubly Robust) 성질을 가질 수 있도록 하였다. 이러한 새로운 제안 방법에 대해 다양한 시뮬레이션을 진행하였고 타당한 분석 방법임을 보였다.

Essays on the Role of Public Demand in Innovation Policy : Rationale and Impact Assessment of Public Procurement for Innovation

신기윤 서울대학교 대학원 2021 국내박사

Technological innovation is a major driving force for economic growth. Accordingly, many countries have implemented various innovation policies to promote innovation in the private sector. Interest in the demand-side innovation policy, which focuses on the commercialization and diffusion of technology development results, has increased in recent years. Public procurement for innovation (PPI), the consumption of the public sector for innovative products or services that still have an insufficient private market, has received attention from various countries as a representative demand-side innovation policy tool. Various academic studies have proved that PPI stimulates innovation activity and generates commercially successful innovation. However, most studies have analyzed the policy impact of PPI at the micro-level by comparing the outcomes of the firms with PPI and those without. There has been no attempt to analyze the economy-wide impact of PPI. Therefore, in this study, a theoretical and empirical analysis framework has been established to analyze the national economic impact of PPI. Previous studies on the policy impact of PPI have shown that PPI has diverse paths of influence on the innovation efforts and production and consumption activities. However, due to the lack of a theoretical analysis framework capable of synthesizing the results suggested in a vast amount of existing literature, there is a limitation in that the policy impact of PPI is understood as context-specific. This impact could be highly dependent on the characteristics of a country, government, industry, and implementation cases. Therefore, this study identifies the impact paths of PPI by reinterpreting the qualitative and quantitative results of existing studies from a system perspective. Specifically, based on major discussions on the source of innovation, including technology-push and demand-pull perspectives, this study built an analysis framework that understands the policy impact of PPI regarding interactions between various actors in the innovation system, including suppliers, consumers, and the government. Additionally, based on this, the type classification and generation of taxonomy for PPI were conducted to classify the various policy implementation cases in Korea and other countries. Finally, the theoretical framework and taxonomy were validated by analyzing the PPI of the Korean electric vehicle. Based on the established theoretical framework, this study attempted to confirm the economy-wide impact of PPI. First, the policy evaluation for PPI at the firm level was conducted from additionality. According to the econometric methodology analysis, PPI generally positively impacted the firms’ productivity and expanded investment on innovation activity for the firms with PPI contracts. Second, based on the results, this study analyzed the economy-wide impact of PPI using the computational general equilibrium model. Through the computational general equilibrium model that expresses the behaviors and interactions of various economic actors in the form of equations, it was possible to reflect the impact paths of PPI interpreted from the viewpoint of the innovation system. In this study, based on the Telecommunications Management Information Platform model, specialized in ex-ante quantitative policy evaluation of innovation policy, a computational general balance model was constructed. The model explicitly reflected the impacts of PPI in equation systems. The policy simulation results confirmed that PPI positively impacts expanding industrial output and, ultimately, economic growth in the long run when PPI replaces a certain portion of ordinary public procurement. However, it was also found that the adverse effect in macroeconomic indicators may occur at the early stage of policy implementation due to the negative effects that PPI can cause on the public sector. By establishing a theoretical and empirical framework for analyzing the comprehensive policy impact of PPI, this study attempted to derive implications for confirming the role and potential of PPI as innovation policy tools. Particularly, by providing an analytical framework that can comprehensively interpret the results in the literature, this study investigated the impact of PPI, understood in a fragmented way theoretically. This study contributes to the literature by adding the scope and depth of related research. Empirically, this is the first study to quantitatively present the economy-wide impact of PPI with a general equilibrium perspective and real macroeconomic data. Moreover, it provides a methodology for evaluating innovation policy, including PPI, to secure ex-ante policy evidence, and is valuable. Thus, this study presents an empirical and methodological basis for the science of innovation policy by obtaining a theoretical and methodological framework, which enables finding policy evidence and impact paths. 기술혁신은 경제 성장의 주요한 원동력 중 하나이며, 이에 따라 많은 국가에서 민간 혁신을 촉진하기 위한 다양한 형태의 혁신정책을 시행해 왔다. 최근에는 기술개발 결과의 상용화 및 확산에 초점을 맞춘 수요기반 혁신정책에 대한 관심이 높아지고 있다. 혁신적이지만 아직 시장이 성숙하지 못한 제품 또는 서비스에 대한 공공구매를 뜻하는 혁신지향적 공공구매는 대표적인 수요기반 혁신정책 수단으로 다양한 사례 및 실증 연구를 통해 우수한 혁신 효과가 입증되어 왔다. 하지만 기업 수준의 효과 분석을 넘어 혁신지향적 공공구매의 거시경제적 효과를 분석하고자 한 시도는 아직 없으며, 이에 본 연구에서는 혁신지향적 공공구매의 국가 경제적 파급효과를 분석할 수 있는 이론적, 실증적 분석 틀을 구축하고자 한다. 혁신지향적 공공구매의 효과와 관련한 그 동안의 연구는 혁신지향적 공공구매의 영향 경로가 매우 다양함을 보여준다. 그러나 이러한 연구 결과를 종합할 수 있는 이론적 분석 프레임워크의 부족으로 인해 혁신지향적 공공구매의 혁신 관련 효과가 국가, 산업 또는 사례에 한정하여 해석되고 있다는 한계가 있다. 이애 본 연구는 다양한 기존 연구의 결과를 시스템 관점에서 재해석하여 혁신지향적 공공구매의 영향 경로를 식별하고자 하였다. 세부적으로, 기술주도 및 수요견인 등 혁신의 동인에 대한 주요 논의를 바탕으로 혁신지향적 공공구매의 정책 효과를 공급자, 소비자, 정부 등 혁신 시스템 내 다양한 주체간 상호작용으로 이해하는 분석 프레임워크를 구축하는 연구를 진행하였다. 또한, 이를 바탕으로 여러 국가에서 다양하게 활용되는 혁신지향적 공공구매의 정책 사례를 분류할 수 있도록 유형 분류를 진행하였으며, 한국의 전기자동차에 대한 혁신지향적 공공구매 사례에 대한 분석을 통해 구축된 이론적 프레임워크 및 유형 분류의 검증을 시도하였다. 구축된 이론적 프레임워크를 바탕으로 본 연구는 실증적으로 혁신지향적 공공구매의 거시경제적 효과를 확인하고자 하였다. 이를 위하여 우선 혁신지향적 공공구매의 기업 수준의 효과를 부가성의 관점에서 분석하였다. 계량경제학적 방법론을 활용한 분석의 결과 대체적으로 혁신지향적 공공구매는 수행 기업의 생산성 향상에 긍정적인 영향이 있는 것으로 확인되었다. 이러한 분석 결과를 토대로 본 연구는 연산일반균형 모형을 활용하여 혁신지향적 공공구매의 거시경제적 효과 분석을 수행하였다. 다양한 경제 주체의 행동 및 상호작용을 방정식의 형태로 나타낸 연산일반균형 모형을 통해 혁신 시스템 관점에서 해석된 혁신지향적 공공구매의 다양한 영향 경로를 반영할 수 있다. 본 연구에서는 혁신정책의 사전적 정책 평가에 특화된 모형인 TEMIP 모형을 기반으로, 혁신지향적 공공구매의 효과를 명시적으로 반영한 연산일반균형 모형을 구축하였다. 해당 모형을 통한 정책 분석 결과 일반 공공구매 중 일부를 혁신지향적 공공구매로 전환할 경우 장기적으로 산업 발전 및 경제 성장에 긍정적인 영향이 나타나는 것을 수량적으로 확인하였다. 다만, 혁신지향적 공공구매가 초래할 수 있는 공공 부문의 부정적 영향으로 인해 정책 시행 초기에는 거시경제적인 악영향이 발생할 수 있음 역시 지적되었다. 혁신지향적 공공구매의 종합적 효과 분석을 위한 이론적, 실증적 프레임워크의 구축을 통해 본 연구는 혁신지향적 공공구매의 역할 및 정책적 가능성을 확인하는 시사점을 도출하고자 하였다. 특히 이론적으로 그 동안 파편화되어 있던 혁신지향적 공공구매와 관련한 다양한 연구를 종합적으로 판단할 수 있는 분석의 틀을 제공함으로써 향후 관련 연구의 범위 및 깊이를 더할 수 있도록 하는 기여를 할 수 있을 것으로 보인다. 실증적으로는 혁신지향적 공공구매의 거시경제적 효과를 수량적으로 제시한 첫 번째 연구로써, 혁신지향적 공공구매를 포함한 혁신정책의 평가를 위한 방법론을 제공하여 사전적 정책 증거의 확보 및 이를 통한 혁신정책의 과학화를 위한 실증적, 방법론적 기반을 제시하였다는 점에서 가치가 있다고 할 수 있다.

Generalized Q learning for optimal dynamic treatment rules

김정은 Graduate School, Korea University 2022 국내석사

Recently, interest in personalized treatment using patients' information is increasing. In particular, it is important to receive appropriate treatment at each treatment point in that chronic diseases such as hypertension and diabetes should be repeatedly treated. Therefore, it is necessary to develop a statistical model for making appropriate choices in the iterative treatment process. Dynamic Treatment Regime (DTR) is the most effective treatment rule when diagnostic information from patients is given. Recently, DTRs have been actively studied as a grafting field of statistics, Machine learning methods and Deep learning methods. The Q-learning algorithm, an algorithm mainly used to estimate DTRs, is one of the reinforcement learning methods that evaluates the value of action when given a particular state. Conventional Q-learning algorithms mainly estimated continuous outcome by fitting a linear model. In addition, when we selected one treatment other than the optimal treatment, it is necessary to correct these difference. In this paper, to solve the problem, we applied the regret-based Q-learning algorithm to DTRs as a way to correct the selection of treatment other than the optimal treatment regime. As a result of applying this to continuous and discrete dependent variables, the probability of finding the optimal treatment regime has increased. In addition, it is shown that the machine learning method can be applied to the propensity score to reduce errors that may occur in the estimation of the optimal decision-making system. Finally, we found the treatment regimen with the best treatment effect for patients with actual advanced prostate cancer patient data. 최근 환자들의 정보를 활용한 맞춤형 치료가 주목 받고 있다. 특히 암이나 치매와 같은 노령화 질환과 고혈압과 당뇨와 같은 만성 질환의 경우 치료를 반복적으로 받아야 한다는 점에서 각 치료 시점에 적절한 치료를 받는 것은 매우 중요하다. 해당 질환의 환자들이 늘어남에 따라 발생하는 경제적인 부담은 사회에 들어가게 된다. 따라서 반복적인 치료 과정에서 적절한 의사 선택을 하는 통계적 모델을 개발할 필요성이 대두되었다. 동적 치료 체제 (Dynamic Treatment Regime:DTR)란, 환자의 진단 정보를 반영하였을 때 가장 효과적인 치료 체제를 의미한다. 최근 DTRs는 머신러닝 방법, 딥러닝 방법과 더불어 통계 기법 연구의 접목 분야로서 활발히 연구되고 있다. DTRs을 추정하기 위해 주로 사용되는 알고리즘인 Q-learning 알고리즘은 강화학습 기법 중 하나로, 특정한 상태(State)가 주어졌을 때 행동의 가치를 평가하는 알고리즘이다. 기존의 Q-learning 알고리즘에서는 선형 모델을 적합하여 주로 연속형 종속 변수를 추정하였다. 또한 최적의 치료 체제가 아닌 다른 치료 체제를 선택하였을 때 이를 보정하는 방법에 대한 연구는 미미하였다. 본 논문에서는 해당 문제를 개선하기 위하여 최적의 치료 체제가 아닌 다른 치료를 선택하였을 때 이를 보정하기 위한 방법으로 Regret based Q-learning Algorithm을 DTRs에 적용하였다. 이를 연속형과 이산형 종속 변수에 적용한 결과, 모델을 데이터 특성에 맞게 적합시키지 않아도 최적의 치료 체제를 찾는 확률을 높일 수 있었다. 또한 성향점수에 ML 기법을 적용하여 최적 의사결정 체제의 추정에서 발생할 수 있는 오차를 줄일 수 있음을 보였다. 마지막으로는 실제 전립선 암 환자 데이터에 적합하여 환자의 치료 효과가 가장 좋은 치료 체제를 찾았다.

Nonresponse weighting adjustment using nonparametric response propensity score

김지수 Graduate School, Yonsei University 2005 국내석사

In the survey analysis, nonresponse leads to many problems. First, nonreponse reduces the effective sample size, so this increases the variance of the resulting estimator. Moreover, nonresponse incurs nonresponse bias which is the propensity of non-respondent is not the same as that of respondent.To prevent this nonresponse bias, many researchers use various nonresponse weighting adjustment(NWA) methods with estimated response propensity score(RPS). One of the most popular NWA methods is the logistic regression for estimating RPS.If the response structure follows the logistic distribution, estimated statistic(ex. Interested mean, total, variance etc.) satisfies unbiasedness. However, if not, estimated statistic may suffer great bias problem. So, some remedy is required for this case.This article will suggest the local smoother which is a kind of the nonparametric methods to resolve the bias problem. LOCFIT procedure will be introduced as the local smoothing method and extended to GAM(Generalized Additive Model).