تخمین رفتار، موضوع مهمی در راستای ارزیابی مهارت در چندین آزمون انتخاب، مخصوصا برای امتحان دهنده ها در سطوح پایین مهارت به دلیل پتانسیل بالا برای خطا یا انحراف سیستماتیکی که امتیازات تست مشاهده شده را متورم می سازد، است. روش هایی که از اصلاح برای تخمین آزمون هایی با سهام بالا استفاده می کنند، در کل به مدل امتیازبندی وابسته هستند که هدفش، کمینه سازی سود بالقوه ی تخمین زنی است. در برخی موارد، امتیاز فرمول مبتنی بر نظریه آزمون کلاسیک (CTT) با نیت از بین بردن تاثیر تخمین زنی از امتیاز عدد صحیح بکار گرفته می شود. با این حال، از زمان شروع آن، مباحثه ی عمده ای در حیطه ی استفاده و پیامدهای مربوط به روش های کلاسیک اصلاح برای تخمین زنی صورت گرفته است. اخیرا، نظریه واکنش به کالا (IRT) برای مفهومی سازی و توصیف تاثیرات تخمین زنی استفاده شده است. با این حال، CTT هنوز بعنوان یک جنبه ی غالب از اکثر برنامه های ارزیابی می باشد و مدل های IRT بندرت برای ارزیابی مهارت با کالاهای MC استفاده می شوند – جاییکه تخمین زنی به احتمال زیادی تاثیرگذار می باشد. گرچه رشد قابل توجهی در پژوهش های مدل سازی رسمی مبتنی بر IRT در راستای تخمین زنی وجود دارد، هیچ از این راهکارهای IRT، کاربرد گسترده ای نداشته اند. این پژوهش، آنالیز مفهومی از نحوه ی عملکرد اصلاح برای تخمین زنی درون چارچوب مدل 3PL ارائه می کند و دو فرمول اصلاح تخمین زنی جدید مبتنی بر IRT برای بهبود براوردهای امتیاز مشاهده شده بدست می آیند. برای نمایش سودمندی امتیازات فرمول جدید، بعنوان متغیر شرط بندی در دو راهکار مختلف برای DIF بکار گرفته می شوند: روندهای مانتل – هنزل و روندهای رگرسیون لجستیک. امتیازات دو فرمول IRT با استفاده از تقریب های تیلور توسعه یافتند. هر یک از این امتیازات به استفاده از آمارهای نمونه بجای پارامترهای IRT برای براورد امتیازات صحیح اصلاح شده نیاز دارند و این آمارها به دو روش مختلفی بدست آمدند که روش های احتمال شبه بیز و شرطی نامیده می شوند. نشان داده می شود که امتیازات فرمول IRT، امتیاز تصحیح عدد مبتنی بر مهارت امتحان دهنده ها و الگوی پاسخ ها را در میان آیتم ها تنظیم می کنند. در دو مطالعه شبیه سازی مختلف، امتیاز فرمول کلاسیک عملکرد بهتر برحسب آمارهای انحرافی داشت، و همچنین، امتیازات فرمول IRT، بهبود عمده ای در آمارهای در مقایسه با امتیاز تصحیح عددی داشتند. مزیت امتیازات فرمول IRT حدود 10% بیشتر از واریانس در امتیازات صحیح تصحیح شده در اولین چارک بود. نتایج همچنین نشان می دهند که اطلاعات زیادی به دلیل استفاده از تقریب تیلور از بین نرفته اند. روش های احتمالات شرطی و شبه بیز نیز منجر به از بین رفتن اطلاعات کمتری شدند. هنگام استفاده از آنالیزهای DIF، امتیازات فرمول IRT، انحراف پایین تری در هر دو نسبت احتمال لگاریتمی و نرخ های خطای نوع 1 در مقایسه با امتیاز تصحیح شده داشتند. در کل، امتیازات فرمول ORT، انحراف موجود در نسبت احتمال لگاریتمی را تا حدود 60% و در خطای نوع 1 تا حدود 10% کاهش دادند.

CORRECTION FOR GUESSING IN THE FRAMEWORK OF THE 3PL ITEM RESPONSE THEORY

ProQuest LLC 789 East Eisenhower Parkway

Guessing behavior is an important topic with regard to assessing proficiency on multiple choice tests, particularly for examinees at lower levels of proficiency due to greater the potential for systematic error or bias which that inflates observed test scores. Methods that incorporate a correction for guessing on high-stakes tests generally rely on a scoring model that aims to minimize the potential benefit of guessing. In some cases, a formula score based on classical test theory (CTT) is applied with the intention of eliminating the influence of guessing from the number-right score (e.g., Holzinger, 1924). However, since its inception, significant controversy has surrounded the use and consequences associated with classical methods of correcting for guessing. More recently, item response theory (IRT) has been used to conceptualize and describe the effects of guessing. Yet CTT remains a dominant aspect of many assessment programs, and IRT models are rarely used for estimating proficiency with MC items – PREVIEW iii where guessing is most likely to exert an influence. Although there has been tremendous growth in the research of formal modeling based on IRT with respect to guessing, none of these IRT approaches have had widespread application. This dissertation provides a conceptual analysis of how the ―correction for guessing‖ works within the framework of a 3PL model, and two new guessing correction formulas based on IRT are derived for improving observed score estimates. To demonstrate the utility of the new formula scores, they are applied as conditioning variable in two different approaches to DIF: the Mantel-Haenszel and logistic regression procedures. Two IRT formula scores were developed using Taylor approximations. Each of these formula scores requires the use of sample statistics in lieu of IRT parameters for estimating corrected true scores, and these statistics were obtained in two different ways that are referred to as the pseudo-Bayes and conditional probability methods. It is shown that the IRT formula scores adjust the number-correct score based on both the proficiency of an examinees and the examinee‘s pattern of responses across items. In two different simulation studies, the classical formula score performed better in terms of bias statistics, but the IRT formula scores had notable improvement in bias and r2 statistics compared to the number-correct score. The advantage of the IRT formula PREVIEW iv scores accounted for about 10% more of the variance in corrected true scores in the first quartile. Results also suggested that not much information lost due to the use of Taylor approximation. The pseudo-Bayes and conditional probabilities methods also resulted in little information loss. When applied to DIF analyses, the IRT formula scores had lower bias in both the log-odds ratios and type 1 error rates compared to the number-corrected score. Overall, the IRT formula scores decreased bias in the log-odds ratio by about 6% and in the type 1 error rate by about 10%.

• قبلی
• بعدی