Математичні моделі та алгоритми тестування знань з використанням зворотного зв'язку та інтернет-технологій
Комп'ютерні системи тестування та оцінювання знань. Розробка математичних моделей, методів і алгоритмів тестування та оцінювання знань. Створення автоматизованої системи тестування знань з використанням Інтернет-технологій та концепції зворотного зв'язку.
Рубрика | Программирование, компьютеры и кибернетика |
Вид | автореферат |
Язык | украинский |
Дата добавления | 28.07.2014 |
Размер файла | 55,7 K |
Отправить свою хорошую работу в базу знаний просто. Используйте форму, расположенную ниже
Студенты, аспиранты, молодые ученые, использующие базу знаний в своей учебе и работе, будут вам очень благодарны.
23
Размещено на http://www.allbest.ru/
Державний комітет зв'язку та інформатизації України
Національна академія наук України
Державний науково-дослідний інститут інформаційної інфраструктури
Математичні моделі та алгоритми тестування знань з використанням зворотного зв'язку та інтернет-технологій
Спеціальність: 01.05.02 - математичне моделювання та обчислювальні методи
Автореферат
дисертації на здобуття наукового ступеня
кандидата технічних наук
Колуд Роберт
Львів - 2004
Дисертацією є рукопис
Робота виконана у Державному науково-дослідному інституті інформаційної інфраструктури Державного комітету зв'язку та інформатизації і Національної академії наук України
Науковий керівник:
Марецький Францішек, доктор технічних наук, старший науковий співробітник, Академія інформатики та управління м. Бєльско-Бяла, ректор
Офіційні опоненти:
Яцимірський Михайло Миколайович, доктор технічних наук, професор, Державний науково-дослідний інститут інформаційної інфраструктури, пров. наук. співр.
Хавалко Віктор Михайлович, кандидат технічних наук, старший науковий співробітник, Львівський коледж Державного університету інформаційно-комунікаційних технологій, зав. відділенням
Провідна установа:
Національний університет “Львівська політехніка" Міністерства освіти і науки України, кафедра інформаційних систем та мереж
Захист відбудеться 04 січня 2005 р. о 16 год. на засіданні спеціалізованої вченої ради Д 35.813.01 Державного науково-дослідного інституту інформаційної інфраструктури (79601, м. Львів, вул. Тролейбусна, 11).
З дисертацією можна ознайомитись у бібліотеці Державного НДІ інформаційної інфраструктури (79601, м. Львів, вул. Тролейбусна, 11).
Автореферат розіслано 03 грудня 2004 р.
Вчений секретар Спеціалізованої вченої ради, докт. техн. наук, проф. Бунь Р.А.
Загальна характеристика роботи
Актуальність роботи. Перевірка і оцінювання знань - це одна з найважливіших і найважчих процедур для дидактичних працівників, особливо в освітніх закладах, в яких існує проблема масової верифікації знань великої кількості студентів. Перевірка знань проводиться багатьма традиційними способами, які крім переваг мають загальні недоліки - великі часові затрати та недостатню об'єктивність. Важливою проблемою є також об'єктивне екзаменування за умов обмеженого часу. Розвиток інформаційних технологій та впровадження комп'ютерних систем тестування і перевірки знань робить можливим отримання об'єктивної і точної оцінки відповідей студентів вже в процесі тестування, а критерії оцінювання не залежать від втоми і психічного стану екзаменатора. Найбільш поширеною формою оцінювання знань сьогодні є тестові екзамени, які можуть проводитись з допомогою комп'ютерних засобів - систем автоматизованого тестування.
Сучасні інформаційні технології вносять до процесу оцінювання нові елементи, які є більш ефективні та надійні в порівнянні з класичними засобами контролю знань. Комп'ютерні технології дають можливість використовувати більш складні в математичному плані методи відбору завдань, нарахування балів та оцінювання. На окремих етапах процесу тестування знань, таких як вибір завдань та їх оцінювання, визначення тривалості та кінцевого результату тесту, а також визначення загальної оцінки, необхідним є застосування ефективних математичних моделей, методів і алгоритмів, які покращуватимуть якість тестування і даватимуть можливість адаптації алгоритмів до поточної ситуації в ході тестування. Однією з основних вимог до сучасних систем тестування є їх гнучкість, яка дозволить симулювати традиційний письмовий чи усний екзамен.
За останні десятиліття зроблено суттєвий крок в напрямку розробки математичних моделей, підходів, методів та алгоритмів реалізації базових задач, які виникають на основних етапах тестування знань за допомогою автоматизованих систем. Значний внесок у розробку та дослідження таких моделей зробили вчені: Деповський В.О., Оксамитна Л.П., Катаєва Є.Ю., Коджа T.I., Федорук П.І., Радельчук Г.І., Мушак А., Проводар О., Веренич О.В., Belton M., Hanson B. A., McAlpine M., Niemierko B. та ін.
Кілька останніх років можна спостерігати тенденцію щодо створення Інтернет-орієнтованих, мережевих інфраструктур, які полегшують доступ до інформації та дидактичних засобів в навчальних закладах. Дидактика активно підтримується мережевими комп'ютерними технологіями, а отже, актуальною науковою задачею є створення таких математичних моделей, методів і алгоритмів, які б враховували специфіку тестування знань з різних предметів, динамічно реагували б на ситуації, які при цьому виникають, та знаходили б ефективне використання в системах автоматизованого тестування знань на основі Інтернет-технологій.
Зв'язок роботи з науковими програмами, планами, темами. Основу дисертаційної роботи складають результати теоретичних та практичних досліджень, проведених автором в рамках планових робіт Академії інформатики та управління в м. Бєльско-Бяла. Зокрема, створення системи тестування для дипломного екзамену (2000 р.), створення комп'ютерної системи тестування з навчальних предметів (2001-2004 рр.). Автор дисертаційної роботи був керівником та основним виконавцем цих науково-дослідних робіт. Базуючись на тестових екзаменах, здійснених з кількох сотень предметів, проведено науково-дослідні роботи, пов'язані з використанням принципу зворотного зв'язку.
Мета та задачі дослідження. Метою дисертаційної роботи є розробка математичних моделей, методів і алгоритмів тестування та оцінювання знань і створення на цій основі автоматизованої системи тестування знань з використанням Інтернет-технологій та концепції зворотного зв'язку.
У відповідності з поставленою метою дисертаційна робота включала розв'язання таких задач:
аналіз існуючих підходів до створення систем тестування знань;
розроблення математичних моделей для опису процесу тестування;
створення математичних моделей і алгоритмів реалізації етапів підбору та оцінки завдань, визначення їх кількості в тестах та обчислення кінцевого результату;
встановлення основних засад функціонування механізмів зворотного зв'язку з використанням бази даних статистичної інформації;
розроблення структурної та функціональної схем системи автоматизованого тестування з використанням Інтернет-технологій та механізмів зворотного зв'язку;
програмна реалізація системи автоматизованого тестування знань;
проведення експериментальних досліджень впливу запропонованих алгоритмів на результати тестування знань.
Об'єктом дослідження є комп'ютерні системи тестування та оцінювання знань.
Предметом дослідження є математичні моделі, методи та алгоритми автоматизованого тестування знань з використанням інтернет-технологій та механізмів зворотного зв'язку.
Методи дослідження. В дисертаційній роботі для вирішення визначених задач використано елементи статистичного аналізу і теорії ймовірності, класичну теорію тесту, теорію результату завдання (Item Response Theory), елементи психометрії і педагогіки. Систему автоматизованого тестування створено на основі методів структурного і об'єктно-орієнтованого програмування. Оцінку її ефективності та функціональності здійснено шляхом впровадження в навчальному закладі.
Наукова новизна одержаних результатів полягає в наступному:
вперше запропоновано і проаналізовано концепцію зворотного зв'язку при комп'ютерному тестуванні знань, яка базується на оцінці статистичних характеристик завдань і дає можливість динамічно впливати на ефективність тестування;
вперше розроблено математичні моделі процесу тестування і оцінювання знань, які базуються на використанні диференціюючої здатності завдань та оригінальних алгоритмів встановлення ймовірності вибору завдань залежно від їх диференціюючої здатності та динамічно встановленої ваги, що дає можливість значно підвищити ефективність тестування;
вперше розроблено математичні моделі та ефективні алгоритми встановлення оцінок, які базуються на статистичних характеристиках наявних в базі даних завдань і дають можливість значно покращити об'єктивність оцінювання без додаткових часових затрат;
досліджено залежність похибки результатів тестування від кількості завдань в тесті та обґрунтовано оригінальні методики тестування з динамічно окресленим часом закінчення;
вперше розроблено архітектуру побудови автоматизованої системи тестування знань, яка базується на використанні інтернет-технологій та елементів зворотного зв'язку і дає можливість адаптовувати процес тестування до поточної ситуації;
розроблено процедури формування завдань з динамічно генерованим змістом та алгоритми підбору різних типів завдань при формуванні тестового екзамену, що надає широкі можливості щодо збільшення бази завдань і реалізації інтелектуальних адаптивних алгоритмів оцінювання.
Практичне значення результатів та їх впровадження. Розроблені підходи, математичні моделі та алгоритми дають можливість підвищити ефективність та об'єктивність комп'ютерного тестування знань, підвищити ефективність використання мережевої інфраструктури навчального закладу та ведуть до економії коштів. Цьому сприяють розроблені механізми зворотного зв'язку, які базуються на оцінці статистичних характеристик завдань і дають можливість динамічно впливати на процес тестування; математичні моделі на основі диференціюючої здатності завдань, які дають можливість встановити ймовірність вибору завдань залежно від їх диференціюючої здатності та динамічно встановленої ваги. Розроблені математичні моделі та методики тестування з динамічно окресленим часом закінчення покращують об'єктивність оцінювання без додаткових часових затрат, а процедури формування завдань з динамічно генерованим змістом надають широкі можливості щодо збільшення бази завдань.
Розроблені математичні моделі, методи та алгоритми використано при створенні автоматизованих систем тестування “E-Tester" та “Дипломний екзамен”, які вже кілька років успішно використовуються в Академії інформатики та управління в м. Бєльско-Бяла (Польща). Система “E-Tester" застосовується при проведенні екзаменів, заліків та контрольних робіт, а також є модулем, пов'язаним з навчальною Web-сторінкою Академії, яка є платформою доступу до дидактичного матеріалу через Інтернет. Ця система успішно використовується на інших рівнях навчання, наприклад, в середніх школах та коледжах, під час стажувань, а також для здійснення анкетувань, статистичних досліджень та наукової роботи.
Особистий внесок здобувача. Всі основні результати, що складають зміст дисертаційної роботи, отримані автором самостійно. У публікаціях, написаних у співавторстві, здобувачеві належить: [9] - розробка моделі комунікації та концепції і проекту комп'ютерної аплікації, [10] - розробка алгоритму та способів комп'ютерної реалізації.
Апробація роботи. Основні наукові результати та положення дисертаційної роботи доповідалися та обговорювалися на ряді міжнародних і національних науково-технічних конференцій та шкіл семінарів, зокрема на: Першій міжнар. конф. з індуктивного моделювання “МКІМ-2002” (Львів, 2002 р.); Другій та Третій Міжнар. наук. - практ. конф. “Мікропроцесорні пристрої та системи в автоматизації виробничих процесів” (Хмельницький, 2003, 2004 рр.); Міжнар. конф. “Internet w spoіeczeсstwie informacyjnym" (Закопане, Польща, 2004 р.); Beskidzki Festiwal Nauki i Sztuki (Бєльско-Бяла, Польща, 2001, 2003 рр.); Міжнар. школах семінарах “Математичне моделювання і штучний інтелект” (Львів, 2001-2003 рр.); наукових семінарах Державного НДІ інформаційної інфраструктури, м. Львів та Академії інформатики та управління м. Бєльско-Бяла, Польща на протязі 1999-2004 рр.
Публікації. За матеріалами дисертаційної роботи опубліковано 22 наукові праці, серед яких один навчальний посібник, 5 статей у фахових наукових виданнях України, 5 статей в інших наукових збірниках, 6 препринтів, 5 статей в працях наукових конференцій.
Структура та обсяг дисертації. Дисертаційна робота складається з вступу, п'ятьох розділів, висновків, списку використаних джерел та додатку. Робота викладена на 191 сторінці і містить 147 сторінок основного тексту та список літератури із 178 найменувань.
Основний зміст роботи
У вступі наведено загальну характеристику роботи, обґрунтовано її актуальність, сформульовано мету та основні задачі досліджень, визначено основні методи вирішення сформульованих задач, визначено наукову новизну роботи і практичну цінність отриманих результатів, а також викладено короткий зміст роботи.
В першому розділі наведено огляд відомих підходів за тематикою дисертаційної роботи та проведено аналіз сучасних методів і засобів інформаційної підтримки систем тестування знань, а також обґрунтовано необхідність та доцільність створення систем автоматизованого тестування з використанням Інтернет-технологій.
Показано, що існуючі підходи, в основному, не забезпечують необхідних параметрів об'єктивності, точності та ефективності процесу екзаменування, а також не дають можливості визначити характеристики завдань на основі результатів тестування і здійснювати вплив на формування банку завдань та ефективний їх підбір для екзаменованого в ході наступних тестувань. Проаналізовано вимоги до архітектур, властивостей і можливостей систем тестування знань на основі Інтернет-технологій, що дозволило обґрунтувати доцільність створення такої системи тестування, яка б технічно створювала екзаменованим настільки вигідні умови, щоб вони могли показати найкращі результати у виділений для цього час.
Досліджено базові методи і підходи, пов'язані з тестуванням знань, та наведено аналіз класичних алгоритмів і методів, які використовуються в системах тестування. Виділено варіанти інтерактивних тестів, прикладами яких є процедури пірамідального та ієрархічного адаптаційного тестування, і на цій основі описано базові методи оцінювання: дихотомічне та багатозначне, а також шкали та методи визначення результату тесту, такі як, наприклад, точні результати в балах, результат для цілої бази завдань, результат для підмножини завдань, відсоткові результати, результати в нормалізованій шкалі, а також у відсотковій рейтинговій шакалі.
На основі аналізу педагогічної та психометричної літератури, наведено ряд варіантів визначення характеристик завдань і результатів тестування на основі кількісного аналізу. До них можна зарахувати: параметри пропусків, легкості та диференціюючої здатності. Параметр диференціюючої здатності завдання (ДЗЗ) трактується як інформація про кореляцію результатів завдання з результатами тесту, в якому міститься це завдання. ДЗЗ може використовуватись для сепарації екзаменованих з вищими та нижчими рівнями компетенції в рамках програмованого тесту. Один з методів визначення ДЗЗ полягає в обчисленні коефіцієнта кореляції Пеарсона.
Проведено огляд характеристик тестів, серед яких можна виділити параметри центральної тенденції і параметри розподілу, а також коефіцієнт надійності, який свідчить про те, яка частина кінцевого результату породжена помилками. Для оцінки надійності можна використовувати формули Кронбаха і Кудера-Річардсона.
Альтернативою до класичної теорії тесту є “теорія результату завдання” (Item Response Theory - IRT), яка визначає математичну модель конфронтації екзаменованої особи з завданням, в сенсі сукупності параметрів, пов'язаних з екзаменованим та елементами тесту. Вона уможливлює більш точний опис завдання і результатів тесту. Математичною основою однієї з моделей IRT (трипараметрової 3-PL) є формула , де - це ймовірність того, що особа з рівнем досягнень дасть вірну відповідь у випадку завдання з рівнем складності , параметром ДЗЗ та параметром “вгадування" .
Другий розділ присвячено питанням формування математичних моделей та алгоритмів процесу тестування і оцінювання знань, які ґрунтуються на використанні ДЗЗ. Проаналізовано проблеми визначення ймовірності вибору завдань залежно від їх ДЗЗ, тестування на основі максимальної ДЗЗ та управління вагою завдання.
Представлено розроблені математичні моделі опису процесу тестування знань і сформульовано методи та алгоритми, які використовуються на його наступних етапах, представлених на рис.1.
Сформульовано концепцію зворотного зв'язку, яка тракту-ється як вплив результатів тес-тів, розв'язаних групою екзаме-нованих, на параметри алгорит-мів і стратегії проведення тестів в майбутньому.
Запропоновано та реалізова-но алгоритм управління ймовір-ністю вибору завдання залежно від його ДЗЗ, який базується на концепції зворотного зв'язку (PДЗЗ - представлений на рис.2, де - значення параметра ДЗЗ; та - найменше і най-більше значення ДЗЗ в банку завдань; - коефіцієнт жеребкування для -го завдання; і - максимальне і мінімальне допустиме значення ; - ймовірність вибору -го завдання, - кількість завдань в банку завдань, - кількість завдань в тесті, - завдання в тесті). У відповідності з цим алгоритмом чим більше значення ДЗЗ, тим більшою є ймовірність його вибору.
комп'ютерна система тестування знання
Запропоновано математичну модель і розроблено відповідний їй алгоритм, який використовує ДЗЗ і дозволяє здійснювати управління вагою завдання згідно формули , де - вага -го завдання, , - максимальне і мінімальне допустиме значення ваги завдання. Вага враховується при обчисленні кінцевого результату тесту в балах: , де та - результат і вага для -го завдання в тесті.
Проведено дослідження впливу запропонованих алгоритмів, пов'язаних з використанням ДЗЗ, на результати і характеристики тестів. Дослідженнями охоплено алгоритм Р (завдання відбираються до тесту з однаковою ймовірністю) та алгоритм PДЗЗmax (до тесту підбираються лише завдання з найбільшими значеннями ДЗЗ). Симуляції продемонстрували, що при застосуванні алгоритмів PДЗЗ, PДЗЗmax та PДЗЗваги на 10-70% збільшувалось стандартне відхилення розподілу результатів екзамену по відношенню до алгоритму Р.
Аналізуючи значення надійності, обчислені методом Кудера-Річардсона, для алгоритмів PДЗЗmax та PДЗЗ зауважено вищі їх значення ніж для алгоритму Р, наприклад
Тест 1: Р: 0,53; PДЗЗ: 0,6; PДЗЗmax: 0,75.
Тест 2: Р: 0,81; PДЗЗ: 0,84; PДЗЗmax: 0,91.
Запропоновано та апробовано алгоритм, який використовує зворотний зв'язок, і знаходить застосування у випадках, коли студент багаторазово розв'язує тест, що базується на підмножинах завдань з більшого банку, з метою повторення матеріалу (АБРТ - алгоритм багаторазового розв'язування тесту). Після чергового розв'язування тесту модифікуються параметри жеребкування окремих завдань, які впливають на ймовірність його вбору в майбутньому: , якщо в -му тесті дано вірну відповідь на питання ; , якщо в -му тесті дано невірну відповідь на питання ; , якщо в -му тесті не вибрано питання ; ; , та - значення параметрів, які керують алгоритмом. Таким чином студент частіше отримуватиме завдання, які викликають у нього труднощі.
Альтернативою по відношенню до класичної теорії тесту є моделі на основі “теорії результату завдання”. Використовуючи ці моделі розроблено програмний продукт IRTProcess, який дає можливість обчислювати результати тестів і оцінювати характеристики завдань, а також порівнювати їх з характеристиками класичної теорії тесту. Проаналізовано використання інформаційної функції для опису та оцінки ефективності завдань. Інформаційні функції завдань і тесту в цілому можуть братись до уваги при підборі завдань до тесту, а також в процедурах селекції, нагромадження і актуалізації тестових завдань в банках завдань.
В третьому розділі запропоновано та досліджено математичні моделі, методи та алгоритми, які використовуються під час оцінювання тестових завдань, а також для визначення кількості завдань в тесті.
Розроблено метод багатобального оцінювання завдань типу вибору на основі зворотного зв'язку (БОЗЗ). При цьому зроблено припущення, що у випадку, коли дано цілком вірну відповідь на завдання, екзаменований отримує 1 бал, натомість у випадку надання невірної відповіді екзаменований отримує різні значення балів, в залежності від зазначеного варіанту відповіді. Оцінювання окремих варіантів залежить від середнього результату тесту, який отримали в минулому інші екзаменовані, які вказали цей же варіант.
Експериментальними дослідженнями встановлено, що застосування алгоритму багаторазового оцінювання завдань типу вибору з використанням зворотного зв'язку спричиняє зменшення похибки вимірювань. Для дихотомічного методу і для тестів, які базуються на 20-30 завданнях, середня похибка вимірювання результату тестування зменшується на 30%. Крім того, застосування методу БОЗЗ спричиняє деяке завищення середнього результату тесту, що необхідно взяти до уваги при встановленні відповідних правил оцінювання.
Іншим не менш важливим запропонованим підходом є стратегія проведення тесту з динамічно визначеним моментом завершення. Блок-схему алгоритму, визначеного як “метод без вибиття з каналу” (МБВК), зображено на рис.3, а ілюстрацію його функціонування - на рис.4. Алгоритм відслідковує зміну значення відсоткового результату тесту після відповідей на наступні завдання. У випадку, коли після визначеної кількості разів підряд цей параметр залишається стабільним в певному околі, тест завершується.
На рис.3 використано позначення: - мінімальна кількість завдань, яка має бути в тесті; - максимальна кількість завдань, яка може бути в тесті; ; - “довжина каналу” або кількість останніх значень (завдань), на основі яких перевіряється чи результат став стабільним, - “ширина каналу” або амплітуда коливань відносного результату після кількох наступних завдань, нижче якої система визнає, що результат став стабільним і можна закінчити тест; - результат тесту. На основі проведених досліджень і симуляцій рекомендується комбінація параметрів: , , , . Адміністратор тесту може встановлювати їх самостійно, залежно від запланованого часу тестування і прийнятної величини похибки вимірювань.
В розділі запропоновано також метод визначення оцінок з врахуванням ДЗЗ. В цьому випадку адміністратор тесту приймає рішення стосовно встановлення необхідних порогів результатів для найвищої та найнижчої оцінок у використовуваній шкалі, натомість межі інших оцінок визначаються автоматично. ДЗЗ використовується також у випадку, коли результат екзамену знаходиться у межах непевності, тобто є близьким до порогового значення результату для двох сусідніх оцінок.
В четвертому розділі на основі аналізу базових модулів системи автоматизованого тестування знань розглянуто ряд інформаційних технологій, які використовуються при побудові таких систем. Розроблено архітектуру бази даних інтернет-системи тестування знань та архітектуру функціонування спроектованої системи, яка використовує концепцію зворотного зв'язку. Детально описано елементи модульної архітектури функціонування системи тестування (рис.5), задачі основних блоків та принципи реалізації. Представлено також засади функціонування найважливіших елементів системи і описано схеми дії основних механізмів розробленої системи тестування знань.
Розроблена автоматизована система складається з трьох основних модулів-підсистем: адміністративна, тестування та симуляції. Модуль симуляції дозволяє прогнозувати стратегію проведення тестових екзаменів в майбутньому за умов використання альтернативних методів та алгоритмів. Цей модуль є програмним засобом для дослідження впливу використаних алгоритмів на результати і характеристики тестів. Впроваджуючи концепцію симулятора, зроблено припущення, що в наступних симульованих тестах екзаменований дасть таку ж відповідь, яку було дано на те саме запитання в минулому. Приймається також, що в симульованих для екзаменованого тестах, він отримає лише такі завдання, для яких вже відомі його попередні відповіді, зібрані в банку даних.
В п'ятому розділі представлено програмні реалізації створених систем автоматизованого тестування знань. Описано три системи:
система тестування “E-Tester" - функціонує як інтернет-платформа, яка дає доступ до тестів перевірки знань;
Комп'ютерна система тестування знань на базі електронної пошти - асинхронна модель комунікації, в якій електронна пошта використовується для автоматичної передачі тестових завдань студенту та результатів тестування викладачу або адміністратору;
Інтернет-система тестування “Дипломний екзамен”, яка дозволяє студенту підготуватись і здати завершальний дипломний екзамен в Академії інформатики та управління.
Система тестування “E-Tester" є найпотужнішою з них. Архітектуру цієї системи та основні функціональні схеми представлено в розд.4. Основні складові частини реалізовано, використовуючи розроблені математичні моделі, методи та алгоритми, з врахуванням зворотного зв'язку. Програмна реалізація систем тестування ґрунтується на використанні мови PHP4 і баз даних MySQL з можливістю впровадження іншої бази даних SQL. Значну увагу приділено типам завдань, особливо завданням з доповненнями, які ґрунтуються на довільній кількості текстових полів та списків вибору, завданням мультимедійного типу (схема обслуговування представлена на рис.6) та завданням динамічно генерованого змісту (ДГ). Завдання типу ДГ використовують код програми, який вводиться адміністратором тесту, а їх форма та зміст можуть бути різними для окремих екзаменованих.
Створений модуль симуляції системи E-Tester використано для проведення досліджень впливу значень параметрів на похибку вимірювань і тривалість тесту для методу МБВК. Зокрема, досліджено вплив значень параметрів методу на середню похибку вимірювань та кількість завдань в тесті. На основі цього аналізу адміністратор тесту може підбирати параметри методу, залежно від прийнятого рівня похибки і очікуваної середньої тривалості тесту.
Обґрунтовано доцільність використання розроблених алгоритмів і методів на кожному етапі тестування в залежності від ситуації, в якій проводиться тестування, та пріоритетів екзаменатора чи адміністратора тесту, а в деяких випадках, навіть студента (див. рис.7).
В табл.1 показано різноманітні можливі класи ситуацій тестування. Для кожної ситуації вказано рекомендований варіант тестування, який може здійснюватися з використанням створених автоматизованих систем.
Таблиця 1. Класи ситуацій тестування та рекомендовані методики тестування
Класи ситуацій тестування |
Пропоновані підходи |
|
Екзамен для великої кількості студентів. Необхідна висока точність результатів тестування. |
1) Довгий традиційний тест. 2) Застосування методу “без вибиття з каналу” з більшими значеннями , , , (наприклад, 25, 60,8) та мале значення (3%). 3) У випадку наявності банку даних минулих тестувань і можливості калібрування параметрів можна використати підходи, які базуються на моделях теорії IRT. |
|
Екзамен для малої групи студентів. |
1) Довгий традиційний тест. 2) У випадку наявності каліброваного банку завдань застосування підходів теорії IRT. |
|
Приготування студентів до екзаменів |
Підбір завдань на основі алгоритму АБРТ. |
|
Вступні екзамени, диференціюючі тести |
Застосування алгоритмів, які використовують ДЗЗ: PДЗЗmax, PДЗЗ або PДЗЗваги. |
|
Перевірка з обмеженим часом |
Метод “без вибиття з каналу” з невеликими значеннями , , , (наприклад, 5, 30,3) та значенням (4-5%). |
|
Тести, в яких є вірні, невірні і частково вірні варіанти відповіді |
Оцінювання детальне і оцінка згідно середнього результату для завдання. |
|
Тести, які базуються на завданнях з обчисленнями |
Тести з динамічно генерованими завданнями. |
|
Повторювальні тести при вивченні іноземних мов |
Підбір завдань на основі алгоритму АБРТ. |
|
Тести, які базуються на завданнях багаторазового вибору |
Багатобальне оцінювання на основі зворотного зв'язку. |
Основні результати та висновки
В дисертаційній роботі розв'язано актуальну наукову задачу розробки математичних моделей, методів та ефективних алгоритмів тестування знань з використанням інтернет-технологій та принципу зворотного зв'язку. При цьому отримано такі основні результати:
На основі проведеного порівняльного аналізу моделей, методів та алгоритмів тестування знань, обґрунтовано доцільність використання принципу зворотного зв'язку, який полягає в тому, що характеристики окремих завдань та тесту в цілому формуються на основі статистичних параметрів уже здійснених тестів і мають безпосередній влив на проведення тестувань в майбутньому.
Розроблено математичні моделі та ефективні алгоритми багатобального оцінювання завдань типу вибору, які базуються на статистичних характеристиках наявних в базі даних завдань і дають можливість значно покращити об'єктивність оцінювання без додаткових часових затрат.
Розроблено математичні моделі процесу тестування і оцінювання знань, які базуються на використанні диференціюючої здатності завдань та оригінальних алгоритмів встановлення ймовірності вибору завдань залежно від їх диференціюючої здатності та динамічно встановленої ваги, що значно підвищує ефективність тестування. Шляхом комп'ютерного симулювання досліджено вплив диференціюючої здатності завдань на статистичні характеристики результатів тестування.
Розроблено математичну модель оцінювання знань при багаторазовому тестуванні, яка базується на запропонованих процедурах визначення ймовірності вибору завдань, дає можливість динамічно керувати підбором цих завдань і є ефективною для процесів самонавчання і самоконтролю знань, стимулюючи при цьому вивчення слабо засвоєних тем.
Досліджено залежність похибки результатів тестування від кількості завдань в тесті, обґрунтовано оригінальні методики тестування з динамічно окресленим часом закінчення та розроблено способи використання теорії результату завдання, що дозволяє детальним чином визначити характеристики завдань та тестів в цілому.
Запропоновано, обґрунтовано та реалізовано метод автоматизованого визначення оцінки тесту, використовуючи диференціюючу здатність завдань, в якому частина порогових значень результатів для оцінок визначається екзаменатором, а ті, що залишались, встановлюються автоматично.
Розроблено процедури формування завдань з динамічно генерованим змістом та алгоритми підбору різних типів завдань при формуванні тестового екзамену, що надає широкі можливості щодо збільшення бази завдань і реалізації інтелектуальних адаптивних алгоритмів оцінювання. Вироблено рекомендації щодо використання цих алгоритмів при комп'ютерному тестуванні.
Розроблено архітектуру побудови автоматизованої системи тестування знань, яка базується на використанні інтернет-технологій та елементів зворотного зв'язку і дає можливість адаптовувати процес тестування до поточної ситуації, забезпечує кращу сепарацію рівнів знань екзаменованих та підвищує рівень безпеки тесту.
Програмно реалізовано автоматизовані інтернет-системи тестування знань “E-Tester”, “Дипломний екзамен" та систему на базі електронної пошти, які підвищили ефективність та об'єктивність комп'ютерного тестування знань та ефективність використання мережевої інфраструктури навчального закладу. Представлено класи ситуацій тестування знань і на основі експериментальних досліджень вказано алгоритми і методи, які можуть в них застосовуватись.
Список опублікованих праць за темою дисертації
1. Колуд Р. Технології тестування знань в інтернет-системах // Інформаційні технології і системи. - 2003. - Т.6. - № 1-2. - С.76-81.
2. Колуд Р. Система тестування з допомогою інтернету як модуль віртуального університету // Моделювання та інформаційні технології. - 2002. - Вип.12. - С.148-153.
3. Колуд Р. Використання диференціюючої здатності завдань в системах автоматичного тестування знань // Вісник Технологічного університету Поділля. - № 2. - 2004. - С.50-54.
4. Колуд Р. Багатобальне оцінювання завдань в автоматизованій системі тестування знань зі зворотним зв'язком // Інформаційні технології і системи. - 2004. - Т.7. - № 1. - С.71-76.
5. Колуд Р. Спеціалізована комп'ютерна система тестування знань на основі теорії результатів завдань // Вісник Технологічного університету Поділля. - 2003. - № 3. - Т.1. - С.148-154.
6. Kolud R. Podstawy Internetu”: podrкcznik. - Bielsko-Biaіa: Wyїsza Szkoіa Informatyki i Zarz№dzania, 2002. - 108 s.
7. Kolud R. Internetowe systemy testowania wiedzy / Internet w Spoіeczeсstwie Informacyjnym - Internet w Systemach Zarz№dzania. - Warszawa: WNT, 2004. - S.251-258.
8. Kolud R. Adaptacyjne strategie testowania w komputerowych systemach testowania wiedzy // Zeszyty Naukowe WSIZ. - 2002. - Nr 13. - S.28-35.
9. Kolud R., Furas M. Komputerowy system testowania wiedzy oparty na poczcie elektronicznej // Zeszyty Naukowe WSIZ. - 2001. - Nr 12. S.29-36.
10. Kolud R., Wyka J. Internetowy system kontroli poziomu wiedzy przedegzaminacyjnej // Zeszyty Naukowe WSIZ. - 2001. - Nr 12. - S.51-59.
11. Kolud R. Internetowy system testowania - moduі uniwersytetu wirtualnego // Zeszyty Naukowe Wyїszej Szkoіy Informatyki i Zarz№dzania. - 2001. - Nr 11. - S.61-69.
12. Колуд Р. Математичні моделі в комп'ютерних системах тестування знань зі зворотним зв'язком. - Львів, 2002. - 38 с. (Препр. / Державний НДІ інформаційної інфраструктури; 1/3-2002).
13. Колуд Р. Алгоритми визначення кількості завдань в тесті та результатів комп'ютерного тестування. - Львів, 2003. - 36 с. (Препр. / Державний НДІ інформаційної інфраструктури; 1/4-2003).
14. Колуд Р. Системи автоматизованого тестування знань на основі інтернет-технологій. - Львів, 2004. - 34 с. (Препр. / Державний НДІ інформаційної інфраструктури; 2/5-2004).
15. Kolud R. Internetowa platforma konstrukcji i udostкpniania testуw wiedzy - E-Tester. - Bielsko-Biaіa: Wyїsza Szkoіa Informatyki i Zarz№dzania, 2003. - 60 s.
16. Kolud R. Internetowa witryna edukacyjna Wyїszej Szkoіy Informatyki i Zarz№dzania. - Bielsko-Biaіa: Wyїsza Szkoіa Informatyki i Zarz№dzania, 2003. - 42 s.
17. Kolud R. Internetowy System Testowania - Egzamin Dyplomowy. - Bielsko-Biaіa: Wyїsza Szkoіa Informatyki i Zarz№dzania, 2001. - 22 s.
18. Kolud R. Knowledge testing strategies based on internet systems / Proc. of the Intern. Conf. on Inductive Modeling “ICIM-2002”. - V.3. - Lviv, 2002. - P.233-239.
19. Kolud R. Zastosowanie mocy rуїnicuj№cej w algorytmach doboru zadaс w systemie testowania wiedzy / Polish-Ukrainian Workshop on „Mathematical Modelling and Artificial Inteligence”. - Lviv, 2003. - Р.102-111.
20. Kolud R. Strategie testowania wiedzy z wykorzystaniem systemуw internetowych w edukacji na odlegіoњж / Polish-Ukrainian Workshop on „Mathematical Modelling and Artificial Inteligence”. - Lviv, 2002. - Р.34-47.
21. Kolud R. Internetowy system egzaminu testowego / Polish-Ukrainian Workshop on „Mathematical Modelling and Artificial Inteligence”. - Lviv, 2001. - Р.22-40.
22. Kolud R.edukacja na odlegіoњж i wykorzystanie technologii internetowych / Materiaіy seminarium „Edukacyjne Systemy Internetowe" - II Beskidzki Festiwal Nauki i Sztuki. - Bielsko-Biaіa, 2001. - S.53-60.
Анотації
Колуд Р. Математичні моделі та алгоритми тестування знань з використанням зворотного зв'язку та Інтернет-технологій. - Рукопис.
Дисертація на здобуття наукового ступеня кандидата технічних наук за спеціальністю 01.05.02 - математичне моделювання та обчислювальні методи, Державний науково-дослідний інститут інформаційної інфраструктури, Львів, 2004.
Дисертацію присвячено розробці математичних моделей, методів та алгоритмів тестування знань і створення на цій основі автоматизованої системи тестування з використанням Інтернет-технологій та концепції зворотного зв'язку. Розроблено математичні моделі процесу тестування і оцінювання знань, які базуються на використанні диференціюючої здатності завдань та оригінальних алгоритмів встановлення ймовірності вибору завдань залежно від їх диференціюючої здатності та динамічно встановленої ваги, що дає можливість значно підвищити ефективність тестування. Розроблено математичні моделі та ефективні алгоритми встановлення оцінок, які базуються на статистичних характеристиках наявних в базі даних завдань і дають можливість значно покращити об'єктивність оцінювання без додаткових часових затрат. Досліджено залежність похибки результатів тестування від кількості завдань в тесті та обгрунтовано оригінальні методики тестування з динамічно окресленим часом закінчення. Розроблено архітектуру автоматизованої системи тестування знань, яка базується на використанні інтернет-технологій та елементів зворотного зв'язку і дає можливість адаптовувати процес тестування до поточної ситуації.
Ключові слова: автоматизована система тестування знань, математичне моделювання, алгоритм, Інтернет-технологія, зворотний зв'язок, диференціююча здатність завдання.
Колуд Р. Математические модели и алгоритмы тестирования знаний с использованием обратной связи и Интернет-технологий. - Рукопись.
Диссертация на соискание учёной степени кандидата технических наук по специальности 01.05.02 - математическое моделирование и вычислительные методы, Государственный научно-исследовательский институт информационной инфраструктуры, Львов, 2004.
Диссертация посвящена разработке математических моделей, методов и алгоритмов тестирования знаний и созданию на этой основе автоматизированной системы тестирования с использованием Интернет-технологий и концепции обратной связи.
На основе проведенного сравнительного анализа моделей, методов и алгоритмов тестирования знаний, обоснована целесообразность использования принципа обратной связи, которая состоит в том, что характеристики отдельных заданий и теста в целом формируются на основе статистических параметров уже осуществленных тестов и имеют непосредственное влияние на проведение тестирований в будущем.
Разработаны математические модели и эффективные алгоритмы многобального оценивания заданий типа выбора, которые базируются на статистических характеристиках имеющихся в базе данных заданий и дают возможность значительно улучшить объективность оценивания без дополнительных временных затрат.
Разработаны математические модели процесса тестирования и оценивания знаний, которые базируются на использовании дифференцирующей способности заданий и оригинальных алгоритмов установления вероятности выбора заданий в зависимости от их дифференцирующей способности и динамично установленного веса, которые значительно повышают эффективность тестирования. Путем компьютерного симулирования исследовано влияние дифференцирующей способности заданий на статистические характеристики результатов тестирования.
Разработана математическая модель оценивания знаний при многоразовом тестировании, которая базируется на предложенных процедурах определения вероятности выбора заданий, дает возможность динамически управлять подбором этих заданий и является эффективной для процессов самообучения и самоконтроля знаний, стимулируя при этом изучение слабо усвоенных тем.
Исследована зависимость погрешности результатов тестирования от количества заданий в тесте и обоснованы оригинальные методики тестирования с динамически устанавливаемым временем окончания, которые базируются на теории результатов задания, позволяют детально определить характеристики заданий, тестов в целом и результатов тестирования.
Предложен, обоснован и реализован метод автоматизированного определения оценки теста, используя дифференцирующую способность заданий, в котором часть пороговых значений результатов для оценок определяется экзаменатором, а оставшиеся устанавливаются автоматически.
Разработаны процедуры формирования заданий с динамически генерируемым содержанием и алгоритмы подбора разных типов заданий при формировании тестового экзамена, которые предоставляют широкие возможности по увеличению базы заданий и реализации интеллектуальных адаптивных алгоритмов оценивания. Выработаны рекомендации относительно использования этих алгоритмов при компьютерном тестировании.
Разработана архитектура построения автоматизированной системы тестирования знаний, которая базируется на использовании интернет-технологий и элементов обратной связи и дает возможность адаптировать процесс тестирования к текущей ситуации, обеспечивает лучшую сепарацию уровней знаний экзаменованных и повышает уровень безопасности теста.
Программно реализованы автоматизированные интернет-системы тестирования знаний “E-Tester”, “Дипломный экзамен" и систему на базе электронной почты, которые повысили эффективность и объективность компьютерного тестирования знаний и эффективность использования сетевой инфраструктуры учебного заведения. Представлены классы ситуаций тестирования знаний и на основе экспериментальных исследований указаны алгоритмы и методы, которые могут применяться.
Ключевые слова: автоматизированная система тестирования знаний, математическое моделирование, алгоритм, Интернет-технология, обратная связь, дифференцирующая способность задания.
Kolud R. Mathematical models and algorithms of educational assessment with the use of feedback concept and Internet technologies. - Manuscript.
Thesis for a candidate's degree by specialty 01.05.02 - mathematical modelling and numerical methods, State Institute of Informational Infrastructure, Lviv, 2004.
The dissertation highlights the problem of the mathematical models, methods and algorithms of knowledge testing in computerized assessment. Computer-based assessment systems with the implementation of Internet web technologies and feedback elements were created on the above basis. The mathematical models of computerized testing and grading processes were formed. The models are based on the use of item discrimination indexes and original item selection algorithms. The probability of item selection and item weight are calculated according to the value of item discrimination. Such an approach gives the opportunity for raising the assessment effectiveness. The mathematical model and effective scoring algorithms use past test statistics results were created. They ensure the assessment objectivity without devoting additional period of time. The relationship analysis between the number of items in the test and assessment error was carried out. A testing method with adaptive determination of the test finishing moment was formulated. The architecture and the project of computerized assessment system were created. They are based on the use of Internet technologies and feedback elements. It all enables the testing process adaptation to the particular situation type.
Key words: automatic assessment systems, mathematical modelling, algorithm, Internet technologies, feedback.
Размещено на Allbest.ru
...Подобные документы
Особливості та переваги проведення тестувань в мережі інтернет з метою дистанційного навчання чи оцінювання знань. Створення web-сайту з розширеними можливостями та системи дистанційного тестування. Реляційна схема бази даних конструктора тестів.
дипломная работа [2,1 M], добавлен 25.11.2012Дослідження теоретичних аспектів проектування автоматизованих систем тестування знань. Розробка програми, яка призначена для забезпечення автоматизації процесу формування тестів та всього процесу контролю знань у дистанційній навчальній системі.
дипломная работа [2,1 M], добавлен 26.10.2012Педагогічні умови успішної організації контролю знань учнів професійно-технічних навчальних закладів. Розробка плану-конспекту підсумкового заняття з дисципліни "Основи інформатики" з теми: "Microsoft Office Word". Формування культури тестування школярів.
курсовая работа [833,3 K], добавлен 20.06.2011Основні способи тестування роботи паралельної системи. Функціональне тестування та тестування загальної швидкості. Способи організації та налаштування кластера. Програма для створення віртуальних операційних систем шляхом виділення ресурсів комп'ютера.
лабораторная работа [3,4 M], добавлен 02.06.2011Розробка системи, що виконує функцію автоматизації процесу пропускного пункту підприємства з використанням мов програмування PHP, JavaScript і MySql. Практичні аспекти проектування ГІС із використанням WEB-технологій і баз даних, тестування програми.
дипломная работа [1,5 M], добавлен 25.10.2012Аналіз технологій розробки систем моніторингу і управління та різноманітності мов програмування. Створення проекту структури Інтернет-магазину, розробка бази даних, UML-діаграми та алгоритму виконання функцій додатку. Результати тестування програми.
дипломная работа [1,6 M], добавлен 08.06.2015Аналіз програмного забезпечення для проведення тестування в комп’ютерному класі. УТК (Універсальний тестовий комплекс). Асистент 2. OPEN TEST. Порівняння програм для тестування. Організація інтерактивного тестування за допомогою програми OPEN TEST.
реферат [30,3 K], добавлен 19.09.2008Аналіз сучасних методів тестування та практичних особливостей проведення тестового контролю. Основи побудови інформаційно-математичної моделі. Алгоритм запису інформації в таблицю бази даних. Характеристика та шляхи розробки інтерфейсу редактора тестів.
курсовая работа [1,7 M], добавлен 08.10.2010Теоретичне дослідження особливостей проектування систем дистанційного навчання. Створення програмного забезпечення процедури статистичної обробки результатів тестування знань і оцінки якості тесту. Економічне обґрунтування доцільності розробки програми.
дипломная работа [3,6 M], добавлен 22.10.2012Аналіз інформаційних систем, етапів обробки інформації, Web-програмування. Огляд засобів ідентифікації користувача в САТДН. Розробка інформаційної і адміністративної підсистем для системи автоматизованого тестування для дистанційного навчання (САТДН).
дипломная работа [10,3 M], добавлен 21.04.2014Розробка програми, яка б дозволяла протестувати знання з дисципліни "Програмування на мові С", виставити оцінку. Опис та обґрунтування методу організації вхідних та вихідних даних, вибору складу технічних та програмних засобів. Проведення лістингу.
курсовая работа [11,0 K], добавлен 08.08.2009Багатоплановість проблеми тестування, види тестів, схема взаємодії тестуючого з тестувальником. Огляд і можливості деяких сучасних програмних засобів для створення тестів. Технологія створення тестів на прикладі програмного забезпечення MyTestX.
дипломная работа [1,8 M], добавлен 15.06.2014Проблеми процесу тестування програмного забезпечення. Розробка алгоритму автоматичної генерації тестів і тестового набору для ручного виконання. Побудова тестів для системи "Банкомат" і для баг-трекінгової системи, представленої графом із циклами.
дипломная работа [1,2 M], добавлен 26.02.2014Види віртуальних тестових машин, їх ключові можливості, сумісність c операційними системами. Процес установки гостьових ОС BackTrack і FreeBSD. Встановлення серверного програмного забезпечення. Тестування веб-сервера і засобів віддаленого управління.
дипломная работа [3,5 M], добавлен 22.07.2015Тестування програмного забезпечення як процес його дослідження для отримання інформації про якість. Автоматизація тестування програми Join It - Jigsaw Puzzle. Методика тестування, структура пакету та його модулів. Вимоги до програмного забезпечення.
дипломная работа [2,4 M], добавлен 24.07.2013Класифікація експертних систем. Представлення знань, переваги та слабкі місця. База знань як елемент експертної системи. Сфера застосувань та перспективи розвитку. Створення експертної системи для оцінки ступеня підготовленості студента до іспиту.
курсовая работа [1,4 M], добавлен 04.02.2014Поняття профорієнтації та профвідбору. Здібності та особистісні якості фахівця, що забезпечують успішність виконання професійної діяльності. Розробка методики професійного відбору учнів на спеціальності в галузі комп’ютерних технологій у формі тестування.
курсовая работа [1,7 M], добавлен 28.01.2015Аналіз структури і функцій автоматизованої системи управління процесу реалізації товарів музичного магазину, визначення техніко-економічних показників. Вимоги до змісту документу з програмного забезпечення модуля тестування програмних продуктів.
контрольная работа [327,2 K], добавлен 16.01.2014Призначення програми BurnInTest та її функціональні можливості. Конфігурація тестового стенду. Тестування жорсткого диску комп’ютера з використанням програми HD TunePro. Рекомендації по підвищенню продуктивності та оптимізації комп’ютера, що тестується.
курсовая работа [4,8 M], добавлен 27.02.2013Структура освіти і функції її органів. Сутність, передумови та переваги розвитку дистанційного навчання. Системи комп’ютерного тестування, що використовуються в навчальному процесі: MyTestX, Testing, TestMaker, EasyQuizzy, Айрен. Процес створення тестів.
курсовая работа [2,9 M], добавлен 03.02.2014