untitled

Similar documents
Lumbar spine



hwp

歯1.PDF

Analysis of objective and error source of ski technical championship Jin Su Seok 1, Seoung ki Kang 1 *, Jae Hyung Lee 1, & Won Il Son 2 1 yong in Univ

Journal of Educational Innovation Research 2017, Vol. 27, No. 3, pp DOI: (NCS) Method of Con

서론 34 2

04_이근원_21~27.hwp

Journal of Educational Innovation Research 2017, Vol. 27, No. 2, pp DOI: : Researc

012임수진

Abstract Background : Most hospitalized children will experience physical pain as well as psychological distress. Painful procedure can increase anxie

Journal of Educational Innovation Research 2017, Vol. 27, No. 2, pp DOI: * Review of Research


Rheu-suppl hwp

Journal of Educational Innovation Research 2018, Vol. 28, No. 1, pp DOI: A study on Characte

Journal of Educational Innovation Research 2016, Vol. 26, No. 2, pp DOI: * The Mediating Eff


Journal of Educational Innovation Research 2019, Vol. 29, No. 1, pp DOI: (LiD) - - * Way to

???? 1

03-ÀÌÁ¦Çö

DBPIA-NURIMEDIA

γ


ISO17025.PDF

., (, 2000;, 1993;,,, 1994), () 65, 4 51, (,, ). 33, 4 30, 23 3 (, ) () () 25, (),,,, (,,, 2015b). 1 5,

Journal of Educational Innovation Research 2019, Vol. 29, No. 2, pp DOI: 3 * Effects of 9th

16(1)-3(국문)(p.40-45).fm

1

DBPIA-NURIMEDIA

(

Journal of Educational Innovation Research 2018, Vol. 28, No. 2, pp DOI: IPA * Analysis of Perc

DBPIA-NURIMEDIA

석사논문.PDF

Journal of Educational Innovation Research 2018, Vol. 28, No. 1, pp DOI: : A Study on the Ac

878 Yu Kim, Dongjae Kim 지막 용량수준까지도 멈춤 규칙이 만족되지 않아 시행이 종료되지 않는 경우에는 MTD의 추정이 불가 능하다는 단점이 있다. 최근 이 SM방법의 단점을 보완하기 위해 O Quigley 등 (1990)이 제안한 CRM(Continu

Journal of Educational Innovation Research 2019, Vol. 29, No. 1, pp DOI: : * Research Subject

Journal of Educational Innovation Research 2019, Vol. 29, No. 2, pp DOI: * The Effect of Paren

975_983 특집-한규철, 정원호

Journal of Educational Innovation Research 2018, Vol. 28, No. 1, pp DOI: * A Analysis of

Analyses the Contents of Points per a Game and the Difference among Weight Categories after the Revision of Greco-Roman Style Wrestling Rules Han-bong

Kor. J. Aesthet. Cosmetol., 및 자아존중감과 스트레스와도 밀접한 관계가 있고, 만족 정도 에 따라 전반적인 생활에도 영향을 미치므로 신체는 갈수록 개 인적, 사회적 차원에서 중요해지고 있다(안희진, 2010). 따라서 외모만족도는 개인의 신체는 타

Journal of Educational Innovation Research 2016, Vol. 26, No. 3, pp DOI: Awareness, Supports

Journal of Educational Innovation Research 2017, Vol. 27, No. 4, pp DOI: * A Study on Teache

DBPIA-NURIMEDIA

DBPIA-NURIMEDIA

Journal of Educational Innovation Research 2018, Vol. 28, No. 4, pp DOI: * A Research Trend


141(26) () ( ( ) () () () ) 2) 1932 ()()3) 2 1) ( ) ( ) () () () 4) ( ) 5) 6) ) ) ( ) () 42 () )

THE JOURNAL OF KOREAN INSTITUTE OF ELECTROMAGNETIC ENGINEERING AND SCIENCE. vol. 29, no. 10, Oct ,,. 0.5 %.., cm mm FR4 (ε r =4.4)

27 2, * ** 3, 3,. B ,.,,,. 3,.,,,,..,. :,, : 2009/09/03 : 2009/09/21 : 2009/09/30 * ICAD (Institute for Children Ability

정보기술응용학회 발표

Journal of Educational Innovation Research 2019, Vol. 29, No. 1, pp DOI: * Suggestions of Ways

한국성인에서초기황반변성질환과 연관된위험요인연구

04김호걸(39~50)ok

54 한국교육문제연구제 27 권 2 호, I. 1.,,,,,,, (, 1998). 14.2% 16.2% (, ), OECD (, ) % (, )., 2, 3. 3

.,,,,,,.,,,,.,,,,,, (, 2011)..,,, (, 2009)., (, 2000;, 1993;,,, 1994;, 1995), () 65, 4 51, (,, ). 33, 4 30, (, 201

A 617

03신경숙내지작업

<31335FB1C7B0E6C7CABFDC2E687770>

27 2, 1-16, * **,,,,. KS,,,., PC,.,,.,,. :,,, : 2009/08/12 : 2009/09/03 : 2009/09/30 * ** ( :

Journal of Educational Innovation Research 2018, Vol. 28, No. 4, pp DOI: * A S

<35BFCFBCBA2E687770>


<C7D1B1B9B1B3C0B0B0B3B9DFBFF85FC7D1B1B9B1B3C0B05F3430B1C733C8A35FC5EBC7D5BABB28C3D6C1BE292DC7A5C1F6C6F7C7D42E687770>

DBPIA-NURIMEDIA

Journal of Educational Innovation Research 2016, Vol. 26, No. 2, pp DOI: * Experiences of Af

00내지1번2번

139~144 ¿À°ø¾àħ

45-51 ¹Ú¼ø¸¸

상담학연구,, SPSS 21.0., t,.,,,..,.,.. (Corresponding Author): / / / Tel: /

09권오설_ok.hwp

14.531~539(08-037).fm

:,,.,. 456, 253 ( 89, 164 ), 203 ( 44, 159 ). Cronbach α= ,.,,..,,,.,. :,, ( )

Journal of Educational Innovation Research 2016, Vol. 26, No. 3, pp.1-16 DOI: * A Study on Good School

. 45 1,258 ( 601, 657; 1,111, 147). Cronbach α=.67.95, 95.1%, Kappa.95.,,,,,,.,...,.,,,,.,,,,,.. :,, ( )

IKC43_06.hwp

<31325FB1E8B0E6BCBA2E687770>

02이용배(239~253)ok

DBPIA-NURIMEDIA

Journal of Educational Innovation Research 2016, Vol. 26, No. 3, pp DOI: * The Grounds and Cons

Journal of Educational Innovation Research 2018, Vol. 28, No. 4, pp DOI: 3 * The Effect of H

untitled

,,,.,,,, (, 2013).,.,, (,, 2011). (, 2007;, 2008), (, 2005;,, 2007).,, (,, 2010;, 2010), (2012),,,.. (, 2011:,, 2012). (2007) 26%., (,,, 2011;, 2006;

04-다시_고속철도61~80p

No Title

untitled

Journal of Educational Innovation Research 2016, Vol. 26, No. 3, pp DOI: * Meta Analysis : T

달생산이 초산모 분만시간에 미치는 영향 Ⅰ. 서 론 Ⅱ. 연구대상 및 방법 達 은 23) 의 丹 溪 에 최초로 기 재된 처방으로, 에 복용하면 한 다하여 난산의 예방과 및, 등에 널리 활용되어 왔다. 達 은 이 毒 하고 는 甘 苦 하여 氣, 氣 寬,, 結 의 효능이 있

자기공명영상장치(MRI) 자장세기에 따른 MRI 품질관리 영상검사의 개별항목점수 실태조사 A B Fig. 1. High-contrast spatial resolution in phantom test. A. Slice 1 with three sets of hole arr


untitled

WHO 의새로운국제장애분류 (ICF) 에대한이해와기능적장애개념의필요성 ( 황수경 ) ꌙ 127 노동정책연구 제 4 권제 2 호 pp.127~148 c 한국노동연구원 WHO 의새로운국제장애분류 (ICF) 에대한이해와기능적장애개념의필요성황수경 *, (disabi

09구자용(489~500)

03-서연옥.hwp

Journal of Educational Innovation Research 2017, Vol. 27, No. 1, pp DOI: * The

1..

DBPIA-NURIMEDIA

Journal of Educational Innovation Research 2018, Vol. 28, No. 1, pp DOI: * A Study on the Pe

03이경미(237~248)ok

Transcription:

원저 조인숙 인하대학교의과대학간호학과 Assessing the Quality of Structured Data Entry for the Secondary Use of Electronic Medical Records InSook Cho Dept. of Nursing, School of Medicine, Inha Univ. Abstract Objective: The raw material of quality improvement is information, whose building block is data. Data in an electronic medical record system have many secondary uses beyond their primary role in patient care, including research and organizational management. This study investigates the data quality of clinical observations recorded using a structured data entry format and assesses the impact of erroneous data. Methods: A total of 4,580,846 input events from 3,348 inpatients, gathered over a three year period in a teaching hospital, were analyzed by using a 2-by-2 conceptual matrix framework for the appropriateness of data types and semantics. The data were classified into three categories: fully usable, partially usable, and not usable. Results: The fully usable data constituted 88.6% of the correctly entered data the remaining 11.4% were erroneous. Among the erroneous data, 0.8% were partially usable (n=3,929), and the remaining 99.2% (n= 510,437) were identified as needing further assessment to improve their quality. Conclusion: Clinical information systems have increasingly used structured data entry or record templates, but the low quality of collected data has severely limited their secondary use potential. (Journal of Korean Society of Medical Informatics 15-4, 423-431, 2009) Key words: Computerized Medical Records, Data Quality, Structured Data Entry, Secondary Use of Data Received for review: May 10, 2009; Accepted for publication: December 21, 2009 Corresponding Author: InSook Cho, Department of Nursing, School of Medicine, Inha University, 253, Yonghyeon-dong, Nam-gu, Incheon 402-751, Korea Tel: +82-32-860-8201, Fax: +82-32-874-5880, E-mail: insook.cho@inha.ac.kr * This work was supported by the Korea Science and Engineering Foundation (KOSEF) grant funded by the Korea government (MOST) (No. 2008-0053032) DOI:10.4258/jksmi.2009.15.4.423 423

I. 서론 전자의무기록데이터는직접적인환자진료와간호에사용될뿐만아니라임상연구, 병원관리, 의료서비스질관리, 청구, 위험관리, 보고서작성등에사용된다. 그래서이러한데이터의정확성은중요한문제이다. 부정확하거나불완전한데이터는환자안전을위협하고잘못된경고발생을초래할수있기때문에그동안종이기록, 질병등록, 임상시험데이터베이스의데이터질과정확성에대해많은연구가이루어져왔다 1)2). 그러나종이기반의무기록에서전자의무기록으로의변화이후, 전자의무기록이데이터입력에서어떻게다른지그리고데이터활용과질 (quality) 에는어떠한영향을주었는지에대해서는알려진것이많지않다 3). Brown (2004) 뿐만아니라컴퓨터기반환자기록 (computer-based patient records) 의정확성에대한연구를메타분석한 Hogan & Wagner (1997) 도기록의정확성이라는중요성에비해관련연구가많이부족하다고지적했다. 전자의무기록시스템으로바로전송할수있는검사결과나 ECG 그래프, 영상데이터등을제외한대부분의임상데이터는텍스트형태, 코드화된형태, 또는이둘이조합된형태로전자의무기록에저장된다 4). 저장형태는입력시사용되는템플릿화면, OCR ( 광학식문자판독장치 ), 음성인식, 문자인식등저장되는데이터입력방법과는별개이다. 입력화면이구조화된템플릿이라하더라도저장되는데이터는텍스트형태인경우가많으며, 반대로입력화면이구조화되지않았어도코드화된표준통제용어를이용한다면저장된데이터는다양한목적과용도에따라요약, 분류가가능해진다. 텍스트로저장된데이터는입력이상대적으로빠르고표현이자유롭다는장점이있으나컴퓨터가이해할수없기때문에데이터활용측면에서는상당히취약하다. 그에비해코드화된형태로저장된데이터는컴퓨터가이해할수있기때문에지능적인데이터처리가용이하다는장점이있으나, 코딩시간이추가로필요하고코딩에러가발생했을때에러를찾아내기어렵다는단점이있다. 국내전자의무기록에서는코드화가일부적용되고있으나코드화와무관하게 템플릿을이용한구조화된입력이전자의무기록의많은부분을차지하고있다. 물론구조화된입력이표준화나코드화를자동적으로지원하는것은아니지만, 데이터입력의완전성을높이는데는기여한다는보고가있다 5). 데이터질에대한기존연구를살펴보면크게전향적코호트, 후향적코호트, 횡단적조사연구, 중재연구로분류할수있고, 데이터질은정확성 (accuracy, correctness), 완전성 (completeness), 적절성 (appropriateness), 일관성 (consistency) 등의용어로평가되어왔다 1)6). 과거종이기록에서는동일한임상이벤트에대해의료진이기록한내용을그기록과독립적으로평가한직접관찰또는인터뷰결과와비교하여정확성을측정했으며이방법이가장견고한것으로여겨져왔다. 예를들면, Dresselhoaus 등 7) 의연구에서와같이의무기록내용을환자의자가보고내용과전향적으로비교하여정확성을평가하는것이다. 이후전자의무기록에서는해당데이터가전자의무기록시스템에입력되었는가를완전성으로평가했다. 예를들어 Shin 등 8) 은입원시점에서작성된기록지의기재율과의료진간의내용일치도를측정하여수기기록과전자기록을비교하였다. 정확성은연구자가특정기준을선정하고, 그기준과비교하여일치하는데이터비율을평가하는것으로 Vawdrey 등 9) 의연구에서와같이의료진이입력한중환자실인공호흡기입력값을장비인터페이스로부터자동으로입력되는값과비교하여일치율을비교하는것이다. 그러나기록의질연구에서중요한것은연구목적과연구대상데이터의특성, 그리고연구환경에서가용한자원에따라연구방법을다르게적용해야한다는것이다 1). 예를들면, 진단명통계나의료보험청구적합성을목적으로진단명의정확성을측정한다면국제질병분류체계와같은특정분류체계를기준으로비교할수있다. 하지만의료진의판단이나해석을통해입력되는임상관찰데이터의경우정확성에대한객관적인참조기준을설정하는것이사실상불가능하다. 그래서데이터의정확성문제를후향적으로보고한연구는흔하지않다. 데이터의이차활용 (secondary use) 이란환자로부터수집된데이터를분석하여, 연구, 질 / 안전지표, 공공보건, 의료급여, 교육, 의료기관인증, 마케팅이나다 424

른비즈니스목적등으로활용하는것으로직접환자진료에사용하는일차활용 (primary use) 과구분되는개념이다 10). 이러한이차활용은대량의데이터처리와요약과정이필수적이기때문에입력된데이터포맷과의미적유용성이데이터질의중요한요소가된다. 전자의무기록이나전자건강기록으로부터축적된대량의전산화된데이터는이차활용을통해의료현장에대한정보를제공하고, 의료진의의사결정을지원하며, 환자결과와제공된서비스에대한모니터, 임상연구, 의료정책수립, 공공보건감시등에유용하게활용될수있는커다란잠재력을갖고있다. 따라서개별환자중심으로구성된전자의무기록의데이터를집단중심으로재구성하고변환하는작업이필요하며이는데이터웨어하우스나데이터마이닝의분석계데이터준비과정 (data preparation) 과동일하다 11)12). 국내외전자의무기록의확산과함께데이터활용이점차중요해지고있다. 그러나이차활용이라는관점에서전자의무기록의데이터질을평가한연구는거의없었다. 이에본연구는전자의무기록의구조화된입력을통해저장되는데이터를대상으로입력된데이터가얼마나의미있게재활용될수있는지를이차활용관점에서탐색해보고자하였다. 이를위해대량의데이터처리와요약과정에필수적인데이터형태 (type) 의적합성과단일데이터로서의의미전달유무, 즉데이터값의의미성 (semantics) 에초점을두었다. 이러한탐색은다양한목적으로이루어지는전자의무기록데이터의이차활용시데이터를이해하는데도움을줄뿐만아니라입력되는데이터의질개선을위한시스템과사용자측면의개선방안을도출하는데도도움을줄것이다. II. 재료및방법 1. 설계및대상환경 본연구는 2003년부터전자의무기록시스템을운영해오고있는경기도일개대학병원에서사용하는전사적전자의무기록을대상으로한후향적조사연구이다. 해당병원의전자의무기록시스템은템플릿형 태의사용자인터페이스로구성되어있으며, 표준용어로 SNOMED-CT (Systematized Nomenclature of Medicine-Clinical Terms, 개발당시 20020131 release 버전 ) 와국제간호실무분류체계 (international classification for nursing practice, ICNP) 베타버전을사용하고있었다. 표준용어는주호소, 진단명등일부데이터와 간호일지 에사용하는로컬표준간호진술문에매핑하여사용하고있었다. 본연구는중환자실에서사용하는 중환자실간호기록 이라는플로우시트형태의구조화된템플릿을통해입력되는데이터를대상으로하였다. 중환자실간호기록 템플릿은혈역학상태, 의식및신경계, 호흡기, 섭취량및배설량, 간호사정이라는 5개의데이터섹션으로구성되어있으며, 각섹션은고정된데이터항목을갖는다. 간호사정섹션을제외한 4개의섹션에는고정항목에가변항목을더추가하거나삭제할수있는기능이있다. 이는환자에따라사용자가필요한항목을선택적으로사용할수있도록만들어진기능이다. 예를들면, 수술환자의경우수술후각종배액관을가변항목추가기능을이용하여섭취량및배설량섹션에추가할수있다. 이들데이터항목은숫자형태의정수또는실수값을직접입력하거나로마숫자나문자, 자유진술문을자유롭게입력할수있도록되어있다. 일부항목은드롭다운메뉴를제공하여가능한값을통제용어 (controlled term) 목록으로제공하고있지만자유입력도허용하는부분이많아입력이정형화되었다고보기는어려운상황이었다. 2. 대상자선정중환자실간호기록은다른간호단위에비해구조화된데이터항목을많이갖고있다. 특히외과계중환자실은수술환자가많아다른중환자실에비해기록할데이터항목이상대적으로많은것이특징이다. 그에따라본연구에서는외과계중환자실을대상범위로선정하였으며, 대상환자는 2004년 1월부터 2006 년 12월까지 3년동안외과계중환자실에입실했던환자 3,348명이었다. 425

3. 데이터수집및분석본연구의수집대상데이터는중환자실간호기록템플릿의구조화된전체데이터항목에서편의에의해선정한 30개항목이었다. 이 30개데이터항목은중환자실욕창발생예측모델구축을위해선택된데이터로서욕창발생과관련된문헌고찰을통해추출한개념을전자의무기록의간호실무데이터항목으로구체화하고임상적의미매핑을통해선정한것이었다. 이러한선정과정과항목에대한상세설명은관련연구 13) 에서자세히다루어져있으므로여기에서는생략하고자한다. 선정된 30개데이터항목은시간에따라반복측정된 3,348명환자의전자의무기록일부로서임상데이터저장소로부터구조화된질의를통해수집하였다. 선정된데이터항목은 Table 1과같다. 이들항목중 입원경로, 유치도뇨여부, 피부상태, 식이유형, 억제대유무, 영양상태컨설트유무, 투약 등의 11개항목은있음 / 없음, intact/not intact 또는식이목록등의통제용어만을허용하는데이터입력을지원하고있어최종분석에서제외하였다. 인공호흡기모드, 의식수준, 간호사정의 7개항목은통제용어를제시해주고있으나동시에자유입력도허용하고있었으며, 나머지 12개항목은통제용어없이숫자나문자를자유롭게입력받는자유입력형태였다. 최종분석에사용된데이터는항목에따라 27,056-889,000개의입력값을가지고있었으며, 분석에최종활용된데이터건수는 4,580,846개였다. 본연구에서측정하고자하는데이터형태 (type) 의적합성은데이터항목별로기대되는값의유형으로 해당병원의 중환자실간호기록작성지침서 와 전자간호기록사용자매뉴얼 에명시된내용을기준으로하였다. 예를들어, 의식상태 (GCS) 의경우글라스고우혼수척도 (Glasgow coma scale) 에따라눈을뜨는행위, 언어반응, 운동반응을사정하여점수로기록하며, 치료적진정상태일경우는 s, 위장관튜브나기도관삽입시는 E, t 로표시한다. 따라서 4/E/5 또는 3/4/4 와같은형태로입력하도록되어있다. 또혈압이나체온의경우는 압력과섭씨단위로측정하여기록하며단위는생략한다 는기준에따라실수범위를갖는숫자형태를기준으로하였다. 데이터값의의미성은단일데이터조각으로서사용자들간의의미전달여부로정의하였다. 예를들어 GCS 항목에 5/4/4 라는값은기민한환자의의식상태를의미한다. 그러나동일한항목에 / 라는값은어떤의미도전달하지못한다. 또한혈청알부민수치가 0.5인경우는형식상데이터처리에문제는없으나의미적으로이상값에해당한다. 즉혈청샘플에문제가있어제대로결과값이나오지않았거나잘못입력된값으로임상적의미를부여하기힘든자료이다. 이처럼숫자형태의변수에서는가능한값의범위를설정했는데, 임상검사의경우 2002년한국건강관리협회임상검사참고치표준화에관한연구 14) 와임상화학실험 15) 에서사용하는 Tonks 허용한계 (%) 를이용하여산출하였다. 그외임상관찰의경우는중환자간호교과서 16) 를근거로하되해당중환자실수간호사와본연구에참여한 5년경력이상의실무간호사 2명의검토를거쳐판단기준을설정하였다. 이상에서정의한데이터형태적적합성과값의의미성을기준으로본연구에서는 Table 2와같은개념 Table 1. Target data items collected from electronic nursing records in the surgical intensive care unit Item category in the EMR Name of item Number of item Admission Admission route* 1 Vital sign & Measurement Blood pressure, heart rate, body temperature, pulse rate, height, weight, ventilation mode 7 Input & Output Self voiding, catheterization, defecation, stomy, drain 5 Neurology Consciousness level (GCS), motor power 2 Nursing assessment Peripheral circulation (S.M.C)*, edema, skin condition*, patient severity classification 4 Nursing intervention Position change, type of diet*, restraint*, nutritional consult* 4 Laboratory test Hemoglobin, serum albumin 2 Medication Sedatives*, anticoagulants*, analgesics*, inotropics*, TPN (total parenteral nutrition)* 5 Total 30 * Indicates the data item that is excluded in the final analysis due to the exclusion criteria. GCS: glosgow coma scale, S.M.C: sensory, motor, circulation 426

적분석틀을정의하였다. 이분석틀에서 Fully usable 에해당하는부분은해당데이터유형도적합하고의미전달에문제가없는부분으로이차활용에서자동화된데이터처리가가능한부분이다. Partially usable 영역은데이터유형은적합하지않아도사람의해석이가능한부분으로데이터처리를위해서는사람의추가적인해석과코딩작업이필요한부분에해당한다. 그러나 Not usable 영역은데이터유형적합성에상관없이의미전달에문제가있는부분으로단일데이터만으로는사람이해석할수없는부분에해당한다. Table 2의분류스키마에따른판단은 Figure 1과같은과정을통해이루어졌다. 우선중환자실간호경력이있는연구원 2명이 19개항목의데이터적절성과의미성을각각독립적으로검토하였다. 이과정에서추출된사례는데이터범주별로목록화하도록하였다. 본연구자는이들의검토결과를받아비교해본후불일치결과가있는부분과의미가모호하여판단이보류된부분을추출하여해당의료기관실무자 2 Table 2. Conceptual framework for evaluation of quality of nursing data Data type Semantics Appropriate Inappropriate Meaningful Fully usable Partially usable Meaningless Not usable 명에게분류판정을의뢰하였다. 이들은데이터가수집된간호부서에근무하는실무경력 5년이상의간호사로서데이터수집및입력뿐만아니라문제점도잘파악하고있었다. 연구자는이들에게연구목적과판단및분류스키마, 그리고사례목록을보여주고설명한후그에따라독립적으로분류하도록하였다. 최종결과에서실무자간불일치가발생하는경우는다른실무사용자의추가의견을종합하여공통된의견을도출하도록하였다. III. 결과 본연구의개념적분석틀에따라개개의데이터항목과값을검토한결과 Table 3과같이 4백만을약간넘는 88.6% 의데이터가 Fully usable 부분에해당했으며, 11.4% 가 Partial usable 또는 Not usable 부분에해당하는것으로나타났다. Partially usable부분은 3,929 개 (0.09%) 로가장적은수를차지하고있었다. 데이터형식은적합했으나의미가모호하거나, 데이터형식도적합하지않고의미도없었던범주는각각 5.16% 와 6.11% 로이부분은데이터활용이불가능한 Not usable 범주였다. Partially usable과 Not usable에해당하는 11.4% (514,317개) 내용을데이터범주와입력문제로세분화하여살펴보면 Table 4와 Table 5와같다. 그중 Partially usable로분류된 3,929건을살펴보면활력징후와측정범주가 67% 로가장많았고, 신경학적및임상의학진단검사, 섭취량및배설량이각각 15%, 17% 였다. 입력문제별로는해당데이터값이외에관련임상정보를함께기술하는사례가가장많았다. 예를들면, 수축기혈압의값으로 100-150 이라는범위를넣거나이완기혈압에 RL 100/80 와같이측정 Table 3. Data quality analysis based on data types and semantics Data type Semantics Frequency (%) Total Appropriate Inappropriate Figure 1. Judgment and classification process of data adequacy Meaningful 4,016,107 (88.6) 3,929 (0.09) 4,020,036 (88.7) Meaningless 233,588 (5.2) 276,800 (6.1) 510,388 (11.3) Total 4,249,695 (93.8) 280,729 (6.2) 4,530,424 (100.0) 427

Table 4. Distribution of erroneous data entry by data group in the partially usable category Category Frequency (%) Data group Vital sign & Input & Neurology & Nursing assessment & measurement output laboratory test intervention Total Inclusion of relevant clinical Information 1,968 (62.7) 588 (18.7) 582 (18.5) 0 (0) 3,138 (100.0) Format error 646 (88.9) 3 (0.4) 72 (9.9) 6 (0.8) 727 (100.0) Typographic or spell error 17 (26.6) 5 (7.8) 0 (0) 42 (65.6) 64 (100.0) Subtotal 2,631 (67.0) 596 (15.2) 654 (16.6) 48 (1.2) 3,929 (100.0) Typical error example <Ventilation mode>- <Drain: JP tube>- <Consciousness level>- <Position change>- (presented in a format of <600>, <Diastolic BP>- <data item>-<value> couple) <RL 100/80> <patent 20 cc> <2-3> <massage> Table 5. Distribution of erroneous data entry by data group in the not usable category Category Frequency (%) Data group Vital sign & Input & Neurology & Nursing assessment & measurement output laboratory test intervention Total Not interpretable 671 (0.2) 275,892 (99.7) 202 (0.0) 35 (0.0) 276,800 (100.0) No useful meaning 601 (0.3) 0 231,953 (99.3) 985 (0.4) 233,588 (100.0) Out of proper range 12 (24.5) 0 37 (75.5) 0 49 (100.0) Subtotal 1,284 (0.3) 275,892 (54.1) 232,192 (45.5) 1,020 (0.2) 510,437 (100.0) Typical error example <Heart rate>- <Motor power>- <JP Tube>-<{34}>, <Position change>-<wc>, (presented in a format of <unchecked>, <Self voiding>-<+780> <irritable>, <Position change>-<s-g> <data item>-<value> couple) <Temperature>-<63.2> <Serum albumin>-<0.5> 부위와값의범위를함께기술하고있었다. 다른사례로는체중에 Kg 과같이데이터단위를추가로입력하거나인공호흡기모드에 600 또는 0.4 와같이숫자를넣는데이터형태오류였으며, 입력시철자오류가 0.5% 를차지하고있었다. Not usable 범주는섭취량및배설량, 신경계관찰및진단검사, 활력징후및측정, 간호사정및중재범주순으로빈도가많았다 (Table 5). 의미추측이어려울뿐만아니라추가적인정보도없고, 데이터형태도맞지않은경우가 276,800건으로가장많았으며, 이러한사례로는사용자간에합의되지않은문자나기호를섞어쓰는경우였다. 예를들면, 섭취량기록중유치도뇨항목에서숫자를중괄호나각진괄호, 둥근괄호로묶는경우가흔했다. 체위에도 LA, Pacing, AF, S-G 와같이표준화되지않은약어를사용하고있었다. 이러한사례는연구원검토와실무자판단에서도대부분판단불일치또는보류항목으로분류되었다. 그러나실무간호사들과의인터뷰를통해합의되지않은문자사용에대한원인과의도를추가적으로수집할수있었다. 이외 unchecked, 또는 refused 와같이데이터수집에실패한임상의상황적정보를전달하고있으나데이터형태나의미성에서불충분한 사례가 233,588건으로많은수를차지하고있었다. 적은수의사례로는수축기혈압값이 121356 이나체온이 63.2 와같이유효한데이터범위를넘는경우로 49건정도가있었다. IV. 논의 전자의무기록데이터는서비스의질적향상을목적으로활용될잠재력이크다. 특히데이터마이닝기술의발전과그러한기술의보건의료분야적용이증가하면서전자의무기록데이터의질적인측면이중요해지고있다. 이에본연구에서는전자의무기록데이터의이차활용이라는측면에서구조화된입력을통해저장되는데이터의형태적적합성과의미적유용성에초점을두었다. 연구결과입력된데이터의 88.6% 가형태나의미적측면에서적합성을갖추고있는것으로나타났다. 그에비해 11.4% 는형태나의미적측면에서적합성을갖추고있지못했다. 부적합으로판단된데이터 514,317건 (100%) 중 0.8% 에해당하는데이터는수작업에의해재코딩이된다면활용이가능한것으로확인되었으나 99.2% 에해당하는대부분은의미적제한 428

때문에재활용이불가능한것으로나타났다. 이러한결과를전자의무기록데이터의정확성 (correctness) 을보고한기존연구와비교해보면 Hogan 등 1) 이제시한 80% 에비해높은수준임을알수있다. 그러나 Hogan 등의메타분석에서다루어진데이터범주는대부분의학진단, 문제목록, 투약처방, 투약수행, 수술 / 처치, 처치합병증, 인구학적자료 ( 직업, 결혼상태, 출생일 ), 예방접종상태 (Hib, MMR), 검사결과가다수를차지하고있어본연구의데이터범주와차이가있었다. 본연구와같이임상관찰과중재관련데이터를다룬연구는많지않은데, Stange 등 17) 에따르면신체검진, 검사결과, 예방접종에대한정확성은중간수준인데반해건강관련교육 ( 예. 체중조절 ) 은매우낮다고하였다. Dresselhaus 등 7) 은의무기록에서 6.4% 의가양성오류율을보고했는데, 특히신체검진에서오류율이가장높다고보고하였다. 또한완전성 (completeness) 과정확성 (accuracy) 판단절차와기준도차이가있었는데, Hogan 등 1) 이조사한 26개연구논문중절반이종이기록검토에서맹검법 (blind) 을적용하지않았으며, 8개논문에서는해당항목의값이입력되었는지여부만을확인하고있었다. 한편, 국제질병분류체계와같은특정코드, 분류체계, 용어집을사용하는의학진단범주의정확도 67-100% 와비교하면본연구의 88.6% 는중간수준이라고볼수있다. 이처럼다루어진데이터범주가다르고정확성을판단하는기준이본연구와다르다는점에서직접적비교는어려운것으로여겨진다. 그러나본연구에서나타난 11.4% 의형식적, 의미적부적합한데이터가이차활용에서계속제외되거나또는분석에잘못포함되어다른데이터에영향을줄수있으므로부적합데이터입력을최소화할수있는현실적인접근이필요하다. 수작업재코딩을통해활용이가능했던 0.09% (3,929개) 의데이터값을살펴보면대부분이활력징후와키, 체중, 신경계관찰과같은측정항목이가장많았다. 활력징후의경우혈압측정부위를함께기록한다거나심장박동수와함께 flat 또는 asystole과같은양상을함께기록하고있었으며, 의식상태를사정하는 GCS의경우 4-5와같이범위를기록하거나대변의양, 회수이외에양상을텍스트로함께입력하고 있었다. 본연구에서는이러한사례를 관련임상정보를함께기술한것 으로분류하였으나실무자인터뷰결과, 기존전자의무기록의데이터모델커버리지가실무에서의사소통해야하는컨텐츠요구를만족시키지못해발생하는문제임을알수있었다. 즉전자의무기록의데이터모델은중환자실간호기록의구조화된템플릿으로사용자에게제공되지만, 사용자측면에서는해당데이터항목이외더많은정보를커뮤니케이션해야할필요로인해관련데이터입력란에부가적인정보를함께기술하여이용하고있었다. 데이터값의의미적제약으로재활용이어려웠던 11.3% (510,388개) 의데이터값을살펴보면, 양을측정하는항목에서합의되지않은기호나문자를섞어쓰는경우가가장흔했다. 이는특정데이터의속성을추가할수있는기능이있음에도불구하고그기능을사용하지않는것이가장큰원인이었다. 즉각종배설량을기록하는경우 4시간, 8시간등시간단위별소계를추가할수있는기능이있음에도불구하고이를사용하지않고임의의기호를서로다르게이용하고있었다. 이러한기호는임상실무자확인과정에서사용자들간에전혀합의되지않은것으로나타나의료진간의의사소통문제를내포하고있었다. 이러한문제의원인은사용자들이데이터속성을추가할수있는시스템기능을잘모르고있거나, 또는알고있음에도별도입력의필요성을잘인식하지못하여활용성이떨어지는것으로해석할수있다. 이러한현상은데이터모델설계뿐만아니라구현단계에서데이터모델에대한실무사용자들의이해와그들의활용행태에대한이해가모두필요함을보여주는사례라할수있다. 이처럼전자의무기록의데이터질과관련해서는실무의데이터요구와데이터흐름에대한분석, 분석결과를반영한데이터모델의정립, 그리고그러한모델구현과운영에영향을주는사용자요인을복합적으로고려해야한다. 이에본연구에서는사용자요인과관련한문제를최소화할수있는방안으로다음 3 가지고려사항을제언하고자한다. 첫째, 기술적측면에서사용자가실수하지않고원하는데이터를용이하게입력할수있도록사용자인터페이스를설계하는것이다. 이과정에서사용자가입력한데이터를후 429

향적으로살펴보는작업은매우유용하다. 즉잦은입력오류가있는부분이나다른용도로사용되고있는데이터항목을발견할수있기때문이다. 둘째, 업무적측면에서사용자들이 합의된표기 나통제용어를사용하도록지속적으로유도해나가는접근이필요하다. 개인이나일부소수그룹이합의한표현을사용하는것은의료진간의의사소통에큰장애가될뿐만아니라데이터의이차활용에영향을줄가능성이크다. 셋째, 조직차원에서정기적인모니터링과정이필요하다. Dambro와 Weiss 18) 에의하면기록에대한반복적인피드백이데이터입력정확도를높이는데크게기여했다고하며, Ricketts 등 19) 과 Porcheret 등 20) 도데이터질관리코디네이터가있는기관의의무기록질이그렇지않은기관보다더높았고데이터질관리프로그램도입이컨설트처방, 약물처방의입력정확성을증가시켰다고보고했다. 이처럼의학지식의변화와복잡성이빠르게증가하고의료인력교체가잦은실무상황을고려하면데이터질관리문제가데이터의일차활용과이차활용모두를위해절실히필요한부분이라할수있다. 끝으로본연구의제한점으로는일개교육병원의전자의무기록시스템과사용자를대상으로했으므로의료기관별, 사용자별, 대상간호단위의특성별차이가있을수있다. 또한본연구에서다루어진데이터항목이전자의무기록의일부분에해당하므로그에따른차이도고려해야한다. 참고문헌 1. Hogan WR, Wagner MM. Accuracy of data in computer-based patient records. J Am Med Inform Assoc 1997;4(5):342-355. 2. De Lusignan S. An educational intervention to improve data recording in the management of ischaemic heart disease in primary care. J Public Health 2004;26(1): 34-37. 3. Brown C. Computer-based data collection boosts productivity, regulatory compliance. Nurs Manag 2004;35(2):40B-D. 4. Tang PC, McDonald CJ. Electronic Health Record Systems. In: Shortliffe EH, Cimino JJ, editors. Biomedical Informatics: computer applications in health care and biomedicine. 3rd ed. New York: Springer science and business media;2006. pp.447-475. 5. Fortinsky R, Gutman J. A two-phase study of the reliability of computerized morbidity data. J Fam Pract 1981;13:229-235. 6. Thiru K. Systematic review of scope and quality of electronic patient record data in primary care. BMJ 2003;326(7398):1070. 7. Dresselhaus TR, Luck J, Peabody JW. The ethical problem of false positives: a prospective evaluation of physician reporting in the medical record. J Med Ethics 2002;28(5):291-294. 8. Shin AM, Park HJ, Jung SJ, Noh MJ, Kim YN. The paper-based medical record compared to the electronic medical record: documentation and agreement of information. J Korean Soc Med Inform 2009;15(2): 201-208. 9. Vawdrey DK, Gardner RM, Evans RS, Orme JF Jr, Clemmer TP, Greenway L, et al. Assessing data quality in manual entry of ventilator settings. J Am Med Inform Assoc 2007;14(3):295-303. 10. Bloomrosen M, Detmer D. Advancing the framework: use of health data-a report of a working conference of the American medical informatics association. J Am Med Inform Assoc 2008;15(6):715-722. 11. Witten IH, Frank E. Data Mining: practical machine learning tools and techniques with Java implementations. San Francisco: Academic Press;2000. pp.48-56. 12. Fayyad UM, Piatetsky-Shapiro G, Smyth P, Uthurusamy R. Advances in knowledge discovery and data mining. Califormia: American Association for Artificial Intelligence and MIT Press;1996. pp.48-51. 13. Cho I, Yoon HY, Park SI, Lee HS. Availability of nursing data in an electronic nursing record system for a development of a risk assessment. J Korean Soc Med Inform 2008;14(2):161-168. 14. Lee KN, Yoon J, Choi Y, Cho H, Bae K, Yoon C, et al. Standardization of reference values among laboratories of Korean Association of Health Promotion. J Lab Med Qual Assur 2002;24:185-195. 15. Kim J, Na Y, Yoon K, Lee H, Choo SK. Clinical chemistry. 3rd ed. Seoul: Korea Medicine Book Publisher;2001. pp.71-72. 16. Lewis SM, Heitkemper MM, Dirksen SR, O Brien PG, Giddens JF, Bucher L. Medical and surgical nursing. 6th ed. Missouri: Mosby;2004. pp.1758-1795. 17. Stange K, Zyzanski S, Smith T, Kelly R, Langa D, Flocke S, et al. A comparison of US and Canadian family physician attitudes toward their respective health-care systems. Med Care 1996;34(8):837-844. 430

18. Dambro M, Weiss B. Assessing the quality of data entry in a computerized medical records system. J Med Syst 1988;12(3):181-187. 19. Ricketts D, Newey M, Patterson M, Hitchin D, Fowler S. Markers of data quality in computer audit: the Manchester Orthopaedic Database. Ann R Coll Surg Engl 1993;75(6):393-396. 20. Porcheret M, Hughes R, Evans MD, Kordan K, Whitehurst R, Ogden H, et al. Data quality of general practice electronic health records: the impact of a program of assessments, feedback, and training. J Am Med Inform Assoc 2004;11(1):78-86. 431