인공지능이 생성한 의사 요약문의 숨겨진 위험성

대규모 언어 모델(LLM)은 기사 요약, 질문 답변, 이메일 초안 작성까지 가능합니다. 일부 플랫폼은 의사 자격증 발급 기관, 출판물, 소셜 미디어에서 데이터를 추출해 의사 프로필을 자동 생성하는 데 이를 활용합니다. 편리하지만, 이러한 인공지능 생성 프로필 자신의 자격을 허위로 기재하거나 경력을 잘못 인용하거나 오래된 정보를 계속 유포할 수 있습니다. 의사들은 이러한 요약이 어떻게 작성되는지, 그리고 어떤 함정이 도사리고 있는지 반드시 이해해야 합니다.

인공지능이 요약문을 생성하는 방법

대부분의 AI 요약 도구는 인터넷에서 수집한 방대한 양의 텍스트로 훈련됩니다. “제인 스미스 박사를 요약하라”는 요청을 받으면, 의과대학 졸업 여부, 레지던트 수련, 전문의 자격증, 논문 및 수상 경력 등의 데이터 포인트를 검색합니다. 이들은 신뢰할 수 있는 출처와 의심스러운 출처를 포함한 여러 정보원을 조합하여 일관된 단락을 생성할 수 있습니다.

그러나 대규모 언어 모델(LLM)은 사실 확인을 수행하지 않습니다. 패턴을 기반으로 가능한 단어 순서를 예측할 뿐입니다. 훈련 데이터에 오류가 포함된 경우(예: 의사의 전문 분야를 잘못 표기한 뉴스 기사), AI는 그러한 실수를 포함할 수 있습니다. 더 나쁜 점은 데이터가 부족할 경우 모델이 빈틈을 메우기 위해 그럴듯하지만 허구의 세부 사항을 “환각'할 수 있다는 것이다.

위험과 결과

• 부정확한 자격 증명: AI 요약본은 본인이 다닌 적 없는 기관에서 펠로우십을 마쳤거나 다른 전문 분야에서 진료한다고 기술할 수 있습니다. 환자들은 부적절한 진료 예약을 할 수 있으며, 보험사는 불일치를 발견할 수 있습니다.

• 구식 정보: 최근 직장을 옮기기 전 데이터로 훈련된 모델은 귀하를 이전 고용주와 연관시킬 수 있습니다. 오래된 주소나 전화번호는 추천을 잘못된 곳으로 안내할 수 있습니다.

• 법적 책임: 인공지능 요약문이 귀하의 진료 범위 외 분야를 전문으로 한다고 주장하여 환자가 피해를 입은 경우, 허위 진술 문제가 제기될 수 있습니다.

• 편향과 형평성: 훈련 데이터는 특정 지역이나 배경의 의사들을 과도하게 대표할 수 있으며, 이로 인해 모델이 검색 결과에서 해당 의사들을 우선적으로 노출시킬 수 있습니다. 대표성이 부족한 의사들은 검색 결과에서 보이지 않거나 잘못 분류될 수 있습니다.

자신을 보호하기

1. 당신만의 권위 있는 콘텐츠를 만들어 보세요: 자신의 웹사이트에 상세한 약력을 게시하고, 기계가 정확히 분석할 수 있도록 스키마 마크업을 구현하십시오.

2. 모니터 AI 플랫폼: 인공지능 기반 도구(예: 음성 비서)에서 주기적으로 자신을 검색하십시오. 가능한 경우 부정확한 내용을 신고하십시오.

3. 데이터 출처 거부 또는 수정: 사이트가 귀하를 잘못 소개한 경우, 해당 사이트에 연락하여 수정 또는 삭제를 요청하십시오. 일부 디렉토리는 “스크래핑 금지” 요청을 존중합니다.

4. 환자 교육: 귀하에 관한 정보를 얻기 위한 신뢰할 수 있는 출처(예: 귀하의 진료소 웹사이트 또는 Guide.MD 프로필)에 대한 명확한 안내를 제공하십시오.

5. 투명성 옹호: 인공지능 요약 기능을 사용하는 플랫폼이 데이터 출처를 공개하도록 장려하고, 전문가들이 자신의 프로필을 검증하거나 업데이트할 수 있도록 허용해야 합니다.

인공지능은 정보 수집을 효율화할 수 있지만, 입력된 데이터의 질에 따라 그 성능이 결정됩니다. 의료진은 자신의 전문적 진술이 정확하도록 할 책임이 있습니다. 경계를 늦추지 않고 명확하고 체계적인 정보를 제공함으로써, 인공지능이 생성한 요약본의 위험을 완화하고 자신의 서사에 대한 통제권을 유지할 수 있습니다.