back

검색

[이대승] 블록체인으로 머신러닝 유통기한 관리하기

[이대승’s 블록체인 헬스케어] 2017년 가을, 한 누리꾼의 동영상이 Reddit이라는 거대 인터넷 커뮤니티를 강타했습니다. 그 누리꾼의 아이디는 결국 하나의 현상을 표현하는 용어가 될 정도로 막강한 영향을 끼쳤습니다. 바로 ‘딥페이크’(Deepfake)입니다. 현재 이 아이디는 Reddit뿐 아닌 많은 웹사이트에서 정지당했지만, 그가 남긴 유산은 전세계를 휘감고 있습니다. 아이돌의 얼굴과 포르노 영상을 합성한다든지, 세계 유수 정치인들의 얼굴을 논란이 될만한 동영상에 일부러 합성하는 등의 행동이 지속적으로 일어나고 있습니다. #인공지능을 무조건 좋다고 말할 수 있을까 이렇듯 인공지능이나 머신러닝 알고리즘은 인류에게 좋은 영향을 주는 것만은 아닙니다. 특히 특정 알고리즘을 의도적으로 왜곡시킬 수 있는 가능성은 도처에 널려 있습니다. 이커머스 플랫폼에서 알고리즘을 왜곡시켜 특정 상품을 추천하게 할 수도 있고, 의료계에서 사용되는 약 추천 알고리즘을 왜곡해 특정 성분 혹은 특정 제약회사의 약만을 추천하게 할 수도 있을 것입니다. 의도적인 왜곡을 하지 않더라도 다양한 문제가 생길 수 있습니다. 우선, 모델이 너무 오래된 경우를 생각해 볼 수 있습니다. 이를테면 흉부 엑스레이 사진을 통해 병을 찾아내는 인공지능 알고리즘이 있어도, 코로나19라는 새로운 병이 생기기 전에 만들어진 알고리즘이라면 코로나19 환자가 와도 사용할 수 없을 것입니다. 또한 만들어진 의도와 다르게 활용될 경우에도 문제가 될 수 있습니다. 예컨대 가벼운 폐렴 환자를 어떻게 치료할 지 결정하는 알고리즘을 이미 중환자실에 입원해 치료받고 있는 환자에게 사용한다면 엄청난 문제가 발생할 수도 있을 겁니다. #머신러닝 모델에도 ‘식품 표시사항’ 도입한다? 그래서 생각해 낸 방안이 바로 ‘식품 표시사항'처럼 ‘모델 정보(Model Facts)’라는 개념을 적용하자는 주장이 힘을 얻고 있습니다. 가공식품엔 다양한 정보가 들어갑니다. 식품의 유통기한을 비롯해 들어가는 재료, 먹으면 안되는 사람(알레르기), 생길 수 있는 문제점에 대한 정보, 변질 정보, 구성 요소 등 식품에 대해 알아야 할 다양한 정보들을 담고 있습니다. 이처럼 머신러닝으로 만들어진 모델에도 사용할 때 꼭 필요한 사안들을 넣어 배포하고 관리하자는 주장입니다. 아래 그림을 보면 모델의 다양한 정보들이 마치 식품 정보처럼 들어있음을 확인할 수 있습니다. 머신러닝 모델 정보 예시(출처: https://www.nature.com/articles/s41746-020-0253-3) #머신러닝 검증에 블록체인도 도입한다? 이렇게 모델에 대한 정보를 공유하는 방법 외에도 머신러닝 모델의 변질을 막는 여러 방법들이 발표된 바 있지만, 각 방법들은 나름대로의 한계를 가지고 있습니다. 이런 한계를 극복하기 위해 블록체인으로 관리해 보자는 연구도 발표됐습니다. 속도와 정합성을 동시에 확보하기 위해 프라이빗과 퍼블릭 블록체인을 결합하여 모델에 입력되는 데이터의 변질 여부를 확인하고, 만들어진 머신러닝의 변화를 확인하기 위한 시스템도 적용합니다. 이를 통해 관리자 뿐 아니라 머신러닝 모델을 이용하는 제3자도 해당 모델 및 관련 데이터들이 변질됐는지를 확인할 수 있는 시스템이죠. 마치 제약회사에서 약품의 유통을 블록체인으로 관리하듯, 머신러닝 모델의 유통 정보를 블록체인으로 관리하는 것입니다. 이제 머신러닝이나 인공지능은 인간의 감각을 아득히 뛰어넘습니다. 인공지능이 답안을 도출하는 과정은 블랙박스라고 표현할 정도로 이해하기 어렵습니다. 오죽하면 ‘설명가능한 인공지능(Explainable artificial intelligence)’이라는 개념이 나왔을까요. 과정을 이해하지 못하니 그 모델이 유효한지 혹은 진짜인지를 밝혀내는 것은 더더욱 어려운 일이 될 것입니다. 마치 딥페이크로 만들어진 사진이 진짜인지 가짜인지를 알기 어려운 것처럼요. 어느덧 거대한 프로그램 덩어리들의 원산지나 신선도를 식품처럼 확인해야 하는 시대에 살고 있다는 것이 피부로 느껴지는 요즘입니다. 이대승 안과 전문의, 한양대 IAB 자문교수

조인디 logo
j o i n
d

Article Title

  • J loading image
  • O loading image
  • I loading image
  • N loading image
  • D loading image

RE:CENT