-
-
-
- 문태섭 교수 연구팀, 적응형 평생학습 알고리즘 개발 성공 및 설명가능 인공지능 방법의 취약성 규명
- 성균관대 전자전기공학부 문태섭 교수 연구팀, 적응형 평생학습 알고리즘 개발 성공 및 설명가능 인공지능 방법의 취약성 규명 - 세계 최고 AI/기계학습 학술대회인 신경정보처리학회 (NEURAL INFORMATION PROCESSING SYSTEMS) 에 논문 2편 게재 확정 - 성균관대학교(총장 신동렬) 전자전기공학부 문태섭 교수 연구팀이 인공지능 분야의 두 가지 핵심 기술 개발 - 적응형 평생학습 알고리즘 개발 (공동 1저자 안홍준 석사과정/차성민 박사과정) 및 설명가능 인공지능 방법의 취약성 규명 (공동 제 1저자 허주연 석사과정 / 주성환 석박통합과정) - 에 성공했다고 밝혔다. 본 연구는 과학기술정보통신부(MSIT)의 재원으로 정보통신기획평가원(IITP)의 지원 (No. 2016-0-00563, No. 2019-0-01396, No. 2019-0-00421, IITP-2019-2018-0-01798)과 한국과학기술연구원 (KIST)의 지원 (No. 2E29330)을 받아 수행되었으며, AI/기계학습 문야의 세계 최고 권위의 학술대회인 신경정보처리학회 (Neural Information Processing Systems, NeurIPS)에 2편의 논문으로 12월 게재 확정되었다. NeurIPS 학술대회는 매년 매우 치열한 경쟁과 엄격한 리뷰과정을 통해 논문들을 채택하는데 (채택률 21.1%) 올해 국내에서 2편 이상 논문이 채택된 단일 연구실은 문태섭 교수 연구실이 유일했다. [논문1] Hongjoon Ahn*, Sungmin Cha*, Donggyu Lee, and Taesup Moon, “Uncertainty-based Continual Learning with Adaptive Regularization” (*equal contribution) [논문2] Juyeon Heo*, Sunghwan Joo*, and Taesup Moon, “Fooling Neural Network Interpretations via Adversarial Model Manipulation” (*equal contribution) 연구팀이 첫 번째로 개발한 적응형 평생학습 알고리즘은 기계학습 분야의 오랜 난제 중 하나인, 순차적인 과제들을 계속해서 효율적으로 학습할 수 있는 연속 학습 (Continual learning) 문제를 다루는 알고리즘이다. 본 연구에서는 베이지안 온라인 학습 (Bayesian online learning)에 기반하여 뉴럴 네트워크 모델 파라미터의 불확실성에 대한 정의를 새롭게 함을 통해, 기존의 방법들에 비해 약 30% 이상 적은 메모리를 사용하면서도, 적응적으로 새로운 개념을 익히고 과거의 지식을 점진적으로 망각해 갈 수 있는 알고리즘을 고안하였다. 그 결과, 다양한 지도학습과 강화학습 상황에서 공히 기존 알고리즘들을 압도하는 성능을 내었다. 연구팀이 두 번째로 보인 설명가능 인공지능 방법의 취약성 규명은 최근 딥러닝 알고리즘의 예측 결과를 설명하는데 많이 사용되는 특징 지도 (saliency-map) 기반의 딥러닝 해석 방법 (interpretation method)이 적대적인 모델 조작 (adversarial model manipulation) 에 매우 취약할 수 있다는 것을 보였다. 특징 지도 기반의 딥러닝 해석 방법들은 특히 딥러닝 모델의 편향성 등을 탐지하는 데 중요하게 쓰일 수 있다고 알려져 있는데, 본 연구에서 제안한 적대적 모델 조작을 가하게 되면 예측 정확도는 거의 변하지 않는 상태에서 전혀 판이한 해석 결과가 나올 수 있음을 보였다. 문태섭 교수는 “적응형 평생학습 알고리즘은 실제 AI기술을 사용하는 응용 분야에서 매우 필요로 하는 실용적인 기술이고, 향후 이 기술을 더 발전시킨다면 데이터가 순차적으로 확보될 수 밖에 없는 응용 분야에 널리 쓰일 수 있는 높은 파급력을 가졌다”고 말했다. 또한, “설명가능 인공지능 기술의 취약성을 보인 연구는 향후 더욱 모델과 데이터에 가해지는 적대적인 공격에 더욱 강건한 설명가능 인공지능 기술을 개발하는 데 필수적으로 고려해야 하는 기준을 제시하였다” 고 설명하였다.
-
- 작성일 2019-11-20
- 조회수 1425
-
- 문태섭 교수 연구팀, 딥러닝 기반 초미세먼지 [PM2.5] 농도 예측 알고리즘 개발 성공
- 성균관대 전자전기공학부 문태섭 교수 연구팀, 딥러닝 기반 초미세먼지 (PM2.5) 농도 예측 알고리즘 개발 성공 - 국제학술지 ENVIRONMENTAL POLLUTION 10월 23일자 온라인 게재 - 성균관대학교(총장 신동렬) 전자전기공학부 문태섭 교수 연구팀 (제 1저자 박용비 석사과정)이 미국 Emory 대학의 Yang Liu 교수 연구팀과 협력하여 딥러닝 기술에 기반한 초미세먼지 (PM2.5) 농도 예측 알고리즘을 개발하는 데 성공했다고 밝혔다. 본 연구는 과학기술정보통신부(MSIT)의 재원으로 정보통신기획평가원(IITP)의 지원 (No. 2016-0-00563, No. 2019-0-00421, IITP-2019-2018-0-01798)과 한국과학기술연구원 (KIST)의 지원 (No. 2E29330)을 받아 수행되었으며, 국제학술지인 Environmental Pollution (JCR 상위 9.7%) 저널에 10월23일자에 온라인 게재되었다. [논문] Yongbee Park, Byungjoon Kwon, Juyeon Heo, Xuefei Hu, Yang Liu, and Taesup Moon*, “Estimating PM2.5 concentration of the conterminous United States via interpretable convolutional neural networks” (*corresponding author) 연구팀은 고가의 측정 센서만으로는 넓은 지역의 초미세먼지(PM2.5) 농도를 높은 지역적 해상도로 모두 측정하는데 너무 많은 비용이 드는 문제점을 보완하기 위하여, 초미세먼지와 관련된 다양한 변수들에 기반하여 PM2.5 농도를 예측하는 연구를 수행하였다. 즉, 인공위성 기반 에어로졸 광학 두께 (AOD), 기후/바람 관련 변수, 계절, 도로, 인구 분포 등 초미세먼지와 밀접한 관련이 있는 변수들을 입력으로 하고 초미세먼지 농도를 출력으로 하는 딥러닝 모델을 개발하여 그 예측 정확도를 높였다. 특히, 기존의 연구들과 달리 딥러닝의 핵심 기술 중 하나인 컨볼루션 신경망 (Convolutional neural networks)을 최초로 활용하여, 예측하고자 하는 지역의 변수들만이 아니라, 주변 지역 변수들 간의 공간적 상관관계까지 활용하는 예측 알고리즘을 개발하는 데 성공하였다. 그 결과, 미국 전역의 PM2.5농도를 예측하는 데, 기존 방법들의 성능을 훨씬 뛰어넘는 예측 정확도 (R^2=0.84) 를 달성하였다. 또한, 연구팀은 설명가능 인공지능 방법의 하나인 LRP (Layerwise Relevance Propagation)를 적용하여, 고안한 알고리즘이 중요하게 활용하는 변수들의 순위와 변수 별 공간적 중요도를 시각화 하는 데에도 성공하였다. 이러한 중요 변수 도출은 기존 딥러닝 기반의 연속값 예측 (regression) 알고리즘에서는 잘 시도되지 않았던 것인데, 도출한 중요 변수 순위가 기존 연구에서 밝혀진 결과들과 비교하고, 대기 환경 분야 전문가인 Emory대학의 Yang Liu 교수와 긴밀한 토의를 통해서도 유의미함을 밝혔다. 문태섭 교수는 “고가의 센서를 통한 직접적인 측정을 하지 않고도, 인공지능 기술을 활용하여 많은 데이터 속에 들어있는 관련 변수들과 초미세먼지의 상관관계에 기반해 초미세먼지 농도를 정확하게 예측할 수 있다는 것을 보인 데 큰 의의가 있다고 생각한다.”고 말했다. 또한, “설명가능 인공지능 방법을 통해, 어떤 변수가 초미세먼지 농도 예측에 가장 크게 관여하는지를 보였기 때문에, 향후 이를 활용하면 초미세먼지 발생 원인을 밝히는 데도 기여할 수 있을 것으로 판단한다.”고 설명하였다. 문태섭 교수는 또 “앞으로도 계속된 환경 분야 전문가와의 국제협력을 통해서, 인공지능 기술에 기반하여 한국 및 중국 지역의 초미세먼지 농도 예측과 원인 규명에 기여하고자 한다.”고 말했다.
-
- 작성일 2019-11-20
- 조회수 1233
-
-
- 이종욱 교수 연구실, 이재웅 박사과정 ICDM 2019 국제 학술대회 논문 게재
- 데이터 지능 및 학습 연구실(DIAL Lab, https://diallab.github.io/), 이재웅 학생(박사과정, 지도 교수: 이종욱)이 데이터마이닝 분야 최우수학회인 IEEE International Conference on Data Mining (ICDM) 2019에 “Collaborative Distillation for Top-N Recommendation” 논문을 게재 및 발표하였다. 본 논문은 딥러닝 기반 추천 모델의 정확도를 유지하며 모델을 압축하기 위한 방법에 대한 논문이며, 채택률 9.08%인 정규 논문으로 채택되었다. 논문에서는 기존의 이미지 분류에서 사용되는 모델 압축 방법인 지식 증류(Knowledge Distillation)을 추천 시스템에 적용하는 방법을 제시하였으며, 추천 시스템이 가진 3가지 문제, 1. 사용자가 선호하는 상위 N개의 항목을 다른 항목보다 더 중요하게 여겨야 하는 “순위 문제”, 2. 많은 항목 중 사용자가 실제 평가하는 항목이 적어서 생기는 “데이터 희소성 문제”, 그리고 3. 사용자가 평가하지 않은 항목이 사용자가 선호하지 않는 항목인지 선호하지만 아직 평가되지 않은 항목인지 모르는 “데이터 모호성 문제”를 고려하여 추천 시스템에 더 효과적으로 지식 증류를 적용하는 방법을 제안하였다. 제안 방법은 기존의 추천 모델에 독립적으로 적용될 수 있으며, 논문에서는 기존 추천 모델에 제안 방법을 적용하여, 정확도의 손실 없이 기존 모델 대비 10%의 모델 크기를 갖고 약 7배 빠른 수행 시간을 갖는 모델을 만들었다. 본 연구에서 제시한 방법을 실제 서비스에 적용하면, 기존 서비스 제공 시간을 크게 줄일 수 있을 것으로 기대된다.
-
- 작성일 2019-11-14
- 조회수 1452
-
- 국내대학 최초 AI(인공지능) 비전전략 선포식 개최
- 국내대학 최초 AI(인공지능) 비전전략 선포식 개최 - 세계 최고수준의 글로벌 AI(인공지능) R&E 선도대학으로 도약 - 인공지능대학원 및 인공지능 연구소 개원식 함께 열려 우리 대학은 11월 12일(화) 오후 3시, 국내대학 중 최초로 세계최고수준의 글로벌 AI(인공지능) R&E 선도대학 육성의지를 밝히는 ‘AI 비전전략 선포식’을 자연과학캠퍼스 삼성학술정보관 오디토리움에서 개최한다고 밝혔다. 이날 행사에서는 지난 3월 설립한 글로벌 AI 핵심인재 양성을 위한 「인공지능 대학원」과 AI 연구의 집적화 클러스터의 중심축인 「인공지능 연구소」에 대한 개원식이 있을 예정이다. 또한, 이공주 대통령 과학기술 보좌관을 비롯하여, 변재일 국회의원(더불어민주당), 이화순 경기도 부지사, 이효건 삼성전자 부사장 등이 참여하여 정부와 기업의 AI선도전략과, 대학의 AI비전계획이 서로 맞물리면서 미래시대의 핵심이 될 Strong AI시대를 여는 첫 시도가 될 것으로 기대된다. 우리 대학은 이번 선포식에서는 AI core 전문인력양성을 위하여 인공지능학과, 인공지능연구소, 인공지능교육원, S센타(AI 컴퓨팅인프라)의 4개 기관을 신설하고, 학생들의 AI 역량함양을 위하여 대학과 대학원의 AI 공통 교과목 개설, 교양영역에 AI영역 추가, 비교과 영역확대를 골자로 하는 AI 연구과 교육에 대한 새로운 전략을 발표할 예정이다. 이번 발표되는 AI비전을 실천하기 위하여 성균관대는 교내 산재된 AI분야 학사조직을 재편하여 학부과정에 ▲인공지능융합전공 ▲데이터사이언스융합전공▲융합소프트웨어연계전공을 두고, 대학원과정에 ▲인공지능학과 ▲인공지능융합학과 ▲데이터사이언스융합학과 ▲빅데이터학과를 설치하는 구조개편을 단행하여 명실공히 세계최고수준의 글로벌 AI인재 양성소로서 면모를 갖출 예정이다. 우리 대학은 AI 연구역량에서도 세계최고 수준을 자랑하고 있다. 2019 英Times 세계대학평가 Computer Science분야 세계 87위, AI코어 전임교원 46명, AI융합 전임교원 100여명, 연구교수 31명, 박사급 전문인력 70명, 삼성전자를 비롯하여 Pascal Institute 등 39개 기업과 AI 산학협력네트워크를 구축하고 있다. 2018년에는 AI 관련 분야 40건(국제특허 5건)의 특허와 10건의 기술이전 성과를 보이는 등 10건 등 글로벌 AI 연구허브기관으로 도약하고 있다. 신동렬 총장은 “세계최고 수준의 AI 교육프로그램과, 연구역량을 확보하여 글로벌 AI리딩 대학으로 발돋움 하고자 하는 것이 이번 AI 비전전략 선포식의 의미”라며 “미래언어인 AI를 이해하고 소통하는 이중언어자를 육성하여 4차 산업혁명을 선도하고 인류사회에 공헌하는 글로벌 리더가 될 수 있도록 AI 컴퓨팅 인프라와 우수교수확보, 교육과정 개발 등 전분에 걸쳐 아낌없는 투자와 지원을 할 것”이라고 포부를 밝혔다. 성대뉴스 게시판읽기(국내대학 최초 AI(인공지능) 비전전략 선포식 개최) | 성균관대학교 상기 콘텐츠 담당 > 전략기획.홍보팀 ( 02-760-1151)
-
- 작성일 2019-11-13
- 조회수 1310
-
-
-
- 문태섭 교수 연구팀, ICCV 19 논문 채택
- 문태섭 교수 차성민(박사과정) 문태섭 교수 연구팀(M.IN.D Lab, http://mind.skku.edu/)의 논문 1편이 2019년 10월 27일 - 11월 2일 서울에서 열리는 International Conference on Computer Vision (ICCV) 2019에 채택되었다. 2년에 한 번씩 열리는 해당 학술대회는 컴퓨터비전 및 기계학습 분야에서 세계적으로 최우수 학술대회로 인정받고 있다. 특히, 올해는 지난 2017년 대비 100% 증가한 약 4300여편의 논문이 투고되었고, 최종 논문 채택률은 25.1%를 기록했다. 채택된 논문 “Fully Convolutional Pixel Adaptive Image Denoiser”은 차성민 박사과정 학생이 제 1저자로 수행한 연구로써, 이미지에 가산 노이즈 (additive noise)가 추가된 상황에서 Deep Learning을 이용하여 노이즈를 제거하기 위한 새로운 방법을 제시하여 좋은 평가를 받았다. 가산 노이즈는 디지털 카메라 및 의료 장비에서 사용되는 촬영장치를 이용할 때 촬영 결과물에 추가되는 일반적인 노이즈 형태이고, 이러한 노이즈를 제거하여 원본에 가깝게 만드는 연구는 신호처리 및 기계학습 분야에서 핵심적인 문제로서 오랫동안 연구되어 왔다. 특히, 최근에 Deep Learning을 이용하여 이러한 노이즈를 제거하기 위해 다양한 방법들이 제시되었고, 이 방법들은 기존 방법들의 성능을 크게 뛰어넘는 결과들을 달성하였다. 하지만 이러한 Deep Learning 기반의 디노이징 방법들은 지도 학습에 사용한 데이터셋에 존재하는 동일한 노이즈 혹은 데이터 형태의 분포에는 좋은 디노이징 결과를 보여주지만, 학습 데이터셋에 존재하지 않는 데이터 분포에 대해서는 심각하게 성능이 저하되는 단점을 가지고 있다 (lack of adaptivity). 이러한 기존 Deep Learning 방법의 단점을 극복하기 위해 본 논문에서는 오염된 이미지와 그 디노이징 결과로만 계산할 수 있는 새로운 추정 손실함수(estimated loss function)을 제시하였고, 이 손실 함수를 target으로 학습할 수 있는 새로운 합성곱신경망(convolutional neural network) 구조를 고안해서, 주어진 이미지에 대해서 적응적으로(adaptively) 학습하며 디노이징을 할 수 있는 FC-AIDE 알고리즘을 고안하였다. 그 결과, 충분히 큰 데이터셋을 이용한 지도학습(supervised learning)을 통해 FC-AIDE 모델을 먼저 선학습(pre-training)한 뒤, 주어진 이미지에 적응적으로 한 번 더 학습(adaptive fine-tuning)할 경우, 지도학습 과정에서 존재하지 않는 새로운 분포의 이미지들도 성공적으로 디노이징 할 수 있는 결과를 보였고, 다양한 이미지 데이터셋에서 기존 딥러닝 기반 알고리즘들을 모두 넘어서는 성능을 달성하였다. 본 연구가 제시한 이러한 새로운 딥러닝 기반 디노이징 방법론은 향후 다양한 응용 분야에 적용 및 발전될 가능성이 매우 클 것으로 기대된다. [FC-AIDE알고리즘의 뉴럴네트워크 구조] [기존 알고리즘들과의 디노이징 결과 비교]
-
- 작성일 2019-09-20
- 조회수 1535