성균관대학교 인공지능대학원

본문 바로가기
주메뉴 바로가기
서브메뉴 바로가기

2023-1학기 대학원 한마당 개최 안내(사전신청 ~3/24 금)

2023학년도 후기 일반대학원 일반전형 모집 안내 (3/28 화 ~ 4/10 월)

SKKU AI, 600년 미래를 열다

2022 대한민국인공지능대상 교육기관 대상

Notice

공지사항
Read More

News

인공지능학과

박은병, 고종환 교수 연구팀 CVPR 2023 논문 2편 게재 승인
2023-03-23
인공지능학과 박은병, 고종환 교수 연구팀의 논문 2편이 인공지능 및 컴퓨터비전 분야 최우수학술대회 중 하나인 CVPR 2023 (The IEEE/CVF Conference on Computer Vision and Pattern Recognition)에 게재 승인되었다. 학회는 2023년 6월 캐나다 벤쿠버에서 열릴 예정이다. 논문 #1: “Masked Wavelet Representation for Compact Neural Radiance Fields”, 노다니엘*, 이병현*, 남승태, 이주찬, 고종환^, 박은병^ (*공동 1저자, ^공동 교신저자) 연구 홈페이지: https://daniel03c1.github.io/masked_wavelet_nerf 코드 링크: https://github.com/daniel03c1/masked_wavelet_nerf [그림1] Masked Wavelet Representation [그림 2] 기존 방법론과의 성능 비교 박은병, 고종환 교수 공동 연구팀(인공지능학과 석사과정 졸업 및 현 KT AI2XL 재직 노다니엘/석사과정 이병현 학생 공동 1저자, 석사과정 남승태 학생 공동저자, 석박통합과정 이주찬 학생 공동저자)의 논문 “Masked Wavelet Representation for Compact Neural Radiance Fields”는 이산 웨이블렛 변환을 이용한 주파수 기반의 격자구조 신경 복사 필드를 제안하였다. 더 나아가 주파수 영역에서 효율적으로 학습이 가능한 마스크를 사용하여 신경 복사 필드를 압축함으로써 많은 메모리를 요구하는 기존 격자구조 기반의 신경 복사 필드 방법론들의 단점을 극복했다. 논문 #2: “SMPConv: Self-moving Point Representations for Continuous Convolution”, 김상현, 박은병 코드 링크: https://github.com/sangnekim/SMPConv [그림 3] SMPConv 와 기존 방법론과의 비교 박은병 교수 연구팀(석사과정 김상현 학생 1저자)의 논문 “SMPConv: Self-moving Point Representations for Continuous Convolution”은 기존 다층 퍼셉트론(MLPs)을 활용한 연속 합성 곱(Continuous Convolution) 구현의 연산량과 구조적 문제를 해결하기 위한 스스로 움직이는 포인트 표현과 보간법을 제안하였다. 제안된 방법은 다양한 실험 환경에서 선행 연구보다 효율성과 우수성을 입증하였으며, 영상 처리 분야에 광범위하게 사용될 수 있을 것으로 기대된다.

박호건 교수 연구실(기계학습, 데이터마이닝 연구실)의 추천 시스템 연구The Web Conference (WWW) 2023 논문 게재 승인
2023-03-02
LearnData Lab(기계학습/데이터마이닝) 연구실(지도교수: 박호건, https://learndatalab.github.io)의 정희수 학생(석사과정)과 박호건 교수(교신저자)가 제출한 “Dual Policy Learning for Aggregation Optimization in Graph Neural Network-based Recommender Systems” 논문이 웹/데이터 마이닝 분야 최우수 학회 The Web Conference(WWW) 2023 (https://www2023.thewebconf.org) (BK IF=4)에 게재 승인되었고, 2023년 5월 미국 텍사스에서 발표될 예정입니다. 본 논문은 대부분의 최신 추천 시스템의 근간이 되는 그래프 신경망(Graph neural networks; GNN)기반 딥러닝 모델에서 사용 가능한 강화 학습 기반 성능 개선 학습 방법을 제안합니다. 기존GNN 기반 추천 시스템은 멀리 떨어진 이웃의 정보를 집계하여 사용자와 항목 간의 복잡한 고차원적 연결성을 포착하는 장점이 있지만, 사용자와 추천 상품의 이질적인 특성으로 인해 성능 향상에 한계가 있었습니다. 본 논문에서는 추천 시스템을 위한 새로운 강화 학습 기반 메시지 전달 프레임워크인 DPAO(Dual Policy learning framework for Aggregation Optimization)를 제안하며, 이중 정책 학습을 사용하여 사용자 및 상품에 대한 고차 연결을 적응적으로 결정합니다. 제안한 프레임워크는 Amazon, Yelp 포함 6개의 실제 상품 추천 데이터 세트에서 평가하였습니다. 그 결과 본 논문이 제안한 프레임워크가 최근 발표된 GNN기반 추천 시스템 모델을 크게 향상시켜, 대표적인 추천 시스템 평가 지표인nDCG와 Recall에서 각각 최대 63.7%와 42.9%까지 향상시키는 것으로 나타났습니다. 구현 코드와 논문은 본 연구실 홈페이지(https://learndatalab.github.io)에서 확인할 수 있습니다. [논문 정보] Heesoo Jung, Sangpil Kim, Hogun Park. Dual Policy Learning for Aggregation Optimization in Recommender Systems, In Proceedings of the ACM 32nd Web Conference: WWW 2023, Austin, USA, 2023. [Abstract] Graph Neural Networks (GNNs) provide powerful representations for recommendation tasks. GNN-based recommendation systems capture the complex high-order connectivity between users and items by aggregating information from distant neighbors and can improve the performance of recommender systems. Recently, Knowledge Graphs (KGs) have also been incorporated into the user-item interaction graph to provide more abundant contextual information; they are exploited to address cold-start problems and enable more explainable aggregation in GNN-based recommender systems (GNN-Rs). However, due to the heterogeneous nature of users and items, developing an effective aggregation strategy that works across multiple GNN-Rs, such as LightGCN and KGAT, remains a challenge. In this paper, we propose a novel reinforcement learning-based message passing framework for recommender systems, which we call DPAO (Dual Policy learning framework for Aggregation Optimization). This framework adaptively determines high-order connectivity to aggregate users and items using dual policy learning. Dual policy learning leverages two Deep-Q-Network models to exploit the user- and item-aware feedback from a GNN-R and boost the performance of the target GNN-R. Our proposed framework was evaluated with both non-KG-based and KG-based GNN-R models on six real-world datasets, and their results show that our proposed framework significantly enhances the recent base model, improving nDCG and Recall by up to 63.7% and 42.9%, respectively.

고영중 교수 자연어처리연구실, WSDM 2023 국제 학술대회 논문 게재 승인
2023-03-02
자연어처리연구실 박선영 석사과정(인공지능학과), 최규리, 유하은 석사과정(소프트웨어학과)의 “Never Too Late to Learn: Regularizing Gender Bias in Coreference Resolution” 논문이 웹 정보 검색 및 데이터 마이닝 분야의 top-tier 국제 학술대회(BK21 CS IF=3)인 WSDM (The 16th ACM International Conference on Web Search and Data Mining) 2023에 최종 논문 게재가 승인되어 2월에 발표될 예정입니다. 본 연구에서는 자연어 이해 태스크 중 하나인 상호 참조 해결로 언어 모델이 학습한 성 고정관념(stereotype)과 편향성(skew)을 완화하고 분석합니다. 사전학습 언어모델은 사전학습 과정에서 언어 이해 능력을 학습할 뿐만 아니라 대용량 코퍼스에 내재된 고정관념과 편향성 역시 학습합니다. 언어모델의 성 편견을 완화하고자 하는 기존 방법들은 편향성 문제 해결에 초점을 맞추고, 고정관념 학습 문제를 해결하지 못하거나 기존 사전학습 언어모델의 언어 이해 능력을 저하시키는 문제 등이 있었습니다. 본 논문에서는 이를 해결하기 위해 고정관념 중화(stereotype neutralization) 기법과 탄력적 변수 강화(elastic weight consolidation) 기법을 제시합니다. 대명사 참조 데이터셋을 이용한 실험 결과, 제안 기법이 사전학습 언어 모델의 성 고정관념과 편향성 문제를 효과적으로 해결한 것을 확인할 수 있었습니다. [논문] Sunyoung Park, Kyuri Choi, Haeun Yu, Youngjoong Ko, “Never Too Late to Learn: Regularizing Gender Bias in Coreference Resolution.”, Proceedings of the 16th ACM International Conference on Web Search and Data Mining (WSDM 2022), February 2023. Abstract: Leveraging pre-trained language models (PLMs) as initializers for efficient transfer learning has become a universal approach for text-related tasks. However, the models not only learn the language understanding abilities but also reproduce prejudices for certain groups in the datasets used for pre-training. Recent studies show that the biased knowledge acquired from the datasets affects the model predictions on downstream tasks. In this paper, we mitigate and analyze the gender biases in PLMs with coreference resolution, which is one of the natural language understanding (NLU) tasks. PLMs exhibit two types of gender biases: stereotype and skew. The primary causes for the biases are the imbalanced datasets with more male examples and the stereotypical examples on gender roles. While previous studies mainly focused on the skew problem, we aim to mitigate both gender biases in PLMs while maintaining the model's original linguistic capabilities. Our method employs two regularization terms, Stereotype Neutralization (SN) and Elastic Weight Consolidation (EWC). The models trained with the methods show to be neutralized and reduce the biases significantly on the WinoBias dataset compared to the public BERT. We also invented a new gender bias quantification metric called the Stereotype Quantification (SQ) score. In addition to the metrics, embedding visualizations were used to interpret how our methods have successfully debiased the models.

SAINT 강보석 교수-전자전기공학부 고종환 교수 연구팀, 고분자 물성 예측 및 최적 공정 탐색 시스템 개발
2023-02-24
“실제 제작하지 않아도 알 수 있다”... SAINT 강보석 교수-전자전기공학부 고종환 교수 연구팀, 고분자 물성 예측 및 최적 공정 탐색 시스템 개발 ▲(왼쪽부터) 성균관대 강보석 교수(교신저자), 고종환 교수(교신저자), 소창록 석사과정생(제1저자), 김영신 석사(공동 제1저자) 기존의 소재 탐구 연구는 재료 및 무게 조합 비율 등을 보고 유기 화학 반응의 결과를 예상해 원하는 물성을 갖는 고분자를 합성한다. 하지만 정확한 예측은 불가능하기에, 그동안의 연구는 원하는 생성물을 확인할 때까지 공정을 여러 번 반복되게 된다. 이 때문에 실험 작업은 일반적으로 시간과 비용이 많이 소모된다. 이런 한계를 극복하기 위해 최근에는 인공지능을 활용해 유기 화학 반응의 결과를 예측하는 연구가 학계에 활발히 보고되고 있다. 하지만 예측 정확도를 높이기 위해선 대규모 데이터를 이용하여 인공지능을 학습시켜야 하지만 일반적으로 이에 필요한 충분한 양(천 개 이상)의 고분자의 데이터가 구축 또는 배포돼 있지 않다. 성균나노과학기술원(SAINT) 강보석 교수 연구팀은 과거 연구자들이 축적한 CNT*/ABS** 고분자와 관련된 만 개 이상의 대규모 데이터를 모아, 이를 학습에 활용할 뿐만 아니라 이에 적합한 모델 구조를 설계했다. 그 결과 훈련되지 않은 데이터에서도 인공지능 모델에게 공정 정보를 입력하면 고분자 물성을 매우 우수한 정확도로 예측하였다. 하지만 반대 과정인, 원하는 물성의 고분자를 합성하기 위한 최적의 공정을 탐색하는 과정은 정의역이 여러 개의 치역에 대응되는 문제이기에 인공지능 모델의 학습이 발산되는 문제점이 있다. 따라서 강보석 교수, 고종환 교수 공동연구팀은 몬테 카를로(Monte Carlo) 시뮬레이션을 기존 과정과 결합해 원하는 물성의 고분자를 합성 가능한 최적의 공정을 탐색하는 시스템을 구축했다. * CNT: 탄소 나노튜브를 뜻하며 원기둥 모양의 나노구조를 지니는 탄소의 동소체이다. 탄소 나노튜브는 여러 특이한 성질을 가지고 있어서 나노기술, 전기공학, 광학 및 재료공학 등 다양한 분야에서 유용하게 쓰일 수 있다. ** ABS: 아크릴로나이트릴(Acrylonitrile), 뷰타다이엔(Butadiene), 스타이렌(Styrene)의 약자로 3가지 중 스타이렌이 주원료다. 일반적으로 가공이 쉽고 내충격성이 크고 내열성도 좋은 범용 열가소성 플라스틱이다. 강보석 교수는 "이번 연구로 축적된 많은 양의 데이터를 재사용하여 인공지능을 학습함과 동시에, 효과적인 인공지능 모델 구조를 개발함으로써 높은 예측 정확도를 가진 고분자-인공지능 시스템을 구축할 수 있었다"며 "또한 이 시스템을 활용하면 실험 비용과 시간을 대폭 낮출 수 있어 높은 산업적 효용을 지니고 있다"고 말했다. 이번 논문은 성균관대 인공지능학과 소창록 석사과정이 제1저자로 참여했으며, 전자전기공학부 고종환 교수가 공동 교신저자로 참여했다. 이번 연구 결과는 재료-인공지능 분야 권위있는 학술지 Advanced Intelligent Systems 2월호의 표지논문으로 선정되었다. 이번 연구는 산업통상자원부와 과학기술정보통신부의 지원을 받아 수행됐다.

prev next

Read More

Schedule

오늘의 행사

03월 March / 2023

2023.03.27(월)

등록된 일정이 없습니다.

Read More

이달의 행사

03월 March / 2023

2023.03

Read More

Movie

인공지능대학원 홍보 동영상

Read More

Link