성균관대학교 인공지능대학원

우사이먼 교수 연구실(DASH Lab), Euro S&P 2025 논문 1편 게재 승인

2025-02-28

[연구] 우사이먼 교수 연구실(DASH Lab), Euro S&P 2025 논문 1편 게재 승인 Data-driven AI & Security HCI Lab (DASH Lab, 지도교수: 우사이먼 성일)의 논문 1편이 컴퓨터 보안 및 프라이버시 분야의 세계적인 우수 국제 학회인 IEEE European Symposium on Security and Privacy (EuroS&P)에 게재 승인되었습니다. 논문은 올해 6월 이탈리아 베니스에서 발표될 예정입니다. Acceptance rate = 8% (24 paper accepted / 300 submissions) SoK: Systematization and Benchmarking of Deepfake Detectors in a Unified Framework, EuroS&P 2025 저자: 김지원 (2저자, 인공지능대학원 석사졸업), 우사이먼성일 (교신저자, 성균관대 인공지능대학원 교수) 논문 링크: https://arxiv.org/abs/2401.04364 이 연구는 호주 연방과학산업연구기구(CSIRO Data61)와 국제공동연구로 진행되었습니다. 최근 딥페이크 기술이 발전하면서 이에 대한 탐지 연구가 활발히 진행되고 있습니다. 하지만 많은 딥페이크 탐지기들은 한계가 명확했었습니다. 본 연구는 최신 딥페이크 탐지 연구를 종합적으로 검토하고, 체계적인 탐지기 평가를 위한 엔드 투 엔드 개념적 프fgfsdfg레임워크를 제안하여 딥페이크 탐지 기법을 세부적으로 분류하고 평가할 수 있는 명확한 기준을 제공합니다. 또한, 체계적인 평가 프레임워크를 통한 분석 및 실험과 함께 다양한 유의미한 결론을 도출하며, 보다 효과적인 미래의 딥페이크 탐지 기술 개발을 위한 새로운 관점을 제시합니다. [Research] One paper accepted at EuroS&P 2025 from Professor Simon S Woo's (DASH Lab) The Data-driven AI & Security HCI Lab (DASH Lab, Advisor: Simon S. Woo) has had one System of Knowledge (SoK) paper accepted for publication at the 10th IEEE European Symposium on Security and Privacy (Euro S&P), a prestigious international conference covers Machine Learning Security, System & Network Security, Cryptographic Protocols, Data Privacy. The papers will be presented in July in Venice, Italy. SoK: Systematization and Benchmarking of Deepfake Detectors in a Unified Framework, EuroS&P 2025 Authors: Binh Le, Jiwon Kim, Simon S. Woo This work is jointly performed with CSIRO Data61 as an international collaboration. Paper Link: https://arxiv.org/abs/2401.04364 Deepfakes are becoming a huge problem, and they're easier than ever to create and spread. This has led to a race to develop technologies that can detect them. However, many of these detection tools are trained on lab-generated datasets, which may not prepare them for the deepfakes we actually see in the real world. Our latest study takes a deep dive into the current state of deepfake detection. We categorize detectors into 4 major groups and 13 sub-groups, creating a clear framework to understand what makes them effective (or not). We also put 16 of the top detectors to the test against various real-world attack scenarios, including black-box, white-box, and gray-box settings. Our systematized analysis and experiments provide a deeper understanding of deepfake detectors and their generalizability, paving the way for future research and the development of more proactive defenses against deepfakes.

우사이먼성일 교수(DASH 연구실), 2024 한국정보보호학회 동계학술대회 최우수 논문상

2025-02-28

경기도 광주 곤지암 리조트에서 2024년 11월 28일부터 29일까지 열린 한국정보보호학회 동계학술대회에서 DASH 연구실(지도교수: 우사이먼성일)의 허민지(인공지능대학원 석사과정), Razaib Tariq(소프트웨어학과 석사과정)의 "모아레 패턴이 딥페이크 탐지 성능에 미치는 영향" 논문이 학회 최우수논문상(4th Place)을 수상하였습니다. 수상을 축하드립니다. 링크: https://cisc.or.kr/bestPaper

[대학원 플립러닝 수업 우수사례] 자연어처리개론 정윤경 교수님

2025-02-05

2024학년도 대학원 플립러닝 수업 우수사례 AIM4003 자연어처리개론_ 정윤경 교수님

이지형 교수 연구실(IIS Lab), NAACL 2025 논문 4편 게재 승인

2025-01-23

정보 및 지능 시스템 연구실(IIS Lab, 지도교수: 이지형)의 논문 4편이 자연어처리 분야의 최우수 국제학술대회인 NAACL 2025 (“2025 Annual Conference of the Nations of the Americas Chapter of the Association for Computational Linguistics”)에 게재 승인되었습니다. 논문은 4월 미국 뉴 멕시코에서 발표될 예정입니다. 1. DeCAP: Context-Aware Prompt Generation for Debiased Zero-shot Question Answering in Large Language Models, NAACL 2025 저자: 배수영 (인공지능학과 박사과정), 최윤석 (성균관대 컴퓨터교육학과 조교수/소프트웨어학과 박사졸업) 대규모 언어 모델(LLMs)은 제로샷 질문 응답(QA) 과제에서 뛰어난 성능을 보이지만, 기존 방법들은 모호한 질문과 명확한 질문 유형 간의 성능 격차가 크며, 주어진 지침이나 내부 지식에 강하게 의존하여 편향 제거 성능(debiasing performance)이 낮다는 한계를 가지고 있습니다. 이를 해결하기 위해, 우리는 DeCAP (Context-Aware Prompt Generation)을 제안합니다. DeCAP은 질문 유형의 차이로 인한 성능 격차를 줄이기 위해 질문 모호성 탐지기(Question Ambiguity Detector)를 활용하고, 중립적인 문맥을 제공하기 위해 중립적 다음 문장 생성기(Neutral Next Sentence Generator)를 사용하여 내부 편향 지식에 대한 의존도를 감소시킵니다. BBQ와 UNQOVER 데이터셋을 사용해 여섯 개의 LLM에 대한 실험 결과, DeCAP이 state-of-the-arts 편향 제거 QA 성능을 달성했으며, 다양한 QA 환경에서 LLM의 공정성과 정확성을 크게 향상시키는 데 효과적임을 입증했습니다. 2. SALAD: Improving Robustness and Generalization through Contrastive Learning with Structure-Aware and LLM-Driven Augmented Data, NAACL 2025 저자: 배수영 (인공지능학과 박사과정), 김효준 (SKT/인공지능학과 석사졸업), 최윤석 (성균관대 컴퓨터교육학과 조교수/소프트웨어학과 박사졸업) 이 논문에서는 SALAD (Structure-Aware and LLM-driven Augmented Data)라는 새로운 접근법을 제안합니다. SALAD는 대조 학습(Contrastive Learning)을 위해 구조를 인지하고 반사실적(counterfactual)으로 증강된 데이터를 생성함으로써 모델의 강건성(robustness)과 일반화(generalization)**를 향상시키는 것을 목표로 합니다. 태깅 기반 방식을 사용하여 구조를 인지한 긍정 샘플을 생성하고, 대규모 언어 모델(LLM)을 활용해 다양한 문장 패턴을 가진 반사실적 부정 샘플을 생성합니다. 이를 통해 모델이 주요 문장 구성 요소 간의 구조적 관계를 학습하도록 하며, 부적절한 상관관계(spurious correlations)에 대한 의존을 최소화합니다. 감정 분류(Sentiment Classification), 성차별 탐지(Sexism Detection), 자연어 추론(Natural Language Inference) 세 가지 과제에서 실험을 통해 SALAD의 효과를 검증했으며, 그 결과 SALAD가 다양한 환경에서 모델의 강건성과 성능을 향상시킬 뿐 아니라, 분포 외(out-of-distribution) 데이터셋과 교차 도메인 시나리오에서도 일반화 성능을 강화함을 보였습니다. 3. CoRAC: Integrating Selective API Document Retrieval with Question Semantic Intent for Code Question Answering, NAACL 2025 저자: 최윤석 (성균관대 컴퓨터교육학과 조교수/소프트웨어학과 박사졸업), 나철원 (인공지능학과 석박통합과정) 자동 코드 질문 응답(AQA)은 코드 스니펫을 분석하여 코드 관련 질문에 대해 정확한 답변을 생성하는 것을 목표로 합니다. 적절한 답변을 제공하려면 코드의 관련 부분을 정확히 이해하고, 질문의 의도를 올바르게 해석해야 합니다. 그러나 실제 환경에서는 질문자가 코드의 일부만 제공하는 경우가 많아 답변을 찾는 데 어려움이 발생합니다. 응답자는 이러한 제한된 정보를 기반으로 적절한 답변을 제공할 수 있어야 합니다. 이를 해결하기 위해 우리는 CoRAC이라는 지식 기반 프레임워크를 제안합니다. CoRAC은 선택적 API 문서 검색과 질문 의미 의도 클러스터링을 통해 이해력을 향상시켜 자동 코드 질문 응답을 지원합니다. 세 가지 실제 벤치마크 데이터셋에서 CoRAC의 성능을 평가했으며, 다양한 실험을 통해 그 효과를 입증했습니다. 또한, CoRAC이 ChatGPT와 같은 대규모 언어 모델에 비해 고품질의 답변을 생성할 수 있음을 보여주었습니다. 4. Q-FAKER: Query-free Hard Black-box Attack via Controlled Generation, NAACL Findings 2025 저자: 나철원 (인공지능학과 석박통합과정), 최윤석 (성균관대 컴퓨터교육학과 조교수/소프트웨어학과 박사졸업) 언어 모델의 취약성을 검증하기 위해 많은 적대적 공격(adversarial attack) 방법들이 제안되었으나, 대부분 다수의 쿼리와 타겟 모델에 대한 정보를 필요로 합니다. 심지어 블랙박스 공격(black-box attack)조차도 타겟 모델의 출력 정보를 요구하며, 이는 타겟 모델이 닫혀있고 접근이 불가능한 하드 블랙박스(hard black-box) 환경에서는 현실적으로 적용이 어렵습니다. 최근 제안된 하드 블랙박스 공격 방법들도 여전히 많은 쿼리를 요구하며, 적대적 생성기를 훈련하는 데 매우 높은 비용이 소요됩니다. 이러한 문제를 해결하기 위해, 우리는 타겟 모델에 접근하지 않고 적대적 예제를 생성하는 효율적인 방법인 Q-faker(Query-free Hard Black-box Attacker)를 제안합니다. Q-faker는 타겟 모델에 접근하지 않기 위해 대리 모델(surrogate model)을 사용하며, 이 대리 모델은 타겟 모델을 속일 수 있는 적대적 문장을 생성합니다. 이 과정에서 제어된 생성 기법(controlled generation techniques)을 활용합니다. 우리는 8개의 데이터셋에서 Q-faker를 평가했으며, 실험 결과, Qf-aker가 높은 전이성(transferability)과 높은 품질의 적대적 예제를 생성할 수 있음을 보여주었고, 하드 블랙박스 환경에서의 실용성을 입증했습니다. 이지형 교수: john@skku.edu | 정보 및 지능 시스템 연구실: https://iislab.skku.edu/

일반대학원 인공지능학과

일반대학원 인공지능학과

Notice

News

Schedule

Movie

Link

팝업

팝업

Notice

News

Schedule

Movie

Link