성균관대학교 인공지능대학원

인공지능학과 우사이먼성일 교수 연구실 Dash Lab 2025 Space Challenger 전국 우주동아리 공모전 최종 선정

2025-07-14

인공지능학과 우사이먼성일 교수 연구실 Dash Lab 2025 Space Challenger 전국 우주동아리 공모전 최종 선정 인공지능학과 Dash Lab. 정상준(인공지능학과), 강승준(인공지능학과), 조범상(소프트웨어학과 융합보안트랙), 황현수(소프트웨어학과), 우사이먼성일 교수팀이 한화에어로스페이스와 한화시스템에서 공동 주최한 ‘2025 Space Challenger 우주동아리 지원 공모전’ 위성 분야에서 최종 선정되었다. 성균관대학교 인공지능학과 우사이먼성일 교수 연구실 Dash Lab 소속 연구팀 ‘Space Aero-K’는, 한화에어로스페이스와 한화시스템이 공동 주최한 ‘2025 Space Challenger 우주동아리 지원 공모전’에서 위성 분야 최종 선정팀으로 이름을 올렸다. 이번 공모전은 전국 대학생 및 대학원생 우주 동아리를 대상으로 진행되었으며, 발사체 분야는 한화에어로스페이스가, 위성 분야는 한화시스템이 각각 담당하였다. 총 14개 팀(발사체 8팀, 위성 6팀)이 최종 선정된 가운데, Space Aero-K는 위성 분야 6개 우수 팀 중 하나로 발탁되며 우주 영상 기반 인공지능 분야에서의 기획력과 기술 가능성을 인정받았다. Space Aero-K는 성균관대학교 석사과정생인 정상준(인공지능학과), 강승준(인공지능학과),조범상(소프트웨어학과 융합보안트랙), 황현수(소프트웨어학과)으로 구성된 연구팀으로, 위성 영상 기반 객체 탐지 및 AI 응용 기술을 중심으로 한 분석 기획안을 제시해 높은 평가를 받았다.

최수영(석사), 이재혁(박사과정) 공동 1저자 논문 ACL 2025 Panel 발표 초대

2025-07-14

인공지능학과 박진영 교수님의 HLILab 소속 최수영(석사), 이재혁(박사과정)이 작성한 논문 1편이 자연어처리 분야의 최우수 국제학술대회인 ACL 2025 (“The 63rd Annual Meeting of the Association for Computational Linguistics”)에 게재 승인되었습니다. 논문은 7월 30일 오스트리아 빈에서 Oral & Panel 세션으로 발표할 예정입니다. 특히 Panel 발표는 전체 게재 논문 중 0.8%, 전체 제출 논문 중 0.3%만이 선정되어 초대된 발표 형태로 높은 퀄리티의 논문임을 인정 받았습니다. 제목 : “Unintended Harms of Value-Aligned LLMs: Psychological and Empirical Insights” 저자: 최수영*(인공지능학과 석사), 이재혁*(인공지능학과 박사과정), Xiaoyuan Yi(Microsoft Research Asia), Jing Yao(Microsoft Research Asia), Xing Xie(Microsoft Research Asia), 박진영(인공지능학과 부교수) (*공동 1저자) 이 연구는 거대언어모델(LLMs)에 인간의 가치관을 정렬시키는 과정에서 발생할 수 있는 의도하지 않은 위험성을 발견하고, 이에 대한 심리학적 이론 기반의 분석을 수행하였습니다. 특히, 지나치게 정렬된 가치관이 오히려 부작용을 초래할 수 있음을 실증적으로 보여주며, 이러한 위험을 완화할 수 있는 가치 정렬의 유연화 전략을 제안합니다. 본 연구는 LLMs의 가치 정렬 문제가 단순한 기술적 과제를 넘어, 심리학적/사회적 관점에서도 깊이 있는 논의가 필요함을 강조하며, 인공지능의 책임 있는 개발과 활용에 중요한 시사점을 제공합니다. Abstract: The application scope of Large Language Models (LLMs) continues to expand, leading to increasing interest in personalized LLMs that align with human values. However, aligning these models with individual values raises significant safety concerns, as certain values may correlate with harmful information. In this paper, we identify specific safety risks associated with value-aligned LLMs and investigate the psychological principles behind these challenges. Our findings reveal two key insights. (1) Value-aligned LLMs are more prone to harmful behavior compared to non-fine-tuned models and exhibit slightly higher risks in traditional safety evaluations than other fine-tuned models. (2) These safety issues arise because value-aligned LLMs genuinely generate text according to the aligned values, which can amplify harmful outcomes. Using a dataset with detailed safety categories, we find significant correlations between value alignment and safety risks, supported by psychological hypotheses. This study offers insights into the "black box" of value alignment and proposes in-context alignment methods to enhance the safety of value-aligned LLMs.

김유성 교수팀-SK인천석유화학, 정유공장에 AI 자동제어 기술 세계 최초 적용

2025-06-25

김유성 교수팀-SK인천석유화학, 정유공장에 AI 자동제어 기술 세계 최초 적용 - Air Fan Cooler Louver 자동제어로 압력 정밀도 12.8% 향상

[수상 소식] 김현진 학생, Star of Tomorrow Internship Program 선정

2025-05-21

인공지능학과 박진영 교수님의 HLILab 소속 김현진 학생이 2025년 5월, Star of Tomorrow Internship Program에 선정되는 영예를 안았습니다. 김현진 학생은 2024년 9월부터 2025년 3월까지 Microsoft Research Asia에서 인턴십을 수행하며 우수한 연구 역량을 인정받아 본 프로그램에 선정되었습니다. 본 프로그램은 미래의 연구 리더로 성장할 잠재력을 지닌 인턴에게 수여되는 명예로운 상입니다. 김현진 학생의 뛰어난 성과를 진심으로 축하드리며, 앞으로의 연구 활동에도 큰 성취가 함께하길 기원합니다.

S	M	T	W	T	F	S
		1	2	3	4	5
6	7	8	9	10	11	12
13	14	15	16	17	18	19
20	21	22	23	24	25	26
27	28	29	30	31

S	M	T	W	T	F	S
		1	2	3	4	5
6	7	8	9	10	11	12
13	14	15	16	17	18	19
20	21	22	23	24	25	26
27	28	29	30	31

일반대학원 인공지능학과

일반대학원 인공지능학과

Notice

News

Schedule

Movie

Link