인하대·포항공대·삼성전자 연구팀, 

반도체 웨이퍼 불균일도 예측 AI 모델 개발

- 적은 데이터로도 높은 예측 정확도 구현

- 반도체 공정 최적화·수율 향상 활용 기대

인하대학교(총장 조명우)는 기계공학과 이상승 교수 연구팀이 포항공과대학교 유동현 교수 연구팀, 삼성전자 반도체연구소와 공동으로 반도체 웨이퍼 표면의 증착 불균일도를 소량의 데이터만으로 예측할 수 있는 인공지능(AI) 모델을 개발했다고 20일 밝혔다.

반도체 화학기상증착(CVD·Chemical Vapor Deposition) 공정에서 웨이퍼 표면에 물질이 얼마나 균일하게 증착되는지를 예측하는 AI 모델 ‘소프트-체르니케 신경망(Soft-Zernike Neural Network·SZNN)’

이번 연구는 인하대 장재원 기계공학과 석사과정 학생이 제1저자로 참여했으며, 연구팀은 반도체 화학기상증착(CVD·Chemical Vapor Deposition) 공정에서 웨이퍼 표면에 물질이 얼마나 균일하게 증착되는지를 예측하는 AI 모델 ‘소프트-체르니케 신경망(Soft-Zernike Neural Network·SZNN)’을 개발했다.

반도체 제조 공정에서는 웨이퍼 표면에 물질이 균일하게 형성돼야 제품 성능과 수율(제품 완성률)을 안정적으로 유지할 수 있다. 하지만 기존 전산유체역학(CFD·Computational Fluid Dynamics) 기반 시뮬레이션은 정확도가 높은 대신 계산 시간이 오래 걸려 실시간 공정 최적화에 한계가 있었다.

이를 보완하기 위해 데이터 기반 딥러닝 모델이 활용돼 왔지만, 반도체 공정은 대규모 학습 데이터를 확보하기 어려워 데이터가 부족한 환경에서는 정확도가 떨어지거나 비현실적인 결과가 나타나는 문제가 있었다.

연구팀은 이러한 한계를 해결하기 위해 광학 분야에서 표면 변형 패턴 분석에 활용되는 ‘체르니케(Zernike) 함수’를 적용했다.

먼저 체르니케 기반 모델이 웨이퍼의 전체적인 형태를 예측하고, 이를 바탕으로 딥러닝 모델이 세부 패턴을 정교하게 보완하는 구조로 설계됐다. 기존 딥러닝 방식과 달리 물리 기반 정보를 함께 반영해 다양한 생성형 AI 모델과 유연하게 결합할 수 있도록 했다. 이를 통해 적은 데이터만으로도 안정적이고 정확한 예측이 가능하도록 했다.

실험 결과, 연구팀이 개발한 모델은 기존 신경망 모델보다 예측 정확도와 학습 안정성이 모두 향상된 것으로 나타났다. 특히 데이터가 매우 적은 환경에서 성능 개선 효과가 두드러졌으며, 추가 학습 시간도 수 초 수준에 불과해 계산 비용 부담도 크지 않았다.

연구팀은 공정 조건과 웨이퍼 형태 간의 관계를 한눈에 파악할 수 있는 ‘공정-체르니케 스티어링 맵’도 함께 제시했다. 이를 통해 가스 유량·배출구 위치 등 공정 조건이 웨이퍼 표면 변화와 어떻게 연결되는지 확인했으며, 이러한 관계가 물리적으로도 타당함을 확인했다.

이번 연구는 AI가 단순히 데이터를 학습하는 수준을 넘어 반도체 공정의 물리적 특성까지 반영할 수 있음을 보여준 사례로 평가된다. 연구팀은 이번 기술이 향후 반도체 공정 진단·최적화와 생산 효율 향상에 활용될 수 있을 것으로 기대하고 있다.

이상승 인하대 기계공학과 교수는 “이번 연구는 물리 기반 정보를 AI에 함께 적용해 적은 데이터 환경에서도 안정적이고 신뢰도 높은 예측이 가능하도록 한 사례”라며 “반도체 공정 최적화와 생산 효율 향상에 도움이 될 것으로 기대한다”고 말했다.

한편, 이번 연구 성과는 인공지능 분야 국제 저명 학술지인 ‘Engineering Applications of Artificial Intelligence(EAAI)’에 최근 게재됐으며, 삼성전자와 한국에너지기술평가원(KETEP), 환경부의 지원을 받아 수행됐다.