연사 소개
Session 1 AI반도체 설계 고도화
정윤석 전략총괄
리벨리온
X

정윤석 전략총괄
리벨리온

생성형 AI 시대 확산을 위한 필수재인 AI 전용 칩, 그리고 리벨리온의 성공 방정식
발표 요약
생성형 AI 모델은 특이점을 넘어 대부분의 인간의 업무를 대체하며 향후 인류 역사상 가장 큰 발명품이 될 것이다.
반면 생성형 AI의 대중화를 위해서는 (1) 특정 업무에 대해 인간 대비 생산성을 극대화하고 (“빠른 계산 속도”) 또한 (2) 이를 인간 대비 훨씬 더 값싸게 end user에게 제공하는 것이 (“저렴한 계산 비용”), 향후 반드시 해결해야 할 것으로 전망된다.
이번 발표를 통해 생성형 AI를 지탱하는 후방 반도체 가치사슬 내 리벨리온의 칩렛 HW 개발 전략과 전방 생성형 AI 개발 시장 내 에코시스템 구축을 위한 SW 확장 전략을 공유하려고 한다.
연사 약력
  • 리벨리온 CSO(최고전략책임자)
  • 베인앤컴퍼니 이사
  • 초과학연구원 RNA 연구단 선임연구원
  • 하버드대학교 응용물리학 박사
  • 하버드대학교 통계학 석사
  • 서울대학교 전기컴퓨터공학부 학사
유민수 부교수
한국과학기술원
X

유민수 부교수
한국과학기술원

uPIMulator: A Fast and Flexible Simulation Framework for General Purpose PIM Architectures
발표 요약
Processing-in-memory (PIM) has been explored for decades by computer system designers, yet it has never seen the light of day in real-world products due to their high design overheads and lack of a killer application. With the advent of critical memory-intensive workloads, several commercial PIM technologies have been introduced to the market ranging from domain-specific PIM architectures to more general-purpose PIM architectures. In this talk, I will introduce uPIMulator, an open-source simulation framework my research group has developed which targets industry’s first commercial, general purpose PIM architecture. Using uPIMulator, I will present some of the characterization we conducted on wide range of real-world PIM programs and showcase uPIMulator’s applicability for exploring some critical research areas that require further investigation from computer system designers.
연사 약력
  • Meta, Visiting Research Scientist, 2022-2023
  • NVIDIA Research, Senior Research Scientist, 2014-2017
  • 박사: University of Texas at Austin, Ph.D., Computer Engineering, 2014
  • 석사: KAIST, M.S., Electrical Engineering, 2009
  • 학사: 서강대학교, B.E., Electronic Engineering, 2007
이재진 실장
한국전자통신연구원
X

이재진 실장
한국전자통신연구원

아날로그 뉴로모픽 반도체 기술
발표 요약
인간의 뇌 구조와 동작 원리를 모방한 뉴로모픽 반도체 기술은 기존 인공지능 반도체의 성능 및 전력 한계를 극복할 수 있는 차세대 반도체 기술로 주목받고 있으며, “24년 Gartner 신기술 및 트렌드 임팩트 레이더”는 향후 3~8년을 뒤흔들 핵심 신기술 중 하나로 뉴로모픽 컴퓨팅 기술을 제시하고 있다.
뉴로모픽 반도체 기술을 선도하고 있는 인텔은 디지털 방식으로 구현한 뉴로모픽 반도체인 로이히2를 개발하여, 상용화보다는 잠재적인 뉴로모픽 응용 분야 발굴에 집중하고 있다. 본 발표에서는, 차세대지능형반도체기술개발 사업을 통해 개발된 비동기 아날로그 뉴로모픽 반도체인 NSP(Neural Spikie Processor) 설계 기술과 NSP를 활용한 복합생체인증 시제품을 소개한다.
연사 약력
  • 한국전자통신연구원 지능형엣지반도체연구실 실장 (2007.2 ~ 현재)
  • 과학기술연합대학원(UST) 전임교원 (2015.9 ~ 2022,8)
  • 충북대학교 컴퓨터공학과 박사 (2007.2)
  • 충북대학교 컴퓨터공학과 석사 (2003.2)
  • 충북대학교 컴퓨터공학과 학사 (2000.2)
Session 2 AI반도체 생태계 확산
이병묵 수석
정보통신산업진흥원
X

이병묵 수석
정보통신산업진흥원

AI반도체 실증 등 사업화 지원 성과 및 향후계획
발표 요약
초기 시장 수요 상태인 국내 AI반도체의 산업현장, 공공분야 등 생태계 현장 적용 확산을 위해, 국산 AI반도체의 국내·외 현장 실증 적용 지원, 인재공급플랫폼구축운영과 AI반도체 생태계의 소통협력과 신규 수요발굴을 위해 협의체를 운영중

국산 AI반도체를 활용하여 초저전력, 고성능 AI 연산이 가능한 상용 데이터센터 구축과 AI 응용서비스 실증을 통하여, 국산 AI반도체의 시장수요 조기창출 및 국내 클라우드 경쟁력 강화하고자 하는 AI반도체 Farm구축 사업운영중(23년~25년),
지원대상은 AI반도체 기업, AI서비스·제품 개발기업, 연구소, 대학 등 국산 AI반도체를 활용한 AI응용 서비스·제품 개발 및 실증을 지원하는 AI반도체 응용실증지원사업 진행 중(25년도에 신규 5개 과제 추진 예정)

온디바이스AI 분야 지자체 협업 국산 AI반도체 기반 온디바이스AI대규모 실증 지원사업을 25년도부터 신규 진행 예정(3개 과제 예정)

AI반도체 및 AI서비스 기업의 동반 해외진출을 위해 ‘AI반도체 + 서버/엣지 + AI모델’을 패키징化하여 국산 AI반도체의 해외수요처 맞춤형 해외실증 지원(25년도 4개 과제 예정), 국산AI반도체의 초기 해외시장 개척 및 해외 실증 레퍼런스 확보 기대

국내 AI반도체 기업이 당면하고 있는 AI반도체 기술 및 인력난 극복을 위해 국내·외 인재 공급체계를 구축, 기업이 즉시 활용 가능한 인력을 지원하는 AI반도체 기술인재 공급 플랫폼 사업 진행 중,
우수 인재의 채용연계를 희망하는 국내 AI반도체 관련 기업 및 국내·외 AI반도체 분야의 고급인력, 전문가 대상 AI반도체 팹리스, SWㆍHW, 클라우드社, AI모델·서비스기업 등 AI반도체 생태계 가치사슬 간 소통·협력을 강화하고 신규 시장 발굴을 위해 K-클라우드 얼라이언스를 운영, 다양한 분과도 운영하여 신규 과제 발굴 및 주요 이슈 논의
연사 약력
  • 2024년 4월 ~ 정보통신산업진흥원 AI반도체팀
  • 2021년 3월 ~ 정보통신산업진흥원 하노이IT지원센터 파견근무
  • 2017년 1월 ~ 정보통신산업진흥원 글로벌사업본부
  • 2016년 3월 ~ 2018년 2월 숭실대학교 정보과학대학원 겸임교수
  • 2009년 1월 ~ 2016년 12월 구)소프트웨어공학센터 SW공학
  • 1999년 10월~ 구)한국소프트웨어진흥원 SW인재양성/공개SW활성화
  • 성균관대학교 경영학 석사(MBA) (’10)
  • 전남대학교 경영학 학사 (’98)
최재민 팀장
한국정보통신진흥협회
X

최재민 팀장
한국정보통신진흥협회

AI반도체 기술인재공급 플랫폼 성과 및 향후계획
발표 요약
1. 과제 개요
  • 국내 AI반도체 기업이 즉시 활용가능한 AI반도체 분야의 국내·외 고급 기술 인재 공급체계를 구축하는 ‘AI반도체 기술인재 공급 플랫폼 사업’ 추진
2. 주요 과업 결과 및 성과
  • 수요기업 모집·선발지원 및 사무국 운영(수요기업 10개, 참여기업 1개)
  • 국내·외 AI반도체 인재 발굴
    - 반도체 및 관련학과(부)생 대상 홍보, 국내 대학 관련단체 대상 선발대회 참가 안내(6천여 건 이상), 선발대회 관련 홍보 콘텐츠 제작 및 홍보
    - 재외한국과학기술자협회 대상 공문 발송 및 참가의향 설문조사 시행, 해외 공관 및 재외동포청 선발대회 참가 안내 요청 공문 발송
    - 인도 마드라스 대학 LOI 체결(6.5), 협력 네트워크 구축 및 차년도 해외인재 발굴을 위한 캐나다한인과학기술자협회 MOU 체결(11.12)
  • 기술인재 선발대회 평가플랫폼 구축 및 제공
  • 기술인재 선발대회 운영·지원
    - 대회 홍보(7,322 건), 접수결과(190팀, 453명), 39개 팀 선발(9월), 오리엔테이션(9.11), 서포터즈데이(11.5~6), 커리어 부트 캠프(11.28) 개최
    - 최종 발표평가(12.4~6), 심의위원회(12.9), 시상식(12.20), AI반도체 기술인재 성과공유 컨퍼런스(가칭,12.27) 개최 예정
    - 산·학·연 전문가 18인 내외로 대회 운영위원회 조직 및 운영
  • 수요기업-기술인재 채용연계 지원
    - 매칭 프로그램 구축(10월) 및 매칭 프로그램 운영(12월) 예정
    - 참가자 대상 취업역량 향상과 취업 기회 확대를 위해 정보 제공
    - 수요기업 사전 조사를 통해 경연팀 예상 인건비 파악(10월) 및 인건비 지원(’25.1월~)
  • 사업 및 선발대회에 대한 성과·홍보 관리
    - 선발대회 참가자, 채용 대상자, 수요(참여)기업 대상으로 만족도 조사
    - 우수채용사례 발굴하여 성과확산 및 차년도 사업홍보
  • 해외 IT센터 협업(8월)으로 인도 현지 인재 발굴(경연팀 1팀 선발)
3. 향후 추진계획 및 기대효과
  • AI반도체 기술인재 발굴 및 육성
    - 국내외 AI반도체 기술 분야의 우수 인재를 체계적으로 발굴하여 산업계에 공급
    - 참가자에게 실질적인 교육과 멘토링 기회를 제공하여 전문 역량 강화
  • 기술인재와 기업 간 매칭 활성화
  • 국내 AI반도체 산업 경쟁력 강화
    - 인재 공급과 수요기업 연결을 통해 AI반도체 산업 전반의 경쟁력과 성장 가능성 확대
  • 선발대회 운영 및 홍보체계 고도화
    - 대회의 질적 수준을 높이고 공정성과 투명성을 확보한 평가 체계 도입
  • 지속 가능한 협력 네트워크 구축
연사 약력
  • 2024.4.15. 한국정보통신진흥협회 AI신사업추진팀 근무
  • 2024.3.1. 한국정보통시진흥협회 부설 정보통신인증센터 네트워크진흥팀 근무
  • 2022.12.1. 한국정보통신진흥협회 유해정보방지팀 근무
  • 2016.3.7. 한국정보통신진흥협회 통신서비스지원팀 근무
  • 2006.4.1. 한국정보통신진흥협회 근무
  • 2004.02.21. 건국대학교 컴퓨터공학 졸업
  • 1997.2 대진고등학교 졸업
방성식 팀장
정보통신기획평가원
X

방성식 팀장
정보통신기획평가원

AI반도체를 활용한 K-클라우드 기술개발사업 설명회
발표 요약
  • 과기정통부와 IITP에서 진행하는 ICT R&D사업에 대해 개략적인 소개와 25년도 예정된 AI반도체 R&D에 대해 설명
  • AI반도체 R&D는 초격차 기술력 확보를 위한 지원을 지속적으로 지원하고, 25년도 신규로 추진 예정인 K-클라우드기술개발 사업을 통해 AI반도체 기반의 AI컴퓨팅 자원 확보에 필요한 핵심 기술을 개발하고자 함
  • 내년도 AI반도체 분야 전체 예산에 대한 설명과 신규과제에 대해 소개
  • 주요 사업으로는
    - AI반도체를 활용한 K클라우드기술개발 사업
    - PIM인공지능반도체핵심기술개발 사업
    - 차세대지능형반도체기술개발사업
    - 칩렛기반 저전력 온디바이스AI반도체 기술개발
연사 약력
  • 삼성전기 중앙연구소 주임연구원(2003)
  • 정보통신연구진흥원 인재양성단(2003~2009)
  • 정보통신산업진흥원 기금관리단(2009~2015)
  • 정보통신기술진흥센터 기반조성단(2015~2018)
  • 정보통신기획평가원 AI반도체SW단(2019~ )
  • 연세대학교 전기전자공학 석사(2003)
  • 연세대학교 전기공학 학사(1998)
Session 3 초청강연
임준우 부사장
퀄컴코리아
X

임준우 부사장
퀄컴코리아

Enabling Intelligent Computing Everywhere
발표 요약
모든 산업 분야 걸쳐서, 필수 불가결한 기술 요소로서 자리 잡은, 생성형 AI가 더욱 다양한 디바이스를 통해 풍부한 사용자 경험을 제공하기 위해서는 On-device AI와의 상호 보완적인 연동이 필수적이라고 사료된다.
Cloud 기반의 Gen AI 기술의 발전 동향 및 서비스 구현의 경제적 타당성을 고찰한 후, 더욱 효율적이고도 개인화 된 Gen AI 사용자 경험을 제공하기 위해 퀄컴이 제시하는 On-device AI에 관한 비전과 전략을 공유하고자 한다.
연사 약력
  • 2008. 8. ~ 현재 / 퀄컴씨디엠에이테크날러지스 코리아
    - Marketing 총괄
    - 사업개발 총괄
    - Carrier Relation / SI and Eco-system / Emerging Account & 대리점 영업총괄
  • 2007. 8 ~ 2008. 7. / 뉴모닉스 아시아
    - 한국 영업 / 마케팅 총괄
  • 2001. 8 ~ 2007. 7. / 인텔코리아
    - 삼성전자 영업 / 마케팅 총괄
  • 1999. 4 ~ 2001. 7. / 에스티마이크로일렉트로닉스 코리아
    - MCU 마케팅
  • 1993. 2 ~ 1999. 3 / 삼성전자 VD 사업부 선임연구원
  • 2005. 7. / 서강대학교 경영대학원 (경영학석사)
  • 1993. 2 / 경북대학교 대학원 전자공학과 (공학석사)
  • 1991. 2 / 경북대학교 공과대학 전자공학과 (공학사)
박봉일 상무
삼성전자
X

박봉일 상무
삼성전자

Everywhere AI device
발표 요약
AI의 활용은 이미 우리의 실생활 전반에 확대되고 있으며, Generative AI를 넘어서 Agentic AI 시대로 변화하고 있습니다. 이를 위한 산업체 전반의 관심이 집중되고 있으며, 이를 위한 연구가 활발히 진행되고 있습니다.
이를 위한 반도체 업체 분야에서 벌어지고 있는 변화를 살펴보고, on-device AI의 필요성 및 관련 기술에 대해서 언급하고자 합니다.
특히, 전용 DRAM을 활용한 고성능 AI SOC, 데이터 압축 기법 및 전용 연산기를 통한 저전력 구현, 관련 소프트웨어 기술을 소개합니다.
마지막으로, on-device AI가 다양한 영역에 활용되고 향후 NPU 중심의 SOC에 대해서 언급합니다.
연사 약력
  • 2024: 삼성전자 S.LSI AI-SOC P/J
  • 2022 ~ 2023: 삼성전자 S.LSI PE 팀장
  • 2017 ~ 2022: Custom SOC 개발
  • 2012.02~2013.02 UCSD Visiting Scholar
  • 2004 삼성전자 S.LSI 입사 (AP 개발팀)
  • 2002 KAIST Ph.D.
  • 1996 KAIST M.S.
  • 1994 KAIST B.S.
Session 4 AI반도체 응용/활용현황
박배성 리더
네이버클라우드
X

박배성 리더
네이버클라우드

AI 반도체와 LLM 인퍼런스 최적화
발표 요약
LLM(GPT)은 대규모 데이터를 기반으로 다양한 언어 작업을 수행하는 강력한 도구이지만, 그 과정에서 막대한 계산 자원과 비용이 요구됩니다. 특히, LLM 서비스를 성공적으로 제공하려면 하드웨어에 대한 깊은 이해와 최적화가 핵심입니다.
LLM의 성능은 GPU, TPU와 같은 고성능 연산 장치의 처리 능력에 크게 의존합니다. 모델의 크기와 복잡성은 하드웨어의 메모리 용량, 연산 속도, 대역폭에 직접적인 영향을 미치며, 이러한 하드웨어 선택은 서비스 비용과 효율성을 결정짓는 중요한 요소입니다.
LLM 서비스를 성공적으로 운영하기 위해서는 단순히 모델 개발에 그치지 않고, 하드웨어의 특성을 기반으로 최적화를 설계해야 합니다. 이를 통해 LLM 서비스는 더 빠른 응답 시간과 낮은 운영 비용으로 사용자 요구를 효과적으로 충족할 수 있습니다.
더 나아가, LLM 서비스는 AI 반도체 설계와 함께 고민되어야 하며, 하드웨어와 소프트웨어가 상호 보완적으로 발전할 수 있는 전략적 접근이 필요합니다. 하드웨어 설계는 단순히 반도체의 성능에 초점을 맞추는 것을 넘어, LLM의 특성을 고려한 최적화로 발전해야만 합니다. 이를 통해 LLM 서비스는 기술적 우위를 확보하고, 시장 경쟁력에서 앞서나갈 수 있습니다.
본 발표에서는 LLM 서비스의 입장에서 하드웨어를 분석하여 엔비디아가 시장을 독점할 수 있었던 이유를 살펴보고, 이를 따라잡기 위한 방안을 모색할 것입니다. 또한, 현재 LLM 소프트웨어 생태계의 변화를 이해하고, 앞으로 우리가 집중해야 할 목표와 방향성에 대해 다룰 예정입니다. 마지막으로, LLM 서비스를 운영하는 관점에서 최적화와 비용 효율성을 극대화하는 방법에 대해 논의할 것입니다.
연사 약력
  • 네이버클라우드 Leader
  • 네이버 Research Engineer
  • 삼성리서치 연구원
  • 충북대학교 전자공학부
최정규 상무
LG AI 연구원
X

최정규 상무
LG AI 연구원

EXAONE: Driving the future of AI Innovation
발표 요약
EXAONE(Expert AI for Everyone)은 LG그룹에서 개발하고 있는 초거대 AI로 비지니스 환경에서의 활용을 목적으로 하는 전문가 AI를 지향하고 있다.
EXAONE은 2021년 첫 발표를 시작으로 올해 8월 EXAONE 3.0에 이어 12월에 EXAONE 3.5를 발표하였고 동급 사이즈의 LLM중에 Global 수준의 성능과 효율성을 보유한 모델이다.
EXAONE3.5의 특징은 사용자의 다양한 Instruction을 이해하여 실행하고 RAG(Retreival Augmented Generation)와 Long context 처리 분야에서 우수한 성능을 보이는 등 실제 적용 분야에 포커싱하여 개발되었고 2.4B(On-device용), 7.8B(범용), 32B(고성능용)의 라인업으로 구성되었다.
본 발표에서는 EXAONE을 활용한 LG계열사와의 다양한 비지니스 적용 사례를 소개하고 또한 Enterprise AI Agent인 ChatEXAONE 서비스에 대해 소개할 예정이다.
연사 약력
  • LG AI연구원 Language 랩장/Multimodal AI 그룹장
  • 과학기술정보통신부 인공지능 예타 총괄 위원
  • Google Cloud AI Technical Advisory Council
  • LG AI 대학원 교수
  • LG전자 인공지능연구소 연구위원
  • KAIST 정보통신공학 박사 수료
  • KAIST 정보통신공학 석사 졸업
  • 연세대학교 전기공학 학사 졸업
전병욱 연구위원
현대자동차
X

전병욱 연구위원
현대자동차

미래 모빌리티를 향한 온디바이스 AI의 새로운 도전과 기회
발표 요약
미래 모빌리티는 이른바 M.E.C.A.(Mobility, Electrification, Connectivity, Autonomous Driving)를 중심으로 진화하고 있으며, 이를 견인하는 핵심 원동력은 반도체와 소프트웨어 기술이라고 해도 과언이 아니다. 특히 AI 기술은 이러한 진화를 가속화하는 데 중요한 역할을 하고 있다.
미래 자동차 기술의 메가트렌드는 '지능'과 '동력'의 변화로 요약할 수 있다. 이 때 지능화가 구현되는 과정에서 차량에 탑재되는 온디바이스 AI 기술은 매우 큰 비중을 차지할 것으로 전망된다.
온디바이스 AI는 클라우드 기반 AI와 비교하여 통신 지연 없는 안정적인 실시간 추론 품질을 보장하고, 운영 비용 절감과 더불어 사용자의 개인정보를 원천적으로 보호할 수 있는 등 여러 장점을 제공한다. 이러한 특징 덕분에 글로벌 주요 기관들은 온디바이스 AI를 근 미래 우리 사회에 가장 큰 변화를 가져올 중요한 혁신 기술 중 하나로 평가하고 있다.
모빌리티 분야에서 온디바이스 AI를 통해 추구하는 기술적 목표는 다양하다. 개인화된 사용성 제공, 주행 에너지 소모 절감, 고장 및 품질 강건성 향상, 그리고 탑승자의 안전과 편의 개선 등이 주요 목표라고 할 수 있다. 그러나 이러한 목표를 달성하는 데에는 많은 기술적 도전 과제가 도사리고 있다. 우선, 물리적 경계 조건을 반영해 인지, 판단, 제어의 3단계를 유기적으로 통합 구현할 수 있는 E2E(End-to-End), Physics-fusion AI 모델 등의 고도화된 개발 역량과 자원이 요구된다. 이와 더불어, AI 모델의 초경량화 압축 기술, 저전력 디바이스에 대한 AI 임베딩 기술, 그리고 추론 신뢰성을 담보하는 AI 안전 기술 등이 반드시 해결되어야 할 주요 과제이다.
이번 발표에서는 미래 모빌리티에 온디바이스 AI를 도입하는 과정에서 우리가 직면하게 될 기술적 도전과 이를 극복하기 위한 해결 방안을 모색하고자 한다. 더불어, 온디바이스 AI를 통해 지능화된 미래 스마트 모빌리티가 창출할 새로운 기회를 탐색하고, 이를 실현하기 위한 기술 개발 전략을 논의하고자 한다.
연사 약력
  • 2024 현재 : 현대자동차 연구위원
    한국자동차공학회 회장
    한국과학기술단체총연합회 이사
  • 2011 : 미국 University of Michigan 방문연구원
  • 1992 : 현대자동차 중앙연구소 입사
  • 1992 : 한양대학교 대학원 정밀기계공학과 석사
  • 1990 : 한양대학교 기계공학과 학사