초거대 언어 모델이 교육에 미치는 영향과 활용 방안을 다룬다. LLM이 개인 맞춤형 학습, 자기주도 학습을 실현하는 데 어떻게 기여할 수 있는지 설명하며 교사와 학생이 이를 활용하는 방법을 제시한다. 국어와 영어 교육에서 LLM의 구체적 활용 예를 소개하고 교육적 해로움 없이 LLM을 사용하는 방향을 모색한다.

모델의 구조를 이해하고, 정확하고 신뢰할 수 있는 생성형 AI 시스템 설계법. LLM 상용화가 가속화되면서 정확성, 신뢰성, 확장성을 갖춘 프로덕션 수준의 구현 역량이 핵심 기술로 자리 잡고 있다. 이제 개발자는 LLM 전체 기술 스택에 대한 구조적 이해를 갖춰야 한다. 이 책은 생성형 AI의 핵심 개념부터 시스템 구축과 배포까지의 흐름을 체계적으로 안내하며, 트랜스포머 기반 모델의 작동 원리, 다양한 프롬프트 전략, RAG 설계, 파인튜닝 기법, 랭체인과 라마인덱스 등의 프레임워크 활용까지 폭넓게 다룬다. LLM 기술을 개념부터 응용까지 유기적으로 연결해 배우고자 하는 개발자에게 길잡이가 되어줄 것이다.

AI와 머신러닝의 발전으로 거대 언어 모델(LLM)에 대한 관심은 급증했지만, 높은 비용 때문에 수많은 기업이 도입을 주저하고 있다. 이 책은 적은 비용으로 LLM을 구축하고 배포하는 효율적인 접근법을 소개한다. 모델 선택, 프롬프트 엔지니어링, 파인튜닝, 배포의 각 단계에서 성능 저하를 최소화 하면서 비용을 효과적으로 최소화하는 방법을 만나 보자.

검색 시스템이나 AI 에이전트와 같은 생성형 AI 애플리케이션 구현에 필요한 실용적이고 기술적인 지식을 제공한다. 모델 양자화, 스케일링 등의 추론 최적화 기법과 인프라 비용 절감 방법을 탐구하여 생성형 AI 서비스의 경쟁력을 강화해 보자.

International Journal of Educational Technology in Higher Education

Journal of High Energy Physics

Springer Berlin Heidelberg / Journal of High Energy Physics

본 교과목은 단순히 기존의 가속기를 활용하는 수준을 넘어, 차세대 AI 반도체 분야의 창업 및 핵심 개발에 필요한 맞춤형 AI 추론 엔진 개발 능력을 배양하는 것을 목표로 한다. 이를 위해 최첨단 설계 방법론인‘알고리즘-소프트웨어-하드웨어 통합 설계(Co-design)'에 대한 깊이 있는 이론과 실전 경험을 제공한다. 수강생들은 GPU와 같은 범용 하드웨어의 한계를 이해하고, 특정 LLM 알고리즘에 최적화된 하드웨어를 직접 설계함으로써 전력, 비용, 속도 측면에서 압도적인 경쟁력을 갖춘 엣지 AI 솔루션을 구현하는 방법을 학습한다. 특히, 최신 경량화 기술인 저비트 양자화(Low-bit Quantization) 기법을 알고리즘 단계에서 적용하고, 이를 C++ 기반의 고수준 합성(High-Level Synthesis, HLS)을 통해 FPGA 상에 하드웨어 로직으로 구현하는 전 과정을 실습한다. 최종적으로는 SoC(System on Chip) 환경에서 프로세서(PS)와 프로그래머블 로직(PL)을 연동하여 완전한 LLM 추론 가속 시스템을 구축하는 프로젝트를 통해, 아이디어를 실제 하드웨어 프로토타입으로 구현하는 역량을 완성한다.

본 교과목은 단순히 기존의 가속기를 활용하는 수준을 넘어, 차세대 AI 반도체 분야의 창업 및 핵심 개발에 필요한 맞춤형 AI 추론 엔진 개발 능력을 배양하는 것을 목표로 한다. 이를 위해 최첨단 설계 방법론인‘알고리즘-소프트웨어-하드웨어 통합 설계(Co-design)'에 대한 깊이 있는 이론과 실전 경험을 제공한다. 수강생들은 GPU와 같은 범용 하드웨어의 한계를 이해하고, 특정 LLM 알고리즘에 최적화된 하드웨어를 직접 설계함으로써 전력, 비용, 속도 측면에서 압도적인 경쟁력을 갖춘 엣지 AI 솔루션을 구현하는 방법을 학습한다. 특히, 최신 경량화 기술인 저비트 양자화(Low-bit Quantization) 기법을 알고리즘 단계에서 적용하고, 이를 C++ 기반의 고수준 합성(High-Level Synthesis, HLS)을 통해 FPGA 상에 하드웨어 로직으로 구현하는 전 과정을 실습한다. 최종적으로는 SoC(System on Chip) 환경에서 프로세서(PS)와 프로그래머블 로직(PL)을 연동하여 완전한 LLM 추론 가속 시스템을 구축하는 프로젝트를 통해, 아이디어를 실제 하드웨어 프로토타입으로 구현하는 역량을 완성한다.

이 과목은 대규모 언어모델(Large Language Model; 이하 LLM)이 언어 연구 방법론에 가져온 주요 변화를 중심으로 자연어처리의 이론적 기반과 방법론을 학습하고, LLM의 본질적 특성을 이해함으로써 LLM을 활용한 새로운 언어 연구 방법을 탐색하는 것을 목적으로 한다. 이를 위해 프롬프트 학습, 파인튜닝, 다언어 모델, 텍스트 생성 및 멀티모달 모델 등 최신 자연어처리 기술을 살피고, 구문, 의미, 담화, 정서 분석 등 언어학의 주요 연구 영역을 전통적 접근과 LLM 기반 접근으로 비교한다. 또한, LLM의 언어능력, 의미 이해, 화용론적 한계에 관한 학문적 논쟁을 검토하여 언어 연구에서의 가능성과 제약을 비판적으로 고찰한다. 이를 통해 LLM 시대에 적합한 새로운 언어 연구 방법론을 습득하고, 인간의 언어 능력과 기계의 언어 처리의 차이에 대해 성찰할 수 있는 소양을 기를 수 있다.