-
If you can concentrate always on the present, you'll be a happy man.
-
Forget about failure. But we must never forget the lessons it has taught us.
-
A person who draws a dream for a long time finally resembles the dream.
대규모 언어모델의 비밀, ChatGPT는 무엇을 학습하고 어떻게 답변을 만들까?
ChatGPT에게 질문을 입력하면 몇 초 안에 자연스러운 답변이 나옵니다.그런데 가만히 생각해 보면 상당히 이상한 일입니다.컴퓨터 화면에 문장을 입력했을 뿐인데 AI는 질문의 의미를 파악한 것처럼 답변하고,긴 글을 요약하고, 번역하고, 코드를 작성합니다. 그렇다면 ChatGPT는 도대체 무엇을 배운 것일까요?수많은 책과 웹페이지를 그대로 외워놓은 것일까요?아니면 인간처럼 문장을 읽고 이해하는 것일까요? 그리고 AI가 답변을 만들어내는 순간 컴퓨터 내부에서는 실제로 어떤 일이 일어날까요?이 질문을 이해하기 위해서는 대규모 언어모델(LLM), 토큰, 파라미터, 사전학습, 파인튜닝, 추론이라는 몇 가지 핵심 개념을 알아야 합니다.오늘은 기술 용어를 최대한 어렵지 않게 풀어서, 우리가 매일 사용하는 생성형 A..
2026. 8. 28.